Zukunftsapodiktionen

Hin­weis:

Das fol­gen­de Inter­view ist eine Fik­ti­on. Eine ein­sei­ti­ge Fik­ti­on, in die jede gut­mei­nen­de Kraft des heu­ti­gen Net­zes – etwas Bos­haf­tig­keit vor­aus­ge­setzt – inte­griert wer­den kann. Der Gegen­text exis­tiert auch schon in mei­nem Kopf, klingt aber bei Wei­tem nicht so rea­lis­tisch :o)…

 

Erst­ma­lig ist es Repor­tern der Hau­te Dai­ly gelun­gen, Eric Bald­win, CEO des Inter­net­mo­no­po­lis­ten „Event Hori­zon Inc.“ zu einem Inter­view anläss­lich der Imple­men­tie­rung des Ethik­ra­tes inner­halb des Unter­neh­mens zu bewe­gen. Details zu die­sem Rat wur­den durch den Whist­le­b­lower Peter Foo­ma­tic im Ver­lauf des letz­ten Jah­res bekannt.

HD: Herr Bald­win, wie kam es zu der Ein­set­zung es Ethik­ra­tes bzw. über­haupt zu der Idee, tech­no­lo­gi­sche Inno­va­ti­on durch Phi­lo­so­phen, Rechts­ge­lehr­te und Volks­wir­te beglei­ten bzw. die spä­te­re Umset­zung selbst von ethi­schen Kate­go­rien abhän­gig zu machen?

EB: Dazu müss­te man weit in die Geschich­te des Inter­nets zurück­ge­hen, die ja auch Teil der Geschich­te unse­res Unter­neh­mens ist. Im Grun­de genom­men ist der Ethik­rat Aus­druck einer Arro­ganz. Ver­kürzt dar­ge­stellt wol­len wir den Nut­zer vor sich selbst schützen.

HD: Das bedarf jetzt aber einer Erläu­te­rung, Herr Baldwin!

EB: Wir gehen ein­mal in die Jah­re 2008–2018 zurück, also in eine Zeit, in der der Peach­kon­zern noch selbst­stän­di­ge Akti­en­ge­sell­schaft war, bevor er schließ­lich in unse­rem Kon­sor­ti­um auf­ging. Peach ist es gelun­gen, einen fun­da­men­ta­len Bedarf in der Bevöl­ke­rung zu decken, der sich in den Jah­ren zuvor in der Aus­ein­an­der­set­zung mit dem Betriebs­sys­tem „Weich­fens­ter“ ent­wi­ckelt hat­te: Tech­nik als Geg­ner und Zeit­fres­ser, der User als stän­di­ger Ver­lie­rer. Vor allem letz­te­res hat­te immense psy­cho­lo­gi­sche Kon­se­quen­zen: Nie­mand steht ger­ne hilf­los da, das Beloh­nungs­sys­tem unse­res Gehirns braucht Erfolgs­er­leb­nis­se. Mit Peach­pro­duk­ten waren auf ein­mal die­se Erfolgs­er­leb­nis­se wie­der da: Man konn­te Daten über meh­re­re Gerä­te hin­weg syn­chro­ni­sie­ren, man konn­te Medi­en auf ein­fa­che Art und Wei­se an fast jedem Ort kon­su­mie­ren, man konn­te sein Zeit effek­ti­ver gestal­ten durch z.B. eine funk­tio­nie­ren­de Ter­min­ver­wal­tung und Bün­de­lung der Kom­mu­ni­ka­ti­ons­we­ge – man konn­te über­haupt „sein Netz“ über­all hin mit­neh­men – das pTalk, ers­tes SMART­Phone sei­ner Art,  hat die Welt ver­än­dert: Ergo man war in sei­ner Wahr­neh­mung tech­nisch wie­der kom­pe­tent und zahl­te dafür auch gerne.

HD: Ein pro­fi­ta­bles Geschäfts­mo­dell, das im Wesent­li­chen auf Nied­rig­lohn­po­li­tik in Asi­en basier­te, qua­si eine moder­ne Form des Koloniallismus.

EB: Nen­nen Sie mir eine Fir­ma, die die­ses Prin­zip in die­ser Peri­ode nicht ver­folgt hat. Die Anfor­de­run­gen des Mark­tes waren halt so. Es ging nicht um eine lan­ge Nut­zungs­dau­er oder Nach­hal­tig­keit der Gerä­te. Spe­zi­ell Peach­ge­rä­te wie­sen zwar eine lan­ge Lebens­dau­er auf, jedoch woll­ten die Nut­zer immer etwas Neu­es, was kur­ze Inno­va­tions- und Pro­duk­ti­ons­zy­klen erfor­der­te, damit das Unter­neh­men wirt­schaft­lich wach­sen und die Ansprü­che sei­ner Aktio­nä­re bedie­nen konn­te. Also war das pri­mä­re Ziel Wirt­schaft­lich­keit, hier ins­be­son­de­re in Form hoher Mar­gen. Wei­ter­hin war es Stra­te­gie, die Kun­den an das eige­ne Öko­sys­tem zu bin­den, wie es Sear­chie­gi­gant schon etwas län­ger vor­mach­te. Den Kun­den mach­te das wenig aus, da das Gan­ze bei Peach­ge­rä­ten eben ein­fach funk­tio­nier­te und bei Sear­chie­gi­gant eben tech­nisch leis­tungs­fä­hig und kos­ten­los war.

HD: Also eine Befrei­ung durch tech­no­lo­gi­sche Innovation. 

EB: Ja und nein. Die­se Zeit ist Ursprung einer Ent­wick­lung, die wir heu­te kri­tisch sehen. Wir haben her­vor­ra­gend davon gelebt, dass die Nut­zer in der Mehr­zahl tech­nisch weit­ge­hend inkom­pe­tent waren. Sie kön­nen oder wol­len Ihren DSL-Rou­ter nicht kon­fi­gu­rie­ren? Kein Pro­blem, sie bekom­men von uns eine fern­wart­ba­re Black­box. Ihr Betriebs­sys­tem soll ein­fach funk­tio­nie­ren? Ger­ne, wir kon­fi­gu­rie­ren es zen­tral aus der Cloud usw.. So kam es, dass die meis­ten Nut­zer sich zwar auf einer kom­mu­ni­ka­ti­ve Ebe­ne kom­pe­tent im Netz bewe­gen konn­ten, von der Funk­ti­ons­wei­se von Hard- und Soft­ware aber zuneh­mend ent­frem­det wur­den – genau das war das Geschäfts­mo­dell, da wir so Abhän­gig­kei­ten schaf­fen konn­ten, die zu einer Kun­den­bin­dung führten.

HD: Aber es gab doch immer schon kri­ti­sche Stim­men. Vor allen in den dama­li­gen klas­si­schen Print­me­di­en fan­den in den Feuil­le­tons und in zahl­rei­chen Blogs dezi­dier­te Aus­ein­an­der­set­zun­gen mit ihren Geschäfts­prak­ti­ken statt. Wol­len Sie Ihre dama­li­gen Kun­den als inkom­pe­tent darstellen? 

EB: Als tech­no­lo­gisch (das ist eine wich­ti­ge Ein­schrän­kung!) inkom­pe­tent und vor allem naiv, ja. Das klingt hart. Aber aus die­ser Zeit stam­men aber alle Daten, die wir heu­te für die Geschäfts­zwei­ge nut­zen, die für uns die pro­fi­ta­bels­ten sind. Die Ent­wick­lung hin zu neu­en Geschäfts­fel­dern wie dem Ver­si­che­rungs- und dem Kre­dit­we­sen basiert auf Daten, die die Men­schen uns frei­wil­lig gege­ben haben auf Platt­for­men, die sie als inte­gral für ihr Leben emp­fun­den haben und immer noch emp­fin­den. Dabei haben wir anfäng­lich die Algo­rith­men bewusst „dumm“ gestal­tet: Wer z.B. eine Kaf­fee­ma­schi­ne kauf­te, bekam über unse­re Wer­be­netz­wer­ke nur noch Kaf­fee­ma­schi­nen in Wer­be­an­zei­gen ange­prie­sen. Er konn­te dann mit dem Fin­ger auf uns zei­gen und sagen: „Schaut her, was für eine däm­li­che Algo­rith­mik!“ Es war wich­tig, Men­schen die­ses Über­le­gen­heits­ge­fühl gegen­über Tech­nik zu geben, obwohl sie schon längst davon ent­frem­det waren, damit sie uns wei­ter Infor­ma­tio­nen über sich lieferten.

Wir kön­nen heu­te so die ver­läss­lichs­ten Aus­sa­gen zu Kre­dit­wür­dig­keit eines Men­schen machen. Wir wis­sen heu­te über den Lebens­wan­del und damit über mög­li­che gesund­heit­li­che Risi­ken eine Men­ge, sodass wir maß­ge­schnei­der­te Tari­fe anbie­ten kön­nen. Eben­so hel­fen uns die gesam­mel­ten Geo­da­ten von Tablets und Han­dys, um Aus­sa­gen über das Fahr- und Rei­se­ver­hal­ten machen zu kön­nen. Damit zahlt jeder bei uns für sein indi­vi­du­el­les Risi­ko­pro­fil. Im Prin­zip pro­fi­tie­ren die­je­ni­gen davon, die sich mög­lichst risi­ko­arm im Sin­ne unse­rer Algo­rith­mik ver­hal­ten – was für unse­re Ent­wick­lungs­ab­tei­lung hin­sicht­lich der Nach­wuchs­aqui­se zuneh­mend pro­ble­ma­tisch wird – dazu aber spä­ter mehr. Es ging ja um die Nai­vi­tät: Die Nai­vi­tät bestand dar­in zu glau­ben, dass per­sön­li­che Daten für nie­man­den einen Wert besit­zen. Dass dem nicht so ist, wur­de durch die Snow­den-Affä­re zwar über­deut­lich, aber die Kon­se­quenz für die meis­ten Nut­zer wäre gewe­sen, Bequem­lich­kei­ten auf­ge­ben zu müs­sen – und sei es nur die Bequem­lich­keit, die poli­ti­schen Grup­pen nicht aktiv oder pas­siv zu unter­stüt­zen, die uns hät­ten Paro­li bie­ten kön­nen. Das erschien jedoch den meis­ten nicht rea­lis­tisch, ja es ging sogar noch wei­ter: Mah­ner in die­ser Ent­wick­lung wur­den oft als recht­ha­be­risch, bzw. von „oben her­ab“ emp­fun­den. Psy­cho­lo­gisch ver­ständ­lich, da ihnen zu fol­gen bedeu­tet hät­te, Ver­hal­ten ändern zu müs­sen. Für uns lief das so schon ganz gut.

Dabei kam uns zusätz­lich eine Para­do­xie sehr zu pass: Gegen­über dem Staat gab es enor­me Emp­find­lich­kei­ten, wenn die­ser sei­ne Zugriffs­mög­lich­kei­ten erwei­tern woll­te, gegen­über uns nicht. Der Staat muss­te zumin­dest demo­kra­ti­sche Kon­se­quen­zen befürch­ten – im Prin­zip konn­te man Regie­run­gen abwäh­len, wir konn­ten die Infor­ma­ti­ons­strö­me so steu­ern, dass unse­re Begehr­lich­kei­ten und Ver­feh­lun­gen  nicht lan­ge im Fokus der Öffent­lich­keit blie­ben. Mit jeder AGB-Ände­rung im Juris­ten­deutsch konn­ten wir aus­ta­rie­ren, wie weit man gehen konn­te. Das las ja nie­mand und liest es bis heu­te nicht. Die gut gemein­ten staat­li­chen Auf­klä­rungs­pflich­ten kamen uns dabei sehr ent­ge­gen, weil sie die Ver­trags­wer­ke ledig­lich wei­ter aufbliesen.

Der Staat hät­te uns zwar poli­tisch Ein­halt gebie­ten kön­nen, aber das hät­te kaum eine Regie­rung län­ger als eine Legis­la­tur­pe­ri­ode über­lebt. Des­halb der Deal mit den stan­dar­di­sier­ten Schnitt­stel­len wie in den frü­hen Anfän­gen die SINA-Box. Das Staat bekam die Infor­ma­tio­nen, die er mein­te zu brau­chen und ließ im Gegen­zug uns dafür in Ruhe.

HD: Sie leben doch aus­ge­spro­chen gut von der Tak­tik, die Sie da gefah­ren haben. Soll­ten Sie den Nut­ze­rin­nen und Nut­zern nicht dank­bar sein?

EB: Unse­re Natur ist nicht die Dank­bar­keit. Das ist ein wirt­schaft­li­ches Über­le­bens­prin­zip. Und es war kein Plan, son­dern es hat eben so erge­ben, weil es unse­re Natur ist. Und es wäre so nicht mög­lich gewe­sen, wenn wir die Welt für den Nut­zer nicht auch zum Posi­ti­ven gewen­det hät­ten. Der Zugang zu Bil­dung, Kunst und Kul­tur ist durch uns welt­weit für jeder­mann mög­lich gewor­den. Jeder konn­te auf ein­mal ein Sen­der sein und sei­ne Ideen ver­wirk­li­chen – frei­lich blie­ben die meis­ten Kon­su­men­ten. Das ist objek­tiv ein media­ler Wan­del, der ohne Wei­te­res mit dem des Buch­drucks ergleich­bar ist. Dabei haben wir nie zwi­schen gro­ßen und klei­nen Play­ern unter­schie­den, son­dern vor allem unse­re Such­al­go­rith­men nach qua­li­ta­ti­ven, mög­lichst neu­tra­len Gesichts­punk­ten gestal­tet. Wer kei­ne Qua­li­tät in unse­rem Sin­ne bie­ten konn­te, muss­te sich eben hoch­kau­fen, indem er uns direkt Geld bezahl­te oder sein Glück mit SEO-Agen­tu­ren ver­such­te, mit denen wir uns immer ein Ren­nen lie­fer­ten, was für die SEOs schluss­end­lich nicht zu gewin­nen war. Das merk­ten die Kun­den dann und zahl­ten gleich direkt an uns.

Tak­ti­ken gab es aber auch: So such­ten wir uns gezielt Per­so­nen, die in den sozia­len Netz­wer­ken über einen hohen Repu­ta­ti­ons­grad ver­füg­ten, um vor­geb­lich kri­ti­sche Mei­nun­gen zu streu­en, die aber letzt­lich in unse­rem Sin­ne waren. Die Idee kam dabei von Agen­tu­ren, die über ein­ge­kauf­te Agen­ten Pro­dukt­be­wer­tun­gen plat­zier­ten. Wir muss­ten ler­nen, wie die­se Bewer­tun­gen zu for­mu­lie­ren waren, damit sie als authen­tisch akt­zep­tiert wur­den. So lie­ßen sich auch Waren­strö­me steu­ern und Über­ka­pa­zi­tä­ten viel geschick­ter nut­zen als über klar erkenn­ba­re Abschrei­bungs­kam­pa­gnen, wenn sich ein Her­stel­ler mal hin­sicht­lich der Attrak­ti­vi­tät sei­nes Pro­duk­tes ver­kal­ku­lier­te und es zum Schleu­der­preis auf den vor­wie­gend dann Bil­dungs­markt warf. Im Bil­dungs­markt ziel­ten wir dabei auf Mul­ti­pli­ka­to­ren. Wenn man die­sem das lang ver­lo­re­ne Kom­pe­tenz­ge­fühl in tech­ni­schen Din­gen zurück­gab, kauf­ten Sie auch Gerä­te zum Nor­mal­preis und war­ben Gel­der für die Beschaf­fung grö­ße­rer Char­gen wie selbst­ver­ständ­lich ein. „Psy­cho­lo­gy over­ri­des cos­ts“ sag­te da unser Ver­trieb immer.

HD: Das ist doch unglaub­lich unfair. Gera­de der Bil­dungs­be­reich war doch über Jah­re dem tech­ni­schen Fort­schritt weit hin­ter­her. Wer­fen Sie jetzt den dort Täti­gen auf noch Nai­vi­tät und Unwis­sen­heit vor, denen doch vor­wie­gend das Auf­ho­len die­ses Rück­stands und damit die Vor­be­rei­tung der ihnen anver­trau­ten Men­schen auf den Arbeits­markt am Her­zen lag und – mit Ver­laub – auch immer lie­gen wird?

EB: Die Moti­ve die­ser Men­schen stel­le ich doch nicht infra­ge. Wir haben doch gera­de die Situa­ti­on, die sie da beschrei­ben zu nut­zen gewusst, wobei bei­de Sei­ten schluss­end­lich pro­fi­tiert haben. Dar­an ist nichts ver­werf­lich. Wir hat­ten etwas, was ande­re nicht hat­ten und es ihnen ver­kauft. So ist das in unse­rem Wirt­schafts­sys­tem. Hät­te man jetzt alle dazu nöti­gen sol­len Open­So­ur­ce-Pro­duk­te ein­zu­set­zen und alles an mög­li­chen Diens­ten selbst zu hos­ten? Sie haben viel­leicht schon ver­ges­sen, wie es um die Patch­le­vel der aller­meis­ten Joomla!-Installationen von Schu­len bestellt war und hät­ten dann das Gejam­mer hören sol­len, wenn wir die­se wegen Viren­be­fall aus den Such­ergeb­nis­sen aus­ge­lis­tet haben. Leh­rer und Bil­dungs­trei­ben­de waren bemüht, aber letzt­end­lich doch eher dil­le­tan­tisch bei der tech­ni­schen Umset­zung. Das kön­nen wir bes­ser, ver­läss­li­cher und vor allem siche­rer. Das zeigt die Zuver­läs­sig­keit unse­rer Diens­te über Jah­re hin­weg. Wenn der Staat es anders gewollt hät­te, wäre sogar mit uns etwas mög­lich gewesen.

Aber der Staat war den ver­än­der­ten Umstän­den mit sei­nen alt­her­ge­brach­ten poli­ti­schen Sys­tem nicht gewach­sen, qua­si kaum noch reak­ti­ons­fä­hig – anders sind Ent­wick­lun­gen wie das dama­li­ge Leis­tungs­schutz­recht kaum zu erklä­ren. Die einst mäch­ti­gen Pres­se­ver­la­ge sind aber dann ja schluss­end­lich an ihrer Per­so­nal- und Ver­gü­tungs­po­li­tik zugrun­de gegan­gen. Wir bie­ten Buch­au­to­ren und Jour­na­lis­ten mitt­ler­wei­le pro­fi­ta­ble­re Verdienstmöglichkeiten.

HD: Und Sie haben selbst von unzäh­li­gen kos­ten­los agie­ren­den Leis­tungs­trä­gern profitiert.

EB: Natür­lich nut­zen wir Ent­wick­lun­gen aus dem Open­So­urce­be­reich. Natür­lich ver­bes­sern wir unse­re Tex­terken­nungs- und Über­set­zungs­al­go­rith­men mit Hil­fe von Men­schen, die davon kaum etwas mit­be­kom­men. Nur ist der Bei­trag jedes Ein­zel­nen dabei so mini­mal, dass man da kaum von Aus­nut­zung spre­chen kann. Die Men­schen geben uns die­se Leis­tung frei­wil­lig, genau wie damals bei Wiki­pe­dia, das wir nun als Pro­jekt wei­ter­ent­wi­ckeln und es geschafft haben, die Autoren­knapp­heit maß­geb­lich zu kompensieren.

HD: Sind nicht Sie mitt­ler­wei­le der­je­ni­ge, der für uns die Part­ner auf­grund der Social-Media-Pro­fi­le über Gesichts­er­ken­nungs­al­go­rith­men aus­sucht? Steu­ern Sie nicht die Inter­es­sen des Ein­zel­nen durch maß­ge­schnei­der­te Such­ergeb­nis­se? Kon­trol­lie­ren Sie nicht damit auch das Wis­sen? Sind Sie nicht schon viel zu mäch­tig geworden?

EB: Genau das ist unser momen­ta­nes Pro­blem, wes­we­gen wir zukünf­tig jede tech­no­lo­gi­sche Inno­va­ti­on durch eine Ethik­kom­mis­si­on beglei­ten las­sen wol­len. Die Leu­te sehen mehr und mehr das, was unse­re Algo­rith­mik als sinn­voll für sie aus­wählt. Wir füh­ren genau dar­auf zurück, dass wir immer weni­ger krea­ti­ve Köp­fe für die Arbeit in unse­rem Unter­neh­men fin­den. Die meis­ten Bewer­ber kön­nen wohl Bekann­tes reas­sem­blie­ren und reme­dia­li­sie­ren und das auch ästhe­tisch anspre­chend, aber es fehlt zuneh­mend an fun­dier­tem tech­no­lo­gi­schen Wis­sen (das haben auch wir der Bevöl­ke­rung „weger­zo­gen“) gepaart mit Quer­trei­be­rei. Die Absol­ven­ten sind uns zu uni­form, so sehr auf das gefäl­li­ge Lösen immer neu­er Auf­ga­ben gepolt. Sie gehen ins­ge­samt weni­ger Risi­ken ein. Sie haben oft Angst, im pri­va­ten Bereich Ver­än­de­run­gen hin­neh­men zu müs­sen und pas­sen sich daher im Beruf aus unse­rer Sicht zu stark an.

Des­we­gen wol­len wir nun selbst das Rad ein wenig zurück­dre­hen und dar­über dis­ku­tie­ren, was es eigent­lich bedeu­tet, wenn eine Frau einem Mann in einer Bar kei­nen Drink aus­gibt, weil ihr unser Gesichts­er­ken­nungs­al­go­rith­mus mit­ge­teilt hat, dass sie mit der „Ziel­per­son“ auf­grund unter­schied­li­cher Inter­es­sen und des vor­an­ge­hen­den Lebens­wan­dels nicht kom­pa­ti­bel ist. Unse­re Vor­stel­lung von Kom­pa­ti­bi­li­tät hat eben immer auch ethi­sche Dimensionen.

War­um soll­te wei­ter­hin der schon zwei­mal geschei­ter­te Start-Up-Grün­der nicht kre­dit­wür­dig sein, wenn es doch in sei­nem Schei­tern viel­leicht für den drit­ten Ver­such gereift ist. Wo lie­gen da die Gren­zen der Algo­rith­mik, wo ihre Chancen?

Im Grun­de genom­men waren die­se Fra­gen immer schon da – etwa als die dama­li­ge auto­ma­ti­sche Ergän­zung von Such­be­grif­fen Per­so­nen in eine ein­deu­ti­ge „Ecke“ stell­ten und Gerichts­ent­schei­dun­gen uns da Ein­halt gebo­ten. Ent­schei­dend für die Per­son ist ja nicht, dass die­se Daten aus Anfra­gen Drit­ter algo­rith­mi­siert wur­den – ent­schei­dend ist die dar­aus resul­tie­ren­de Wahrnehmung.

Für uns war in der Rück­schau sehr wich­tig, dass es Leu­te gab, die die Exis­tenz von Pri­vat­s­sphä­re und so etwas wie Eigen­tum an Daten als Relik­te der bür­ger­li­chen Welt abta­ten, weil es uns eben weit mehr nütz­te als den Gut­men­schen in ihrem Glau­ben an eine bes­se­re Welt. Auch das ist ethisch schwie­rig, wie wir heu­te wissen.

HD: Wir dan­ken ihnen für die­ses Gespräch, Herr Baldwin!