Hinweis:
Das folgende Interview ist eine Fiktion. Eine einseitige Fiktion, in die jede gutmeinende Kraft des heutigen Netzes – etwas Boshaftigkeit vorausgesetzt – integriert werden kann. Der Gegentext existiert auch schon in meinem Kopf, klingt aber bei Weitem nicht so realistisch :o)…
Erstmalig ist es Reportern der Haute Daily gelungen, Eric Baldwin, CEO des Internetmonopolisten „Event Horizon Inc.“ zu einem Interview anlässlich der Implementierung des Ethikrates innerhalb des Unternehmens zu bewegen. Details zu diesem Rat wurden durch den Whistleblower Peter Foomatic im Verlauf des letzten Jahres bekannt.
HD: Herr Baldwin, wie kam es zu der Einsetzung es Ethikrates bzw. überhaupt zu der Idee, technologische Innovation durch Philosophen, Rechtsgelehrte und Volkswirte begleiten bzw. die spätere Umsetzung selbst von ethischen Kategorien abhängig zu machen?
EB: Dazu müsste man weit in die Geschichte des Internets zurückgehen, die ja auch Teil der Geschichte unseres Unternehmens ist. Im Grunde genommen ist der Ethikrat Ausdruck einer Arroganz. Verkürzt dargestellt wollen wir den Nutzer vor sich selbst schützen.
HD: Das bedarf jetzt aber einer Erläuterung, Herr Baldwin!
EB: Wir gehen einmal in die Jahre 2008–2018 zurück, also in eine Zeit, in der der Peachkonzern noch selbstständige Aktiengesellschaft war, bevor er schließlich in unserem Konsortium aufging. Peach ist es gelungen, einen fundamentalen Bedarf in der Bevölkerung zu decken, der sich in den Jahren zuvor in der Auseinandersetzung mit dem Betriebssystem „Weichfenster“ entwickelt hatte: Technik als Gegner und Zeitfresser, der User als ständiger Verlierer. Vor allem letzteres hatte immense psychologische Konsequenzen: Niemand steht gerne hilflos da, das Belohnungssystem unseres Gehirns braucht Erfolgserlebnisse. Mit Peachprodukten waren auf einmal diese Erfolgserlebnisse wieder da: Man konnte Daten über mehrere Geräte hinweg synchronisieren, man konnte Medien auf einfache Art und Weise an fast jedem Ort konsumieren, man konnte sein Zeit effektiver gestalten durch z.B. eine funktionierende Terminverwaltung und Bündelung der Kommunikationswege – man konnte überhaupt „sein Netz“ überall hin mitnehmen – das pTalk, erstes SMARTPhone seiner Art, hat die Welt verändert: Ergo man war in seiner Wahrnehmung technisch wieder kompetent und zahlte dafür auch gerne.
HD: Ein profitables Geschäftsmodell, das im Wesentlichen auf Niedriglohnpolitik in Asien basierte, quasi eine moderne Form des Koloniallismus.
EB: Nennen Sie mir eine Firma, die dieses Prinzip in dieser Periode nicht verfolgt hat. Die Anforderungen des Marktes waren halt so. Es ging nicht um eine lange Nutzungsdauer oder Nachhaltigkeit der Geräte. Speziell Peachgeräte wiesen zwar eine lange Lebensdauer auf, jedoch wollten die Nutzer immer etwas Neues, was kurze Innovations- und Produktionszyklen erforderte, damit das Unternehmen wirtschaftlich wachsen und die Ansprüche seiner Aktionäre bedienen konnte. Also war das primäre Ziel Wirtschaftlichkeit, hier insbesondere in Form hoher Margen. Weiterhin war es Strategie, die Kunden an das eigene Ökosystem zu binden, wie es Searchiegigant schon etwas länger vormachte. Den Kunden machte das wenig aus, da das Ganze bei Peachgeräten eben einfach funktionierte und bei Searchiegigant eben technisch leistungsfähig und kostenlos war.
HD: Also eine Befreiung durch technologische Innovation.
EB: Ja und nein. Diese Zeit ist Ursprung einer Entwicklung, die wir heute kritisch sehen. Wir haben hervorragend davon gelebt, dass die Nutzer in der Mehrzahl technisch weitgehend inkompetent waren. Sie können oder wollen Ihren DSL-Router nicht konfigurieren? Kein Problem, sie bekommen von uns eine fernwartbare Blackbox. Ihr Betriebssystem soll einfach funktionieren? Gerne, wir konfigurieren es zentral aus der Cloud usw.. So kam es, dass die meisten Nutzer sich zwar auf einer kommunikative Ebene kompetent im Netz bewegen konnten, von der Funktionsweise von Hard- und Software aber zunehmend entfremdet wurden – genau das war das Geschäftsmodell, da wir so Abhängigkeiten schaffen konnten, die zu einer Kundenbindung führten.
HD: Aber es gab doch immer schon kritische Stimmen. Vor allen in den damaligen klassischen Printmedien fanden in den Feuilletons und in zahlreichen Blogs dezidierte Auseinandersetzungen mit ihren Geschäftspraktiken statt. Wollen Sie Ihre damaligen Kunden als inkompetent darstellen?
EB: Als technologisch (das ist eine wichtige Einschränkung!) inkompetent und vor allem naiv, ja. Das klingt hart. Aber aus dieser Zeit stammen aber alle Daten, die wir heute für die Geschäftszweige nutzen, die für uns die profitabelsten sind. Die Entwicklung hin zu neuen Geschäftsfeldern wie dem Versicherungs- und dem Kreditwesen basiert auf Daten, die die Menschen uns freiwillig gegeben haben auf Plattformen, die sie als integral für ihr Leben empfunden haben und immer noch empfinden. Dabei haben wir anfänglich die Algorithmen bewusst „dumm“ gestaltet: Wer z.B. eine Kaffeemaschine kaufte, bekam über unsere Werbenetzwerke nur noch Kaffeemaschinen in Werbeanzeigen angepriesen. Er konnte dann mit dem Finger auf uns zeigen und sagen: „Schaut her, was für eine dämliche Algorithmik!“ Es war wichtig, Menschen dieses Überlegenheitsgefühl gegenüber Technik zu geben, obwohl sie schon längst davon entfremdet waren, damit sie uns weiter Informationen über sich lieferten.
Wir können heute so die verlässlichsten Aussagen zu Kreditwürdigkeit eines Menschen machen. Wir wissen heute über den Lebenswandel und damit über mögliche gesundheitliche Risiken eine Menge, sodass wir maßgeschneiderte Tarife anbieten können. Ebenso helfen uns die gesammelten Geodaten von Tablets und Handys, um Aussagen über das Fahr- und Reiseverhalten machen zu können. Damit zahlt jeder bei uns für sein individuelles Risikoprofil. Im Prinzip profitieren diejenigen davon, die sich möglichst risikoarm im Sinne unserer Algorithmik verhalten – was für unsere Entwicklungsabteilung hinsichtlich der Nachwuchsaquise zunehmend problematisch wird – dazu aber später mehr. Es ging ja um die Naivität: Die Naivität bestand darin zu glauben, dass persönliche Daten für niemanden einen Wert besitzen. Dass dem nicht so ist, wurde durch die Snowden-Affäre zwar überdeutlich, aber die Konsequenz für die meisten Nutzer wäre gewesen, Bequemlichkeiten aufgeben zu müssen – und sei es nur die Bequemlichkeit, die politischen Gruppen nicht aktiv oder passiv zu unterstützen, die uns hätten Paroli bieten können. Das erschien jedoch den meisten nicht realistisch, ja es ging sogar noch weiter: Mahner in dieser Entwicklung wurden oft als rechthaberisch, bzw. von „oben herab“ empfunden. Psychologisch verständlich, da ihnen zu folgen bedeutet hätte, Verhalten ändern zu müssen. Für uns lief das so schon ganz gut.
Dabei kam uns zusätzlich eine Paradoxie sehr zu pass: Gegenüber dem Staat gab es enorme Empfindlichkeiten, wenn dieser seine Zugriffsmöglichkeiten erweitern wollte, gegenüber uns nicht. Der Staat musste zumindest demokratische Konsequenzen befürchten – im Prinzip konnte man Regierungen abwählen, wir konnten die Informationsströme so steuern, dass unsere Begehrlichkeiten und Verfehlungen nicht lange im Fokus der Öffentlichkeit blieben. Mit jeder AGB-Änderung im Juristendeutsch konnten wir austarieren, wie weit man gehen konnte. Das las ja niemand und liest es bis heute nicht. Die gut gemeinten staatlichen Aufklärungspflichten kamen uns dabei sehr entgegen, weil sie die Vertragswerke lediglich weiter aufbliesen.
Der Staat hätte uns zwar politisch Einhalt gebieten können, aber das hätte kaum eine Regierung länger als eine Legislaturperiode überlebt. Deshalb der Deal mit den standardisierten Schnittstellen wie in den frühen Anfängen die SINA-Box. Das Staat bekam die Informationen, die er meinte zu brauchen und ließ im Gegenzug uns dafür in Ruhe.
HD: Sie leben doch ausgesprochen gut von der Taktik, die Sie da gefahren haben. Sollten Sie den Nutzerinnen und Nutzern nicht dankbar sein?
EB: Unsere Natur ist nicht die Dankbarkeit. Das ist ein wirtschaftliches Überlebensprinzip. Und es war kein Plan, sondern es hat eben so ergeben, weil es unsere Natur ist. Und es wäre so nicht möglich gewesen, wenn wir die Welt für den Nutzer nicht auch zum Positiven gewendet hätten. Der Zugang zu Bildung, Kunst und Kultur ist durch uns weltweit für jedermann möglich geworden. Jeder konnte auf einmal ein Sender sein und seine Ideen verwirklichen – freilich blieben die meisten Konsumenten. Das ist objektiv ein medialer Wandel, der ohne Weiteres mit dem des Buchdrucks ergleichbar ist. Dabei haben wir nie zwischen großen und kleinen Playern unterschieden, sondern vor allem unsere Suchalgorithmen nach qualitativen, möglichst neutralen Gesichtspunkten gestaltet. Wer keine Qualität in unserem Sinne bieten konnte, musste sich eben hochkaufen, indem er uns direkt Geld bezahlte oder sein Glück mit SEO-Agenturen versuchte, mit denen wir uns immer ein Rennen lieferten, was für die SEOs schlussendlich nicht zu gewinnen war. Das merkten die Kunden dann und zahlten gleich direkt an uns.
Taktiken gab es aber auch: So suchten wir uns gezielt Personen, die in den sozialen Netzwerken über einen hohen Reputationsgrad verfügten, um vorgeblich kritische Meinungen zu streuen, die aber letztlich in unserem Sinne waren. Die Idee kam dabei von Agenturen, die über eingekaufte Agenten Produktbewertungen platzierten. Wir mussten lernen, wie diese Bewertungen zu formulieren waren, damit sie als authentisch aktzeptiert wurden. So ließen sich auch Warenströme steuern und Überkapazitäten viel geschickter nutzen als über klar erkennbare Abschreibungskampagnen, wenn sich ein Hersteller mal hinsichtlich der Attraktivität seines Produktes verkalkulierte und es zum Schleuderpreis auf den vorwiegend dann Bildungsmarkt warf. Im Bildungsmarkt zielten wir dabei auf Multiplikatoren. Wenn man diesem das lang verlorene Kompetenzgefühl in technischen Dingen zurückgab, kauften Sie auch Geräte zum Normalpreis und warben Gelder für die Beschaffung größerer Chargen wie selbstverständlich ein. „Psychology overrides costs“ sagte da unser Vertrieb immer.
HD: Das ist doch unglaublich unfair. Gerade der Bildungsbereich war doch über Jahre dem technischen Fortschritt weit hinterher. Werfen Sie jetzt den dort Tätigen auf noch Naivität und Unwissenheit vor, denen doch vorwiegend das Aufholen dieses Rückstands und damit die Vorbereitung der ihnen anvertrauten Menschen auf den Arbeitsmarkt am Herzen lag und – mit Verlaub – auch immer liegen wird?
EB: Die Motive dieser Menschen stelle ich doch nicht infrage. Wir haben doch gerade die Situation, die sie da beschreiben zu nutzen gewusst, wobei beide Seiten schlussendlich profitiert haben. Daran ist nichts verwerflich. Wir hatten etwas, was andere nicht hatten und es ihnen verkauft. So ist das in unserem Wirtschaftssystem. Hätte man jetzt alle dazu nötigen sollen OpenSource-Produkte einzusetzen und alles an möglichen Diensten selbst zu hosten? Sie haben vielleicht schon vergessen, wie es um die Patchlevel der allermeisten Joomla!-Installationen von Schulen bestellt war und hätten dann das Gejammer hören sollen, wenn wir diese wegen Virenbefall aus den Suchergebnissen ausgelistet haben. Lehrer und Bildungstreibende waren bemüht, aber letztendlich doch eher dilletantisch bei der technischen Umsetzung. Das können wir besser, verlässlicher und vor allem sicherer. Das zeigt die Zuverlässigkeit unserer Dienste über Jahre hinweg. Wenn der Staat es anders gewollt hätte, wäre sogar mit uns etwas möglich gewesen.
Aber der Staat war den veränderten Umständen mit seinen althergebrachten politischen System nicht gewachsen, quasi kaum noch reaktionsfähig – anders sind Entwicklungen wie das damalige Leistungsschutzrecht kaum zu erklären. Die einst mächtigen Presseverlage sind aber dann ja schlussendlich an ihrer Personal- und Vergütungspolitik zugrunde gegangen. Wir bieten Buchautoren und Journalisten mittlerweile profitablere Verdienstmöglichkeiten.
HD: Und Sie haben selbst von unzähligen kostenlos agierenden Leistungsträgern profitiert.
EB: Natürlich nutzen wir Entwicklungen aus dem OpenSourcebereich. Natürlich verbessern wir unsere Texterkennungs- und Übersetzungsalgorithmen mit Hilfe von Menschen, die davon kaum etwas mitbekommen. Nur ist der Beitrag jedes Einzelnen dabei so minimal, dass man da kaum von Ausnutzung sprechen kann. Die Menschen geben uns diese Leistung freiwillig, genau wie damals bei Wikipedia, das wir nun als Projekt weiterentwickeln und es geschafft haben, die Autorenknappheit maßgeblich zu kompensieren.
HD: Sind nicht Sie mittlerweile derjenige, der für uns die Partner aufgrund der Social-Media-Profile über Gesichtserkennungsalgorithmen aussucht? Steuern Sie nicht die Interessen des Einzelnen durch maßgeschneiderte Suchergebnisse? Kontrollieren Sie nicht damit auch das Wissen? Sind Sie nicht schon viel zu mächtig geworden?
EB: Genau das ist unser momentanes Problem, weswegen wir zukünftig jede technologische Innovation durch eine Ethikkommission begleiten lassen wollen. Die Leute sehen mehr und mehr das, was unsere Algorithmik als sinnvoll für sie auswählt. Wir führen genau darauf zurück, dass wir immer weniger kreative Köpfe für die Arbeit in unserem Unternehmen finden. Die meisten Bewerber können wohl Bekanntes reassemblieren und remedialisieren und das auch ästhetisch ansprechend, aber es fehlt zunehmend an fundiertem technologischen Wissen (das haben auch wir der Bevölkerung „wegerzogen“) gepaart mit Quertreiberei. Die Absolventen sind uns zu uniform, so sehr auf das gefällige Lösen immer neuer Aufgaben gepolt. Sie gehen insgesamt weniger Risiken ein. Sie haben oft Angst, im privaten Bereich Veränderungen hinnehmen zu müssen und passen sich daher im Beruf aus unserer Sicht zu stark an.
Deswegen wollen wir nun selbst das Rad ein wenig zurückdrehen und darüber diskutieren, was es eigentlich bedeutet, wenn eine Frau einem Mann in einer Bar keinen Drink ausgibt, weil ihr unser Gesichtserkennungsalgorithmus mitgeteilt hat, dass sie mit der „Zielperson“ aufgrund unterschiedlicher Interessen und des vorangehenden Lebenswandels nicht kompatibel ist. Unsere Vorstellung von Kompatibilität hat eben immer auch ethische Dimensionen.
Warum sollte weiterhin der schon zweimal gescheiterte Start-Up-Gründer nicht kreditwürdig sein, wenn es doch in seinem Scheitern vielleicht für den dritten Versuch gereift ist. Wo liegen da die Grenzen der Algorithmik, wo ihre Chancen?
Im Grunde genommen waren diese Fragen immer schon da – etwa als die damalige automatische Ergänzung von Suchbegriffen Personen in eine eindeutige „Ecke“ stellten und Gerichtsentscheidungen uns da Einhalt geboten. Entscheidend für die Person ist ja nicht, dass diese Daten aus Anfragen Dritter algorithmisiert wurden – entscheidend ist die daraus resultierende Wahrnehmung.
Für uns war in der Rückschau sehr wichtig, dass es Leute gab, die die Existenz von Privatssphäre und so etwas wie Eigentum an Daten als Relikte der bürgerlichen Welt abtaten, weil es uns eben weit mehr nützte als den Gutmenschen in ihrem Glauben an eine bessere Welt. Auch das ist ethisch schwierig, wie wir heute wissen.
HD: Wir danken ihnen für dieses Gespräch, Herr Baldwin!
