Regeln, Code und Whistleblower

von Douglas Rushkoff

Der folgende Text ist eine Übersetzung dieser Kolumne von Douglas Rushkoff

Als ich heute die US-Senatsanhörung der Facebook-Whistleblowerin Frances Haugen verfolgte, fühlte ich mich aufgrund der Vorgänge seltsamerweise ermutigt.

Nein, es macht mich nicht glücklich zu hören, wie die Leute, die Facebook betreiben, bewusst den eigenen Profit über die Gesundheit und das Wohlergehen ihrer Nutzer/innen stellen. Wäre Mark Zuckerberg mit 20 Milliarden Dollar persönlichem Vermögen anstatt mit 120 Milliarden zufrieden gewesen, hätte sein Unternehmen um 100 Milliarden Dollar weniger Schaden angerichtet. Ungezählte Tote, psychologische Traumata, politische Zusammenbrüche und Desinformation hätten verhindert werden können und unsere lebendigen Social Justice-Bewegungen wären nicht von gefälschten AktivistInnen-Organisationen in ideologische Sackgassen gelenkt worden.

Allerdings bin ich erfreut darüber eine Expertin für algorithmisches Produktmanagement zu hören, die die strukturellen Defizite hinsichtlich des gesamten Ethos und der funktionalen Strategie von Facebook erklärt - und zwar so, dass es selbst US-Senatoren verstehen. Ja, viele von uns bringen seit über einem Jahrzehnt die gleichen Argumente vor. Aber jetzt kommen sie von einer Managerin bei Facebook, begleitet von Beweisen, die zeigen, dass sich Facebook sehr wohl bewusst war, welchen Schaden sie anrichten und diesen auch dokumentierten, während sie in der Öffentlichkeit so taten, als ob sie keine Ahnung hätten.

Die Aussagen von Frances Haugen sind deshalb wichtig, weil sie unsere Aufmerksamkeit darauf lenken, wie automatisiert Unternehmen wie Facebook geführt werden. Erinnern wir uns: Wir befinden uns noch immer im Silicon Valley, wo „Skalierung“ eines Geschäfts bedeutet, menschliche Empfindlichkeiten aus dem Weg zu räumen. Man installiert ein System an Kennzahlen, welche von Menschen erreicht werden sollen und lässt die Spiele beginnen. In den Worten von Frances Haugen: Facebook ist ein „flaches“ Unternehmen. Sie erinnert uns daran, dass bei Facebook, verglichen mit anderen Unternehmen, die meisten MitarbeiterInnen auf der gleichen Hierarchieebene arbeiten. Das wird als eine Holokratie verkauft, wo vermeintlich niemand wichtiger ist als der oder die Nächste. Jede/r arbeitet nur daran die Kennzahlen zu erreichen.

Was das in Wahrheit bedeutet, ist, dass Facebook keine Führung hat. Niemand ist zuständig. Es gibt keine Führungspersönlichkeiten. Buchstäblich jede/r befolgt einfach nur die Befehle, die die Maschine vorgibt. Also ist, wie Frances Haugen feinsäuberlich erklärt, niemand verantwortlich.

Stattdessen macht einfach jede/r das, was dabei hilft, die entscheidende Kennzahl - nämlich die Nutzungsdauer und -häufigkeit - zu erhöhen. Jede/r macht ihre oder seine winzigen Entscheidungen darüber, wie man die Nutzungszahlen noch weiter erhöhen kann. Gesammelt führen diese winzigen Entscheidungen zu schrecklichen Ergebnissen und das nicht nur für die Gesellschaft, sondern auch für Facebook selbst. Das Unternehmen ist wie Zuckerberg selbst: Vom College abgehen noch bevor sich die Markscheiden vollständig um die präfrontalen Ganglien formen konnten, was ihn ohne die Vorteile erwachsener Impulskontrolle zurückließ - und ohne Führung.

Was Facebook braucht ist menschliche Intervention

Was Facebook braucht ist menschliche Intervention. Tatsächliche Menschen aus Fleisch und Blut mit einem etwas breiterem Spektrum an Anliegen als ein Algorithmus. Nur Menschen können sich über Implikationen von Entscheidungen Gedanken machen und mögliche Entwicklungen verlangsamen oder gar stoppen, wenn diese das Unternehmen und deren Nutzer/innen über eine Klippe zu stürzen drohen. Facebook braucht ein paar bewusst handelnde Menschen wie Frances Haugen - nicht nur um in eine Pfeife zu blasen, sondern um das Unternehmen zu steuern.

Facebook selbst verlangt mittlerweile nach staatlicher Regulation. Zuckerberg selbst wünscht sich, dass Regierungen dafür sorgen, dass alle Social-Media-Plattformen Maßnahmen einsetzen, um die Verbreitung von Desinformation zu stoppen. Im Fall von Facebook sind das Algorithmen, welche von Frances Haugen gemanagt wurden und die laut ihren Aussagen bis zu 10% von dem Zeug erwischen, um das es Facebook geht.

Regulation kann helfen, ist aber nicht das gleiche wie eine echte Intervention. Es sind einfach nur mehr Regeln. Programmierer/innen sehen Regeln als einfache, temporäre Herausforderungen, die es zu umgehen gilt. Sie schreiben neuen Code um die neuen Regeln herum - ganz ähnlich wie ein/e „gute/r“ Steuerberater/in anscheinend immer eine Hintertür bei der Abgabenordnung findet. Es ist eine Einladung für mehr vom gleichen. Der gleiche katastrophale und automatisierte Ansatz um „Probleme zu lösen“.

Nein, die echte Lösung ist es, Facebook neu auszustatten (oder, in deren Logik, zu infizieren). Und zwar mit lebenden, atmenden, denkenden Menschen. Menschen mit gleich viel Macht wie die Algorithmen und mit Werten, die genauso viel Gewicht haben wie Nutzungskennzahlen.

- - - - -

Douglas Rushkoff schreibt eine wöchentliche Kolumne für Medium. Rushkoff ist der Autor von 20 Büchern über Medien, Technologie und Gesellschaft. U.a. „Media Virus“, „Present Shock“ und „Throwing Rocks at the Google Bus“. Sein letztes Buch, „Team Human“, wird auf Medium in wöchentlichen Fortsetzungen veröffentlicht. Rushkoff ist Schöpfer und Gastgeber des Podcasts „Team Human“ und schreibt graphic novels.

- - - - -

Bildquelle: U.S. Senate Committee on Commerce, Science, and Transportation