Die Kosten der inzwischen widerrufenen Zensur durch Facebook

Die Geschichte wird sich an diese Ära als den Moment erinnern, in dem Amerikas heiligste Prinzipien mit beispielloser institutioneller Macht kollidierten – und verloren. Der systematische Abbau grundlegender Rechte geschah nicht durch militärische Gewalt oder Regierungserlass, sondern durch die stille Zusammenarbeit von Technologieplattformen, Medienwächtern und Regierungsbehörden, die alle behaupteten, uns vor „Fehlinformationen“ zu schützen.

Metas plötzliche Abschaffung seines Faktencheck-Programms – von Zuckerberg als „kultureller Wendepunkt hin zur Priorisierung der Meinungsfreiheit“ angekündigt – liest sich wie eine stille Fußnote zu einem Fall, der in die Geschichte als einer der ungeheuerlichsten Menschenrechtsverletzungen der jüngeren Geschichte eingehen könnte. Nach acht Jahren zunehmend aggressiver Inhaltsmoderation, in denen fast 100 Faktencheck-Organisationen in über 60 Sprachen aktiv waren, schwenkt Meta nun auf ein gemeinschaftlich getragenes System um, ähnlich dem Modell von X.

In seiner Erklärung deutet Zuckerberg zunächst an, dass es sich bei der Zensur um einen rein technischen Fehler gehandelt habe, ändert dann aber gegen Ende seine Meinung und gibt zu, was schon lange vor Gericht verhandelt wurde: „Wir können diesen globalen Trend nur mit der Unterstützung der US-Regierung aufhalten. Und deshalb war es in den letzten vier Jahren so schwierig, als selbst die US-Regierung auf Zensur drängte. Indem sie gegen uns und andere amerikanische Unternehmen vorging, ermutigte sie andere Regierungen, noch weiter zu gehen.“

In zahlreichen Gerichtsverfahren, die Millionen kosteten und umfangreiche Anträge nach dem Informationsfreiheitsgesetz (FOIA), Zeugenaussagen und Beweisaufnahmen umfassten, wurde die Wahrheit in 100,000 Seiten Beweismaterial dokumentiert. Allein der Fall Murthy gegen Missouri legte durch FOIA-Anträge und Zeugenaussagen umfangreiche Kommunikationen offen und enthüllte das Ausmaß der staatlichen Koordination mit Social-Media-Plattformen. Der Oberste Gerichtshof prüfte den gesamten Sachverhalt, doch einige Richter konnten dessen Umfang und Tragweite schlichtweg nicht erfassen und hoben daher eine einstweilige Verfügung eines unteren Gerichts auf, die dies unterbinden sollte. Nun gibt Zuckerberg offen zu, genau das strittige Thema zu sein: die Beteiligung der US-Regierung an einem massiven Verstoß gegen den Ersten Verfassungszusatz.

Dies sollte es zumindest einfacher machen, im weiteren Verlauf der Fälle Wiedergutmachung zu finden. Dennoch ist es frustrierend. Dutzende Millionen wurden ausgegeben, um zu beweisen, was er schon vor Jahren hätte zugeben können. Aber damals hatten die Zensoren noch das Sagen, und Facebook achtete auf seine Beziehung zu den Mächtigen. 

Der Zeitpunkt dieser Veränderung ist aufschlussreich: Ein Trump-Vertrauter tritt dem Aufsichtsrat bei , Metas Präsident für globale Angelegenheiten wird durch einen prominenten Republikaner ersetzt , und eine neue Regierung bereitet sich auf die Machtübernahme vor. Doch während Zuckerberg dies als Rückkehr zu den Prinzipien der Meinungsfreiheit darstellt, lässt sich der Schaden ihres Experiments mit Massenzensur nicht durch eine einfache Richtlinienänderung wiedergutmachen.

Die Ironie ist tiefgreifend: Privatunternehmen geben sich unabhängig, agieren aber als verlängerter Arm des Staates. Man denke nur an unsere eigene Erfahrung: Wir veröffentlichten Mussolinis Definition von Faschismus als „Verschmelzung von Staats- und Konzernmacht“ – woraufhin Meta sie als „Falschinformation“ entfernte. Das war nicht einfach nur Zensur, sondern Metazensur – die Unterdrückung jeglicher Diskussion über die eingesetzten Kontrollmechanismen.

Während die Technologieplattformen den Anschein privater Unternehmen wahrten, brachten ihre abgestimmten Aktionen mit Regierungsbehörden eine beunruhigendere Realität ans Licht: die Entstehung genau jener Art von Staats-Unternehmens-Fusion, deren Diskussion sie uns vorenthalten wollten.

Wie wir bereits berichtet haben , haben wir nicht nur Grenzen überschritten – wir haben heilige Rubikons überschritten, die nach den dunkelsten Kapiteln der Menschheitsgeschichte geschaffen wurden . Der Erste Verfassungszusatz, entstanden aus der Revolution gegen Tyrannei, und der Nürnberger Kodex, der nach den Schrecken des Zweiten Weltkriegs erlassen wurde, sollten unumstößliche Hüter der Menschenrechte sein. Beide wurden im Namen der „Sicherheit“ systematisch demontiert. Dieselben Taktiken der Desinformation, der Angstmacherei und des staatlichen Machtmissbrauchs, vor denen unsere Vorfahren gewarnt hatten, wurden mit erschreckender Effizienz eingesetzt.

Diese systematische Demontage ließ kein Thema aus: von Diskussionen über die Wirkung von Impfstoffen über Debatten über den Ursprung des Virus bis hin zu Fragen der Impfpolitik. Wissenschaftlicher Diskurs wurde durch vorgegebene Narrative ersetzt. Medizinische Forscher durften keine Erkenntnisse teilen, die von den institutionellen Positionen abwichen, wie die Entfernung glaubwürdiger Diskussionen über Covid-19-Daten und -Politik zeigte. Selbst persönliche Erfahrungen wurden als „Desinformation“ abgetan, wenn sie nicht mit der offiziellen Kommunikation übereinstimmten – ein Muster, das absurde Ausmaße annahm, als selbst die Diskussion über das Wesen der Zensur selbst zum Zensurgrund wurde.

Der Schaden zog sich durch alle Schichten der Gesellschaft. Auf der Ebene der Einzelnen wurden Karrieren zerstört und Berufszulassungen entzogen, nur weil sie echte Erfahrungen teilten. Wissenschaftler und Ärzte, die vorherrschende Narrative in Frage stellten, wurden beruflich geächtet. Viele fühlten sich isoliert oder irrational, weil sie ihren eigenen Augen und Erfahrungen vertrauten, als Plattformen ihre Berichte aus erster Hand als „Fehlinformationen“ bezeichneten.

Die Zerstörung familiärer Bindungen könnte sich als noch nachhaltiger erweisen. An Feiertagen waren die Tische leer. Großeltern verpassten unwiederbringliche Momente mit ihren Enkeln. Geschwister, die sich jahrzehntelang nahestanden, sprachen nicht mehr miteinander. Jahrelange familiäre Bindungen zerbrachen nicht an Meinungsverschiedenheiten über Fakten, sondern an dem bloßen Recht, darüber zu sprechen.

Am schlimmsten war vielleicht der Schaden auf Gemeindeebene. Örtliche Gruppen zersplitterten. Nachbarn wandten sich gegen Nachbarn. Kleine Unternehmen wurden auf schwarze Listen gesetzt. Kirchen wurden gespalten. Schulratssitzungen wurden zu Schlachtfeldern. Das soziale Gefüge, das die Zivilgesellschaft ermöglicht, begann sich aufzulösen – nicht weil die Menschen unterschiedliche Ansichten hatten, sondern weil die bloße Möglichkeit eines Dialogs als gefährlich angesehen wurde.

Die Zensoren haben gewonnen. Sie haben gezeigt, dass sie mit genügend institutioneller Macht das soziale Gefüge, das einen freien Diskurs ermöglicht, zerstören können. Jetzt, da diese Infrastruktur zur Unterdrückung existiert, steht sie bereit, erneut eingesetzt zu werden, wenn es dringend genug erscheint. Das Ausbleiben einer öffentlichen Abrechnung sendet eine beängstigende Botschaft: Es gibt keine Grenze, die nicht überschritten werden kann, kein Prinzip, das nicht ignoriert werden kann.

Eine echte Versöhnung erfordert mehr als Metas beiläufige Kehrtwende in der Politik. Wir brauchen eine vollständige, transparente Untersuchung, die jeden Fall von Zensur dokumentiert – von unterdrückten Berichten über Impfschäden über blockierte wissenschaftliche Debatten über den Ursprung des Virus bis hin zum Schweigen gebrachter Stimmen, die die Mandatspolitik in Frage stellen. Es geht nicht um Rechtfertigung – es geht darum, ein unangreifbares öffentliches Dokument zu erstellen, das sicherstellt, dass diese Taktiken nie wieder eingesetzt werden können.

Der erste Zusatzartikel unserer Verfassung war kein Vorschlag – er war ein heiliger Bund, geschrieben mit dem Blut derer, die gegen die Tyrannei kämpften. Seine Prinzipien sind keine überholten Relikte, sondern lebenswichtige Schutzmaßnahmen gegen genau die Übergriffe, die wir gerade erlebt haben. Wenn Institutionen diese Grundrechte als flexible Richtlinien und nicht als unantastbare Grenzen behandeln, reicht der Schaden weit über eine einzelne Plattform oder Politik hinaus.

Wie viele in unserem Umfeld haben wir dies aus erster Hand miterlebt. Aber persönliche Genugtuung ist nicht das Ziel. Jede Stimme, die zum Schweigen gebracht, jede Debatte, die unterdrückt, jede Beziehung, die im Dienste „genehmigter Narrative“ zerstört wird, stellt einen Riss in unserem sozialen Gefüge dar, der uns alle ärmer macht. Ohne eine vollständige Abrechnung und konkrete Schutzmaßnahmen gegen zukünftige Übergriffe lassen wir zukünftige Generationen anfällig für dieselben autokratischen Impulse, die nur in anderer Form auftreten.

Die Frage ist nicht, ob wir das Verlorene wiederherstellen können – das können wir nicht. Die Frage ist, ob wir diese Rechte endlich als wirklich unantastbar anerkennen oder sie weiterhin als lästige Hindernisse behandeln, die man beiseite schieben kann, wenn Angst und Dringlichkeit es erfordern. Benjamin Franklin warnte, dass diejenigen, die grundlegende Freiheiten aufgeben, um ein wenig vorübergehende Sicherheit zu erkaufen, weder Freiheit noch Sicherheit verdienen. Unsere Antwort auf diese Herausforderung wird bestimmen, ob wir unseren Kindern eine Gesellschaft hinterlassen, die grundlegende Freiheiten verteidigt, oder eine, die sie im Namen der Sicherheit leichtfertig aufgibt.

Hier ist das vollständige Transkript der Ankündigung von Mark Zuckerberg vom 7. Januar 2024:

Hallo zusammen. Ich möchte heute über etwas Wichtiges sprechen, denn es ist an der Zeit, zu unseren Wurzeln zurückzukehren, was die freie Meinungsäußerung auf Facebook und Instagram betrifft. Ich habe angefangen, soziale Medien aufzubauen, um den Menschen eine Stimme zu geben. Ich habe vor 5 Jahren in Georgetown eine Rede über die Wichtigkeit des Schutzes der freien Meinungsäußerung gehalten, und das glaube ich auch heute noch. Aber in den letzten Jahren ist viel passiert.

Es gibt eine breite Debatte über die möglichen Gefahren von Online-Inhalten, Regierungen und traditionelle Medien drängen auf immer stärkere Zensur. Vieles davon ist eindeutig politisch, aber es gibt auch eine Menge wirklich schlimmes Zeug da draußen. Drogen, Terrorismus, Kindesmissbrauch. Das sind Dinge, die wir sehr ernst nehmen, und ich möchte sicherstellen, dass wir verantwortungsvoll damit umgehen. Deshalb haben wir viele komplexe Systeme zur Moderation von Inhalten aufgebaut, aber das Problem mit komplexen Systemen ist, dass sie Fehler machen.

Selbst wenn sie nur 1 % der Beiträge versehentlich zensieren, sind das Millionen von Menschen. Und wir haben einen Punkt erreicht, an dem es einfach zu viele Fehler und zu viel Zensur gibt. Die jüngsten Wahlen fühlen sich auch wie ein kultureller Wendepunkt an, der der Redefreiheit wieder Priorität einräumt. Also werden wir zu unseren Wurzeln zurückkehren und uns darauf konzentrieren, Fehler zu reduzieren, unsere Richtlinien zu vereinfachen und die freie Meinungsäußerung auf unseren Plattformen wiederherzustellen. Genauer gesagt werden wir Folgendes tun.

Erstens werden wir die Faktenprüfer abschaffen und sie durch Community-Notizen ersetzen, ähnlich wie X, beginnend in den USA. Nachdem Trump 2016 zum ersten Mal gewählt wurde, schrieben die traditionellen Medien ununterbrochen darüber, dass Fehlinformationen eine Bedrohung für die Demokratie seien. Wir haben in gutem Glauben versucht, diese Bedenken auszuräumen, ohne uns zu Schiedsrichtern der Wahrheit zu machen, aber die Faktenprüfer waren einfach zu politisch voreingenommen und haben mehr Vertrauen zerstört als sie geschaffen haben, insbesondere in den USA. Daher werden wir in den nächsten Monaten schrittweise ein umfassenderes Community-Notiz-System einführen. Zweitens werden wir unsere Inhaltsrichtlinien vereinfachen und eine Reihe von Beschränkungen zu Themen wie Einwanderung und Geschlecht beseitigen, die einfach nicht mit dem Mainstream-Diskurs in Einklang stehen.

Was als Bewegung für mehr Inklusion begann, wird zunehmend dazu genutzt, Meinungen zu unterdrücken und Menschen mit anderen Ideen auszuschließen. Das ist zu weit gegangen. Deshalb möchte ich sicherstellen, dass die Menschen ihre Überzeugungen und Erfahrungen auf unseren Plattformen teilen können. Drittens ändern wir die Art und Weise, wie wir unsere Richtlinien durchsetzen, um die Fehler zu reduzieren, die für den Großteil der Zensur auf unseren Plattformen verantwortlich sind. Früher hatten wir Filter, die nach Richtlinienverstößen suchten. Jetzt werden wir diese Filter auf die Bekämpfung illegaler und schwerwiegender Verstöße konzentrieren.

Und bei weniger schwerwiegenden Verstößen verlassen wir uns darauf, dass jemand ein Problem meldet, bevor wir Maßnahmen ergreifen. Das Problem ist, dass die Filter Fehler machen und viele Inhalte entfernen, die sie nicht entfernen sollten. Indem wir sie also zurückschrauben, werden wir die Zensur auf unseren Plattformen drastisch reduzieren. Wir werden auch unsere Inhaltsfilter so anpassen, dass sie viel mehr Vertrauen erfordern, bevor sie Inhalte entfernen. In Wirklichkeit ist dies ein Kompromiss.

Das bedeutet, dass wir weniger schlimme Dinge aufdecken, aber auch die Anzahl der Posts und Accounts unschuldiger Leute verringern, die wir versehentlich löschen. Viertens bringen wir bürgernahe Inhalte zurück. Eine Zeit lang wollte die Community weniger Politik sehen, weil sie die Leute gestresst hat. Also haben wir aufgehört, diese Posts zu empfehlen, aber es fühlt sich an, als wären wir jetzt in einer neuen Ära und wir bekommen Feedback, dass die Leute diese Inhalte wieder sehen wollen. Also werden wir damit beginnen, diese wieder schrittweise in Facebook, Instagram und Threads zu integrieren und gleichzeitig daran arbeiten, die Communities freundlich und positiv zu halten.

Fünftens werden wir unsere Teams für Vertrauen und Sicherheit sowie Inhaltsmoderation aus Kalifornien verlegen und unsere US-basierte Inhaltsüberprüfung wird in Texas angesiedelt sein. Da wir uns für die Förderung der freien Meinungsäußerung einsetzen, denke ich, dass uns das dabei helfen wird, Vertrauen aufzubauen, um diese Arbeit an Orten zu tun, wo man sich weniger Sorgen um die Voreingenommenheit unserer Teams macht. Und schließlich werden wir mit Präsident Trump zusammenarbeiten, um Regierungen auf der ganzen Welt zur Rechenschaft zu ziehen, die amerikanische Unternehmen verfolgen und auf mehr Zensur drängen. Die USA haben den stärksten verfassungsmäßigen Schutz der freien Meinungsäußerung weltweit. In Europa gibt es immer mehr Gesetze, die die Zensur institutionalisieren und es schwierig machen, dort etwas Innovatives aufzubauen.

In den Ländern Lateinamerikas gibt es Geheimgerichte, die Unternehmen anweisen können, Dinge stillschweigend abzuschalten. China hat unsere Apps zensiert, sodass sie im Land überhaupt nicht funktionieren. Diesem globalen Trend können wir nur mit der Unterstützung der US-Regierung etwas entgegensetzen. Und deshalb war es in den letzten vier Jahren so schwierig, als selbst die US-Regierung auf Zensur drängte. Indem sie gegen uns und andere amerikanische Unternehmen vorging, ermutigte sie andere Regierungen, noch weiter zu gehen.

Aber jetzt haben wir die Chance, die freie Meinungsäußerung wiederherzustellen, und ich freue mich darauf, sie zu nutzen. Es wird einige Zeit dauern, bis wir das richtig hinbekommen. Und es handelt sich um komplexe Systeme. Sie werden nie perfekt sein. Es gibt auch eine Menge illegaler Dinge, an deren Beseitigung wir noch sehr hart arbeiten müssen.

Aber unterm Strich ist es nach Jahren, in denen sich unsere Arbeit zur Inhaltsmoderation hauptsächlich auf das Entfernen von Inhalten konzentriert hat, an der Zeit, sich auf die Reduzierung von Fehlern, die Vereinfachung unserer Systeme und eine Rückkehr zu unseren Wurzeln zu konzentrieren, nämlich den Menschen eine Stimme zu geben. Ich freue mich auf dieses nächste Kapitel. Bleiben Sie gut da draußen, und bald kommt mehr.“