Die Kosten der inzwischen widerrufenen Zensur durch Facebook

Die Geschichte wird sich an diese Ära als den Moment erinnern, in dem Amerikas heiligste Prinzipien mit beispielloser institutioneller Macht kollidierten – und verloren. Der systematische Abbau grundlegender Rechte geschah nicht durch militärische Gewalt oder Regierungserlass, sondern durch die stille Zusammenarbeit von Technologieplattformen, Medienwächtern und Regierungsbehörden, die alle behaupteten, uns vor „Fehlinformationen“ zu schützen.

Metas plötzliche Demontage seines Faktencheck-Programms – von Zuckerberg als „kultureller Wendepunkt hin zur Priorisierung der Redefreiheit“ bezeichnet – liest sich wie eine stille Fußnote zu dem, was die Geschichte als eine der erschütterndsten Verletzungen grundlegender Rechte in jüngster Zeit verzeichnen könnte. Nach acht Jahren zunehmend aggressiver Inhaltsmoderation, darunter fast 100 Faktenprüforganisationen, die in über 60 Sprachen tätig sind, schwenkt Meta nun auf ein Community-gesteuertes System um, das dem Modell von X ähnelt.

In seiner Erklärung deutet Zuckerberg zunächst an, dass es sich bei der Zensur um einen rein technischen Fehler gehandelt habe, ändert dann aber gegen Ende seine Meinung und gibt zu, was schon lange vor Gericht verhandelt wurde: „Wir können diesen globalen Trend nur mit der Unterstützung der US-Regierung aufhalten. Und deshalb war es in den letzten vier Jahren so schwierig, als selbst die US-Regierung auf Zensur drängte. Indem sie gegen uns und andere amerikanische Unternehmen vorging, ermutigte sie andere Regierungen, noch weiter zu gehen.“

In vielen Gerichtsverfahren mit Kosten in Millionenhöhe, die umfangreiche FOIA-Anfragen, Zeugenaussagen und Beweismittel umfassten, wurde die Wahrheit darüber auf 100,000 Seiten an Beweismitteln dokumentiert. Die Murthy gegen Missouri Häuser allein deckte durch FOIA und Zeugenaussagen umfangreiche Kommunikation auf und enthüllte das Ausmaß der Regierungskoordination mit Social-Media-Plattformen. Der Oberste Gerichtshof prüfte alles, aber mehrere Richter konnten Inhalt und Ausmaß einfach nicht begreifen und hoben daher eine einstweilige Verfügung eines Untergerichts auf, um das Ganze zu stoppen. Jetzt haben wir Zuckerberg, der offen zugibt, was genau umstritten war: die Beteiligung der US-Regierung an der aggressiven Verletzung des Ersten Verfassungszusatzes. 

Dies sollte es zumindest einfacher machen, im weiteren Verlauf der Fälle Wiedergutmachung zu finden. Dennoch ist es frustrierend. Dutzende Millionen wurden ausgegeben, um zu beweisen, was er schon vor Jahren hätte zugeben können. Aber damals hatten die Zensoren noch das Sagen, und Facebook achtete auf seine Beziehung zu den Mächtigen. 

Der Zeitpunkt der Verschiebung ist bezeichnend: ein Trump-Verbündeter tritt dem Vorstand bei, Metas Präsident für globale Angelegenheiten wird durch einen prominenten Republikaner ersetztund eine neue Regierung bereitet sich darauf vor, die Kontrolle zu übernehmen. Doch während Zuckerberg dies als Rückkehr zu den Prinzipien der freien Meinungsäußerung darstellt, lässt sich der Schaden, den ihr Experiment mit der Massenzensur angerichtet hat, nicht durch eine einfache Änderung der Politik rückgängig machen.

Die Ironie ist tiefgreifend: private Unternehmen beanspruchen Unabhängigkeit, agieren aber als verlängerter Arm der Staatsmacht. Denken Sie an unsere eigene Erfahrung: Wir posteten Mussolinis Definition des Faschismus als „Verschmelzung von Staats- und Unternehmensmacht“ – nur um Lassen Sie es von Meta als „Fehlinformation“ entfernen. Dabei handelte es sich nicht einfach um Zensur, sondern um Metazensur, die jede Diskussion über die eingesetzten Kontrollmechanismen unterbindet. 

Während die Technologieplattformen den Anschein privater Unternehmen wahrten, brachten ihre abgestimmten Aktionen mit Regierungsbehörden eine beunruhigendere Realität ans Licht: die Entstehung genau jener Art von Staats-Unternehmens-Fusion, deren Diskussion sie uns vorenthalten wollten.

Wie wir bereits besprochen haben, wir haben nicht nur Grenzen überschritten – Wir haben heilige Rubikons überschritten, die nach den dunkelsten Kapiteln der Menschheit entstanden sind. Der erste Verfassungszusatz, der aus einer Revolution gegen die Tyrannei hervorging, und der Nürnberger Kodex, der nach den Schrecken des Zweiten Weltkriegs geschaffen wurde, sollten unumstößliche Hüter der Menschenrechte sein. Beide wurden im Namen der „Sicherheit“ systematisch abgeschafft. Dieselben Taktiken der Desinformation, Angst und staatlichen Übergriffe, vor denen unsere Vorfahren gewarnt hatten, wurden mit erschreckender Effizienz eingesetzt.

Bei dieser systematischen Demontage blieb kein Thema unberührt: von Diskussionen über die Wirkung von Impfstoffen über Debatten über den Ursprung des Virus bis hin zu Fragen der Mandatspolitik. Der wissenschaftliche Diskurs wurde durch anerkannte Narrative ersetzt. Medizinische Forscher konnten keine Erkenntnisse teilen, die von institutionellen Positionen abwichen, wie die Entfernung von glaubwürdige Diskussionen über Covid-19-Daten und Politik. Sogar persönliche Erfahrungen wurden als „Fehlinformationen“ abgestempelt wenn sie nicht mit den offiziellen Botschaften übereinstimmten – ein Muster, das absurde Ausmaße annahm, als sogar die Natur der Zensur selbst diskutieren wurde zum Grund für Zensur.

Der Schaden zog sich durch alle Schichten der Gesellschaft. Auf der Ebene der Einzelnen wurden Karrieren zerstört und Berufszulassungen entzogen, nur weil sie echte Erfahrungen teilten. Wissenschaftler und Ärzte, die vorherrschende Narrative in Frage stellten, wurden beruflich geächtet. Viele fühlten sich isoliert oder irrational, weil sie ihren eigenen Augen und Erfahrungen vertrauten, als Plattformen ihre Berichte aus erster Hand als „Fehlinformationen“ bezeichneten.

Die Zerstörung familiärer Bindungen könnte sich als noch nachhaltiger erweisen. An Feiertagen waren die Tische leer. Großeltern verpassten unwiederbringliche Momente mit ihren Enkeln. Geschwister, die sich jahrzehntelang nahestanden, sprachen nicht mehr miteinander. Jahrelange familiäre Bindungen zerbrachen nicht an Meinungsverschiedenheiten über Fakten, sondern an dem bloßen Recht, darüber zu sprechen.

Am schlimmsten war vielleicht der Schaden auf Gemeindeebene. Örtliche Gruppen zersplitterten. Nachbarn wandten sich gegen Nachbarn. Kleine Unternehmen wurden auf schwarze Listen gesetzt. Kirchen wurden gespalten. Schulratssitzungen wurden zu Schlachtfeldern. Das soziale Gefüge, das die Zivilgesellschaft ermöglicht, begann sich aufzulösen – nicht weil die Menschen unterschiedliche Ansichten hatten, sondern weil die bloße Möglichkeit eines Dialogs als gefährlich angesehen wurde.

Die Zensoren haben gewonnen. Sie haben gezeigt, dass sie mit genügend institutioneller Macht das soziale Gefüge, das einen freien Diskurs ermöglicht, zerstören können. Jetzt, da diese Infrastruktur zur Unterdrückung existiert, steht sie bereit, erneut eingesetzt zu werden, wenn es dringend genug erscheint. Das Ausbleiben einer öffentlichen Abrechnung sendet eine beängstigende Botschaft: Es gibt keine Grenze, die nicht überschritten werden kann, kein Prinzip, das nicht ignoriert werden kann.

Eine echte Versöhnung erfordert mehr als Metas beiläufige Kehrtwende in der Politik. Wir brauchen eine vollständige, transparente Untersuchung, die jeden Fall von Zensur dokumentiert – von unterdrückten Berichten über Impfschäden über blockierte wissenschaftliche Debatten über den Ursprung des Virus bis hin zum Schweigen gebrachter Stimmen, die die Mandatspolitik in Frage stellen. Es geht nicht um Rechtfertigung – es geht darum, ein unangreifbares öffentliches Dokument zu erstellen, das sicherstellt, dass diese Taktiken nie wieder eingesetzt werden können.

Der erste Zusatzartikel unserer Verfassung war kein Vorschlag – er war ein heiliger Bund, geschrieben mit dem Blut derer, die gegen die Tyrannei kämpften. Seine Prinzipien sind keine überholten Relikte, sondern lebenswichtige Schutzmaßnahmen gegen genau die Übergriffe, die wir gerade erlebt haben. Wenn Institutionen diese Grundrechte als flexible Richtlinien und nicht als unantastbare Grenzen behandeln, reicht der Schaden weit über eine einzelne Plattform oder Politik hinaus.

Wie viele in unserem Umfeld haben wir dies aus erster Hand miterlebt. Aber persönliche Genugtuung ist nicht das Ziel. Jede Stimme, die zum Schweigen gebracht, jede Debatte, die unterdrückt, jede Beziehung, die im Dienste „genehmigter Narrative“ zerstört wird, stellt einen Riss in unserem sozialen Gefüge dar, der uns alle ärmer macht. Ohne eine vollständige Abrechnung und konkrete Schutzmaßnahmen gegen zukünftige Übergriffe lassen wir zukünftige Generationen anfällig für dieselben autokratischen Impulse, die nur in anderer Form auftreten.

Die Frage ist nicht, ob wir das Verlorene wiederherstellen können – das können wir nicht. Die Frage ist, ob wir diese Rechte endlich als wirklich unantastbar anerkennen oder sie weiterhin als lästige Hindernisse behandeln, die man beiseite schieben kann, wenn Angst und Dringlichkeit es erfordern. Benjamin Franklin warnte, dass diejenigen, die grundlegende Freiheiten aufgeben, um ein wenig vorübergehende Sicherheit zu erkaufen, weder Freiheit noch Sicherheit verdienen. Unsere Antwort auf diese Herausforderung wird bestimmen, ob wir unseren Kindern eine Gesellschaft hinterlassen, die grundlegende Freiheiten verteidigt, oder eine, die sie im Namen der Sicherheit leichtfertig aufgibt.

Hier ist das vollständige Transkript der Ankündigung von Mark Zuckerberg vom 7. Januar 2024:

Hallo zusammen. Ich möchte heute über etwas Wichtiges sprechen, denn es ist an der Zeit, zu unseren Wurzeln zurückzukehren, was die freie Meinungsäußerung auf Facebook und Instagram betrifft. Ich habe angefangen, soziale Medien aufzubauen, um den Menschen eine Stimme zu geben. Ich habe vor 5 Jahren in Georgetown eine Rede über die Wichtigkeit des Schutzes der freien Meinungsäußerung gehalten, und das glaube ich auch heute noch. Aber in den letzten Jahren ist viel passiert.

Es gibt eine breite Debatte über die möglichen Gefahren von Online-Inhalten, Regierungen und traditionelle Medien drängen auf immer stärkere Zensur. Vieles davon ist eindeutig politisch, aber es gibt auch eine Menge wirklich schlimmes Zeug da draußen. Drogen, Terrorismus, Kindesmissbrauch. Das sind Dinge, die wir sehr ernst nehmen, und ich möchte sicherstellen, dass wir verantwortungsvoll damit umgehen. Deshalb haben wir viele komplexe Systeme zur Moderation von Inhalten aufgebaut, aber das Problem mit komplexen Systemen ist, dass sie Fehler machen.

Selbst wenn sie nur 1 % der Beiträge versehentlich zensieren, sind das Millionen von Menschen. Und wir haben einen Punkt erreicht, an dem es einfach zu viele Fehler und zu viel Zensur gibt. Die jüngsten Wahlen fühlen sich auch wie ein kultureller Wendepunkt an, der der Redefreiheit wieder Priorität einräumt. Also werden wir zu unseren Wurzeln zurückkehren und uns darauf konzentrieren, Fehler zu reduzieren, unsere Richtlinien zu vereinfachen und die freie Meinungsäußerung auf unseren Plattformen wiederherzustellen. Genauer gesagt werden wir Folgendes tun.

Erstens werden wir die Faktenprüfer abschaffen und sie durch Community-Notizen ersetzen, ähnlich wie X, beginnend in den USA. Nachdem Trump 2016 zum ersten Mal gewählt wurde, schrieben die traditionellen Medien ununterbrochen darüber, dass Fehlinformationen eine Bedrohung für die Demokratie seien. Wir haben in gutem Glauben versucht, diese Bedenken auszuräumen, ohne uns zu Schiedsrichtern der Wahrheit zu machen, aber die Faktenprüfer waren einfach zu politisch voreingenommen und haben mehr Vertrauen zerstört als sie geschaffen haben, insbesondere in den USA. Daher werden wir in den nächsten Monaten schrittweise ein umfassenderes Community-Notiz-System einführen. Zweitens werden wir unsere Inhaltsrichtlinien vereinfachen und eine Reihe von Beschränkungen zu Themen wie Einwanderung und Geschlecht beseitigen, die einfach nicht mit dem Mainstream-Diskurs in Einklang stehen.

Was als Bewegung für mehr Inklusion begann, wird zunehmend dazu genutzt, Meinungen zu unterdrücken und Menschen mit anderen Ideen auszuschließen. Das ist zu weit gegangen. Deshalb möchte ich sicherstellen, dass die Menschen ihre Überzeugungen und Erfahrungen auf unseren Plattformen teilen können. Drittens ändern wir die Art und Weise, wie wir unsere Richtlinien durchsetzen, um die Fehler zu reduzieren, die für den Großteil der Zensur auf unseren Plattformen verantwortlich sind. Früher hatten wir Filter, die nach Richtlinienverstößen suchten. Jetzt werden wir diese Filter auf die Bekämpfung illegaler und schwerwiegender Verstöße konzentrieren.

Und bei weniger schwerwiegenden Verstößen verlassen wir uns darauf, dass jemand ein Problem meldet, bevor wir Maßnahmen ergreifen. Das Problem ist, dass die Filter Fehler machen und viele Inhalte entfernen, die sie nicht entfernen sollten. Indem wir sie also zurückschrauben, werden wir die Zensur auf unseren Plattformen drastisch reduzieren. Wir werden auch unsere Inhaltsfilter so anpassen, dass sie viel mehr Vertrauen erfordern, bevor sie Inhalte entfernen. In Wirklichkeit ist dies ein Kompromiss.

Das bedeutet, dass wir weniger schlimme Dinge aufdecken, aber auch die Anzahl der Posts und Accounts unschuldiger Leute verringern, die wir versehentlich löschen. Viertens bringen wir bürgernahe Inhalte zurück. Eine Zeit lang wollte die Community weniger Politik sehen, weil sie die Leute gestresst hat. Also haben wir aufgehört, diese Posts zu empfehlen, aber es fühlt sich an, als wären wir jetzt in einer neuen Ära und wir bekommen Feedback, dass die Leute diese Inhalte wieder sehen wollen. Also werden wir damit beginnen, diese wieder schrittweise in Facebook, Instagram und Threads zu integrieren und gleichzeitig daran arbeiten, die Communities freundlich und positiv zu halten.

Fünftens werden wir unsere Teams für Vertrauen und Sicherheit sowie Inhaltsmoderation aus Kalifornien verlegen und unsere US-basierte Inhaltsüberprüfung wird in Texas angesiedelt sein. Da wir uns für die Förderung der freien Meinungsäußerung einsetzen, denke ich, dass uns das dabei helfen wird, Vertrauen aufzubauen, um diese Arbeit an Orten zu tun, wo man sich weniger Sorgen um die Voreingenommenheit unserer Teams macht. Und schließlich werden wir mit Präsident Trump zusammenarbeiten, um Regierungen auf der ganzen Welt zur Rechenschaft zu ziehen, die amerikanische Unternehmen verfolgen und auf mehr Zensur drängen. Die USA haben den stärksten verfassungsmäßigen Schutz der freien Meinungsäußerung weltweit. In Europa gibt es immer mehr Gesetze, die die Zensur institutionalisieren und es schwierig machen, dort etwas Innovatives aufzubauen.

In den Ländern Lateinamerikas gibt es Geheimgerichte, die Unternehmen anweisen können, Dinge stillschweigend abzuschalten. China hat unsere Apps zensiert, sodass sie im Land überhaupt nicht funktionieren. Diesem globalen Trend können wir nur mit der Unterstützung der US-Regierung etwas entgegensetzen. Und deshalb war es in den letzten vier Jahren so schwierig, als selbst die US-Regierung auf Zensur drängte. Indem sie gegen uns und andere amerikanische Unternehmen vorging, ermutigte sie andere Regierungen, noch weiter zu gehen.

Aber jetzt haben wir die Chance, die freie Meinungsäußerung wiederherzustellen, und ich freue mich darauf, sie zu nutzen. Es wird einige Zeit dauern, bis wir das richtig hinbekommen. Und es handelt sich um komplexe Systeme. Sie werden nie perfekt sein. Es gibt auch eine Menge illegaler Dinge, an deren Beseitigung wir noch sehr hart arbeiten müssen.

Aber unterm Strich ist es nach Jahren, in denen sich unsere Arbeit zur Inhaltsmoderation hauptsächlich auf das Entfernen von Inhalten konzentriert hat, an der Zeit, sich auf die Reduzierung von Fehlern, die Vereinfachung unserer Systeme und eine Rückkehr zu unseren Wurzeln zu konzentrieren, nämlich den Menschen eine Stimme zu geben. Ich freue mich auf dieses nächste Kapitel. Bleiben Sie gut da draußen, und bald kommt mehr.“