Die Regierung finanziert KI-Tools für die Überwachung und Zensur im gesamten Internet

Ich fühle mich ängstlich. Sehr erschrocken.

Es gibt eine internetweite Überwachung und Zensur, die durch die unvorstellbar große Rechenleistung der künstlichen Intelligenz (KI) ermöglicht wird.

Dies ist keine futuristische Dystopie. Es passiert jetzt.

Regierungsbehörden arbeiten mit Universitäten und gemeinnützigen Organisationen zusammen, um mithilfe von KI-Tools Inhalte im Internet zu überwachen und zu zensieren.

Das ist weder politisch noch parteiisch. Dabei geht es nicht um eine bestimmte Meinung oder Idee. 

 Was geschieht, ist, dass der Regierung ein Tool zur Verfügung steht, das leistungsstark genug ist, um alles zu überwachen, was im Internet gesagt und getan wird (oder große Teile davon), um uns alle jederzeit zu überwachen. Und auf der Grundlage dieser Überwachung kann die Regierung – und jede Organisation oder jedes Unternehmen, mit dem die Regierung zusammenarbeitet – dasselbe Instrument nutzen, um alle Äußerungen, die ihr nicht gefallen, zu unterdrücken, zum Schweigen zu bringen und zum Schweigen zu bringen. 

Aber das ist nicht alles. Mit demselben Tool können die Regierung und ihre öffentlich-privaten, „nichtstaatlichen“ Partner (denken Sie zum Beispiel an die Weltgesundheitsorganisation oder Monsanto) auch alle Aktivitäten stoppen, die mit dem Internet verbunden sind. Bankgeschäfte tätigen, kaufen, verkaufen, lehren, lernen, unterhalten, miteinander in Kontakt treten – wenn der staatlich kontrollierten KI nicht gefällt, was Sie (oder Ihre Kinder!) in einem Tweet oder einer E-Mail sagen, kann sie all das für immer abschalten Du. 

Ja, wir haben dies auf sehr lokaler und politisierter Ebene gesehen, zum Beispiel bei die kanadischen Trucker. 

Aber wenn wir dachten, dass diese Art von Aktivität nicht auf nationaler (oder noch beängstigenderer – globaler) Ebene stattfinden könnte oder würde, müssten wir jetzt aufwachen und erkennen, dass sie stattfindet, und dass sie möglicherweise nicht aufzuhalten ist.

Neue Dokumente zeigen, dass staatlich finanzierte KI zur Online-Zensur gedacht ist

Der Unterausschuss des US-Repräsentantenhauses zur Bewaffnung der Bundesregierung wurde im Januar 2023 gegründet, „um Fragen im Zusammenhang mit der Sammlung, Analyse, Verbreitung und Nutzung von Informationen über US-Bürger durch Exekutivbehörden zu untersuchen, einschließlich der Frage, ob solche Bemühungen illegal, verfassungswidrig oder anderweitig unethisch sind.“

Bedauerlicherweise wird die Arbeit des Ausschusses, selbst von seinen eigenen Mitgliedern, weitgehend als politisch betrachtet: Konservative Gesetzgeber untersuchen, was ihrer Meinung nach das Schweigen konservativer Stimmen durch liberal ausgerichtete Regierungsbehörden darstellt. 

Dennoch hat dieses Komitee bei seinen Untersuchungen einige erstaunliche Dokumente im Zusammenhang mit Versuchen der Regierung, die Rede amerikanischer Bürger zu zensieren, aufgedeckt. 

Diese Dokumente haben entscheidende und erschreckende Auswirkungen auf die gesamte Gesellschaft.

Im Zwischenbericht des Unterausschusses heißt es: vom 5. Februar 2024Aus Dokumenten geht hervor, dass akademische und gemeinnützige Gruppen einer Regierungsbehörde einen Plan vorschlagen, KI-„Fehlinformationsdienste“ zu nutzen, um Inhalte auf Internetplattformen zu zensieren.

Konkret erklärt die University of Michigan gegenüber der National Science Foundation (NSF), dass die von der NSF finanzierten KI-gestützten Tools genutzt werden können, um Social-Media-Plattformen bei der Durchführung von Zensuraktivitäten zu unterstützen, ohne dass tatsächlich Entscheidungen darüber getroffen werden müssen, was zensiert werden soll.

So wird die Beziehung im Bericht des Unterausschusses dargestellt:

Hier ist ein spezifisches Zitat im Bericht des Unterausschusses. Es stammt aus „Anmerkungen des Redners vom ersten Pitch der University of Michigan vor der National Science Foundation (NSF) über ihr von der NSF finanziertes, KI-gestütztes WiseDex-Tool.“ Die Notizen sind beim Ausschuss archiviert.

Unser Fehlinformationsdienst hilft politischen Entscheidungsträgern auf Plattformen, die die Verantwortung für schwierige Urteile auf jemanden außerhalb des Unternehmens abwälzen möchten, indem sie die schwierige Verantwortung der Zensur nach außen tragen.

Dies ist auf so vielen Ebenen eine außergewöhnliche Aussage:

1. Darin wird „Fehlinformationsdienst“ ausdrücklich mit Zensur gleichgesetzt. 

Dies ist eine entscheidende Gleichung, da Regierungen weltweit vorgeben, schädliche Fehlinformationen zu bekämpfen, obwohl sie dies tatsächlich tun Verabschiedung massiver Zensurgesetzedem „Vermischten Geschmack“. Seine WEF erklärt „Fehlinformation und Desinformation“ seien die „größten globalen Risiken“ in den nächsten zwei Jahren, was vermutlich bedeutet, dass ihre größten Anstrengungen in Richtung Zensur gehen werden.

Wenn ein staatlicher Auftragnehmer ausdrücklich angibt, dass er einen „Fehlinformationsdienst“ verkauft, der Online-Plattformen dabei hilft, „Zensur zu externalisieren“, werden die beiden Begriffe als austauschbar anerkannt.

2. Es bezeichnet Zensur als „Verantwortung“. 

Mit anderen Worten geht man davon aus, dass ein Teil dessen, was die Plattformen tun sollten, Zensur ist. Weder der Schutz von Kindern vor Sexualstraftätern noch der Schutz unschuldiger Bürger vor Fehlinformationen – schlicht und einfach reine Zensur.

3. Darin heißt es, dass die Rolle der KI darin besteht, die Verantwortung für die Zensur zu „externalisieren“.

Die Tech-Plattformen wollen keine Zensurentscheidungen treffen. Die Regierung möchte diese Entscheidungen treffen, möchte aber nicht als Zensur wahrgenommen werden. Die KI-Tools ermöglichen es den Plattformen, die Zensurentscheidungen zu „externalisieren“ und der Regierung, ihre Zensuraktivitäten zu verbergen.

All dies sollte der Illusion ein Ende setzen, dass das, was Regierungen auf der ganzen Welt als „Bekämpfung von Fehlinformationen und Hassreden“ bezeichnen, keine reine Zensur ist.

Was passiert, wenn die KI-Zensur vollständig umgesetzt ist?

Da wir wissen, dass die Regierung bereits für KI-Zensurinstrumente bezahlt, müssen wir uns darüber im Klaren sein, was das bedeutet.

Keine Personalbegrenzung: Wie aus dem Bericht des Unterausschusses hervorgeht, bestanden die Grenzen der staatlichen Online-Zensur bisher darin, dass eine große Zahl von Menschen erforderlich war, um endlose Dateien zu durchsuchen und Zensurentscheidungen zu treffen. Mit KI müssen kaum Menschen beteiligt sein, und die Datenmenge, die überwacht werden kann, kann so groß sein wie alles, was jemand auf einer bestimmten Plattform sagt. Diese Datenmenge ist für ein einzelnes menschliches Gehirn unverständlich.

Niemand ist verantwortlich: Einer der beängstigendsten Aspekte der KI-Zensur besteht darin, dass, wenn KI dies tut, kein Mensch oder keine Organisation – sei es die Regierung, die Plattformen oder die Universität/gemeinnützige Organisationen – tatsächlich für die Zensur verantwortlich ist. Zunächst geben Menschen dem KI-Tool Anweisungen, welche Kategorien oder Arten von Sprache zensiert werden sollen, doch dann macht die Maschine weiter und trifft die Entscheidungen von Fall zu Fall ganz von selbst. 

Kein Regressanspruch bei Beschwerden: Sobald die KI mit einer Reihe von Zensuranweisungen entfesselt wird, wird sie Unmengen von Online-Datenpunkten durchsuchen und Zensurmaßnahmen ergreifen. Wenn Sie eine KI-Zensuraktion anfechten möchten, müssen Sie mit der Maschine sprechen. Möglicherweise beschäftigen die Plattformen Menschen, um auf Einsprüche zu reagieren. Aber warum sollten sie das tun, wenn sie über eine KI verfügen, die diese Reaktionen automatisieren kann?

Kein Jugendschutz: Eine der Behauptungen staatlicher Zensoren ist, dass wir unsere Kinder vor schädlichen Online-Informationen schützen müssen, etwa vor Inhalten, die sie magersüchtig machen, sie zum Selbstmord ermutigen, sie zu ISIS-Terroristen machen und so weiter. Auch durch sexuelle Ausbeutung. Das sind alles ernste Probleme, die Aufmerksamkeit verdienen. Aber sie sind für eine große Zahl junger Menschen bei weitem nicht so gefährlich wie die KI-Zensur.

Die von der KI-Zensur ausgehende Gefahr gilt für alle jungen Menschen, die viel Zeit online verbringen, denn dadurch können ihre Online-Aktivitäten und ihre Sprache überwacht und gegen sie verwendet werden – vielleicht nicht jetzt, aber immer dann, wenn die Regierung beschließt, einen bestimmten Typ zu verfolgen von Sprache oder Verhalten. Für eine viel größere Zahl von Kindern stellt dies eine weitaus größere Gefahr dar als die Gefahr, die von bestimmten Inhalten ausgeht, da sie alle Aktivitäten umfasst, die sie online durchführen und nahezu jeden Aspekt ihres Lebens berühren. 

Hier ist ein Beispiel, um diese Gefahr zu veranschaulichen: Nehmen wir an, Ihr Teenager spielt viele interaktive Videospiele online. Nehmen wir an, er bevorzugt Spiele, die von chinesischen Unternehmen entwickelt wurden. Vielleicht schaut er auch anderen beim Spielen dieser Spiele zu und nimmt an Chats und Diskussionsgruppen über diese Spiele teil, an denen auch viele Chinesen teilnehmen.

Die Regierung könnte nächsten Monat oder nächstes Jahr entscheiden, dass jeder, der sich intensiv mit in China entwickelten Videospielen beschäftigt, eine Gefahr für die Demokratie darstellt. Dies kann dazu führen, dass die Social-Media-Konten Ihres Sohnes geschlossen werden oder ihm der Zugang zu Finanzinstrumenten wie Studienkrediten verweigert wird. Es könnte auch bedeuten, dass er auf Job- oder Dating-Websites als gefährlich oder unerwünscht gekennzeichnet wird. Das könnte bedeuten, dass ihm ein Reisepass verweigert wird oder er auf eine Beobachtungsliste gesetzt wird.

Das Leben Ihres Teenagers ist gerade viel schwieriger geworden. Viel schwieriger, als wenn er einem ISIS-Rekrutierungsvideo oder einem selbstmordverherrlichenden TikTok-Beitrag ausgesetzt wäre. Und dies würde in viel größerem Maßstab geschehen sexuelle Ausbeutung durch die Zensoren als Trojanisches Pferd zur Normalisierung der Idee der Online-Zensur durch die Regierung.

Monetarisierungsfähige Zensurdienste: Ein KI-Tool im Besitz der Regierung kann theoretisch von einer Nichtregierungsorganisation mit Erlaubnis der Regierung und mit dem Segen der Plattformen verwendet werden, die die „Verantwortung“ für die Zensur „externalisieren“ wollen. Während also die Regierung KI einsetzen könnte, um beispielsweise die Antikriegsstimmung zu überwachen und zu unterdrücken, könnte ein Unternehmen sie beispielsweise zur Überwachung und Unterdrückung der Anti-Fast-Food-Stimmung nutzen. Die Regierung könnte viel Geld verdienen, indem sie die Dienste der KI-Tools an Dritte verkauft. Auch die Plattformen könnten eine Kürzung verlangen. Daher können KI-Zensurtools möglicherweise der Regierung, Technologieplattformen und privaten Unternehmen zugute kommen. Die Anreize sind so stark, dass man sich kaum vorstellen kann, dass sie nicht genutzt werden.

Können wir den Kurs umkehren?

Ich weiß nicht, wie viele Regierungsbehörden und wie viele Plattformen KI-Zensurtools verwenden. Ich weiß nicht, wie schnell sie wachsen können.

Ich weiß nicht, welche Instrumente uns zur Verfügung stehen – außer der Sensibilisierung und dem Versuch, Einfluss auf Politiker zu nehmen und Klagen einzureichen, um staatliche Zensur zu verhindern und den Einsatz von KI-Tools im Internet zu regulieren.

Wenn jemand noch andere Ideen hat, wäre es jetzt an der Zeit, diese umzusetzen.