War „Philip Cross“ eine KI?

Neben Brownstone-Autor Jennifer SeiIch erhielt eine lobende Erwähnung in Walter Bragmans „Atemlos“. Wichtiger Kontext: Durchgesickerte E-Mails des Brownstone Institute enthüllen Unterstützung für Kinderarbeit und das Rauchen von Minderjährigen. Bragman hat sich entschieden, den Hashtag anzuhängen #Brownstonefiles in einem offensichtlichen Hinweis auf die Twitter-Dateien, aber es ist etwas weniger wirkungsvoll. Zum Zeitpunkt des Verfassens dieses Artikels gab es insgesamt zwei aufeinanderfolgende Tweets, die beide Bragman feindselig gegenüberstanden. 

Bragmann Berichte dass Blumen in den durchgesickerten E-Mails, die er eingesehen hatte, „eine Anekdote über Seiten von Antikriegsaktivisten erzählte, die von einem einzelnen, möglicherweise automatisierten Benutzer langsam im Laufe der Zeit bearbeitet wurden.“ 

Bragman hat recht. Ich habe die Geschichte von Philip Cross in einer internen E-Mail zur Brownstone-Autorenliste angesprochen. Die Geschichte ist wichtig, über die ich seit 2018, als sie zum ersten Mal herauskam, nicht viel nachgedacht hatte. Angesichts der aktuellen Nachrichten sieht diese Geschichte ganz anders aus als noch vor fünf Jahren. Ich werde diese Geschichte in diesem aktuellen Artikel noch einmal aufgreifen und anschließend analysieren, wie sich die Welt in den letzten fünf Jahren verändert hat. 

Die Geschichte kam 2018 ans Licht, als der ehemalige britische Abgeordnete George Galloway, seit langem bekannt für seine Antikriegsansichten, rief einen mysteriösen Wikipedia-Redakteur namens „Philip Cross“ zur Anzeige, weil er unvorteilhafte Änderungen an seiner Wikipedia-Seite vorgenommen hatte. BBC News berichtete Galloways Wortgefecht mit einem mysteriösen Wikipedia-Redakteur.

Gegenstand von Galloways Zorn ist ein produktiver Wikipedia-Redakteur namens „Philip Cross“. Er war Gegenstand einer großen Debatte in der Internet-Enzyklopädie – einer der beliebtesten Websites der Welt – und auch auf Twitter. Und ihm wurde Voreingenommenheit vorgeworfen, weil er mit einigen der Leute, deren Wikipedia-Seiten er bearbeitet hat, teilweise negativ umging.

Der Philip Cross-Account wurde am 18. Oktober 48 um genau 26:2004 GMT erstellt. Seitdem hat er mehr als 130,000 Änderungen an mehr als 30,000 Seiten vorgenommen (sic). Das ist eine beträchtliche Menge, aber nicht besonders ungewöhnlich – es sind beispielsweise nicht genug Änderungen, um ihn in die Top 300 der Redakteure auf Wikipedia zu bringen.

Aber was er redigiert, beschäftigt Antikriegspolitiker und Journalisten. Zu seinen Top 10 der am häufigsten bearbeiteten Seiten gehören der Jazzmusiker Duke Ellington, die Zeitung The Sun und der Herausgeber der Daily Mail, Paul Dacre. Aber auch in diesen Top 10 gibt es eine Reihe lautstarker Kritiker der amerikanischen und britischen Außenpolitik: den Journalisten John Pilger, den Labour-Parteichef Jeremy Corbyn und Corbyns Strategiedirektor Seamus Milne.

Seine Kritiker sagen auch, dass Philip Cross Seiten über Persönlichkeiten des öffentlichen Lebens, die die westliche Militärintervention im Nahen Osten unterstützen, positiv bearbeitet hat. 

...

„Seine Änderungen richten sich schonungslos an Menschen, die den Irak-Krieg ablehnen, die sich gegen die darauffolgenden Interventionskriege in Libyen und Syrien ausgesprochen haben, und an Menschen, die Israel kritisieren“, sagt Galloway. 

Mintpress veröffentlicht in einem ausgezeichnete Zusammenfassung der Kommentare um dieses Thema herum und zitiert Ron McKay im Edinburgh Sunday Herald:

Man muss kein Verschwörungstheoretiker sein, um zu erkennen, dass es hier Gemeinsamkeiten gibt. Bei all diesen [Zielen] handelt es sich um … prominente Aktivisten in den sozialen Medien und in den Mainstream-Medien, die unsere Außenpolitik energisch in Frage stellen. 

Der ehemalige britische Botschafter Craig Murray, auch bekannt für seine Antikriegsansichten und seine Unterstützung des Wikileaks-Gründers Julian Assange, machte einen ähnlichen Punkt: 

[…] Der Zweck der „Philip Cross“-Operation besteht darin, den Ruf derjenigen systematisch anzugreifen und zu untergraben, die das vorherrschende Narrativ der Unternehmens- und Staatsmedien, insbesondere in der Außenpolitik, herausfordern. 

Antikriegsseite medialens.org gefragt: 

Andere bemerkenswerte Antikriegsstimmen sowie Noam Chomsky, Edward S. Herman (Co-Autor des Buches Fertigungszustimmung), Und Rania Chalek waren ebenfalls Gegenstand der unerbittlichen Verunstaltungskampagne von Cross. 

Amb Murray stellte die folgenden erstaunlichen Tatsachen fest: 

Der nicht identifizierte Herausgeber, „Konto ist für 20.4 % aller Bearbeitungen verantwortlich“ von Galloways Seite (die Cross hatte über 1800 Mal redigiert), sagte die BBC, die weiterhin detailliert auf den Inhalt bestimmter Änderungen eingeht, die völlig in die wenig schmeichelhafte oder negative Richtung gingen.

UPDATE „Philip Cross“ hatte seit fast fünf Jahren keinen einzigen Tag frei, um Wikipedia zu bearbeiten. „Er“ hat vom 29. August 2013 bis zum 14. Mai 2018 jeden einzelnen Tag redigiert. Darunter fünf Weihnachtstage. Das sind 1,721 aufeinanderfolgende Bearbeitungstage.

So wurden im Namen von „Philip Cross“ im Laufe von 133,612 Jahren 14 Änderungen an Wikipedia vorgenommen. Das sind über 30 Bearbeitungen pro Tag, sieben Tage die Woche. Und ich verwende das nicht im übertragenen Sinne: Wikipedia-Änderungen sind zeitlich festgelegt, und wenn man sie aufzeichnet, ist die Zeitkarte für die Wikipedia-Aktivität von „Philip Cross“ erstaunlich, wenn es sich um eine Einzelperson handelt:

Der Betrieb läuft wie am Schnürchen, sieben Tage die Woche, jede wache Stunde, ohne nennenswerte Abweichungen.

Amb Murray vorausgesetzt Das folgende Diagramm zeigt die Produktivität von „Philip Cross“ bei der Änderung von Wikipedia-Seiten nach Wochentagen im Durchschnitt der 14 Aktivitätsjahre: 

Wer ist oder war dieser Philip Cross? Nach dem oben erwähnten BBC-Artikel beendete Cross seine Vandalismus-Karriere Platz 308 einer der aktivsten Wikipedia-Redakteure aller Zeiten. Sein Der ehemalige Twitter-Account @philipcross63 existiert nicht mehr. Niemand, der es weiß, erzählt es. Galloway denkt dass Cross eine „echte und verletzliche Person“ ist. 

Amb Murray merkt an dass Galloway einmal eine Belohnung von 1,000 Pfund für die Identität dieser Person oder Organisation ausgesetzt hatte, „damit er auch rechtliche Schritte einleiten kann“. MediaLens Staaten dass „BBC Trending feststellen konnte, dass er in England lebt und dass Philip Cross nicht der Name ist, den er außerhalb von Wikipedia normalerweise trägt.“ Everipedia.org gibt an „Cross ist ein Jazz- und Drama-Enthusiast.“ Ich vermute, dass er wahrscheinlich auch gerne lange Strandspaziergänge macht und es sich mit einer Kopie davon vor dem offenen Kamin gemütlich macht New York Times. 

Amb Murray bietet : 

Hier gibt es drei Möglichkeiten. „Philip Cross“ ist entweder tatsächlich eine sehr seltsame Person oder eine falsche Person, die eine bezahlte Operation zur Kontrolle von Wikipedia-Inhalten tarnt, oder eine echte Frontperson für eine solche Operation in seinem Namen.

und

Meiner Ansicht nach handelt es sich bei Philip Cross wahrscheinlich um eine reale Person, er tritt jedoch als Frontmann einer Gruppe auf, die unter seinem Namen agiert. Es ist unbestreitbar wahr, tatsächlich hat die Regierung damit geprahlt, dass sowohl das MOD als auch das GCHQ „Cyberkrieg“-Operationen durchführen, die darauf abzielen, das „offizielle“ Narrativ gegen alternative Nachrichtenmedien zu verteidigen, und genau das ist der Zweck des „Philip Cross“. Betrieb auf Wikipedia. Die extreme Regelmäßigkeit der Produktion spricht dagegen, dass „Philip Cross“ entweder ein Ein-Mann- oder Freiwilligenbetrieb ist. Ich schließe jedoch nicht aus, dass er tatsächlich nur ein einziger extrem besessener rechter Fanatiker ist.

Ein Wikipedia-Editor in einem Seitenkanal äußerte Besorgnis dass der Ruf von Wikipedia (so wie er ist) gestärkt werden könnte, als die ungewöhnlichen Aktivitäten von „Philip Cross“ ans Licht kamen. 

Hatte die Geschichte ein Happy End? Im August 2018, berichtet von Five Filters„Der Schlichtungsausschuss von Wikipedia (ArbCom) hat schließlich dafür gestimmt Verbotsredakteur Philip Cross aus dem Thema ‚britische Politik nach 1978‘.“ Aber warten Sie – nicht so schnell. „In einem kleinlichen Vergleich entschied die Schlichtungskommission von Wikipedia jedoch, dass sie auch den Redakteur bestrafen würde, der versucht hatte, die Community auf das Verhalten von Philip Cross aufmerksam zu machen.“

Ich war mir der Philip-Cross-Geschichte bewusst, als sie 2018 bekannt wurde. Damals hatte ich keine Erklärung dafür. Es kam mir unheimlich seltsam vor und ich dachte nicht an Bots oder die Automatisierung natürlicher Sprache. 

Die jüngsten bahnbrechenden Twitter-Enthüllungen über die Existenz und das enorme Ausmaß von ein organisierter Zensur-Industriekomplex (CIC) machen den Verdacht auf Zensur im offiziellen Sektor, vielleicht in einer früheren Version vor fünf Jahren, weitaus plausibler. FiveFilters.org schrieb im Jahr 2018: „Fast die gesamte Wikipedia wird von nur 1 Prozent ihrer Herausgeber geschrieben.“ Das gleiche Stück zitiert einen Artikel von Daniel Oberhaus in Schraubstock von 2017 zur Konzentration der Wikipedia-Bearbeitung:

Doch als die Enzyklopädie wuchs und damit auch die Zahl der Mitarbeiter wuchs, entstand ein Kader eingefleischter Redakteure, die seitdem für den Großteil des Wachstums von Wikipedia verantwortlich sind.

Matei und sein Kollege Brian Britt, Assistenzprofessor für Journalismus an der South Dakota State University, nutzten einen Algorithmus für maschinelles Lernen, um die Viertelmilliarde öffentlich zugänglicher Bearbeitungsprotokolle aus dem ersten Jahrzehnt ihres Bestehens zu durchsuchen. Die Ergebnisse dieser Forschung wurden im September veröffentlicht ein Buchweist darauf hin, dass trotz des Anspruchs von Wikipedia, eine von einem Netzwerk frei zusammenarbeitender Peers erstellte Website zu sein, „einige Peers gleichberechtigter sind als andere“.

Der ausführliche Artikel auf racket.news zitiert mehrere Fälle von CIC-Akteuren, die KI und die Verarbeitung natürlicher Sprache nutzen. Der Projekt für öffentliche Güter, beispielsweise, 

Verwenden Sie KI und die Verarbeitung natürlicher Sprache, um „Erzählungen, Trends und dringende Probleme zu identifizieren, zu verfolgen und darauf zu reagieren“, um „Faktenprüfungen durchzuführen“ und „Strategien zur Verhaltensänderung durchzusetzen“.

Eine aktuelle Geschichte über Igor Chodovs Substack, Von Bill Gates finanzierte KI-Chatbots förderten COVID-Impfstoffe (Sie sind ihnen möglicherweise in sozialen Netzwerken begegnet) Darin wird ein Artikel von Nature.com zitiert Wirksamkeit von Chatbots auf das Vertrauen und die Akzeptanz von COVID-Impfstoffen in Thailand, Hongkong und Singapur bietet weitere Informationen zum Einsatz von Bots im Dienste der Narrativkontrolle. 

Das jüngste Aufkommen leistungsstarker großer Sprachmodelle macht die Idee der Automatisierung plausibler. Wenn nicht im Jahr 2018, könnte ein LLM einen bestimmten Text jetzt leicht umschreiben, um ihn in die gewünschte Richtung zu neigen. 

Gab es damals Modelle, die das konnten? Werden zukünftige Kampagnen zur Kontrolle von Wikipedia-Erzählungen auf dieser Technologie basieren? Wie sieht die Zukunft einer Crowdsourcing-Wissensdatenbank wie Wikipedia aus, die von den hohen Kosten an menschlicher Zeit und sozialer Interaktion abhängt, die mit der Bearbeitung eines kontroversen Themas verbunden sind, wenn die Möglichkeit, diese zu automatisieren, sie nahezu kostenlos macht?