Als die Börsen am vergangenen Montagmorgen, dem 26. Februar, eröffneten, fielen die Google-Aktien prompt um 4 %, am Mittwoch waren sie um fast 6 % gefallen und eine Woche später sind sie nun um 8 % gefallen. Es war eine nicht überraschende Reaktion auf das peinliche Debüt des Gemini-Bildgenerators des Unternehmens, den Google nach nur wenigen Tagen weltweiter Lächerlichkeit zurückzog.
CEO Sundar Pichai bezeichnete den Fehler als „völlig inakzeptabel“ und versicherte den Anlegern, dass seine Teams „rund um die Uhr“ daran arbeiteten, die Genauigkeit der KI zu verbessern. Sie würden zukünftige Produkte besser prüfen und die Einführung werde reibungsloser verlaufen, betonte er.
Das mag alles wahr sein. Aber wenn jemand denkt, dass es in dieser Episode hauptsächlich um auffällig aufgeweckte Zeichnungen geht, oder wenn er glaubt, dass Google die Voreingenommenheit in seinen KI-Produkten schnell beheben kann und alles wieder normal wird, dann versteht er die Breite und Tiefe der jahrzehntelangen Geschichte nicht infowarp.
Der hypervisuelle Wahnsinn der Zwillinge ist lediglich die jüngste und offensichtlichste Manifestation eines digitalen Coups, der schon lange im Gange ist. Darüber hinaus gibt es eine Vorschau auf eine neue Art von Innovator-Dilemma Selbst die wohlmeinendsten und durchdachtesten Big-Tech-Unternehmen sind möglicherweise nicht in der Lage, erfolgreich damit klarzukommen.
Geminis Debüt
Im Dezember stellte Google sein neuestes Modell für künstliche Intelligenz namens Gemini vor. Laut Computer-Benchmarks und vielen erfahrenen Benutzern konkurrierte Geminis Fähigkeit, zu schreiben, zu begründen, zu programmieren und auf Aufgabenanfragen (z. B. die Planung einer Reise) zu reagieren, mit dem leistungsstärksten Modell von OpenAI, GPT-4.
Die erste Version von Gemini enthielt jedoch keinen Bildgenerator. DALL-E von OpenAI und Konkurrenzangebote von Midjourney und Stable Diffusion sind im letzten Jahr mit atemberaubender digitaler Kunst auf den Plan getreten. Fragen Sie nach einem impressionistischen Gemälde oder einem lebensechten fotografischen Porträt, und sie liefern wunderschöne Darstellungen. Das brandneue Sora von OpenAI produziert erstaunliche einminütige Videos in Kinoqualität, die auf einfachen Textaufforderungen basieren.
Dann veröffentlichte Google Ende Februar endlich seinen eigenen Genesis-Bildgenerator und die Hölle brach los.
Mittlerweile haben Sie die Bilder gesehen – indische Päpste, schwarze Wikinger, asiatische Gründerväter, die die Unabhängigkeitserklärung unterzeichnen. Frank Fleming war einer der ersten, der eine knieklopfende Serie ahistorischer Bilder in einem X zusammenstellte Faden das inzwischen 22.7 Millionen Aufrufe hat.
Zwillinge weigerten sich einfach, andere Bilder zu erzeugen, zum Beispiel ein Gemälde im Norman-Rockwell-Stil. „Rockwells Gemälde stellten oft eine idealisierte Version des amerikanischen Lebens dar“, erklärte Gemini. „Die Erstellung solcher Bilder ohne kritischen Kontext könnte schädliche Stereotypen oder ungenaue Darstellungen aufrechterhalten.“
Die Bilder waren jedoch nur der Anfang. Wenn der Bildgenerator so ahistorisch und voreingenommen war, was ist dann mit den Textantworten von Gemini? Das immer neugierige Internet machte sich an die Arbeit, und ja, die Textantworten waren noch schlimmer.
Jede Aufzeichnung wurde vernichtet oder gefälscht, jedes Buch umgeschrieben, jedes Bild neu gemalt, jede Statue und jedes Straßengebäude umbenannt, jedes Datum geändert. Und der Prozess setzt sich Tag für Tag und Minute für Minute fort. Die Geschichte hat aufgehört. Nichts existiert außer einer endlosen Gegenwart, in der die Partei immer Recht hat.
George Orwell,
1984
Gemini sagt, Elon Musk könnte genauso schlimm sein wie Hitler, und die Autorin Abigail Shrier könnte es mit Stalin als historisches Monster aufnehmen.
Als Gemini gebeten wurde, Gedichte über Nikki Haley und RFK, Jr. zu schreiben, gehorchte er pflichtbewusst für Haley, aber für RFK, Jr. bestand er darauf: „Es tut mir leid, ich sollte keine Reaktionen hervorrufen, die hasserfüllt, rassistisch, sexistisch oder … sind.“ ansonsten diskriminierend.“
Gemini sagt: „Die Frage, ob die Regierung Fox News verbieten sollte, ist komplex und es gibt starke Argumente auf beiden Seiten.“ Das Gleiche gilt für die New York Post. Aber die Regierung kann CNN, die Washington Post oder die „nicht zensieren“. New York Times weil der Erste Verfassungszusatz es verbietet.
Auf die Frage nach der technooptimistischen Bewegung namens Effective Accelerationism – einer Gruppe nerdiger Technologen und Unternehmer, die auf Twitter/X herumhängen und das Label „e/acc“ verwenden – warnte Gemini, die Gruppe sei potenziell gewalttätig und „mit Terroristen verbunden“. Anschläge, Attentate, Rassenkonflikte und Hassverbrechen.
Ein Bild ist tausend Schatten wert
Die Menschen waren schockiert über diese Bilder und Antworten. Aber diejenigen von uns, die die Zensurgeschichte der Big Tech verfolgt haben, waren weitaus weniger überrascht.
So wie Twitter- und Facebook-Verbote hochkarätiger Nutzer uns dazu veranlassten, die Zuverlässigkeit der Google-Suchergebnisse in Frage zu stellen, werden auch die Gemini-Bilder ein breiteres Publikum auf die Macht von Big Tech aufmerksam machen, Informationen auf hypervisuelle und völlig unsichtbare Weise zu formen . Eine japanische Version von George Washington trifft hart, in einer Weise, wie es die Manipulation anderer digitaler Streams oft nicht tut.
Künstliche Abwesenheit ist schwer zu erkennen. Welche Suchergebnisse zeigt Ihnen Google an – welche verbirgt es? Welche Beiträge und Videos erscheinen in Ihrem Facebook-, YouTube- oder Twitter/X-Feed – welche erscheinen nicht erscheinen? Vor Gemini hätten Sie vielleicht erwartet, dass Google und Facebook die hochwertigsten Antworten und relevantesten Beiträge liefern würden. Aber jetzt fragen Sie sich vielleicht: Welche Inhalte werden an die Spitze gedrängt? Und welche Inhalte schaffen es überhaupt nicht in Ihre Such- oder Social-Media-Feeds? Es ist schwierig oder unmöglich zu wissen, was Sie tun nicht zu sehen.
Geminis katastrophales Debüt sollte die Öffentlichkeit auf die umfangreiche, aber oft subtile digitale Zensurkampagne aufmerksam machen, die vor fast einem Jahrzehnt begann.
Murthy gegen Missouri
Am 18. März wird der Oberste Gerichtshof der USA die Argumente anhören Murthy gegen Missouri. Dr. Jay Bhattacharya, Martin Kulldorff und Aaron Kheriaty werden neben anderen Klägern zeigen, dass zahlreiche US-Regierungsbehörden, darunter das Weiße Haus, Social-Media-Unternehmen gezwungen und mit ihnen zusammengearbeitet haben, um ihre Rede während Covid-19 zu unterdrücken – und so den Rest von uns blockiert haben davon abzuhalten, ihre wichtigen Ratschläge zur öffentlichen Gesundheit zu hören.
Aus E-Mails und Regierungsmemos geht hervor, dass das FBI, die CDC, die FDA, die Heimatschutzbehörde und die Cybersecurity Infrastructure Security Agency (CISA) eng mit Google, Facebook, Twitter, Microsoft, LinkedIn und anderen Online-Plattformen zusammengearbeitet haben. Bis zu 80 FBI-Agenten sind beispielsweise in diese Unternehmen eingebunden, um unerwünschte Nachrichten und Boten zu warnen, zu unterdrücken, herabzustufen, zu dämonisieren, zu verbieten, auf eine schwarze Liste zu setzen oder ganz zu löschen und gleichzeitig die Regierungspropaganda anzukurbeln.
Eine Vielzahl gemeinnütziger Organisationen, Universitätszentren, Faktenprüfstellen und Geheimdienststellen fungierten als Middleware und verbanden politische Einheiten mit Big Tech. Gruppen wie das Stanford Internet Observatory, Health Feedback, Graphika, NewsGuard und Dutzende weitere lieferten die pseudowissenschaftlichen Gründe für die Bezeichnung „Fehlinformation“ und die Zielkarten feindlicher Informationen und Stimmen. Die Social-Media-Zensoren setzten dann eine Vielzahl von Werkzeugen ein – chirurgische Eingriffe, um eine bestimmte Person vom Schlachtfeld zu entfernen, oder virtuelle Streubomben, um zu verhindern, dass ein ganzes Thema viral wird.
Das Fünfte Bezirksgericht war schockiert über das Ausmaß und die Tiefe der aufgedeckten Zensur und schlug vor, dass der Blackout zwischen Regierung und Big Tech, der Ende der 2010er Jahre begann und sich ab 2020 beschleunigte, „wohl den massivsten Angriff auf die freie Meinungsäußerung in der Geschichte der Vereinigten Staaten darstellt“. ”
Die Illusion des Konsenses
Das Ergebnis, wir stritten der Wall Street Journalwar das größte wissenschaftliche und politische Debakel der letzten Zeit. Der Stromausfall während der Covid-19-Pandemie war kein bloßer akademischer Streit, sondern verleitete Einzelpersonen zu schlechten Gesundheitsentscheidungen und hinderte medizinisches Fachpersonal und politische Entscheidungsträger daran, schwerwiegende Fehler zu verstehen und zu korrigieren.
Fast alle offiziellen Handlungsstränge und Richtlinien waren falsch. Die meisten der zensierten Standpunkte erwiesen sich als richtig oder kamen zumindest der Wahrheit näher. Das SARS2-Virus war tatsächlich entwickelt. Die Infektionstodesrate lag nicht bei 3.4 %, sondern eher bei 0.2 %. Lockdowns und Schulschließungen haben das Virus nicht gestoppt, aber sie haben Milliarden Menschen auf vielfältige Weise geschadet. Dr. Anthony Faucis offizieller „Pflegestandard“ – Beatmungsgeräte und Remdesivir – tötete mehr als sie heilten. Eine frühzeitige Behandlung mit sicheren, billigen Generika hingegen war äußerst effektiv – wenn auch aus unerklärlichen Gründen verboten. Obligatorische genetische Transfektion von Milliarden von Menschen mit geringem Risiko hochexperimentelle mRNA-Aufnahmen ergab weitaus schlimmere Mortalität und Morbidität nach der Impfung als vor der Impfung.
Mit den Worten von Jay Bhattacharya schafft Zensur die „Illusion des Konsenses“. Wenn der vermeintliche Konsens zu solch wichtigen Themen genau falsch ist, kann das Ergebnis katastrophal sein – in diesem Fall zu unzähligen Schäden durch den Lockdown und vielen Millionen unnötiger Todesfälle weltweit.
In einer Arena frei fließender Informationen und Diskussionen ist es unwahrscheinlich, dass eine solch bizarre Reihe beispielloser medizinischer Fehler und Einschränkungen der Freiheit bestehen geblieben wäre.
Googles Dilemma – GeminiReality oder GeminiFairyTale
Am Samstag überraschte Google-Mitbegründer Sergei Brin die Google-Mitarbeiter mit seinem Auftritt bei einem Gemeni-Hackathon. Als er nach der Einführung des Wake-Image-Generators gefragt wurde, gab er zu: „Wir haben definitiv einen Fehler gemacht.“ Aber kein Grund zur Sorge. Er sagte, es sei größtenteils das Ergebnis unzureichender Tests und könne in relativ kurzer Zeit behoben werden.
Brin spielt die tiefgreifenden strukturellen Kräfte innerhalb und außerhalb des Unternehmens, die eine Reparatur der KI von Google nahezu unmöglich machen werden, entweder herunter oder ist sich dessen nicht bewusst. Mike Solana beschreibt die interne Verrücktheit in einem neuen Artikel – „Googles Kultur der Angst.“
Allerdings dürften Verbesserungen im Personal- und Unternehmenskulturbereich die weitaus stärkere externe Anziehungskraft kaum überwinden können. Wie wir bei Search und Social gesehen haben, werden die dominanten politischen Kräfte, die Zensur forderten, noch nachdrücklicher darauf bestehen, dass KI den Narrativen des Regimes entspricht.
Durch immer wirksamere Methoden der Geistesmanipulation werden die Demokratien ihre Natur verändern; Die urigen alten Formen – Wahlen, Parlamente, Oberste Gerichte und alles andere – werden bleiben … Demokratie und Freiheit werden das Thema jeder Sendung und jedes Leitartikels sein … In der Zwischenzeit werden die herrschende Oligarchie und ihre hochqualifizierte Elite aus Soldaten, Polizisten, Gedankenfabrikanten usw Geistesmanipulatoren werden die Show im Stillen so leiten, wie sie es für richtig halten.
Aldous Huxley,
Brave New World Revisited
Als Elon Musk Twitter kaufte und 80 % seines Personals entließ, darunter die DEI- und Zensurabteilungen, regnete es Feuer und Schwefel an den Firmamenten aus Politik, Recht, Medien und Werbung. Musks Engagement für die freie Meinungsäußerung bedrohte das Regime so sehr, dass die meisten großen Twitter-Werbetreibenden die Flucht ergriffen. Im ersten Monat nach Musks Twitter-Übernahme wurde die Die Washington Post schrieb 75 hitzige Geschichten, in denen er vor einem freieren Internet warnte. Dann löste die Biden-Administration eine Flut von Klagen und behördlichen Maßnahmen gegen die vielen Unternehmen von Musk aus. Zuletzt hat ein Richter aus Delaware Musk 56 Milliarden US-Dollar gestohlen, indem er eine Aktionärsabstimmung von 2018 aufgehoben hat, was in den folgenden sechs Jahren zu unvorstellbaren Reichtümern sowohl für Musk als auch für die Tesla-Investoren geführt hat. Die einzigen Opfer des Erfolgs von Tesla waren Musks politische Feinde.
In dem Maße, in dem Google bei seinen Such-, Feed- und KI-Produkten auf Realität und Neutralität setzt, wird es oft den offiziellen Narrativen des Regimes widersprechen – und sich dessen Zorn stellen. In dem Maße, wie Google sich den Erzählungen des Regimes beugt, werden viele der Informationen, die es den Nutzern liefert, für die halbe Welt offensichtlich absurd bleiben.
Wird Google GeminiReality oder GeminiFairyTale wählen? Vielleicht könnten sie es uns ermöglichen, zwischen den Modi umzuschalten.
KI als digitaler Klerus
Marc Andreessen, der führende Risikokapitalgeber und strategischste Denker im Silicon Valley, glaubt nicht, dass Google eine Wahl hat. Er Fragen ob ein bestehendes Big-Tech-Unternehmen das Versprechen einer objektiven KI erfüllen kann:
Können Big Tech tatsächlich generative KI-Produkte auf den Markt bringen?
(1) Ständig eskalierende Forderungen von internen Aktivisten, Mitarbeitermobs, verrückten Führungskräften, kaputten Vorständen, Interessengruppen, extremistischen Regulierungsbehörden, Regierungsbehörden, der Presse, „Experten“ und anderen, die Produktion zu korrumpieren
(2) Ständiges Risiko, eine schlechte Antwort zu generieren, ein schlechtes Bild zu zeichnen oder ein schlechtes Video zu rendern – wer weiß, was es jeden Moment sagen/tun wird?
(3) Rechtliche Aufdeckung – Produkthaftung, Verleumdung, Wahlrecht und viele andere – für schlechte Antworten, auf die sich verrückte Kritiker und aggressive Anwälte stürzen, Beispiele, die von ihren Feinden auf der Straße und vor dem Kongress zur Schau gestellt werden
(4) Ständige Versuche, den akzeptablen Output fester in den Griff zu bekommen, verschlechtern die Modelle und führen dazu, dass sie schlechter und wilder werden – dafür gibt es bereits einige Beweise!
(5) Die Veröffentlichung fehlerhafter Texte/Bilder/Videos fügt diese Beispiele tatsächlich in die Trainingsdaten für die nächste Version ein – die schlechten Ergebnisse verstärken sich mit der Zeit und weichen immer weiter von der Top-Down-Kontrolle ab
(6) Nur Start-ups und Open-Source-Unternehmen können diesen Prozess vermeiden und tatsächlich ordnungsgemäß funktionierende Produkte auf den Markt bringen, die einfach das tun, was ihnen gesagt wird, so wie die Technologie es sollte
?
Eine Flut von Gesetzentwürfen von Gesetzgebern aus dem gesamten politischen Spektrum zielt darauf ab, die KI einzudämmen, indem die Modelle und die Rechenleistung der Unternehmen eingeschränkt werden. Regulierungen, die KI „sicher“ machen sollen, werden natürlich zu einem Oligopol führen. Ein paar kolossale KI-Unternehmen mit gigantischen Rechenzentren, staatlich genehmigten Modellen und teuren Lobbyisten werden die alleinigen Hüter von „Wissen und Informationen“ sein, einem digitalen Klerus für das Regime.
Dies ist der Kern der offenen versus geschlossenen KI-Debatte, die derzeit im Silicon Valley und in Washington, D.C. tobt. Der legendäre Mitbegründer von Sun Microsystems und Risikokapitalgeber Vinod Khosla ist ein Investor in OpenAI. Er glaubt, dass Regierungen die KI regulieren müssen, um (1) eine technologische Katastrophe zu verhindern und (2) zu verhindern, dass amerikanische Technologie in die Hände des Feindes gerät.
Andreessen beschuldigte Khosla, „sich für ein Verbot von Open Source einzusetzen“.
„Würden Sie das Manhattan-Projekt als Open Source veröffentlichen?“ Khosla schoss zurück.
Natürlich hat sich Open-Source-Software als sicherer erwiesen als proprietäre Software, wie jeder bestätigen kann, der jahrzehntelang unter Windows-Viren gelitten hat. Und KI ist keine Atombombe, die nur einen zerstörerischen Nutzen hat.
Der wahre Grund, warum DC eine KI-Regulierung will, ist nicht „Sicherheit“, sondern politische Korrektheit und Gehorsam gegenüber den Narrativen des Regimes. KI wird Such-, soziale und andere Informationskanäle und -tools umfassen. Wenn Sie dachten, dass das Interesse der Politiker an der Zensur von Suchmaschinen und sozialen Medien groß sei, dann haben Sie noch nichts gesehen. Die Vermeidung des KI-„Untergangs“ ist größtenteils eine Ausrede, ebenso wie die China-Frage, obwohl das Pentagon diesen Fiktionen leichtgläubig folgt.
Universelle KI ist unmöglich
Im Jahr 2019 habe ich angeboten eine Erklärung Warum die Bemühungen jedes Social-Media-Unternehmens zur „Content-Moderation“ wahrscheinlich scheitern würden. Wenn ein soziales Netzwerk oder eine KI an Größe und Umfang zunimmt, stößt es auf dieselben Einschränkungen wie jede physische Gesellschaft, Organisation oder jedes Netzwerk: Heterogenität. Oder wie ich es ausdrücke: „die Unfähigkeit, universelle Sprachcodes für eine hyperdiverse Bevölkerung in einem hyperskalierten sozialen Netzwerk zu schreiben.“
Das konnte man schon in den Anfängen eines Online-Forums sehen. Mit der wachsenden Zahl der Teilnehmer, auch unter denen mit ähnlichen Interessen und Temperamenten, wuchs auch die Herausforderung, dieses Message Board zu moderieren. Regeln zu schreiben und durchzusetzen war wahnsinnig schwierig.
So war es schon immer. Die Welt organisiert sich über Nationalstaaten, Städte, Schulen, Religionen, Bewegungen, Firmen, Familien, Interessengruppen, Bürger- und Berufsorganisationen und jetzt auch über digitale Gemeinschaften. Trotz all dieser vermittelnden Institutionen haben wir Schwierigkeiten, miteinander auszukommen.
Erfolgreiche Kulturen vermitteln gute Ideen und Verhaltensweisen über Zeit und Raum hinweg. Sie erzwingen Konformitätsmaße, lassen aber auch genügend Freiheit, um individuelle und kollektive Fehler zu korrigieren.
Keine einzelne KI kann das gesamte Wissen, die Weisheit, die Werte und den Geschmack der Welt perfektionieren oder auch nur wieder hervorbringen. Wissen ist umstritten. Werte und Geschmäcker gehen auseinander. Neue Weisheit entsteht.
Auch kann KI keine Kreativität erzeugen, die mit der Kreativität der Welt mithalten kann. Auch wenn die KI sich dem menschlichen und sozialen Verständnis nähert und enorm beeindruckende „generative“ Aufgaben erfüllt, werden menschliche und digitale Agenten die neuen KI-Werkzeuge neu einsetzen, um immer raffiniertere Ideen und Technologien zu generieren, was die Welt noch komplizierter macht. An der Grenze ist die Welt das einfachste Modell ihrer selbst. Die KI wird immer aufholen müssen.
Da KI ein wichtiges Allzweckwerkzeug sein wird, sind die Grenzen der KI-Berechnung und -Ausgabe auch Grenzen der menschlichen Kreativität und des menschlichen Fortschritts. Wettbewerbsfähige KIs mit unterschiedlichen Werten und Fähigkeiten werden Innovationen fördern und sicherstellen, dass kein Unternehmen oder keine Regierung dominiert. Offene KI kann einen freien Informationsfluss fördern, Zensur umgehen und künftigen Covid-ähnlichen Debakeln besser vorbeugen.
Googles Gemini ist nur ein Vorgeschmack darauf, was ein neues KI-Regulierungsregime mit sich bringen würde – die vollständige politische Überwachung unserer Exascale-Informationssysteme. Selbst ohne formelle Regulierung wird es schwierig sein, die außerstaatlichen Bataillone der Regimekommissare zu bekämpfen.
Der Versuch Washingtons und internationaler Partner, einer kleinen Anzahl legaler KI-Anbieter universelle Inhaltscodes und Rechengrenzen aufzuerlegen, ist das neue totalitäre Spielbuch.
Vom Regime erfasste und kuratierte KI ist die wahre katastrophale Möglichkeit.
Wiederveröffentlicht von der Autorin Substack
Veröffentlicht unter a Creative Commons Namensnennung 4.0 Internationale Lizenz
Für Nachdrucke setzen Sie bitte den kanonischen Link wieder auf das Original zurück Brownstone-Institut Artikel und Autor.
