Künstliche Intelligenz ist allgegenwärtig. Sie wird in alles integriert. Das sei einfach Fortschritt, heißt es. Und deshalb müssten wir sie annehmen, sonst wirkten wir wie Technikfeinde und ließen China gewinnen (was auch immer das bedeuten mag). Gleichzeitig haben aber viele Menschen auch Angst vor KI. Große Angst. Und manchmal wird uns gesagt, wir sollten auch Angst haben. Doch in der öffentlichen Debatte um KI fehlt es oft an konkreten Details darüber, wovor wir uns genau fürchten sollen. Manchmal ist nicht einmal klar, was mit dem Begriff „KI“ gemeint ist.
Genau genommen, wie ich es habe Berührt Früher konnte man argumentieren (wie es einige ältere Informatiker tun), dass KI ein Oberbegriff für eine Familie von Algorithmen ist, die auf Mathematik basieren und teilweise mehr als ein halbes Jahrhundert zurückreichen.
Praktisch gesehen können zahlreiche Programme, die wir seit Jahren nutzen, wie Google Maps und Amazons Empfehlungssystem, trotz ihrer mangelnden Neuartigkeit als KI betrachtet werden. Im öffentlichen Diskurs bezieht sich der Begriff KI jedoch meist auf generative KI (z. B. ChatGPT) sowie auf eine Vielzahl hypothetischer Zukunftsprogramme, die alles, was Menschen können, besser können und somit all unsere Probleme lösen, gleichzeitig aber die meisten von uns arbeitslos machen sollen. Und vielleicht entscheiden sie sich irgendwann auch noch, uns wie Skynet zu vernichten, falls sie uns nicht für den Aufwand wert halten.
(Klingt ziemlich sexy. Vielleicht sollte jemand eine ganze Filmreihe darüber drehen. Vielleicht gefallen den Leuten sogar zwei von fünf Filmen.)
Leider erhalten diese eher übertriebenen, Science-Fiction-artigen Darstellungen der von KI ausgehenden Bedrohung(en) jedoch tendenziell mehr Aufmerksamkeit als realistischere und unmittelbarere Bedrohungen der Privatsphäre, der Freiheit, der Autonomie und sogar einer Lebensweise, die viele von uns zu schätzen gelernt haben, und lenken dadurch davon ab. automatische Lizenz Teller Leser, Gesichtserkennung, digitale Großmütterobligatorisches Fahren unter Alkoholeinfluss und abgelenktes Fahren Erkennungsprogramme, jede der Technologien, von denen „Enkel“ in „Autonomer Lieferroboter," und tragbare Aufnahmegeräte Das Transkribieren und Verarbeiten von persönlichen Gesprächen für ungesellige und leicht ablenkbare Menschen sind nur einige der realistischeren Bedrohungen, die mir einfallen. (Und dies ist keineswegs eine vollständige Liste.)
Daher schätze ich es, wenn Mitglieder unserer herrschenden Klasse sich einen Vormittag Zeit nehmen, um ein sachliches Gespräch über die klar definierten Bedrohungen durch diese Technologie (oder diese Technologiegruppe) zu führen, wie es beispielsweise am 4. Juni im Unterausschuss für Cybersicherheit und Infrastrukturschutz des US-Repräsentantenhauses geschah. Treffen zum Thema „KI-Sicherheitslandschaft“.
Oberflächlich betrachtet könnte die Diskussion des Treffens wahrscheinlich so formuliert werden: „Ist die größte Bedrohung durch KI eine externe, in Form von ausländischen Hackern, die Schwachstellen in der Software ausnutzen wollen, die die kritische Infrastruktur der Vereinigten Staaten steuert, oder eine interne, die aus dem Mangel an Regulierung und Rechenschaftspflicht für den Einsatz von KI im Inland resultiert?“
Beim Beobachten der Diskussion hatte man jedoch den Eindruck, dass es sich weniger um eine Frage des „Entweder-oder“ handelte, sondern eher um eine unbestrittene Antwort: „Ja, und…“.
Sandra Joyce von Google, Chris Meserole, Geschäftsführer des Frontier Model Forum, und Jack Cable, CEO und Mitbegründer von Corridor Security Inc., gaben Zeugnis darüber ab, wie KI die Cybersicherheitslandschaft verändert, da digitale Waffen in die Hände der Cyber-Barbaren vor den Toren fallen, die diese Waffen nutzen werden, um Schwachstellen in unserer kritischen Infrastruktur zu finden und/oder Ransomware-Angriffe durchzuführen.
„Diese Technologie hat die Cybersicherheit sowohl für Verteidiger als auch für Angreifer auf tiefgreifende Weise beeinflusst“, erklärte Joyce.
„Hacker verfügen über mächtigere Werkzeuge als je zuvor“, bemerkte Cable und nannte Mythos und GPT-5.5 namentlich.
„Diese Modelle sind nicht nur ein Hype“, warnte er. „Sie beginnen tatsächlich, mit dem Menschen bei Sicherheitsaufgaben zu konkurrieren oder ihn gar zu übertreffen, und das in einem beispiellosen Ausmaß.“
Joyce meinte, dass „Bedrohungsakteure“ nicht einmal etwas wie Mythos bräuchten und auch mit einem älteren Programm durchaus großen Schaden anrichten könnten.
Matthew Guariglia, leitender Politikanalyst der Electronic Frontier Foundation, betonte die Bedrohungen von innen und erklärte: „Die Frage ist nicht, wie wir die KI zügeln, sondern wie wir die Behörden zügeln, die die KI auf die amerikanische Öffentlichkeit loslassen würden.“
In seiner Aussage hob Guariglia hervor, wie der nationale Sicherheitsstaat der USA bereits eine Vielzahl von Instrumenten einsetzt, die Daten über Personen ohne hinreichenden Verdacht sammeln und die „Rückschlüsse auf die Politik, das Privatleben, die Religion und den Standort einer Person ziehen können, manchmal ungenau und mit schwerwiegenden Folgen“.
Guariglia sagte außerdem: „KI hat auch eine nachweisliche Erfolgsbilanz, was Fehler angeht, von falschen Zitaten in juristischen Schriftsätzen bis hin zu einem schwerwiegenden KI-Fehler, der dazu führte, dass DHS-Rekruten ohne angemessene Ausbildung in den Einsatz geschickt wurden.“
„Es gibt wahrscheinlich noch weitere, weitreichendere Beispiele, von denen wir aufgrund der Klassifizierung gar nichts wissen und die eine genauere Erfassung verhindern würden“, fügte er hinzu.
Auch die Abgeordnete Delia Ramirez (D-IL) stellte fest: „Wir erleben, wie sich KI-gestützte Überwachungssysteme in Schulen, im öffentlichen Wohnungsbau und in Krankenhäusern ausbreiten, ohne dass transparent ist, wie sie funktionieren, ohne dass man sie anfechten kann und ohne dass man im Falle eines Fehlers Rechtsmittel einlegen kann.“
In einem späteren Austausch über ein mögliches Szenario, in dem ein KI-Programm die Wasserversorgung einer Stadt als beeinträchtigt einstuft, obwohl sie in Wirklichkeit in Ordnung ist, und daraufhin den Zugang der Einwohner der Stadt zu Wasser einschränkt, schlugen Guariglia und Ramirez vor, dass im Rahmen des geltenden US-Rechts die Transparenz darüber, wie das Problem entstanden ist, wahrscheinlich im Ermessen der Stadt liegen würde, die das System implementiert, während die Frage, wer zur Rechenschaft gezogen werden kann, eher unklar sei.
Auch wenn es nicht ganz so aufregend ist wie der Kampf gegen T-800-Killer auf den Straßen um Leben und Existenz, klingen vermehrte Ransomware-Angriffe, die fortschreitende Aushöhlung unserer Privatsphäre und der Mangel an Transparenz und Verantwortlichkeit, wenn HAL einen Fehler macht und die Wasserversorgung unterbricht, doch ziemlich ernst – selbst wenn diese Dinge keine Massenhysterie oder eine Filmreihe rechtfertigen. Vielleicht sind sie sogar Grund genug für berechtigte Sorgen über die aktuelle Lage. Zeitgeist Künstliche Intelligenz in alle Lebensbereiche zu integrieren. Und vielleicht, nur vielleicht, liefern sie uns einen Grund, unsere Entscheidung, alles im modernen Leben mit dem Internet zu verbinden, zu überdenken.
Tritt dem Gespräch bei:
Veröffentlicht unter a Creative Commons Namensnennung 4.0 Internationale Lizenz
Für Nachdrucke setzen Sie bitte den kanonischen Link wieder auf das Original zurück Brownstone-Institut Artikel und Autor.
