Anthropics Ablenkungsmanöver: Ja, KI wird uns alle töten. Aber anders, als ihr denkt
Die Tech Bros behaupten, dass die KI die Menschheit auslöschen könnte. So eine lächerliche Behauptung! Die Bedrohung ist viel unmittelbarer.
Foto: Nikolas Liepins/imago
A m Ende des ersten Films der Matrix-Quadrologie belehrt die KI-Software „Agent Smith“ den in einer virtuellen Welt gefangenen Menschen Morpheus, dass Menschen sich stets ausbreiteten, alle Ressourcen eines Gebietes aufbrauchten, es zerstörten und dann weiterzögen. Im Film ist der Krieg gegen die künstliche Intelligenz schon längst verloren. Die Roboter haben die Menschen in eine virtuelle Welt verbannt und nutzen ihre Körper zur Energieerzeugung. In der echten Welt steht uns diese Auseinandersetzung noch bevor.
Schon innerhalb des nächsten Jahrzehnts würden KI-Systeme die Menschheit mit einer 10-prozentigen Wahrscheinlichkeit auslöschen, wird ein Anthropic-Mitarbeiter zitiert, dessen Firma das KI-Modell Claude anbietet. Ähnlich äußerte sich OpenAI-Chef Sam Altman vor dem UN-Sicherheitsrat – seine Firma steht hinter der Anwendung ChatGPT.
Die taz ist eine unabhängige, linke und meinungsstarke Tageszeitung. In unseren Kommentaren, Essays und Debattentexten streiten wir seit der Gründung der taz im Jahr 1979. Oft können und wollen wir uns nicht auf eine Meinung einigen. Deshalb finden sich hier teils komplett gegenläufige Positionen – allesamt Teil des sehr breiten linken Meinungsspektrums.
Die Behauptungen sind so lächerlich, dass sie nur den narzisstischen Hirnen der Tech Bros entsprungen sein können. Und womöglich ihrer Angst davor, dass sich ihre Investor*innen demnächst fragen, warum ihre Billionen Dollar bisher noch kein funktionierendes Wirtschaftsmodell für ihre Firmen hervorgebracht haben. Tatsächlich ist ihre Software beeindruckend, aber nicht gefährlich – und nicht die Software, sondern die Techkonzerne, die sie entwickeln, sind eine Gefahr.
Dieser Text erschien zuerst in der wochentaz, unserer Wochenzeitung von links!
In der wochentaz geht es jede Woche um die Welt, wie sie ist – und wie sie sein könnte. Eine linke Wochenzeitung mit Stimme, Haltung und dem besonderen taz-Blick auf die Welt. Jeden Samstag neu am Kiosk und natürlich im Abo.
Große Sprachmodelle – im Alltag oft mit KI gleichgesetzt – produzieren Text. Sie tun nichts anderes. Dass aus dem Text eine Anweisung wird, die auf einem Computer oder in der physischen Welt ausgeführt wird, dafür schreiben Programmierer*innen eine ganz gewöhnliche Software. Diese braucht es sogar für den trivialsten ersten Schritt, nämlich den Text in menschenlesbarer Form auf einem Bildschirm darzustellen.
Ohne Zaun bauen, und dann warnen – hä?
Wenn die KI-Firmenchefs also behaupten, ihre KI habe einen Computer gehackt oder könnten sogar den Weltuntergang auslösen, dann bedeutet das in erster Linie: Sie haben eine Software programmiert, die diese Fähigkeiten besitzt. Sie haben außerdem eine gewöhnliche, abschaltbare Software geschrieben, die den Ausgabetext eines großen Sprachmodells scannt, als Computerbefehl interpretiert und diesen dann ausführt – sei es, um durch das Internet zu surfen, die Räder eines Autos anzutreiben oder eine Atomrakete zu starten. Das Sprachmodell selbst kann nichts davon.
Man stelle sich vor, jemand würde ein Leopardengehege ohne Zäune oder Graben bauen und anschließend atemlos herumrennen und erklären, das Gehege sei gefährlich, denn die Leoparden seien ausgebrochen und würden regelmäßig Passanten das Gesicht abfressen. Alle anderen würden sich selbstverständlich denken, das Gehege sei fehlerhaft gebaut worden und die Erbauer zu faul oder inkompetent, um es ordentlich abzusichern. Niemand würde ihnen die absurde Umkehrung abnehmen.
Eine Software, die sich selbständig macht, die nicht die erwünschten Ergebnisse liefert oder sogar Schaden anrichtet, ist ein defektes Produkt, keine Meisterleistung. Die großen KI-Firmen wie Anthropic und OpenAI produzieren in großem Stil Malware. Sie versuchen, die Verantwortung für ihre schlechten Produktionsstandards nach außen zu geben, indem sie behaupten, es ginge nicht anders. Indem sie vor einem fiktiven zukünftigen Weltuntergang warnen, versuchen sie, andere zum Handeln zu zwingen.
Tatsächlich produziert ihre Software aber nicht nur virtuelle Schäden, sondern sie bedroht die Existenz der Menschheit ganz unmittelbar. Große Sprachmodelle sind extrem ineffizient und ihr inzwischen allgegenwärtiger Einsatz verstärkt die sehr reale und gegenwärtige Klimakrise. Ihr Flächenverbrauch ist so riesig, dass ihr geplante Größe schon zum Teil damit angegeben wird, wie viele „Manhattans“ sie umfasst. Ihr Energieverbrauch ist so enorm, dass weltweit Dutzende neue fossile Kraftwerke geplant sind und ihr Wasserverbrauch bringt einige Gemeinden an ihre Grenzen.
Die Software basiert auf einem massenhaften Klau von urheberrechtlich geschützten Werken. Sie trägt zur noch rasanteren Ausbreitung von Desinformation bei und zu einer finanziellen Überdehnung des gesamten Sektors. Hier wird inzwischen auf Profite spekuliert, die mathematisch kaum möglich sind. So riskieren wir eine weltweite Wirtschaftskrise. Es gibt also sehr viele gute Gründe, sich weltweit zusammenzutun, um den Techkonzernen die Stirn zu bieten. Aber keiner von ihnen ist ein superintelligenter Roboter, der die Weltherrschaft an sich reißt.
meistkommentiert