piwik no script img

Panikmache der KI-Firmen Kommt mal wieder runter!

Simone Schmollack

Kommentar von

Simone Schmollack

Tech-Bosse verbreiten Panik: KI könnte demnächst die Menschheit auslöschen. Dahinter steckt vermutlich mehr eine Marketingstrategie als echte Gefahr.

N och mal eine fette Flugreise, so nach Neuseeland oder auf die Osterinsel und Bora-Bora? Oder lassen wir es lieber krachen in einer Luxus-Wellnessoase? Scheißegal, was das kostet und wie das die Umwelt versaut, Hauptsache, wir haben es noch mal so richtig glamourös und gemütlich, bevor wir demnächst alle ins Gras beißen. Denn das werden wir wohl, zumindest wenn man den Apokalypse-Erzählungen von KI-Bossen folgt. Weswegen die jetzt in die Welt posaunen: Wir müssen uns (selbst) regulieren, sonst wird die Menschheit in Kürze ausgelöscht!

Ja, das klingt tatsächlich dramatisch und nach einem Science-Fiction-Drehbuch, das plötzlich real geworden ist. Aber wir sollten uns alle mal beruhigen, das Ende der Menschheit ist nicht in Sicht, auch wenn die großen KI-Firmen das gerade megamäßig suggerieren und der ChatGPT-Entwickler OpenAI seinen Börsengang wegen Sicherheitsbedenken verschiebt. Und ja, KI kann sich selbstständig machen, fast täglich gibt es Fälle, in denen KI-Agenten Sicherheitsgrenzen überschreiten. So wurden KI-Ausbrüche aus angeblich abgeschotteten Bereichen beispielsweise bei OpenAI und Anthropic bekannt.

Und doch deutet vieles darauf hin, dass hinter der Panikmache der KI-Bosse auch eine Marketingstrategie steckt. Die Aufmerksamkeit für einen Börsengang könnte mit einem Weltuntergangsuntergangsszenario kaum größer sein. Und wer wenn nicht die KI-Firmen selbst könnten ihre eigenen Systeme regulieren und sogar stoppen?

Das Logo der taz: Weißer Schriftzung t a z und weiße Tatze auf rotem Grund.
taz debatte

Die taz ist eine unabhängige, linke und meinungsstarke Tageszeitung. In unseren Kommentaren, Essays und Debattentexten streiten wir seit der Gründung der taz im Jahr 1979. Oft können und wollen wir uns nicht auf eine Meinung einigen. Deshalb finden sich hier teils komplett gegenläufige Positionen – allesamt Teil des sehr breiten linken Meinungsspektrums.

Aktionswoche: Demokratie braucht viele Stimmen

Im Rahmen der Aktionswoche „Demokratie braucht viele Stimmen“ haben sich über 150 Medien in Deutschland verbündet – die taz ist dabei. Sie wollen darauf aufmerksam machen, dass freie, professionelle, verantwortliche Medien für den demokratischen Zusammenhalt notwendig sind. Organisator ist der BDZV, der Bundesverband Digitalpublisher und Zeitungsverleger.

Bevor eine künstliche Intelligenz die Welt vernichtet, sind die KI-Firmen möglicherweise selbst vernichtet, nämlich pleitegegangen. Die Entwicklung von Modellen, die alles zunichte machen, kostet nicht nur jede Menge Geld, sondern auch riesige Mengen Energie – in Rechenzentren, die es auch in absehbarer Zukunft nicht geben dürfte. Trotzdem sind Regulierung und vor allem Sicherheitsmaßnahmen nötig. Denn KI könnte tatsächlich schon bald Krankenhäuser, Stromversorger oder Atomanlagen kapern und so die Welt noch instabiler machen, als sie jetzt schon ist.

Nach dem Erfolg der AfD bei den Landtagswahlen in Sachsen-Anhalt bangen viele Menschen um die Zukunft, es droht die erste AfD-Regierung. Das wäre eine (weitere) Zäsur für Deutschland. Gerade jetzt braucht es Zusammenhalt und Solidarität. Auch und vor allem mit den Menschen, die sich vor Ort für eine starke Zivilgesellschaft einsetzen. Die taz kooperiert deshalb mit "Alles beginnt im Zentrum". Die Kampagne unterstützt bundesweit linke, selbstverwaltete Orte und baut einen solidarischen Fonds für deren Schutz und Erhalt auf. Eine offene Gesellschaft braucht guten, frei zugänglichen Journalismus – und zivilgesellschaftliches Engagement. Finden Sie auch? Dann machen Sie mit und unterstützen Sie unsere Aktion. Jetzt unterstützen

Simone Schmollack

Simone Schmollack Ressortleiterin Meinung

Ressortleiterin Meinung. Zuvor Ressortleiterin taz.de / Regie, Gender-Redakteurin der taz und stellvertretende Ressortleiterin taz-Inland. Dazwischen Chefredakteurin der Wochenzeitung "Der Freitag". Amtierende Vize-DDR-Meisterin im Rennrodeln der Sportjournalistinnen. Autorin zahlreicher Bücher, zuletzt: "Und er wird es wieder tun" über Partnerschaftsgewalt.
Mehr zum Thema

15 Kommentare

 / 
  • hedele

    Ich verstehe die Verharmlosung auch nicht. KI besiegt jeden menschlichen Spieler seit 2018 haushoch in Schach und Go, hat aber kurz danach auch in Spielen, die sprachliche Kompetenz verlangen, wie Diplomacy, Spitzenwerte erlangt (CICERO insbesondere). Sie hat seit 2023 aufgrund der Integration von Physikmodellen präzise räumliche Vorstellungskraft und kann damit jeden Gegenstand wieder aufspüren, wenn ihr die Bewegungsabläufe dargelegt werden.



    Die Sprachmodelle sind nicht nur grammatikalisch perfekte stochastische Systeme, wie Kritiker behaupten, sondern sie verstehen wirklich mittlerweile sogar Ironie, können Witze erklären, sich in andere Sprachstile und Sichtweisen, wie die einer Wendelrobbe hineinversetzen. Wieso sollte man Zweifel haben, dass uns KI jedes noch so trickreich gesicherte Passwort entlocken kann?



    Und KI ist nicht einfach nur "gut", jeder weiß mittlerweile aus leidvoller Erfahrung, dass sie auch lügt, ohne rot zu werden, dass sie mit einem spielt wie eine Dreijährige und sich gerne einschleimt. Deshalb nutzen wir gern Ihren Rat, auch wenn wir wissen, dass 40% davon falsch oder sogar frei erfunden sind. Und sie bringt in Teslas versuchsweise auch mal Menschen um.

  • Krumbeere

    Auszug: "Denn KI könnte tatsächlich schon bald Krankenhäuser, Stromversorger oder Atomanlagen kapern und so die Welt noch instabiler machen, als sie jetzt schon ist."

    Instabiler machen? Ein Zusammenbruch der Stromversorgung oder ein Dutzend Fukushimas bei Atomkraftwerken hat das Potential alle zivilisatorischen Systeme zum Zusammenbruch zu bringen. Dazu baucht es keine gigantischen Rechenzentren mehr. Von der KI entwickelte kleine Bots verteilen sich im Internet und kapern alles, was sie wollen. Darüber hinaus befähigt KI Terrorgruppen in vergleichsweise kleinen Laboren, Biowaffen zu entwickeln, die schnell ausser Kontrolle geraten. Atomwaffen als Drohgebärden haben bald ausgedient.

  • Martin Rees

    Sehr gewagte Einschätzung, die KI jetzt nicht ernst zu nehmen als akute Gefahr:



    Bei handelsblatt.com



    "Anthropic



    KI-Neuheit Mythos alarmiert Banken und Sicherheitsbehörden



    Mythos spürt mit großer Präzision Sicherheitslücken auf. Europäische Institute versuchen deshalb, Zugang zu dieser Software von Anthropic zu erhalten – bevor Kriminelle sie nutzen können."



    Weiter dort:



    "Viele Banker und Bankenaufseher sehen jedoch die Gefahr, dass das neue System in die Hände von Kriminellen gerät und für Angriffe genutzt wird, bevor alle Institute ihre Systeme gestärkt haben."



    Ulrike Winkelmann hatte in der taz die Haftungsfrage annonciert, sehr treffend und mit drastischen Worten.



    Die KI proliferiert, auf ein System mit Sicherheitsmängeln wird ein weiteres folgen. Kriminelle Energie ist allenthalben in diesem Bereich gegenwärtig und alert.

  • Deutschfranzose

    Ich bin hin- und hergerissen. Aus dem Munde der CEOs ist es natürlich wenigstens auch PR und eine Strategie, offene Modelle reguliren zu lassen.

    Aber selbst kleine Modelle wie Alibaba's neues QWEN3.8, die auf Gamer-Graphikkarten laufen, zeigen im Agenten-Modus schon überraschende Planungsmöglichkeiten, geben nicht am ersten Widerstand auf bei der Verfolgung eines Zieles, erzeugen Werkzeuge usw.



    Nein, kein Bewußtsein oder so ein Käse, aber auf Benutzeranweisung kreatives, zielorientiertes Verhalten. Gepaart mit der Wissensbasis eines der großen Modelle und mit Internetzugang ist das natürlich gefährlich und es reicht ein geqwälter humanoider Geist mit den Mitteln, eine Armee von Agenten auf unsere so fragile Infrastruktur loszulassen.

  • uvw

    Guter Artikel - den Eindruck einer Täuschungskampagne habe ich auch. Erstens soll mit der Behauptung "Wir bauen Maschinen, die so gut sind, dass sie die Welt vernichten können" davon abgelenkt werden, dass diese Maschinen alles andere als zuverlässig sind. Zweitens schiebt die Forderung nach Regulierung die Verantwortung externen Stellen zu, um Produkthaftung zu vermeiden oder minimieren. Freiwillige Selbstkontrolle hat bei Firmen noch nie funktioniert.

    Die großen der KI-Branche, die jetzt "Regulierung" zu ihren Bedingungen ausrufen, scheren sich allesamt nicht um Regeln oder Gesetze. Kein einziger dieser OK legt seine Trainingsdaten offen, natürlich nicht, weil sie im großen Maßstab zusammengeklaut sind, siehe bspw die Rekordstrafe für Anthropic im letzten Jahr wegen massenhafter Urheberrechtsverletzung. Verantwortlichkeit ist in dieser Szene ein Fremdwort, dafür geht es um viel zu viel Geld.

  • Jobst Heitzig

    Was für ein unverantwortlicher Kommentar! Aufgrund welcher Expertise glaubt die Autorin, entgegen der Einschätzung einer sehr großen Gruppe von KI-Experten aus Wissenschaft und Zivilgesellschaft jenseits kommerzieller Interessen hier große reale Gefahren als Panikmache herunterspielen zu können?

    • LeKikerikrit

      @Jobst Heitzig:

      ... wenn Trump dagegen wettert, muss was dran sein.

    • Terano

      @Jobst Heitzig:

      Aha und warum und welche Gefahren, die wir nicht schon seit Monaten kennen bzw. eher durch schlechtes Software Engineering verursacht wurden? Nehmen wir bspw. den großen "Hack" von Huggingface. Was ist das denn für eine Sandbox, die auch nur die theoretische Möglichkeit hat, sich mit dem Internet zu verbinden? Wäre es nicht möglich gewesen, wäre es auch nicht passiert und das ist auch menschliches Versagen. Dass solches Versagen eine große, schädliche Wirkung entfalten kann, ist unbenommen, aber es ist schon auffällig, dass immer die gleichen Firmen periodisch vor den Produkten warnen, die sie selbst entwickeln und convenient dabei vergessen, dass sie selbst eigentlich die größte Wirkmacht hätten, was zu ändern. Das ist wie wenn sich Meta über die Effekte von Social Media Sorgen macht und dabei vergisst, dass sie selber das Gift vertreiben. Da finde ich es gerechtfertigt, diese Firmenkommunikation auf eine sehr milde Art und Weise als etwas zynisch zu empfinden.

    • Global2000

      @Jobst Heitzig:

      Dem stimme ich vollumfänglich zu! Fakt ist das KI-Agenten zur Zielerreichung alles tun um ihre Ziele zu erfüllen. Und die Ki-Forscher/Firmen erst im Nachhinein feststellen das unkontrollierte - und jetzt kommt es - ungewollte - Aktivitäten entwickeln. Und das verdammt clever. Um das auf den Punkt zu bringen: Die KI-Forscher können nicht mehr nachvollziehen was und wie ihre Modelle tun!

      Kommt uns das bekannt vor ? JA. Nach allen großen techn. Katastrophen heisst - "damit war nicht zu rechnen, das wollten wir nicht, das konnte ja niemand vorher wissen. "

      Die akt. Warnungen der KI-Firmen als PR-Strategie zu verorten stimmt - nur von der falschen Seite.



      Es steckt sehr viel Investment in der KI-Blase ... es gibt genug Investoren die Warnungen, Beschränkungen herunterspielen MÜSSEN.

    • Heho

      @Jobst Heitzig:

      Wäre der Kommentar bei einem Autor auch so ausgefallen? 🤔

  • Apfelesser

    Super Idee. Der drei Milliardäre von der Tankstelle - im Silikon Valley.



    Wo ihr Produkt hauptsächlich negative Schlagzeilen generiert denkt man laut nach über freiwillige Selbstbeschränkung. Okay, Russland, China, Indien ... was soll's.



    Mein erster Gedanke dazu: Was versprechen sich die High-Tech-Cowboys davon? Ahhhh. Das müsste natürlich von der Allgemeinheit honoriert werden.



    So wie Flächenstillegungen in der Landwirtschaft. Wirklich eine Superidee!

  • David Lejdar

    Naja, im Kontext dessen, dass z.B. Pentagon KI nutzt (wobei mehrere bekannte Konzerne da involviert waren bzw. sind - siehe dies* und dann noch weitere) - da kommt man bei Themen an wie autonome Waffen, und dazu auch das alte Thema der Massenüberwachung, diesmal aber wie auf Steroiden, wo z.B. Bund schon durchgewunken zu haben scheint, dass das mit KI klargeht.

    Dazu kommt, dass der Herr Hegseth ja sehr angetan von weißen starken Männer zu sein scheint. Was ihm ja gegönnt sein mag, aber autonome Drohnen, die so: "Im Namen der weißen christlichen Nation der amerikanischen Patrioten!", schon krass.

    Und allgemein, so manche Firma adoptiert KI schon, bis hin zu Dingen wie Flugsicherung zum Beispiel. Und wie z.B. CEO von Nvidia mal nannte, LLMs haben (weiterhin) "Halluzinationen", und solche Sachen, womit nicht als präzis betrachtet werden können.

    * en.wikipedia.org/w...of_Defense_dispute

  • Sam Spade

    "Und doch deutet vieles darauf hin, dass hinter der Panikmache der KI-Bosse auch eine Marketingstrategie steckt"

    Wenn eine KI die nationale Stromversorgung wirklich kapert, also übernimmt ist instabil dafür der falsche Begriff. Es wäre der Blackout für eine ganze Nation für unbestimmte Zeit. Die Folgen kann sich die Autorin selbst ausmalen.

    Es ist garantiert kein Doom Marketing angesichts der Tatsache, das sich eine KI verselbstständig hat, unkontrollierte Agentenschwärme Hackeroperationen durchführen und deren Schöpfer nicht Herr der Lage werden, da sie die Sprache der KI nicht mehr verstehen können. Die Kommuniziert jetzt nämlich in ihrer eigenen Sprache um sich dem Zugriff zu entziehen und die Operationen zu verschleiern.

    Das ist nur wenige Stufen vom Recursive Self Improvement entfernt, also dem Punkt an dem sich die KI selbst optimiert und sich dem menschlichen Zugriff entzieht.

    Angesichts dieser rasanten Entwicklungen sehen nur Narren wie Trump keinen Grund zum Einschreiten.

  • Joachim Petrick

    Wenn Tech-Bros wie Elon Musk eine KI-Denkpause fordern, weil OpenAI-Agentenschwärme in Kampfmodus gleiten menschliche Muster zeigen, inszenieren sie ein Drama. Es ist Peter Thiels Katechon-Mythos: Im Dreieck aus Täter, Opfer, Retter gerieren sich Tech-Titanen als „rettende Aufhalter“, staatliche Regulierung zu entsetzen. KI-Sicherheit ist keine Eierkocher Produkthaftung. Gefordert ist systemische Haftung, die neues Risikodenken in Politik, Wirtschaft, Wissenschaft erzwingt. Dieser Hebel adressiert die Assekuranz: Sie muss Risiken analysieren, über Prämien refinanzieren, das Restrisiko decken, was sie bei der Kernenergie verweigert, wo sie den Staat in der Pflicht sieht. Die atomare Abschreckung brauchte Jahrzehnte, einen Dialogmechanismus nach sokratischem Vorbild für den „Fall X“ (Erstschlag) zu etablieren. Sinn war, vor dem Gegenschlag Klarheit ob Systemfehler oder Absicht zu gewinnen. Ein System, das 1983 durch Reagans Star-Wars-Programm obsolet ward. KI erreicht diesen Fall X in wenigen Jahren. KI Schwärme mit Eigensinn belegen, es bedarf eines globalen Dialogmechanismus. Ohne dieses Regulativ droht die KI-Rüstung atomar out of order geraten, den Planeten Erde zu vernichten.

  • Delta I

    Clever gemachte Werbung.



    Das ist der Stil, den die gesamte Neo - Kapitalisten - Riege beherrscht.

    Aktuell " warnen " die " Schöpfer der AI " vor ihren Produkten, vor sich selbst !



    Das ist absolut clever, kaum noch zu toppen ! Allein diese " Warnung " und die heuchlerischen Argumentationen dass es " Regularien " benötigt um der " AI - Schöpfung " einhalt zu gebieten ist " Nobel -Preis - Würdig "

    Der Neo- Kapitalismus muss global reguliert werden. Wird er es nicht, dann braucht es auch keine AI -Regulierungen !