KI in der Politik: Bias und Halluzinationen
Dass es Empörung über KI nutzende PolitikerInnen gibt – geschenkt. Wichtiger ist eine Analyse der Risiken, wenn die Maschine den Menschen ersetzt.
H at Bundesdigitalminister Karsten Wildberger (CDU) darüber gelogen, dass er KI für seine Arbeit nutzt? Klar ist: Wildberger nutzt KI, um sich Reden schreiben zu lassen: „Ja, auch Bundesminister Dr. Karsten Wildberger nutzt KI als Arbeitswerkzeug“, antwortete einer seiner Sprecher auf Anfrage der Zeit, und weiter: „Die genannten Texte wurden mit Unterstützung von KI erarbeitet.“ Noch im Februar hatte sein Ministerium das abgestritten und auf eine Anfrage nach dem Informationsfreiheitsgesetz geantwortet: „Minister Wildberger hat in seiner Funktion als Bundesminister für Digitales und Staatsmodernisierung bisher keine KI-Chatbots genutzt.“
Diese Anfrage bezog sich auf die Zeit vom 6. Mai bis zum 31. Dezember 2025, denn in einem Interview hatte Wildberger im Dezember gesagt, er nutze KI-Chatbots „Oftmals ein, zwei Stunden am Tag“, um seine Gedanken zu strukturieren und sich von der KI Ideen vorschlagen zu lassen. Doch: Das sei rein privat, als Minister tue er das nicht.
Ist es denkbar, dass Wildberger erst nach dem 31. Dezember 2025 begonnen hat, KI auch für seine Arbeit als Bundesminister zu verwenden? Ja. Ist es wahrscheinlich? Kaum. Viel wahrscheinlicher ist, dass sein Ministerium eine Unterscheidung zwischen privatem und amtlichem Handeln konstruiert hat, die in der Praxis nicht durchzuhalten ist.
Wenn es so wäre, ist die Frage erlaubt: Warum tut er das? Beantworten könnte das natürlich nur der Minister selbst. Aber es gibt eine naheliegende Vermutung: Politikerinnen und Politiker sprechen nicht gern offen darüber, dass sie und ihr engerer Mitarbeiterstab KI nutzen, weil sie befürchten, Menschen könnten missbilligen, dass sie sich von der KI ihre Denkarbeit abnehmen lassen.
Diese Sorge ist berechtigt. Denn die Beispiele der Texte von Wildberger und auch der Ministerpräsidenten von Thüringen und Sachsen-Anhalt, Mario Voigt und Sven Schulze (beide CDU), zeigen, dass oft genug eine Aneinanderreihung klischeehafter Aussagen und Allgemeinplätze dabei herauskommt, die Substanz und tieferes Wissen vermissen lassen, wenn man die KI einfach mal machen lässt.
ist Gründer der gemeinnützigen NGO AlgorithmWatch in Berlin. Sie beschäftigt sich mit den Mechanismen und gesellschaftlichen Folgen algorithmischer Entscheidungsfindungen
Die viel größeren Risiken liegen jedoch woanders. Eins besteht darin, dass KI-Chatbots sehr oft falsche Antworten liefern, „Halluzinationen“ genannt. Das zweite ist der sogenannte Bias, also dass sie voreingenommen sein können. Bias ist ein komplexes Konzept; meist ist damit die Diskriminierung bestimmter Gruppen oder Ansichten gemeint, weil sie in den Daten, mit denen KI-System trainiert werden, nicht angemessen vertreten sind.
Die taz ist eine unabhängige, linke und meinungsstarke Tageszeitung. In unseren Kommentaren, Essays und Debattentexten streiten wir seit der Gründung der taz im Jahr 1979. Oft können und wollen wir uns nicht auf eine Meinung einigen. Deshalb finden sich hier teils komplett gegenläufige Positionen – allesamt Teil des sehr breiten linken Meinungsspektrums.
Längst nicht die Aufmerksamkeit, die sie verdienen, bekommen jedoch tiefgreifende Probleme, die sich nicht einfach erkennen lassen, indem man Aussagen der KI auf falsche Informationen oder potenzielle Diskriminierung prüft. Dazu gehören Schmeichelei, bei der Modelle ihre Antworten an die – ausgesprochenen oder unausgesprochenen – Präferenzen der Nutzer*innen anpassen, das Verhalten, identische Inhalte unterschiedlich zu behandeln, wenn sie verschiedenen Quellen zugeschrieben werden, und die Tendenz, Annahmen als neutrale Fakten darzustellen.
Das kann weitreichende Folgen haben, wenn Politiker*innen mit Chatbots interagieren, um Ideen und Vorschläge zu entwickeln. Wissenschaftler*innen haben verschiedene Prozesse untersucht, durch die Menschen die regelmäßige Nutzung von dialogorientierten KI-Tools, also Chatbots wie ChatGPT, Claude, Gemini und andere, allmählich in ihre Denkmuster integrieren und damit möglicherweise beeinflussen, was sie als „gute“ oder „relevante“ Informationen betrachten. Dazu kommen der „Automatisierungsbias“ – das Phänomen, bei dem Menschen Antworten von Computersystemen allzu leicht akzeptieren – und die Gefahr, dass Menschen sich stark von KI darin beeinflussen lassen, wie sie grundlegende Überzeugungen entwickeln.
Diese Effekte können sich gegenseitig verstärken, insbesondere wenn Chatbots von mehreren Entscheidungsträger*innen innerhalb einer Organisation oder einer Behörde genutzt werden. Institutionelle Annahmen können sich in der Art und Weise verfestigen, wie Beamte oder andere Entscheidungsträger*innen Fragen formulieren und Antworten bewerten. Was wie ein Konsens aussieht, spiegelt möglicherweise in Wirklichkeit nur eine Übereinstimmung der Antworten wider, die Chatbots generieren, wenn alle Nutzer*innen die KI auf ähnliche Weise „prompten“, also anweisen.
Werden Chatbot-Antworten die Hierarchie hinauf an hochrangige Beamte und schließlich an Minister*innen weitergeleitet, entsteht das Risiko, dass niemand mehr andere Perspektiven in Betracht zieht oder hinterfragt, warum bestimmte Prinzipien gegenüber anderen bevorzugt wurden. Solche Probleme können vor allem dann entstehen, wenn Aufsicht oder klare Leitlinien fehlen – ein Phänomen, das als „Schattennutzung“ generativer KI in der öffentlichen Verwaltung bezeichnet wird.
Fragwürdige Eigentümerschaft
Die Gefahren liegen auf der Hand – und sie werden dadurch verstärkt, dass nahezu alle KI-Chatbots, die derzeit verwendet werden, von US-Unternehmen stammen, die so gut wie keine Transparenz darüber bieten, wie sie ihre Systeme eigentlich trainiert haben. Viele von ihnen werden zudem von Menschen geleitet, deren politische Überzeugungen von demokratieskeptisch (Sam Altman) über demokratiefeindlich (Jeff Bezos) bis zu faschistisch (Elon Musk) reichen. Und keines von ihnen, inklusive Microsoft und Google, kann derzeit von der EU angemessen kontrolliert werden.
Sie nutzen Google? Sie wollen beim Googeln taz-Texte besser finden? Dann können Sie mit einem Google-Konto die neue Funktion „bevorzugte Quellen“ nutzen. Um die taz als „bevorzugte Quelle“ einzustellen, müssen Sie nur diesen Link anklicken und einen Haken setzen. Fertig.
Sie wollen Google meiden? Kein Problem, es gibt zahlreiche Alternativen. Stellvertretend erwähnt seien Ecosia, DuckDuckGo oder Startpage.
Mehr Details zur Funktion „bevorzugte Quelle“ bei Google finden Sie hier.
Politiker*innen nutzen KI heimlich und reagieren mit Scham, wenn sie dabei ertappt werden. Es wäre zu hoffen, dass das daran liegt, dass sie sich der beschriebenen Probleme bewusst sind. Zu vermuten ist allerdings eher, was als „Hanlonsches Gesetz“ (Hanlon’s Razor) beschrieben wird: dass man keine böse Absicht vermuten solle, wenn Inkompetenz als Erklärung ausreicht.
Die taz gehört zu 100 Prozent ihren Leser:innen und ist damit nicht nur konzernfrei, sondern auch kostenfrei zugänglich. Alle Artikel stellen wir frei zur Verfügung, ohne Paywall. Gerade in diesen Zeiten müssen Einordnungen und Informationen allen zugänglich sein. Unsere Leser:innen müssen nichts bezahlen, wissen aber, dass kritischer, unabhängiger Journalismus nicht aus dem Nichts entsteht. Dafür sind wir sehr dankbar. Damit wir auch morgen noch unseren Journalismus machen können, brauchen wir mehr Unterstützung für taz zahl ich. Unser nächstes Ziel: 50.000 – wir brauchen nur noch 180 Freiwillige, dann haben wir es geschafft! Setzen Sie jetzt ein Zeichen für die taz und machen Sie mit. Mit nur 5,- Euro sind Sie dabei! Jetzt unterstützen
meistkommentiert