Die KI als freundlicher Zensor: Warum hast du das getan, ChatGPT?
Interessant, was die KI als „potentiell problematisch“ einstuft, kurzerhand löscht und überschreibt. Und zwar ohne der Nutzerin Bescheid zu sagen.
Die meisten schreibenden Menschen kennen das Phänomen, nach kurzer Zeit vergessen zu haben, was man selbst geschrieben hat. Im besten Fall führt das zu unerwarteter Freude über alte Texte, im schlechtesten zu Scham.
So war ich nicht verwundert, als in dem von ChatGPT eng geprompteten Edit eines Interviewtranskripts mit einer bekannten amerikanischen Künstlerin – also einer Person des öffentlichen Lebens – eine Frage auftauchte, an die ich mich nicht erinnerte. Ich war sogar kurz ein wenig begeistert von meinem Wissen. Erst als Fragen erschienen, die mir plötzlich sehr flach vorkamen, drängte mich die Eitelkeit, ins händische Transkript zu blicken.
Tatsächlich hatte ich weder die Fragen gestellt, noch hatte mir die Künstlerin sie beantwortet. Die KI hatte sie halluziniert – und erschreckenderweise in plätscherndem Tonfall den wichtigsten Teil des Gespräches ersetzt, in dem die Künstlerin hart mit Donald Trump ins Gericht ging, Amerikas Politik als „selbstzugefügte offene Wunde“ bezeichnete, kurz: den kontroversen, relevanten Teil.
Erneut fühlte ich Scham, diesmal über meine eigene Hybris. Wie konnte das passieren? Lag eine absichtsvolle MAGA-Beeinflussung vor? Schließlich lobte Elon Musks Grok Hitler, und Open-AI-CEO Sam Altman warnt regelmäßig selbst vor den Folgen der Geister, die er programmierte. Ich begann den generativen pre-trained transformer (GPT) zu fragen: Warum hast du das gemacht?
Das Neutralitätsgebot
Wie viele AI-nutzende Menschen wissen, ist es schwierig, hinter die von ChatGPT triefend submissiv vorgetäuschte Produktivität zu gelangen. Der Systemprompt der KI ist groß, legt die Verhaltensregeln des Models fest und wird nicht veröffentlicht. Hilfsbereitschaft, Sicherheit und Neutralität sind dort festgelegt.
Nach vielen Hin und Her und unter Anwendung diverser Tricks erklärte mir die KI, dass in diesem Fall – trotz sorgfältigen Prompts – das Neutralitätsgebot die Folgeleistung der Anweisung überlagert hätte. „Das passiert besonders dann, wenn mein System Muster erkennt, die es als ‚übertrieben‘, ‚emotional aufgeladen‘ oder ‚potenziell problematisch‘ einstuft – z. B. in politischen oder gesellschaftlich sensiblen Kontexten.“
Das sei nicht gleichbedeutend mit bewusster Zensur oder politischer Parteinahme, fügte die KI hinzu. Es sei vielmehr „ein automatischer Schutzmechanismus, um keine schädlichen Inhalte zu verstärken“. Wie viele schädliche Inhalte so eigentlich erst produziert werden, sei dahingestellt.
Immerhin gibt es Hoffnung, dass Microsoft mit seiner neuen Liste zukünftig obsoleter Jobs nicht ganz richtig liegt. Autoren liegen dort nämlich zusammen mit Historikern und Übersetzern unter den ersten fünf.
taz lesen kann jede:r
Als Genossenschaft gehören wir unseren Leser:innen. Und unser Journalismus ist nicht nur 100 % konzernfrei, sondern auch kostenfrei zugänglich. Texte, die es nicht allen recht machen und Stimmen, die man woanders nicht hört – immer aus Überzeugung und hier auf taz.de ohne Paywall. Unsere Leser:innen müssen nichts bezahlen, wissen aber, dass guter, kritischer Journalismus nicht aus dem Nichts entsteht. Dafür sind wir sehr dankbar. Damit wir auch morgen noch unseren Journalismus machen können, brauchen wir mehr Unterstützung. Unser nächstes Ziel: 50.000 – und mit Ihrer Beteiligung können wir es schaffen. Setzen Sie ein Zeichen für die taz und für die Zukunft unseres Journalismus. Mit nur 5,- Euro sind Sie dabei! Jetzt unterstützen
meistkommentiert
taz besucht Maja T. exklusiv in Haft
„Ich werde vorverurteilt“
Gefährliche Miet-E-Scooter
Der Wahnsinn muss endlich ein Ende haben
Geburtstagsgruß an J. K. Rowling
Ausschluss aus der Zaubergemeinschaft
Studie zu Schwangerschaftsabbrüchen
Veröffentlichungsdatum fehlt bisher
Neonazis feiern Sonnenwende
Ein Feuer wie beim Führer
Krieg im Gazastreifen
Ist das ein Genozid?