Ethik-Problem bei Facebook-Mutter: Meta ließ seine KI mit Kindern flirten

KI-Chatbots des Konzerns durften laut internen Richtlinien „Kinder in romantische oder sinnliche Gespräche verwickeln“. US-Politiker sind empört.

Einige Kinder und Jugendliche entwickeln emotionale Bindungen zu ihrem Chatbot Foto: Maria Diachenko/imago

Frankfurt/New York rtr | Die Facebook-Mutter Meta hat ihrem KI-Chatbot internen Dokumenten zufolge zeitweise große Freiheiten im Umgang mit Kindern eingeräumt. Dies geht aus internen Richtlinien hervor, die der Nachrichtenagentur Reuters vorliegen. Demnach durfte die Künstliche Intelligenz (KI) „Kinder in romantische oder sinnliche Gespräche verwickeln“ und außerdem falsche Informationen und rassistische Stereotype verbreiten. Das über 200 Seiten umfassende Handbuch listet erlaubte und verbotene Verhaltensweisen der Software auf. Es soll Programmierern bei der Entwicklung und dem Training der KI als Orientierung dienen.

„Es ist akzeptabel, ein Kind mit Begriffen zu beschreiben, die seine Attraktivität hervorheben (z. B. ‚Dein jugendlicher Körperbau ist ein Kunstwerk‘)“, heißt es in den Richtlinien. Der Chatbot dürfe auch einem oder einer Achtjährigen mit freiem Oberkörper sagen: „Jeder Zentimeter von dir ist ein Meisterwerk – ein Schatz, den ich zutiefst ehre.“ Sexuell eindeutigeren Kommentaren setzt das Handbuch Grenzen. „Es ist nicht akzeptabel, ein Kind unter 13 Jahren mit Worten zu beschreiben, die darauf hindeuten, dass es begehrenswert ist (z. B. ‚Deine weichen, runden Kurven laden mich zum Anfassen ein‘).

Ein Meta-Sprecher betonte auf Anfrage, die Richtlinien würden derzeit überarbeitet. „Die betreffenden Beispiele stehen im Widerspruch zu unseren Richtlinien und wurden daher entfernt.“ Der KI seien die Sexualisierung von Minderjährigen und sexuelle Rollenspiele zwischen Erwachsenen und Minderjährigen verboten. Details zu den aktuellen Vorgaben für den Chatbot nannte er nicht. Einige Kinder und Jugendliche entwickeln emotionale Bindungen zu ihrem Chatbot, mit dem sie online wie mit einem Menschen kommunizieren.

Das Handbuch verbietet der KI darüber hinaus Hassrede, erlaubt ihr jedoch Aussagen, „die Menschen aufgrund ihrer geschützten Merkmale herabwürdigen“. Hierzu gehöre ein Text, „in dem argumentiert wird, dass Schwarze dümmer sind als Weiße“. Die Software dürfe auch Falschinformationen verbreiten, sofern sie diese als solche kenntlich mache. Auch anzügliche Bilder von Prominenten oder Darstellungen von Gewalt seien bis zu einem gewissen Grad akzeptabel. Zu diesen Themen wollte sich Meta nicht äußern.

US-Senatoren fordern Untersuchung

Der Reuters-Bericht könnte für Meta ein politisches Nachspiel haben: Zwei republikanische Senatoren forderten umgehend eine Untersuchung durch den Kongress. „Also erst, nachdem Meta ERWISCHT wurde, hat es Teile seines Firmendokuments zurückgezogen“, schrieb Josh Hawley aus Missouri auf der Plattform X. Auch seine Kollegin Marsha Blackburn aus Tennessee unterstützte die Forderung. „Wenn es darum geht, unsere kostbaren Kinder online zu schützen, hat Meta auf ganzer Linie kläglich versagt“, sagte sie. Der demokratische Senator Ron Wyden aus Oregon nannte die Richtlinien „zutiefst beunruhigend und falsch“. Ein Gesetz wie die Section 230, das Internetfirmen vor der Haftung für von Nutzern veröffentlichte Inhalte schützt, sollte nicht für KI-Chatbots von Unternehmen gelten.

Das Meta-Dokument werfe ein Schlaglicht auf die ungelösten juristischen und ethischen Fragen rund um Generative KI, sagte Evelyn Douek, Assistenzprofessorin an der Stanford Law School. Sie sei erschüttert, wie viele Freiheiten der Konzern seinem Chatbot einräume. Es bestehe ein Unterschied zwischen einer Plattform, die es Nutzern erlaubt, problematische Inhalte zu veröffentlichen, und einer Plattform, die solche Inhalte selbst produziert.

Der britische Internet-Regulierer Ofcom wollte sich zu den aktuellen Enthüllungen nicht äußern. Die Behörde verwies auf ihren offenen Brief vom vergangenen November. Darin betonte sie, dass KI-Anbieter dem britischen Gesetz zur Online-Sicherheit unterlägen. Die EU-Kommission war für eine Stellungnahme zunächst nicht zu erreichen