die gesellschaftskritik

Falsche Gesichter, echte Probleme

Eine Website generiert aus Porträtfotos täuschend echte Fälschungen

Dass sich Fotos von Personen dank Software extrem verändern lassen, ist nicht neu. Und auch nicht, dass Programme Figuren nach menschlichem Vorbild generieren können. Doch was künstliche Intelligenz in Sachen Täuschung schon alles kann, das zeigt jetzt die Website thispersondoesnotexist.com (deutsch: Diese Person existiert nicht).

Mit jeder Aktualisierung erstellt die Seite ein neues Foto einer Person, das so in jedem Facebook-Account erscheinen könnte. Nur: Die Menschen auf den Fotos gibt es nicht. Sie wurden mithilfe von künstlicher Intelligenz erschaffen.

Der zufällige Fake-Face-Generator macht sich das Prinzip sogenannter Generative Adversarial Networks (GAN) zunutze, das schon hinter den „Deepfakes“, also dem Skandal um Bewegtbildmanipulation, steckte. Im Frühjahr 2018 wurde die Öffentlichkeit auf diese Form der Fälschung aufmerksam, als Buzzfeed ein unechtes Video vom damaligen US-Präsidenten Barack Obama veröffentlichte und Internetnutzer*innen die Gesichter von Schauspieler*innen in Pornos hineinmontierten.

Die Website mit den falschen Gesichtern erinnert nun daran, dass von Fälschungen nicht nur Prominente betroffen sein können. Auf Grundlage der GAN-Technologie greift ein Algorithmus zunächst auf ein riesiges Datenset von Fotos echter Menschen zu. Verschiedene Merkmale der Bilder werden durchmischt und so zu einem neuen Gesicht zusammengefügt. Dann wird überprüft, ob das Bild echt oder gefälscht ist. Wenn der Computer die Täuschung erkennt, geht das Foto wieder zurück zum ersten Schritt – um es noch besser zu machen.

Urheber der Website ist Philip Wang, der als Software-Ingenieur beim Shuttle-Dienst Uber arbeitet. „Den meisten Menschen ist nicht klar, wie gut künstliche Intelligenz künftig Bilder miteinander verschmelzen lassen können wird“, sagte Wang gegenüber Motherboard in der vergangenen Woche. Wichtiger sind jedoch die Fragen: Wie unterscheiden wir richtig von falsch? Wer bringt uns das bei? Und von welchem Geld?

Die Technik entwickelt sich seit Jahren schneller, als Gesellschaft und Politik mit Regularien und Medienkompetenzförderung hinterherkommen. Die zunehmend gute Qualität der Bilder macht es derweil fast unmöglich, Fake-Profile und Bots zu erkennen – und in der Konsequenz die Glaubwürdigkeit von Inhalten im Netz zu gewähr­leisten. Lin Hierse