Yuval Noah Harari im Zukunftsgespräch

Ist künstliche Intelligenz autoritär?

Uns erwarten drei große Probleme: Nuklearkrieg, Klimawandel und technologische Disruption.

Bild: Olivier Middendorp

Interview: Peter Unfried

taz FUTURZWEI: Die meisten Leute denken bei künstlicher Intelligenz vermutlich an Maschinen, die Menschen töten, weil sie die nicht mehr wollen oder brauchen, Herr Harari. Speziell, wenn Sie die Serie Westworld gesehen haben, in der das genau so passiert.

Yuval Noah Harari: Das ist Science Fiction. Leute bringen künstliche Intelligenz und künstliches Bewusstsein durcheinander. Und dann denken sie: Oh, die Roboter werden uns umbringen. Ich schreibe in meinem Buch, dass Karl Marx ein sehr viel besserer Führer ist als Steven Spielberg, was die Gefahren der KI angeht. Diese Gefahren sind nicht die Roboter, die dich umbringen, sondern die Roboter, die deinen Job übernehmen. Darüber sollten sie sich sorgen. Und um deinen Job zu übernehmen, müssen sie kein Bewusstsein haben, sie brauchen nicht mal superintelligent zu sein.

Haben Sie Westworld gesehen? Das hat bei mir starke Emotionen ausgelöst.

Ja, klar, die erste Staffel war großartig, die zweite schrecklich. Aber die Serie richtet die Aufmerksamkeit der Leute in die falsche Richtung und das falsche Szenario, weil das, was sie untersucht, ist wie bei vielen Science-Fiction-Filmen: Was passiert, wenn Roboter oder Computer Bewusstsein bekommen, haben sie dann Rechte wie Menschen?

Der Mann:

Geboren 1976 in Haifa, Israel, Historiker und Bestsellerautor. Lebt mit seinem Partner und Manager auf dem Land zwischen Tel Aviv und Jerusalem. Veganer.

 

Das Werk:

Eine kurze Geschichte der Menschheit (2011, deutsche Übersetzung 2013): Skizze der menschlichen Entwicklung. These: Der Mensch verdanke seine erdbeherrschende Stellung vor allem seiner kulturellen Fähigkeit zu Fantasie und kollektivem Erzählen, welche zum gemeinsamen Handeln geführt habe.

Homo Deus (2016, deutsche Übersetzung 2017): Die Zukunft der Menschheit. These: Die technischen Möglichkeiten machen den Menschen in naher Zukunft zu Gott.

21 Lektionen für das 21. Jahrhundert (2018): Alles über alles. These: Wer das gelesen hat, kann jede Party der nächsten zehn Jahre dominieren.

Haben sie Anrecht auf ein bedingungsloses Grundeinkommen, wenn sie die Arbeit nicht mehr machen wollen oder können?

Das sind philosophisch betrachtet sehr interessante Fragen, aber wir werden diese Fragen nicht in den nächsten beiden Jahrzehnten zu beantworten haben. Wahrscheinlich. Aber andere Fragen, wie: Was passiert, wenn Millionen Menschen aus dem Arbeitsmarkt fliegen als Folge von künstlicher Intelligenz? Das ist ein sehr, sehr realistisches Szenario. Darüber sollten wir uns jetzt sorgen, weil es unmittelbare Auswirkungen hat für Beschäftigung mit der Frage, was Bildung ist, was man Kindern in der Schule beibringt, wenn der Jobmarkt in zwanzig Jahren ganz anders aussieht. Das ist sehr relevant für Regierungspolitik. Über die Frage, wie das den Arbeitsmarkt verändert, und über die Folgen für Gesellschaft und Politik, darüber muss wir jetzt nachdenken und nicht erst in zehn oder zwanzig Jahren.

Es gibt eine Reihe Leute in der Künstliche-Intelligenz-Community, die sagen: Aaaah, diese ganzen Vorhersagen über KI sind viel zu verfrüht.

Genau. Sie sagen: Der Computer ist vielleicht Weltmeister im Go. Aber dieser Computer kann sich nicht mal eine Tasse Tee kochen. Aber viele Jobs brauchen nur sehr eingeschränkte Fertigkeiten. Um Leute in diesen Jobs zu ersetzen, musst du nicht ...

… Tee kochen können.

Nein, du brauchst auch keine grundsätzliche Intelligenz. Nur bestimmte Kompetenzen. Selbst wenn wir nicht über achtzig Prozent Arbeitslosigkeit sprechen, sondern nur über dreißig Prozent, dann ist das genug für eine Revolution.

Die deutschen Autohersteller denken, sie behielten die Macht, weil das Auto bisher von Autoingenieuren gebaut wird. Im Silicon Valley sehen Sie das Auto als Verpackung einer App.

Autos sind fahrende Computer, der Motor ist Nebensache, das einzige Relevante ist der Computer.

Es geht um die Daten.

Ein Auto, das selbst fährt, braucht künstliche Intelligenz, die Menschen versteht. Das ist das Wichtigste, was man über Autos künftig wissen muss. Es geht nicht darum, dass man eine Neunzig-Grad-Kurve hinkriegt, ohne dass es kracht. Es geht darum, damit umzugehen, dass ein Kind an einer Straße steht, auf die gerade ein Ball rollt. Das Auto muss den Unterschied kennen und einschätzen, zwischen dem Verhalten eines Achtjährigen, eines Achtzehnjährigen und eines Achtzigjährigen, der sich der Straße nähert. Das Auto muss Menschen verstehen.

Wie versteht man Menschen, die an der Straße stehen, auf die ein Ball rollt?

Dafür braucht man kein Bewusstsein, man braucht eine große Menge Daten und etwas, was Leute oft auch nicht mitkriegen. Sie denken, die Künstliche-Intelligenz-Revolution besteht darin, dass Computer stärker und besser werden. Aber es gibt eine ganz andere Seite dieser Revolution, und die dreht sich nicht um Computerwissenschaft, sondern um Biologie. Es geht darum, Menschen zu hacken, um sie zu verstehen.

 »Es geht darum, den Menschen zu hacken«

Sie machen einen zentralen Punkt, dass künstliche Intelligenz autoritäre Systeme stärkt.

Stärken könnte, ja. Das große Problem der autoritären Systeme im 20. Jahrhundert war die Konzentration der Information an einem Ort. Auf Grundlage der Technologie des 20. Jahrhunderts war das extrem ineffektiv. In der Sowjetunion versuchte man, alle Informationen über die ökonomische Sphäre in Moskau an einem Ort zusammenzubringen und zu analysieren und dann Entscheidungen treffen. Das Ergebnis war die sowjetische Wirtschaft, die weit hinter westlichem Wirtschaften zurückblieb. Sie hatten schlicht nicht die Technologie, um die Informationen schnell genug auszuwerten und dann gute Entscheidungen zu treffen. Die liberalen Demokratien des Westens hatten im 20. Jahrhundert den Vorteil, Macht und Informationen zwischen vielen, vielen Institutionen zu verteilen.

Sie sprechen in der Vergangenheitsform.

Mit künstlicher Intelligenz, Big-Data-Maschinen und Algorithmen bekommt man ein fast entgegengesetztes Szenario. Es wird nicht nur leichter, eine enorme Menge an Information an einem Ort zu verarbeiten, in bestimmten Bereichen ist es ein großer Vorteil, die Information zu konzentrieren. Je mehr Information man an einem Ort hat, desto effizienter wird das System. Nehmen wir Genetik. Ein großer Teil der wissenschaftlichen Arbeit ist statistisch. Für gute Statistik braucht es eine große Datenmenge.

Ihre These lautet: Wer die KI beherrscht, hat die wirtschaftliche und in der Folge die politische Macht. China hat anderthalb Milliarden Einwohner.

Genau. Die Chinesen haben eine Datenbasis von 1,4 Milliarden Menschen. Die werden also viel bessere Statistiken haben und in der Folge viel bessere Genetik. In Deutschland hat man diese ganzen Restriktionen wie den Schutz der Privatsphäre und der medizinischen Aufzeichnungen. Man kann den Leuten nicht einfach befehlen, ein DNA-Sample abzugeben. In China schon. Damit hat China einen riesigen Vorteil in diesem Feld. Das gilt nicht für alle, aber für viele Bereiche, dass man mit KI und Big Data Vorteile hat. Auf die Politik übertragen bedeutet das, dass autoritäre Regime bestimmte Vorteile gegenüber liberalen Demokratien haben könnten.

Politiker reden hauptsächlich darüber, wer von KI ökonomisch profitieren wird und wer verlieren wird. Soziale und gesellschaftliche Fragen kommen entweder erst danach oder überhaupt nicht.

Ja, aber es ist nicht unausweichlich, dass KI uns in eine bestimmte Richtung treibt. Wir hatten die gleichen Streits im 19. Jahrhundert. Es gab Kinderarbeit und Leute sagten: Wenn wir Kinderarbeit verbieten, aber die Franzosen nicht, dann haben die einen Vorteil. Jetzt schauen die Leute zurück und sagen: Das Verbot von Kinderarbeit war im Rückblick eine gute ökonomische Entscheidung. Stattdessen konnten die Kinder in die Schule, waren viel besser ausgebildet und konnten qualitativ ganz anders zu den Industrien beitragen. Aber im 19. Jahrhundert war das überhaupt nicht klar.

Heißt?

Wir haben eine Wahl. Lassen Sich mich ein Beispiel geben. Die meisten der KI-Anwendungen im Moment werden entwickelt für die Zwecke von Staaten und Unternehmen. Es ist aber keine technische Unmöglichkeit, die Richtung umzudrehen und Systeme zu entwickeln, die die Regierung im Dienst der Bürger überwachen. Etwa um Korruption zu verhindern oder andere Gesetzesübertretungen. Wenn man Überwachung so sehr mag, warum nicht die Polizisten 24 Stunden am Tag überwachen?

Weil es schrecklich endet. Denken Sie an Dave Eggers‘ The Circle, wo Politiker 24 Stunden am Tag eine Livekamera tragen müssen.

Ich rede über Polizisten, nicht Politiker.

Trotzdem.

Ich sage ja nicht, dass das etwas ist, was wir auf jeden Fall tun sollten. Meine Botschaft ist: Es gibt sehr viel mehr Möglichkeiten, künstliche Intelligenz zu nutzen, als den Leuten heute klar ist. Man kann auch einen KI-Helfer entwickeln, der dir nicht Zeug verkauft, das du nicht brauchst, sondern dich davor schützt. Wie einen Anti-Virus im Computer hast du im Grunde einen Anti-Virus für dein Gehirn.

1 Westworld. Serie. Staffeln 1 und 2

In dem Vergnügungspark Westworld können die Gäste Wilder Westen spielen, das heißt, die menschenähnlichen Roboter-Cowboys und Salongirls (Hosts) ficken, demolieren oder erschießen. Die Hosts werden jeden Abend eingesammelt, repariert und dann für den nächsten Tag mit gelöschtem Speicher neu gestartet. Doch dann erinnert sich eine Roboterfrau, es kommt zum Aufstand. Westworld befördert die klassische Verwirrung, dass künstliche Intelligenz und künstliches Bewusstsein verwechselt werden. Die Westworld-Roboter entwickeln ein (künstliches) Bewusstsein. Das aber gibt es – bis auf Weiteres – nicht.

2 Black Mirror: Abgestürzt. Serie. Staffel 3, Folge 1

Menschen werden in einer nahen Zukunft permanent bewertet und anhand ihres Social Rankings behandelt. Die Protagonistin versucht, von ihrer 4,2 auf eine 4,5 von maximal 5 möglichen Punkten im Ranking zu kommen. Sie erhofft sich den sozialen Aufstieg über eine Einladung zur Hochzeit einer alten Freundin, bei der alle Gäste hohe Scores haben. Doch dann geht alles schief, sie stürzt innerhalb von Stunden mit ihrem Score ab, kriegt keine Flugtickets mehr und wird nicht einmal mehr als Tramperin mitgenommen, vgl. Gerd Gigerenzer (S. 40) über Social-Credit-Systeme.

3 Anon. Netflix. Original, 2018. Spielfilm

In einer modernen Welt werden durch Implantate die visuellen Informationen jedes Menschen durch einen konstanten Informationsstrom aufgezeichnet und so die Privatsphäre und Anonymität, wie wir sie kennen, ausgelöscht. Sobald der Cop Sal Frieland (Clive Owen) einem Menschen begegnet, kann er neben dessen Kopf sämtliche Daten, Vorstrafen, alles über ihn ablesen, denn alles ist aufgezeichnet. Er kann allen Menschen ins Hirn und ins Gedächtnis schlüpfen und klärt so seine Morde auf. Doch dann taucht eine Frau auf (Amanda Seyfried) und hat keine Daten. Nichts. Ist sie die Mörderin? Oder die Mahnerin gegen eine totalitäre Welt?

Manchmal denke ich, das könnte ich gebrauchen.

Es gibt einen Kampf um Aufmerksamkeit, das ist der ganz große Kampf. Und der einfachste Weg, um die Aufmerksamkeit der Leute zu bekommen, ist ihre Gefühlsknöpfe zu finden und zu drücken. Entweder macht man sie wütend oder gierig oder man macht ihnen Angst. Das bedeutet, dass wir heute Menschen haben, die Stunden am Tag damit verbringen, ihre Angst zu füttern. Etwa, indem sie eine Fake-News-Geschichte nach der anderen darüber lesen, wie Immigranten Deutschland übernehmen. Sie können gar nicht anders, als immer weiter zu lesen. Wenn Ihr KI-Helfer weiß, dass Sie anfällig für solche Geschichten oder Fake News von Trump sind, egal wie lächerlich, dann kann er die einfach blocken. Sie haben einen unwiderstehlichen Drang, drauf zu klicken, die KI schützt Sie davor, etwa indem sie sie verbirgt oder eine Warnung schickt: Vorsicht!

Das klingt aber auch nicht gut, weil es in alle Richtungen manipuliert werden kann. Wer entscheidet denn, was nicht gut für mich ist, wenn ich selbst nicht beherrscht genug bin?

Tja, das ist die große Frage. Im Moment dienen alle Überwachungssystem eben nicht Ihnen, sondern Regierungen und Unternehmen. Wenn Sie dieselbe Kraft nutzen, aber selbst ihr Meister sind, dann ist es etwas anderes. Das Silicon Valley entwickelt keine solche Art von KI-Helfern, klar, aber genauso wie es einen Markt für Cybersecurity gibt, gibt es einen großen Markt für Cybersecurity des Verstands. Worum es mir geht: Wenn Sie wissen, was Sie wollen, können Sie die Technologie für Ihre Zwecke nutzen. Wenn Sie es nicht wissen und keine Vision für Ihr Leben und die Menschheit haben, dann werden Sie nur hin und her geworfen von diesen Technologien, die Ihre Aufmerksamkeit hijacken. Und dann verlieren Sie die Kontrolle über Ihr eigenes Leben.

Herr Harari, die Geschichte der liberalen Demokratie hat an Kraft verloren. Was ist unsere Geschichte? Ich hab keine Antwort. Sie?

Wo wird die Menschheit in zwanzig oder dreißig Jahren sein – wenn man Klimawandel, künstliche Intelligenz, Biotech und alles zusammen sieht? Darauf hat fast kein Politiker eine bedeutsame Antwort. Weder auf der linken noch auf der rechten Seite. Wir haben also ein Vakuum an Geschichten und das erklärt zu einem gewissen Teil den Aufstieg von Populismus und Nationalismus. Die haben zwar keine neue Geschichte anzubieten, aber eine alte Geschichte. Es sind nostalgische Fantasien, dass man in eine nie existiert habende goldene Vergangenheit zurückgehen kann. Das zieht Menschen deshalb an, weil eben keiner eine bedeutsame Vision für Vorwärts hat.

Wir suchen bei taz FUTURZWEI das Konstruktive. Was ist das?

Die Geschichte, die ich versuche, den Leuten zu erzählen, geht so: Schauen Sie, wir wissen nicht, wie die Zukunft aussehen wird, aber wir wissen, dass wir folgenden drei großen Problemen entgegengehen: Nuklearkrieg, Klimawandel, technologische Disruption. Das müsste also ganz oben auf der politischen Agenda eines jeden Landes stehen.

Das ist nicht der Fall.

Nein, überhaupt nicht. Wie werden wir das bewältigen? Und dieses Wir meint die Menschheit – weil Klimawandel kann man nicht als Deutschland allein bewältigen. Selbst wenn man machtvoll und reich ist; ohne USA und China wird das nie reichen. Genauso geht die Regulierung von künstlicher Intelligenz und Biotechnologie nur auf globaler Ebene. Die Geschichte der Menschheit ist es also, diese drei Probleme gemeinsam anzugehen. Ob die Leute von dieser Geschichte überzeugt werden können, das ist schwer zu sagen.

Die liberale Demokratie ist wirklich in Gefahr?

In der Krise, ja. Populismus und Nationalismus werden befeuert durch ökonomische Not und das Gefühl, zurückgelassen zu werden. Wenn man aber das heutige Polen mit dem Polen von 1989 vergleicht, dann geht es den meisten Polen viel besser und eben nicht nur, was politische Freiheit angeht, sondern ökonomisch. Das verhindert aber nicht, dass viele Populismus, Nationalismus und Fremdenhass zum Opfer fallen. Auch wer Trump unterstützt, muss nicht unbedingt die letzten dreißig Jahre durchgelitten haben.

Er ist angezogen von der Story Trumps: Man muss sich einfach aus der Welt von heute zurückziehen, dann wird alles wieder gut.

Es ist eine starke Geschichte, aber sie führt in die Irre.

Ich weiß.

Das hätte im 19. Jahrhundert funktionieren können, aber nicht in einer globalen Ökonomie des 21. Jahrhunderts. Wenn man wirklich zurück zu einer autarken Existenz will, dann werden viele Ökonomien in der Welt komplett zusammenbrechen, und dann gibt es die genannten globalen Probleme, die man schlicht nicht auf nationaler Basis lösen kann. Vielleicht ist das Schlimmste daran, dass viele der Populistenführer niemals ein Scheitern zugeben werden. Wenn sich der Traum von der Rückkehr in ein goldene Zeit eben nicht materialisiert, dann sehe ich nicht, wie Erdogan oder Putin oder Trump oder Orban sagen: Okay, wir haben es probiert, aber unser Konzept funktioniert nicht, wir brauchen mehr Zusammenarbeit.

Sie werden sagen: Die anderen sind schuld.

Es ist eben nicht so, dass man sagt, lass es uns mit Marine Le Pen probieren und wenn es nicht funktioniert, sagt man, okay, war nichts, wählen wir sie halt wieder ab und probieren es mit jemandem anders. Da hätte ich nichts dagegen. Aber sobald sie die Staatsmaschine kontrollieren und die Medien zu kontrollieren anfangen, können sie ihre Geschichten so weiterdrehen, dass es immer darauf hinausläuft, dass Feinde und Verräter schuld sind und sie mit immer noch mehr Macht immer noch extremer gegen diese ganzen Feinde und Verräter vorgehen. Das ist meine größte Angst. Dann landet man bei so etwas wie Venezuela. Das ist komplett gescheitert, aber wenn man Maduro fragt, dann waren es die Amerikaner, die CIA, die Verräter. Man wird ihn einfach nicht los.

»Im 21. Jahrhundert könnte es so sein, dass eine viel größere Frage als Ausbeutung Irrelevanz ist.«

Was ist der entscheidende Punkt, den es über das 21. Jahrhundert zu verstehen gilt?

Wir sind daran gewöhnt zu denken, dass die große Frage in der Ausbeutung besteht. Du hast eine Elite, du hast eine Masse. Die Elite beutet die Masse aus. Und es geht um das Ausbalancieren. Aber im 21. Jahrhundert könnte es so sein, dass eine viel größere Frage als Ausbeutung Irrelevanz ist. Es gibt eine Elite und es gibt ein großes Segment der Bevölkerung, das nicht ausgebeutet wird, sondern schlicht und einfach irrelevant ist. Die Leute im Silicon Valley beuten die Leute in Kentucky nicht aus, die brauchen sie schlicht und einfach nicht. Das ist viel schlimmer. Psychologisch. Zu spüren, dass man zurückgelassen wird, dass man seinen Wert verliert, das ist schrecklich.

Das ist, was in Ostdeutschland nach 1989 gespürt wurde.

Wir brauchen den 20.-Jahrhundert-Rahmen der Ungleichheit, aber eben auch den neuen Referenzrahmen der Diskussion über Irrelevanz. Viele Leute, die hinter Trump her rennen, sorgen sich mehr um ihre Irrelevanz als um ihre Ausbeutung und das zu Recht. Sie werden zurückgelassen, weil sie nicht gebraucht werden.

Konstruktiv?

Ich habe da keine Lösung, aber es geht mir darum, zu realisieren, dass das passiert. Und genau das passiert mit KI: Es wird viele Menschen ökonomisch irrelevant machen und damit politisch machtlos. Das werden Menschen überhaupt nicht mögen und aus sehr guten Gründen.

Frankreichs Präsident Macron hat als Einziger eine neue Geschichte nach vorn erzählt und eine Mehrheit gewonnen. Aber auch er hat es nicht geschafft, die nötige sozialökologische Transformation zur Minderung der Erderhitzung in seine Geschichte einzuweben.

Für eine einzige Regierung wäre dieser Anspruch fast automatisch Selbstmord. Weil er kurzfristig hohe ökonomische Kosten verursacht. Und wenn die USA und China nicht mitmachen, dann zahlt man einen sehr hohen ökonomischen Preis und dann schmeißen dich die Wähler nach einer Legislatur raus.

Sie haben die Probleme beschrieben und dann die Frage aufgeworfen, ob Politik diese Probleme überhaupt lösen kann, und sagen: Ist im Moment sehr unwahrscheinlich.

Es ist nicht unmöglich, aber dazu müssen wir die politischen Gespräche verändern. Solange das auf Einwanderung fixiert ist oder den ökonomischen Zyklus, ob man sechs oder acht Prozent Arbeitslosigkeit hat, sehe ich keinen Weg raus. Aber wenn es gelingt, das politische Gespräch hin zu den großen Themen wie Klimawandel und künstliche Intelligenz zu verlagern, dann haben wir eine Chance, einen relevanteren Plan zu entwerfen, wie wir damit umgehen.

Was halten Sie von der These, dass liberale Demokratie nicht langfristig handeln kann?

Manche Leute sagen, dass nur ein autoritärer Staat wie China langfristige Politik machen kann, weil deren Staatslenker auch noch in zwanzig Jahren an der Macht sein werden. Sie sind also auch noch da, wenn der Klimawandel die Küsten angreift, und deshalb kommen sie zu der Erkenntnis: Wir müssen da jetzt was tun. Sie sagen: Im Westen beschäftigt sich eine Regierung ausschließlich mit der Legislaturperiode und ihrer Wiederwahl.

Ist das so oder nicht?

Es muss nicht so sein. Viele der Schlüsseldiskussionen in liberalen Demokratien sind nicht kurzfristig, da geht es um langfristige Werte. Ein einfaches Beispiel: Der Streit um die Abtreibung ist in den USA eine der großen Fragen zwischen Demokraten und Republikanern. Waffenkontrolle, Homoehe genauso, das hat nichts mit einer Legislaturperiode zu tun. Wenn wir also Klimawandel und grundsätzliche menschliche Würde im Angesicht der Künstliche-Intelligenz-Revolution zu Schlüsselthemen der Politik machen können wie Homoehe oder Abtreibung, dann können wir politische Diskussionen und Politik um diese Fragen herum bekommen.