KI und ChatGPT: Wenn Maschinen schreiben

Eine künstliche Intelligenz, die schreibt – wird der Mensch als Au­to­r:in bald überflüssig sein?

Illustration: Katja Gendikova

Viele sind erschrocken angesichts dessen, was die künstliche Intelligenz (KI) leistet. In einer Gesellschaft, die zutiefst von Schriftlichkeit geprägt ist, ist der Gedanke unangenehm bedrohlich, dass bald etwas, das als genuin menschliche Domäne galt – die Sprache – von Maschinen übernommen werden könnte. Das Schreiben ist eine Kulturtechnik, deren Bedeutung über einfache Kommunikation weit hinausgeht.

Wir schreiben aus unendlich vielen Gründen: um uns zu verständigen, um Wichtiges festzuhalten, um uns zu erinnern. Um andere zu verstehen, um die Welt zu verstehen, um uns selbst zu verstehen. Um uns Gehör zu verschaffen, um zu lernen, um zu denken, aus Spaß, aus Wut oder aus Trauer. Geht das verloren, wenn Maschinen anfangen, da mitzumischen?

GPT-3, das Sprachmodell, auf dem die meisten textgenerierenden Anwendungen basieren, wurde von Open AI schon 2020 veröffentlicht. Versuche, natürliche Sprache mithilfe von Maschinen zu simulieren, gehen indes noch viel weiter zurück. Der erste „Chatbot“ war ELIZA, eine Rogerianische Therapeutin, die 1966 von Joseph Weizenbaum entwickelt wurde. Fiktionen von künstlichen Menschen, die wie echte sprechen und sich verhalten, gibt es seit Jahrtausenden.

Doch um Androiden oder Gynoiden soll es in diesem Text nicht gehen. Am Beispiel Universität lässt sich zeigen, vor welch komplizierte Aushandlungsprozesse uns die sogenannte schwache KI stellt. In einer Schreibberatung erkundigte sich ein technikversierter Student, ob er kennzeichnen müsse, dass er GPT-3 seine Forschungsfrage gestellt, die Antworten sortiert und die besten in seine Argumentation eingebaut habe.

Ähnlich wie beim Taschenrechner

Unter den Kol­le­g:in­nen gingen die Meinungen dazu deutlich auseinander: Nein, wenn ich mich mit Kom­mi­li­to­n:in­nen austausche, muss ich ja auch nicht jede Idee ausweisen, die im Gespräch aufkommt, genauso wenn ich online in einem Diskussionsforum nachfrage. Natürlich müssen Hilfsmittel gekennzeichnet werden. Aber geben wir auch die Word-Rechtschreibprüfung oder jede Google-Anfrage an? Es geht ganz viel auch um Konventionen.

Dass Studierende sich untereinander austauschen, dass sie das von den Do­zen­t:in­nen im Seminar Diskutierte verarbeiten, dass sie googeln und Korrekturlesen lassen, ist klar. Wie KI da reinpasst, bleibt vorläufig ungewiss. Die Frage, die sich dabei stellt, lautet: Ist die Kompetenz, aus verschiedenen Argumenten auswählen zu können, gleichwertig dazu, eigene Argumente zu finden? Und daraus folgt schon die nächste Frage: Was ist überhaupt das Ziel der Argumentation?

Der fertige Text, der in sich schlüssig ist und gute Argumente aufweist? Oder der Prozess, bei dem kritisches Denken gefordert ist? KI-basierte Anwendungen wie ChatGPT können an ganz unterschiedlichen Stellen im Schreibprozess zum Einsatz kommen. Im Beispiel mit dem Studenten ging es um Wissen und Ideen: ChatGPT kann mir Sachverhalte erklären, die ich sonst erst recherchieren müsste, und mir Ideen für Argumente liefern, die mir sonst nicht eingefallen wären.

KI-Anwendungen können bei Formulierungen und dabei, meine eigenen Gedanken aufs Papier zu bringen, helfen. Oder lästige Arbeiten loszuwerden, wie das Verfassen von Mails und Abstracts wissenschaftlicher Artikel. Das an eine Maschine auszulagern, wäre eine große Arbeitserleichterung und Zeitersparnis. Ähnliche Diskussionen gab es übrigens bei fast jeder neuen Technologie – man denke an den Taschenrechner.

Nicht für alle Disziplinen geeignet

Wenn die Schü­le­r:in­nen in Klassenarbeiten umständliche Rechenoperationen nicht mehr selbst ausführen müssen, bleibt mehr Zeit für andere Aufgabentypen und Problemlösungen. Andererseits lernen die Schü­le­r:in­nen trotzdem noch Kopfrechnen, bevor sie mit einem Taschenrechner arbeiten dürfen. Bevor ich mir Abstracts von einer KI schreiben lasse, muss ich selbst erst mal verstehen, was dort reingehört.

Wie beim Taschenrechner sollte die Frage also eigentlich nicht lauten: KI-gestütztes Schreiben – ja oder nein?, sondern vielmehr: ab wann? Wie sinnvoll der Einsatz von KI-basierten Schreibtools ist, lässt sich nicht verallgemeinern. Schaut man allein in die Wissenschaft, wird man mit völlig unterschiedlichen Konzepten über das Schreiben konfrontiert, je nachdem, wen man fragt. In der Psychologie gehört hinter jede Aussage ein Beleg. Die KI bringt da wenig, denn GPT-3 ist nicht in der Lage, richtig zu referenzieren.

Wenn es zitiert, dann nur mit Glück auch tatsächlich existierende Texte. Man nennt das mittlerweile ‚Datenhalluzinationen‘. In der Literaturwissenschaft ist es Teil der Leistung, sich eine gute Forschungsfrage zu überlegen, während sie in anderen Fächern vorgegeben wird. Selbst für den Bereich der Hochschule lässt sich also kein allgemeingültiges Rezept dafür geben, wann und wo der Einsatz von künstlicher Intelligenz irgendwie nützlich wäre.

Schreiben ist ein komplexer Prozess, und es zählt nicht nur der fertige Text. Schreiben kann unendlich viele Funktionen haben, es ist auch Denk- und Forschungsinstrument. So vielfältig wie die Gründe sind, aus denen wir schreiben, so kompliziert wird es auch, wenn wir darüber nachdenken, wie sich künstliche Intelligenz darauf auswirkt.

Geduldige Co-Autorin

In der Wissenschaft spielen Quellen- und Literaturverweise eine wichtige Rolle. Wo habe ich eine Information her? Wie man richtig zitiert, gehört zu den ersten Lektionen eines Studiums. Zitieren dient der Transparenz: Je­de:r kann meine Quelle einsehen und nachvollziehen, wo meine Informationen herkommen. Zitieren ist auch eine Absicherung: Das habe ich mir nicht selbst ausgedacht, sondern das geht auf die Forschung anderer zurück. Ich zeige damit auch, dass ich mich im Forschungsdiskurs auskenne und die Erkenntnisse der Wis­sen­schaft­le­r:in­nen, die ich zitiere, anerkenne.

Deshalb ist Au­to­r:in­nen­schaft ein zentrales Thema: Wer ist für ein publiziertes Forschungsergebnis verantwortlich. Dabei geht es natürlich auch um Karrieren, die auch an der Zahl der eigenen wissenschaftlichen Publikationen hängt. In diesem Zusammenhang wird KI dann oft als Kollaborationspartnerin gehandelt: Man gibt sie als Co-Autorin an. Aber so einfach diese Lösung erscheint, sie stellt vieles infrage: Kann man eine KI zitieren, wenn das Ergebnis nicht reproduzierbar ist? Braucht eine KI Wertschätzung? Kann eine KI verantwortlich sein für das, was sie ausgibt?

Es geht um geistiges Eigentum und Urheberschaft, aber es berührt auch Au­to­r:in­nen­schaft als Idee. Dass Au­to­r:in­nen­schaft ein höchst variables Konzept ist, zeigt ein Blick in die Vergangenheit. Im europäischen Mittelalter – zumindest im deutschsprachigen Raum – gab es keine feste Einheit von Text und Autor:in. Viele Texte sind anonym überliefert, und selbst die, die bestimmten und in der Regel männlichen Autoren zugeschrieben werden, weisen in der Überlieferung sogenannte Varianz auf, das bedeutet, dass sie in verschiedenen Handschriften zum Teil völlig anders erscheinen.

Für Erzählungen wird auf Bekanntes zurückgegriffen, Originalität ist nicht besonders wichtig; das Handwerkliche steht im Vordergrund, und die Verfasser rühmen sich vor allem damit, das Alte in neuem, besserem Gewand zu präsentieren. Die Erfindung der künstlerischen Originalität wird gemeinhin dem Sturm und Drang zugeschrieben, in dem das Konzept der ‚Genieästhetik‘ Form annahm.

Davor gab es in der Frühen Neuzeit einen Boom in der Übersetzungspraxis, wo einerseits der Vorlage mit ihrer Einheit aus Sprache, Form und Autor besondere Wertschätzung zukam, während andererseits trotzdem stark in die Texte eingegriffen wurde. Tatsächlich war es noch viel komplizierter. Im Konzept von Au­to­r:in­nen­schaft einer Epoche zeigen sich die Werte einer Kultur oder Gesellschaft, und es zeigt sich auch, wie heterogen diese sein können. Das macht das Ganze mit der KI nicht einfacher.

Das eigene Buch in sieben Tagen

Ob KI als Autorin genannt werden darf, wird in der Wissenschaft gerade entsprechend kontrovers diskutiert, und einige Journals haben es in ihren Richtlinien bereits verboten. Man solle sie lieber im Methodenteil oder in der Danksagung nennen. Aber auch das hat natürlich ganz eigene Implikationen. Die Auseinandersetzung mit schreibender KI bringt uns dazu, uns mit diesen ganz grundlegenden Werten und Prinzipien zu beschäftigen. Wir werden nicht umhinkommen, vieles neu zu definieren.

Aber das muss nicht von heute auf morgen und mit blindem Aktionismus passieren. Etwas mehr Gelassenheit bedeutet gleichzeitig nicht, die Hände in den Schoß zu legen und das mit der schreibenden KI einfach passieren zu lassen. KI kann ein nützliches Hilfsmittel sein, aber auf die ethischen Implikationen bin ich noch gar nicht eingegangen: Was der Technokapitalismus, dessen Ausdruck der emsige Fortschritt im Bereich künstlicher Intelligenz ist, für die Gesellschaft und das Klima bedeutet, haben Kate Craw­ford („Atlas of AI“) und Meredith Broussard („Artificial Unintelligence“) eindrücklich beschrieben.

Künst­le­r:in­nen rufen gerade in Social Media und auf der Kunstplattform ArtStation zum Boykott KI-generierter Bilder auf. Hier geht es um echtes Einkommen, denn diese Künst­le­r:in­nen verdienen ihr Geld über Aufträge. Während Daniel Kehlmann sich in seinem Experiment („Mein Algorithmus und ich“) noch unbeeindruckt vom Können der KI zeigt, sind im Journalismus und beim Copywriting automatisch generierte Texte schon etabliert – inklusive Workshops: „Write your book in 7 days!“

Künstliche Intelligenz war schon immer eine hilfreiche Folie für die Entwicklung dystopischer oder utopischer Gesellschaftsentwürfe. Das ist sie auch jetzt, nur, dass wir langsam den Bereich der Fiktion verlassen. In diesem Text ist übrigens kein von einer KI generierter Absatz, auch wenn das gerade der Running Gag ist. Ob es dem Text gutgetan hätte? Sie können es ja ausprobieren und mir Bescheid geben.

Comments

[nutzer]

Vielleicht ist die KI ja heute schlauer als vor Weihnachten, die aktuelle Antwort auf die selbe Frage:

ikke: Wo liegt Hundfjället?

KI: Ich entschuldige mich, aber es scheint, dass ich mich in Bezug auf Hundfjället geirrt habe. Es gibt kein bekanntes Reiseziel oder Gebiet mit diesem Namen in Schweden oder anderswo.

Die Unwissenheit wird als Wahrheit verkauft.

[nutzer]

Spaßeshalber mal der eine Konversation mit einer KI: vorweg, Hundfjället ist ein Skigebiet im südlichen Mittelschweden, in Dalarna

ikke: was ist Hundfjället

KI: Hundfjället ist ein Ski- und Wandergebiet in Schweden, das sich im Norden des Landes befindet. Es liegt in der Gemeinde Jokkmokk in der Provinz Norrbotten...

ikke: das stimmt nicht

KI: Ich verstehe, dass die Informationen, die ich Ihnen gegeben habe, möglicherweise nicht korrekt sind. Bitte teilen Sie mir mit, was falsch ist, damit ich mein Wissen entsprechend korrigieren kann. Ich bin darauf programmiert, mich ständig weiterzubilden und mein Wissen zu aktualisieren, um Ihnen so gut wie möglich weiterhelfen zu können.

ikke: wo liegt Hundfjället?

KI:Es tut mir leid, aber ich kann Ihnen keine Informationen über Hundfjället geben, da ich nicht weiß, wo sich dieses Gebiet befindet. Mein Wissen basiert auf den Informationen, die mir zum Zeitpunkt meiner Entwicklung zur Verfügung standen, und ich bin nicht in der Lage, neue Informationen aus dem Internet abzurufen

Letztlich erzähle ich der KI was richtig ist, wenn ich mich drauf verlasse, aua das ginge nach hinten los...

Wenn nur genug Leute die KI füttern, wird sie irgendwann mal wissend, aber Wissenslücken werden wohl immer mit der Inbrunst der Wissenheit erst einmal überdeckt.... und wenn ich jetzt die KI mit falschen Infos füttere....? es gibt anscheinend keinen Gegencheck, sehr problematisch

[nutzer]

@nutzer Vielleicht ist die KI ja heute schlauer als vor Weihnachten, die aktuelle Antwort auf die selbe Frage:

ikke: Wo liegt Hundfjället?

KI: Ich entschuldige mich, aber es scheint, dass ich mich in Bezug auf Hundfjället geirrt habe. Es gibt kein bekanntes Reiseziel oder Gebiet mit diesem Namen in Schweden oder anderswo.

Die Unwissenheit wird als Wahrheit verkauft.

[Winnetaz]

Wissenschaftliche Arbeiten brauchen Quellenangaben. Solange diese ordentlich ausgewiesen werden, ist alles in Ordnung. KI-Anwendungen haben ja per se keine eigenen Ideen, sondern schreiben selbst irgendwo ab. KI hat auch keine eigene Meinung und keine wirklich originellen Ideen. Sie kann ohne Vorlagen ("Training") nichts erschaffen. Da muss man von der KI eben auch konsequent alle verwendeten Quellen einfordern. "GPT-3 ist nicht in der Lage, richtig zu referenzieren" - dann muss sie das eben auch noch lernen. So schwer kann das nicht sein, wenn das "I" in KI ernst gemeint ist.

[Mustardman]

Ich finde das faszinierend.

Es gab bisher immer eine gewisse süffisante Arroganz derer, die sich selber in der Gewissheit suhlten, dass ihre Fähigkeiten nicht so leicht zu automatisieren sind.

Mittlerweile muss man aber sagen, dass es eher die maximal flexiblen Bioroboter sind, die für 12 Euro in der Stunde nicht nur fast alle manuellen Tätigkeiten verrichten können, sondern dafür sogar noch ihre Betriebsstoffe und die Anreise selber bezahlen, die in der Tat fast unmöglich wirtschaftlich durch Roboter zu ersetzen sind. Lol.

Schnell hingeschluderter Kaugummi-Content für das Internet dagegen: DAS ist sehr wohl ersetzbar. Wer dann noch weiß, dass so richtig originelle und kreative Inhalte eh kaum verkäuflich sind, weil kaum einer Kreativität würdigen kann, dem gefriert jetzt das Blut in den Adern, wenn das seine oder ihre Berufung ist.

Wie jede Revolution wird auch diese ihre Kinder fressen...

[Deep South]

"wird der Mensch als Au­to­r:in bald überflüssig sein?"

Ich hab vor ein paar monaten ein Interview mit einer Kinderbuch-Autorin gelesen, die sie wie Bolle gefreut hat, dass es jetzt eine supertolle KI gibt, die wunderschöne Illustrationen generiert und sie jetzt niemanden mehr dafür bezahlen muss. Und da kam mir genau die Frage in den Kopf, wanns denn KIs gibt, die Autoren erstzen.

Abgesehen davon, dass echte Kreativität -nicht nur neu zusammengewürfelte Reproduktionen menschengemachter Ideen- durch KIs gar nicht möglich sind, ist das der Punkt, wo Menschen sich nicht mehr nur von Technik unterstützen lassen, sondern sich selbst und damit auch der dem Mensch ureigensten kreativen Schöpferkraft entledigt.

[Totti]

Zur Schlussfrage ("Hätte KI dem Text gut getan?"): Ich hätte mich nicht gewundert, wenn uns Frau Lordick am Ende verschmitzt mitgeteilt hätte, dass der gesamte vorherige Text KI-generiert war... So las er sich jedenfalls. Ein braves Zusammentragen von Informationen im aus Schulzeiten bekannten Erörterungsstil.

Zur Anfangsfrage ("Wird der Mensch als Autor:in bald überflüssig?"): Wenn Menschen nicht besser als KI schreiben, lautet die Antwort ja.

[zsuka]

@Totti Ich fand den Text gut. Was hätten Sie sich denn gewünscht, damit er sich von einem von der KI generierten Text abhebt? Was sind ihre Unterscheidungsmerkmale?

[Totti]

@zsuka Eine eigene originelle Idee, eine knackige Formulierung, einen

zitierungswürdigen Satz, einen roten Faden, eine Bewertung...

[Mustardman]

@Totti Kreativität halt. Einfach nur nicht ganz falsche Inhalte mit perfekter Rechtschreibung sind einfacher zu ersetzen als eine Krankenpflegerin oder ein Bauarbeiter. Schon gar nicht für die gezahlten Stundenlöhne.

[nutzer]

meine paar Versuche mir Texte per KI schreiben zu lassen, lieferten bestenfalls Texte im Grundschulniveau, die Nichtaussage sprang derart deutlich aus dem Text, dass (zumindest diese Texte) keinen Vorteil verschaffen dürften. Gleichzeitig, gab es derart krass falsche Fakten, ebenfalls auf ganz basalem Niveau, unbrauchbar...(komplett falsche geografisch Lage eines Ortes)

Auf meine Richtigstellung dieser Fakten, gab die KI die Antwort, nun ja sie wisse ja nur, was sie zum Zeitpunkt der Programmierung implementiert bekommen hat, der Rest sei eben Nichtwissen, aber ich könne gerne mein Wissen teilen, um die KI besser zu machen.

Momentan ist das wohl noch nicht so weit, wie es allenthalben beschrieben wird, was nicht heißt, dass das nicht noch kommen kann

[Mustardman]

@nutzer Besser kann eine KI das vielleicht nicht, aber "Content" produzieren ausreichend gut für sehr wenig Geld kann sie sehr, sehr gut...

[ke1ner]

@nutzer Mist! Ich wollte eigentlich das mit dem Buch in 7 Tagen machen!

[warum_denkt_keiner_nach?]

@nutzer "...lieferten bestenfalls Texte im Grundschulniveau..."

Für den Springerverlag würde das völlig ausreichen :-)

[nutzer]

@warum_denkt_keiner_nach? wahrscheinlich machen die das längst... : )