Bedeutet die Generative KI einen epochalen Wandel für unsere Gesellschaft? Vielleicht, so könnte man die Antwort von Elena Esposito aus ihrem aktuellen Essay „Kommunikation mit unverständlichen Maschinen“ (2024) zusammenfassen. Natürlich aber ist nicht diese uneindeutige Antwort, sondern der dahinterliegende Argumentationsgang das Interessante an dem 95 Seiten umfassenden Buch, erschienen beim Residenz Verlag.
Zum Einstieg holt die Autorin etwas weiter aus und beleuchtet die wichtigsten Kommunikationstechnologien (bzw. Innovationen) dahingehend, welche Wirkungen sie auf menschliche Gesellschaften hatten: etwa die Schrift, die es mit sich brachte, dass Menschen kaum noch etwas memorieren müssen und das heute auch gar nicht mehr können, gleichzeitig aber riesige Mengen verschriftlichten Wissens hervorbrachte; oder der Buchdruck, der unter anderem dazu führte, dass Literatur und damit Fiktion verbreitet werden konnten, und gleichzeitig die Fähigkeit schulte, Fiktion und Realität zu unterscheiden. Beide Innovationen haben es zudem ermöglicht, auch mit Menschen zu kommunizieren, die man nicht kennt, die anonym sind und eine Masse bilden. Generative KI überschreite eine weitere Schwelle: Nun werde die Maschine zum Kommunikationspartner.
Während wir bei der Nutzung von Suchmaschinen am Ende des Prozesses mit Menschen in Kommunikation stehen, die Informationen erzeugt und online zugänglich gemacht haben, bekommen wir mit generativer KI wie ChatGPT Ergebnisse auf eine Anfrage, die in den meisten Fällen so noch nie formuliert wurden (Esposito, 2024, S. 37): Die Maschine ist hier kein Werkzeug mehr, das es ermöglicht, mit anderen Menschen effizienter oder anders zu kommunizieren, sondern die Maschine wird mit eigenen Beiträgen zum Teilnehmer an der Kommunikation. Das ist neu!
Die Kernbotschaft des Essays von Esposito ist: Statt von künstlicher Intelligenz sollten wir von künstlicher Kommunikation sprechen. Generell sieht es die Autorin als einen Fehler an, die Intelligenz der Maschinen mit der menschlichen Intelligenz zu vergleichen. Vielmehr haben Algorithmen gelernt, „als kompetente Kommunikationspartner zu fungieren“ (Esposito, 2024, S. 27). Oder anders formuliert: Maschinen (bzw. Algorithmen) sind in der Lage zu kommunizieren, ohne intelligent zu sein – „da sie auf andere Weise das tun können, was Menschen tun …“ (Esposito, 2024, S. 31). Der Erfolg der neuen Modelle hinter generativer KI sei gerade, dass man nicht mehr versuche, menschliche Intelligenz nachzubauen.
Die Autorin will mit ihrer Kernbotschaft nicht sagen, dass die Kommunikation zwischen Mensch und Maschine der Kommunikation zwischen zwei Menschen in der Tiefe ähnelt – ganz und gar nicht, auch wenn es etwa im Falle eines „Gesprächs“ mit ChatGPT bisweilen so erscheinen mag. Ausführlich zeigt sie das am Beispiel der Art des Umgangs mit der „Geschichte eines Gesprächs“ (Esposito, 2024, S. 62 ff.): Maschinen haben weder Erwartungen an die Zukunft noch haben sie ein Gedächtnis, so Esposito. So würden sich Menschen an die Gesamtinterpretation des Gesagten und daran erinnern, was sie daraus gelernt haben; Chatbots würden ihr „Gedächtnis“ anscheinend in jeder Gegenwart neu berechnen – ohne Intention, versteht sich. In der Kommunikation mit der Maschine ergebe es daher auch keinen Sinn, Mitteilungen auf Sichtweisen oder Absichten des Autors hin zu deuten. Die kommunikative Kompetenz von Algorithmen lasse sich nur durch passenderes Prompten verbessern: „Anstatt zu versuchen, den Algorithmus dazu zu bringen, zu verstehen, was die Nutzer:innen meinen, wird versucht, die Nutzer:innen dazu zu bringen, zu verstehen, wie der Algorithmus funktioniert, und sich entsprechend zu verhalten. Es geht ausdrücklich darum, in die Kommunikation und nicht in die Mechanismen der Maschine einzugreifen“ (Esposito, 2024, S. 45).
Was aber ist jetzt mit der Ausgangsfrage, ob die Generative KI einen epochalen Wandel für unsere Gesellschaft bedeutet? Hier stellt die Autorin klar: „Die einzige ehrliche Antwort ist natürlich: ´Ich weiß es nicht´ – nicht aus Bescheidenheit, sondern aufgrund der Struktur unseres Verhältnisses zum Neuen, das von Natur aus nicht beobachtbar ist“ (S. 86). Sie ist allerdings überzeugt davon, dass der Beitrag des Menschen unverzichtbar bleibe: „Das Material, aus dem Daten abgeleitet werden, wird und muss weiterhin von Menschen produziert werden“ (Esposito, 2024, S. 89). Begründet wird das damit, dass ein Zuviel an künstlich generierten Trainingsdaten KI-Modelle kollabieren lässt. Möglicherweise aber, so fügt Esposito am Ende hinzu, könnten Menschen an Priorität verlieren.
Ich persönlich würde daraus folgern: Das ist durchaus ein gravierender Wandel für unsere Gesellschaft -ein Wandel, der eine bereits vor KI eingesetzte Tendenz zur Dehumanisierung deutlich beschleunigen und verschärfen kann, wenn wir nicht lernen, KI zu humanen Zwecken zu verwenden und für dehumanisierende Effekte sensibel zu bleiben oder zu werden. Ich denke, vor diesem Hintergrund lohnt es sich, nochmal in die umfassende Stellungnahme zu KI seitens des Deutschen Ethikrats zu schauen – ein Text, der aus meiner Sicht nach wie vor zu wenig rezipiert und genutzt wird (siehe dazu u.a. hier).