In einem aktuellen Text (online hier) stellt Helga Nowotny ihre Gedanken zu einer „humanistic culture of AI interdisciplinarity“ vor und plädiert dafür, zu lernen, mit KI zu leben und zu arbeiten, gleichzeitig aber das „Monströse“ an dieser neuen Technologie zu zügeln. Im Kern geht es um die Rolle von KI in Wissenschaft und Forschung. Ich habe den Text mit Gewinn gelesen und denke, er kann auch Impulse für die Hochschulbildung geben. Ich fasse im Folgenden kurz zusammen, welche Botschaften für mich besonders bedeutsam sind.
Zunächst umreißt Nowotny die gesellschaftliche Relevanz der derzeitigen KI-Systeme. Dabei referiert sie im Prinzip nichts Neues, verwendet aber starke Bilder, die ich für durchaus passend halte: So führt sie zunächst aus, dass die großen Technologiekonzerne einen Punkt erreicht haben, an dem sie mit den Möglichkeiten des Staates konkurrieren und dabei die Machtverhältnisse zunehmend zu ihren Gunsten verschieben – mit deutlichen Folgen: KI nehme immer mehr Raum und Funktionen in der Gesellschaft ein, sei inzwischen allgegenwärtig, verursache soziale Schäden wie Arbeitsplatzverluste, Reduktion des sozialen Zusammenhalts, digitale Abhängigkeit, enormen Wasser- und Energiebedarf, massive Aneignung von Daten ohne Zustimmung oder Entschädigung und vieles mehr.
Nowotny bezeichnet die derzeitige KI als Monster: Die KI lerne, immer menschenähnlicher mit uns zu interagiere, verleite uns dazu, ihr menschliche Eigenschaften und Handlungsfähigkeit zuzuschreiben, welche sie nicht besitzt, täusche Empathie vor, während sie uns manipuliert. KI verspricht, unsere Kontrolle über die Zukunft und die damit verbundenen Unsicherheiten zu erhöhen; doch indem sie uns zunehmend mehr zu vorhergesagten Handlungen bewegt, schränkt sie unsere Handlungsfähigkeit in Bezug auf die Zukunft ein. Und dennoch müssten wir lernen, so das Plädoyer der Autorin, mit KI zu leben und zu arbeiten, und das bedeutet, dass wir Angst überwinden und Unwissenheit ablegen, gleichzeitig aber auch alles dafür tun müssen, „das Monster zu zügeln“.
Neben diesen grundsätzlichen Ausführungen zur gesellschaftlichen Bedeutung von KI setzt sich Nowotny in ihrem Text mit KI in der Forschung auseinander, erörtert (exemplarisch) Potenziale insbesondere in den Naturwissenschaften und geht vertieft auf den Faktor „Reibungslosigkeit durch KI“ ein.
Zum Einstieg in diese Thematik macht Nowotny klar, dass aus ihrer Sicht die spektakulärsten Fortschritte in der Forschung zu und für KI heutzutage in den Laboren industrieller Konzerne und nicht etwa an Universitäten stattfinden: In die KI-Forschung fließen enorme Investitionen, überwiegend aus dem Privatsektor, während die öffentliche Förderung deutlich hinterherhinke. Doch es geht der Autorin weniger um die KI-Forschung, sondern um die Frage, wie KI wissenschaftliche Forschung generell und insbesondere interdisziplinäre Forschung beeinflusst. Unbestreitbar und deutlich sichtbar sei zum einen die Beschleunigung, die mit KI in der Forschung erzielt werden kann: KI minimiert den menschlichen Aufwand ebenso wie menschliche Fehler in Forschungsprozessen und treibt die Effizienz in einem bislang nicht gekannten Ausmaß nach oben. Das könne man vor allem in den Naturwissenschaften an vielen Beispielen (z.B. Proteinentfaltung) sehen. Zum anderen, so die Autorin, verändert KI die gesamte Forschungsorganisation ebenso wie Forschungsmethoden – ein Wandel, der auch die Sozial- und Geisteswissenschaften erfasse. Außerdem verstärke KI die Reorganisation der Forschungspraxis in größeren, meist interdisziplinären Teams. Eine entscheidende Folge des Einsatzes von KI sieht Nowotny darin, dass bestehende Disziplingrenzen leichter überwunden und wissenschaftliche Domänen problemloser kombiniert werden könnten – ein Phänomen, das sie KI-basierte Interdisziplinarität nennt.
Nun hebt die Autorin allerdings nicht nur die enormen Potenziale der so verstandenen KI-Interdisziplinarität hervor, sondern analysiert auch die Risiken, die entstehen, wenn künstliche Interdisziplinarität den kontrollierten Raum eines Labors oder einer anderen Forschungseinrichtung verlässt und in die Komplexität der sozialen Welt eintritt. Dann nämlich werde ein gravierendes Problem sichtbar: die mit KI angestrebte und erzielte Reibungslosigkeit, die zwar einen technokratischen Traum wahr werden lassen könne, aber auch wichtige menschliche Eigenschaften bedrohe. Wie ist das zu verstehen?
Eine KI-basierte Interdisziplinarität macht es laut Nowotny überflüssig, dass Experten geduldig die Fachsprache oder die Bedeutung bestimmter Konzepte oder Methoden des jeweils anderen erlernen; die KI ermöglicht eine Zusammenarbeit ohne das Bemühen um gegenseitiges Verständnis; sie eröffnet effizientere und schnellere Wege, einen Konsens und konkrete Ergebnisse zu erzielen. Meinungsverschiedenheiten und Langsamkeit menschlicher Kommunikation werden überwunden, indem KI verfügbares Expertenwissen bündelt, bestehende Unterschiede kalibriert und ausgleicht; sie bietet attraktive Abkürzungen und beschleunigt Entscheidungsfindung und Handeln erheblich. KI verspricht also eine reibungslose Welt, was auf viele höchst attraktiv wirkt – gerade in der Forschung.
Doch – und das ist Nowotnys Einwand – eine Welt ohne Reibung kann nicht funktionieren: Reibung ist ein notwendiges Merkmal der physischen und insbesondere der sozialen Welt. Die soziale Welt ist komplex, voller Spannungen, Ambivalenzen, Konflikte und Widersprüche; gleichzeitig (und das macht KI eben so verführerisch) seien die Akzeptanz von Reibung und die Bereitschaft, sich damit auseinanderzusetzen, in der Regel nicht allzu groß.
Nowotnys Argumentation an dieser Stelle lautet: Wenn Reibung ein wesentlicher Bestandteil des Menschseins und des Zusammenlebens ist, dann ist sie auch ein unverzichtbarer Bestandteil der Kooperation und das laufe auf eine humanistische Interdisziplinarität hinaus. Im Gegensatz zu einer KI-basierten Interdisziplinarität zeichne sich eine humanistische dadurch aus, dass sie uns zwar ausbremst, aber auch Zeit für die Reifung von Ideen sowie Raum für Reflexion und die Prüfung von Alternativen gibt, dass sie Konflikte auslöst, aber auch Wege zu deren Lösung eröffnet und auf diesem Wege kreative Energie freisetzt. Daher plädiert Nowotny dafür, die Notwendigkeit von Reibung anzuerkennen und dem Irrglauben zu widerstehen, ein automatisiertes Leben sei ein lebenswertes Leben.
Wie aber verträgt sich das mit dem Votum der Autorin, zu lernen, mit KI zu leben und zu arbeiten? Ich habe ihren Text so verstanden, dass dies möglich wird, indem wir eine humanistische Kultur der KI-Interdisziplinarität entwickeln. Eine solche humanistische Kultur müsste epistemische digitale Monokulturen abwenden, Reibung erhalten und „richtig einsetzen“ sowie erkenntnistheoretische Vielfalt pflegen – auch innerhalb der KI-Forschung. Humanistische Grundsätze, zu denen sie die (angeborene) Neugier und Kreativität des Menschen zählt, auch seine prinzipiell bestehende Fähigkeit, etwa in der Forschung Unsicherheit auszuhalten, müssten sichtbar gemacht, geschätzt und bewahrt werden. Mit KI zu leben, bedeutet für Nowotny, sie zu „kultivieren“ und zu einem Teil unserer humanistischen Kultur zu machen und das wiederum setzt voraus, dass humanistische Werte handlungsleitend sind.
Auch nach mehrmaliger Lektüre des Textes bin ich noch nicht sicher, ob ich der Argumentation in allen Punkten folgen kann und will. Das Paradoxe an KI – in ihrer monströsen Gestalt – wird in Nowotnys Beitrag mehr als deutlich und es gelingt der Autorin gut, mich als Leserin zum Nachdenken anzuregen. Das Plädoyer für eine humanistische Kultur teile ich – hier sehe ich eine gute Verbindung zum Gedanken einer humanen Hochschulbildung. Dass wir lernen müssen, mit KI zu leben, unterstreiche ich ebenfalls, aber wie dies gelingen kann, darüber bin ich mir noch nicht im Klaren. Hier muss man einerseits wohl zwischen Forschung und Bildung unterscheiden. Andererseits liegt vermutlich auch die besondere Herausforderung darin, beides zusammenzudenken – zumal, wenn man eine „Bildung durch Wissenschaft“ zum Ziel hat.