Der Deutsche Ethikrat hat eine Stellungnahme mit dem Titel „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“ verfasst. Das seit dem 20. März 2023 online verfügbare Dokument wird noch als „Vorabfassung“ bezeichnet. Das Werk ist fast 300 Seiten lang – allein die „Zusammenfassung“ erstreckt sich über 50 Seiten. Leider sind Wissenschaft und Hochschulbildung in der Stellungnahme nicht berücksichtigt. Doch selbst dann, wenn man beim Thema KI nach Orientierung oder Antworten speziell für den Bereich der Hochschulbildung bzw. Hochschuldidaktik sucht (was hier ausgespart ist), lohnt es sich, mindestens einzelne Kapitel, so meine Einschätzung, in der Gänze zu lesen.

Neben der Zusammenfassung besteht die Stellungnahme aus drei Teilen: Teil I beschäftigt sich mit den technischen und philosophischen Grundlegungen und geht zunächst zentralen Entwicklungen und technischer Grundlagen von KI nach. Es folgen zwei weitere Kapitel, deren Lektüre ich sehr empfehle: Das sind zum einen zentrale Begriffe und Grundlagen sowie zum anderen Mensch-Maschine-Relationen. Als ich im Februar meine ersten, eher grundsätzlichen, Überlegungen zu ChatGPT in der Hochschullehre festgehalten habe (siehe hier), habe ich versucht, mir ein Bild darüber zu machen, welche ethischen und ökonomischen Implikationen mit ChatGPT für die (Hochschul-)Bildung und didaktische Entscheidungen verbunden sind. Die beiden genannten Kapitel der nun vorliegenden Stellungnahme hätten mir sehr geholfen. ChatGPT, so ein Fußnotenhinweis im Text des Deutschen Ethikrats, konnte allerdings nicht mehr berücksichtigt werden, weil zum Erscheinungszeitpunkt das Werk weitgehend abgeschlossen war, wohl aber werden „Sprachproduktionssysteme“ thematisiert. In den beiden grundlegenden Kapitel 3 und 4 werden unter anderem die Begriffe Intelligenz, (theoretische und praktische) Vernunft, Handlung und Verantwortung erläutert – auf eine gut nachvollziehbare und verständliche Art und Weise, wie ich finde. Die Autoren und Autorinnen folgen dabei weitgehend dem Verständnis humanistischer Strömungen. Aufmerksamkeit wird auch der „verleiblichten Vernunft“ zuteil (gemeint ist damit, dass kognitive Fähigkeiten an Sinnlichkeit und Leiblichkeit gebunden sind), was eigene Grenzen für Formalisierbarkeit und Simulierbarkeit menschlicher Vernunft mit sich bringt (S. 116 f.).

Mehrfach wird in der Stellungnahme betont, dass der Handlungsbegriff dem Menschen vorbehalten bleiben sollte; eingebunden werden trotzdem auch Hinweise auf z.B. soziologische Theorien wie der Akteurs-Netzwerk-Theorie, die den Handlungsbegriff weiter auslegt und diesen auch technischen Artefakten zugesteht. Als entscheidend wird letztlich das Konzept der „Handlungsurheberschaft bzw. Autorschaft“ angesehen: „Die Fähigkeit zur Handlungsurheberschaft kann als Grundlage von Autonomie betrachtet werden …“ (S. 99). Dabei wird nicht geleugnet, dass Technologien das menschliche Handeln stark beeinflussen und die Gesellschaft verändern; die zunehmende Durchdringung der menschlichen Lebenswelt mit digitalen Technologien führen, so die Argumentation, zu komplexen hybriden, sozio-technischen Konstellationen – mit Folgen: „Im Hinblick auf digitale Techniken handeln Menschen nicht jederzeit in vollem Maße autonom, sondern verstehen oft weder die technischen Zusammenhänge, noch haben sie immer umfassende Informationen oder hinreichende Wahlfreiheit, um bewusste Entscheidungen im Umgang mit der Technik treffen zu können. Solche Konstellationen können vielfältig ethische Bedeutung entfalten, wenn es um Fragen der Verantwortung geht“ (S. 101). An späterer Stelle wird die Möglichkeit einer „Multiakteursverantwortung“ aufgeworfen; das aber dürfe wieder nicht zur Verantwortungsdiffusion führen. Vielleicht bringt der folgende kurze Abschnitt auf den Punkt, auf welchen Kern der Deutsche Ethikrat in Teil I immer wieder zurückkommt: „Menschen sind befähigt zur Handlungsurheberschaft und somit zur Autorschaft ihres Lebens. Sie sind frei und tragen daher Verantwortung für die Gestaltung ihres Handelns. Freiheit und Verantwortung sind zwei einander wechselseitig bedingende Aspekte menschlicher Autorschaft. Autorschaft ist wiederum an Vernunftfähigkeit gebunden“ (S. 105). Die Trias aus Vernunft, Freiheit und Verantwortung wiederum ist zentral für eine humanistische Philosophie.

Bei der Diskussion verschiedener Auffassung zur Relation zwischen Mensch und Maschine werden neben (technik-)philosophischen Ansätzen vor allem, wie schon erwähnt, (technik-)soziologische Ansätze herangezogen, etwa die Akteurs-Netzwerk-Theorie, die in einigen Punkten nicht unwesentlich im Widerstreit zu humanistischen Auffassungen steht (was mir im Übrigen auch in didaktischen Diskursen im Zusammenhang mit Digitalisierung und Digitalität öfter mal auffällt, ohne dass das so richtig thematisiert wird). Einleitend zu diesem Kapitel hält der Ethikrat fest: „Menschen entwickeln und gestalten Technik und nutzen technische Produkte und Systeme oder darauf aufbauende Dienstleistungen als Mittel zum Zweck. Gleichzeitig wirken diese häufig zurück und beeinflussen menschliche Handlungsmöglichkeiten, von der Eröffnung neuer Optionen und der Vergrößerung von Freiheitsgraden bis hin zur Anpassungserzwingung“ (S. 120). Damit wird auch gleich der Rahmen der weiteren Argumentation abgesteckt: Es geht darum, wie sich Mensch-Technik-Relationen entwickeln können (oder sollen) und in welcher Weise und mit welchen Folgen Maschinen die Handlungsmöglichkeiten des Menschen erweitern, vermindern oder ersetzen können. Die Schlussfolgerung lautet: „Menschliches Handeln ist weder völlig autonom noch völlig sozial oder technisch determiniert, sondern in zunehmendem Maß soziotechnisch situiert“ (S. 129).

Teil II widmet sich exemplarisch vier Kontexten und KI-Anwendungen und verbindet das mit „sektorenspezifischen Empfehlungen“: Das sind erstens die Medizin, zweitens Bildung – wobei ausschließlich die Schule behandelt wird –, drittens öffentliche Kommunikation und Meinungsbildung sowie viertens öffentliche Verwaltung. Wie eingangs angemerkt, werden Hochschulbildung und Wissenschaft leider nicht thematisiert. Das Kapitel über (Schul-)Bildung fand ich persönlich etwas enttäuschend: Vor dem Hintergrund der beiden oben erläuterten grundlegenden Kapitel bleiben die Reflexionen und Folgerungen für die Schule relativ vage. Ein Fokus liegt auf personalisiertem Lernen. Der folgende Satz aus der Einleitung des Kapitels zieht sich durch die weiteren Ausführungen des Bildungskapitels wie ein roter Faden – eine inhaltlich zweifellos wichtige Botschaft, die dann aber (aus meiner Sicht zu) wenig vertieft wird: „Alle technologischen Möglichkeiten der Gestaltung der Bildungsprozesse sind vielmehr daraufhin zu überprüfen, ob sie dem eingangs entwickelten Verständnis des Menschen als einer zur Selbstbestimmung und Verantwortung fähigen Person entsprechen oder ob sie diesem Verständnis entgegenstehen“ (S. 164).

Teil III trägt den Titel „Querschnittsthemen und übergreifende Empfehlungen“, wobei zehn Themen identifiziert werden, die als querliegend angesehen werden: (1) Erweiterung und Verminderung von Handlungsfähigkeiten, (2) Wissenserzeugung durch KI und der Umgang mit KI-gestützten Voraussagen, (3) die Gefährdung des Individuums durch statistische Stratifizierung, (4) Auswirkungen von KI auf menschliche Kompetenzen und Fertigkeiten (gemeint sind hier vor allem Kompetenzverluste und „Deskilling“), (5) Schutz von Privatsphäre und Autonomie versus Gefahren durch Überwachung und Chilling-Effekte (Chilling-Effekte werden im Text verstanden als Rückwirkungen von Technologie auf Menschen, die Sorge haben, dass ihr Verhalten beobachtet, aufgezeichnet oder ausgewertet wird), (6) Datensouveränität und gemeinwohlorientierte Datennutzung, (7) kritische Infrastrukturen, Abhängigkeiten und Resilienz, (8) Pfadabhängigkeiten, Zweitverwertung und Missbrauchgefahren, (9) Bias und Diskriminierung, (10) Transparenz und Nachvollziehbarkeit – Kontrolle und Verantwortung. Für das in der Stellungnahme noch fehlende Anwendungsfeld „Wissenschaft und Hochschulbildung“ könnte ich mir gut vorstellen, diese zehn Querschnittsthemen zum Ausgangspunkt von Reflexionen, Analysen und Diskursen zu machen.