Vor einiger Zeit habe ich hier mal die Fragen (mit Antworten) aufgeschrieben, die mir eine Journalistin gestellt hat, nachdem ich mich nicht zu einem mündlichen Interview hatte durchringen können – in der Hoffnung, dass sich hier gegebenenfalls auch andere Journalisten bedienen. Dies scheint aufgegangen zu sein, denn kürzlich habe ich von Nils Althaus eine Anfrage erhalten, die so beginnt: „Ich habe Ihren Blogeintrag ´Was ich tatsächlich gesagt habe´ gelesen und versuche es deshalb direkt schriftlich.“ Wie schön! Die zugesandten Fragen fand ich interessant. Ich habe sie gerne beantwortet und bin gespannt, was Althaus davon in seinem geplanten Beitrag für die Neue Zürcher Zeitung gebrauchen kann. Hier also mal wieder, was ich tatsächlich gesagt (oder besser: geschrieben) habe ;-).
Welche Tipps können Sie den Lesern geben, wie sie KI nutzen können, ohne das kritische Denken zu verlieren?
Das Bedürfnis nach Tipps ist verständlich. Nützliche Ratschläge bekommen wir heute für alles: von der der Zubereitung frischer Lasagne bis zum Wechsel des Stromtarifs. Kritisches Denken aber lässt sich mit einfachen Tipps weder erlernen noch bewahren: Kritisches Denken ist keine simple Tätigkeit, sondern eine anspruchsvolle Handlung, Fähigkeit und Einstellung. Mein Tipp wäre, auf Folgendes zu achten: Überall, auch da, wo die Euphorie für KI vorherrschend ist, wird dafür geworben, „kritisch“ damit umzugehen. Doch was das heißt, bleibt in der Regel völlig offen. Wann denkt und verhält sich eine Person kritisch und was zeichnet Kritikfähigkeit sowie eine kritische Haltung aus? Darauf gibt es nicht die eine Antwort, weil vieles darunter fällt: Kritisch bin ich etwa, wenn ich Informationen, die ich erhalte, hinterfrage oder nachprüfe, was wahr oder ein Fake, was eine Tatsache oder eine Meinung ist; kritisch bin ich aber auch, wenn ich Informationen oder Verhaltensweisen danach bewerte, ob sie moralischen Maßstäben genügen und verantwortbar sind oder welche langfristigen Folgen sie haben – um nur ein paar Beispiele zu nennen. Macht man sich klar, was alles hinter „kritischem Denken“ steckt, wäre vielleicht zuerst die Frage zu stellen, wie es mit dem eigenen kritischen Denken bestellt ist: Haben wir es überhaupt schon erlernt?
Gibt es allgemeine Strategien, wie man kritisches Denken trainieren oder den Zugang dazu erleichtern kann, die auf den Umgang mit KI adaptiert werden können?
Es ist keine schlechte Idee, das kritische Denken mit dem Bild des Trainings zu verbinden, das wir vor allem aus dem Sport kennen: Wer etwas meisterhaft beherrschen will, muss trainieren – muss wiederholt üben, sich selbst dabei beobachten oder Rückmeldung von anderen einholen und versuchen, sich zu verbessern. Im Alltag haben wir – auch ohne KI – viele Gelegenheiten dazu, das, was wir hören, sehen, lesen, zu hinterfragen, mit anderen zu besprechen, durch andere Quellen zu bestätigen oder auch zu widerlegen. Letzteres ist grundsätzlich herausfordernd: Es ist wohl für jeden Menschen erst mal einfacher und angenehmer, sich mit dem eigenen Informationsstand, der persönlichen Ansicht oder Überzeugung in guter Gesellschaft zu wissen, als den Widerspruch zu suchen, das Gegenbeispiel zu akzeptieren oder sich mit Fakten und Argumenten „der anderen“ auseinanderzusetzen. Die Allgegenwärtigkeit von Social Media in unserer Gesellschaft hat uns an Filterblasen längst gewöhnt. KI macht diese noch mächtiger und perfider. Da helfen tatsächlich nur tägliches Training im Hinterfragen und eine große Portion Selbstkritik.
Es gibt Forschung, die nahelegt, dass kritisches Denken darunter leidet, wenn man Chatbots intensiv nutzt (z.B. (z.B. Gehrlich 2025 oder Kosmyna et al. 2025). Teilen Sie diese Konklusion? Warum?
Wir alle nutzen Bücher und Zeitschriften, verwenden das Internet, schlagen online in Wikipedia nach oder bedienen uns verschiedenster Datenbanken, wir sind in digitalen Netzwerken unterwegs und beteiligen uns auch selbst daran, Inhalte für die Online-Welt beizusteuern. Es sind viele und höchst verschiedene Ziele und Zwecke, die dahinter stehen: private und berufliche, bildende und zerstreuende, moralisch hochstehende und verwerfliche usw. Gilt nicht das Gleiche für die Nutzung von Chatbots? Ich meine, ja. Ohne zu wissen, warum und wozu KI genutzt wird, lässt sich daher kaum folgern, dass deren intensive Nutzung dem kritischen Denken schadet. KI-Systeme in der Forschung etwa können Großartiges leisten; Menschen mit hoher Expertise, die damit arbeiten, tun dies mit kritischer Reflexion. Anders sieht das aus, wenn etwa Studierende an Hochschulen dazu übergehen, immer mehr Aufgaben an Chatbots auszulagern, um sich zu entlasten: Wer selbst keinen Code mehr programmiert, keinen Laborbericht mehr verfasst, keinen Essays mehr schreibt, keine Datenauswertung mehr allein verantwortet oder gar nicht erst damit anfängt, wird die dazugehörigen Kompetenzen nicht aufbauen. Die Folge: Wenn ich selbst nicht mehr (richtig) programmieren, schreiben oder auswerten kann, werde ich auch nicht kritisch (!) beurteilen können, ob das, was die KI mir ausgibt, richtig, sinnvoll oder verantwortbar ist. Kritisches Denken leidet dann nicht, sondern verflüchtigt sich. Personen, die in ihrem Fach bereits sehr viel wissen und können, haben dieses Problem weniger. Im Idealfall werden sie mit KI „einfach nur“ effizienter; im ungünstigen Fall aber verlernen auch sie das, was sie selber nicht mehr praktizieren. Dagegen gilt für Experten wie Novizen gleichermaßen, dass sie mit intensiver KI-Nutzung Handlungskontrolle abgeben.
Es gibt historisch betrachtet Technologien, die uns ebenfalls cognitive load abgenommen haben, z.B. Suchmaschinen, Wikipedia oder der Taschenrechner. Kann man aus den Erfahrungen mit diesen “kognitiven Krücken” etwas für unseren Umgang mit KI lernen? Was?
Seit der Verbreitung von ChatGPT Ende 2022 werden diese Vergleiche gezogen. Es ist richtig und wichtig, solche Vergleiche anzustellen, sofern das Ergebnis nicht vorab schon feststeht. Letzteres scheint mir aber regelhaft der Fall zu sein, denn am Ende laufen sie auf die Botschaft hinaus: Es gibt keinen Grund zur Aufregung; alle neuen haben erst mal Ängste geschürt und schaut her, jetzt lieben wir sie! Ich arbeite mit digitalen Medien im Kontext Hochschule seit Mitte der 1990er Jahre. Vor der Veröffentlichung von ChatGPT habe ich den Einfluss von KI auf Bildung, Kompetenz- und Persönlichkeitsbildung unterschätzt. Generative KI-Systeme sind Dialogmaschinen, die so anschlussfähig an die menschliche Kommunikation sind, dass wir uns nur allzu gern der Illusion hingeben, einen echten Dialogpartner zu haben. Das lädt zu einem Ausmaß an Vertrauen ein, das den großen Tech Unternehmen Glücksgefühle bescheren dürfte, für die Gesellschaft aber ein echtes Risiko darstellt. Generative KI-Systeme sind längst nicht mehr nur „kognitive Krücken“. Sie werden auch von vielen Wissenschaftlern (Männern wie Frauen) als Akteure, also Handelnde, oder Kooperationspartner verstanden, als Berater oder Coaches, als auch „emotionale Krücken“. Namen wie Copilot im KI-Kosmos sind verräterisch: Wer hat schon was gegen einen Copiloten? Ich meine, wir sollten uns bewusster machen, was da gerade geschieht: wie sich die Wissens- und Wissenschaftskulturen wandeln und wir uns in unserem Denken und Handeln verändern, wenn KI in jedem „Cockpit“ sitzt.
Könnte die richtige Nutzung von KI das kritische Denken der Lesern sogar verbessern? Eine Studie etwa (Costello et al. 2024) bescheinigte ChatGPT die Fähigkeit, den Glauben an Verschwörungstheorien reduzieren zu können.
Ist nicht das eigentlich Interessante an dieser Studie der Befund, dass es grundsätzlich möglich ist, Menschen dazu zu bringen, vom Glauben an Verschwörungstheorien abzurücken? Was spräche dann dagegen, dass wir, anstatt Maschinen einzusetzen, in unserer Gesellschaft mehr miteinander reden, argumentieren, uns zuhören, korrigieren, Widersprüche aushalten, Überzeugungsarbeit leisten, ohne selbst ideologisch zu werden? Das hätte übrigens den Vorteil, dass es zugleich ein Training im kritischen Denken wäre – für alle Beteiligten.