KI: Pi mal Daumen?

INSPIRATION: Up- oder De-Skilling? Die Kontroverse um die Folgen der GenKI-Nutzung ist nicht entschieden. Aber Forschungsergebnisse machen nachdenklich. Die spannende Frage: Eröffnet sich ein Ausweg aus der Malaise?

Was geschieht, wenn zwei heuristisch arbeitende Systeme – Mensch und KI – aufeinandertreffen? Die GenKI rät und assoziiert (Kleine Papageienkunde) und der Mensch bedient sich kognitiver Daumenregeln (Houston, wir haben ein Problem!). Addieren oder quadrieren sich die Fehler? Es ist schon gar mancher mit seinem Auto schnurstracks in einen Fluss gefahren, weil er seinem Navi blind vertraut hat …

Zuletzt hatte ich die Ergebnisse zum Thema De-Skilling durch GenKI vorgestellt (Denken überlässt man den Pferden …). Offensichtlich hat die Autorin ihre Studie auf einer größeren Untersuchung (The Impact of Generative AI on Critical Thinking) aufgesetzt. Deren Ergebnisse wurden im Frühjahr 2025 auf einer Konferenz in Yokohama (Japan) präsentiert und basieren auf einer Stichprobe von 319 Teilnehmer:innen. Das ist doch eine deutlich breitere Basis als die von der Autorin gelieferte. Und in dieser sehr ausführlichen Studie berichten die Anwender 936 eigene Beispiele für GenAI-Nutzung und dem Einsatz von eigenem kritischem Denken. Es dürfte sich lohnen, diese Studienergebnisse einmal genauer zu betrachten, dachte ich mir – nicht nur für Personalentwickler, sondern für Führungskräfte allgemein.

Verändert KI kritisches Denken?

Wann und wie werden sich Anwender bewusst, dass sie kritisches Denken bei der Nutzung von GenAI einsetzen? Und wann und warum bemerken sie, dass GenAI sie beeinflusst? Generell ist ein höheres Vertrauen in GenAI mit weniger kritischem Denken verbunden, stellte diese Forschergruppe – übrigens mehrheitlich Mitarbeitende von Microsoft aus UK – fest. Zugleich gehen User mit einem höheren Selbstvertrauen in die eigene Kompetenz kritischer mit den GenKI-Ergebnissen um. Doch das ist bloß die Oberfläche.

Bekannt war aus der Forschung bislang: Nutzer, die zur Lösung einer Aufgabe auf GenAI-Tools zugreifen können, erzielen weniger vielfältige Ergebnisse als solche, die bei derselben Aufgabe nicht auf GenAI-Tools zugreifen können. Man könnte das als Faulheit werten. Oder als Beleg dafür nehmen, dass die GenKI ausreichend gute Ergebnisse liefert – beispielsweise gemessen an einem Kriterium wie der 80%-Regel nach Pareto. Doch diese Tendenz zur „mechanisierten Konvergenz“, wie die Forschenden diese geringere Ausbeute der GenKI-Nutzenden nennen, könnte eben auch „einen Mangel an persönlichem, kontextbezogenem, kritischem und reflektiertem Urteilsvermögen“ widerspiegeln. Weil die Nutzenden sich leichtfertig mit den KI-Ergebnissen zufriedengeben.

Die unwiderstehlichen Kartoffelchips

Die Studie zeigt, dass Wissensarbeiter bei der Nutzung von GenAI-Tools vor allem dann kritisches Denken anwenden, wenn es darum geht, die Qualität ihrer Arbeit sicherzustellen. Dann setzen sie klare Ziele, verfeinern die Eingabeaufforderungen und bewerten KI-generierte Inhalte hinsichtlich der Erfüllung spezifischer Kriterien und Standards. Dafür werden die Ergebnisse sogar anhand externer Quellen und des eigenen Fachwissens überprüft. – Insbesondere dann, wenn es auf eine höhere Genauigkeit ankommt. Dahinter steht die Motivation, die Arbeitsqualität zu verbessern, negative Folgen zu vermeiden und die eigenen Fähigkeiten weiterzuentwickeln. Das klingt nachvollziehbar und nobel.

Aber – und jetzt folgen wichtige Einschränkungen – oft fehlt es an dieser Achtsamkeit und Gewissenhaftigkeit. Hinzu kommen Zeitdruck und Arbeitsumfang (man spürt den heißen Atem des Chefs im Nacken). Manchmal ist es auch bloß situativ mühsam, an der Eingabeaufforderung für die GenKI zu schrauben, um bessere Antworten zu erhalten. Insbesondere, wenn GenAI-Tools sich offenbar hartnäckig „weigern“, überarbeitete Eingabeaufforderungen des Nutzers umzusetzen …

Warum noch selbst kochen?

Ein weiterer Aspekt ist, dass man seine eigene Kompetenz gegenüber der „superschlauen“ KI ehrfürchtig unterschätzt; und dass dann mit der Zeit zu einer generalisierten Einstellung kondensiert: Die Kiste ist einfach schlauer als Du … Solche Effekte sind schon lange aus der Markenpsychologie bekannt. Die Marke suggeriert: Du kennst mich, ich bin gut, Du musst nicht weiter nach Alternativen suchen.

Hier greifen dann viele zu einem mentalen Trick, der ihnen den Alltag erleichtert: Sie unterscheiden zwischen schwierigen und anspruchsvollen auf der einen und Routineaufgaben oder solchen mit geringem Risiko auf der anderen Seite. Nach dem im Rheinland geläufigen Motto „Et hätt noch immer joot jejange …“ verlassen sich die Nutzer einfach auf die KI. Sie unterstellen also pauschal Richtigkeit oder eben die 80%-Güte – obwohl die Erfahreneren wissen, dass GenKI immer (!) rät und assoziiert.

Auf krummem Holz gerade schreiben

Was die Studiendaten interessanterweise zeigen, ist eine Verlagerung des kognitiven Aufwands: von der Aufgabenausführung hin zur Überwachung. KI reduziert den Aufwand der Wissensbeschaffung, weil sie eben rasend schnell auf Big Data zugreifen kann. Doch nun müssten (man beachte den Konjunktiv!) die Mitarbeiter mehr Zeit in die Überprüfung der Richtigkeit der KI-Ergebnisse investieren. Weil KI aber auch die Erstellung von Ergebnissen vereinfacht, sie sehen gleich super strukturiert und pico bello aus, kann das User blenden und dazu verleiten, sich mit diesen Ergebnissen zufrieden zu geben (A Fool with a Tool …).

Doch eigentlich müssten die Mitarbeiter nun Zeit darauf verwenden, diese Ergebnisse an ihre spezifischen Anforderungen oder an erwünschte Qualitätsstandards anzupassen. Man könnte nun argumentieren, da die User im ersten Schritt so viel Zeit gewonnen haben, sei das nun ein Leichtes, diesen Gewinn in den zweiten Schritt zu investieren. Wieder: Konjunktiv.

Das Problem scheint auch das Autorenteam zu sehen. Sie überlegen daher, wie man diese „Entgleisungen“ verhindern oder dafür sorgen könnte, dass die User auf dem Pfad der Tugend bleiben. Und was fällt ihnen dazu ein? Selbstverständlich der Ansatz beim User: Man müsste beispielsweise seine Achtsamkeit erhöhen, indem man ihn immer wieder anstupst: „Willst Du noch mehr Hintergründe oder Quellen?“ Oder man versucht, ihn bei der Motivation zu packen: „Willst Du noch kompetenter werden?“ Oder man bietet ihm Erläuterungen zur KI-Argumentation an, macht ihm Vorschläge, wie er die Ergebnisse verfeinern kann; sogar angeleitete Kritik könnte man bereitstellen. – Nun könnte man sich fragen, ob das jemand hören möchte, der sich gerade über eine (fast) perfekte Auskunft in Windeseile gefreut hat?

Kognitiver Muskelschwund

Die Autoren einer zweiten, jüngeren Veröffentlichung (Is AI making us stupid?) halten es für sinnvoll, zwischen zwei Arten kognitiver Funktionen zu unterscheiden: Fertigkeiten und grundlegende kognitive Fähigkeiten. Während Fertigkeiten erlernte Verhaltensweisen sind (z. B.: Autofahren), für die man relevantes Wissen braucht, handelt es sich bei den grundlegenden kognitiven Fähigkeiten um fundamentale, domänenübergreifende mentale Kapazitäten (z. B. Arbeitsgedächtnis, selektive Aufmerksamkeit).

Schon bei der Ausübung von Fertigkeiten ist beobachtbar, dass „die Wahrscheinlichkeit, die ausgelagerten Informationen später aus dem Gedächtnis abrufen zu können, sinkt, wenn Menschen während des Lernens auf einen externen Speicher (z. B. einen Computer) auslagern können.“ Man erklärt sich das durch die geringere Verarbeitungstiefe beim Lernen.

Beim Wechsel auf GenKI verstärkt sich dieser Effekt teilweise dramatisch – weil man im Zweifelsfall gar nicht mehr lernt, sondern sich bloß noch auf die Technologie verlässt. Man denke hier an die Navi-Nutzung beim Fahren, wenn das „große Bild“ für eine schnelle Entscheidung aktuell fehlt, weil man nur noch nach Ansage fährt. Die Autoren vergleichen eine Google- mit einer KI-Anfrage. Bei ersterer muss der User Links öffnen und Informationen aus verschiedenen Quellen zusammenzufassen. Bei der KI-Anfrage werden die Informationen für den User zusammengefasst. Das verringert potenziell die Lerntiefe, Kompetenzen werden nicht mehr trainiert und daher abgebaut.

Hauptsache: satt?

Anders scheint es mit den grundlegenden kognitiven Fähigkeiten zu sein, die man für die Ausführung der gerade genannten Fertigkeiten benötigt. Jedenfalls ist das der aktuelle Stand der Forschung. Deshalb würde viel dafürsprechen, das weiter zu denken, was die erste Forschergruppe schon angedeutet hat: Statt Entweder/Oder einen dritten Weg einzuschlagen. Wenn Lernende einen maßgeschneiderten KI-Tutor nutzen würden, dessen Job es ist, das Wissen der Lerner zu überprüfen und ihre Lücken im Lernprozess zu schließen, könnte das De-Skilling möglicherweise verhindert oder abgemilderter werden.

Die Forschenden verabschieden sich von ihren LeserInnen mit einer langen Liste offener Fragen. Es ist noch viel zu früh, die Frage, ob KI uns dumm macht, abschließend zu beantworten. Ich frage mich derweil, ob es nicht immer Mittel und Wege geben wird, den lästigen Tutor auszuschalten. Manche Leute interessieren sich eben überhaupt nicht für die Zutaten und die Zubereitungsweise ihrer Mahlzeiten. Hauptsache: satt.