Und der Haifisch, der hat Zähne …

INSPIRATION: Da tut sich eine Kluft auf zwischen populären, eher euphemistischen Veröffentlichungen und wissenschaftlichen Stellungsnahmen zum Thema KI-Implementierung in Unternehmen. Da kann man was von lernen.

Ich weiß nicht, wie Sie das sehen, werte Leserschaft, aber je länger, je mehr ich mich durch diverse Beiträge zum Thema GenKI und Einsatz derselben in Unternehmen lese, desto nachdenklicher bis alarmiert werde ich; bei aller grundsätzlichen Neugier. Zuletzt erst hatte ich mich einigermaßen echauffiert über, man nenne es naive Sorglosigkeit oder fahrlässige Dreistigkeit, den Vorschlag der „locker-flockigen“ Implementierung von KI-Agenten in Unternehmen (Die Blechbüchsenarmee).

---

Anzeige:

logic systems versteht sich als IT-Unternehmensberatung mit dem Schwerpunkt auf der Entwicklung betriebswirtschaftlicher Softwarelösungen. Seit 1993 ist die Entwicklung von PC-gestützten Unternehmensplanspielen eine der Kernkompetenzen des Unternehmens. Zur Webseite...

---

Nun wird es wohl einmal Zeit, ein paar Dinge zusammenzutragen und auszuwerten. Und das betrifft insbesondere die soziotechnische Systembetrachtung und -gestaltung, auf die ich auch schon mehrfach verwiesen habe. GenKI-Implementierung ist ja weit mehr, als eine neue Technologie zu nutzen. Es trifft sich daher gut, dass sich mehrere Fachgruppen der Deutschen Gesellschaft für Psychologie (DGPs) in zwei Ausgaben der Zeitschrift Psychologische Rundschau zum Thema ausgelassen haben.

Die soziotechnische Systembetrachtung

Die Fachgruppe Arbeits-, Organisations- und Wirtschaftspsychologie hatte schon in der ersten Ausgabe deutlich gemacht, das Ziel bei der KI-Implementierung müsse unverändert eine „menschengerechte Arbeitsgestaltung“ bleiben (Handlungsfelder des KI-Einsatzes in Arbeit, Teams und Organisationen). Was sich so salbungsvoll anhört, bedeutet konkret:

• Ausführbarkeit: Die Tätigkeitsanforderungen müssen erfüllbar sein
• Schädigungslosigkeit: Die Tätigkeit muss so gestaltet sein, dass keine Gesundheitsschäden entstehen
• Beeinträchtigungsfreiheit: Die Tätigkeit muss so gestaltet sein, dass nicht physiologische oder psychische Befindensbeeinträchtigungen mittelfristig Gesundheitsschäden auslösen (z.B. psychosomatische Beschwerden)
• Gesundheitsförderlichkeit: Die Tätigkeit muss ermöglichen, dass in der Tätigkeit weiter gelernt wird und so körperliches, geistiges und soziales Wohlbefinden auch gegen Alternsprozesse und bei sich ändernden Anforderungen gesichert wird

Vielleicht erschließt sich der Impact nicht auf den ersten Blick, aber diese Forderungen, übrigens in Deutschland im Arbeitsschutzgesetz festgelegt und von der Gewerbeaufsicht und Berufsgenossenschaften überwacht, scheinen nicht wenige plötzlich angesichts des KI-Hypes komplett vergessen zu haben. Da wird fröhlich und teilweise hemmungslos – unter und auf dem Schreibtisch – experimentiert. Und da ist man aber unter Vorgesetzten offenbar öfters der Meinung, die Zeit, die die Mitarbeitenden bei der Arbeit mit GenKI einsparen, müsse man nicht für die Validierung des Outputs verwenden, sondern für die Erhöhung der Schlagzahlen. Experten heben inzwischen warnend die Hand (Schöne neue Agentenwelt).

Nach dem soziotechnischen Systemansatz wirken technische, soziale und organisationale Faktoren wechselseitig zusammen. Die Einführung von KI an einem Arbeitsplatz ist folglich nicht bloß der Zugriff auf eine neue Technologie, sondern eine systemische Angelegenheit, also Change-Management. Und damit eine zentrale (Arbeits‐)Gestaltungsaufgabe, bei der stimulierende, machbare, und autonome Tätigkeiten mit tolerierbaren Anforderungen ausbalanciert werden müssen (Net huddele).

Sozialpsychologische Perspektive

Die Sozialpsychologen (Künstliche Intelligenz als soziotechnisches System) steuern zum Verständnis das Thema „Soziale Wahrnehmung“ bei. KI wird als sozialer Akteur und Interaktionspartner wahrgenommen. Stichwort: Anthropomorphisierung. Was bedeutet: „Menschen nehmen KI häufig als eigenständigen sozialen Akteur wahr. Dies ermöglicht soziale oder sogar romantische Beziehungen mit KI als synthetischem Beziehungspartner einzugehen.“ Erleichtert werde dies dadurch, dass GenKI adaptiv ist. KI-gestützte Chatbots passen sich an die Nutzer:innen an. Sie merken sich deren Vorlieben und Gesprächsinhalte und wirken so mit der Zeit immer vertrauter. Kritiker nennen das „sycophantic“ (speichelleckend). Die Chatbots schmeicheln den Nutzenden, bestätigen sie und lullen sie in ihrer Blase immer mehr ein (An der KI-Nadel). Echte Menschen können, weil sie eigene Bedürfnisse äußern, eigene Themen verfolgen und widersprüchliche Perspektiven einbringen, dem KI-Verwöhnten zunehmend anstrengend erscheinen oder sogar frustrieren.

Ein weiterer sozialpsychologischer Aspekt lautet: „Soziales Urteilen und Entscheiden“. GenKI liefert auf Knopfdruck Entscheidungsvorlagen. Werden diese nicht kritisch überprüft, werden Verzerrungen, Urteilsfehler und gesellschaftliche Stereotype reproduziert. Es ist schon perfide: Menschen nehmen algorithmische Entscheidungen als objektiver wahr. Sie unterstellen ihnen weniger egoistische oder schädigende Motive als Menschen (der Splitter im Auge), sehen aber den Balken (der Vorurteile) – um das mit einer biblischen Metapher auszudrücken (Mt 7,3) – nicht im eigenen und auch nicht im Auge der KI, denn die wurde mit Trainingsdaten gefüttert, die nicht objektiv sind (KI – es ist nicht drin, was draufsteht). GenKI verschleiert Verantwortlichkeit, was ein großes ethisches Problem ist.

Zum Dritten betrachten die Sozialpsychologen die Auswirkungen von GenKI auf Gruppenprozesse und den gesellschaftlichen Zusammenhalt. Dabei fällt auf, dass die GenKI-Nutzung offenbar die Tendenz erhöht, alltägliche soziale Interaktionen zu reduzieren. Warum soll ich den Kollegen im Nachbarbüro bei einem Problem um Hilfe bitten, wenn mir die KI-App per Klick weiterhilft? So verpasse ich den Schnack, den gemeinsamen Kaffee und den informellen Austausch mit ihm – wir werden uns immer fremder, ich werde immer einsamer.

Solches einzelne Verhalten generalisiert sich dann leicht zu einem sozialen „Autismus“. Die soziale Interaktion mit unbekannten Personen unterschiedlicher sozialer Hintergründe erscheint überflüssig und wird dann eher gemieden. Langfristig befürchten die Sozialpsychologen „eine Erosion sozialer und gesetzlicher Normen sowie eine verringerte Bereitschaft, sich für gemeinsame Ziele einzusetzen und zum Nutzen der Gemeinschaft zu kooperieren“.

Ingenieurpsychologische Perspektive

Noch viel relevanter finde ich, was die Fachgruppe Ingenieurpsychologie (Ingenieurpsychologie im Zeitalter von KI) zum Thema beizusteuern hat: „Menschliche Aufsicht über KI, wie in der KI-Verordnung gefordert (European Union, 2024), ist kein Selbstläufer, sondern muss aktiv in Systemdesign und Implementierung unterstützt und gestaltet werden.“ Das ruft Erinnerungen an meine Schelte wach: Im Beitrag Die Blechbüchsenarmee habe ich diesen Aspekt bei der Autorin komplett vermisst.

Den Ingenieurpsychologen geht es um den methodischen Ansatz des menschzentrierten Designs. Das ergänzt die soziotechnische Systemperspektive und konkretisiert die Forderung einer „menschengerechten Arbeitsgestaltung“ qualitativ. „Daraus leitet sich unserer Meinung nach der klare Auftrag ab, Mündigkeit, Verantwortlichkeit und das Wohlbefinden des Menschen in zunehmend algorithmisch strukturierten Kontexten systematisch zu sichern und so resiliente, menschzentrierte soziotechnische Systeme zu schaffen.“

Medienpsychologische Perspektive

So fehlt bloß noch die medienpsychologische Perspektive (Neue Technologie, bekannte Fragen?) im Chor der Experten. Diese Fachgruppe unterscheidet schon lange die Mensch-Computer-Interaktion (HCI), hier ist GenKI Interaktionspartner des Menschen, und die Computervermittelte Kommunikation (CMC), KI vermittelt in diesem Fall die Kommunikation zwischen Menschen. Was den ersten Aspekt betrifft, kann dieses Fach die Media-Equation-Theorie beisteuern. Sie betrachtet, „in welchem Ausmaß Menschen technische Systeme in der Interaktion so behandeln, als wären sie soziale Akteure“. Dafür hat das Fach auch einen eigenen Begriff: Ethopoeia.

Das hat nichts mit Äthiopien zu tun … Der Begriff ist vom griechischen „ethos“ (Charakter) und „poeia“ (Darstellung) abgeleitet und bezeichnet die Fähigkeit, seine Rede so zu gestalten, dass sie zu der Person passt, für die sie gedacht ist. Das Publikum und der situative Kontext spielen hier für das Fitting selbstverständlich eine entscheidende Rolle. Obwohl man sich also der Künstlichkeit der KI-Systeme bewusst ist, spricht man mit ihnen, bspw. beim Prompting, menschlich. Das erinnert doch sehr an den Begriff Anthropomorphisierung, den die Sozialpsychologen verwenden. Und man könnte sich in der Tat fragen, ob diese Fachgruppen vielleicht zu wenig miteinander sprechen (Ich frage mich das schon seit 40 Jahren).

Im Bereich der Computervermittelte Kommunikation (CMC) forscht die Fachgruppe zu den Auswirkungen KI-unterstützter Online-Kommunikation auf Glaubwürdigkeit und Vertrauen. Da dürfte es dann um Chatbots und Avatare gehen oder um von KI generierte Postings in Social-Media-Kanälen.

Auf dem Weg zum Brain Washing?

Nach diesem fachspezifischen Geplänkel wird es dann aber noch mal spannend. Die Fachgruppe sieht nämlich ein besonderes Risiko durch KI-vermittelte Medienumgebungen. Und das nennt sich Hyperpersonalisierung. Damit ist gemeint, dass GenKI „Medieninhalte dynamisch an individuelle Präferenzen, Überzeugungen und Suchverhalten anpassen“ kann. Das könne eben auch „maladaptive Prozesse“ verstärken. Was ich sofort glaube, weil mich diese etwas verklausulierte Formulierung an die Funktionsweise von TikTok & Co. erinnert (Tue Gutes und rede darüber). Die Algorithmen schrauben sich immer tiefer in die Gehirne der User rein. Warum scheuen sich die Medienpsychologen, das Brain Washing zu nennen?

Die schleichende Erosion von Medienkompetenz

Hinzu komme „AI sycophancy“ – auch das haben wir schon von den Sozialpsychologen gelernt. Die Medienpsycholg:innen befürchten, „dass diese Form sozialer Bestätigung u.a. zu erhöhter Überzeugungssicherheit, Extremisierung von Einstellungen und reduzierter Offenheit gegenüber widersprüchlichen Informationen führen kann“. Und sogar auf den ersten Blick „harmlose Befunde“ wie die häufige Nutzung von KI-basierten Zusammenfassungen sehen die Medienpsychologen skeptisch: Sie befürchten die schleichende Erosion von Medienkompetenz. Alles in allem: Perfekte Zutaten für eine dystopische Zukunft.

Beraterlatein

Nach dieser „Expertenbefragung“ schaue ich noch einmal auf zwei Beiträge aus der managerSeminare: Wenn ich die psychologischen Erkenntnisse und Befunde mit den Ausführungen von Autor Rosengrün (Die unsichtbare Architektin) vergleiche, der eine „soziale Strategie“ für die GenKI-Implementierung fordert, bleibt es leider blass. Die Richtung stimmt zwar, aber die praktischen Vorschläge bleiben oberflächlich und überzeugen bei weitem nicht:

• Entfremdung vorbeugen: KI mit dem eigenen Wertesystem koppeln
• Keine falsche Scham aufkommen lassen: KI offen nutzen, nicht versteckt
• Soziale Dynamiken gestalten: Die interaktionalen Auswirkungen von KI kennen und mit ihnen umgehen
• Rollen und Expertise neu austarieren: An KI delegieren, ohne Menschen Verantwortung abzunehmen

Der Beitrag von Autor Schweickhardt (Führungsentscheidungen mit KI reflektieren) warnt vor naiver Zweckentfremdung von GenKI im Rahmen von Führung, hat aber auch eine „gute Nachricht“ im Koffer: „KI kann trotzdem zu einem wertvollen Ratgeber in der Führung werden. Allerdings nicht, indem wir sie nach fertigen Lösungen fragen, sondern indem wir sie nutzen, um unsere Wahrnehmung zu hinterfragen, unseren Denkrahmen zu erweitern und unterschiedliche Erklärungs- und Handlungsmöglichkeiten systematisch zu prüfen.“

Gut gebrüllt, Löwe! Doch glaubt der Autor allen Ernstes, die Führungskräfte würden nun unbedingt auf ihn hören? Seine Vorschläge sind aus gängigen Führungstrainings nur zu gut und längst bekannt:

• Beobachtung und Interpretation trennen
• Ursachenhypothesen entwickeln
• Gegenhypothesen prüfen
• Führungsmodelle einbeziehen
• Risiken der Intervention untersuchen
• Das Gespräch vorbereiten und offen führen

Man darf sich doch mal fragen, zu welchem Grad die vielen Führungstrainings der letzten Jahrzehnte zu einem reflektierten Führungsverhalten beigetragen haben? Und jetzt haben die Führungskräfte vermutlich alle eine KI-App auf dem Handy. Metakognitive Faulheit (Den Bock zum Gärtner machen?) dürfte auch bei dieser Spezies, und nicht nur bei den „doofen“ Mitarbeitenden, weit verbreitet sein.

Allenfalls werden Unternehmen den Berater aus schlechtem Gewissen buchen oder um Compliance-Anforderungen formal zu erfüllen. Das Training haken dann die meisten als besucht ab – wie all die anderen Compliance-Trainings. Und machen dann weiter wie gehabt.

Eldorado

Na ja, kann man ja auch irgendwie verstehen, die Berater wollen Beratung verkaufen. Und die muss schließlich irgendwie anschlussfähig erscheinen – an das, was die Unternehmen wollen. Die nachdenklichen und kritischen Reflexionen der Wissenschaftler klingen eher nach Spaßbremse. Die Unternehmen wollen die Produktivität erhöhen. Sie wollen ihre Märkte überzeugen und ihre Produkte und Dienstleistungen verkaufen. Schnell und effizient.

Die Resonanz mit dem Common Sense – dass GenKI die ultimative „Allzweckwaffe“ sei, dass man nun unbedingt investieren muss, dass man keine Zeit verlieren und sich nicht von „Bedenkenträgern“ aufhalten lassen darf – erscheint alternativlos. Forderungen wie Überprüfen des GenKI-Outputs, Vermeiden von metakognitiver Faulheit, Verantwortungsübernahme, Compliance etc. hört man mit einem Ohr und eilt weiter. Darauf einzugehen, würde bloß aufhalten … im Hamsterrad. Doch die Rechnung für diese Stampede wird zweifellos noch eintrudeln.

Derweil die Herde im Goldrausch nach Westen stürmt, dem vermeintlichen Eldorado entgegen, verkaufen andere am Wegesrand Hacken, Schaufeln und Schüttelsiebe. Und wieder andere sind schon einen Schritt weiter: Sie bauen IT-Systeme, die mit dem EU AI Act konform gehen. Sie bauen europäische Cloud- und KI-Systeme auf. Und vermutlich arbeiten sie auch schon daran, Schulungen aufzusetzen, die nicht bloß an der Oberfläche kratzen, sondern die einen wirklichen – und jetzt nehme ich einmal ausnahmsweise dieses Wort in den Mund – Mindshift bewirken. Und das schließt dann auch wieder den Bogen zu den Expertenstatements, die ich oben referiert habe. Denn dort wird, oft eher zaghaft und bescheiden, ausgeführt: KI könnte auch im positiven Sinne genutzt werden. Das wollen wir schwer hoffen, denn die Alternative ist allzu düster …