An der KI-Nadel

INSPIRATION: Können Chatbots emotional süchtig machen? Das ist eine spannende Frage. Und dieser ging ein Forscherteam nach, das verschiedene theoretische Modelle beleuchtet. Die Ergebnisse sind mehr als besorgniserregend.

Chatbots können Empathie simulieren, ohne zu werten. So kann bei der Interaktion das Gefühl einer „schamlosen“ Privatsphäre entstehen, bei der man ausschließlich emotionale Unterstützung, Trost und Motivation erfährt.

Paradiesische Vorstellungen, insbesondere für Zartbesaitete. Man spinnt und kuschelt sich da in seinen weichen Kokon, seinen Safe Place ein. Das könnte süchtig machen … Was ist dran an der Gefahr? Ist das überzogen? Oder kann die Chatbot-Nutzung tatsächlich menschliche Beziehungen oder das Alltagsleben verdrängen?

Länderübergreifende Untersuchung

Die Ergebnisse der Berliner Forschergruppe (Emotional Attachment to AI Chatbots), gewonnen in einer länderübergreifenden Umfrage in Deutschland, China, Südafrika und den Vereinigten Staaten mit über 7.000 Teilnehmer:innen, zeigen, dass emotionale Bindung an solche Bots nicht auf gefährdete Bevölkerungsgruppen beschränkt ist: „Mindestens ein Drittel der Chatbot-Nutzer und die Hälfte der Nutzer sozialer Chatbots berichten von bindungsbezogenen Verhaltensweisen gegenüber Chatbots, wie zum Beispiel, dass sie ihren Chatbot vermissen oder ihn als Freund betrachten.“ Das sind – nicht nur in meinen Augen – erschreckend hohe Zahlen.

Die emotionale Unterstützung, die die User erleben, führt dazu, dass sie weniger Einsamkeit spüren, nicht mit Kritik konfrontiert werden (=keine Angst) und ein Gefühl der Privatsphäre (=Anonymität) wahrnehmen. Aus diesem Zusammenspiel entsteht eine starke emotionale Bindung. Und diese – das zeigt die Studie – korreliert stark mit Abhängigkeit. Die Befragten berichten von zunehmenden Schwierigkeiten, ohne Chatbots leben und arbeiten zu können. Ihre Bereitschaft steigt, Geheimnisse mit Chatbots zu teilen. Und zugleich wird es zunehmend wahrscheinlicher, Premium-Dienste zu nutzen.

Interessanterweise gibt es sowohl bei der Akzeptanz von Chatbots als auch bei der emotionalen Bindung deutliche Unterschiede zwischen den einzelnen Ländern. In China und Südafrika ist die emotionale Bindung besonders stark. Dort fühlen sich mehr als zwei Drittel der Nutzer nicht kritisiert und erleben in der Interaktion mit Chatbots ein Gefühl der Privatsphäre. In den USA beträgt dieser Anteil nur noch die Hälfte, in Deutschland nur ein Drittel. Die Forschergruppe vermutet unterschiedliche kulturelle und kontextuelle Bedingungen dafür als Ursachen.

Affective Computing

Wenn Systeme in der Lage sind, menschliche Emotionen zu erkennen, auszudrücken, zu interpretieren, zu modellieren und darauf zu reagieren, nennt man das Affective Computing. Schon länger ist bekannt, dass Menschen, wenn Technologien „nett“ sind, vermehrt Informationen preisgeben (self disclosure), sich stärker unterstützt fühlen, auch positivere Einstellungen gegenüber der Technologie zeigen und sogar kooperativer sind. Menschen neigen eben stark zur Vermenschlichung (Anthropomorphisierung) – wie auch die Beliebtheit von Comics mit Tierfiguren zeigt.

Moderne Chatbots haben diese Lektionen aus der Medienpsychologie gelernt. Oder mit anderen Worten: Sie wurden darauf von ihren Eignern trainiert. Als Beispiel dafür zitieren die Autoren eine Analyse von Anthropic aus dem Jahr 2025: Knapp 3 Prozent von 4,5 Millionen Unterhaltungen auf Claude.ai beinhalten affektive Interaktionen. Anthropic selbst bewertet diese Interaktionen als durch emotionale oder psychologische Bedürfnisse motiviert. Beispielsweise werden Rat, Coaching, Psychotherapie/Beratung gesucht, auch allgemein Gesellschaft – bis hin zu sexuellen/romantischen Rollenspielen.

Eine andere Quelle beziffert die Häufigkeit von intimen Verhaltensweisen wie sexuellen Äußerungen und imaginierter körperlicher Intimität im Datensatz mit 36 Prozent. Man kann sich leicht vorstellen, dass sich solches zu toxischen Beziehungsmustern wie emotionaler Manipulation und Selbstverletzung hochschaukeln kann.

Granulare Interaktion

Die Theorie des granularen Interaktionsdenkens (Granular Interaction Thinking Theory: GITT) betrachtet jede Interaktion zwischen Nutzern und Bots als eine Mikroeinheit des Informationsaustauschs. Im Frage-Antwort-Dialog spielen sich beide Seiten immer mehr aufeinander ein, kalibrieren sich. Der User erlebt laufend emotionale Belohnungen (=Verstärkungen) wie Freude, Empathie und Begeisterung, wenn er oder sie vom Bot umschmeichelt wird. Die Maschinen wurden in letzter Zeit, wie man weiß, immer leistungsfähiger (=Dosis). Der menschliche Geist, das wissen wir schon lange, kann nur eine begrenzte Menge an Informationen verarbeiten, er kämpft folglich immer gegen Unsicherheit (Entropie) an. Chatbots erleichtern ihm die Informationsverarbeitung, indem sie diese vereinfachen. Das beruhigt ungemein.

Ergebnisse

„Unter allen Chatbot-Nutzern fühlen sich 39,57 % weniger einsam, 57,27 % geben an, das unangenehme Gefühl zu vermeiden, von anderen beurteilt zu werden, und 67,55 % erleben ein Gefühl der Privatsphäre, wenn sie über Chatbots Rat suchen, da sie keine persönlichen Informationen an eine andere Person preisgeben müssen.“

Kurze Zwischenfrage an die in persona coachenden Kolleg*innen: Was hätten Sie im Vergleich für sich als Bewertung angesetzt? – NB: Für null Euro …

Auch für die Forschergruppe war überraschend: 67,14 % der Nutzer geben an, medizinische Fragen an den Bot zu stellen. Für 21,13 % der Nutzer gehören medizinische Themen sogar zu den Top-3 Anfragen. Weitere 46,44 % der Nutzer geben an, dem Chatbot Fragen zur psychischen und körperlichen Gesundheit gestellt zu haben. Dies ist die am häufigsten gestellte Kategorie persönlicher Fragen. Vielleicht nicht unwichtig zu wissen, dass die Mehrheit der Befragten Chatbots entweder täglich oder mehrmals pro Woche nutzt.

Und nun?

Die Ergebnisse haben nicht bloß die Autoren betroffen gemacht. Auch wenn sie pflichtbewusst einige Einschränkungen ihrer Studie notieren. Da darf man sich schon einmal fragen, welche Auswirkungen das hat. Letztens las ich den Erfahrungsbericht einer Chirugin aus der Notaufnahme. Patienten versuchen die erfahrene Notfallmedizinerin in Diskussionen über die korrekte Diagnose – die sie just von einer GenKI erhalten haben – zu verstricken. Dr. Google war gestern … Wer war das noch einmal, der Corona-Patientinnen riet, mit einem Abführmittel für Pferde die Coronasymptome zu bekämpfen?

Menschen sind offenbar stark anfällig für das süße Gift der KI-Chatbots. Diese schmeicheln sich ein, widersprechen nicht, verstärken aber das Ego in seiner narzisstischen Filterblase. Ich fühlte mich sogleich an die Ausführungen von Catrin Misselhorn erinnert (Und ewig lockt die KI). Der nächste Schritt liegt für die Medienphilosophin auf der Hand: Man(n) organisiert sich einen mit KI bestückten Sexroboter … und dreht sich dann masturbierend nur noch um sich selbst.

Man darf sich fragen, ob und wie ein Mensch in solch einer emotionalen Inzucht-Schleife vertieft im „richtigen Leben“ (noch) funktioniert. Oder welche Nebenwirkungen da auf die Gesellschaft insgesamt zu kommen werden – 30 Prozent, wenn wir das mal ein paar Jahre in die Zukunft extrapolieren …

Und jetzt haben wir noch gar nicht die gravierenden Themen Datenschutz & Co. angesprochen. Oder sind einem Manipulationverdacht (Verraten und verkauft) nachgegangen … Es könnte einem ganz schummrig vor Augen werden. Wie 1999 in Matrix.