Wenn zwei Welten aufeinander prallen

INSPIRATION: Der KI-Einsatz in Unternehmen kann zu Konflikten führen. Insbesondere dann, wenn der eine naiv drauflosarbeitet und die andere ihre Verantwortung ernst nimmt. Wie es gemeinsam gelingen kann, zeigt ein Erfahrungsbericht.

Verantwortung ist ein zentrales Governance-Thema. Darauf hat zuletzt mehrfach Jens Nachtwei hingewiesen (Net huddele). Man kann nur mutmaßen, wie gewissenhaft sich Unternehmen dieser Anforderung stellen – nach zwei Jahren Übergangsfrist wird der EU AI Act nun aktuell justiziabel.

Im Frühjahr 2024 hatte man sich im Partnerkreis der systemischen Unternehmensberatung qoodos entschieden, die neuen KI-Tools Microsoft Copilot und ChatGPT in die eigene Wissens- und Projektarbeit zu integrieren. Was dann folgte, lässt sich mit „Neugier, Irritation und Reflexion“ beschreiben (Zwischen Algorithmus und Resonanz).

Die Büchse der Pandora

Denn „plötzlich entstanden Texte, die ‚gut klangen, aber nicht durchdacht waren‘.“ Oder: „Routinen, die sonst Dialog erforderten, ließen sich nun automatisieren.“ Man wurde gewahr, dass sich das soziotechnische System veränderte, dass man selbst sich in einem Change befand. Und das braucht erhöhte Aufmerksamkeit, die die Berater*innen von Haus aus mitbringen. Die Beratungsfirma verstand sich schon immer als lernendes System. Aber auch als dezidiert an einem reflektierten Menschenbild orientiert. Und da knarzte es nun zunehmend.

Den Einstieg in die KI-Nutzung hat man bewusst niedrigschwellig angelegt. Erst mal eine Schulung zu den Grundlagen. Dann Experimente. Und schließlich Reflexion. Denn man realisierte gehörige Ambivalenzen, nicht nur technischer, sondern auch professioneller Art: „Zwischen Entlastung und Entfremdung, zwischen Beschleunigung und Verlangsamung, zwischen Faszination und Skepsis.“ Das nahm man zum Anlass, ethische Leitlinien für die eigene Beratungsarbeit zu entwickeln. Denn Verantwortung entsteht nicht durch Regeln, sondern durch Beziehung, so die Autoren.

Professionelles Selbstverständnis

Systemische Beratung basiert auf Beziehung, Sinnkonstruktion und Kontextbewusstsein, war die gemeinsame Überzeugung. Das produziert jedoch Spannungsfelder zur technologischen Logik. Diese hat man dann, wie das Berater*innen so machen, gleich in einer Tabelle gegenübergestellt und dabei acht Dilemmata herausgearbeitet. Daraus entstanden ethische Leitlinien als handlungsleitender Orientierungsrahmen:

• Der Mensch bleibt im Zentrum
• Verantwortung und Transparenz
• KI als Impulsgeber, nicht als Automatismus
• Bewusster Umgang mit Verzerrungen
• Balance von Effizienz und Tiefe
• Partizipation und Werteorientierung

Nicht Wasser predigen und Wein trinken

Welche Relevanz diese Leitlinien konkret entwickeln, illustrieren die Autorinnen an einem Beispiel. Der Integration von KI in eine Workshop-Methode. Der Dialog nach David Bohm – einer spricht, die anderen hören zu – wurde abgewandelt. Statt „Talking Stick“ wanderte ein Mikrofon durch die Runde. Jedes Statement wurde aufgezeichnet und eine GenKI fertigte daraus eine strukturierte Zusammenfassung dessen, was die Gruppe geäußert hatte, und liefert sogleich noch eine Reihe an Anschlussfragen hinterher. Man war beeindruckt. Denn

• „die KI verdichtete kollektive Gedanken in Echtzeit
• die Teilnehmenden konnten dadurch schneller in eine fokussierte Weiterarbeit einsteigen
• gleichzeitig blieb die emotionale Tiefe des Dialogs erhalten, die algorithmische Verdichtung ergänzte die menschliche Resonanz“

Aber es wurde auch Skepsis laut. Das Learning für die Beratenden:

• der Einsatz von KI muss explizit gerahmt werden
• die Teilnehmenden brauchen klare Transparenz
• der Zweck des Einsatzes und der Umgang mit den Daten muss klar sein
• das Einverständnis der Teilnehmenden muss immer erfragt werden
• es müssen Alternativen geboten werden

KI, so lassen sich die eigenen Leitlinien übersetzen, darf nicht als „Ersatz, sondern als Erweiterung von Dialog und Reflexion“ eingesetzt werden.

Vier zentrale Erkenntnisse

Die Autor*innen fassen ihr Learning so zusammen:

• Ethik braucht Alltagstests
• KI macht Haltung sichtbar
• Technische Kompetenz ist nicht genug
• Ethische Leitlinien werden nicht in Stein gemeißelt, sondern werden in einem kontinuierlichen sozialen Prozess gelebt

Und so entlassen sie ihre Leserschaft mit dieser Frage: „Wie können systemische Berater*innen ihre besondere Kompetenz, den Umgang mit Ambivalenz, Beziehung und Sinn in die gesellschaftliche Debatte um KI einbringen?“