Rodeo-Ritt mit der KI

INSPIRATION: Zunehmend lassen sich fundiert kritische Perspektiven auf KI ausmachen: Der Trend zur Denkfaulheit beispielsweise oder die Gefahr emotionaler Abhängigkeit – über all das haben wir schon berichtet. Nun gerät eine weitere Perspektive in den Blick.

Es geht um die „Vertoolisierung“ von KI. Um das Missverständnis, KI sei ein Effizienz-Tool. Matthias Horx (Strategie in der „Omnikrise“), einflussreicher Trend- und Zukunftsforscher im deutschsprachigen Raum, beobachtet eine Drift. „Auf der einen Seite entstehen Organisationen, die man als Sinnorganisationen bezeichnen könnte. (…) Auf der anderen Seite sehen wir Organisationen, die sich stärker technisieren und automatisieren.“ Letztere Variante, Horx bezeichnet sie als „kalte Organisationen“, seien oft mit dem Schlachtruf „Skalierung“ unterwegs. Sie versuchten, den menschlichen Faktor immer weiter zu reduzieren und Algorithmen zu priorisieren. Sie setzen einseitig auf Effizienz.

---

Anzeige:

logic systems versteht sich als IT-Unternehmensberatung mit dem Schwerpunkt auf der Entwicklung betriebswirtschaftlicher Softwarelösungen. Seit 1993 ist die Entwicklung von PC-gestützten Unternehmensplanspielen eine der Kernkompetenzen des Unternehmens. Zur Webseite...

---

Doch damit produzieren sie eine Unwucht im Gesamtsystem des Unternehmens. Das ist ein interessanter Gedanke, der an das Konzept der Ambidextrie erinnert: Exploitation und/oder Exploration (Lechts und rinks velwechsere ich nicht); aber auch an das arbeitspsychologische Konzept der soziotechnischen Systemgestaltung. Gerade erst hat die Fachgruppe Arbeits-, Organisations- und Wirtschaftspsychologie der Deutschen Gesellschaft für Psychologie (DGPs) mit einem Beitrag in dieselbe Kerbe gehauen (Handlungsfelder des KI-Einsatzes in Arbeit, Teams und Organisationen): Nach dem soziotechnischen Systemansatz wirken technische, soziale und organisationale Faktoren wechselseitig zusammen. Die Einführung von KI an einem Arbeitsplatz ist zentrale (Arbeits‐)Gestaltungsaufgabe, bei der stimulierende, machbare, und autonome Tätigkeiten mit tolerierbaren Anforderungen ausbalanciert werden müssen. Das Ziel müsse eine menschengerechte Arbeitsgestaltung bleiben.

„Ach, diese Lücke, diese entsetzliche Lücke“

Da ist sie wieder, „diese entsetzliche Lücke“, um ein Zitat von Joachim Meyerhoff aufzugreifen, dessen Romanverfilmung jüngst erst Simon Verhoeven ins Kino gebracht hat. Diese Lücke sieht man nicht, wenn man eher einäugig (ingenieursmäßig?) unterwegs ist, und denkt, man könnte „einfach so“ eine neue Technologie implementieren.

Horx bemüht das Beispiel vom menschlichen Körper: „Wenn Sie nur ein Organ ‚optimieren‘, gerät der ganze Organismus aus dem Gleichgewicht. Ähnlich kann es Organisationen ergehen, wenn einzelne Bereiche plötzlich enorm produktiv werden – etwa durch KI –, während andere Teile nicht mithalten können.“ Nun, wenn solche Vergleiche zumeist auch hinken, kommt Horx doch zum richtigen Schluss: Es muss um Systemeffektivität gehen, nicht bloß um die maximale Effizienz von Teilbereichen.

Naiver Pragmatismus

Autor Thomas Schumacher (Strategie unter KI-Bedingungen) nimmt diesen Ball auf: In vielen Organisationen frage man sich derzeit: „Wo können wir KI sinnvoll einsetzen? Diese Frage wirkt pragmatisch. Sie ist anschlussfähig. Und sie führt zuverlässig in die Irre.“ Starke Worte! Doch er bleibt die Begründung nicht schuldig: Es werde „unterstellt, dass sich durch KI vor allem die Qualität von Entscheidungen verbessert, während die Bedingungen, unter denen diese Entscheidungen zustande kommen und wirksam werden, weitgehend stabil bleiben.“ Es lassen sich drei Ebenen betrachten:

• Operative Entscheidungen: KI verändert die Verarbeitung; sie wird „schneller, breiter, granularer, aber auch variabler und vollständiger als bisher“.
• Entscheidungsprämissen: KI verschiebt die Relevanzkriterien; sie wandern unter der Hand in Tools, Prompts und Trainingsdaten ab, werden dadurch zunehmend „unsichtbar“ – und weniger explizit entschieden.
• Identität: Wer sind wir als Organisation? Oder entscheiden das nun die KI-Algorithmen?

Wenn die meisten KI-Initiativen bloß auf der ersten Ebene ansetzen, werden operative Entscheidungen lediglich innerhalb gegebener Prämissen verbessert. Mit der Nutzung von KI-Daten wird grenzüberschreitend Anschlussfähigkeit hergestellt. Doch damit wird zugleich Kontextlosigkeit und Durchschnittlichkeit eingekauft. „Was als ‚relevante Information‘ gilt, entsteht nicht mehr aus professioneller Urteilskraft, sondern aus stochastischen Mustern. Organisationen verlieren dabei nicht die Fähigkeit zu entscheiden, wohl aber die Annahme, sie hätten bestimmt, welche Selektionslogiken ihre Entscheidungen strukturieren.“

Der Hang zur Mittelmäßigkeit

Der Raum des Möglichen wird extrem erweitert. Geliefert werden jedoch lediglich Plausibilitäten. Keine Gewissheiten. Und es steht auch niemand persönlich dafür ein. „Generative KI selektiert auf Plausibilitätsmaximierung – auf den wahrscheinlichsten Anschluss aus den Trainingsdaten. Organisationen als Entscheidungssysteme operieren gegenläufig: Sie entscheiden dort, wo das Erwartbare nicht reicht, wo Alternativen sichtbar werden, die aus dem statistischen Mittel herausragen, und wo Selbstbindung eingefordert wird.“

Ein weiterer Aspekt ist der Drang der KI-Modelle zum Mittelwert, zur Durchschnittlichkeit. Der Strategieberater Porter nannte das „stuck in the middle“; sozusagen das Death Valley des Unternehmertums. Man müsste sich, so Schumacher, stattdessen entweder für eine Seite entscheiden oder die Spannung bewusst bewirtschaften. Ich denke mal weiter: Was passiert, wenn alle KI-Finanzagenten dieselben Aktien kaufen? Oder wenn KI-Systeme in unterschiedlichen Kontexten dieselben 08/15-Tipps geben?

Die Kuratierung von Dissens

Nötig sei in Organisationen „die explizite Kuratierung von Dissens“. Das haben wir schon einmal vernommen – und wie dem die Denkfaulheit oder die organisationale Effizienzerwartung im Weg stehen können (KI: Pi mal Daumen?). Sozusagen die Schwerkraft der plausibilitätsgetriebenen Konvergenz gegen „das gezielte Sichern von Zweitmeinungen, Gegenpositionen und Devil’s-Advocate-Rollen als institutionelle Vorsorge“.

Irgendwie dumm gelaufen: Angetreten sind wir mit dem Versprechen von Effizienzsteigerung. Bekommen haben wir quantitative Datenberge, Durchschnittswerte und Plausibilitäten. Gebraucht hätten wir aber qualitative Einordnungen. Beim Versuch, die Balance wieder herzustellen, geht die ganze Zeitersparnis wieder futsch. Erinnert das nicht an „Der kleine Prinz“ von Saint Exupéry? Oder an Michael Endes Momo? Du könntest so viel Zeit sparen …