KI: Und sind die Kartoffeln da, werden sie auch gegessen

KRITIK: Künstliche Intelligenz ist das dominante Medienthema in diesem Jahr. KI drängt sich allerorten auf. Sie lockt mit fantastischen Heilsversprechen. Und man kann ihr kaum aus dem Weg gehen. Auch nicht im Unternehmenskontext.

So macht auch die Changement! in diesem Sommer mit einem Schwerpunktthema auf: Es ist eine einzige Lobeshymne. Und man kann sich des Eindrucks kaum erwehren: Da wird in den Unternehmen viel Unterschiedliches in einen Topf geworfen. Und die Einblicke bleiben zumeist oberflächlich. Die anschließenden Fragen allerdings bleiben zumeist offen: Wäre es nicht besser, die Sache einmal kritisch und grundsätzlich zu beleuchten?

Man sollte schon klar unterscheiden, ob man von Automatisierung oder KI spricht. So Athanasios Karafillidis, KI-Manager der Stadt Dortmund (Was macht eine KI im System?). Automatisierung bedeute robotische Zuverlässigkeit. Diese „klassische“ Nutzung nach Wenn-Dann-Programmen sei in der Verwaltung beispielsweise weit verbreitet. Bei dieser Experten-KI geht es um Mustererkennung. Generative KI hingegen, die heute so populär geworden ist, produziert neue Daten (inkl. Halluzinationen).

Im KI-Rausch

Doch die Beispiele, die gleich zu Beginn des Changement!-Schwerpunkts das renommierte Hasso-Plattner-Institut (HPI) vorstellt, sind typische Automatisierungsanwendungen: Die Autoren (Strukturiert die KI-Integration angehen) zeigen, wie man mittels maschineller Mustererkennung Lebensmittelverschwendung im Seniorenheim reduzieren oder mittels App Nagelerkrankungen erkennen kann.

Ebenso kann man sich lebhaft vorstellen, wie man die Verwaltung einer Krankenkasse mittels Automatisierung upgraden und beschleunigen kann (Diese Entwicklung darf das Gesundheitssystem nicht verschlafen). Doch wenn man von einer Expertin („Eine tiefgreifende Veränderung von Wertschöpfung, Organisation und Führung“) den Ausspruch hört, die KI-Transformation bedeute „einen tiefgreifenden Wandel der betrieblichen Logik – vergleichbar mit der Elektrifizierung oder Digitalisierung“, könnte man schon stutzig werden.

Das Unternehmen wird ausschließlich als Maschine gedacht? Das ist doch allzu platt und kann der Unternehmung als sozialem System nicht gerecht werden. Doch die Expertin ist unerschrocken: „Im Kern steht eine neue Form der Zusammenarbeit zwischen Mensch und Maschine: KI agiert nicht als bloßes Werkzeug, sondern als intelligenter Partner, der zunehmend Mitsprache erhält.“

Vermenschlichung der KI

Analogien zu menschlichen Fähigkeiten führen für Karafillidis (Was macht eine KI im System?) in die Irre. Sie entstammen dem Marketingsermon aus den Silicon Valley. Seit Jahren versucht man uns weiszumachen, dass es bei KI darum ginge, menschliche kognitive Fähigkeiten zu imitieren. Aber umgekehrt wird viel eher ein Schuh daraus. Karafillidis bezieht sich auf Matteo Pasquinelli, den Professor für Wissenschaftsphilosophie (Eine Sozialgeschichte Künstlicher Intelligenz): „Wir brauchen diese Analogien gar nicht, um zu verstehen, wie diese Maschinen funktionieren.“ Das Narrativ von der „Intelligenz“ vernebelt eher den Plot.

„Künstliche Intelligenz ist nicht autonom,“ so Karafillidis. Sie ist kein Perpetuum Mobile, die sagenhaften Versprechen ihrer Anbieter in Sachen Produktivität realisieren sich nicht von allein. KI ist nicht einfach da, eine eigene Entität, sondern sie ist eingebettet in soziale Bezüge. Es braucht Energie und Infrastruktur, die von uns Menschen bereitgestellt werden muss, damit sich das realisieren kann, was wir so toll finden. Zudem braucht es Menschen, die Daten sammeln, aufbereiten und pflegen, und weitere, die die Maschinen trainieren (Gig-Work – eine Verzweiflungstat).

Und solche, die sie nutzen. Und ihr Nutzen attribuieren. KI ist eingebunden in soziale Kontexte, weil sie menschengemacht ist (Fosbury-Flop mit der KI). Aber auch weil ihre Nutzung menschengemacht ist. Es braucht menschliche Aufmerksamkeit und unser Wissen – bis hin zum Prompt(Engineer)ing. Und es braucht uns, die entscheiden, was wir mit dem Output der KI anstellen wollen. Wir – nicht die Maschine – müssen das vor uns, der Gesellschaft und der Nachwelt verantworten.

Ghost Work

„KI suggeriert,“ so Karafillidis, „da ist eine fremde Intelligenz gekommen, die alles allein macht und allein durch ihr technisches Potenzial uns allen überlegen ist.“ Doch das sei nichts als Augenwischerei. „‘Intelligenz‘ wird erzeugt durch die Arbeit anderer, nicht durch das System selbst. (…) Wie viel Arbeit und wie viele Entscheidungen braucht es Tag für Tag, um KI intelligent erscheinen zu lassen. Soziale Systeme machen KI intelligent.“ Karafillidis nennt das Ghost Work, einen Begriff, den er der Ethnologie (Gray & Suri 2019) entlehnt hat.

Und so mag man als Krankenkasse (Diese Entwicklung darf das Gesundheitssystem nicht verschlafen) dankbar für die Prozessautomatisierung sein. Doch muss man zugleich auch die Kehrseite betrachten: Ein Data-Mining in medizinischen Diagnosen, die Verknüpfung solcher Daten mit anderen Daten wie, welche Heilmittel individuell verordnet, welche Präventionskurse individuell angenommen werden etc. pp., und wie man die Versicherten auf solcher Basis optimal, also gezielt, ansprechen kann für einen gesunden Lebenstil, mag faszinierende Möglichkeiten erschließen. Eröffnet aber zugleich ein Minenfeld von Datenschutz, Persönlichkeitsrechten und Compliance-Fragen ohnegleichen.

KI als Super-Intelligenz

Und noch eine perfide Verschleierungstaktik deckt Karafillidis auf (Was macht eine KI im System?): Entscheidungen der KI werden als dem Menschen überlegen angesehen. Was für ein fataler Kurzschluss: Seit den 1970er-Jahren sei der Rationalitätsmythos in der Organisationstheorie dekonstruiert worden. Jetzt erlebe er mit KI eine fatale Wiedergeburt. Beispiel: Dass man bessere Entscheidungen treffen könne, wenn man mehr Daten generiere. Hier schließt sich der Kreis zur brillanten Analyse von Ralf Otte (Die ultimativen Grenzen der Künstlichen Intelligenz).

Expertin Sabina Jeschke („Eine tiefgreifende Veränderung von Wertschöpfung, Organisation und Führung“) plädiert dafür, Entscheidungsprozesse viel stärker zu automatisieren als wir uns das heute trauen. Beispiel: Personalauswahl. „Viele menschenbasierte Entscheidungen sind weder besonders objektiv noch besonders transparent. Wenn heute ein Personaler zwei Bewerbungen vergleicht, ist die Entscheidung selten nachvollziehbar. KI hingegen – insbesondere „Explainable AI“ – zwingt uns dazu, Kriterien offenzulegen und Entscheidungen strukturiert zu treffen – das kann ein Gewinn an Fairness und Nachvollziehbarkeit sein.“

Konjunktive und Suggestionen: Der Dame scheint nicht bekannt zu sein, dass

• es seit über 20 Jahren eine Norm zur Eignungsdiagnostik gibt (DIN 33430)
• stumpfes Machine Learning durch Algorithmen wie „Schmidt sucht Schmidtchen“ zu Diskriminierungen und auch zu Fehlbesetzungen führen kann (KI in der Personalauswahl)
• es einschlägige Veröffentlichungen zum Einsatz von KI in der Personalauswahl gibt (Schlaraffenland ist abgebrannt), die es lohnen würde zu lesen, ehe man Plattitüden hinausposaunt
• es einen Unterschied zwischen Produkten (da kann man die Maschinenlogik nutzen) und Dienstleistungen (da ist das unangemessen) gibt (Qualität der Dienstleistung ‚Coaching‘)

Das End‘ vom Lied

Ich weiß, ich wiederhole mich: All das läuft auf Digitalen Taylorismus hinaus. „KI ist das ultimative Instrument der Überwachung von Prozessen und der Markierung von Anomalien jedweder Art. Das lässt sich kein Manager oder Politiker mehr entgehen,“ so KI-Experte Ralf Otte (Die ultimativen Grenzen der Künstlichen Intelligenz). Wenn das nun Fahrt aufnimmt, wird sich die Kluft zwischen dem Digitalen und dem Analogen vertiefen. Und – möglicherweise größere – Unzufriedenheit im Publikum erzeugen. Und dies wird – hoffentlich (!) – eine Gegenbewegung befeuern (Judo-Rolle für Pessimisten), die das Digitale in seine Schranken verweist. – Schaun mer mal …