Ethische Maschinen?

INSPIRATION: Das Thema fasziniert mich. Und ich schreibe darüber, obwohl es nur indirekt zum Fokus von MWonline passt. Es geht um künstliche Intelligenz, darum, ob von Menschen entwickelte Algorithmen in der Lage sind, bessere Entscheidungen zu treffen als ihre Schöpfer. Was zumindest im Moment noch ziemlich fraglich ist.

Natürlich sind die typischen MWonline-Themen durchaus berührt. Wenn Rechenprogramme Sprach- und Videoaufnahmen analysieren und darüber entscheiden, welche Kandidaten zum Vorstellungsgespräch eingeladen werden; wenn die Leistungen von Mitarbeitern von Maschinen erfasst und daraus Schlussfolgerungen über ihren Wertbeitrag und ihr Gehalt gezogen werden; wenn Roboter Wissenslücken aufdecken und Mitarbeiter in Fortbildungsprogramme stecken – dann stellt sich auch beim Thema Personalführung die Frage, was wir Maschinen erlauben wollen und welche Spielregeln für künstliche Intelligenz gelten sollen.

In der Wirtschaftswoche (Moralische Maschinen) wird von dem Versuch einer EU-Ethik-Kommission berichtet, Richtlinien für die Entwicklung künstlicher Intelligenz aufzustellen.

Spielregeln

Es geht um vier Dinge, die laut EU-Kommission gewährleistet sein müssen:

• Keine Diskriminierung: Es ist längst bekannt, dass Programme alles andere als objektiv „urteilen“. Gesichtserkennungs-Software benachteiligt Schwarze, asiatische Gesichter werden von anderen falsch interpretiert, die Vorsortierung von Bewerbern bei Amazon benachteiligt Frauen. Vor allem höchst spannend: All das wissen die Programmierer gar nicht, so etwas stellt sich bei der Anwendung heraus. Was die Frage aufwirft, ob dieses „Prototyping“ wirklich so eine geniale Idee ist: Entwickeln, einsetzen und optimieren. Man stelle sich vor, Medikamente würden so „am Kunden“ entwickelt.
• Verlässlichkeit: Auch etwas, das mit dem laufenden Optimieren von Software im konkreten Einsatz zu tun hat. Leisten die Programme das, was sie versprechen? Was, wenn sie Risikopatienten in einer bestimmten Altersklasse jahrelang nicht zur Vorsorge einlädt und Krankheiten damit unentdeckt bleiben? Die Forderung wäre, solche Programme viel strengeren Tests zu unterwerfen.
• Machtmissbrauch verhindern. Ein ganz spannendes Thema. Überall dort, wo es größere Abhängigkeiten gibt, also z.B. zwischen Chefs und Mitarbeitern, Arzt und Patienten, Hersteller und Kunden, kann diese Abhängigkeit dank künstlicher Intelligenz deutlich verstärkt werden. Eine Studie zeigt, dass die Algorithmen zu automatischen Preisabgleichen und Anpassungen von Online-Shops führen.  Auf diese Weise entstehen Preiskartelle zum Nachteil des Kunden, ohne dass sich die Betreiber der Shops absprechen müssen.
• Transparenz: Dort, wo künstliche Intelligenz zum Einsatz kommt, sollte dies auch den Betroffenen klar sein. Soll heißen: Ich sollte als Kunde / Mitarbeiter / Patient etc. darüber informiert sein, was im Hintergrund abläuft. Das allerdings stelle ich mir extrem schwierig vor. Wenn in den USA eine App Eltern Hinweise gibt, ob eine potenzielle Babysitterin Drogen nehmen könnte, weil eine Analyse ihrer Facebook-Postings per KI Hinweise ergeben hat – wer sollte die abgelehnte Bewerberin darüber informieren?

Ein interessanter Aspekt: Was auch immer künstliche Intelligenz zu leisten in der Lage ist: Dass sie dazu führt, dass Ungleichheit und Ungerechtigkeiten weniger werden, ist vermutlich eine Illusion. Warum? Weil „die digitale Welt weitgehend von (weißen) Männern gestaltet“ wird. Entsprechend setzt sie den bestehenden Kreislauf fort, wie die Brand eins schreibt (Eine Frage der Macht). „Algorithmen sind kondensierte Vergangenheit“, warum sollte bei ihrem Einsatz etwas anderes herauskommen als ohne sie?

Das Vorhaben der EU-Kommission ist wohl alles andere als einfach, weil mal wieder allseits befürchtet wird, dass eine Regulierung den Fortschritt und vor allem die wirtschaftliche Nutzung verhindert. Während in den USA und China niemand ein Problem damit hat, wenn KI zunehmend in den Alltag eingreift. Etwas Verbindliches für die Entwickler wird bisher erfolgreich verhindert. Aber zumindest gewinnt die Diskussion an Fahrt.