Das Perpetuum Mobile

REZENSION: Roberto Simanowski – Sprachmaschinen. Eine Philosophie der künstlichen Intelligenz. C H Beck 2025.

Ich habe nun schon einige Bücher rund um künstliche Intelligenz gelesen. Keines war so witzig wie dieses. Damit meine ich selbstverständlich nicht harmlose Stan‘n‘Ollie-Jokes, sondern Wortwitz und didaktisch geschickt inszenierte gedankliche Achterbahnfahrten. Wenn das Philosophieren ist, dann ist es nicht dröge Gedankenakrobatik, sondern eine Freude und seinen Kaufpreis wert. Das Buch ist leicht lesbar und verständlich geschrieben. Vermutlich schadet es nicht, sich ein wenig in der Philosophiegeschichte auszukennen, aber ich würde mal wetten, das braucht es nicht zwingend. Dito muss man sich nicht im mathematischen Maschinenraum der KI auskennen. Weil es eher um den Kontext geht. Darum, was man so alles mit Sprache anstellen kann. Und was das dann so anrichtet.

Doch bevor es der Leserschaft nun schwindelig wird, sei zunächst auf das Fazit verwiesen: Es geht darum, den großen Souveränitätstransfer zu beschreiben, der sich da gerade anbahnt. Und das gelingt dem Autor, Medienphilosoph und Internetexperte, ganz hervorragend. Leider endet sein Fazit wenig versöhnlich: Wir sind längst verloren. Aber vielleicht soll uns diese kränkende Feststellung des Autors nur anspornen, aktiv zu werden?

The medium is the message

Wie kann man ein solches Buch besprechen? Der Text ist gespickt mit philosophischem Wissen, aber auch mit kulturellen Verweisen und selbstverständlich mit Zitaten aus der Welt der KI. Allein in der Einleitung reichen sich Kleist, Heidegger, Wittgenstein und McLuhan die Klinke in die Hand. Dazwischen erscheint der Heilige Geist (Pfingstwunder), der natürlich auf den Turmbau zu Babel Bezug nimmt. Und schon sind wir beim Kulturimperialismus mittels KI. Es schließt sich die Frage nach der Wahrheit an, und die nach dem einen Gott. Konzepte und Fragen, die sich durch das ganze Buch durchziehen.

Jedes Medium hat Nebenwirkungen. Doch KI ist kein neues Medium, wie es beispielsweise das Telefon war. „Die Sprachmaschine sagt mir, was sie zu diesem Thema ‚denkt‘, nachdem sie gelesen hat, was B und C und D usw. dazu denken. Sie gibt mir ihre Version des von anderen Gedachten. Mir und Ihnen.“ Und die Wirkung ist, dass Sprachmaschinen nicht nur kognitive Prozesse automatisieren, sondern diese auch standardisieren und homogenisieren. „Die Sprachmaschine ergreift immer Partei für die Mehrheit.“ Sie ist Mainstream, liefert Klischees und Vorurteile – aus Prinzip. Was auch wiederum witzig sein kann: horse riding an astronaut. Das Coverbild zum Buch zeigt einen Astronauten im Raumanzug auf einem Pferd reitend. Lustig? Komisch? Erst auf den zweiten Blick begreift man den Clou. Solcherart Metaphern sagen mehr als 20 Seiten Text. Und davon gibt es etliche im Buch. So auch die von der Bibliothekarin, die unsere Frage beantwortet, statt uns den Weg zu den Büchern zu zeigen, auf dem wir vielleicht auch noch bei anderen Titeln hängen geblieben wären. Das wäre so eine Botschaft des Mediums: Das Ende der Neugier ist nah.

Die Mathematisierung der Kommunikation

Jetzt könnte man fragen, wo hat die Bibliothekarin ihr Wissen her. Hat sie all die Bücher selbst gelesen? Wer weiß … Wie hat sie denn sortiert und gewichtet? Oder hat sie nur die Wikipedia verfrühstückt und die gigantischen Mengen an Social-Media-Posts aufgesogen und dann alles durch N geteilt? Und hätte sie damit nicht auch jede Menge Müll verkonsumiert? Derweil wir diesem Gedanken noch nachhängen, erfahren wir von der Zweiterziehung der Sprachmaschinen. Davon, dass in den Chatbot-Firmen irgendwelche IT-Experten versuchen, den Output gefällig zu gestalten. Finetuning mit Systemprompts. „Auf die Mathematisierung der Kommunikation folgt ihre Ideologisierung.“ Keine Wirkung ohne Nebenwirkungen. Vielleicht gleicht KI der berühmten Quadratur des Kreises. Die globale Sprachpolizei auf der einen Seite, die Vereinzelung in Filterblasen auf der anderen. Wie sagte schon der alte Römer: Teile und herrsche!

Das Buch entfaltet sich in fünf Kapitel: Zunächst geht es um die Frage der Autorschaften. Oder sollte man es gleich zuspitzen auf die These vom „Tod des Autors“ (Roland Barthes, 1967). Wer spricht da eigentlich? Ein stochastischer Papagei? Ist KI eine Sprachrecyclinganlage? Oder spricht da der Weltgeist? Und wen interessieren solche Fragen (noch)? Aber was ist eigentlich Sprache? Wie funktioniert sie? Was macht sie mit uns? Natürlich muss es hier um Sprachphilosophie gehen. Und wieder um die Bibliothekarin: Die Bibliothek ist die Salatschüssel. Die KI ist der Schmelztiegel. Wieder so eine elektrisierende Metapher.

Rechenfehler

Hatten wir gerade noch von der Mathematisierung der Kommunikation gesprochen, verstricken wir uns nun mithilfe des Autors im semantischen Vektorraum. Und wir lernen, dass der mathematische Trend zur Mitte, zum Mittelwert, Mittelmäßiges produziert. Nicht wirklich falsch, nicht wirklich richtig. Und dass, je häufiger die Maschine die Sahne aufschlägt, desto mehr Butter dabei herauskommt. Butter rein, Butter raus. Keine Sahne mehr. Bloß Zahlen. Nur noch Quantität. Und zum Schluss diskutieren nur noch KIs miteinander über Zahlen, mit denen sie einmal trainiert wurden. Die Schlange beißt sich inzestuös in den eigenen Schwanz. Der Autor nennt das den Sieg der Vergangenheit über den Rest der Zeit. Das Ende der Geschichte. Zum Schluss frisst sich die KI selbst auf.

Werte-Export

Wer es noch nicht bemerkt haben sollte, mit KI wird ein beinharter Kulturkampf betrieben. Es geht um die Definitionsmacht über die Sprache und damit über die Kultur – zwischen den politischen Rechten und den Linksliberalen: gendern oder nicht? Hier greift das Thema Zweiterziehung. „Das Finetuning überschreibt die ‚basisdemokratische‘ Werteausrichtung der KI an den Trainingsdaten durch eine normative Ausrichtung an gesellschaftlich erwünschten Werten.“ Da muss man schon genauer hinschauen, dann offenbart sich der westliche Kulturimperialismus. Wieder ein Beispiel gefällig: Bittet „man ChatGPT um ein Bild von Eva im Paradies,“ erhält man „Eva im Kleid, umgeben von Rehen“. Da schau an!

Doch weder Relativismus noch Kosmopolitismus sind Alternativen. Das ist bloß eine Illusion, die im Zweifelsfall wieder beim aufgeklärten Europäer endet. Deshalb ist das Thema Ethik so wichtig. „KI imitiert das, was die meisten Menschen tun.“ Das erkennt sie als normal. Doch ist das moralisch? „Das Sprachmodell wird zum Sprachrohr.“

Entmündigungsgeschichten

Die künstliche Intelligenz kam zu uns als harmlose Plaudertasche. Doch „KI ist das Öl des 21. Jahrhunderts“. Und es ist in den Händen weniger privater Player. Sie ist ein Machtfaktor. Die Panzer der Vergangenheit sind hilflos den KI-gesteuerten Drohnen ausgeliefert. Und so hängt auch unsere europäische Wirtschaft am Tropf US-amerikanischer Oligarchen. Wir leben schließlich im Zeitalter des Überwachungskapitalismus. Wir nahmen den bequemen Service und gaben unsere Daten bereitwillig. Jetzt erleben wir den Verlust unserer informationellen Selbstbestimmung. Denn wir wissen nicht, wer alles zuhört, wenn wir mit einem Sprachmodell sprechen oder das Meeting protokollieren lassen. „Das Problem ist nicht, dass Sprachmaschinen uns beeinflussen, sondern wie sie es tun.“ Sie nutzen unsere Bequemlichkeit aus.

Der Autor verweist auf den alten Phaidros-Dialog von Platon und spitzt die Argumentation in einer Amputationshypothese zu. „Delegiert der Mensch das Schreiben an die Sprachmaschine, verfehlt er sich selbst. Der Produktionsprozess verkommt zum Rezeptionsprozess.“ Amputation bedeutet De-Skilling: Den „Verlust kognitiver Fähigkeiten durch ihre Automatisierung“. Und der Autor lässt einen typischen Einwand auf diese Argumentation nicht gelten: „Die Sprachmaschine ist wirklich ein anders Kaliber als ein Taschenrechner.“ Hier könnten wir mit der Hand nachrechnen. Dort nicht mehr. Weil niemand weiß, was in der Black-Box genau vor sich geht.

An dem Punkt springt der Autor zum neuzeitlichen Philosophen Hegel und wirft die Frage auf, ob der Knecht sich nicht unter der Hand zum Herrn entwickelt hat. Eingelullt in seine Filterblase steckt der moderne Mensch in einer Falle. Auch in einer zeitlichen: „Ich will so bleiben wie ich bin,“ flötete schon ein Werbejingle in den 1980er-Jahren. Der Autor spricht daher von einer „Entmachtung des künftigen Ichs durch das aktuelle“.

Fortschrittsfalle

„Würden Sie in ein Flugzeug steigen, dessen Landemechanismus erst noch erfunden werden muss?“ Wieder eine von den packenden Metaphern des Autors. Er spricht sodann vom Oppenheimer-Moment. Denn es gibt diesen Vergleich der KI mit der Atombombe. Und doch hinkt der Vergleich: Die Atombombe ist ein staatliches, kein privates Projekt. Und die Atombombe kann sich nicht selbst weiterentwickeln. Nun kommen wieder etliche Schriftsteller und Philosophen zu Wort: Dürrenmatt (Die Physiker), Geoffrey Hinton, Hans Jonas, Martin Heidegger, Marshall McLuhan, Günter Anders, Georg Simmel und Ernst Cassirer usw. Der Philosoph ist belesen – wie wir das von ihm erwartet haben. Und es mischt sich und ergänzt sich. Köstlich und anregend zu lesen! Zum Schluss darf HAL nicht fehlen, der Computer aus dem Film „2001 – Odyssee im Weltraum“.

Und dann kippt die Chose: Vielleicht sind wir gar nicht die Agenten. Vielleicht sind wir bloß die Zwischenwirte für den Weltgeist, der sich mithilfe der KI emaniert. Und vielleicht ist das auch gut so? Also bei mir als Leser erzeugt das abrupten Widerspruch. Und vielleicht bei anderen auch. Möglicherweise ist das auch genauso intendiert vom Autor. Nun denn, es gibt Schlimmeres, könnte man lakonisch kommentieren. Lautet nicht der Appell der Aufklärung: Bediene dich deines Verstands. Ich denke, auch der Autor wird davon nicht lassen wollen – wenn er auch in 268 Buchseiten viel von den Risiken und Nebenwirkungen berichtet hat.

Für mich war die Lektüre dieses Buch ein anregendes Leseabenteuer, dass ich nicht hätte missen wollen. Das ist definitiv eine Leseempfehlung. Und die Diskussion – und das ist eine ehrenwerte Intention und Nebenwirkung – wird eh weiter gehen. Und spannend bleiben.