Kleine Papageienkunde

INSPIRATION: Der Chatbot rät und assoziiert. Und das ziemlich gut. Es fällt so schnell nicht auf. Weil die Antworten so glatt sind, sich so gut anhören. Vielen Menschen reicht das. Aber wie macht die Maschine das?

Autor Klaus Mainzer (Chatbots und Künstliche Intelligenz) rekapituliert in seinem Kapitel im „Philosophischen Handbuch Künstliche Intelligenz“ zunächst, was er (Maschinelle Sprachverarbeitung …) und sein Autorenkollege Stefan Höltgen (Von der Sprachphilosophie zu ELIZA) zuvor ausgeführt haben. Das Fazit lautet: „Mathematisch wird das Paradigma der Logik durch Statistik und Wahrscheinlichkeitstheorie ersetzt.“ Man möge sich das auf der Zunge zergehen lassen. Jahrtausende der Philosophiegeschichte, der Theologie, der Juristerei, wenn nicht auch der sog. Naturwissenschaften hatten sich dem Ideal der Wahrheitssuche verschrieben. Das wird nun aufgegeben.

---

Anzeige:

logic systems versteht sich als IT-Unternehmensberatung mit dem Schwerpunkt auf der Entwicklung betriebswirtschaftlicher Softwarelösungen. Seit 1993 ist die Entwicklung von PC-gestützten Unternehmensplanspielen eine der Kernkompetenzen des Unternehmens. Zur Webseite...

---

Zugunsten einer Wahrscheinlichkeitsaussage. Mit 95%-tiger Wahrscheinlichkeit … Nach dem Motto: „Merkt doch eh keiner …“. Vielleicht ist dieser Vergleich hilfreich: Vom Wechsel der analogen zur digitalen Musikwiedergabe wurde die Datenkomprimierung erfunden. Da kommt es auf die Abtastrate an: Je höher, desto besser. Aber ab einem gewissen Punkt bemerkt Otto Normalverbraucher den Unterschied nicht mehr. Und ältere Menschen hören hohe Töne eh nicht mehr. Also schneidet Dr. Murke den Ballast, den Overload, einfach raus und macht ein „mp3“ daraus. Merkt doch eh keiner …

Unterm Radar

Das ist der Grund, weshalb wir nun von „subsymbolischer KI“ sprechen. Wir fliegen mit KI unterm Radar des bewussten logischen Denkens durch. Das ist erkenntnistheoretisch – da fällt mir doch gleich ein Experte ein (In der Geisterbahn) – spannend, weil es purer Empirismus ist. Die KI lernt nur aus der Masse, aus Big Data. Ich bin jetzt einmal sarkastisch: Wenn die Mehrheit der Menschheit behauptet, die Erde sei eine Scheibe, dann ist sie eine Scheibe. Punkt. Da kann ich ‘zig Mal in LinkedIn-Posts oder sonst wo dagegenhalten: Ich bin statistisch gesehen bloß Streuung, ein irrlichternder Desperado im Halo des Mittelwerts.

Aber von der anderen Seite aus betrachtet ist die zentrale Schwäche des maschinellen Lernens, dass dem Chatbot kalkulierendes, logisches und kausales Denken grundsätzlich fremd ist. „Er rät und assoziiert.“ Halluzinationen sind also normal, nicht die Ausnahme, aber: Merkt doch eh keiner …

Im „Maschinenraum“

ChatGPT & Co. sind anders als die Spracherkennung meines Handys: Sie sagen nicht nacheinander wahrscheinliche Wörter in einem Textkontext vorher. Transformatoren – dafür steht das „T“ – verarbeiten alle Eingabedaten gleichzeitig. „Grundlegend dafür ist ein Prozess der ‚Selbstaufmerksamkeit‘, der wechselnde Gewichte für verschiedene Teile der Eingabedaten mit Bezug auf andere Positionen in der Sprachsequenz verteilt.“ Das ist neu.

Bei dieser Selbstbeobachtungsmethode „wird die Eingabe auf mehrere Schlüssel, Werte und Abfragen abgebildet, die gelernten Gewichtungsmatrizen entsprechen. Das Sprachmodell berechnet dann das Skalarprodukt der Abfragen mit den Schlüsseln für alle Elemente des Inputs.“ Alles klar? Sagen wir mal so: Da ist ausgefuchste Mathematik am Werk. Gewichte („Aufmerksamkeit“) für jedes Element in der Eingabe können berechnet werden. Und rekursiv – die Ausgabe wird mit der Eingabe verbunden – werden mehreren Schichten eines neuronalen Feedforward-Netzes durchlaufen. Ganz schön clever. Und kommt mir doch irgendwie bekannt vor: Rekursivität …

Es wird vor allem das aus dem Behaviorismus bekannte Verstärkungslernen eingesetzt. In einem ersten Schritt werden Demonstrationsdaten gesammelt. Diese werden etikettiert – beispielsweise von digitalen Tagelöhnern (Gig-…