Entwertung des Wissens

INSPIRATION: Ich kann mich noch gut erinnern. An die Zeit, in der ich das Internet entdeckte. Es gab noch keine Browser, aber man konnte schon Texte auf seinen Bildschirm laden und online recherchieren. Hieß das damals nicht BTX? Auf jeden Fall war ich begeistert und ein Gedanke war, dass ich nun viel einfacher genau das finden würde, was ich suchte.

War es ja auch. Ist es bis heute. Wenn ich einer KI eine Frage stelle, erhalte ich die Antwort derartig schnell und gleichzeitig umfassend, dass ich immer noch beeindruckt bin. Und muss mich vorher nicht per Modem mit diesen seltsamen Geräuschen irgendwo telefonisch anmelden.

Das Versprechen damals: Wissen wird für jeden zugänglich, und das so billig, dass es sich auch jeder leisten kann. Ist tatsächlich so gekommen. Die Hoffnung dabei: Wenn alle auf das komplette Wissen der Welt zugreifen können, gibt es so etwas wie Herrschaftswissen nicht mehr. Dann würden ”sich Autokratien und Eliten kaum noch an der Macht halten können.” (The Clown, the Bad and the Ugly). Von wegen …

Neue Form der Macht

Denn Informationen sind so extrem günstig zu haben, ”dass ihr Wert immer weiter sinkt.” Und wir mit Nachrichten derartig überflutet werden, dass wir darin ertrinken. Wobei diese Informationen bisher tatsächlich noch von Menschen in die Welt gesetzt wurden. Das ändert sich gerade, wir erleben die Industrialisierung des Wissens. Was aber nicht zu einer Demokratisierung führt, sondern zu einer neuen Form der Macht. Sie basiert nicht mehr auf dem Besitz von Wissen, sondern entsteht ”durch die Steuerung von Aufmerksamkeit, durch Deutungshoheit und durch das Lenken von Vertrauen”.

Und das funktioniert auf dreierlei Art und Weise. Beck erwartet drei Typen, vor denen wir uns schützen sollten. Da ist der Clown. Er produziert mit Hilfe von KI massenhaft Inhalte, egal wie belanglos sie sind. Es gewinnt ”die lauteste Botschaft und nicht die beste”. Schon etwas erschreckend: Wir trauen in der Tat doch keinem Bild und keinem Filmchen mehr, halten inzwischen alles für KI-produziert – und bleiben trotzdem daran hängen.

Dann wird es den Blender geben – bzw. es gibt ihn längst. Dieser nutzt KI, um Kompetenz und Wissen zu simulieren. Wir werden von angeblichen Experten bedrängt, die uns Kurse, Beratung, Investments und Lebenstipps anbieten, und wir wissen längst nicht mehr, wem wir trauen können und wer sein Wissen ohne tiefere Kenntnis der Materie anpreist. Jeder kann sich inzwischen schöne Grafiken und Kurven erstellen lassen und so seine angeblichen Erfolgsstorys in die Welt blasen.

Passgenaue Weltsicht einflüstern

Die gefährlichste Gruppe aber sind diejenigen, ”die KI nach ihren Interessen zu modellieren vermögen.” Die diese so „trainieren, dass sie eine konkrete Agenda verfolgen”. Im Grunde ist das Propaganda, eine uralte ”Kulturtechnik”. Wir erhalten Informationen, die im Sinne desjenigen, der sie unters Volk bringt, gefärbt ist. Ob das nun ein Staat ist oder die Tech-Milliardäre – mit KI ist das viel subtiler möglich als durch plumpe Manipulation historischer Daten und Ereignisse. Warum? Weil uns ein Sprachmodell ”die passgenaue Weltsicht direkt ins Ohr, getarnt als objektiver Ratschlag”, flüstert.

Die Lösung wäre nun kaum, auf KI zu verzichten bei der Suche nach Wissen. Aber was können wir dann tun, um uns zu schützen? Uns wappnen, indem wir zum Beispiel besser werden im Erkennen von Manipulationen und Fake-News. Kann sogar Spaß machen, etwa mit dem Online-Spiel ”Bad News” (kostenlos!), das von Forschern des Cambridge Social Decision-Making Lab der Universität Cambridge erstellt wurde. Nach dem Spiel waren viele Menschen schon nach wenigen Runden besser im Erkennen von manipulativen Nachrichten.

Die Illusion des selbst Denkens

Der zweite Tipp: Nicht der Illusion unterliegen, wir würden, weil wir so tolle Ergebnisse mithilfe von KI erzielen, selbst denken. Sondern noch kritischer werden und durchschauen, welche Intentionen diejenigen haben, die uns die KI-Modelle anbieten. Klingt gut, aber erinnert mich an den Ratschlag, sich nie nur auf eine Tageszeitung zu verlassen, sondern mehrere parallel zu lesen. Wer macht sich schon diese Mühe? Würde ja bedeuten, dass man nie nur eine KI befragt, sondern immer mehrere parallel. Und dann noch die Ergebnisse mithilfe anderer Quellen überprüft. Realistisch?