von INSPIRATION: Stellt Ihnen Ihr Arbeitgeber KI-Anwendungen zur Verfügung? Und nutzen Sie diese fleißig? Falls ja – wissen Sie, welche Kosten dabei entstehen?
Wenn wir ”ins Internet” gehen und über eine Suchmaschine Anfragen starten, gehen wir erst mal davon aus, dass keine Kosten entstehen. Was bei KI aber nicht der Fall ist. Die Modellanbieter sind dazu übergegangen, die Preise an den Verbrauch von Token zu knüpfen. So wie wir beim Stromverbrauch keine Flatrate haben, so werden bei der KI die Token gezählt. In dem Beitrag der Wirtschaftswoche (Zähle deine Worte) wird ein Unternehmensvertreter zitiert, der von Kosten von 68.500 Dollar für seine Firma berichtet – pro Stunde! 300 Millionen in einem halben Jahr.
Anzeige:
logic systems versteht sich als IT-Unternehmensberatung mit dem Schwerpunkt auf der Entwicklung betriebswirtschaftlicher Softwarelösungen. Seit 1993 ist die Entwicklung von PC-gestützten Unternehmensplanspielen eine der Kernkompetenzen des Unternehmens. Zur Webseite...
Wie das? Die Mitarbeitenden haben inzwischen gemerkt, wie sehr ihnen die KI lästige Arbeiten abnimmt. Und sie experimentieren zunehmend mit den neuen Möglichkeiten. All das ist im Sinne der Unternehmen – wenn da nicht die explodierenden Kosten wären. Zum Verständnis: Die KI-Modelle verstehen ja keine Sprache. Sie zerlegen sie in die Token – kleine Einheiten: Worte, Silben, sogar Buchstaben – machen daraus Zahlenfolgen und verarbeiten diese. Dann werden sie wieder zu Worten zusammengesetzt. 100 Token sind etwas 75 Worte im Englischen.
Gefühl von Kontrollverlust
Nun können Sie sich ausrechnen, was passiert, wenn Sie lange Prompts schreiben. Und fleißig mit der KI diskutieren. Experten schätzen, dass der Verbrauch an Token sich bis 2030 vierundzwanzigfacht im Vergleich zu heute. 120 Billionen Token pro Monat. Vermutlich eher zu niedrig angesetzt.
Die Verantwortlichen erleben zunehmend ein Gefühl von Kontrollverlust. Und versuchen gegenzusteuern. Aber wie? Zum Beispiel mit einem Kostendeckel – da haben die Mitarbeitenden dann eine bestimmte Summe pro Monat zur Verfügung. Blöd, wenn das Budget verbraucht ist.
Andere probieren es mit Sanktionen – seltsam, dass es noch Manager gibt, die das für eine gute Idee halten. Da gibt es dann Negativ-Listen, wo jeder nachlesen kann, wer die meisten Token verbraucht hat. Wie blöd kann man sein …
Modellrouter
Schlauer ist da schon ein anderer Ansatz. Es gibt nämlich teure und weniger teure KI. Die Top-Modelle muss man nicht zum Schreiben von Mails verwenden. Bis zu 80% der eingesetzten Token sind eher eine ”Blindleistung“. Soll heißen: Sie werden benutzt, obwohl andere viel günstiger wären und das gleiche Ergebnis erzielen.
Wie jemand sagt: ”Nicht jeder braucht einen Ferrari, um morgens zur Arbeit zu fahren.” Der bessere Weg ist der eines ”Modellrouters”. Je nach Anfrage an die KI sendet dieser die Frage an das jeweils günstigste Modell.
Positiver Wettstreit
Auch ein Ansatz: Die Mitarbeitenden treten in einen positiven Wettstreit. Sie entwickeln eigene Agenten, die ihnen Routineaufgaben abnehmen. Und das möglichst mit den günstigsten Modellen. Anschließend teilen sie ihre Erfahrungen mit den Kolleg*innen.
Anscheinend ist man bei Covestro hier besonders experimentierfreudig. Da schaut man, welche Mitarbeiter sich aus eigenem Antrieb für KI-Lösungen begeistern. Man ermöglicht ihnen, ein Viertel ihrer Arbeitszeit für Trainings und Seminare zu nutzen. Am Ende müssen sie ein ”Gesellenstück” abliefern, das dem eigenen Team die Arbeit erleichtert. Danach kehren die Betreffenden ins Team zurück oder bekommen sogar die Möglichkeit, als KI-Experte zu arbeiten.
Klingt, als tut sich richtig was, und offenbar auch kulturell.
