Token-Tracking: Unternehmen arbeiten an Transparenz bei Kosten für KI

Immer mehr Unternehmen beginnen damit, die KI-Nutzung ihrer Beschäftigten systematisch zu erfassen. Im Zentrum steht dabei der sogenannte Token-Verbrauch: Dieser ist eine Maßeinheit für die Rechenleistung, die bei jeder Interaktion mit KI-Systemen anfällt. Laut einem Bericht des „Wall Street Journal“ hat der Automatisierungsdienstleister Zapier bereits ein entsprechendes Überwachungssystem eingeführt. „Wir haben diese neue Art von Kostenposition“, erklärt Brandon Sammut, Chief AI Transformation Officer des Unternehmens. Je nach Nutzung kann der Verbrauch deutlich variieren. Während viele Unternehmen und Arbeitnehmer gerade erst den Umgang mit KI erlernt haben, wird klar: KI ist nicht nur ein Produktivitätswerkzeug, sondern zunehmend auch ein Kostenfaktor, den es zu messen und zu optimieren gilt.

Mehr zum Thema künstliche Intelligenz findest du am Ende dieses Beitrags.

Fünffacher Verbrauch löst Nachforschungen aus

Bei Zapier werden Mitarbeiter mit auffällig hohem Token-Konsum genauer unter die Lupe genommen. Liegt der Verbrauch einer Person etwa fünfmal über dem der Kollegen, prüft das Unternehmen die Hintergründe. „Wir ziehen erste Schlussfolgerungen, ob es sich um ein Erfolgsmodell handelt, das wir auf die Kolleg:innen übertragen wollen, oder um ein Fehlverhalten, das wir durch Coaching beheben müssen“, erklärte Sammut dem „WSJ“.

Ein Beispiel für den potenziellen Nutzen hoher KI-Ausgaben liefert das Startup Vercel: Dort setzte ein Ingenieur KI-Agenten ein, um eine Forschungsarbeit auszuwerten und daraus einen neuen Dienst zu programmieren. Die Kosten beliefen sich auf rund 10.000 Dollar – doch menschliche Entwickler hätten für dieselbe Aufgabe mehrere Wochen benötigt.

Jedes dritte Unternehmen von KI-Kosten überrascht

Die Notwendigkeit einer besseren Kostenkontrolle bestätigt auch eine aktuelle Bitkom-Umfrage unter 604 deutschen Unternehmen. Demnach setzen bereits 41 Prozent der befragten Firmen künstliche Intelligenz ein, weitere 48 Prozent planen oder diskutieren den Einsatz. Zwei Drittel wollen ihre KI-Aktivitäten künftig noch ausbauen.

Doch die Rechnung geht nicht immer auf: Ein Drittel der Unternehmen, die KI nutzen, wurde von den anfallenden Kosten überrascht. Bitkom-Präsident Ralf Wintergerst erklärte gegenüber „Heise Online„, dass viele Firmen berichten würden, KI-Agenten benötigten mehr Betreuung durch klassische Mitarbeiter als ursprünglich angenommen. Von Naivität gegenüber den Kosten wolle er dennoch nicht sprechen.

Forscher warnen vor Missbrauchspotenzial

Brian Jabarian von der Booth School of Business der University of Chicago hält das Token-Tracking für eine notwendige Entwicklung. „Alle dachten, man setze einfach KI-Token ein, erhalte eine Produktivitätssteigerung und das war’s dann. Aber die Realität ist komplizierter“, erklärt der Forscher gegenüber dem „WSJ“. Gleichzeitig wachsen die Bedenken hinsichtlich möglicher Fehlnutzung.

Vercel-Chef Guillermo Rauch stellt seinen Mitarbeitern zwar noch ein unbegrenztes Token-Budget zur Verfügung, rechnet aber mit Problemen: „Es wird viel Missbrauch geben.“ Die Teams könnten die Ressourcen schließlich auch für private Zwecke einsetzen. Andere Unternehmen reagieren bereits: Bei Kumo AI wird der Token-Verbrauch auf individueller Ebene erfasst. Weitere Firmen entwickeln laut Branchenexperten zunehmend Governance-Rahmenwerke, um die KI-Nutzung zu regulieren.

Hier kannst du mehr über KI erfahren:

• KI-Gesichtsanalyse könnte über Jobchancen entscheiden
• Alles nur Diebstahl? KI gibt Trainingsdaten fast wörtlich wieder
• Wie App- und KI-Geschäftsmodelle für neue Wertschöpfung sorgen
• Spesenbetrug mit KI? Wie Mitarbeiter Belege mit ChatGPT faken
• Künstliche Intelligenz auf Arbeit: Wer ist für Fehler der KI verantwortlich?