Definition: Token (LLM)
Ein Token ist die grundlegende Texteinheit, die ein Large Language Model liest, verarbeitet und erzeugt, meist ein Wortfragment, ein ganzes Wort oder ein Satzzeichen, nicht einzelne Buchstaben.
Kernmerkmale von Tokens
Tokens entstehen durch einen Tokenizer, der rohen Text in ein festes Vokabular aus Subwort-Einheiten zerlegt, bevor ein Modell überhaupt rechnen kann. Jeder Modellaufruf, vom einzelnen Chat-Prompt bis zum mehrstufigen autonomen Agenten, wird in Tokens gemessen, abgerechnet und begrenzt, nicht in Wörtern oder Zeichen.
- Subwort-Einheiten statt ganzer Wörter: häufige Wörter werden zu einem Token, seltene in zwei bis vier Teile zerlegt
- Etwa 4 Zeichen oder 0,75 Wörter pro Token in typischem englischem Text
- Eigenes Vokabular je Modellfamilie, daher liefert derselbe Text bei verschiedenen Anbietern unterschiedliche Tokenzahlen
- Numerische IDs, die auf ein festes Vokabular aus dem Training abgebildet werden
Token vs. Kontextfenster
Ein Token ist die einzelne Texteinheit, ein Kontextfenster ist die maximale Anzahl an Tokens, die ein Modell während eines Austauschs im Gedächtnis behalten kann. Während ein Token ein einzelnes Textfragment misst, beschreibt ein Kontextfenster die gesamte verfügbare Kapazität für Eingabe, Ausgabe und Gesprächsverlauf zusammen. Ein Modell verarbeitet über seine Lebenszeit Milliarden Tokens, doch in ein einzelnes Kontextfenster passt je nach Modell nur eine feste Zahl, von wenigen Zehntausend bis über eine Million. Ein Dokument ist nie generell “zu viele Tokens”, sondern zu viele Tokens für das Kontextfenster des jeweiligen Modells.
Bedeutung von Tokens im Enterprise-KI-Umfeld
Tokens sind die direkte Grundlage der KI-Ökonomie im Unternehmen, weil praktisch jede kommerzielle LLM-API Input und Output getrennt pro Token bepreist. Gartner fand heraus, dass die Tokenpreise in zwei Jahren um etwa das 280-Fache gefallen sind, die gesamten KI-Ausgaben der Unternehmen im selben Zeitraum aber um 320 % gestiegen sind, weil agentische Workflows 5- bis 30-mal mehr Tokens pro Aufgabe verbrauchen als eine einfache Chatbot-Anfrage. Der Tokenverbrauch ist damit der Posten, der entscheidet, ob ein KI-ROI-Business-Case im Produktivbetrieb wirklich trägt.
Methoden und Verfahren für Token (LLM)
Ein wirksamer Umgang mit Tokens erfordert Transparenz darüber, wie Text gezählt, bepreist und im Verlauf einer Anfrage verbraucht wird.
Tokenisierung und Vokabular-Design
Die meisten Produktivmodelle nutzen Byte-Pair-Encoding oder ein ähnliches Subwort-Verfahren, um aus Trainingsdaten ein festes Vokabular von 50.000 bis 200.000 Einträgen zu bilden. Der Tokenizer wandelt jeden Prompt und jede Antwort in eine Folge dieser Vokabulareinträge um, bevor überhaupt gerechnet wird.
- Häufige Wörter und Zeichen erhalten ein eigenes einzelnes Token
- Seltene Wörter, Code und nicht-lateinische Schriften werden oft in mehrere Tokens zerlegt
- Das Tokenizer-Design beeinflusst sowohl Kosten als auch Genauigkeit über Sprachen hinweg
Tokenzählung und Budgetierung
Entwicklungsteams zählen Tokens vor dem Absenden einer Anfrage mit der vom Modellanbieter veröffentlichten Tokenizer-Bibliothek, da manuelle Schätzungen nach Wortzahl unzuverlässig sind. Preislisten zeigen, warum das zählt: Claude Sonnet 4.5 berechnet 3 US-Dollar je Million Input-Tokens und 15 US-Dollar je Million Output-Tokens, ein bei vielen Anbietern übliches Verhältnis von etwa 5:1. Budgetierungswerkzeuge verfolgen den kumulierten Tokenverbrauch je Nutzer, Workflow oder Agent, und viele Plattformen begrenzen Output-Tokens pro Aufruf als Sicherheitsgrenze.
Prompt-Kompression und Retrieval
Nähert sich die Eingabe der Grenze des Kontextfensters, setzen Teams auf Kompression, etwa durch Zusammenfassen früherer Gesprächsrunden, Streichen überflüssiger Anweisungen oder gezieltes Abrufen nur der relevanten Passagen per Retrieval-Augmented Generation statt ganze Dokumente einzufügen. Gutes Prompt-Design senkt die Tokenzahl, ohne die Informationen zu verlieren, die das Modell für eine korrekte Antwort braucht.
Wichtige Kennzahlen für Token (LLM)
Der Tokenverbrauch wird über operative, strategische und Qualitätskennzahlen erfasst, die zusammen zeigen, ob die KI-Ausgaben unter Kontrolle sind.
Operative Effizienz-Kennzahlen
- Tokens pro Anfrage: Zielwert unter 8.000 bei Routineaufgaben
- Verhältnis Input- zu Output-Tokens: typischerweise 3:1 bis 5:1 in Enterprise-Workflows
- Kosten pro 1.000 Tokens: monatlich gegen Preisänderungen der Anbieter geprüft
- Cache-Trefferquote bei wiederkehrendem Kontext: über 40 % bei ausgereiften Implementierungen
Strategische Geschäftskennzahlen
Der Tokenverbrauch sollte an Geschäftsergebnissen gemessen werden, nicht isoliert, denn fallende Tokenpreise können steigende Gesamtkosten bei wachsender Nutzung verdecken. Unternehmen, die den Tokenverbrauch in ihre Total Cost of Ownership (KI)-Berechnung einbeziehen, erkennen Kostenüberschreitungen frühzeitig.
Qualitäts- und Genauigkeitskennzahlen
Aggressive Tokenreduktion kann die Ausgabequalität verschlechtern, wenn dabei benötigter Kontext verloren geht. Eine gut abgestimmte Implementierung senkt den Tokenverbrauch durch Kompression und Caching meist um 20 bis 40 %, ohne die Qualität messbar zu verschlechtern.
Risikofaktoren und Kontrollen bei Token (LLM)
Die tokenbasierte Preisgestaltung bringt spezifische finanzielle und operative Risiken mit sich, die gezielte Kontrollen erfordern.
Unkontrollierter Tokenverbrauch
Autonome Agenten, die Schleifen bilden, wiederholen oder mehrere Modellaufrufe verketten, können Tokens deutlich schneller verbrauchen als eine einzelne Chat-Interaktion und aus einem bescheidenen Pilotprojekt eine unerwartet hohe Rechnung machen. Ohne feste Grenzen kann ein einzelner fehlerhafter Workflow ein Monatsbudget innerhalb von Stunden aufbrauchen.
- Token-Obergrenzen je Anfrage und je Nutzer
- Automatisierte Warnungen bei definierten Ausgabenschwellen
- Notabschaltungen, die außer Kontrolle geratene Agenten-Schleifen stoppen
Fehler durch Kontext-Abschneidung
Überschreitet die Eingabe das Kontextfenster, entfernen manche Systeme stillschweigend die ältesten Tokens, wodurch wichtige Anweisungen oder Daten ohne Warnung verloren gehen. Unternehmen begegnen dem, indem sie Tokenzahlen vor dem Absenden prüfen und Workflows so gestalten, dass sie beim Erreichen der Grenze sichtbar fehlschlagen statt still zu versagen.
Anbieter- und Preisvolatilität
Tokenpreise ändern sich häufig, wenn Anbieter neue Modelle veröffentlichen und über den Preis konkurrieren, was die Wirtschaftlichkeit eines Einsatzes innerhalb eines Quartals verändern kann. Kostenannahmen ohne laufende Beobachtung der Preisseiten in einen festen Mehrjahres-Business-Case zu gießen, ist ein häufiger, vermeidbarer Planungsfehler.
Praxisbeispiel
Ein Zulieferer für Maschinenbau mit 150 Mitarbeitenden in Baden-Württemberg betrieb einen internen Support-Agenten, der bei jeder Kundenanfrage lange technische Handbücher durchsuchte. Die frühe Nutzung zeigte, dass die Tokenkosten schneller wuchsen als das Ticketvolumen, weil der Agent bei jedem Aufruf ganze Handbücher erneut einschickte statt relevante Abschnitte abzurufen. Das Unternehmen führte Retrieval-Augmented Generation ein, um nur relevante Passagen abzurufen, legte Token-Budgets je Workflow-Schritt fest und cachte häufig wiederverwendete Referenzabschnitte. Innerhalb von zwei Monaten sank der Tokenverbrauch pro gelöstem Ticket deutlich, während die Antwortqualität konstant blieb.
- Abruf auf Passagenebene statt vollständigem Dokumentkontext
- Token-Budgets je Workflow-Schritt im Orchestrator durchgesetzt
- Gecachte Referenzabschnitte für wiederkehrende technische Fragen
- Monatliche Token-Kosten-Dashboards neben den Support-KPIs geprüft
Aktuelle Entwicklungen und Auswirkungen
Die Tokenökonomie verändert sich weiter, während Modelle, Preise und Unternehmens-Workloads sich gemeinsam entwickeln.
Fallende Tokenpreise, steigende Gesamtausgaben
Der Wettbewerb zwischen Modellanbietern hat die Tokenpreise deutlich gesenkt, doch Unternehmen geben insgesamt mehr aus, weil agentische Workflows die Zahl der Aufrufe pro Aufgabe vervielfachen. Dieses Paradox macht Kostensteuerung wichtiger als reinen Preisvergleich.
- Mehrstufige Agenten verbrauchen 5- bis 30-mal so viele Tokens wie Einzel-Chats
- Preissenkungen der Anbieter werden durch höheres Anfragevolumen ausgeglichen
- Token-Ausgaben-Dashboards werden zur Standardpraxis im Betrieb
Wachsende Kontextfenster
Modellanbieter erweitern kontinuierlich die maximale Größe der Kontextfenster, sodass eine Anfrage deutlich mehr Tokens fassen kann als noch vor wenigen Jahren. Das verringert in manchen Workflows den Bedarf an Kompression, senkt aber nicht die Kosten pro Token, weshalb auch größere Fenster bewusste Budgetierung erfordern.
Kleinere, günstigere Modelle für Routineaufgaben
Unternehmen leiten Anfragen mit hohem Volumen und geringer Komplexität zunehmend an ein Small Language Model, das Tokens zu einem Bruchteil der Kosten eines Spitzenmodells verarbeitet, und reservieren teure Modelle für Aufgaben, die deren Denktiefe benötigen.
Fazit
Tokens sind die grundlegende Einheit, die alles verbindet, was ein Unternehmen mit großen Sprachmodellen tut, vom Prompt-Design bis zur monatlichen Rechnung. Mit der Ausbreitung agentischer Workflows über immer mehr Geschäftsbereiche wird der Tokenverbrauch weiter steigen, selbst wenn die Preise pro Token fallen, weshalb diszipliniertes Messen wichtiger wird, nicht unwichtiger. Unternehmen, die Tokens als gesteuerte Ressource behandeln, gemessen, budgetiert und optimiert wie jeden anderen Betriebskostenposten, bauen KI-Programme, die planbar skalieren. Wer die Tokenökonomie ignoriert, erfährt die wahren Kosten seiner KI-Ambitionen oft erst mit der Rechnung.
Häufig gestellte Fragen
Was zählt genau als ein Token?
Ein Token ist meist ein Wortfragment von drei bis vier Zeichen, wobei kurze, häufige Wörter oft ein einzelnes Token bilden und seltene oder fachsprachliche Begriffe in mehrere Teile zerlegt werden. Die genaue Zahl hängt vom Tokenizer des jeweiligen Modells ab, weshalb derselbe Satz bei verschiedenen Anbietern unterschiedliche Tokenzahlen ergibt.
Warum berechnen LLM-Anbieter den Preis pro Token statt pro Wort oder pro Anfrage?
Die Tokenzahl spiegelt direkt den Rechenaufwand eines Modells wider, da jedes Token unabhängig vom repräsentierten Wort einen Verarbeitungsschritt benötigt. Die Abrechnung pro Token gibt Anbietern eine konsistente Möglichkeit, Input und Output getrennt zu berechnen, weshalb Output-Tokens meist teurer sind als Input-Tokens.
Führt höherer Tokenverbrauch für ein mittelständisches Unternehmen immer zu höheren Kosten?
Ja, die Kosten steigen direkt mit dem Tokenvolumen, und die Bitkom-KI-Studie 2026 stellte fest, dass ein Drittel der deutschen Unternehmen mit KI-Einsatz höhere Kosten als erwartet meldet, hauptsächlich durch Tokenverbrauch statt Lizenzgebühren. Unternehmen mit 50 bis 500 Mitarbeitenden erleben die deutlichsten Kostenüberraschungen beim Übergang von einem Chatbot-Pilotprojekt zu Produktiv-Agenten.
Wie hängt der Tokenverbrauch mit dem Datenschutz nach DSGVO zusammen?
Jedes Token, das an eine externe Modell-API gesendet wird, steht für Daten, die die eigene Infrastruktur verlassen, weshalb personenbezogene oder vertrauliche Informationen in einem Prompt den Verarbeitungsanforderungen der DSGVO unterliegen. Unternehmen mit sensiblen Daten schränken meist ein, welche Felder in Prompts erscheinen dürfen, oder nutzen in der EU gehostete oder On-Premise-Modelle.
Brauchen wir ein eigenes IT-Team, um Tokenkosten zu steuern?
Nein, ein eigenes internes KI-Team ist für den Einstieg nicht nötig, aber jemand muss die Token-Nutzungs-Dashboards überwachen und Budgetwarnungen einrichten, eine Aufgabe, die die meisten mittelständischen Unternehmen einer bestehenden IT-Verantwortlichen zusammen mit einem Implementierungspartner übertragen. Diese Person übernimmt mit der Zeit mehr Optimierungsarbeit, sobald das Team Erfahrung sammelt.
Wie schnell lässt sich der Tokenverbrauch senken, sobald ein Problem erkannt ist?
Einfache Maßnahmen wie Retrieval-Augmented Generation, Caching wiederkehrenden Kontexts oder eine Begrenzung der Ausgabelänge senken den Tokenverbrauch meist innerhalb von zwei bis vier Wochen. Strukturellere Änderungen, etwa das Umleiten von Routineaufgaben an ein kleineres Modell, brauchen mehr Zeit zur Validierung, senken die Kosten aber oft stärker.
