Token-Minimizing: Warum KI immer günstiger wird – und Ihre KI-Rechnung trotzdem steigt

KI wird pro Einheit jedes Jahr günstiger, und trotzdem steigen die KI-Kosten in vielen Unternehmen. Der Grund: Moderne KI, vor allem KI-Agenten, verbraucht ein Vielfaches an Tokens. Wer die Kosten im Griff behalten will, braucht deshalb kein kleineres KI-Budget, sondern Token-Minimizing: so wenig Verbrauch wie nötig für jedes Ergebnis.

Das Paradox: günstigere Tokens, höhere Rechnungen

Ein Token ist die Einheit, in der KI-Modelle Text verarbeiten und abrechnen. Laut Gartner entspricht ein Token etwa vier Zeichen. Jede Frage, jedes mitgeschickte Dokument und jede Antwort zählt.

Der Preis pro Token ist in kurzer Zeit eingebrochen. Laut dem AI Index 2025 der Stanford University sanken die Kosten für ein Modell auf dem Niveau von GPT-3.5 zwischen November 2022 und Oktober 2024 um mehr als das 280-Fache. Gartner erwartet, dass die Anbieter ein grosses Sprachmodell 2030 nochmals über 90 Prozent günstiger betreiben als 2025.

Gleichzeitig warnt Gartner: Diese Einsparungen werden nicht vollständig an die Kunden weitergegeben. Und KI-Agenten brauchen pro Aufgabe 5- bis 30-mal mehr Tokens als ein gewöhnlicher Chatbot. Weil der Verbrauch schneller steigt, als die Preise fallen, nehmen die Gesamtkosten zu.

Im August legte Gartner nach: Die Rechenkosten der Anbieter pro Agenten-Ablauf dürften sich bis 2028 mehr als verfünffachen. Gartner nennt das «Inference Paradox»: Die einzelne Einheit wird günstiger, die KI insgesamt teurer.

Warum das Ihr Unternehmen betrifft

Solange Ihr Team KI mit festen Lizenzen pro Benutzer nutzt, merken Sie davon wenig. Doch erste Angebote rechnen bereits nach Verbrauch ab, etwa die neuen Copilot-Business-Lizenzen. Und sobald Sie KI-Agenten oder eigene KI-Anwendungen einsetzen, zahlen Sie fast immer pro Token.

Dann wird aus einer Lizenzfrage eine Betriebsfrage. Ein schlecht gebauter Agent, der bei jedem Schritt das ganze Handbuch neu liest, kostet ein Vielfaches eines gut gebauten, bei gleichem Ergebnis. Diese Unterschiede sieht man nicht in der Demo, sondern erst auf der Monatsrechnung.

Token-Minimizing statt Token-Maximizing

Token-Minimizing heisst nicht, weniger KI zu nutzen. Es heisst, für jedes Ergebnis nicht mehr Tokens zu verbrauchen als nötig. Hoher Verbrauch ist kein Zeichen von Fortschritt, sondern oft von Verschwendung.

Gartner empfiehlt dasselbe Prinzip: Routineaufgaben gehören auf kleinere, effiziente Modelle, die teuren Spitzenmodelle bleiben komplexen Aufgaben vorbehalten. Die wichtigsten Hebel:

• Das passende Modell pro Aufgabe: Nicht jede Frage braucht das stärkste Modell. Auf unserer eigenen Website beantwortet ein kleines, günstiges Modell die Fragen im Chat. Das grosse Modell setzen wir nur für die KI-Potenzialanalyse ein, wo es auf Tiefe ankommt.
• Wiederkehrendes zwischenspeichern: Regeln und Wissen, die bei jeder Anfrage gleich sind, lassen sich beim Anbieter zwischenspeichern. Bei Anthropic kostet das Wiederverwenden höchstens einen Zehntel des normalen Preises (Dokumentation). Unser Website-Assistent nutzt das bei jeder Frage.
• Nicht Dringendes gesammelt verarbeiten: Auswertungen, die nicht sofort fertig sein müssen, laufen als Sammelauftrag. Anthropic halbiert dafür die Kosten, die meisten Aufträge sind in weniger als einer Stunde erledigt (Dokumentation).
• Nur mitschicken, was gebraucht wird: Statt das ganze Archiv in jede Anfrage zu packen, sucht eine gute Anwendung zuerst die passenden Stellen heraus und schickt nur diese mit. Auch kurze, klar begrenzte Antworten sparen.
• Agenten Grenzen setzen: Begrenzen Sie Schritte, Laufzeit und Budget pro Agent, und überwachen Sie den Verbrauch. Wie Sie KI-Agenten in Microsoft 365 unter Kontrolle halten, zeigt unser Beitrag zu eigenen Benutzerkonten für KI-Agenten.

Wohin sich die KI-Kosten entwickeln

Unsere Einschätzung: Die Preise pro Token werden weiter fallen, die Modelle werden leistungsfähiger, und die Aufgaben, die Unternehmen der KI übergeben, werden grösser. Unter dem Strich wird KI dadurch nicht billiger, aber wertvoller, sofern jemand die Kosten steuert.

Ein Allzweckmodell für alles wird es dabei nicht geben. Gartner sieht laut eigener Aussage kein zuverlässiges, wirtschaftliches Modell, das alle Aufgaben abdeckt. Wer KI ernsthaft einsetzt, kombiniert deshalb mehrere Modelle und wählt pro Aufgabe.

Für KMU heisst das: KI-Kosten werden zu einer laufenden Führungsaufgabe, ähnlich wie Cloud-Kosten. Nicht einmal festlegen und vergessen, sondern regelmässig prüfen, wo der Verbrauch entsteht und ob er sich lohnt.

Was Sie jetzt tun können

• Verbrauch sichtbar machen: Klären Sie, welche Ihrer KI-Werkzeuge nach Verbrauch abrechnen, und richten Sie Budgets und Warnungen ein.
• Modelle nach Aufgaben wählen: Prüfen Sie für jeden Anwendungsfall, ob ein kleineres Modell genügt.
• Agenten begrenzen: Setzen Sie Obergrenzen für Schritte und Kosten, bevor ein Agent produktiv geht.
• Wiederholungen nutzen: Lassen Sie prüfen, ob Ihre KI-Anwendungen Zwischenspeicher und Sammelaufträge nutzen.
• Standort bestimmen: Unser kostenloser KI-Check zeigt in wenigen Minuten, wo Ihr Unternehmen beim Einsatz von KI steht.