Ausgerechnet die fallenden Token-Preise sollen die Rechnung nach oben treiben: So liest sich die Prognose, die Gartner am 17. August 2026 veröffentlicht hat.
Erst kostenlos reinschnuppern, dann entscheiden
Bevor du dich für eine Weiterbildung entscheidest, sieh dir kostenlos an, wie sie läuft, fünf Lektionen plus Live-Demo, ohne Verpflichtung. Passt es, ist der Digitalisierungsmanager bei bewilligtem Bildungsgutschein für dich kostenlos.
Kostenlos reinschnuppernDer Schnupperkurs ist gratis. Ob die Weiterbildung über den Bildungsgutschein gefördert wird, entscheidet die Agentur für Arbeit im Einzelfall.
Mehr als das Fünffache bis 2028
Die Kernaussage der Mitteilung: Gartner erwartet, dass die Inferenzkosten je agentischem Workflow bis 2028 auf mehr als das Fünffache steigen. Inferenz meint dabei den laufenden Betrieb eines Modells, also das, was jede einzelne Anfrage kostet, lange nachdem das Training bezahlt ist. Gemeint sind agentische Workflows, also Abläufe, in denen ein KI-System eine Aufgabe über mehrere Schritte hinweg selbstständig bearbeitet, statt eine einzelne Frage zu beantworten.
Bemerkenswert ist die Begründung. Laut der Prognose sind es gerade die sinkenden Token-Preise, die den Anstieg antreiben: Weil einzelne Token billiger werden, rechnen sich komplexere Workflows, und genau diese Workflows verbrauchen dann ein Vielfaches an Token. Gartner nennt das Inferenz-Paradox. Die Gesamtkosten wachsen demnach schneller, als Effizienzgewinne sie senken können.
Agenten verschärfen den Effekt, weil sie mehrstufig arbeiten: Sie schlussfolgern fortlaufend, prüfen ihre Zwischenergebnisse und greifen auf Werkzeuge zu. Schon die Weiterleitung einer Aufgabe an ein Reasoning-Modell verfünffacht die Inferenzkosten laut Gartner mindestens, verglichen mit einer einfachen Chatbot-Interaktion. Will Sommer, Senior Director Analyst bei Gartner, ergänzt, jede neue Modellgeneration brauche „mehr und häufig auch teurere Token".
Das alles sind Prognosen, keine Messwerte. Ob der Faktor am Ende bei fünf liegt, weiß heute niemand.
2,59 Billionen US-Dollar in einem Jahr
Aus derselben Mitteilung stammt eine zweite Zahl, die die Größenordnung des Themas zeigt. Gartner erwartet für 2026 weltweite KI-Ausgaben von 2,59 Billionen US-Dollar, ein Plus von 47 Prozent gegenüber dem Vorjahr. 401 Milliarden davon entfallen laut der Prognose auf KI-Infrastruktur.
Wer solche Summen liest, versteht, warum sich die Kostenfrage derzeit durch fast jede KI-Meldung zieht. Auf den ersten Blick betreffen diese Beträge Konzerne und Cloud-Anbieter, der Mechanismus dahinter macht allerdings vor keiner Betriebsgröße halt: Wo der Stückpreis sinkt, wächst erfahrungsgemäß der Verbrauch. Auch in dieser Woche drehten sich mehrere Ankündigungen im Kern darum, was ein einzelnes Arbeitsergebnis kosten darf.
Was Gartner den Anwendern rät
Als Gegenmittel empfiehlt Gartner Inferenz-Tiering: Einfache Aufgaben laufen auf günstigen Modellen, nur die schweren Fälle erreichen die teuren. Dazu kommt die Empfehlung, Routing und Orchestrierung zu optimieren, also die Logik, die entscheidet, welcher Schritt an welches Modell geht. Wer beides vernachlässigt, dem drohen laut der Mitteilung schwer kontrollierbare Ausgaben.
Übersetzt in den Betriebsalltag: Wer Anfragen vorsortieren oder Standardmails beantworten lässt, braucht dafür kein teures Reasoning-Modell. Das ist eine Stellschraube, die auch kleine Betriebe drehen können, ganz ohne eigene Infrastruktur.
Die Prognose ergänzt einen früheren Gartner-Befund über scheiternde Agentenprojekte, den wir im Artikel über Agent-Washing und scheiternde KI-Agenten-Projekte eingeordnet haben.
Unsere Einschätzung
Die Prognose deckt sich mit dem, was wir bei Automatisierungsprojekten in der Praxis sehen: Nicht der Tokenpreis sprengt die Budgets, sondern die Zahl der Schritte, die niemand mitzählt.
Ein Chatbot beantwortet eine Frage mit einer Antwort. Ein Agent zerlegt dieselbe Frage in Teilschritte, holt sich Kontext, ruft Werkzeuge auf, prüft das eigene Zwischenergebnis und wiederholt, was nicht gepasst hat. Jeder dieser Schritte kostet Token, und keiner davon steht vorher auf einem Preisschild. Genau deshalb hilft die Gartner-Zahl im Alltag nur dem, der seine eigene Zahl kennt. Vor jeder Agenten-Automatisierung lohnt darum ein einfacher Test: eine einzelne, typische Aufgabe komplett durchspielen, den Tokenverbrauch dieses einen Durchlaufs messen und mit dem regulären Preis hochrechnen, was hundert oder tausend solcher Durchläufe im Monat kosten würden. Erst danach wird skaliert. Läuft die Automatisierung bereits, gehört der Verbrauch je Aufgabe ins Monatsreporting, genauso selbstverständlich wie die Telefonrechnung. Wer diese Zahl kennt, kann Gartners Faktor fünf gelassen lesen. Wer sie nicht kennt, erlebt ihn auf der Rechnung.
Teurer je Workflow heißt übrigens nicht automatisch unwirtschaftlich. Eine Automatisierung, die pro Vorgang mehr kostet und trotzdem deutlich mehr Arbeit abnimmt, kann sich weiter rechnen, nur eben nur für den, der beide Seiten der Rechnung kennt.
Quellen
Die genannten Angaben stützen sich auf folgende öffentlich zugängliche Quellen (Stand der Recherche: 19. August 2026):
- Gartner: Gartner Predicts AI Inference Costs Per Agentic Workflow Will Increase More Than Fivefold Through 2028
- heise online: Prognose: Inferenzkosten für KI-Agenten verfünffachen sich bis 2028
Häufige Fragen
Was prognostiziert Gartner zu den Kosten von KI-Agenten?
Gartner erwartet laut einer Pressemitteilung vom 17. August 2026, dass die Inferenzkosten je agentischem Workflow bis 2028 auf mehr als das Fünffache steigen. Schon die Weiterleitung einer Aufgabe an ein Reasoning-Modell verfünffacht die Inferenzkosten laut Gartner mindestens, verglichen mit einer einfachen Chatbot-Interaktion.
Was ist das Inferenz-Paradox?
So nennt Gartner den Mechanismus hinter der Prognose: Sinkende Token-Preise machen komplexere Workflows wirtschaftlich, deren Nutzung treibt den Tokenverbrauch und damit die Gesamtkosten schneller nach oben, als Effizienzgewinne sie senken.
Wie hoch sollen die weltweiten KI-Ausgaben 2026 ausfallen?
Gartner erwartet für 2026 weltweite KI-Ausgaben von 2,59 Billionen US-Dollar, ein Plus von 47 Prozent gegenüber dem Vorjahr. Davon sollen laut der Prognose 401 Milliarden US-Dollar auf KI-Infrastruktur entfallen.
Was sollte ein Betrieb beim Kalkulieren von KI-Automatisierungen jetzt tun?
Vor dem Skalieren eine einzelne, typische Aufgabe komplett durchspielen, den Tokenverbrauch dieses Durchlaufs messen und mit dem regulären Preis auf die Monatsmenge hochrechnen. Gartner empfiehlt außerdem Inferenz-Tiering, also einfache Aufgaben auf günstige Modelle zu legen, sowie optimiertes Routing und optimierte Orchestrierung.
Was kostet eine einzelne automatisierte Aufgabe im eigenen Betrieb, und wer misst das?
Im kostenlosen KI-Schnupperkurs zeigen wir in fünf Lektionen, wie kleine und mittlere Firmen KI im Alltag einsetzen. Tiefer und praxisnah geht es im Vollkurs Digitalisierungsmanager, DEKRA-zertifiziert und förderfähig über den Bildungsgutschein.
Zuletzt aktualisiert: 19. August 2026. Stand der Recherche: 19. August 2026.