Am 30. Juli 2026 senkte OpenAI den Preis der GPT-5.6-Luna-API um 80 %, von einem Dollar auf zwanzig Cent pro Million Eingabe-Tokens. Terra wurde um 20 % günstiger. Die Schlagzeilen waren absehbar: KI wird billiger, die Einstiegshürde fällt.
Wochen später sahen mehrere Unternehmen, die diese Modelle produktiv einsetzen, ihre Rechnung steigen.
Das ist weder ein Widerspruch noch ein Abrechnungsfehler. Der Preis pro Token und die Kosten Ihres Betriebs sind zwei verschiedene Dinge, und nur eines davon taucht in Ihrem Budget auf.
Die Einheit, die der Anbieter abrechnet, ist nicht die, die Ihr Geschäft verbraucht
Ihr Anbieter rechnet pro Token ab. Ihr Geschäft verbraucht keine Tokens, sondern gelöste Aufgaben. Eine bearbeitete Supportanfrage. Ein klassifiziertes Dokument. Eine ausgelesene Rechnung.
Solange eine Aufgabe einem Modellaufruf entsprach, bewegten sich beide Einheiten gemeinsam und die Unterscheidung war akademisch. Sank der Token um 30 %, sank Ihre Rechnung um 30 %.
Das gilt nicht mehr, seit Anwendungen von einer einzigen Anfrage zur Orchestrierung mehrerer übergegangen sind. Ein Agent, der ein Werkzeug abfragt, das Ergebnis bewertet, den nächsten Schritt entscheidet und das Modell erneut aufruft, macht nicht eine Anfrage pro Aufgabe, sondern acht oder fünfzehn. Und bei jedem schickt er den gesamten Kontext erneut mit.
Ein Beispiel mit Zahlen
Nehmen wir einen Support-Assistenten, der Kundenanfragen löst. System-Prompt mit 1.200 Tokens, Nutzeranfrage mit 800, Antwort mit 400.
Variante mit einer einzigen Anfrage:
| Tokens | Kosten | |
|---|---|---|
| Eingabe | 2.000 | 0,0040 $ |
| Ausgabe | 400 | 0,0048 $ |
| Gesamt pro Aufgabe | 0,0088 $ |
Dieselbe Aufgabe, von einem Agenten in acht Schritten gelöst. Jeder Schritt schickt den System-Prompt, die ursprüngliche Anfrage und alles bisher Angesammelte erneut mit. Angenommen, jeder Schritt fügt etwa 600 Tokens Verlauf hinzu:
| Schritt | Eingabe-Tokens |
|---|---|
| 1 | 2.000 |
| 2 | 2.600 |
| 3 | 3.200 |
| 4 | 3.800 |
| 5 | 4.400 |
| 6 | 5.000 |
| 7 | 5.600 |
| 8 | 6.200 |
| Gesamt | 32.800 |
Bei 250 Ausgabe-Tokens pro Schritt sind das 2.000 Tokens Ausgabe. Zu Terra-Preisen (2 $ Eingabe und 12 $ Ausgabe pro Million) steigen die Kosten pro Aufgabe auf 0,0896 $.
Das Zehnfache für exakt dasselbe Ergebnis.
Wenden Sie nun die Senkung um 80 % an. Wenn Ihre Ein-Anfrage-Aufgabe nur noch ein Fünftel kostet: gratuliere. Sind Sie im selben Quartal aber auf eine Agenten-Architektur umgestiegen, haben Sie den Verbrauch pro Aufgabe verzehnfacht. Der Preis fiel um 80 % und Ihre Rechnung verdoppelte sich.
Die drei Multiplikatoren, die in keiner Preisliste stehen
Der erneut gesendete Kontext. Der teuerste und der unsichtbarste. In einem Gespräch mit zwanzig Runden wurde die erste Nachricht zwanzigmal abgerechnet. Nicht weil Ihre Anwendung schlecht geschrieben wäre, sondern weil Chat-APIs so funktionieren: Sie haben kein Gedächtnis, und der Verlauf reist bei jeder Anfrage mit.
Die Werkzeugdefinitionen. Ein Agent mit zwölf verfügbaren Werkzeugen sendet deren vollständige Schemata bei jeder Anfrage mit, ob er eines nutzt oder keines. Das sind abrechenbare Eingabe-Tokens in jedem der acht Schritte.
Wiederholungen und Sackgassen. Ein Agent, der einen Weg erkundet, merkt, dass er nirgendwohin führt, und einen anderen probiert, hat beide bezahlt. In den Nutzungsberichten des Anbieters lässt sich das nicht unterscheiden: Es erscheint als Verbrauch, ohne Hinweis darauf, ob es etwas gebracht hat.
Wie man Kosten pro Aufgabe misst
Die schlechte Nachricht: Das Dashboard Ihres Anbieters wird es Ihnen nicht liefern. Es liefert Tokens pro Modell und pro Tag. Zu den Kosten pro Aufgabe zu kommen erfordert etwas, das der Anbieter nicht hat: zu wissen, wo eine Aufgabe in Ihrem Geschäft beginnt und endet.
Was Sie ohne aufwendige Instrumentierung tun können:
Setzen Sie es in Bezug zu einer Geschäftseinheit. Teilen Sie die monatlichen Modellausgaben durch die Zahl gelöster Anfragen, verarbeiteter Dokumente oder was auch immer Ihre Einheit ist. Ein grober Durchschnitt, und er funktioniert trotzdem: Steigt diese Zahl Monat für Monat, während der Token-Preis fällt, haben Sie Ihre Antwort.
Segmentieren Sie nach Aufgabentyp. Fast immer entfällt der größte Teil der Ausgaben auf eine Minderheit von Aufgabentypen. Ohne diese Segmentierung optimieren Sie das falsche Modell.
Zählen Sie die Anfragen pro Aufgabe. Das ist der aussagekräftigste Indikator, den wir kennen. Steigt er von drei auf neun, steigen Ihre Kosten, auch ohne Wechsel von Modell oder Anbieter.
Was daraus folgt
Bevor Sie über Preise verhandeln oder den Anbieter wechseln, klären Sie, ob Ihr Problem ein Tarif- oder ein Architekturproblem ist. Meist ist es das zweite, und das geht man anders an.
Prompt-Caching kommt zuerst, weil es am günstigsten umzusetzen ist: Der System-Prompt, den Sie achtmal erneut senden, kann mit erheblichem Rabatt abgerechnet werden, wenn Ihr Anbieter Caching anbietet und Ihr Code es nutzt. Im obigen Beispiel machen diese wiederholten 1.200 Tokens fast ein Drittel der gesamten Eingabe aus.
Den Verlauf kürzen, statt ihn vollständig mitzuschleppen. Sehr wenige Aufgaben brauchen alle zwanzig Runden.
Und nach Komplexität routen: das teure Modell den Aufgaben vorbehalten, die es wirklich brauchen. Dort liegt das meiste Einsparpotenzial und dort ist die größte Vorsicht geboten, denn dort lässt sich auch am leichtesten unbemerkt die Qualität verschlechtern. Deshalb sollte man die Qualität messen, bevor man etwas ändert, nicht danach.
Eine ehrliche Einschränkung
Die Zahlen in diesem Artikel sind ein konstruiertes Beispiel, um den Mechanismus zu zeigen, keine Messung Ihres Falls. Der tatsächliche Multiplikator hängt davon ab, wie viele Anfragen Ihre Anwendung pro Aufgabe macht, wie viel Kontext sie mitschleppt und welcher Anteil der Aufgaben den teuren Weg nimmt. Es können drei sein. Es können dreißig sein.
Und Preise ändern sich schnell: Die hier genannten stammen von August 2026 und sollten vor jeder Budgetierung auf der offiziellen Seite des jeweiligen Anbieters überprüft werden.
Was sich nicht ändert, ist der Mechanismus. Solange Sie in Tokens messen, werden Sie weiterhin nicht verstehen, warum Ihre Rechnung tut, was sie tut.
Der komplette Cluster zu KI-Kosten
Dieser Leitfaden ist das Zentrum; jeder Beitrag vertieft einen Teil des Problems.
Die Kosten verstehen
- Was ein Token ist und wie er berechnet wird
- Preise von GPT, Claude und Gemini im Vergleich
- Token-Kostenrechner
- Warum langer Kontext die Rechnung hochtreibt
Sie senken
- Die OpenAI-Rechnung senken: 7 Hebel
- Welches Modell für welche Aufgabe
- Prompt Caching: wiederholten Kontext nur einmal zahlen
- Batch-API: halber Preis, wenn die Aufgabe warten kann
Die Architektur entscheiden
- RAG, Fine-Tuning oder langer Kontext: was günstiger ist
- Eigenes Modell vs API: wann sich Self-Hosting lohnt
Sie dauerhaft im Griff behalten
Bei e-ficient messen wir die Kosten pro Aufgabe von Unternehmen, die KI bereits produktiv einsetzen. Das erste Audit ist kostenfrei, wenn Sie einen Plan mit drei Monaten Laufzeit abschließen, und liefert innerhalb von 72 Stunden eine Diagnose.