Die Schätzung, die nie zur Rechnung passt
Die Preisseite und die Rechnung beschreiben zwei verschiedene Dinge. Die Preisseite beschreibt ein Token: 5 USD pro Million bei Claude Opus 4.8, ein Bruchteil eines Cents für eine Kundenfrage. Ihre Rechnung beschreibt, wie Ihr Produkt das Modell tatsächlich aufruft, und dieser Weg ist länger und weit teurer als das Token, das Sie eingepreist haben. Niemand berechnet Ihnen zu viel.
Die Lücke ist keine einzelne mysteriöse Gebühr. Es ist eine kleine Menge spezifischer, benennbarer Multiplikatoren, und sobald Sie sie erkennen können, können Sie sie einplanen. Hier sind sie, einer nach dem anderen, durchgerechnet an einem Support-Chatbot, der auf Claude Opus 4.8 läuft.
| Position | Betrag |
|---|---|
| Ihre Schätzung | $200 |
| Kontext über mehrere Runden | + $1,260 |
| Ihre Rechnung | $1,460 |
Was Sie einplanen vs. was Ihnen berechnet wird
Support-Chatbot · 10,000 Gespräche / Monat · Claude Opus 4.8 ($5 / $25 pro 1M)
Modelliert, kein Angebot. Annahmen: ein Gespräch mit 4 Runden; ein System-Prompt von 1,500 Tokens plus abgerufenes Wissen, in jeder Runde erneut gesendet; eine Kundennachricht von ~500 Tokens und eine Antwort von ~700 Tokens pro Runde. Das sind ~15,200 Input- und ~2,800 Output-Tokens pro Gespräch, oder $760 Input + $700 Output über 10,000 Gespräche. Ihre Zahlen werden abweichen; die Form nicht.
Der sorgfältige Betreiber schätzt 200 USD pro Monat: 10,000 Konversationen, jede eine kurze Frage und eine längere Antwort, ehrlich mit 5 USD Input und 25 USD Output eingepreist. Die Rechnung beträgt 1,460 USD. Der Betreiber, der nur die Kundenfrage gezählt hat - Input-Tokens, eine Runde -, hat 25 USD eingeplant und lag um fast das Sechzigfache daneben. Keiner von beiden hat sich verrechnet. Sie haben die falsche Größe geschätzt.
Falle 1: Sie haben die Frage eingepreist, aber die Antwort kostet fünfmal mehr
Bei jedem aktuellen Claude-Modell kosten Output-Tokens genau das Fünffache von Input-Tokens. Fable 5 kostet 10 USD Input und 50 USD Output. Opus 4.8 kostet 5 USD und 25 USD. Sonnet 5 kostet 3 USD und 15 USD (mit einem Einführungspreis von 2 USD und 10 USD bis zum 31. August 2026). Das Verhältnis ändert sich nie, und es zeigt in die falsche Richtung für die Art, wie Menschen schätzen: Wir preisen das ein, was wir tippen und was kurz ist, und vergessen das, was das Modell zurückschreibt und was lang ist.
Im Support-Beispiel umfasst die Kundenfrage etwa 500 Tokens und die Antwort etwa 700. Diese Antworten allein - 700 Tokens mal 10,000 Konversationen zu 25 USD pro Million - ergeben 175 USD pro Monat, was bereits das Siebenfache der gesamten reinen Input-Schätzung von 25 USD ist. Wenn Ihr Produkt zusammenfasst, entwirft, erklärt oder Code schreibt, dann steckt Ihr Geld auf der Output-Seite, und genau diese Seite wird vom Listenpreis stillschweigend unterbewertet.
Falle 2: Eine Konversation ist keine Frage
Das ist die große Falle, und es ist die Falle, die aus einer sauberen Schätzung eine überraschende Rechnung macht. Die API hat kein Gedächtnis. Sie erinnert sich nicht an Ihre letzte Runde. Um eine Konversation fortzusetzen, sendet Ihre Anwendung also in jeder einzelnen Runde das Ganze erneut: den System-Prompt, das abgerufene Wissen und den bisherigen vollständigen Dialog. All das wird Ihnen erneut in Rechnung gestellt, jedes Mal, wenn das Modell spricht.
Gehen wir die Support-Konversation über vier Runden durch. Ein System-Prompt und ein Wissensausschnitt von 1,500 Tokens werden in jeder Runde mitgeschickt. In der vierten Runde senden Sie außerdem drei frühere Fragen und drei frühere Antworten erneut. Rechnen Sie es zusammen, und eine einzige Konversation über vier Runden verbraucht etwa 15,200 Input-Tokens, nicht die 500, die Sie sich vorgestellt haben, als Sie auf eine Frage geschaut haben. Das ist ungefähr das Dreißigfache des Inputs, den Sie geschätzt haben, und deshalb ist der erneut gesendete Kontext, nicht das gewählte Modell, der größte Posten auf der obigen Rechnung.
Es kumuliert sich außerdem. Weil jede Runde erneut für alle vorherigen Runden zahlt, wächst die Gesamtkosten einer Konversation mit dem Quadrat ihrer Länge, nicht in einer geraden Linie. Eine Konversation über zehn Runden kostet nicht das Zehnfache einer Konversation über eine Runde, sie kostet weit mehr. Eine Chat-Funktion, die sich in einer Drei-Nachrichten-Demo billig anfühlt, kann sich ganz anders verhalten, sobald echte Nutzer sich in Threads mit zwanzig Nachrichten einfinden.
Falle 3: Das Denken, das Sie bezahlen, aber nie sehen
Das Modell überlegt, bevor es antwortet, und dieses Überlegen wird als Output abgerechnet, ob Sie es je zu sehen bekommen oder nicht. Bei Fable 5 ist dieses Denken immer aktiv: Eine Anfrage, die eine saubere Antwort von 500 Tokens zurückgibt, hat womöglich erst mehrere tausend Tokens für das Überlegen aufgewendet, und jedes dieser unsichtbaren Tokens wird zum Output-Satz von 50 USD berechnet. Die Antwort auf Ihrem Bildschirm ist der kleine Teil dessen, wofür Sie bezahlt haben.
Denselben Hebel gibt es bei der Opus-Familie über die Effort-Einstellung. Drehen Sie den Effort hoch, denkt das Modell länger und ruft mehr Tools auf, wendet also mehr Tokens für mehr Zuverlässigkeit auf. Drehen Sie ihn herunter, arbeitet es schneller und billiger. Keines von beiden ist falsch, aber wenn Sie nie eine Stufe gewählt haben, zahlen Sie, was auch immer die Voreinstellung kostet. Wenn Sie ein stets denkendes Modell gegen ein Standardmodell abwägen, ist der ehrliche Vergleich nicht die beiden Preislisten, sondern die beiden Token-Zahlen, die eine echte Aufgabe erzeugt - worauf genau unsere Gegenüberstellung von Fable 5 und Opus 4.8 eingeht.
Falle 4: Derselbe Text, gezählt als mehr Tokens
Hier ist die Falle, die selbst sorgfältige Teams erwischt. Wenn Sie zu einem neueren Modell wechseln, kann dessen Tokenizer - das, was Text in abrechenbare Tokens zerlegt - denselben Text als mehr Tokens zählen als zuvor. Sie haben einen Modellnamen geändert, keine Funktionen hinzugefügt, exakt denselben Preis pro Token behalten, und die Rechnung ist trotzdem gestiegen.
| Modell | Betrag |
|---|---|
| Sonnet 4.6 | $900 |
| Sonnet 5 | $1,170 |
| Differenz | + $270 |
Gleicher Text, gleiche Preisliste, eine höhere Rechnung
Eine monatlich Arbeitslast auf der identischen Preisliste ($3 / $15 pro 1M)
Der veröffentlichte Tokenizer-Drift-Wert (~30%) angewendet auf ein festes Volumen. Derselbe Dokumentensatz tokenisiert bei Sonnet 4.6 zu ~100M Tokens (50M Input + 50M Output = $150 + $750 = $900) und bei Sonnet 5 zu ~130M (65M + 65M = $195 + $975 = $1,170). Gleiche Wörter, gleiche Preisliste, +$270 im Monat.
Sonnet 5 zählt für dieselben Wörter rund 30 Prozent mehr Tokens als Sonnet 4.6. Der Tokenizer von Opus 4.7 liegt irgendwo zwischen gleich schwer und etwa 35 Prozent schwerer als Opus 4.6, je nach Inhalt. Ein Upgrade, das auf der Preisseite kostenlos aussieht, kann eine Rechnung also stillschweigend um ein Drittel erhöhen. Die Lösung ist nicht, auf Upgrades zu verzichten - die neueren Modelle sind es meist wert -, sondern Ihre echten Token-Zahlen nach jedem Wechsel neu zu messen und aus den neuen Zahlen neu zu budgetieren, statt anzunehmen, dass ein identisches Preisblatt eine identische Rechnung bedeutet.
Falle 5: Die Versuche, die Sie nie sehen
Die saubere Anfrage-und-Antwort, die Sie sich vorstellen, ist der Idealfall. In der Produktion gibt es vorübergehende Fehler, die erneut versucht werden, Ablehnungen aus Sicherheitsgründen und Agenten-Schleifen, die ein Tool aufrufen, das Ergebnis lesen und das Modell erneut aufrufen. Jeder dieser zusätzlichen Durchläufe bedeutet mehr Tokens auf dem Zähler, und keiner davon taucht in Ihrer Vorstellung von "eine Frage, eine Antwort" auf.
Hier gibt es eine echte Feinheit, die es wert ist, gekannt zu werden. Bei Fable 5 wird eine Anfrage, die abgelehnt wird, bevor sie irgendeinen Output erzeugt, gar nicht berechnet, während eine, die mitten im Stream abgelehnt wird, den bereits gestreamten Teil berechnet. Erneute Versuche sind billig zu machen und leicht unbegrenzt zu lassen, sodass ein kleiner Fehler - ein Agent, der eine Runde mehr schleift, als er sollte, eine Retry-Richtlinie ohne Obergrenze - als Rechnungsposten auftaucht, nicht als Stack Trace.
Die gesamte versteckte Rechnung auf einer Seite
Zwischen einem LLM-Preisblatt und der Rechnung sitzen sechs Multiplikatoren. Fünf davon stecken darin, wie Sie das Modell aufrufen; der sechste steckt darin, wie Sie die Arbeit einplanen. Keiner ist ein Trick oder eine versteckte Gebühr, und jeder hat einen konkreten Hebel, der ihn abflacht.
| Versteckte Kosten | Was sie auslöst | Typische Größe | Der Hebel, der sie abflacht |
|---|---|---|---|
| Output zum 5-fachen des Inputs eingepreist | Jede Antwort, die das Modell schreibt | Meist der Großteil der Rechnung | Antworten kürzen, maximalen Output begrenzen, Effort-Stufe senken |
| Erneut gesendeter Kontext | Die API ist zustandslos, also wird der Verlauf in jeder Runde erneut gesendet | Die Gesamtkosten der Konversation wachsen mit dem Quadrat der Rundenzahl | Prompt caching (Lesevorgänge zu ~0.1x auf dem gecachten Präfix) |
| Denk-Tokens | Stets aktives Überlegen (Fable 5) oder eine hohe Effort-Einstellung | Kann die Antwort, die Sie tatsächlich sehen, weit übersteigen | Effort auf die Aufgabe abstimmen, für einfache Arbeit eine nicht denkende Stufe nutzen |
| Tokenizer-Drift | Ein neueres Modell zählt denselben Text als mehr Tokens | ~+30% von Sonnet 4.6 zu Sonnet 5 | Token-Zahlen nach jedem Modellwechsel neu messen, dann neu budgetieren |
| Erneute Versuche und Tool-Schleifen | Vorübergehende Fehler, Ablehnungen, Agenten-Durchläufe | Jeder fehlgeschlagene Versuch kann erneut berechnet werden | Idempotenz plus Backoff, Tool-Schleifen begrenzt halten |
| Nicht gebündelte Hintergrundarbeit | Latenztolerante Jobs auf der Live-API ausführen | Voller Preis für Arbeit, die warten könnte | Batch API (-50% auf alles) |
Der Großteil der Rechnung ist optional
Lesen Sie diese Tabelle noch einmal und beachten Sie die rechte Spalte. Fast jedem Multiplikator steht ein Rabatt gegenüber, und die drei größten lauten nicht "auf ein billigeres Modell wechseln" - es sind Dinge, die Sie mit dem Modell tun können, das Sie bereits betreiben.
- Prompt caching greift den erneut gesendeten Kontext direkt an. Jener System-Prompt von 1,500 Tokens, den Sie in jeder Runde senden, kann einmal gecacht und dann in jeder späteren Runde zu ungefähr einem Zehntel des Input-Preises zurückgelesen werden. Es gibt einen kleinen einmaligen Aufpreis für das Schreiben des Caches, sodass es sich genau dann auszahlt, wenn Sie denselben Kontext oft wiederverwenden, was eine Chat-Funktion genau tut.
- Die Batch API nimmt 50 Prozent von allem für Arbeit, die etwas Latenz vertragen kann - nächtliche Zusammenfassungen, Massenklassifizierung, alles, worauf ein Nutzer nicht in Echtzeit wartet.
- Modell und Output passend dimensionieren - die einfache Hälfte Ihres Traffics an eine billigere Stufe schicken, die Antwortlänge begrenzen, bewusst eine Effort-Stufe wählen - stutzt die 5-fache Output-Seite der Rechnung, ohne eine einzige Antwort zu verändern, die Nutzern wichtig ist.
In der richtigen Reihenfolge gestapelt können diese eine Rechnung um mehr als die Hälfte senken, ohne das Erlebnis herabzustufen, was ein eigener ganzer Artikel ist. Wenn Sie noch dabei sind zu entscheiden, ob eine KI-Funktion überhaupt den Aufwand wert ist, dann ist der ehrliche Ausgangspunkt derselbe, für den dieser Beitrag plädiert: aus dem echten Aufrufpfad schätzen und es dann dem gegenüberstellen, was die Aufgabe wert ist. Unser Leitfaden zur praktischen KI-Automatisierung für kleinere Unternehmen ist eine gute nächste Station.
