Szacunek, który nigdy nie zgadza się z fakturą
Cennik i faktura opisują dwie różne rzeczy. Strona z cennikiem opisuje token: $5 za milion na Claude Opus 4.8, ułamek centa za pytanie klienta. Twoja faktura opisuje, jak Twój produkt naprawdę wywołuje model, a ta ścieżka jest dłuższa i znacznie droższa niż token, który wyceniłeś. Nikt Cię nie naciąga.
Ta różnica to nie jedna tajemnicza opłata. To niewielki zbiór konkretnych mnożników, które da się nazwać, a gdy raz je zobaczysz, możesz je uwzględnić w budżecie. Oto one, jeden po drugim, wyliczone na chatbocie wsparcia działającym na Claude Opus 4.8.
| Pozycja | Kwota |
|---|---|
| Twój szacunek | $200 |
| Kontekst wieloturowy | + $1,260 |
| Twoja faktura | $1,460 |
Ile budżetujesz kontra ile płacisz
Chatbot wsparcia · 10,000 rozmów / mies. · Claude Opus 4.8 ($5 / $25 za 1M)
Model, nie oferta. Założenia: rozmowa na 4 tury; system prompt o długości 1,500 tokenów plus pobrana wiedza wysyłane ponownie w każdej turze; wiadomość klienta ~500 tokenów i odpowiedź ~700 tokenów na turę. To daje ~15,200 tokenów wejściowych i ~2,800 wyjściowych na rozmowę, czyli $760 wejścia + $700 wyjścia dla 10,000 rozmów. Twoje liczby będą inne; kształt nie.
Ostrożny właściciel szacuje $200 miesięcznie: 10,000 rozmów, każda to krótkie pytanie i dłuższa odpowiedź, uczciwie wycenione po $5 za wejście i $25 za wyjście. Faktura opiewa na $1,460. Właściciel, który policzył tylko pytanie klienta - tokeny wejściowe, jedna tura - założył w budżecie $25 i pomylił się prawie sześćdziesięciokrotnie. Żaden z nich nie popełnił błędu w arytmetyce. Oszacowali niewłaściwą wielkość.
Pułapka 1: wyceniłeś pytanie, ale odpowiedź kosztuje pięć razy więcej
W każdym obecnym modelu Claude tokeny wyjściowe kosztują dokładnie pięć razy więcej niż wejściowe. Fable 5 to $10 na wejściu i $50 na wyjściu. Opus 4.8 to $5 i $25. Sonnet 5 to $3 i $15 (w cenie wprowadzającej $2 i $10 do 31 sierpnia 2026). Ta proporcja nigdy się nie zmienia i wskazuje w złą stronę dla tego, jak ludzie szacują: wyceniamy to, co wpisujemy, a to jest krótkie, i zapominamy o tym, co model odpisuje, a to jest długie.
W przykładzie ze wsparciem pytanie klienta ma około 500 tokenów, a odpowiedź około 700. Same te odpowiedzi - 700 tokenów razy 10,000 rozmów po $25 za milion - dają $175 miesięcznie, co już jest siedmiokrotnością całego szacunku opartego tylko na wejściu, czyli $25. Jeśli Twój produkt streszcza, redaguje, wyjaśnia lub pisze kod, to po stronie wyjścia mieszkają Twoje pieniądze, a to właśnie tę stronę cena z cennika po cichu niedowartościowuje.
Pułapka 2: rozmowa to nie pytanie
To ta największa z nich, pułapka, która zamienia porządny szacunek w zaskakujący rachunek. API nie ma pamięci. Nie pamięta Twojej ostatniej tury. Aby kontynuować rozmowę, Twoja aplikacja wysyła całość ponownie w każdej pojedynczej turze: system prompt, całą pobraną wiedzę i pełną dotychczasową wymianę zdań. Płacisz za to wszystko, ponownie, za każdym razem, gdy model się odzywa.
Prześledź rozmowę wsparcia przez cztery tury. System prompt o długości 1,500 tokenów i fragment wiedzy jadą razem w każdej turze. W czwartej turze wysyłasz ponownie również trzy poprzednie pytania i trzy poprzednie odpowiedzi. Zsumuj to, a pojedyncza czteroturowa rozmowa pochłania około 15,200 tokenów wejściowych, a nie 500, które sobie wyobrażałeś, patrząc na jedno pytanie. To mniej więcej trzydziestokrotność wejścia, które oszacowałeś, i dlatego to ponownie wysyłany kontekst, a nie wybrany przez Ciebie model, jest największą pozycją na fakturze powyżej.
To się też kumuluje. Ponieważ każda tura na nowo płaci za wszystkie tury przed nią, całkowity koszt rozmowy rośnie z kwadratem jej długości, a nie liniowo. Rozmowa na dziesięć tur nie kosztuje dziesięć razy tyle co rozmowa na jedną turę, kosztuje znacznie więcej. Funkcja czatu, która wydaje się tania w demie na trzy wiadomości, może zachowywać się zupełnie inaczej, gdy realni użytkownicy rozsiądą się w wątkach na dwadzieścia wiadomości.
Pułapka 3: myślenie, za które płacisz, ale go nie widzisz
Model rozumuje, zanim odpowie, a to rozumowanie jest rozliczane jako wyjście, niezależnie od tego, czy kiedykolwiek je zobaczysz. W Fable 5 to myślenie jest zawsze włączone: zapytanie, które zwraca zgrabną odpowiedź na 500 tokenów, mogło najpierw wydać kilka tysięcy tokenów na rozumowanie, a każdy z tych niewidocznych tokenów jest wyceniony po stawce wyjściowej $50. Odpowiedź na Twoim ekranie to niewielka część tego, za co zapłaciłeś.
Ta sama dźwignia istnieje w rodzinie Opus poprzez ustawienie effort. Podnieś effort, a model myśli dłużej i wywołuje więcej narzędzi, wydając więcej tokenów na większą niezawodność. Obniż je, a działa szybciej i taniej. Żadne nie jest błędne, ale jeśli nigdy nie wybrałeś poziomu, płacisz tyle, ile kosztuje wartość domyślna. Jeśli ważysz model zawsze myślący naprzeciw standardowego, uczciwe porównanie to nie dwa cenniki, lecz dwie liczby tokenów, które generuje realne zadanie - a właśnie w to wchodzi nasze porównanie Fable 5 z Opus 4.8.
Pułapka 4: ten sam tekst policzony jako więcej tokenów
Oto ta, która łapie nawet ostrożne zespoły. Gdy przechodzisz na nowszy model, jego tokenizer - to coś, co tnie tekst na płatne tokeny - potrafi policzyć identyczny tekst jako więcej tokenów niż wcześniej. Zmieniłeś nazwę modelu, nie dodałeś żadnych funkcji, zachowałeś dokładnie tę samą cenę za token, a rachunek i tak wzrósł.
| Model | Kwota |
|---|---|
| Sonnet 4.6 | $900 |
| Sonnet 5 | $1,170 |
| Różnica | + $270 |
Ten sam tekst, ten sam cennik, większy rachunek
Jedno miesięczne obciążenie w identycznym cenniku ($3 / $15 za 1M)
Opublikowana wartość dryfu tokenizera (~30%) zastosowana do stałego wolumenu. Ten sam zestaw dokumentów tokenizuje się do ~100M tokenów na Sonnet 4.6 (50M wejścia + 50M wyjścia = $150 + $750 = $900) i do ~130M na Sonnet 5 (65M + 65M = $195 + $975 = $1,170). Te same słowa, ten sam cennik, +$270 miesięcznie.
Sonnet 5 liczy dla tych samych słów mniej więcej 30 procent więcej tokenów niż Sonnet 4.6. Tokenizer Opus 4.7 mieści się gdzieś pomiędzy tym samym poziomem a około 35 procent cięższym niż Opus 4.6, w zależności od treści. Zatem aktualizacja, która na cenniku wygląda na darmową, może po cichu podnieść rachunek o jedną trzecią. Rozwiązaniem nie jest unikanie aktualizacji - nowsze modele zwykle są tego warte - lecz ponowne zmierzenie realnych liczb tokenów po każdej zmianie i przeliczenie budżetu na nowo, zamiast zakładać, że identyczny cennik oznacza identyczny rachunek.
Pułapka 5: próby, których nigdy nie widzisz
Czyste zapytanie i odpowiedź, które sobie wyobrażasz, to ścieżka idealna. W produkcji zdarzają się przejściowe błędy, które są ponawiane, odmowy ze względów bezpieczeństwa oraz pętle agenta, które wywołują narzędzie, czytają wynik i znowu wywołują model. Każda z tych dodatkowych rund to więcej tokenów na liczniku, a żadna z nich nie pojawia się w Twoim wyobrażeniu "jedno pytanie, jedna odpowiedź".
Jest tu prawdziwy niuans, który warto znać. W Fable 5 zapytanie odrzucone, zanim wyprodukuje jakiekolwiek wyjście, nie jest w ogóle rozliczane, natomiast odrzucone w trakcie strumieniowania obciąża tę część, która już się przesłała. Ponowienia są tanie w wykonaniu i łatwo zostawić je bez limitu, więc drobny błąd - agent, który zapętla się o jeden raz za dużo, polityka ponawiania bez górnego pułapu - pojawia się jako pozycja na fakturze, a nie jako stack trace.
Cały ukryty rachunek na jednej stronie
Między cennikiem LLM a fakturą siedzi sześć mnożników. Pięć z nich tkwi w tym, jak wywołujesz model; szósty tkwi w tym, jak planujesz pracę. Żaden nie jest sztuczką ani ukrytą opłatą, a każdy ma konkretną dźwignię, która go spłaszcza.
| Ukryty koszt | Co go wywołuje | Typowa skala | Dźwignia, która go spłaszcza |
|---|---|---|---|
| Wyjście wyceniane 5x drożej niż wejście | Każda odpowiedź, którą pisze model | Zwykle większość rachunku | Skracaj odpowiedzi, ograniczaj maksymalne wyjście, obniżaj poziom effort |
| Ponownie wysyłany kontekst | API jest bezstanowe, więc historia jest wysyłana ponownie w każdej turze | Całkowity koszt rozmowy rośnie z kwadratem liczby tur | Prompt caching (odczyty ~0.1x na buforowanym prefiksie) |
| Tokeny myślenia | Zawsze włączone rozumowanie (Fable 5) lub wysokie ustawienie effort | Może przyćmić odpowiedź, którą faktycznie widzisz | Dopasuj effort do zadania, użyj poziomu bez myślenia do prostej pracy |
| Dryf tokenizera | Nowszy model liczy ten sam tekst jako więcej tokenów | ~+30% z Sonnet 4.6 na Sonnet 5 | Zmierz liczby tokenów ponownie po każdej zmianie modelu, potem przelicz budżet |
| Ponowienia i pętle narzędzi | Przejściowe błędy, odmowy, rundy agenta | Każda nieudana próba może zostać naliczona ponownie | Idempotentność plus backoff, trzymaj pętle narzędzi w ryzach |
| Praca w tle bez batchowania | Uruchamianie zadań tolerujących opóźnienie na żywym API | Pełna cena za pracę, która mogłaby poczekać | Batch API (-50% na wszystkim) |
Większość rachunku jest opcjonalna
Przeczytaj tę tabelę jeszcze raz i zwróć uwagę na prawą kolumnę. Prawie każdy mnożnik ma naprzeciwko siebie rabat, a te trzy największe to nie "przejdź na tańszy model" - to rzeczy, które możesz zrobić na modelu, którego już używasz.
- Prompt caching uderza wprost w ponownie wysyłany kontekst. Ten system prompt o długości 1,500 tokenów, który wysyłasz w każdej turze, można zbuforować raz, a potem odczytywać za mniej więcej jedną dziesiątą ceny wejścia w każdej kolejnej turze. Jest niewielka jednorazowa dopłata za zapis do bufora, więc opłaca się dokładnie wtedy, gdy wielokrotnie korzystasz z tego samego kontekstu, a to właśnie robi funkcja czatu.
- Batch API zdejmuje 50 procent z wszystkiego przy pracy, która toleruje trochę opóźnienia - nocne podsumowania, masowa klasyfikacja, cokolwiek, na co użytkownik nie czeka w czasie rzeczywistym.
- Dobór właściwego modelu i długości wyjścia - wysyłanie łatwej połowy ruchu do tańszego poziomu, ograniczanie długości odpowiedzi, świadomy wybór poziomu effort - przycina stronę wyjściową rachunku z mnożnikiem 5x bez zmiany choćby jednej odpowiedzi, na której zależy użytkownikom.
Ułożone we właściwej kolejności potrafią zbić rachunek o ponad połowę bez pogarszania doświadczenia, co jest tematem na osobny artykuł. Jeśli wciąż jesteś na etapie decydowania, czy funkcja AI w ogóle jest warta zbudowania, uczciwy punkt wyjścia jest ten sam, o który apeluje ten tekst: oszacuj na podstawie realnej ścieżki wywołań, a potem porównaj to z tym, ile warte jest zadanie. Nasz przewodnik po praktycznej automatyzacji AI dla mniejszych firm to dobry kolejny przystanek.
