Číslo, vďaka ktorému vyzerá AI ako zadarmo
Oceňte jeden kus práce oboma spôsobmi. Servisný tiket roztriedený modelom - prečítať ho, klasifikovať, smerovať, naformulovať potvrdenie - spotrebuje približne 500 tokenov na vstupe a 50 na výstupe, čo pri modeli Haiku 4.5 podľa zverejnených cien vychádza na $0.00075. Ten istý tiket vybavený človekom pri započítaných nákladoch $22 za hodinu a tridsiatich tiketoch za hodinu stojí $0.73. To je rozdiel zhruba 978-násobný a každé číslo v ňom je predpoklad, ktorý si môžete vymeniť: plaťte $30 za hodinu, vybavte 20 tiketov, použite väčší model - rozdiel zostáva široký na tri rády.
| Úloha | Náklad / úloha |
|---|---|
| AI · Haiku 4.5 | $0,00075 |
| Človek | $0,73 |
| Ľudia vs AI | ~978× |
Koľko stojí jedna úloha
Triedenie tiketov, modelované · logaritmická škála, každá čiara mriežky je 10×
Modelované, nie merané: triedenie na Haiku 4.5 za zverejnené ceny (500 tokenov na vstupe za $1 / 1M, 50 na výstupe za $5 / 1M = $0.00075) oproti človeku pri plne nákladovej sadzbe $22 za hodinu, ktorý vybaví 30 tiketov za hodinu ($0.73). Škála je logaritmická. Mzda, priepustnosť a počty tokenov sú vstupy, ktoré by ste mali nahradiť vlastnými; rozdiel prežije akúkoľvek ich realistickú sadu.
Čísla ako toto pôsobia tak, že AI vyzerá ako automatické áno, a presne takto skončia majitelia firiem sklamaní. Lebo cena za jednu úlohu nie je to rozhodnutie. Je to najmenšie číslo v miestnosti.
Skutočnou bránou je samotná stavba
Medzi vami a tými zlomkami centa stojí fixný náklad: niekto musí danú funkciu postaviť. Prepojiť ju s vaším systémom tiketov, napísať a otestovať prompty, ošetriť hraničné prípady, umiestniť pred ňu kontrolnú obrazovku, nasadiť ju. To, či pôjde o skript za $3,000 alebo o integráciu za $20,000, závisí od rozsahu a správa sa to ako každé iné kapitálové rozhodnutie vo vašej firme: musí sa splatiť z úspor, mesiac po mesiaci. AI túto logiku neodstránilo; len znížilo marginálny náklad natoľko, že samotná stavba je prakticky celou investíciou. Ak toto zvažujete oproti kúpe hotového nástroja, to je samostatné rozhodnutie, ale aritmetika nižšie funguje rovnako tak či tak.
Vzorec na bod zvratu
Celý model sa zmestí do jedného riadku: návratnosť v mesiacoch = náklad na stavbu ÷ (úlohy za mesiac × úspora na úlohu), kde úspora na úlohu je to, koľko stojí človek na jej vykonanie, mínus to, koľko stojí model. Započítaný hodinový náklad delený počtom úloh za hodinu dáva ľudskú stranu; tokenová matematika dáva stranu AI. Tri vstupy, jedno delenie, a každý jeden z nich si môžete opraviť: vaše mzdy, vašu priepustnosť, vašu cenovú ponuku.
Tá istá stavba pri troch objemoch
| Objem | Bod zvratu |
|---|---|
| 10,000 úlohy / mo | ~5 týždňov |
| 3,000 úlohy / mo | ~3,7 mo |
| 300 úlohy / mo | ~3 yr |
Ten istý vývoj pri troch objemoch
Vývoj $8,000; každá úloha: AI ~$0,00075 vs človek ~$0,73 (modelované)
Kumulatívny náklad na ľudí, ktorí úlohu robia (tri objemy), oproti jednorazovému vývoju za $8,000 a prevádzke na AI. Predpoklady o úlohe ako v grafe vyššie; spotreba AI je pri týchto objemoch $0.23 až $7.50 mesačne, takže jantárová krivka sa kreslí ako plochá. Bod zvratu pripadá na približne 5 týždňov pri 10,000 úlohách za mesiac, 3.6 mesiaca pri 3,000 a zhruba 3 roky pri 300. Dosaďte vlastnú mzdu, priepustnosť a cenovú ponuku za vývoj; ide o ten tvar.
Toto je graf, ktorý urovná väčšinu sporov o tom, či stavať alebo nie, pretože jediné, čo sa medzi troma čiarami mení, je objem. Pri 10,000 úlohách za mesiac sa stavba za $8,000 splatí približne za päť týždňov; tá istá stavba pri 300 úlohách za mesiac sa vlečie zhruba tri roky, čo je v softvérových termínoch úplne iné rozhodnutie. Na modeli, promptoch ani kvalite sa nič nezmenilo. Samotný objem posunul odpoveď z jasného áno na pravdepodobné nie.
Tabuľka návratnosti
Nájdite si svoj stĺpec, nájdite si svoju cenovú ponuku a máte obhájiteľnú prvú odpoveď skôr, než ktokoľvek otvorí IDE.
| 300 úloh / mes. | 1,000 / mes. | 3,000 / mes. | 10,000 / mes. | |
|---|---|---|---|---|
| Mesačná úspora | $220 | $733 | $2,198 | $7,326 |
| Stavba za $3,000 sa splatí za | 13.7 mes. | 4.1 mes. | 1.4 mes. | 0.4 mes. |
| Stavba za $8,000 | 36.4 mes. | 10.9 mes. | 3.6 mes. | 1.1 mes. |
| Stavba za $20,000 | 91.0 mes. | 27.3 mes. | 9.1 mes. | 2.7 mes. |
Dve poctivé čítania tej tabuľky. Nadol po stĺpci: disciplína v rozsahu sa vypláca, pretože pri 1,000 úlohách za mesiac je rozdiel medzi stavbou za $3,000 a $20,000 rozdielom medzi štyrmi mesiacmi a dvoma rokmi. Naprieč riadkom: objem je páka, pretože tá istá stavba za $8,000 sa hojdá od zaokrúhľovacej chyby po neobhájiteľnú podľa toho, koľko úloh do nej skutočne pošlete. Keď odhad pristane v sivom strede, najlacnejším experimentom je zvyčajne menšia stavba, ktorá otestuje predpoklad o objeme, nie väčšia stavba, ktorá naň stavia.
Kedy na cene tokenov záleží
Triedenie je lacná úloha; nie všetko je také. Koncepčná práca, ktorá prečíta zadanie s 2,000 tokenmi a napíše dokument s 1,500 tokenmi na modeli Opus 4.8, stojí približne $0.05 na úlohu a práca s dlhým kontextom môže vyšplhať výrazne vyššie. Stále sa to porovnáva s $0.37 za jedinú minútu ľudského času, takže rozdiel prežíva, no pri desiatkach tisíc úloh prestáva byť marginálna čiara dekoráciou: je to rozdiel medzi tým, či tokeny stoja $8 mesačne alebo $500. Práve tu sa do tohto modelu zapájajú skryté násobiče z prvej časti a páky z druhej časti: menia úsporu na úlohu, čím skracujú návratnosť. Sami osebe zriedka preklopia rozhodnutie o stavbe, ale rozhodujú o tom, aké dobré dobré rozhodnutie napokon bude.
Čo tento model vynecháva
Poctivosť ohľadom rámca. Ak človek stále kontroluje každý výstup, vaša úspora na úlohu je rozdiel v čase kontroly, nie celých $0.73, a návratnosť sa podľa toho naťahuje; model si zarába tam, kde plne uzavrie väčšinu úloh a zvyšok eskaluje. Chyby majú cenu, ktorú tento vzorec nevidí, takže úlohy, kde je nesprávna odpoveď drahá, potrebujú v slučke lacnú kontrolu skôr, než matematika objemu vôbec niečo znamená. A stavba nie je posledná faktúra: prompty sa vychyľujú, systémy sa menia, niekto integráciu udržiava. Nič z toho model neláme; len to patrí do stĺpca stavby, a pilotný projekt naddimenzovaný tak, aby otestoval váš predpoklad o objeme, je najlacnejší spôsob, ako zistiť, aké tie čísla naozaj sú.
