Číslo, kvůli kterému AI vypadá zdarma
Naceňte jednu práci oběma způsoby. Ticket podpory roztříděný modelem - přečíst ho, klasifikovat, směrovat a připravit potvrzení - spotřebuje zhruba 500 tokenů na vstupu a 50 na výstupu, což na Haiku 4.5 při zveřejněných sazbách vychází na $0.00075. Tentýž ticket vyřízený člověkem při plně zatížených nákladech $22 za hodinu a třiceti ticketech za hodinu stojí $0.73. To je rozdíl zhruba 978 násobný a každé číslo v něm je předpoklad, který si můžete vyměnit: plaťte $30 za hodinu, zpracovávejte 20 ticketů, použijte větší model - rozdíl zůstane tři řády široký.
| Úloha | Náklad / úloha |
|---|---|
| AI · Haiku 4.5 | $0,00075 |
| Člověk | $0,73 |
| Lidé vs AI | ~978× |
Kolik stojí jedna úloha
Triáž ticketů, modelováno · logaritmická škála, každá čára mřížky je 10×
Modelováno, ne měřeno: triáž na Haiku 4.5 při zveřejněných sazbách (500 tokenů na vstupu za $1 / 1M, 50 na výstupu za $5 / 1M = $0.00075) oproti člověku při plně zatížených nákladech $22 za hodinu, který zpracuje 30 ticketů za hodinu ($0.73). Škála je logaritmická. Mzda, výkon a počty tokenů jsou vstupy, které byste měli nahradit vlastními; rozdíl přežije jakoukoli jejich realistickou sadu.
Čísla jako tohle vyvolávají pocit, že AI je automatické ano, a přesně kvůli nim končí majitelé zklamaní. Protože cena za úlohu není to, co rozhoduje. Je to nejmenší číslo v místnosti.
Skutečnou překážkou je vývoj
Mezi vámi a těmi zlomky centu stojí fixní náklad: někdo tu funkci musí postavit. Propojit ji s vaším ticketovým systémem, napsat a otestovat prompty, ošetřit hraniční případy, předřadit jí kontrolní obrazovku, nasadit ji. Jestli půjde o skript za $3,000 nebo integraci za $20,000, závisí na rozsahu, a chová se to jako každé jiné kapitálové rozhodnutí ve vašem podnikání: musí se to zaplatit z úspor, měsíc po měsíci. AI tuhle logiku neodstranila; jen učinila marginální náklad tak malým, že vývoj je prakticky celá investice. Pokud tohle zvažujete proti nákupu hotového nástroje, je to samostatné rozhodnutí, ale výpočet níže funguje v obou případech stejně.
Vzorec pro bod zvratu
Celý model se vejde na jeden řádek: návratnost v měsících = náklady na vývoj ÷ (úlohy za měsíc × úspora na úlohu), kde úspora na úlohu je to, co stojí, když ji dělá člověk, minus to, co stojí model. Plně zatížené hodinové náklady dělené počtem úloh za hodinu dávají lidskou stranu; výpočet z tokenů dává stranu AI. Tři vstupy, jedno dělení, a každý z nich si můžete opravit: vaše mzdy, váš výkon, vaše cenová nabídka.
Tentýž vývoj při třech objemech
| Objem | Bod zvratu |
|---|---|
| 10,000 úlohy / mo | ~5 týdnů |
| 3,000 úlohy / mo | ~3,7 mo |
| 300 úlohy / mo | ~3 yr |
Tentýž vývoj při třech objemech
Vývoj $8,000; každá úloha: AI ~$0,00075 vs člověk ~$0,73 (modelováno)
Kumulativní náklad, když úlohu dělají lidé (tři objemy), oproti jednorázovému vývoji za $8,000 a provozu na AI. Předpoklady úlohy jako v grafu výše; spotřeba AI je při těchto objemech $0.23 až $7.50 měsíčně, takže jantarová křivka se vykresluje plochá. Bod zvratu nastává zhruba za 5 týdnů při 10,000 úlohách za měsíc, za 3.6 měsíce při 3,000 a zhruba za 3 roky při 300. Dosaďte si vlastní mzdu, výkon a cenovou nabídku na vývoj; jde o ten tvar.
Tohle je graf, který rozhodne většinu sporů o tom, zda stavět nebo ne, protože jediné, co se mezi třemi křivkami mění, je objem. Při 10,000 úlohách za měsíc se vývoj za $8,000 vrátí zhruba za pět týdnů; tentýž vývoj při 300 úlohách za měsíc se táhne zhruba tři roky, což je v softwarových termínech úplně jiné rozhodnutí. Na modelu, promptech ani kvalitě se nic nezměnilo. Odpověď posunul z jasného ano na pravděpodobné ne samotný objem.
Tabulka návratnosti
Najděte svůj sloupec, najděte svou cenovou nabídku a máte obhajitelnou první odpověď dřív, než kdokoli otevře IDE.
| 300 úloh / mo | 1,000 / mo | 3,000 / mo | 10,000 / mo | |
|---|---|---|---|---|
| Měsíční úspora | $220 | $733 | $2,198 | $7,326 |
| Vývoj za $3,000 se vrátí za | 13.7 mo | 4.1 mo | 1.4 mo | 0.4 mo |
| Vývoj za $8,000 | 36.4 mo | 10.9 mo | 3.6 mo | 1.1 mo |
| Vývoj za $20,000 | 91.0 mo | 27.3 mo | 9.1 mo | 2.7 mo |
Dvě poctivá čtení té tabulky. Po sloupci dolů: disciplína v rozsahu se vyplácí, protože při 1,000 úlohách za měsíc je rozdíl mezi vývojem za $3,000 a za $20,000 rozdílem mezi čtyřmi měsíci a dvěma roky. Po řádku napříč: objem je páka, protože tentýž vývoj za $8,000 kolísá od zaokrouhlovací chyby po neobhajitelný podle toho, kolik úloh mu skutečně předhodíte. Když odhad spadne do šedého středu, nejlevnějším experimentem je obvykle menší vývoj, který otestuje předpoklad o objemu, ne větší vývoj, který na něj vsadí.
Kdy na ceně tokenů záleží
Triáž je levná úloha; ne všechno takové je. Zpracování konceptu, které přečte zadání o 2,000 tokenech a napíše dokument o 1,500 tokenech na Opus 4.8, stojí zhruba $0.05 na úlohu a práce s dlouhým kontextem může vyšplhat výrazně výš. Pořád se to srovnává s $0.37 za jedinou minutu lidského času, takže rozdíl přežije, ale při desítkách tisíc úloh přestává být marginální čára ozdobou: je to rozdíl mezi tím, zda tokeny stojí $8 měsíčně nebo $500. Právě tady se do tohoto modelu zapojují skryté násobiče z první části a páky z druhé části: posouvají úsporu na úlohu, což zkracuje návratnost. Samy o sobě málokdy překlopí rozhodnutí o vývoji, ale rozhodují o tom, jak dobré dobré rozhodnutí bude.
Co tento model vynechává
Buďme poctiví k tomu výpočtu na koleni. Pokud člověk pořád kontroluje každý výstup, vaše úspora na úlohu je rozdíl v čase na kontrolu, ne celých $0.73, a návratnost se tomu úměrně natáhne; model se vyplatí tam, kde většinu úloh plně uzavře a zbytek eskaluje. Chyby mají cenu, kterou tento vzorec nevidí, takže úlohy, kde je špatná odpověď drahá, potřebují v procesu levnou kontrolu, než bude počítání objemu vůbec něco znamenat. A vývoj není poslední faktura: prompty se posouvají, systémy se mění, někdo tu integraci udržuje. Nic z toho model nerozbíjí; jen to patří do sloupce vývoje, a pilot dimenzovaný tak, aby otestoval váš předpoklad o objemu, je nejlevnější způsob, jak zjistit, jaká čísla ve skutečnosti jsou.
