Claude Haiku 5.5: ceny a úlohy agenta, ktoré zveriť lacnejšiemu modelu

Claude Haiku 5.5 bol uvedený 7. októbra: stojí 0,10 USD za 1 milión vstupných tokenov a 0,50 USD za 1 milión výstupných tokenov, zatiaľ čo Haiku 4.5 stojí 1 USD a 5 USD. Agent, ktorý mesačne spotrebuje 10 miliónov vstupných a 2 milióny výstupných tokenov, stál predtým 20 USD; teraz stojí 2 USD, ak sú požiadavky kratšie než 100 000 tokenov. Anthropic uvádza priemernú úsporu 75 %.

Zverte mu rutinnú prácu: napríklad triedenie prichádzajúcich požiadaviek alebo zhrnutie rozhovoru so zákazníkom pre manažéra. Premýšľať by mal, samozrejme, výkonný model; jednoduchší model môže zvládnuť vykonávanie úloh.

V príklade s Hermesom opísanom v tomto článku sa jednoduchšie úlohy prideľujú menej schopným modelom a tie najnáročnejšie najinteligentnejším. Úspora tokenov v tomto príklade dosiahla 80 %.

Čo bolo uvedené 7. októbra a koľko stojí Haiku 5.5#

Ak používate Claude Code cez Anthropic API, nemusíte nič meniť: od vydania v2.1.293 v ten istý deň je predvoleným modelom Haiku v Claude Code Haiku 5.5. Všetko, čo bežalo na Haiku, už beží na modeli, ktorého cena za token je až 10-krát nižšia.

Model claude-haiku-5-5 dokáže naraz prečítať až 1 milión tokenov a vytvoriť odpoveď s dĺžkou až 128 000 tokenov. Haiku má po prvý raz nastavenie effort, ktoré určuje, ako dôkladne model premýšľa. Je dostupné cez Claude API, Amazon Bedrock, Google Cloud a Microsoft Foundry.

Úspora sa týka požiadaviek s dĺžkou do 100 000 tokenov, ktoré podľa Anthropic tvoria približne 90 % požiadaviek na predchádzajúci model Haiku. Pri dlhších požiadavkách je cena 5-krát vyššia.

Menej zaplatia aj tí, ktorí zostanú pri Sonnet 5.5: cena čítania z vyrovnávacej pamäte sa znížila na polovicu, z 0,20 USD na 0,10 USD za 1 milión tokenov, a Anthropic uvádza, že agentné úlohy stoja približne o 20 % menej.

Čo to mení pre vášho agenta a ako to vyskúšať#

Anthropic odporúča tento model na rutinnú prácu tohto druhu a ako pomocníka pre Opus 5.5 a Sonnet 5.5. Jednoduchú rutinnú prácu môžete zveriť lacnejším modelom a mali by ste to urobiť. Veď by ste neposlali riaditeľa spoločnosti kúpiť chlieb.

Anthropic odporúča ponechať zložité úlohy agenta modelom Sonnet a Opus. V teste Terminal-Bench 4.0, v ktorom model rieši viacstupňové úlohy v príkazovom riadku, dosahuje Haiku 5.5 skóre 39,2 % oproti 70,6 % modelu Sonnet 5.5. V teste OSWorld, v ktorom model sám ovláda počítač, je zlepšenie výrazné: 72,4 % oproti 15,7 % modelu Haiku 4.5, stále však zaostáva za 83,9 % modelu Sonnet 5.5.

Ako ho vyskúšať

1. Vyberte 1 rutinný krok, napríklad triedenie prichádzajúcich požiadaviek. Nastavte preň model claude-haiku-5-5 a ostatné kroky ponechajte bez zmeny.
2. Ak bol váš kód napísaný pre Haiku 4.5, odstráňte manuálne nastavenie premýšľania budget_tokens: vo verzii 5.5 spôsobuje chybu 400. V novom modeli je Adaptive thinking predvolene zapnuté.
3. Začnite s predvoleným nastavením effort, teda medium. Znížte ho, len ak kvalita zostane dostatočná.
4. Spustite 10–20 rovnakých úloh, ktoré predchádzajúci model spracoval cez Haiku, teraz cez Haiku 5.5. Porovnajte kvalitu odpovedí — či sa nestratila nejaká požiadavka alebo v zhrnutí nechýba dôležitý detail — a účet za tieto úlohy na svojom informačnom paneli Anthropic.

Je tu jeden háčik. Haiku 5.5 používa nové počítanie tokenov (pozri poznámky k vydaniu od Anthropic), takže rovnaký text môže mať viac tokenov a skutočná úspora môže byť nižšia než 75 %.

Môžete si ho vyskúšať aj bezplatne. Počas jedného týždňa poskytne Anthropic predplatiteľom Max a Team mesačný kredit na API: 100 USD pre Max 5x, 200 USD pre Max 20x a až 500 USD zdieľaných v rámci Team, ktoré možno použiť na ľubovoľný model. Kredit si môžete uplatniť v Settings → Billing; nevyužitý kredit sa neprenáša.

Praktický prístup: jednoduchší model alebo spôsob, ako platiť menej#

Tu opísaný prístup k starším verziám Haiku bol jednoduchý: je to veľmi jednoduchý model na jednoduché úlohy; nepoužívajte ho na vývoj. Na hlavnú prácu si vyberte najsilnejší model namiesto prechodu na Sonnet kvôli úspore peňazí: záleží na výsledku. Rutinné úlohy agenta v Hermes sa zverujú bezplatným alebo veľmi lacným modelom.

Rovnako zverte modelu Haiku 5.5 iba krok triedenia prichádzajúcich požiadaviek: pripojte ho popri výkonnom modeli a povedzte agentovi, aby ho používal na najjednoduchšie úlohy.

Postup je takýto: začnite s najdrahšími možnosťami a potom znižujte náklady. Dosiahnite výsledok pomocou výkonného modelu a potom po jednom presúvajte kroky na Haiku 5.5 a sledujte, či neklesá kvalita.

Pravidelné prepínanie modelov samo osebe nezlepšuje výkon pri úlohách; niekedy má opačný účinok. V tomto prístupe nie je najdôležitejšie to, aký model máte. Dôležité sú vaše pokyny.

Ktorú rutinnú úlohu by ste ako prvú presunuli na Haiku 5.5? Porovnajte tento krok so súčasným výsledkom vášho agenta.

Ďalšie materiály nájdete na Ailoot.