Claude Haiku 5.5: kainos ir kokias agento užduotis patikėti pigesniam modeliui

Claude Haiku 5.5 pasirodė spalio 7 d.: 0,10 USD už 1 mln. įvesties žetonų ir 0,50 USD už 1 mln. išvesties žetonų, palyginti su 1 USD ir 5 USD už Haiku 4.5. Agentas, per mėnesį sunaudojantis 10 mln. įvesties ir 2 mln. išvesties žetonų, anksčiau kainavo 20 USD; dabar kainuoja 2 USD, jei užklausos trumpesnės nei 100 000 žetonų. Anthropic nurodo, kad vidutiniškai sutaupoma 75 %.

Patikėkite jam įprastas agento užduotis: gaunamų užklausų rūšiavimą arba pokalbio su klientu santraukos parengimą vadovui. Žinoma, mąstyti turėtų galingas modelis, o vykdymą galima patikėti paprastesniam.

Čia aprašytame Hermes pavyzdyje lengvesnės užduotys skiriamos mažiau pajėgiems modeliams, o pačios sudėtingiausios – išmaniausiems. Šiame pavyzdyje pavyko sutaupyti iki 80 % žetonų.

Kas pasirodė spalio 7 d. ir kiek kainuoja Haiku 5.5#

Jei naudojate Claude Code per Anthropic API, nieko keisti nereikia: nuo tą pačią dieną išleistos v2.1.293 versijos numatytasis Haiku modelis yra Haiku 5.5. Visa, kas veikė su Haiku, jau veikia su modeliu, kurio žetonai kainuoja iki 10 kartų mažiau.

Modelis claude-haiku-5-5 vienu metu gali perskaityti iki 1 mln. žetonų ir sugeneruoti iki 128 000 žetonų atsakymą. Pirmą kartą Haiku turi pastangų lygio nustatymą: juo parenkama, kaip intensyviai modelis mąsto. Šis modelis pasiekiamas per Claude API, Amazon Bedrock, Google Cloud ir Microsoft Foundry.

Mažesnės kainos taikomos iki 100 000 žetonų užklausoms, kurios, Anthropic teigimu, sudaro apie 90 % užklausų ankstesniam Haiku modeliui. Ilgesnės užklausos kainuoja 5 kartus daugiau.

Pasirinkę Sonnet 5.5 taip pat mokėsite mažiau: talpyklos skaitymo kaina sumažėjo perpus – nuo 0,20 iki 0,10 USD už 1 mln. žetonų, o Anthropic teigia, kad agentinės užduotys kainuoja apie 20 % mažiau.

Ką tai keičia jūsų agentui ir kaip išbandyti#

Pati Anthropic rekomenduoja šį modelį tokio pobūdžio įprastoms užduotims atlikti ir naudoti kaip Opus 5.5 bei Sonnet 5.5 pagalbininką. Paprastas įprastas užduotis galite patikėti pigesniems modeliams – taip ir turėtumėte daryti. Juk nesiųstumėte įmonės vadovo nupirkti duonos.

Anthropic rekomenduoja sudėtingas agento užduotis palikti Sonnet ir Opus modeliams. Terminal-Bench 4.0 teste, kuriame modelis sprendžia kelių žingsnių komandų eilutės užduotis, Haiku 5.5 surenka 39,2 %, o Sonnet 5.5 – 70,6 %. OSWorld teste, kuriame modelis pats valdo kompiuterį, rezultatas gerokai pagerėjo: 72,4 %, palyginti su 15,7 % Haiku 4.5, tačiau vis dar nesiekia Sonnet 5.5 rezultato – 83,9 %.

Kaip išbandyti

1. Pasirinkite 1 įprastą žingsnį, pavyzdžiui, gaunamų užklausų rūšiavimą. Nustatykite jam modelį claude-haiku-5-5, o kitų žingsnių nekeiskite.
2. Jei kodas parašytas Haiku 4.5 modeliui, pašalinkite rankinį mąstymo nustatymą budget_tokens: naudojant 5.5 versiją jis sukelia 400 klaidą. Naujajame modelyje adaptyvus mąstymas įjungtas pagal numatytuosius nustatymus.
3. Pradėkite nuo numatytojo pastangų lygio – medium. Sumažinkite jį tik įsitikinę, kad kokybė išlieka.
4. Atlikite 10–20 tų pačių užduočių, kurias ankstesnis modelis vykdė per Haiku 5.5. Palyginkite atsakymų kokybę – ar neužklausos nepradingo, ar santraukose nepraleista svarbi informacija – ir šių užduočių sąskaitą savo Anthropic valdymo skydelyje.

Tačiau yra vienas niuansas. Haiku 5.5 žetonus skaičiuoja nauju būdu (žr. Anthropic leidimo pastabas), todėl tas pats tekstas gali būti suskaičiuotas kaip didesnis žetonų skaičius, o faktinis sutaupymas gali būti mažesnis nei 75 %.

Galite jį išbandyti ir nemokamai. Savaitę Anthropic suteiks Max ir Team prenumeratoriams mėnesinį API kreditą: 100 USD už Max 5x, 200 USD už Max 20x ir iki 500 USD, bendrai Team nariams; kreditą galima panaudoti bet kuriam modeliui. Jį galima atsiimti skiltyje Settings → Billing; nepanaudotas kreditas neperkeliamas į kitą laikotarpį.

Praktinis būdas: paprastesnis modelis arba mažesnė kaina#

Ankstesnių Haiku versijų naudojimo principas buvo paprastas: tai labai paprastas modelis paprastoms užduotims, todėl nenaudokite jo kūrimui. Pagrindiniam darbui rinkitės pajėgiausią modelį, užuot perėję prie Sonnet vien tam, kad sutaupytumėte: svarbus rezultatas. Įprastos agento užduotys Hermes sistemoje patikimos nemokamiems arba labai pigiems modeliams.

Taip pat patikėkite Haiku 5.5 tik gaunamų užklausų rūšiavimo žingsnį: prijunkite jį greta galingo modelio ir nurodykite agentui naudoti jį lengviausioms užduotims.

Eiga tokia: pradėkite nuo brangiausių variantų, tada mažinkite kainą. Pirmiausia pasiekite rezultatą su galingu modeliu, o tada po vieną perkelkite žingsnius į Haiku 5.5 ir stebėkite, ar nekrenta kokybė.

Reguliarus modelių keitimas savaime nepagerina užduočių atlikimo; kartais būna priešingai. Taikant šį būdą, turimas modelis nėra svarbiausias dalykas. Svarbiausios yra jūsų instrukcijos.

Kurią įprastą užduotį pirmiausia perkeltumėte į Haiku 5.5? Palyginkite jos rezultatą su dabartiniu savo agento rezultatu.

Daugiau medžiagos rasite Ailoot.