Claude Haiku 5.5: priser og hvilke agentoppgaver du bør gi den billigere modellen

Claude Haiku 5.5 ble lansert 7. oktober: $0,10 per 1 million inndatatokener og $0,50 per 1 million utdata-tokener, sammenlignet med $1 og $5 for Haiku 4.5. En agent som bruker 10 millioner inndatatokener og 2 millioner utdata-tokener i måneden, kostet tidligere $20; nå koster den $2, forutsatt at forespørslene er kortere enn 100 000 tokener. Anthropic anslår den gjennomsnittlige besparelsen til 75 %.

Gi den rutinearbeid for agenter: sortering av innkommende forespørsler eller oppsummering av en kundesamtale for en leder. En kraftig modell bør selvfølgelig stå for tenkingen; en enklere modell kan håndtere utførelsen.

I Hermes-eksempelet som beskrives her, tildeles enklere oppgaver mindre kapable modeller, mens de mest krevende oppgavene går til de smarteste. Tokenbesparelsene i dette eksempelet nådde 80 %.

Hva ble lansert 7. oktober, og hva koster Haiku 5.5?#

Hvis du bruker Claude Code gjennom Anthropic API, trenger du ikke å bytte noe: siden v2.1.293, som ble utgitt samme dag, har standardmodellen for Haiku der vært Haiku 5.5. Alt som kjørte på Haiku, kjører allerede på en modell som koster opptil 10 ganger mindre per token.

Modellen claude-haiku-5-5 kan lese opptil 1 million tokener om gangen og produsere et svar på opptil 128 000 tokener. For første gang har Haiku en innstillingsmulighet for innsats: hvor grundig modellen tenker. Den er tilgjengelig via Claude API, Amazon Bedrock, Google Cloud og Microsoft Foundry.

Besparelsen gjelder forespørsler på opptil 100 000 tokener, som Anthropic sier utgjør rundt 90 % av forespørslene til den forrige Haiku-modellen. For lengre forespørsler er prisen 5 ganger høyere.

De som fortsetter med Sonnet 5.5, betaler også mindre: Prisen for cache-lesinger er halvert, fra $0,20 til $0,10 per 1 million tokener, og Anthropic sier at agentoppgaver koster omtrent 20 % mindre.

Hva dette betyr for agenten din, og hvordan du prøver det#

Anthropic anbefaler selv modellen for denne typen rutinearbeid og som assistent for Opus 5.5 og Sonnet 5.5. Du kan gi enkelt rutinearbeid til billigere modeller, og det bør du gjøre. Du ville ikke sendt en bedriftsdirektør ut for å kjøpe brød.

Anthropic anbefaler å la Sonnet og Opus håndtere komplekse agentoppgaver. I Terminal-Bench 4.0, der modellen løser flertrinnsoppgaver på kommandolinjen, får Haiku 5.5 39,2 %, mot 70,6 % for Sonnet 5.5. I OSWorld, der modellen betjener en datamaskin selv, er forbedringen betydelig: 72,4 %, sammenlignet med 15,7 % for Haiku 4.5, selv om den fortsatt ligger under Sonnet 5.5s 83,9 %.

Slik prøver du det

1. Velg 1 rutineoppgave, for eksempel sortering av innkommende forespørsler. Sett modellen for oppgaven til claude-haiku-5-5, og la de andre oppgavene være som de er.
2. Hvis koden din ble skrevet for Haiku 4.5, fjerner du den manuelle innstillingen for tenking, budget_tokens: på 5.5 gir den en 400-feil. Adaptiv tenking er aktivert som standard i den nye modellen.
3. Begynn med standardinnstillingen for innsats, medium. Senk den bare hvis kvaliteten holder seg.
4. Kjør 10–20 av de samme oppgavene som den forrige modellen håndterte, med Haiku 5.5. Sammenlign kvaliteten på svarene — om en forespørsel forsvant, eller om en viktig detalj manglet i en oppsummering — og regningen for disse oppgavene i Anthropic-dashbordet ditt.

Det er en hake. Haiku 5.5 bruker en ny måte å telle tokener på (se Anthropics versjonsmerknader), så samme tekst kan telle som flere tokener, og den faktiske besparelsen kan bli mindre enn 75 %.

Du kan også prøve modellen gratis. I løpet av en uke vil Anthropic gi Max- og Team-abonnenter en månedlig API-kreditt: $100 for Max 5x, $200 for Max 20x og opptil $500 som deles i et Team, til bruk på en hvilken som helst modell. Du kan hente den under Innstillinger → Fakturering; ubrukt kreditt overføres ikke til neste periode.

En praktisk tilnærming: en enklere modell eller en måte å betale mindre på#

Tilnærmingen til tidligere Haiku-versjoner som beskrives her, var enkel: Det er en svært enkel modell for enkle oppgaver; ikke bruk den til utvikling. Velg den sterkeste modellen til hovedarbeidet i stedet for å bytte til Sonnet for å spare penger: resultatet er viktig. Rutinearbeid for agenter i Hermes går til gratis eller svært billige modeller.

Gi på samme måte Haiku 5.5 bare steget med sortering av innkommende forespørsler: Koble den til sammen med en kraftig modell, og be agenten bruke den til de enkleste oppgavene.

Rekkefølgen er: Start med de dyreste alternativene, og reduser deretter kostnaden. Få et resultat med en kraftig modell, og flytt deretter oppgaver over til Haiku 5.5 én etter én. Følg med på om kvaliteten faller.

Det forbedrer ikke i seg selv oppgaveytelsen å bytte modell regelmessig; noen ganger gjør det det motsatte. I denne tilnærmingen er ikke modellen du har, det viktigste. Det er instruksjonene dine.

Hvilken rutineoppgave ville du flyttet til Haiku 5.5 først? Sammenlign resultatet fra dette steget med agentens nåværende resultat.

Mer materiale er tilgjengelig på Ailoot.