Claude Haiku 5.5: priser, og hvilke agentopgaver du bør give den billigere model

Claude Haiku 5.5 blev lanceret den 7. oktober: $0,10 pr. 1 million inputtokens og $0,50 pr. 1 million outputtokens sammenlignet med $1 og $5 for Haiku 4.5. En agent, der bruger 10 millioner inputtokens og 2 millioner outputtokens om måneden, kostede tidligere $20; nu koster den $2, forudsat at forespørgslerne er kortere end 100.000 tokens. Anthropic anslår den gennemsnitlige besparelse til 75 %.

Giv den rutineopgaver for agenter: sortering af indgående forespørgsler eller opsummering af en kundesamtale til en leder. En stærk model bør selvfølgelig stå for tænkningen; en enklere model kan håndtere udførelsen.

I Hermes-eksemplet, der beskrives her, tildeles lettere opgaver mindre kompetente modeller, mens de mest krævende opgaver går til de mest intelligente modeller. Tokenbesparelserne i det eksempel nåede 80 %.

Hvad blev lanceret den 7. oktober, og hvad koster Haiku 5.5?#

Hvis du bruger Claude Code via Anthropic API, behøver du ikke at ændre noget: Siden v2.1.293, der blev udgivet samme dag, har Haiku 5.5 været standardmodellen for Haiku dér. Alt, der kørte på Haiku, kører allerede på en model, der koster op til 10 gange mindre pr. token.

Modellen claude-haiku-5-5 kan læse op til 1 million tokens ad gangen og generere et svar på op til 128.000 tokens. For første gang har Haiku en indstilling for indsats: hvor meget modellen tænker. Den er tilgængelig via Claude API, Amazon Bedrock, Google Cloud og Microsoft Foundry.

Besparelsen gælder forespørgsler på op til 100.000 tokens, som ifølge Anthropic udgør omkring 90 % af forespørgslerne til den tidligere Haiku-model. For længere forespørgsler er prisen 5 gange højere.

De, der fortsætter med Sonnet 5.5, betaler også mindre: Prisen for cachelæsninger er halveret fra $0,20 til $0,10 pr. 1 million tokens, og Anthropic oplyser, at agentopgaver koster omkring 20 % mindre.

Hvad det betyder for din agent, og hvordan du prøver det#

Anthropic anbefaler selv modellen til denne type rutinearbejde og som assistent for Opus 5.5 og Sonnet 5.5. Du kan give enkle rutineopgaver til billigere modeller, og det bør du gøre. Du ville ikke sende en virksomhedsleder ud for at købe brød.

Anthropic anbefaler at lade Sonnet og Opus håndtere komplekse agentopgaver. I Terminal-Bench 4.0, hvor modellen løser kommandolinjeopgaver i flere trin, scorer Haiku 5.5 39,2 % mod 70,6 % for Sonnet 5.5. I OSWorld, hvor modellen selv betjener en computer, er forbedringen markant: 72,4 % sammenlignet med 15,7 % for Haiku 4.5, selvom den stadig ligger under Sonnet 5.5's 83,9 %.

Sådan prøver du det

1. Vælg 1 rutineopgave, for eksempel sortering af indgående forespørgsler. Indstil modellens trin til claude-haiku-5-5, og lad de andre trin være uændrede.
2. Hvis din kode er skrevet til Haiku 4.5, skal du fjerne den manuelle indstilling for tænkning budget_tokens: I 5.5 udløser den en 400-fejl. Adaptiv tænkning er slået til som standard i den nye model.
3. Begynd med standardindstillingen for indsats, medium. Sænk den kun, hvis kvaliteten holder.
4. Kør 10–20 af de samme opgaver, som den tidligere model håndterede, gennem Haiku 5.5. Sammenlign svarenes kvalitet — om en forespørgsel mangler, eller om en vigtig detalje er udeladt af en opsummering — og regningen for de opgaver i dit Anthropic-dashboard.

Der er et forbehold. Haiku 5.5 bruger en ny måde at tælle tokens på (se Anthropics udgivelsesnoter), så den samme tekst kan tælle som flere tokens, og den faktiske besparelse kan blive mindre end 75 %.

Du kan også prøve den gratis. I løbet af en uge giver Anthropic Max- og Team-abonnenter en månedlig API-kredit: $100 for Max 5x, $200 for Max 20x og op til $500, der deles i et Team, og som kan bruges på enhver model. Du kan gøre krav på den under Indstillinger → Fakturering; ubrugt kredit overføres ikke.

En praktisk tilgang: en enklere model eller en måde at betale mindre på#

Den tilgang til tidligere Haiku-versioner, der beskrives her, var enkel: Det er en meget simpel model til simple opgaver; brug den ikke til udvikling. Vælg den stærkeste model til hovedarbejdet i stedet for at skifte til Sonnet for at spare penge: Resultatet er vigtigt. Rutineopgaver for agenter i Hermes går til gratis eller meget billige modeller.

Tildel på samme måde kun Haiku 5.5 trinnet med sortering af indgående forespørgsler: Tilslut den sammen med en stærk model, og bed agenten bruge den til de nemmeste opgaver.

Rækkefølgen er: Begynd med de dyreste muligheder, og sænk derefter omkostningerne. Få et resultat med en stærk model, og flyt derefter opgaver over til Haiku 5.5 én ad gangen, mens du holder øje med et fald i kvaliteten.

Det forbedrer ikke i sig selv opgaveudførelsen at skifte modeller regelmæssigt; nogle gange gør det det modsatte. I denne tilgang er den model, du har, ikke det vigtigste. Det er dine instruktioner.

Hvilken rutineopgave ville du først flytte til Haiku 5.5? Sammenlign resultatet for det trin med din agents nuværende resultat.

Yderligere materiale findes på Ailoot.