部落格

Claude Haiku 5.5:價格,以及適合交給較便宜模型的代理任務

Markdown

Claude Haiku 5.5 於 10 月 7 日推出:每 100 萬個輸入 token 收費 $0.10,平均比 Haiku 4.5 便宜 75%。哪些例行代理任務適合交給它?它又有哪些較弱之處?

閱讀全文

Claude Haiku 5.5 於 10 月 7 日推出:每 100 萬個輸入 token 收費 $0.10,每 100 萬個輸出 token 收費 $0.50;Haiku 4.5 則分別是 $1 和 $5。每月使用 1,000 萬個輸入 token 和 200 萬個輸出 token 的代理,以前每月費用是 $20;現在是 $2,前提是請求長度低於 100,000 個 token。Anthropic 表示,平均可省下 75%。

把例行代理工作交給它,例如分類收到的請求,或為主管摘要客戶對話。當然,思考工作應交給強大的模型;較簡單的模型則可以負責執行。

本文介紹的 Hermes 範例會將較簡單的任務交給能力較弱的模型,最具挑戰性的任務則交給最聰明的模型。該範例的 token 節省幅度達到 80%。

重點

Haiku 5.5 平均比 Haiku 4.5 便宜 75%:處理最多 100,000 個 token 請求的代理,每月費用是 $2,而非 $20。它適合分類收到的請求和摘要對話。複雜的程式設計工作交給 Sonnet 5.5 或 Opus 5.5。一次移動一個步驟,並比較費用。

10 月 7 日推出的內容,以及 Haiku 5.5 的費用

如果你透過 Anthropic API 使用 Claude Code,就不需要切換任何設定:從同日推出的 v2.1.293 開始,當中的預設 Haiku 模型就是 Haiku 5.5。原本在 Haiku 上執行的所有工作,現在都已在每個 token 費用最多便宜 10 倍的模型上執行。

claude-haiku-5-5 模型一次最多可以讀取 100 萬個 token,並產生最多 128,000 個 token 的回應。Haiku 首次加入 effort 設定,用來控制模型思考的程度。此模型可透過 Claude API、Amazon Bedrock、Google Cloud 和 Microsoft Foundry 使用。

每 100 萬個 token 的價格Haiku 5.5,請求最多 100kHaiku 5.5,請求超過 100kHaiku 4.5Sonnet 5.5
輸入$0.10$0.50$1.00$2.00
輸出$0.50$2.50$5.00$10.00
快取讀取$0.01$0.05$0.10$0.10
快取寫入$0.125$0.625$1.25$2.50

這項省費適用於最多 100,000 個 token 的請求。Anthropic 表示,這類請求約占先前 Haiku 請求的 90%。較長請求的價格則高出 5 倍。

繼續使用 Sonnet 5.5 也能省錢:每 100 萬個 token 的快取讀取費用減半,從 $0.20 降至 $0.10;Anthropic 表示,代理任務的費用約降低 20%。

Ailoot 文件 — 使用這項服務的參考資料。

這對你的代理有何影響,以及如何試用

Anthropic 本身建議將此模型用於這類例行工作,也可作為 Opus 5.5 和 Sonnet 5.5 的助手。簡單的例行工作可以交給較便宜的模型,而且你也應該這麼做。你不會派公司主管出去買麵包。

Anthropic 建議將複雜的代理任務交給 Sonnet 和 Opus。在 Terminal-Bench 4.0 中,模型需要解決多步驟的命令列任務;Haiku 5.5 的得分是 39.2%,Sonnet 5.5 則是 70.6%。在 OSWorld 中,模型需要自行操作電腦,Haiku 5.5 的進步很大:得分為 72.4%,而 Haiku 4.5 是 15.7%;不過仍低於 Sonnet 5.5 的 83.9%。

如何試用

  1. 選擇 1 個例行步驟,例如分類收到的請求。將該步驟的模型設為 claude-haiku-5-5,其他步驟維持不變。
  2. 如果你的程式碼是為 Haiku 4.5 撰寫的,請移除手動思考設定 budget_tokens:在 5.5 上使用它會產生 400 錯誤。新模型預設已啟用自適應思考。
  3. 先使用預設的 effort 設定 medium。只有在品質維持不變時,才調低設定。
  4. 將先前由舊模型處理過的同一批任務中的 10–20 個交給 Haiku 5.5。比較回答品質——檢查是否有請求遭到遺漏,或摘要是否漏掉重要細節——並在 Anthropic 控制面板中查看這些任務的費用。

有一點需要注意。Haiku 5.5 採用新的 token 計算方式(請參閱 Anthropic 的版本說明),因此相同文字可能會被算成更多 token,實際節省幅度也可能低於 75%。

你也可以免費試用。Anthropic 將在一週內提供 Max 和 Team 訂閱者每月 API 額度:Max 5x 為 $100、Max 20x 為 $200,Team 則可共享最高 $500 的額度,且任何模型都能使用。可以前往 Settings → Billing 領取;未使用的額度不會累積到下個月。

實用做法:使用較簡單的模型,或尋找省錢方法

早期 Haiku 版本的基本用法很直接:它是處理簡單任務的非常簡單模型;不要用來開發。與其為了省錢而將主要工作改交 Sonnet,不如選擇最強的模型:成果才是重點。在 Hermes 中,例行代理工作會交給免費或非常便宜的模型。

同樣地,只把分類收到的請求這個步驟交給 Haiku 5.5:將它與強大的模型一起連接,並告訴代理讓它處理最簡單的任務。

步驟是:先從最昂貴的選項開始,再逐步降低成本。先用強大的模型取得成果,接著一次將一個步驟移交給 Haiku 5.5,並留意品質是否下降。

經常切換模型本身不會提升任務表現;有時反而會讓表現變差。在這種做法中,你使用的模型不是最重要的因素,重要的是你的指示。

你會先把哪個例行任務交給 Haiku 5.5?將那個步驟的結果與代理目前的結果比較。

常見問題

我應該選擇哪個 effort 設定?

預設值是 medium;推理功能無法停用。

來源

更多資料請見 Ailoot。

更多詳情

常見問題:Claude Haiku 5.5:價格,以及適合交給較便宜模型的代理任務

實際節省為什麼可能低於標題百分比?

請求長度層級與 token 數影響帳單。本文短請求價適用至 100,000 token,長請求較貴,新計數也可能改變同文字用量。

現有代理如何測 Haiku?

只移一個例行步驟,例如來件分類,主流程保持。比較 10–20 項匹配任務的漏項、品質與實際帳單,再移更多。

所有文章