Claude Haiku 5.5: harga dan tugasan ejen yang patut diberikan kepada model lebih murah

Claude Haiku 5.5 dilancarkan pada 7 Oktober: $0.10 bagi setiap 1 juta token input dan $0.50 bagi setiap 1 juta token output, berbanding $1 dan $5 untuk Haiku 4.5. Ejen yang menggunakan 10 juta token input dan 2 juta token output sebulan dahulunya menelan kos $20; kini kosnya $2, dengan syarat permintaannya kurang daripada 100,000 token. Anthropic meletakkan purata penjimatan pada 75%.

Berikan kerja ejen rutin kepadanya: mengisih permintaan masuk atau meringkaskan perbualan pelanggan untuk seorang pengurus. Sudah tentu, model berkuasa patut melakukan kerja berfikir; model yang lebih ringkas boleh mengendalikan pelaksanaan.

Dalam contoh Hermes yang dihuraikan di sini, tugasan yang lebih mudah diberikan kepada model yang kurang berkemampuan, manakala tugasan paling mencabar diberikan kepada model paling pintar. Penjimatan token dalam contoh itu mencecah 80%.

Apa yang dilancarkan pada 7 Oktober dan kos Haiku 5.5#

Jika anda menggunakan Claude Code melalui API Anthropic, anda tidak perlu menukar apa-apa: sejak v2.1.293, yang dikeluarkan pada hari yang sama, model Haiku lalai di situ ialah Haiku 5.5. Semua yang berjalan pada Haiku kini sudah berjalan pada model yang kosnya sehingga 10 kali lebih rendah bagi setiap token.

Model claude-haiku-5-5 boleh membaca sehingga 1 juta token sekali gus dan menghasilkan respons sehingga 128,000 token. Buat pertama kalinya, Haiku mempunyai tetapan usaha: sejauh mana model itu berfikir. Ia tersedia melalui Claude API, Amazon Bedrock, Google Cloud dan Microsoft Foundry.

Penjimatan ini terpakai kepada permintaan sehingga 100,000 token, yang menurut Anthropic merangkumi kira-kira 90% permintaan kepada Haiku terdahulu. Bagi permintaan yang lebih panjang, harganya 5 kali lebih tinggi.

Mereka yang kekal menggunakan Sonnet 5.5 juga membayar lebih rendah: harga bacaan cache telah dipotong separuh, daripada $0.20 kepada $0.10 bagi setiap 1 juta token, dan Anthropic menyatakan bahawa tugasan agentik kosnya kira-kira 20% lebih rendah.

Perubahan untuk ejen anda dan cara mencubanya#

Anthropic sendiri mengesyorkan model ini untuk kerja rutin seperti ini dan sebagai pembantu kepada Opus 5.5 serta Sonnet 5.5. Anda boleh memberikan kerja rutin yang mudah kepada model lebih murah, dan memang patut berbuat demikian. Anda tentu tidak akan menghantar pengarah syarikat keluar untuk membeli roti.

Anthropic mengesyorkan agar tugasan ejen yang kompleks kekal menggunakan Sonnet dan Opus. Dalam Terminal-Bench 4.0, tempat model menyelesaikan tugasan baris perintah berbilang langkah, Haiku 5.5 mendapat skor 39.2%, berbanding 70.6% untuk Sonnet 5.5. Dalam OSWorld, tempat model mengendalikan komputer sendiri, peningkatannya besar: 72.4%, berbanding 15.7% untuk Haiku 4.5, walaupun masih di bawah 83.9% yang dicapai Sonnet 5.5.

Cara mencubanya

1. Pilih 1 langkah rutin, seperti mengisih permintaan masuk. Tetapkan modelnya kepada claude-haiku-5-5 dan biarkan langkah lain seperti sedia ada.
2. Jika kod anda ditulis untuk Haiku 4.5, buang tetapan pemikiran manual budget_tokens: pada versi 5.5, tetapan itu menghasilkan ralat 400. Pemikiran adaptif didayakan secara lalai dalam model baharu ini.
3. Mulakan dengan tetapan usaha lalai, medium. Turunkannya hanya jika kualitinya kekal baik.
4. Jalankan 10–20 tugasan yang sama seperti yang dikendalikan oleh model terdahulu melalui Haiku 5.5. Bandingkan mutu jawapan—sama ada permintaan terlepas pandang atau butiran penting tertinggal daripada ringkasan—dan bil untuk tugasan tersebut dalam papan pemuka Anthropic anda.

Ada satu kekangan. Haiku 5.5 menggunakan kaedah pengiraan token baharu (lihat nota keluaran Anthropic), jadi teks yang sama mungkin dikira sebagai lebih banyak token dan penjimatan sebenar mungkin kurang daripada 75%.

Anda juga boleh mencubanya secara percuma. Sepanjang tempoh seminggu, Anthropic akan memberikan kredit API bulanan kepada pelanggan Max dan Team: $100 untuk Max 5x, $200 untuk Max 20x, dan sehingga $500 yang dikongsi merentas satu Team, boleh digunakan pada mana-mana model. Anda boleh menuntutnya di Settings → Billing; kredit yang tidak digunakan tidak dibawa ke bulan berikutnya.

Pendekatan praktikal: model yang lebih ringkas atau cara untuk membayar lebih rendah#

Pendekatan yang diterangkan di sini bagi versi Haiku terdahulu mudah: ia model yang sangat ringkas untuk tugasan mudah; jangan gunakannya untuk pembangunan. Pilih model terkuat untuk kerja utama, bukannya beralih kepada Sonnet untuk menjimatkan wang: hasilnya yang penting. Kerja ejen rutin dalam Hermes diberikan kepada model percuma atau sangat murah.

Begitu juga, berikan Haiku 5.5 hanya langkah mengisih permintaan masuk: sambungkannya bersama model berkuasa dan arahkan ejen supaya menggunakannya untuk tugasan paling mudah.

Turutannya begini: mulakan dengan pilihan paling mahal, kemudian kurangkan kos. Dapatkan hasil dengan model berkuasa, kemudian pindahkan langkah ke Haiku 5.5 satu demi satu dan perhatikan jika kualitinya merosot.

Bertukar model secara berkala tidak dengan sendirinya meningkatkan prestasi tugasan; kadangkala kesannya sebaliknya. Dalam pendekatan ini, model yang anda gunakan bukan perkara paling penting. Arahan anda yang penting.

Tugasan rutin yang manakah akan anda pindahkan kepada Haiku 5.5 dahulu? Bandingkan langkah itu dengan hasil semasa ejen anda.

Bahan tambahan tersedia di Ailoot.