Ternary Bonsai 2 27B adalah model penalaran low-bit dari PrismML yang berbasis arsitektur Qwen3.8 27B. Model ini dirancang untuk menghadirkan penalaran teks, pemrograman, pemahaman visual, dan pekerjaan berorientasi agen ke penerapan lokal yang lebih kecil. Model bahasa menghasilkan teks dan permintaan pemanggilan alat; masukan gambar menggunakan komponen visual yang disediakan secara terpisah.
Model ini menggunakan tulang punggung atensi hibrida, dengan sekitar tiga perempat atensi linear dan seperempat atensi penuh, serta konteks 262K token. Bobot bahasa ternary memiliki nilai minus satu, nol, atau plus satu dengan penskalaan bersama. Rotasi basis bobot yang tersimpan memerlukan transformasi aktivasi yang sesuai dalam runtime. Ini merupakan representasi model dan persyaratan runtime, bukan sekadar ekstensi berkas yang lebih kecil.
Pengembang menyediakan dua pengemasan GGUF: trit padat dalam PTQ1_0 menempati 5,95 GB, sedangkan PQ2_0 menyimpan trit dalam slot dua bit dan menempati 7,21 GB. Paket visual Q8_0 opsional menambahkan sekitar 0,63 GB. Pengemasan tersebut memiliki biaya pembongkaran dan perilaku perangkat keras yang berbeda, sehingga pengemasan yang lebih kecil tidak selalu lebih cepat. Ini adalah ukuran artefak yang diterbitkan; konteks dan buffer kerja suatu tugas memerlukan memori tambahan.
Pemikiran diaktifkan secara bawaan. Pengembang menyebut xhigh sebagai tingkat upaya penalaran bawaan dan medium sebagai opsi untuk respons lebih singkat; low tidak didukung dan perilakunya mendekati xhigh. Pengembang juga membedakan pengaturan generasi dengan pemikiran dan tanpa pemikiran. Sisakan ruang untuk tahap penalaran dan jawaban akhir: alokasi generasi yang kecil dapat berakhir saat pemikiran masih berlangsung sebelum jawaban muncul.
Untuk tugas repositori, berikan berkas yang relevan sebagai teks, perilaku yang perlu diubah, dan kegagalan yang diamati. Minta usulan perubahan dan pemeriksaan yang dapat membedakan koreksi dari masalah baru. Dalam aplikasi yang terhubung dengan alat, kembalikan hasil alat yang telah dijalankan sebelum keputusan berikutnya. Untuk analisis dokumen, sebutkan bagian yang perlu dibandingkan dan bidang atau kesimpulan yang harus dimuat jawaban.
Untuk tugas gambar, berikan masukan visual dengan pertanyaan yang berkaitan dengan sesuatu yang terlihat di dalamnya. Hasil yang berguna mengidentifikasi ciri yang diamati dan menghubungkannya dengan kesimpulan yang diminta. Pisahkan bukti visual tersebut dari fakta yang berasal dari sumber eksternal atau tindakan yang diusulkan. Komponen visual mendukung interpretasi gambar; komponen ini tidak mengubah permintaan alat yang dihasilkan menjadi tindakan yang telah dijalankan.
Berkas GGUF yang diterbitkan memerlukan dukungan runtime low-bit dari pengembang. Pengembang mencatat bahwa runtime tanpa modifikasi dapat menolak tipe tersebut atau mendekodenya secara keliru karena rotasi yang sesuai tidak tersedia. Karena itu, pemilihan model lokal mencakup pengemasan yang sesuai, komponen visual, dan runtime yang kompatibel. Format hasil konversi terpisah dan model draft pendamping adalah artefak berbeda, bukan sifat yang dijamin oleh nama model umum.
", "aboutText": "Ternary Bonsai 2 27B adalah model penalaran low-bit dari PrismML yang berbasis arsitektur Qwen3.8 27B. Model ini dirancang untuk menghadirkan penalaran teks, pemrograman, pemahaman visual, dan pekerjaan berorientasi agen ke penerapan lokal yang lebih kecil. Model bahasa menghasilkan teks dan permintaan pemanggilan alat; masukan gambar menggunakan komponen visual yang disediakan secara terpisah.\n\nModel ini menggunakan tulang punggung atensi hibrida, dengan sekitar tiga perempat atensi linear dan seperempat atensi penuh, serta konteks 262K token. Bobot bahasa ternary memiliki nilai minus satu, nol, atau plus satu dengan penskalaan bersama. Rotasi basis bobot yang tersimpan memerlukan transformasi aktivasi yang sesuai dalam runtime. Ini merupakan representasi model dan persyaratan runtime, bukan sekadar ekstensi berkas yang lebih kecil.\n\nPengembang menyediakan dua pengemasan GGUF: trit padat dalam PTQ1_0 menempati 5,95 GB, sedangkan PQ2_0 menyimpan trit dalam slot dua bit dan menempati 7,21 GB. Paket visual Q8_0 opsional menambahkan sekitar 0,63 GB. Pengemasan tersebut memiliki biaya pembongkaran dan perilaku perangkat keras yang berbeda, sehingga pengemasan yang lebih kecil tidak selalu lebih cepat. Ini adalah ukuran artefak yang diterbitkan; konteks dan buffer kerja suatu tugas memerlukan memori tambahan.\n\nPemikiran diaktifkan secara bawaan. Pengembang menyebut xhigh sebagai tingkat upaya penalaran bawaan dan medium sebagai opsi untuk respons lebih singkat; low tidak didukung dan perilakunya mendekati xhigh. Pengembang juga membedakan pengaturan generasi dengan pemikiran dan tanpa pemikiran. Sisakan ruang untuk tahap penalaran dan jawaban akhir: alokasi generasi yang kecil dapat berakhir saat pemikiran masih berlangsung sebelum jawaban muncul.\n\nUntuk tugas repositori, berikan berkas yang relevan sebagai teks, perilaku yang perlu diubah, dan kegagalan yang diamati. Minta usulan perubahan dan pemeriksaan yang dapat membedakan koreksi dari masalah baru. Dalam aplikasi yang terhubung dengan alat, kembalikan hasil alat yang telah dijalankan sebelum keputusan berikutnya. Untuk analisis dokumen, sebutkan bagian yang perlu dibandingkan dan bidang atau kesimpulan yang harus dimuat jawaban.\n\nUntuk tugas gambar, berikan masukan visual dengan pertanyaan yang berkaitan dengan sesuatu yang terlihat di dalamnya. Hasil yang berguna mengidentifikasi ciri yang diamati dan menghubungkannya dengan kesimpulan yang diminta. Pisahkan bukti visual tersebut dari fakta yang berasal dari sumber eksternal atau tindakan yang diusulkan. Komponen visual mendukung interpretasi gambar; komponen ini tidak mengubah permintaan alat yang dihasilkan menjadi tindakan yang telah dijalankan.\n\nBerkas GGUF yang diterbitkan memerlukan dukungan runtime low-bit dari pengembang. Pengembang mencatat bahwa runtime tanpa modifikasi dapat menolak tipe tersebut atau mendekodenya secara keliru karena rotasi yang sesuai tidak tersedia. Karena itu, pemilihan model lokal mencakup pengemasan yang sesuai, komponen visual, dan runtime yang kompatibel. Format hasil konversi terpisah dan model draft pendamping adalah artefak berbeda, bukan sifat yang dijamin oleh nama model umum.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknis dalam bahasa Inggris
Correct a binary-search boundary\n\nReview this Python binary search: lo=0; hi=len(a); while lo <= hi: mid=(lo+hi)//2; compare a[mid] with target. An empty list can index out of range. Propose a complete corrected function for a sorted ascending list, returning an index or -1, and tests for empty, missing and endpoint targets.A corrected binary-search function, a boundary explanation and representative tests.Check that every accessed index is within the list and that the loop terminates when the target is absent.prism-ml/ternary-bonsai-2-27bTernary Bonsai 2 27B dari PrismML memampatkan model penalaran dan visi-bahasa berbasis Qwen3.8 menjadi bobot ternary. Model ini mempertahankan konteks 262K, perilaku pemikiran dan pemanggilan alat, dengan pengemasan model bahasa terpisah serta komponen visual opsional.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Ternary Bonsai 2 27B adalah model penalaran low-bit dari PrismML yang berbasis arsitektur Qwen3.8 27B. Model ini dirancang untuk menghadirkan penalaran teks, pemrograman, pemahaman visual, dan pekerjaan berorientasi agen ke penerapan lokal yang lebih kecil. Model bahasa menghasilkan teks dan permintaan pemanggilan alat; masukan gambar menggunakan komponen visual yang disediakan secara terpisah.
Model ini menggunakan tulang punggung atensi hibrida, dengan sekitar tiga perempat atensi linear dan seperempat atensi penuh, serta konteks 262K token. Bobot bahasa ternary memiliki nilai minus satu, nol, atau plus satu dengan penskalaan bersama. Rotasi basis bobot yang tersimpan memerlukan transformasi aktivasi yang sesuai dalam runtime. Ini merupakan representasi model dan persyaratan runtime, bukan sekadar ekstensi berkas yang lebih kecil.
Pengembang menyediakan dua pengemasan GGUF: trit padat dalam PTQ1_0 menempati 5,95 GB, sedangkan PQ2_0 menyimpan trit dalam slot dua bit dan menempati 7,21 GB. Paket visual Q8_0 opsional menambahkan sekitar 0,63 GB. Pengemasan tersebut memiliki biaya pembongkaran dan perilaku perangkat keras yang berbeda, sehingga pengemasan yang lebih kecil tidak selalu lebih cepat. Ini adalah ukuran artefak yang diterbitkan; konteks dan buffer kerja suatu tugas memerlukan memori tambahan.
Pemikiran diaktifkan secara bawaan. Pengembang menyebut xhigh sebagai tingkat upaya penalaran bawaan dan medium sebagai opsi untuk respons lebih singkat; low tidak didukung dan perilakunya mendekati xhigh. Pengembang juga membedakan pengaturan generasi dengan pemikiran dan tanpa pemikiran. Sisakan ruang untuk tahap penalaran dan jawaban akhir: alokasi generasi yang kecil dapat berakhir saat pemikiran masih berlangsung sebelum jawaban muncul.
Untuk tugas repositori, berikan berkas yang relevan sebagai teks, perilaku yang perlu diubah, dan kegagalan yang diamati. Minta usulan perubahan dan pemeriksaan yang dapat membedakan koreksi dari masalah baru. Dalam aplikasi yang terhubung dengan alat, kembalikan hasil alat yang telah dijalankan sebelum keputusan berikutnya. Untuk analisis dokumen, sebutkan bagian yang perlu dibandingkan dan bidang atau kesimpulan yang harus dimuat jawaban.
Untuk tugas gambar, berikan masukan visual dengan pertanyaan yang berkaitan dengan sesuatu yang terlihat di dalamnya. Hasil yang berguna mengidentifikasi ciri yang diamati dan menghubungkannya dengan kesimpulan yang diminta. Pisahkan bukti visual tersebut dari fakta yang berasal dari sumber eksternal atau tindakan yang diusulkan. Komponen visual mendukung interpretasi gambar; komponen ini tidak mengubah permintaan alat yang dihasilkan menjadi tindakan yang telah dijalankan.
Berkas GGUF yang diterbitkan memerlukan dukungan runtime low-bit dari pengembang. Pengembang mencatat bahwa runtime tanpa modifikasi dapat menolak tipe tersebut atau mendekodenya secara keliru karena rotasi yang sesuai tidak tersedia. Karena itu, pemilihan model lokal mencakup pengemasan yang sesuai, komponen visual, dan runtime yang kompatibel. Format hasil konversi terpisah dan model draft pendamping adalah artefak berbeda, bukan sifat yang dijamin oleh nama model umum.
POST /v1/chat/completionstexttext| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan prism-ml/ternary-bonsai-2-27b | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan Item minimum: 1 | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan Contoh: system, user, assistant, tool, function Kondisi: Peran ini direpresentasikan secara eksplisit oleh tipe kompatibilitas dalam kode sumber; kumpulan peran model yang tepat tetap khusus untuk tiap model. Bergantung pada model | Bawaan— |
Kolommessages[].content | Jenisstring|content_part[]|null | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_calls | Jenistool_call[] | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_call_id | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: role=tool; gunakan ID yang benar-benar dikembalikan | Bawaan— |
Kolommessages[].name | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].reasoning_content | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: Kirim kembali penalaran yang benar-benar dikembalikan jika model ini menggunakannya | Bawaan— |
Kolommessages[].reasoning_details | Jenisobject|array | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolommax_completion_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Kolomstream_options.include_usage | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtemperature | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtop_p | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomstop | Jenisstring|string[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools | Jenisfunction_tool[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools[].type | Jenisstring | PersyaratanOpsional | Nilai & batasan function Bergantung pada model | Bawaan— |
Kolomtools[].function.name | Jenisstring | PersyaratanWajib | Nilai & batasan Berlaku jika: alat fungsi disediakan | Bawaan— |
Kolomtools[].function.description | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtools[].function.parameters | JenisJSON_schema | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtool_choice | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomparallel_tool_calls | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomresponse_format | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning_effort | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomservice_tier | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolominstructions | Jenisstring | PersyaratanOpsional | Nilai & batasan Kolom kompatibilitas | Bawaan— |
Kolomfunctions | Jenisfunction[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomfunction_call | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomprompt_cache_options | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommodalities | Jenisstring[] | PersyaratanOpsional | Nilai & batasan text | Bawaan— |
Kolomprovider | Jenisobject | PersyaratanOpsional | Nilai & batasan Kondisi: provider.options ditolak pada rute teks Ultra ini | Bawaan— |
Kolomcache_control.ttl | Jenisstring | PersyaratanOpsional | Nilai & batasan Kondisi: 1h ditolak pada lokasi cache prompt yang digunakan | Bawaan— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontrakarray pesan dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 yang sebenarnya dimasukkan sebagai teks apa adanya; ID file tidak disimpulkan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeda dari alat yang dihosting |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Siklus hidup: synchronous_or_streamed
Kirim ID model yang tepat bersama messages.
Panjang konteks bukan batas keluaran.
File teks dapat menyediakan teks apa adanya; masukan gambar/audio/objek file memerlukan pengikatan yang tepat.
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Token konteks, lebih dari | Token konteks, hingga dan termasuk | Biaya |
|---|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Token konteks, lebih dari— | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.00015 / 1K token Keluaran · Token keluaran $0.001 / 1K token Masukan · Pembacaan cache $0.000075 / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiPanjang permintaan · tingkat 1 | Jadwal tarif— | Token konteks, lebih dari0 | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.00015 / 1K token Keluaran · Token keluaran $0.001 / 1K token Masukan · Pembacaan cache $0.000075 / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "prism-ml/ternary-bonsai-2-27b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='prism-ml/ternary-bonsai-2-27b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='prism-ml/ternary-bonsai-2-27b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap alternatif jawaban beserta konten, panggilan alat, dan penalarannya. Dalam SSE, gabungkan delta menurut indeks alternatif jawaban/alat, lalu pertahankan alasan penghentian akhir dan data penggunaan.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomchoices[].index | Jenisinteger |
Kolomchoices[].message.content | Jenisstring|null |
Kolomchoices[].message.tool_calls | Jenistool_call[] |
Kolomchoices[].message.reasoning_content | Jenisstring |
Kolomchoices[].message.reasoning_details | Jenisobject|array |
Kolomchoices[].finish_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra prism-ml/ternary-bonsai-2-27b
Gunakan jalur metode yang ditampilkan di atas.
prism-ml/ternary-bonsai-2-27bTernary Bonsai 2 27B dari PrismML memampatkan model penalaran dan visi-bahasa berbasis Qwen3.8 menjadi bobot ternary. Model ini mempertahankan konteks 262K, perilaku pemikiran dan pemanggilan alat, dengan pengemasan model bahasa terpisah serta komponen visual opsional.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Ternary Bonsai 2 27B adalah model penalaran low-bit dari PrismML yang berbasis arsitektur Qwen3.8 27B. Model ini dirancang untuk menghadirkan penalaran teks, pemrograman, pemahaman visual, dan pekerjaan berorientasi agen ke penerapan lokal yang lebih kecil. Model bahasa menghasilkan teks dan permintaan pemanggilan alat; masukan gambar menggunakan komponen visual yang disediakan secara terpisah.
Model ini menggunakan tulang punggung atensi hibrida, dengan sekitar tiga perempat atensi linear dan seperempat atensi penuh, serta konteks 262K token. Bobot bahasa ternary memiliki nilai minus satu, nol, atau plus satu dengan penskalaan bersama. Rotasi basis bobot yang tersimpan memerlukan transformasi aktivasi yang sesuai dalam runtime. Ini merupakan representasi model dan persyaratan runtime, bukan sekadar ekstensi berkas yang lebih kecil.
Pengembang menyediakan dua pengemasan GGUF: trit padat dalam PTQ1_0 menempati 5,95 GB, sedangkan PQ2_0 menyimpan trit dalam slot dua bit dan menempati 7,21 GB. Paket visual Q8_0 opsional menambahkan sekitar 0,63 GB. Pengemasan tersebut memiliki biaya pembongkaran dan perilaku perangkat keras yang berbeda, sehingga pengemasan yang lebih kecil tidak selalu lebih cepat. Ini adalah ukuran artefak yang diterbitkan; konteks dan buffer kerja suatu tugas memerlukan memori tambahan.
Pemikiran diaktifkan secara bawaan. Pengembang menyebut xhigh sebagai tingkat upaya penalaran bawaan dan medium sebagai opsi untuk respons lebih singkat; low tidak didukung dan perilakunya mendekati xhigh. Pengembang juga membedakan pengaturan generasi dengan pemikiran dan tanpa pemikiran. Sisakan ruang untuk tahap penalaran dan jawaban akhir: alokasi generasi yang kecil dapat berakhir saat pemikiran masih berlangsung sebelum jawaban muncul.
Untuk tugas repositori, berikan berkas yang relevan sebagai teks, perilaku yang perlu diubah, dan kegagalan yang diamati. Minta usulan perubahan dan pemeriksaan yang dapat membedakan koreksi dari masalah baru. Dalam aplikasi yang terhubung dengan alat, kembalikan hasil alat yang telah dijalankan sebelum keputusan berikutnya. Untuk analisis dokumen, sebutkan bagian yang perlu dibandingkan dan bidang atau kesimpulan yang harus dimuat jawaban.
Untuk tugas gambar, berikan masukan visual dengan pertanyaan yang berkaitan dengan sesuatu yang terlihat di dalamnya. Hasil yang berguna mengidentifikasi ciri yang diamati dan menghubungkannya dengan kesimpulan yang diminta. Pisahkan bukti visual tersebut dari fakta yang berasal dari sumber eksternal atau tindakan yang diusulkan. Komponen visual mendukung interpretasi gambar; komponen ini tidak mengubah permintaan alat yang dihasilkan menjadi tindakan yang telah dijalankan.
Berkas GGUF yang diterbitkan memerlukan dukungan runtime low-bit dari pengembang. Pengembang mencatat bahwa runtime tanpa modifikasi dapat menolak tipe tersebut atau mendekodenya secara keliru karena rotasi yang sesuai tidak tersedia. Karena itu, pemilihan model lokal mencakup pengemasan yang sesuai, komponen visual, dan runtime yang kompatibel. Format hasil konversi terpisah dan model draft pendamping adalah artefak berbeda, bukan sifat yang dijamin oleh nama model umum.
POST /v1/messagestextjson, sse| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan prism-ml/ternary-bonsai-2-27b | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan user, assistant | Bawaan— |
Kolommessages[].content | Jenisstring | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Teks · Teks UTF-8
string messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 yang sebenarnya dan masukkan teksnya ke string masukan atau konten pesan yang ditunjukkan. |
Siklus hidup: synchronous_or_streamed
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Token konteks, lebih dari | Token konteks, hingga dan termasuk | Biaya |
|---|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Token konteks, lebih dari— | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.00015 / 1K token Keluaran · Token keluaran $0.001 / 1K token Masukan · Pembacaan cache $0.000075 / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiPanjang permintaan · tingkat 1 | Jadwal tarif— | Token konteks, lebih dari0 | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.00015 / 1K token Keluaran · Token keluaran $0.001 / 1K token Masukan · Pembacaan cache $0.000075 / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
{\n "model": "prism-ml/ternary-bonsai-2-27b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'prism-ml/ternary-bonsai-2-27b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'prism-ml/ternary-bonsai-2-27b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan semua blok konten, tanda tangan penalaran, dan ID penggunaan alat yang sebenarnya. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan keluaran.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomid | Jenisstring |
Kolommodel | Jenisstring |
Kolomcontent[] | Jenistext|thinking|tool_use|other content block |
Kolomstop_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra prism-ml/ternary-bonsai-2-27b
Gunakan jalur metode yang ditampilkan di atas.
Contoh teknis dalam bahasa Inggris
Correct a binary-search boundary\n\nReview this Python binary search: lo=0; hi=len(a); while lo <= hi: mid=(lo+hi)//2; compare a[mid] with target. An empty list can index out of range. Propose a complete corrected function for a sorted ascending list, returning an index or -1, and tests for empty, missing and endpoint targets.A corrected binary-search function, a boundary explanation and representative tests.Check that every accessed index is within the list and that the loop terminates when the target is absent.