Ternary Bonsai 2 27B ialah model penaakulan bit rendah PrismML yang berasaskan seni bina Qwen3.8 27B. Model ini direka untuk membawa penaakulan teks, pengekodan, pemahaman visual dan kerja berorientasikan ejen ke dalam pelaksanaan setempat yang lebih kecil. Model bahasa menjana teks dan permintaan panggilan alat; input imej menggunakan komponen penglihatan yang dibekalkan secara berasingan.
Model ini menggunakan teras perhatian hibrid, dengan kira-kira tiga perempat perhatian linear dan satu perempat perhatian penuh, serta konteks 262K token. Pemberat bahasa ternari mengambil nilai negatif satu, sifar atau positif satu dengan penskalaan yang dikongsi. Putaran asas pemberat yang disimpan memerlukan transformasi pengaktifan yang sepadan dalam masa jalan. Ini ialah keperluan representasi model dan masa jalan, bukan sekadar sambungan fail yang lebih kecil.
Pengeluar membekalkan dua pembungkusan GGUF: trit padat dalam PTQ1_0 menggunakan 5.95 GB, manakala PQ2_0 menyimpan trit dalam slot dua bit dan menggunakan 7.21 GB. Pakej penglihatan Q8_0 pilihan menambah kira-kira 0.63 GB. Pembungkusan itu mempunyai kos nyahbungkus dan tingkah laku perkakasan yang berbeza, jadi pembungkusan yang lebih kecil tidak semestinya lebih pantas dalam semua keadaan. Ini ialah saiz artifak yang diterbitkan; konteks tugasan dan penimbal kerja memerlukan memori tambahan.
Pemikiran diaktifkan secara lalai. Pembuat menerangkan xhigh sebagai tahap usaha penaakulan lalai dan medium sebagai pilihan untuk respons lebih pendek; low tidak disokong dan bertindak hampir seperti xhigh. Pembuat juga membezakan tetapan penjanaan dengan pemikiran dan tanpa pemikiran. Sediakan ruang untuk peringkat penaakulan dan jawapan akhir: peruntukan penjanaan yang kecil boleh tamat semasa pemikiran sebelum jawapan muncul.
Untuk tugasan repositori, bekalkan fail yang berkaitan sebagai teks, tingkah laku yang hendak diubah dan kegagalan yang diperhatikan. Minta cadangan perubahan dan semakan yang dapat membezakan pembetulan daripada masalah baharu. Dalam aplikasi yang disambungkan kepada alat, pulangkan hasil alat yang telah dilaksanakan sebelum keputusan seterusnya. Untuk analisis dokumen, namakan bahagian yang hendak dibandingkan dan medan atau kesimpulan yang perlu terkandung dalam jawapan.
Untuk tugasan imej, berikan input visual bersama soalan yang terikat pada sesuatu yang kelihatan di dalamnya. Hasil yang berguna mengenal pasti ciri yang diperhatikan dan menghubungkannya dengan kesimpulan yang diminta. Bezakan bukti visual itu daripada fakta yang berasal daripada sumber luaran atau tindakan yang dicadangkan. Komponen penglihatan menyokong tafsiran imej; komponen itu tidak menukar permintaan alat yang dijana menjadi tindakan yang telah dilaksanakan.
Fail GGUF yang diterbitkan memerlukan sokongan masa jalan bit rendah pengeluar. Pembuat menyatakan bahawa masa jalan yang tidak diubah suai boleh menolak jenisnya atau menyahkodnya secara salah kerana putaran sepadan tiada. Oleh itu, pemilihan model setempat merangkumi pembungkusan yang sesuai, komponen penglihatan dan masa jalan yang serasi. Format yang ditukar secara berasingan dan model draf pengiring ialah artifak tersendiri, bukannya sifat yang dijamin oleh nama model umum.
", "aboutText": "Ternary Bonsai 2 27B ialah model penaakulan bit rendah PrismML yang berasaskan seni bina Qwen3.8 27B. Model ini direka untuk membawa penaakulan teks, pengekodan, pemahaman visual dan kerja berorientasikan ejen ke dalam pelaksanaan setempat yang lebih kecil. Model bahasa menjana teks dan permintaan panggilan alat; input imej menggunakan komponen penglihatan yang dibekalkan secara berasingan.\n\nModel ini menggunakan teras perhatian hibrid, dengan kira-kira tiga perempat perhatian linear dan satu perempat perhatian penuh, serta konteks 262K token. Pemberat bahasa ternari mengambil nilai negatif satu, sifar atau positif satu dengan penskalaan yang dikongsi. Putaran asas pemberat yang disimpan memerlukan transformasi pengaktifan yang sepadan dalam masa jalan. Ini ialah keperluan representasi model dan masa jalan, bukan sekadar sambungan fail yang lebih kecil.\n\nPengeluar membekalkan dua pembungkusan GGUF: trit padat dalam PTQ1_0 menggunakan 5.95 GB, manakala PQ2_0 menyimpan trit dalam slot dua bit dan menggunakan 7.21 GB. Pakej penglihatan Q8_0 pilihan menambah kira-kira 0.63 GB. Pembungkusan itu mempunyai kos nyahbungkus dan tingkah laku perkakasan yang berbeza, jadi pembungkusan yang lebih kecil tidak semestinya lebih pantas dalam semua keadaan. Ini ialah saiz artifak yang diterbitkan; konteks tugasan dan penimbal kerja memerlukan memori tambahan.\n\nPemikiran diaktifkan secara lalai. Pembuat menerangkan xhigh sebagai tahap usaha penaakulan lalai dan medium sebagai pilihan untuk respons lebih pendek; low tidak disokong dan bertindak hampir seperti xhigh. Pembuat juga membezakan tetapan penjanaan dengan pemikiran dan tanpa pemikiran. Sediakan ruang untuk peringkat penaakulan dan jawapan akhir: peruntukan penjanaan yang kecil boleh tamat semasa pemikiran sebelum jawapan muncul.\n\nUntuk tugasan repositori, bekalkan fail yang berkaitan sebagai teks, tingkah laku yang hendak diubah dan kegagalan yang diperhatikan. Minta cadangan perubahan dan semakan yang dapat membezakan pembetulan daripada masalah baharu. Dalam aplikasi yang disambungkan kepada alat, pulangkan hasil alat yang telah dilaksanakan sebelum keputusan seterusnya. Untuk analisis dokumen, namakan bahagian yang hendak dibandingkan dan medan atau kesimpulan yang perlu terkandung dalam jawapan.\n\nUntuk tugasan imej, berikan input visual bersama soalan yang terikat pada sesuatu yang kelihatan di dalamnya. Hasil yang berguna mengenal pasti ciri yang diperhatikan dan menghubungkannya dengan kesimpulan yang diminta. Bezakan bukti visual itu daripada fakta yang berasal daripada sumber luaran atau tindakan yang dicadangkan. Komponen penglihatan menyokong tafsiran imej; komponen itu tidak menukar permintaan alat yang dijana menjadi tindakan yang telah dilaksanakan.\n\nFail GGUF yang diterbitkan memerlukan sokongan masa jalan bit rendah pengeluar. Pembuat menyatakan bahawa masa jalan yang tidak diubah suai boleh menolak jenisnya atau menyahkodnya secara salah kerana putaran sepadan tiada. Oleh itu, pemilihan model setempat merangkumi pembungkusan yang sesuai, komponen penglihatan dan masa jalan yang serasi. Format yang ditukar secara berasingan dan model draf pengiring ialah artifak tersendiri, bukannya sifat yang dijamin oleh nama model umum.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknikal dalam bahasa Inggeris
Correct a binary-search boundary\n\nReview this Python binary search: lo=0; hi=len(a); while lo <= hi: mid=(lo+hi)//2; compare a[mid] with target. An empty list can index out of range. Propose a complete corrected function for a sorted ascending list, returning an index or -1, and tests for empty, missing and endpoint targets.A corrected binary-search function, a boundary explanation and representative tests.Check that every accessed index is within the list and that the loop terminates when the target is absent.prism-ml/ternary-bonsai-2-27bTernary Bonsai 2 27B daripada PrismML memampatkan model penaakulan dan penglihatan-bahasa berasaskan Qwen3.8 kepada pemberat ternari. Model ini mengekalkan konteks 262K, pemikiran dan tingkah laku panggilan alat, dengan pembungkusan model bahasa yang berasingan dan komponen penglihatan pilihan.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Ternary Bonsai 2 27B ialah model penaakulan bit rendah PrismML yang berasaskan seni bina Qwen3.8 27B. Model ini direka untuk membawa penaakulan teks, pengekodan, pemahaman visual dan kerja berorientasikan ejen ke dalam pelaksanaan setempat yang lebih kecil. Model bahasa menjana teks dan permintaan panggilan alat; input imej menggunakan komponen penglihatan yang dibekalkan secara berasingan.
Model ini menggunakan teras perhatian hibrid, dengan kira-kira tiga perempat perhatian linear dan satu perempat perhatian penuh, serta konteks 262K token. Pemberat bahasa ternari mengambil nilai negatif satu, sifar atau positif satu dengan penskalaan yang dikongsi. Putaran asas pemberat yang disimpan memerlukan transformasi pengaktifan yang sepadan dalam masa jalan. Ini ialah keperluan representasi model dan masa jalan, bukan sekadar sambungan fail yang lebih kecil.
Pengeluar membekalkan dua pembungkusan GGUF: trit padat dalam PTQ1_0 menggunakan 5.95 GB, manakala PQ2_0 menyimpan trit dalam slot dua bit dan menggunakan 7.21 GB. Pakej penglihatan Q8_0 pilihan menambah kira-kira 0.63 GB. Pembungkusan itu mempunyai kos nyahbungkus dan tingkah laku perkakasan yang berbeza, jadi pembungkusan yang lebih kecil tidak semestinya lebih pantas dalam semua keadaan. Ini ialah saiz artifak yang diterbitkan; konteks tugasan dan penimbal kerja memerlukan memori tambahan.
Pemikiran diaktifkan secara lalai. Pembuat menerangkan xhigh sebagai tahap usaha penaakulan lalai dan medium sebagai pilihan untuk respons lebih pendek; low tidak disokong dan bertindak hampir seperti xhigh. Pembuat juga membezakan tetapan penjanaan dengan pemikiran dan tanpa pemikiran. Sediakan ruang untuk peringkat penaakulan dan jawapan akhir: peruntukan penjanaan yang kecil boleh tamat semasa pemikiran sebelum jawapan muncul.
Untuk tugasan repositori, bekalkan fail yang berkaitan sebagai teks, tingkah laku yang hendak diubah dan kegagalan yang diperhatikan. Minta cadangan perubahan dan semakan yang dapat membezakan pembetulan daripada masalah baharu. Dalam aplikasi yang disambungkan kepada alat, pulangkan hasil alat yang telah dilaksanakan sebelum keputusan seterusnya. Untuk analisis dokumen, namakan bahagian yang hendak dibandingkan dan medan atau kesimpulan yang perlu terkandung dalam jawapan.
Untuk tugasan imej, berikan input visual bersama soalan yang terikat pada sesuatu yang kelihatan di dalamnya. Hasil yang berguna mengenal pasti ciri yang diperhatikan dan menghubungkannya dengan kesimpulan yang diminta. Bezakan bukti visual itu daripada fakta yang berasal daripada sumber luaran atau tindakan yang dicadangkan. Komponen penglihatan menyokong tafsiran imej; komponen itu tidak menukar permintaan alat yang dijana menjadi tindakan yang telah dilaksanakan.
Fail GGUF yang diterbitkan memerlukan sokongan masa jalan bit rendah pengeluar. Pembuat menyatakan bahawa masa jalan yang tidak diubah suai boleh menolak jenisnya atau menyahkodnya secara salah kerana putaran sepadan tiada. Oleh itu, pemilihan model setempat merangkumi pembungkusan yang sesuai, komponen penglihatan dan masa jalan yang serasi. Format yang ditukar secara berasingan dan model draf pengiring ialah artifak tersendiri, bukannya sifat yang dijamin oleh nama model umum.
POST /v1/chat/completionstexttext| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had prism-ml/ternary-bonsai-2-27b | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had Item minimum: 1 | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had Contoh: system, user, assistant, tool, function Syarat: Peranan ini diwakili secara eksplisit oleh jenis keserasian dalam kod sumber; set peranan model yang tepat kekal khusus untuk setiap model. Bergantung pada model | Lalai— |
Medanmessages[].content | Jenisstring|content_part[]|null | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_calls | Jenistool_call[] | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_call_id | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: role=tool; gunakan ID sebenar yang dipulangkan | Lalai— |
Medanmessages[].name | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].reasoning_content | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: Hantar semula penaakulan sebenar yang dipulangkan apabila model ini menggunakannya | Lalai— |
Medanmessages[].reasoning_details | Jenisobject|array | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanmax_completion_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Medanstream_options.include_usage | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantemperature | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantop_p | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanstop | Jenisstring|string[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools | Jenisfunction_tool[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools[].type | Jenisstring | KeperluanPilihan | Nilai & had function Bergantung pada model | Lalai— |
Medantools[].function.name | Jenisstring | KeperluanDiperlukan | Nilai & had Terpakai apabila: alat fungsi dibekalkan | Lalai— |
Medantools[].function.description | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medantools[].function.parameters | JenisJSON_schema | KeperluanPilihan | Nilai & had | Lalai— |
Medantool_choice | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanparallel_tool_calls | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanresponse_format | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning_effort | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanservice_tier | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medaninstructions | Jenisstring | KeperluanPilihan | Nilai & had Medan keserasian | Lalai— |
Medanfunctions | Jenisfunction[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanfunction_call | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanprompt_cache_options | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmodalities | Jenisstring[] | KeperluanPilihan | Nilai & had text | Lalai— |
Medanprovider | Jenisobject | KeperluanPilihan | Nilai & had Syarat: provider.options ditolak pada laluan teks Ultra ini | Lalai— |
Medancache_control.ttl | Jenisstring | KeperluanPilihan | Nilai & had Syarat: 1h ditolak pada lokasi cache prompt yang digunakan | Lalai— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontraktatasusunan mesej dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 sebenar dimasukkan sebagai teks literal; ID fail tidak diandaikan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeza daripada alat yang dihoskan |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Kitar hayat: synchronous_or_streamed
Hantar ID model yang tepat bersama messages.
Panjang konteks bukan had output.
Fail teks boleh membekalkan teks literal; input imej/audio/objek fail memerlukan pengikatan tepat.
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.00015 / 1K token Output · Token output $0.001 / 1K token Input · Bacaan cache $0.000075 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.00015 / 1K token Output · Token output $0.001 / 1K token Input · Bacaan cache $0.000075 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "prism-ml/ternary-bonsai-2-27b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='prism-ml/ternary-bonsai-2-27b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='prism-ml/ternary-bonsai-2-27b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan setiap pilihan jawapan bersama kandungan, panggilan alat dan penaakulannya. Dalam SSE, gabungkan delta mengikut indeks pilihan jawapan/alat dan kekalkan sebab penamatan akhir serta data penggunaan.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanchoices[].index | Jenisinteger |
Medanchoices[].message.content | Jenisstring|null |
Medanchoices[].message.tool_calls | Jenistool_call[] |
Medanchoices[].message.reasoning_content | Jenisstring |
Medanchoices[].message.reasoning_details | Jenisobject|array |
Medanchoices[].finish_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra prism-ml/ternary-bonsai-2-27b
Gunakan laluan kaedah yang dipaparkan di atas.
prism-ml/ternary-bonsai-2-27bTernary Bonsai 2 27B daripada PrismML memampatkan model penaakulan dan penglihatan-bahasa berasaskan Qwen3.8 kepada pemberat ternari. Model ini mengekalkan konteks 262K, pemikiran dan tingkah laku panggilan alat, dengan pembungkusan model bahasa yang berasingan dan komponen penglihatan pilihan.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Ternary Bonsai 2 27B ialah model penaakulan bit rendah PrismML yang berasaskan seni bina Qwen3.8 27B. Model ini direka untuk membawa penaakulan teks, pengekodan, pemahaman visual dan kerja berorientasikan ejen ke dalam pelaksanaan setempat yang lebih kecil. Model bahasa menjana teks dan permintaan panggilan alat; input imej menggunakan komponen penglihatan yang dibekalkan secara berasingan.
Model ini menggunakan teras perhatian hibrid, dengan kira-kira tiga perempat perhatian linear dan satu perempat perhatian penuh, serta konteks 262K token. Pemberat bahasa ternari mengambil nilai negatif satu, sifar atau positif satu dengan penskalaan yang dikongsi. Putaran asas pemberat yang disimpan memerlukan transformasi pengaktifan yang sepadan dalam masa jalan. Ini ialah keperluan representasi model dan masa jalan, bukan sekadar sambungan fail yang lebih kecil.
Pengeluar membekalkan dua pembungkusan GGUF: trit padat dalam PTQ1_0 menggunakan 5.95 GB, manakala PQ2_0 menyimpan trit dalam slot dua bit dan menggunakan 7.21 GB. Pakej penglihatan Q8_0 pilihan menambah kira-kira 0.63 GB. Pembungkusan itu mempunyai kos nyahbungkus dan tingkah laku perkakasan yang berbeza, jadi pembungkusan yang lebih kecil tidak semestinya lebih pantas dalam semua keadaan. Ini ialah saiz artifak yang diterbitkan; konteks tugasan dan penimbal kerja memerlukan memori tambahan.
Pemikiran diaktifkan secara lalai. Pembuat menerangkan xhigh sebagai tahap usaha penaakulan lalai dan medium sebagai pilihan untuk respons lebih pendek; low tidak disokong dan bertindak hampir seperti xhigh. Pembuat juga membezakan tetapan penjanaan dengan pemikiran dan tanpa pemikiran. Sediakan ruang untuk peringkat penaakulan dan jawapan akhir: peruntukan penjanaan yang kecil boleh tamat semasa pemikiran sebelum jawapan muncul.
Untuk tugasan repositori, bekalkan fail yang berkaitan sebagai teks, tingkah laku yang hendak diubah dan kegagalan yang diperhatikan. Minta cadangan perubahan dan semakan yang dapat membezakan pembetulan daripada masalah baharu. Dalam aplikasi yang disambungkan kepada alat, pulangkan hasil alat yang telah dilaksanakan sebelum keputusan seterusnya. Untuk analisis dokumen, namakan bahagian yang hendak dibandingkan dan medan atau kesimpulan yang perlu terkandung dalam jawapan.
Untuk tugasan imej, berikan input visual bersama soalan yang terikat pada sesuatu yang kelihatan di dalamnya. Hasil yang berguna mengenal pasti ciri yang diperhatikan dan menghubungkannya dengan kesimpulan yang diminta. Bezakan bukti visual itu daripada fakta yang berasal daripada sumber luaran atau tindakan yang dicadangkan. Komponen penglihatan menyokong tafsiran imej; komponen itu tidak menukar permintaan alat yang dijana menjadi tindakan yang telah dilaksanakan.
Fail GGUF yang diterbitkan memerlukan sokongan masa jalan bit rendah pengeluar. Pembuat menyatakan bahawa masa jalan yang tidak diubah suai boleh menolak jenisnya atau menyahkodnya secara salah kerana putaran sepadan tiada. Oleh itu, pemilihan model setempat merangkumi pembungkusan yang sesuai, komponen penglihatan dan masa jalan yang serasi. Format yang ditukar secara berasingan dan model draf pengiring ialah artifak tersendiri, bukannya sifat yang dijamin oleh nama model umum.
POST /v1/messagestextjson, sse| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had prism-ml/ternary-bonsai-2-27b | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had user, assistant | Lalai— |
Medanmessages[].content | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Teks · Teks UTF-8
rentetan messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 sebenar dan letakkan teksnya dalam rentetan input atau kandungan mesej yang ditunjukkan. |
Kitar hayat: synchronous_or_streamed
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.00015 / 1K token Output · Token output $0.001 / 1K token Input · Bacaan cache $0.000075 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.00015 / 1K token Output · Token output $0.001 / 1K token Input · Bacaan cache $0.000075 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
{\n "model": "prism-ml/ternary-bonsai-2-27b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'prism-ml/ternary-bonsai-2-27b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'prism-ml/ternary-bonsai-2-27b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan semua blok kandungan, tandatangan penaakulan dan ID penggunaan alat sebenar. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan output.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanid | Jenisstring |
Medanmodel | Jenisstring |
Medancontent[] | Jenistext|thinking|tool_use|other content block |
Medanstop_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra prism-ml/ternary-bonsai-2-27b
Gunakan laluan kaedah yang dipaparkan di atas.
Contoh teknikal dalam bahasa Inggeris
Correct a binary-search boundary\n\nReview this Python binary search: lo=0; hi=len(a); while lo <= hi: mid=(lo+hi)//2; compare a[mid] with target. An empty list can index out of range. Propose a complete corrected function for a sorted ascending list, returning an index or -1, and tests for empty, missing and endpoint targets.A corrected binary-search function, a boundary explanation and representative tests.Check that every accessed index is within the list and that the loop terminates when the target is absent.