Ternary Bonsai 2 27B je nizkobitni model podjetja PrismML za sklepanje, ki temelji na arhitekturi Qwen3.8 27B. Zasnovan je za prenos besedilnega sklepanja, programiranja, vizualnega razumevanja in agentskega dela v manjšo lokalno namestitev. Jezikovni model ustvarja besedilo in zahteve za klice orodij; slikovni vhod uporablja ločeno predloženo vizualno komponento.
Model uporablja ogrodje s hibridno pozornostjo, s približno tremi četrtinami linearne pozornosti in eno četrtino polne pozornosti, ter kontekst 262K žetonov. Ternarne jezikovne uteži imajo vrednosti minus ena, nič ali plus ena s skupnim skaliranjem. Shranjena rotacija baze uteži zahteva ujemajočo se transformacijo aktivacij v izvajalnem okolju. To je zahteva glede predstavitve modela in izvajalnega okolja, ne zgolj manjša datotečna končnica.
Proizvajalec ponuja dve pakiranji GGUF: gosto pakirani triti v PTQ1_0 zasedejo 5,95 GB, PQ2_0 pa shrani trite v dvobitne reže in zasede 7,21 GB. Neobvezni vizualni paket Q8_0 doda približno 0,63 GB. Pakiranji imata različne stroške razpakiranja in vedenje strojne opreme, zato manjše pakiranje ni povsod hitrejše. To so objavljene velikosti izdelkov; kontekst naloge in delovni medpomnilniki zahtevajo dodaten pomnilnik.
Razmišljanje je privzeto omogočeno. Proizvajalec opisuje xhigh kot privzeti obseg sklepanja in medium kot možnost za krajše odgovore; low ni podprt in se obnaša podobno kot xhigh. Ločuje tudi nastavitve ustvarjanja z razmišljanjem in brez njega. Predvidite prostor za fazo sklepanja in končni odgovor: majhen proračun ustvarjanja se lahko izteče med razmišljanjem, preden se pojavi odgovor.
Za nalogo v repozitoriju predložite ustrezne datoteke kot besedilo, vedenje, ki ga je treba spremeniti, in opaženo napako. Zahtevajte predlagano spremembo in preverjanja, ki bi razlikovala popravek od nove težave. V aplikaciji s povezanimi orodji vrnite rezultat izvedenega orodja pred naslednjo odločitvijo. Pri analizi dokumentov poimenujte razdelke za primerjavo ter polja ali sklepe, ki naj jih odgovor vsebuje.
Pri slikovni nalogi predložite vizualni vhod z vprašanjem, vezanim na nekaj, kar je na njem vidno. Uporaben rezultat opredeli opaženo značilnost in jo poveže z zahtevanim sklepom. Te vizualne dokaze ločite od dejstva iz zunanjega vira ali predlaganega dejanja. Vizualna komponenta podpira razlago slike; ustvarjene zahteve za orodje ne pretvori v izvedeno dejanje.
Objavljene datoteke GGUF zahtevajo proizvajalčevo nizkobitno podporo v izvajalnem okolju. Proizvajalec opozarja, da lahko nespremenjeno izvajalno okolje zavrne tipe ali jih nepravilno dekodira, ker manjka ujemajoča se rotacija. Izbira lokalnega modela zato vključuje ustrezno pakiranje, vizualno komponento in združljivo izvajalno okolje. Ločeni pretvorjeni formati in spremljajoči osnutkovni modeli so različni izdelki, ne lastnosti, ki bi jih zagotavljalo splošno ime modela.
", "aboutText": "Ternary Bonsai 2 27B je nizkobitni model podjetja PrismML za sklepanje, ki temelji na arhitekturi Qwen3.8 27B. Zasnovan je za prenos besedilnega sklepanja, programiranja, vizualnega razumevanja in agentskega dela v manjšo lokalno namestitev. Jezikovni model ustvarja besedilo in zahteve za klice orodij; slikovni vhod uporablja ločeno predloženo vizualno komponento.\n\nModel uporablja ogrodje s hibridno pozornostjo, s približno tremi četrtinami linearne pozornosti in eno četrtino polne pozornosti, ter kontekst 262K žetonov. Ternarne jezikovne uteži imajo vrednosti minus ena, nič ali plus ena s skupnim skaliranjem. Shranjena rotacija baze uteži zahteva ujemajočo se transformacijo aktivacij v izvajalnem okolju. To je zahteva glede predstavitve modela in izvajalnega okolja, ne zgolj manjša datotečna končnica.\n\nProizvajalec ponuja dve pakiranji GGUF: gosto pakirani triti v PTQ1_0 zasedejo 5,95 GB, PQ2_0 pa shrani trite v dvobitne reže in zasede 7,21 GB. Neobvezni vizualni paket Q8_0 doda približno 0,63 GB. Pakiranji imata različne stroške razpakiranja in vedenje strojne opreme, zato manjše pakiranje ni povsod hitrejše. To so objavljene velikosti izdelkov; kontekst naloge in delovni medpomnilniki zahtevajo dodaten pomnilnik.\n\nRazmišljanje je privzeto omogočeno. Proizvajalec opisuje xhigh kot privzeti obseg sklepanja in medium kot možnost za krajše odgovore; low ni podprt in se obnaša podobno kot xhigh. Ločuje tudi nastavitve ustvarjanja z razmišljanjem in brez njega. Predvidite prostor za fazo sklepanja in končni odgovor: majhen proračun ustvarjanja se lahko izteče med razmišljanjem, preden se pojavi odgovor.\n\nZa nalogo v repozitoriju predložite ustrezne datoteke kot besedilo, vedenje, ki ga je treba spremeniti, in opaženo napako. Zahtevajte predlagano spremembo in preverjanja, ki bi razlikovala popravek od nove težave. V aplikaciji s povezanimi orodji vrnite rezultat izvedenega orodja pred naslednjo odločitvijo. Pri analizi dokumentov poimenujte razdelke za primerjavo ter polja ali sklepe, ki naj jih odgovor vsebuje.\n\nPri slikovni nalogi predložite vizualni vhod z vprašanjem, vezanim na nekaj, kar je na njem vidno. Uporaben rezultat opredeli opaženo značilnost in jo poveže z zahtevanim sklepom. Te vizualne dokaze ločite od dejstva iz zunanjega vira ali predlaganega dejanja. Vizualna komponenta podpira razlago slike; ustvarjene zahteve za orodje ne pretvori v izvedeno dejanje.\n\nObjavljene datoteke GGUF zahtevajo proizvajalčevo nizkobitno podporo v izvajalnem okolju. Proizvajalec opozarja, da lahko nespremenjeno izvajalno okolje zavrne tipe ali jih nepravilno dekodira, ker manjka ujemajoča se rotacija. Izbira lokalnega modela zato vključuje ustrezno pakiranje, vizualno komponento in združljivo izvajalno okolje. Ločeni pretvorjeni formati in spremljajoči osnutkovni modeli so različni izdelki, ne lastnosti, ki bi jih zagotavljalo splošno ime modela.", "editorialOverlay": { "copy_fields": { "practical_html": "Tehnični primer v angleščini
Correct a binary-search boundary\n\nReview this Python binary search: lo=0; hi=len(a); while lo <= hi: mid=(lo+hi)//2; compare a[mid] with target. An empty list can index out of range. Propose a complete corrected function for a sorted ascending list, returning an index or -1, and tests for empty, missing and endpoint targets.A corrected binary-search function, a boundary explanation and representative tests.Check that every accessed index is within the list and that the loop terminates when the target is absent.prism-ml/ternary-bonsai-2-27bTernary Bonsai 2 27B podjetja PrismML stisne model za sklepanje ter vidno-jezikovne naloge na osnovi Qwen3.8 v ternarne uteži. Ohranja kontekst 262K, razmišljanje in vedenje klicev orodij, z ločenima pakiranjema jezikovnega modela in neobvezno vizualno komponento.
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
Ternary Bonsai 2 27B je nizkobitni model podjetja PrismML za sklepanje, ki temelji na arhitekturi Qwen3.8 27B. Zasnovan je za prenos besedilnega sklepanja, programiranja, vizualnega razumevanja in agentskega dela v manjšo lokalno namestitev. Jezikovni model ustvarja besedilo in zahteve za klice orodij; slikovni vhod uporablja ločeno predloženo vizualno komponento.
Model uporablja ogrodje s hibridno pozornostjo, s približno tremi četrtinami linearne pozornosti in eno četrtino polne pozornosti, ter kontekst 262K žetonov. Ternarne jezikovne uteži imajo vrednosti minus ena, nič ali plus ena s skupnim skaliranjem. Shranjena rotacija baze uteži zahteva ujemajočo se transformacijo aktivacij v izvajalnem okolju. To je zahteva glede predstavitve modela in izvajalnega okolja, ne zgolj manjša datotečna končnica.
Proizvajalec ponuja dve pakiranji GGUF: gosto pakirani triti v PTQ1_0 zasedejo 5,95 GB, PQ2_0 pa shrani trite v dvobitne reže in zasede 7,21 GB. Neobvezni vizualni paket Q8_0 doda približno 0,63 GB. Pakiranji imata različne stroške razpakiranja in vedenje strojne opreme, zato manjše pakiranje ni povsod hitrejše. To so objavljene velikosti izdelkov; kontekst naloge in delovni medpomnilniki zahtevajo dodaten pomnilnik.
Razmišljanje je privzeto omogočeno. Proizvajalec opisuje xhigh kot privzeti obseg sklepanja in medium kot možnost za krajše odgovore; low ni podprt in se obnaša podobno kot xhigh. Ločuje tudi nastavitve ustvarjanja z razmišljanjem in brez njega. Predvidite prostor za fazo sklepanja in končni odgovor: majhen proračun ustvarjanja se lahko izteče med razmišljanjem, preden se pojavi odgovor.
Za nalogo v repozitoriju predložite ustrezne datoteke kot besedilo, vedenje, ki ga je treba spremeniti, in opaženo napako. Zahtevajte predlagano spremembo in preverjanja, ki bi razlikovala popravek od nove težave. V aplikaciji s povezanimi orodji vrnite rezultat izvedenega orodja pred naslednjo odločitvijo. Pri analizi dokumentov poimenujte razdelke za primerjavo ter polja ali sklepe, ki naj jih odgovor vsebuje.
Pri slikovni nalogi predložite vizualni vhod z vprašanjem, vezanim na nekaj, kar je na njem vidno. Uporaben rezultat opredeli opaženo značilnost in jo poveže z zahtevanim sklepom. Te vizualne dokaze ločite od dejstva iz zunanjega vira ali predlaganega dejanja. Vizualna komponenta podpira razlago slike; ustvarjene zahteve za orodje ne pretvori v izvedeno dejanje.
Objavljene datoteke GGUF zahtevajo proizvajalčevo nizkobitno podporo v izvajalnem okolju. Proizvajalec opozarja, da lahko nespremenjeno izvajalno okolje zavrne tipe ali jih nepravilno dekodira, ker manjka ujemajoča se rotacija. Izbira lokalnega modela zato vključuje ustrezno pakiranje, vizualno komponento in združljivo izvajalno okolje. Ločeni pretvorjeni formati in spremljajoči osnutkovni modeli so različni izdelki, ne lastnosti, ki bi jih zagotavljalo splošno ime modela.
POST /v1/chat/completionstexttext| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve prism-ml/ternary-bonsai-2-27b | Privzeto— |
Poljemessages | Vrstamessage[] | ZahtevaObvezno | Vrednosti in omejitve Najmanjše število elementov: 1 | Privzeto— |
Poljemessages[].role | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve Primeri: system, user, assistant, tool, function Pogoji: Te vloge so izrecno predstavljene s tipi združljivosti v izvorni kodi; natančen nabor vlog ostaja odvisen od modela. Odvisno od modela | Privzeto— |
Poljemessages[].content | Vrstastring|content_part[]|null | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].tool_calls | Vrstatool_call[] | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].tool_call_id | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Velja, ko: role=tool; uporabite dejansko vrnjeni ID | Privzeto— |
Poljemessages[].name | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].reasoning_content | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Velja, ko: Pošljite nazaj dejansko vrnjeno sklepanje, kadar ga ta model uporablja | Privzeto— |
Poljemessages[].reasoning_details | Vrstaobject|array | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljemax_tokens | Vrstainteger | ZahtevaIzbirno | Vrednosti in omejitve Najmanj: 1 Odvisno od modela | Privzeto— |
Poljemax_completion_tokens | Vrstainteger | ZahtevaIzbirno | Vrednosti in omejitve Najmanj: 1 Odvisno od modela | Privzeto— |
Poljestream | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve | Privzetofalse |
Poljestream_options.include_usage | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetemperature | Vrstanumber | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetop_p | Vrstanumber | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljestop | Vrstastring|string[] | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetools | Vrstafunction_tool[] | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetools[].type | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve function Odvisno od modela | Privzeto— |
Poljetools[].function.name | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve Velja, ko: podano je funkcijsko orodje | Privzeto— |
Poljetools[].function.description | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljetools[].function.parameters | VrstaJSON_schema | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljetool_choice | Vrstastring|object | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeparallel_tool_calls | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeresponse_format | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljereasoning_effort | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljereasoning | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeservice_tier | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeinstructions | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Polje združljivosti | Privzeto— |
Poljefunctions | Vrstafunction[] | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljefunction_call | Vrstastring|object | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeprompt_cache_options | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljemodalities | Vrstastring[] | ZahtevaIzbirno | Vrednosti in omejitve text | Privzeto— |
Poljeprovider | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: provider.options je na tej besedilni poti Ultra zavrnjen | Privzeto— |
Poljecache_control.ttl | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: 1h je zavrnjen na dejanskih mestih za predpomnjenje pozivov | Privzeto— |
Besedilo · Besedilo UTF8
messages[].content
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, messages |
Parametermaterial_types | Specifikacijatext |
Parametermessages | Specifikacijapolje sporočil s strukturo role/content |
Parameterfile_material | Specifikacijadejanski dokument UTF-8 je vstavljen kot dobesedno besedilo; ID datoteke se ne izpeljuje |
Parameteroptional_controls | Specifikacijastream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Specifikacijaodvisno od modela; uporabniška funkcijska orodja se razlikujejo od orodij, ki jih izvaja storitev |
Parameteroutput_modalities | Specifikacijatext |
Parameterhosted_operations | Specifikacijafalse |
Parametermultimodal_input_binding | Specifikacijanull |
Življenjski cikel: synchronous_or_streamed
Pošljite natančen ID modela skupaj z messages.
Dolžina konteksta ni zgornja meja izhoda.
Besedilna datoteka lahko poda dobesedno besedilo; slikovni, zvočni vhodi in vhodi z datotečnimi objekti potrebujejo natančno vezavo.
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
Vsak strošek povežite s prikazanimi pogoji. Za vsak nabor alternativnih nastavitev uporabite eno ceno.
| Nastavitev | Cenovna lestvica | Žetonov konteksta več kot | Žetonov konteksta do vključno | Strošek |
|---|---|---|---|---|
| NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Žetonov konteksta več kot— | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni $0.00015 / 1K žetonov Izhod · Izhodni žetoni $0.001 / 1K žetonov Vhod · Branje predpomnilnika $0.000075 / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
| NastavitevRazred 1 glede na dolžino zahteve | Cenovna lestvica— | Žetonov konteksta več kot0 | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni $0.00015 / 1K žetonov Izhod · Izhodni žetoni $0.001 / 1K žetonov Vhod · Branje predpomnilnika $0.000075 / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "prism-ml/ternary-bonsai-2-27b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='prism-ml/ternary-bonsai-2-27b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='prism-ml/ternary-bonsai-2-27b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ali SSE
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Ohranite vsako možnost odgovora ter njeno vsebino, klice orodij in sklepanje. V SSE sestavite delne spremembe po indeksu možnosti/orodja ter ohranite končni razlog zaključka in podatke o porabi.
Ohranite ID zahtev/odgovorov in glave. Splošni URL za pridobivanje besedilne naloge ni podan.
| Polje | Vrsta |
|---|---|
Poljechoices[].index | Vrstainteger |
Poljechoices[].message.content | Vrstastring|null |
Poljechoices[].message.tool_calls | Vrstatool_call[] |
Poljechoices[].message.reasoning_content | Vrstastring |
Poljechoices[].message.reasoning_details | Vrstaobject|array |
Poljechoices[].finish_reason | Vrstastring|null |
Poljeusage | Vrstaobject |
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavna obvezna polja, predstavitev gradiva ali vrednost parametra | Naslednji korakPred novo zahtevo za ustvarjanje popravite navedena polja. |
Ailoot Ultra prism-ml/ternary-bonsai-2-27b
Uporabite zgoraj navedene poti metod.
prism-ml/ternary-bonsai-2-27bTernary Bonsai 2 27B podjetja PrismML stisne model za sklepanje ter vidno-jezikovne naloge na osnovi Qwen3.8 v ternarne uteži. Ohranja kontekst 262K, razmišljanje in vedenje klicev orodij, z ločenima pakiranjema jezikovnega modela in neobvezno vizualno komponento.
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
Ternary Bonsai 2 27B je nizkobitni model podjetja PrismML za sklepanje, ki temelji na arhitekturi Qwen3.8 27B. Zasnovan je za prenos besedilnega sklepanja, programiranja, vizualnega razumevanja in agentskega dela v manjšo lokalno namestitev. Jezikovni model ustvarja besedilo in zahteve za klice orodij; slikovni vhod uporablja ločeno predloženo vizualno komponento.
Model uporablja ogrodje s hibridno pozornostjo, s približno tremi četrtinami linearne pozornosti in eno četrtino polne pozornosti, ter kontekst 262K žetonov. Ternarne jezikovne uteži imajo vrednosti minus ena, nič ali plus ena s skupnim skaliranjem. Shranjena rotacija baze uteži zahteva ujemajočo se transformacijo aktivacij v izvajalnem okolju. To je zahteva glede predstavitve modela in izvajalnega okolja, ne zgolj manjša datotečna končnica.
Proizvajalec ponuja dve pakiranji GGUF: gosto pakirani triti v PTQ1_0 zasedejo 5,95 GB, PQ2_0 pa shrani trite v dvobitne reže in zasede 7,21 GB. Neobvezni vizualni paket Q8_0 doda približno 0,63 GB. Pakiranji imata različne stroške razpakiranja in vedenje strojne opreme, zato manjše pakiranje ni povsod hitrejše. To so objavljene velikosti izdelkov; kontekst naloge in delovni medpomnilniki zahtevajo dodaten pomnilnik.
Razmišljanje je privzeto omogočeno. Proizvajalec opisuje xhigh kot privzeti obseg sklepanja in medium kot možnost za krajše odgovore; low ni podprt in se obnaša podobno kot xhigh. Ločuje tudi nastavitve ustvarjanja z razmišljanjem in brez njega. Predvidite prostor za fazo sklepanja in končni odgovor: majhen proračun ustvarjanja se lahko izteče med razmišljanjem, preden se pojavi odgovor.
Za nalogo v repozitoriju predložite ustrezne datoteke kot besedilo, vedenje, ki ga je treba spremeniti, in opaženo napako. Zahtevajte predlagano spremembo in preverjanja, ki bi razlikovala popravek od nove težave. V aplikaciji s povezanimi orodji vrnite rezultat izvedenega orodja pred naslednjo odločitvijo. Pri analizi dokumentov poimenujte razdelke za primerjavo ter polja ali sklepe, ki naj jih odgovor vsebuje.
Pri slikovni nalogi predložite vizualni vhod z vprašanjem, vezanim na nekaj, kar je na njem vidno. Uporaben rezultat opredeli opaženo značilnost in jo poveže z zahtevanim sklepom. Te vizualne dokaze ločite od dejstva iz zunanjega vira ali predlaganega dejanja. Vizualna komponenta podpira razlago slike; ustvarjene zahteve za orodje ne pretvori v izvedeno dejanje.
Objavljene datoteke GGUF zahtevajo proizvajalčevo nizkobitno podporo v izvajalnem okolju. Proizvajalec opozarja, da lahko nespremenjeno izvajalno okolje zavrne tipe ali jih nepravilno dekodira, ker manjka ujemajoča se rotacija. Izbira lokalnega modela zato vključuje ustrezno pakiranje, vizualno komponento in združljivo izvajalno okolje. Ločeni pretvorjeni formati in spremljajoči osnutkovni modeli so različni izdelki, ne lastnosti, ki bi jih zagotavljalo splošno ime modela.
POST /v1/messagestextjson, sse| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve prism-ml/ternary-bonsai-2-27b | Privzeto— |
Poljemessages | Vrstamessage[] | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].role | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve user, assistant | Privzeto— |
Poljemessages[].content | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljemax_tokens | Vrstainteger | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljestream | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve | Privzetofalse |
Besedilo · Besedilo UTF-8
niz messages[].content
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, messages, max_tokens |
Parameteroptional_controls | Specifikacijastream |
Parametermaterial_types | Specifikacijatext |
Parametertext_file_material | SpecifikacijaPreberite dejanski dokument UTF-8 in njegovo besedilo vstavite v navedeni vhodni niz ali niz vsebine sporočila. |
Življenjski cikel: synchronous_or_streamed
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
Vsak strošek povežite s prikazanimi pogoji. Za vsak nabor alternativnih nastavitev uporabite eno ceno.
| Nastavitev | Cenovna lestvica | Žetonov konteksta več kot | Žetonov konteksta do vključno | Strošek |
|---|---|---|---|---|
| NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Žetonov konteksta več kot— | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni $0.00015 / 1K žetonov Izhod · Izhodni žetoni $0.001 / 1K žetonov Vhod · Branje predpomnilnika $0.000075 / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
| NastavitevRazred 1 glede na dolžino zahteve | Cenovna lestvica— | Žetonov konteksta več kot0 | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni $0.00015 / 1K žetonov Izhod · Izhodni žetoni $0.001 / 1K žetonov Vhod · Branje predpomnilnika $0.000075 / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
{\n "model": "prism-ml/ternary-bonsai-2-27b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'prism-ml/ternary-bonsai-2-27b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'prism-ml/ternary-bonsai-2-27b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ali SSE
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Ohranite vse vsebinske bloke, podpise sklepanja in dejanske ID uporabe orodij. Sestavite vse delne spremembe blokov SSE; prvi besedilni blok ni celoten izhod.
Ohranite ID zahtev/odgovorov in glave. Splošni URL za pridobivanje besedilne naloge ni podan.
| Polje | Vrsta |
|---|---|
Poljeid | Vrstastring |
Poljemodel | Vrstastring |
Poljecontent[] | Vrstatext|thinking|tool_use|other content block |
Poljestop_reason | Vrstastring|null |
Poljeusage | Vrstaobject |
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavna obvezna polja, predstavitev gradiva ali vrednost parametra | Naslednji korakPred novo zahtevo za ustvarjanje popravite navedena polja. |
Ailoot Ultra prism-ml/ternary-bonsai-2-27b
Uporabite zgoraj navedene poti metod.
Tehnični primer v angleščini
Correct a binary-search boundary\n\nReview this Python binary search: lo=0; hi=len(a); while lo <= hi: mid=(lo+hi)//2; compare a[mid] with target. An empty list can index out of range. Propose a complete corrected function for a sorted ascending list, returning an index or -1, and tests for empty, missing and endpoint targets.A corrected binary-search function, a boundary explanation and representative tests.Check that every accessed index is within the list and that the loop terminates when the target is absent.