Ternary Bonsai 2 27B je nízkobitový model společnosti PrismML pro uvažování, založený na architektuře Qwen3.8 27B. Je navržen tak, aby přinesl textové uvažování, programování, vizuální porozumění a práci agentů do menšího místního nasazení. Jazykový model generuje text a požadavky na volání nástrojů; obrazový vstup používá samostatně dodávanou vizuální složku.
Model používá základ s hybridní pozorností, přibližně ze tří čtvrtin lineární a z jedné čtvrtiny plnou, a kontext 262K tokenů. Ternární jazykové váhy nabývají hodnot minus jedna, nula nebo plus jedna se sdíleným škálováním. Uložená rotace báze vah vyžaduje odpovídající transformaci aktivací v běhovém prostředí. Jde o požadavek na reprezentaci modelu a běhové prostředí, nikoli pouze o menší příponu souboru.
Výrobce dodává dvě varianty zabalení GGUF: hustě uložené trity v PTQ1_0 zabírají 5,95 GB, zatímco PQ2_0 ukládá trity do dvoubitových pozic a zabírá 7,21 GB. Volitelný vizuální balíček Q8_0 přidává asi 0,63 GB. Varianty mají různé náklady na rozbalování a odlišné chování na hardwaru, takže menší varianta není vždy rychlejší. Jde o publikované velikosti artefaktů; kontext úlohy a pracovní buffery vyžadují další paměť.
Přemýšlení je ve výchozím nastavení zapnuté. Výrobce popisuje xhigh jako výchozí úsilí věnované uvažování a medium jako možnost pro kratší odpovědi; low není podporováno a chová se podobně jako xhigh. Rozlišuje také nastavení generování s přemýšlením a bez přemýšlení. Ponechte prostor pro fázi uvažování i závěrečnou odpověď: malý rozpočet generování může skončit během přemýšlení, ještě než se objeví odpověď.
U úlohy nad repozitářem dodejte příslušné soubory jako text, chování, které se má změnit, a pozorovanou chybu. Požadujte navrženou změnu a kontroly, které odliší opravu od nového problému. V aplikaci napojené na nástroje vraťte před dalším rozhodnutím výsledek vykonaného nástroje. U analýzy dokumentů pojmenujte porovnávané oddíly a pole či závěry, které má odpověď obsahovat.
U úlohy s obrázkem dodejte vizuální vstup s otázkou navázanou na něco, co je v něm vidět. Užitečný výsledek určuje pozorovanou vlastnost a propojuje ji s požadovaným závěrem. Tyto vizuální podklady oddělujte od faktu pocházejícího z externího zdroje nebo od navržené akce. Vizuální složka podporuje interpretaci obrázku; nepřevádí vygenerovaný požadavek na nástroj na vykonanou akci.
Publikované soubory GGUF vyžadují nízkobitovou podporu běhového prostředí od výrobce. Výrobce uvádí, že neupravené běhové prostředí může typy odmítnout nebo chybně dekódovat, protože chybí odpovídající rotace. Volba místního modelu proto zahrnuje vhodné zabalení, vizuální složku a kompatibilní běhové prostředí. Samostatné převedené formáty a doprovodné pomocné modely pro spekulativní generování jsou odlišné artefakty, nikoli vlastnosti zaručené obecným názvem modelu.
", "aboutText": "Ternary Bonsai 2 27B je nízkobitový model společnosti PrismML pro uvažování, založený na architektuře Qwen3.8 27B. Je navržen tak, aby přinesl textové uvažování, programování, vizuální porozumění a práci agentů do menšího místního nasazení. Jazykový model generuje text a požadavky na volání nástrojů; obrazový vstup používá samostatně dodávanou vizuální složku.\n\nModel používá základ s hybridní pozorností, přibližně ze tří čtvrtin lineární a z jedné čtvrtiny plnou, a kontext 262K tokenů. Ternární jazykové váhy nabývají hodnot minus jedna, nula nebo plus jedna se sdíleným škálováním. Uložená rotace báze vah vyžaduje odpovídající transformaci aktivací v běhovém prostředí. Jde o požadavek na reprezentaci modelu a běhové prostředí, nikoli pouze o menší příponu souboru.\n\nVýrobce dodává dvě varianty zabalení GGUF: hustě uložené trity v PTQ1_0 zabírají 5,95 GB, zatímco PQ2_0 ukládá trity do dvoubitových pozic a zabírá 7,21 GB. Volitelný vizuální balíček Q8_0 přidává asi 0,63 GB. Varianty mají různé náklady na rozbalování a odlišné chování na hardwaru, takže menší varianta není vždy rychlejší. Jde o publikované velikosti artefaktů; kontext úlohy a pracovní buffery vyžadují další paměť.\n\nPřemýšlení je ve výchozím nastavení zapnuté. Výrobce popisuje xhigh jako výchozí úsilí věnované uvažování a medium jako možnost pro kratší odpovědi; low není podporováno a chová se podobně jako xhigh. Rozlišuje také nastavení generování s přemýšlením a bez přemýšlení. Ponechte prostor pro fázi uvažování i závěrečnou odpověď: malý rozpočet generování může skončit během přemýšlení, ještě než se objeví odpověď.\n\nU úlohy nad repozitářem dodejte příslušné soubory jako text, chování, které se má změnit, a pozorovanou chybu. Požadujte navrženou změnu a kontroly, které odliší opravu od nového problému. V aplikaci napojené na nástroje vraťte před dalším rozhodnutím výsledek vykonaného nástroje. U analýzy dokumentů pojmenujte porovnávané oddíly a pole či závěry, které má odpověď obsahovat.\n\nU úlohy s obrázkem dodejte vizuální vstup s otázkou navázanou na něco, co je v něm vidět. Užitečný výsledek určuje pozorovanou vlastnost a propojuje ji s požadovaným závěrem. Tyto vizuální podklady oddělujte od faktu pocházejícího z externího zdroje nebo od navržené akce. Vizuální složka podporuje interpretaci obrázku; nepřevádí vygenerovaný požadavek na nástroj na vykonanou akci.\n\nPublikované soubory GGUF vyžadují nízkobitovou podporu běhového prostředí od výrobce. Výrobce uvádí, že neupravené běhové prostředí může typy odmítnout nebo chybně dekódovat, protože chybí odpovídající rotace. Volba místního modelu proto zahrnuje vhodné zabalení, vizuální složku a kompatibilní běhové prostředí. Samostatné převedené formáty a doprovodné pomocné modely pro spekulativní generování jsou odlišné artefakty, nikoli vlastnosti zaručené obecným názvem modelu.", "editorialOverlay": { "copy_fields": { "practical_html": "Technický příklad v angličtině
Correct a binary-search boundary\n\nReview this Python binary search: lo=0; hi=len(a); while lo <= hi: mid=(lo+hi)//2; compare a[mid] with target. An empty list can index out of range. Propose a complete corrected function for a sorted ascending list, returning an index or -1, and tests for empty, missing and endpoint targets.A corrected binary-search function, a boundary explanation and representative tests.Check that every accessed index is within the list and that the loop terminates when the target is absent.prism-ml/ternary-bonsai-2-27bTernary Bonsai 2 27B společnosti PrismML komprimuje model pro uvažování a vizuální jazykové úlohy založený na Qwen3.8 do ternárních vah. Zachovává kontext 262K, přemýšlení a chování při volání nástrojů, s oddělenými variantami zabalení jazykového modelu a volitelnou vizuální složkou.
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
Ternary Bonsai 2 27B je nízkobitový model společnosti PrismML pro uvažování, založený na architektuře Qwen3.8 27B. Je navržen tak, aby přinesl textové uvažování, programování, vizuální porozumění a práci agentů do menšího místního nasazení. Jazykový model generuje text a požadavky na volání nástrojů; obrazový vstup používá samostatně dodávanou vizuální složku.
Model používá základ s hybridní pozorností, přibližně ze tří čtvrtin lineární a z jedné čtvrtiny plnou, a kontext 262K tokenů. Ternární jazykové váhy nabývají hodnot minus jedna, nula nebo plus jedna se sdíleným škálováním. Uložená rotace báze vah vyžaduje odpovídající transformaci aktivací v běhovém prostředí. Jde o požadavek na reprezentaci modelu a běhové prostředí, nikoli pouze o menší příponu souboru.
Výrobce dodává dvě varianty zabalení GGUF: hustě uložené trity v PTQ1_0 zabírají 5,95 GB, zatímco PQ2_0 ukládá trity do dvoubitových pozic a zabírá 7,21 GB. Volitelný vizuální balíček Q8_0 přidává asi 0,63 GB. Varianty mají různé náklady na rozbalování a odlišné chování na hardwaru, takže menší varianta není vždy rychlejší. Jde o publikované velikosti artefaktů; kontext úlohy a pracovní buffery vyžadují další paměť.
Přemýšlení je ve výchozím nastavení zapnuté. Výrobce popisuje xhigh jako výchozí úsilí věnované uvažování a medium jako možnost pro kratší odpovědi; low není podporováno a chová se podobně jako xhigh. Rozlišuje také nastavení generování s přemýšlením a bez přemýšlení. Ponechte prostor pro fázi uvažování i závěrečnou odpověď: malý rozpočet generování může skončit během přemýšlení, ještě než se objeví odpověď.
U úlohy nad repozitářem dodejte příslušné soubory jako text, chování, které se má změnit, a pozorovanou chybu. Požadujte navrženou změnu a kontroly, které odliší opravu od nového problému. V aplikaci napojené na nástroje vraťte před dalším rozhodnutím výsledek vykonaného nástroje. U analýzy dokumentů pojmenujte porovnávané oddíly a pole či závěry, které má odpověď obsahovat.
U úlohy s obrázkem dodejte vizuální vstup s otázkou navázanou na něco, co je v něm vidět. Užitečný výsledek určuje pozorovanou vlastnost a propojuje ji s požadovaným závěrem. Tyto vizuální podklady oddělujte od faktu pocházejícího z externího zdroje nebo od navržené akce. Vizuální složka podporuje interpretaci obrázku; nepřevádí vygenerovaný požadavek na nástroj na vykonanou akci.
Publikované soubory GGUF vyžadují nízkobitovou podporu běhového prostředí od výrobce. Výrobce uvádí, že neupravené běhové prostředí může typy odmítnout nebo chybně dekódovat, protože chybí odpovídající rotace. Volba místního modelu proto zahrnuje vhodné zabalení, vizuální složku a kompatibilní běhové prostředí. Samostatné převedené formáty a doprovodné pomocné modely pro spekulativní generování jsou odlišné artefakty, nikoli vlastnosti zaručené obecným názvem modelu.
POST /v1/chat/completionstexttext| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity prism-ml/ternary-bonsai-2-27b | Výchozí— |
Polemessages | Typmessage[] | PožadavekPovinné | Hodnoty a limity Minimální počet položek: 1 | Výchozí— |
Polemessages[].role | Typstring | PožadavekPovinné | Hodnoty a limity Příklady: system, user, assistant, tool, function Podmínky: Tyto role jsou výslovně zastoupeny typy kompatibility zdrojového kódu; přesná sada rolí zůstává specifická pro daný model. Závisí na modelu | Výchozí— |
Polemessages[].content | Typstring|content_part[]|null | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Polemessages[].tool_calls | Typtool_call[] | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Polemessages[].tool_call_id | Typstring | PožadavekVolitelné | Hodnoty a limity Platí, když: role=tool; použijte skutečně vrácené ID | Výchozí— |
Polemessages[].name | Typstring | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Polemessages[].reasoning_content | Typstring | PožadavekVolitelné | Hodnoty a limity Platí, když: Předávejte zpět skutečně vrácené uvažování tam, kde je tento model používá | Výchozí— |
Polemessages[].reasoning_details | Typobject|array | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polemax_tokens | Typinteger | PožadavekVolitelné | Hodnoty a limity Minimum: 1 Závisí na modelu | Výchozí— |
Polemax_completion_tokens | Typinteger | PožadavekVolitelné | Hodnoty a limity Minimum: 1 Závisí na modelu | Výchozí— |
Polestream | Typboolean | PožadavekVolitelné | Hodnoty a limity | Výchozífalse |
Polestream_options.include_usage | Typboolean | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletemperature | Typnumber | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletop_p | Typnumber | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polestop | Typstring|string[] | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletools | Typfunction_tool[] | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletools[].type | Typstring | PožadavekVolitelné | Hodnoty a limity function Závisí na modelu | Výchozí— |
Poletools[].function.name | Typstring | PožadavekPovinné | Hodnoty a limity Platí, když: nástroj typu funkce je dodán | Výchozí— |
Poletools[].function.description | Typstring | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Poletools[].function.parameters | TypJSON_schema | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Poletool_choice | Typstring|object | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleparallel_tool_calls | Typboolean | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleresponse_format | Typobject | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polereasoning_effort | Typstring | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polereasoning | Typobject | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleservice_tier | Typstring | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleinstructions | Typstring | PožadavekVolitelné | Hodnoty a limity Pole kompatibility | Výchozí— |
Polefunctions | Typfunction[] | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polefunction_call | Typstring|object | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleprompt_cache_options | Typobject | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polemodalities | Typstring[] | PožadavekVolitelné | Hodnoty a limity text | Výchozí— |
Poleprovider | Typobject | PožadavekVolitelné | Hodnoty a limity Podmínky: provider.options je na této textové trase Ultra odmítáno | Výchozí— |
Polecache_control.ttl | Typstring | PožadavekVolitelné | Hodnoty a limity Podmínky: Hodnota 1h je ve skutečných umístěních mezipaměti promptů odmítána | Výchozí— |
Text · text UTF8
messages[].content
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, messages |
Parametrmaterial_types | Kontrakttext |
Parametrmessages | Kontraktpole zpráv se strukturou role/content |
Parametrfile_material | Kontraktskutečný dokument UTF-8 vložený jako doslovný text; ID souboru se neodvozuje |
Parametroptional_controls | Kontraktstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrcontrol_scope | Kontraktspecifické pro model; nástroje uživatelských funkcí se liší od hostovaných nástrojů |
Parametroutput_modalities | Kontrakttext |
Parametrhosted_operations | Kontraktfalse |
Parametrmultimodal_input_binding | Kontraktnull |
Životní cyklus: synchronous_or_streamed
Odešlete přesné ID modelu spolu s messages.
Délka kontextu není limitem výstupu.
Textový soubor může dodat doslovný text; obrazové/zvukové vstupy a vstupy v podobě souborových objektů vyžadují přesnou vazbu.
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
Přiřaďte každý poplatek k uvedeným podmínkám. Pro každou sadu alternativních konfigurací použijte jednu sazbu.
| Konfigurace | Tabulka sazeb | Tokeny kontextu, více než | Tokeny kontextu, do uvedené hodnoty včetně | Poplatek |
|---|---|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Tokeny kontextu, více než— | Tokeny kontextu, do uvedené hodnoty včetněBez horní meze | Poplatek Vstup · Vstupní tokeny $0.00015 / 1K tokenů Výstup · Výstupní tokeny $0.001 / 1K tokenů Vstup · Čtení z mezipaměti $0.000075 / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
| KonfiguracePásmo délky požadavku 1 | Tabulka sazeb— | Tokeny kontextu, více než0 | Tokeny kontextu, do uvedené hodnoty včetněBez horní meze | Poplatek Vstup · Vstupní tokeny $0.00015 / 1K tokenů Výstup · Výstupní tokeny $0.001 / 1K tokenů Vstup · Čtení z mezipaměti $0.000075 / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "prism-ml/ternary-bonsai-2-27b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='prism-ml/ternary-bonsai-2-27b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='prism-ml/ternary-bonsai-2-27b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson nebo SSE
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Zachovejte každou volbu a její obsah/volání nástrojů/uvažování. V SSE sestavujte přírůstky podle indexu volby/nástroje a zachovejte konečný důvod ukončení i údaje o využití.
Zachovejte ID požadavků/odpovědí a hlavičky. Není dodána obecná URL pro načtení textové úlohy.
| Pole | Typ |
|---|---|
Polechoices[].index | Typinteger |
Polechoices[].message.content | Typstring|null |
Polechoices[].message.tool_calls | Typtool_call[] |
Polechoices[].message.reasoning_content | Typstring |
Polechoices[].message.reasoning_details | Typobject|array |
Polechoices[].finish_reason | Typstring|null |
Poleusage | Typobject |
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Ailoot Ultra prism-ml/ternary-bonsai-2-27b
Použijte cesty metod uvedené výše.
prism-ml/ternary-bonsai-2-27bTernary Bonsai 2 27B společnosti PrismML komprimuje model pro uvažování a vizuální jazykové úlohy založený na Qwen3.8 do ternárních vah. Zachovává kontext 262K, přemýšlení a chování při volání nástrojů, s oddělenými variantami zabalení jazykového modelu a volitelnou vizuální složkou.
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
Ternary Bonsai 2 27B je nízkobitový model společnosti PrismML pro uvažování, založený na architektuře Qwen3.8 27B. Je navržen tak, aby přinesl textové uvažování, programování, vizuální porozumění a práci agentů do menšího místního nasazení. Jazykový model generuje text a požadavky na volání nástrojů; obrazový vstup používá samostatně dodávanou vizuální složku.
Model používá základ s hybridní pozorností, přibližně ze tří čtvrtin lineární a z jedné čtvrtiny plnou, a kontext 262K tokenů. Ternární jazykové váhy nabývají hodnot minus jedna, nula nebo plus jedna se sdíleným škálováním. Uložená rotace báze vah vyžaduje odpovídající transformaci aktivací v běhovém prostředí. Jde o požadavek na reprezentaci modelu a běhové prostředí, nikoli pouze o menší příponu souboru.
Výrobce dodává dvě varianty zabalení GGUF: hustě uložené trity v PTQ1_0 zabírají 5,95 GB, zatímco PQ2_0 ukládá trity do dvoubitových pozic a zabírá 7,21 GB. Volitelný vizuální balíček Q8_0 přidává asi 0,63 GB. Varianty mají různé náklady na rozbalování a odlišné chování na hardwaru, takže menší varianta není vždy rychlejší. Jde o publikované velikosti artefaktů; kontext úlohy a pracovní buffery vyžadují další paměť.
Přemýšlení je ve výchozím nastavení zapnuté. Výrobce popisuje xhigh jako výchozí úsilí věnované uvažování a medium jako možnost pro kratší odpovědi; low není podporováno a chová se podobně jako xhigh. Rozlišuje také nastavení generování s přemýšlením a bez přemýšlení. Ponechte prostor pro fázi uvažování i závěrečnou odpověď: malý rozpočet generování může skončit během přemýšlení, ještě než se objeví odpověď.
U úlohy nad repozitářem dodejte příslušné soubory jako text, chování, které se má změnit, a pozorovanou chybu. Požadujte navrženou změnu a kontroly, které odliší opravu od nového problému. V aplikaci napojené na nástroje vraťte před dalším rozhodnutím výsledek vykonaného nástroje. U analýzy dokumentů pojmenujte porovnávané oddíly a pole či závěry, které má odpověď obsahovat.
U úlohy s obrázkem dodejte vizuální vstup s otázkou navázanou na něco, co je v něm vidět. Užitečný výsledek určuje pozorovanou vlastnost a propojuje ji s požadovaným závěrem. Tyto vizuální podklady oddělujte od faktu pocházejícího z externího zdroje nebo od navržené akce. Vizuální složka podporuje interpretaci obrázku; nepřevádí vygenerovaný požadavek na nástroj na vykonanou akci.
Publikované soubory GGUF vyžadují nízkobitovou podporu běhového prostředí od výrobce. Výrobce uvádí, že neupravené běhové prostředí může typy odmítnout nebo chybně dekódovat, protože chybí odpovídající rotace. Volba místního modelu proto zahrnuje vhodné zabalení, vizuální složku a kompatibilní běhové prostředí. Samostatné převedené formáty a doprovodné pomocné modely pro spekulativní generování jsou odlišné artefakty, nikoli vlastnosti zaručené obecným názvem modelu.
POST /v1/messagestextjson, sse| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity prism-ml/ternary-bonsai-2-27b | Výchozí— |
Polemessages | Typmessage[] | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polemessages[].role | Typstring | PožadavekPovinné | Hodnoty a limity user, assistant | Výchozí— |
Polemessages[].content | Typstring | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polemax_tokens | Typinteger | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polestream | Typboolean | PožadavekVolitelné | Hodnoty a limity | Výchozífalse |
Text · text UTF-8
řetězec messages[].content
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, messages, max_tokens |
Parametroptional_controls | Kontraktstream |
Parametrmaterial_types | Kontrakttext |
Parametrtext_file_material | KontraktPřečtěte skutečný dokument UTF-8 a vložte jeho text do uvedeného pole input nebo do řetězce obsahu zprávy. |
Životní cyklus: synchronous_or_streamed
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
Přiřaďte každý poplatek k uvedeným podmínkám. Pro každou sadu alternativních konfigurací použijte jednu sazbu.
| Konfigurace | Tabulka sazeb | Tokeny kontextu, více než | Tokeny kontextu, do uvedené hodnoty včetně | Poplatek |
|---|---|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Tokeny kontextu, více než— | Tokeny kontextu, do uvedené hodnoty včetněBez horní meze | Poplatek Vstup · Vstupní tokeny $0.00015 / 1K tokenů Výstup · Výstupní tokeny $0.001 / 1K tokenů Vstup · Čtení z mezipaměti $0.000075 / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
| KonfiguracePásmo délky požadavku 1 | Tabulka sazeb— | Tokeny kontextu, více než0 | Tokeny kontextu, do uvedené hodnoty včetněBez horní meze | Poplatek Vstup · Vstupní tokeny $0.00015 / 1K tokenů Výstup · Výstupní tokeny $0.001 / 1K tokenů Vstup · Čtení z mezipaměti $0.000075 / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
{\n "model": "prism-ml/ternary-bonsai-2-27b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'prism-ml/ternary-bonsai-2-27b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'prism-ml/ternary-bonsai-2-27b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON nebo SSE
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Zachovejte všechny bloky obsahu, podpisy uvažování a skutečná ID použití nástrojů. Sestavte všechny přírůstky bloků SSE; první textový blok není úplný výstup.
Zachovejte ID požadavků/odpovědí a hlavičky. Není dodána obecná URL pro načtení textové úlohy.
| Pole | Typ |
|---|---|
Poleid | Typstring |
Polemodel | Typstring |
Polecontent[] | Typtext|thinking|tool_use|other content block |
Polestop_reason | Typstring|null |
Poleusage | Typobject |
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Ailoot Ultra prism-ml/ternary-bonsai-2-27b
Použijte cesty metod uvedené výše.
Technický příklad v angličtině
Correct a binary-search boundary\n\nReview this Python binary search: lo=0; hi=len(a); while lo <= hi: mid=(lo+hi)//2; compare a[mid] with target. An empty list can index out of range. Propose a complete corrected function for a sorted ascending list, returning an index or -1, and tests for empty, missing and endpoint targets.A corrected binary-search function, a boundary explanation and representative tests.Check that every accessed index is within the list and that the loop terminates when the target is absent.