Ternary Bonsai 2 27B är PrismML:s resonemangsmodell med låg bitbredd, baserad på arkitekturen Qwen3.8 27B. Den är utformad för att föra textresonemang, kodning, bildförståelse och agentinriktat arbete till en mindre lokal driftsättning. Språkmodellen genererar text och begäranden om verktygsanrop; bildindata använder den separat tillhandahållna bildkomponenten.
Modellen använder en grundarkitektur med hybrid attention, med ungefär tre fjärdedelar linjär attention och en fjärdedel full attention, samt en kontext på 262K token. Ternära språkvikter antar värdena minus ett, noll eller plus ett med gemensam skalning. En lagrad rotation av vikternas bas kräver motsvarande aktiveringstransform i körmiljön. Detta är ett krav på modellrepresentation och körmiljö, inte bara ett mindre filformat.
Tillverkaren tillhandahåller två GGUF-packningar: tätt packade trits i PTQ1_0 upptar 5,95 GB, medan PQ2_0 lagrar trits i tvåbitsplatser och upptar 7,21 GB. Det valfria Q8_0-bildpaketet lägger till cirka 0,63 GB. Packningarna har olika uppackningskostnader och beteenden på hårdvara, så den mindre packningen är inte alltid snabbare. Dessa är publicerade storlekar på modellfiler; uppgiftens kontext och arbetsbuffertar kräver ytterligare minne.
Tänkande är aktiverat som standard. Tillverkaren beskriver xhigh som standardnivå för resonemang och medium som ett alternativ för kortare svar; low stöds inte och beter sig ungefär som xhigh. Tillverkaren skiljer också genereringsinställningarna för tänkande från dem utan tänkande. Lämna plats för både resonemangsfasen och slutsvaret: ett litet genereringsutrymme kan ta slut under tänkandet innan något svar visas.
För en uppgift i ett kodarkiv tillhandahåller du relevanta filer som text, beteendet som ska ändras och ett observerat fel. Be om ett ändringsförslag och de kontroller som skulle skilja en korrigering från ett nytt problem. I en verktygsansluten applikation återför du det utförda verktygets resultat före nästa beslut. För dokumentanalys namnger du avsnitten som ska jämföras och de fält eller slutsatser som svaret ska innehålla.
För en bilduppgift tillhandahåller du bilden med en fråga knuten till något synligt i den. Ett användbart resultat identifierar den observerade egenskapen och kopplar den till den begärda slutsatsen. Håll dessa visuella belägg åtskilda från fakta som kommer från en extern källa eller en föreslagen åtgärd. Bildkomponenten stöder tolkning av bilden; den omvandlar inte en genererad verktygsbegäran till en utförd åtgärd.
De publicerade GGUF-filerna kräver tillverkarens körmiljöstöd för låg bitbredd. Tillverkaren påpekar att en oförändrad körmiljö kan avvisa typerna eller avkoda dem fel eftersom motsvarande rotation saknas. Det lokala modellvalet omfattar därför lämplig packning, bildkomponent och kompatibel körmiljö. Separata konverterade format och tillhörande draft-modeller är egna artefakter, inte egenskaper som garanteras av det allmänna modellnamnet.
", "aboutText": "Ternary Bonsai 2 27B är PrismML:s resonemangsmodell med låg bitbredd, baserad på arkitekturen Qwen3.8 27B. Den är utformad för att föra textresonemang, kodning, bildförståelse och agentinriktat arbete till en mindre lokal driftsättning. Språkmodellen genererar text och begäranden om verktygsanrop; bildindata använder den separat tillhandahållna bildkomponenten.\n\nModellen använder en grundarkitektur med hybrid attention, med ungefär tre fjärdedelar linjär attention och en fjärdedel full attention, samt en kontext på 262K token. Ternära språkvikter antar värdena minus ett, noll eller plus ett med gemensam skalning. En lagrad rotation av vikternas bas kräver motsvarande aktiveringstransform i körmiljön. Detta är ett krav på modellrepresentation och körmiljö, inte bara ett mindre filformat.\n\nTillverkaren tillhandahåller två GGUF-packningar: tätt packade trits i PTQ1_0 upptar 5,95 GB, medan PQ2_0 lagrar trits i tvåbitsplatser och upptar 7,21 GB. Det valfria Q8_0-bildpaketet lägger till cirka 0,63 GB. Packningarna har olika uppackningskostnader och beteenden på hårdvara, så den mindre packningen är inte alltid snabbare. Dessa är publicerade storlekar på modellfiler; uppgiftens kontext och arbetsbuffertar kräver ytterligare minne.\n\nTänkande är aktiverat som standard. Tillverkaren beskriver xhigh som standardnivå för resonemang och medium som ett alternativ för kortare svar; low stöds inte och beter sig ungefär som xhigh. Tillverkaren skiljer också genereringsinställningarna för tänkande från dem utan tänkande. Lämna plats för både resonemangsfasen och slutsvaret: ett litet genereringsutrymme kan ta slut under tänkandet innan något svar visas.\n\nFör en uppgift i ett kodarkiv tillhandahåller du relevanta filer som text, beteendet som ska ändras och ett observerat fel. Be om ett ändringsförslag och de kontroller som skulle skilja en korrigering från ett nytt problem. I en verktygsansluten applikation återför du det utförda verktygets resultat före nästa beslut. För dokumentanalys namnger du avsnitten som ska jämföras och de fält eller slutsatser som svaret ska innehålla.\n\nFör en bilduppgift tillhandahåller du bilden med en fråga knuten till något synligt i den. Ett användbart resultat identifierar den observerade egenskapen och kopplar den till den begärda slutsatsen. Håll dessa visuella belägg åtskilda från fakta som kommer från en extern källa eller en föreslagen åtgärd. Bildkomponenten stöder tolkning av bilden; den omvandlar inte en genererad verktygsbegäran till en utförd åtgärd.\n\nDe publicerade GGUF-filerna kräver tillverkarens körmiljöstöd för låg bitbredd. Tillverkaren påpekar att en oförändrad körmiljö kan avvisa typerna eller avkoda dem fel eftersom motsvarande rotation saknas. Det lokala modellvalet omfattar därför lämplig packning, bildkomponent och kompatibel körmiljö. Separata konverterade format och tillhörande draft-modeller är egna artefakter, inte egenskaper som garanteras av det allmänna modellnamnet.", "editorialOverlay": { "copy_fields": { "practical_html": "Tekniskt exempel på engelska
Correct a binary-search boundary\n\nReview this Python binary search: lo=0; hi=len(a); while lo <= hi: mid=(lo+hi)//2; compare a[mid] with target. An empty list can index out of range. Propose a complete corrected function for a sorted ascending list, returning an index or -1, and tests for empty, missing and endpoint targets.A corrected binary-search function, a boundary explanation and representative tests.Check that every accessed index is within the list and that the loop terminates when the target is absent.prism-ml/ternary-bonsai-2-27bPrismML:s Ternary Bonsai 2 27B komprimerar en Qwen3.8-baserad resonemangsmodell för bild och språk till ternära vikter. Den behåller en kontext på 262K, tänkande och verktygsanrop, med separata packningsformat för språkmodellen och en valfri bildkomponent.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Ternary Bonsai 2 27B är PrismML:s resonemangsmodell med låg bitbredd, baserad på arkitekturen Qwen3.8 27B. Den är utformad för att föra textresonemang, kodning, bildförståelse och agentinriktat arbete till en mindre lokal driftsättning. Språkmodellen genererar text och begäranden om verktygsanrop; bildindata använder den separat tillhandahållna bildkomponenten.
Modellen använder en grundarkitektur med hybrid attention, med ungefär tre fjärdedelar linjär attention och en fjärdedel full attention, samt en kontext på 262K token. Ternära språkvikter antar värdena minus ett, noll eller plus ett med gemensam skalning. En lagrad rotation av vikternas bas kräver motsvarande aktiveringstransform i körmiljön. Detta är ett krav på modellrepresentation och körmiljö, inte bara ett mindre filformat.
Tillverkaren tillhandahåller två GGUF-packningar: tätt packade trits i PTQ1_0 upptar 5,95 GB, medan PQ2_0 lagrar trits i tvåbitsplatser och upptar 7,21 GB. Det valfria Q8_0-bildpaketet lägger till cirka 0,63 GB. Packningarna har olika uppackningskostnader och beteenden på hårdvara, så den mindre packningen är inte alltid snabbare. Dessa är publicerade storlekar på modellfiler; uppgiftens kontext och arbetsbuffertar kräver ytterligare minne.
Tänkande är aktiverat som standard. Tillverkaren beskriver xhigh som standardnivå för resonemang och medium som ett alternativ för kortare svar; low stöds inte och beter sig ungefär som xhigh. Tillverkaren skiljer också genereringsinställningarna för tänkande från dem utan tänkande. Lämna plats för både resonemangsfasen och slutsvaret: ett litet genereringsutrymme kan ta slut under tänkandet innan något svar visas.
För en uppgift i ett kodarkiv tillhandahåller du relevanta filer som text, beteendet som ska ändras och ett observerat fel. Be om ett ändringsförslag och de kontroller som skulle skilja en korrigering från ett nytt problem. I en verktygsansluten applikation återför du det utförda verktygets resultat före nästa beslut. För dokumentanalys namnger du avsnitten som ska jämföras och de fält eller slutsatser som svaret ska innehålla.
För en bilduppgift tillhandahåller du bilden med en fråga knuten till något synligt i den. Ett användbart resultat identifierar den observerade egenskapen och kopplar den till den begärda slutsatsen. Håll dessa visuella belägg åtskilda från fakta som kommer från en extern källa eller en föreslagen åtgärd. Bildkomponenten stöder tolkning av bilden; den omvandlar inte en genererad verktygsbegäran till en utförd åtgärd.
De publicerade GGUF-filerna kräver tillverkarens körmiljöstöd för låg bitbredd. Tillverkaren påpekar att en oförändrad körmiljö kan avvisa typerna eller avkoda dem fel eftersom motsvarande rotation saknas. Det lokala modellvalet omfattar därför lämplig packning, bildkomponent och kompatibel körmiljö. Separata konverterade format och tillhörande draft-modeller är egna artefakter, inte egenskaper som garanteras av det allmänna modellnamnet.
POST /v1/chat/completionstexttext| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser prism-ml/ternary-bonsai-2-27b | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser Minsta antal objekt: 1 | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser Exempel: system, user, assistant, tool, function Villkor: Dessa roller representeras uttryckligen av källkodens kompatibilitetstyper; den exakta rolluppsättningen är fortfarande modellspecifik. Beror på modellen | Standard— |
Fältmessages[].content | Typstring|content_part[]|null | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_calls | Typtool_call[] | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_call_id | Typstring | KravValfritt | Värden & gränser Gäller när: role=tool; använd det faktiska returnerade ID:t | Standard— |
Fältmessages[].name | Typstring | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].reasoning_content | Typstring | KravValfritt | Värden & gränser Gäller när: Skicka tillbaka det faktiska returnerade resonemanget när modellen använder det | Standard— |
Fältmessages[].reasoning_details | Typobject|array | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmax_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältmax_completion_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Fältstream_options.include_usage | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttemperature | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttop_p | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältstop | Typstring|string[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools | Typfunction_tool[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools[].type | Typstring | KravValfritt | Värden & gränser function Beror på modellen | Standard— |
Fälttools[].function.name | Typstring | KravObligatoriskt | Värden & gränser Gäller när: verktyg av typen funktion har tillhandahållits | Standard— |
Fälttools[].function.description | Typstring | KravValfritt | Värden & gränser | Standard— |
Fälttools[].function.parameters | TypJSON_schema | KravValfritt | Värden & gränser | Standard— |
Fälttool_choice | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältparallel_tool_calls | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältresponse_format | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning_effort | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältservice_tier | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältinstructions | Typstring | KravValfritt | Värden & gränser Kompatibilitetsfält | Standard— |
Fältfunctions | Typfunction[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältfunction_call | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältprompt_cache_options | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmodalities | Typstring[] | KravValfritt | Värden & gränser text | Standard— |
Fältprovider | Typobject | KravValfritt | Värden & gränser Villkor: provider.options avvisas på denna Ultra-textrutt | Standard— |
Fältcache_control.ttl | Typstring | KravValfritt | Värden & gränser Villkor: 1h avvisas på de faktiska platserna för promptcache | Standard— |
Text · UTF8-text
messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages |
Parametermaterial_types | Avtaltext |
Parametermessages | Avtalmeddelandearray med strukturen role/content |
Parameterfile_material | Avtaldet faktiska UTF-8-dokumentet infogat som bokstavlig text; inget fil-ID härleds |
Parameteroptional_controls | Avtalstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalmodellspecifikt; användarens funktionsverktyg skiljer sig från värdbaserade verktyg |
Parameteroutput_modalities | Avtaltext |
Parameterhosted_operations | Avtalfalse |
Parametermultimodal_input_binding | Avtalnull |
Livscykel: synchronous_or_streamed
Skicka det exakta modell-ID:t tillsammans med messages.
Kontextlängden är inte en utdatagräns.
En textfil kan tillhandahålla bokstavlig text; bild-/ljud-/filobjektsindata kräver exakt bindning.
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
Matcha varje avgift mot de visade villkoren. Använd ett pris för varje uppsättning alternativa konfigurationer.
| Konfiguration | Prislista | Kontexttoken, fler än | Kontexttoken, upp till och med | Avgift |
|---|---|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Kontexttoken, fler än— | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.00015 / 1K token Utdata · Utdatatoken $0.001 / 1K token Indata · Cacheläsning $0.000075 / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
| KonfigurationNivå 1 för förfrågans längd | Prislista— | Kontexttoken, fler än0 | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.00015 / 1K token Utdata · Utdatatoken $0.001 / 1K token Indata · Cacheläsning $0.000075 / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "prism-ml/ternary-bonsai-2-27b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='prism-ml/ternary-bonsai-2-27b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='prism-ml/ternary-bonsai-2-27b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll varje svarsalternativ och dess innehåll/verktygsanrop/resonemang. Sätt i SSE samman deltauppdateringar efter svarsalternativets/verktygets index och behåll den slutliga avslutsorsaken och användningsuppgifterna.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältchoices[].index | Typinteger |
Fältchoices[].message.content | Typstring|null |
Fältchoices[].message.tool_calls | Typtool_call[] |
Fältchoices[].message.reasoning_content | Typstring |
Fältchoices[].message.reasoning_details | Typobject|array |
Fältchoices[].finish_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra prism-ml/ternary-bonsai-2-27b
Använd metodsökvägarna som visas ovan.
prism-ml/ternary-bonsai-2-27bPrismML:s Ternary Bonsai 2 27B komprimerar en Qwen3.8-baserad resonemangsmodell för bild och språk till ternära vikter. Den behåller en kontext på 262K, tänkande och verktygsanrop, med separata packningsformat för språkmodellen och en valfri bildkomponent.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Ternary Bonsai 2 27B är PrismML:s resonemangsmodell med låg bitbredd, baserad på arkitekturen Qwen3.8 27B. Den är utformad för att föra textresonemang, kodning, bildförståelse och agentinriktat arbete till en mindre lokal driftsättning. Språkmodellen genererar text och begäranden om verktygsanrop; bildindata använder den separat tillhandahållna bildkomponenten.
Modellen använder en grundarkitektur med hybrid attention, med ungefär tre fjärdedelar linjär attention och en fjärdedel full attention, samt en kontext på 262K token. Ternära språkvikter antar värdena minus ett, noll eller plus ett med gemensam skalning. En lagrad rotation av vikternas bas kräver motsvarande aktiveringstransform i körmiljön. Detta är ett krav på modellrepresentation och körmiljö, inte bara ett mindre filformat.
Tillverkaren tillhandahåller två GGUF-packningar: tätt packade trits i PTQ1_0 upptar 5,95 GB, medan PQ2_0 lagrar trits i tvåbitsplatser och upptar 7,21 GB. Det valfria Q8_0-bildpaketet lägger till cirka 0,63 GB. Packningarna har olika uppackningskostnader och beteenden på hårdvara, så den mindre packningen är inte alltid snabbare. Dessa är publicerade storlekar på modellfiler; uppgiftens kontext och arbetsbuffertar kräver ytterligare minne.
Tänkande är aktiverat som standard. Tillverkaren beskriver xhigh som standardnivå för resonemang och medium som ett alternativ för kortare svar; low stöds inte och beter sig ungefär som xhigh. Tillverkaren skiljer också genereringsinställningarna för tänkande från dem utan tänkande. Lämna plats för både resonemangsfasen och slutsvaret: ett litet genereringsutrymme kan ta slut under tänkandet innan något svar visas.
För en uppgift i ett kodarkiv tillhandahåller du relevanta filer som text, beteendet som ska ändras och ett observerat fel. Be om ett ändringsförslag och de kontroller som skulle skilja en korrigering från ett nytt problem. I en verktygsansluten applikation återför du det utförda verktygets resultat före nästa beslut. För dokumentanalys namnger du avsnitten som ska jämföras och de fält eller slutsatser som svaret ska innehålla.
För en bilduppgift tillhandahåller du bilden med en fråga knuten till något synligt i den. Ett användbart resultat identifierar den observerade egenskapen och kopplar den till den begärda slutsatsen. Håll dessa visuella belägg åtskilda från fakta som kommer från en extern källa eller en föreslagen åtgärd. Bildkomponenten stöder tolkning av bilden; den omvandlar inte en genererad verktygsbegäran till en utförd åtgärd.
De publicerade GGUF-filerna kräver tillverkarens körmiljöstöd för låg bitbredd. Tillverkaren påpekar att en oförändrad körmiljö kan avvisa typerna eller avkoda dem fel eftersom motsvarande rotation saknas. Det lokala modellvalet omfattar därför lämplig packning, bildkomponent och kompatibel körmiljö. Separata konverterade format och tillhörande draft-modeller är egna artefakter, inte egenskaper som garanteras av det allmänna modellnamnet.
POST /v1/messagestextjson, sse| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser prism-ml/ternary-bonsai-2-27b | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser user, assistant | Standard— |
Fältmessages[].content | Typstring | KravObligatoriskt | Värden & gränser | Standard— |
Fältmax_tokens | Typinteger | KravObligatoriskt | Värden & gränser | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Text · UTF-8-text
sträng i messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages, max_tokens |
Parameteroptional_controls | Avtalstream |
Parametermaterial_types | Avtaltext |
Parametertext_file_material | AvtalLäs det faktiska UTF-8-dokumentet och placera texten i det angivna input-fältet eller i strängen för meddelandets innehåll. |
Livscykel: synchronous_or_streamed
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
Matcha varje avgift mot de visade villkoren. Använd ett pris för varje uppsättning alternativa konfigurationer.
| Konfiguration | Prislista | Kontexttoken, fler än | Kontexttoken, upp till och med | Avgift |
|---|---|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Kontexttoken, fler än— | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.00015 / 1K token Utdata · Utdatatoken $0.001 / 1K token Indata · Cacheläsning $0.000075 / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
| KonfigurationNivå 1 för förfrågans längd | Prislista— | Kontexttoken, fler än0 | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.00015 / 1K token Utdata · Utdatatoken $0.001 / 1K token Indata · Cacheläsning $0.000075 / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
{\n "model": "prism-ml/ternary-bonsai-2-27b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'prism-ml/ternary-bonsai-2-27b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'prism-ml/ternary-bonsai-2-27b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll alla innehållsblock, resonemangssignaturer och faktiska ID:n för verktygsanvändning. Sätt samman alla SSE-deltauppdateringar för blocken; ett första textblock är inte hela utdata.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältid | Typstring |
Fältmodel | Typstring |
Fältcontent[] | Typtext|thinking|tool_use|other content block |
Fältstop_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra prism-ml/ternary-bonsai-2-27b
Använd metodsökvägarna som visas ovan.
Tekniskt exempel på engelska
Correct a binary-search boundary\n\nReview this Python binary search: lo=0; hi=len(a); while lo <= hi: mid=(lo+hi)//2; compare a[mid] with target. An empty list can index out of range. Propose a complete corrected function for a sorted ascending list, returning an index or -1, and tests for empty, missing and endpoint targets.A corrected binary-search function, a boundary explanation and representative tests.Check that every accessed index is within the list and that the loop terminates when the target is absent.