Ternary Bonsai 2 27B ist PrismMLs Low-Bit-Denkmodell auf Basis der Architektur von Qwen3.8 27B. Es soll Textschlussfolgern, Programmierung, visuelles Verständnis und agentenorientierte Arbeit in einer kleineren lokalen Bereitstellung ermöglichen. Das Sprachmodell erzeugt Text und Werkzeugaufrufanfragen; Bildeingaben verwenden die separat bereitgestellte Bildkomponente.
Das Modell verwendet eine Basis mit hybrider Attention, zu ungefähr drei Vierteln linearer Attention und einem Viertel vollständiger Attention, sowie einen Kontext von 262K Tokens. Ternäre Sprachgewichte nehmen die Werte minus eins, null oder plus eins mit gemeinsamer Skalierung an. Eine gespeicherte Rotation der Gewichtsbasis erfordert die passende Aktivierungstransformation in der Laufzeitumgebung. Dies ist eine Anforderung an Modelldarstellung und Laufzeitumgebung, nicht bloss eine kleinere Dateiendung.
Der Hersteller stellt zwei GGUF-Packungen bereit: Dicht gepackte Trits in PTQ1_0 belegen 5,95 GB, während PQ2_0 Trits in Zwei-Bit-Feldern speichert und 7,21 GB belegt. Die optionale Q8_0-Bildkomponente ergänzt etwa 0,63 GB. Die Packungen unterscheiden sich im Entpackaufwand und im Hardwareverhalten, sodass die kleinere Packung nicht durchgängig schneller ist. Dies sind veröffentlichte Artefaktgrössen; der Kontext und die Arbeitspuffer einer Aufgabe benötigen zusätzlichen Speicher.
Denken ist standardmässig aktiviert. Der Hersteller nennt xhigh als voreingestellten Denkaufwand und medium als Option für kürzere Antworten; low wird nicht unterstützt und verhält sich ähnlich wie xhigh. Er unterscheidet ausserdem zwischen Generierungseinstellungen mit und ohne Denken. Lassen Sie sowohl für die Denkphase als auch für die Endantwort Platz: Ein kleines Generierungsbudget kann während des Denkens enden, bevor eine Antwort erscheint.
Stellen Sie für eine Repository-Aufgabe die relevanten Dateien als Text, das zu ändernde Verhalten und einen beobachteten Fehler bereit. Fordern Sie eine vorgeschlagene Änderung und die Prüfungen an, die eine Korrektur von einem neuen Problem unterscheiden würden. Geben Sie in einer werkzeugverbundenen Anwendung das Ergebnis des ausgeführten Werkzeugs vor der nächsten Entscheidung zurück. Benennen Sie für eine Dokumentanalyse die zu vergleichenden Abschnitte und die Felder oder Schlussfolgerungen, die die Antwort enthalten soll.
Stellen Sie für eine Bildaufgabe die visuelle Eingabe mit einer Frage zu etwas darin Sichtbarem bereit. Ein nützliches Ergebnis benennt das beobachtete Merkmal und verbindet es mit der gewünschten Schlussfolgerung. Halten Sie diesen visuellen Beleg von einer Tatsache aus einer externen Quelle oder einer vorgeschlagenen Handlung getrennt. Die Bildkomponente unterstützt die Interpretation des Bildes; sie macht aus einer erzeugten Werkzeuganfrage keine ausgeführte Handlung.
Die veröffentlichten GGUF-Dateien erfordern die Low-Bit-Laufzeitunterstützung des Herstellers. Er weist darauf hin, dass eine unveränderte Laufzeitumgebung die Typen zurückweisen oder wegen der fehlenden passenden Rotation falsch dekodieren kann. Zur lokalen Modellwahl gehören daher die passende Packung, Bildkomponente und kompatible Laufzeitumgebung. Separat konvertierte Formate und begleitende Draft-Modelle sind eigenständige Artefakte und keine durch den allgemeinen Modellnamen garantierten Eigenschaften.
", "aboutText": "Ternary Bonsai 2 27B ist PrismMLs Low-Bit-Denkmodell auf Basis der Architektur von Qwen3.8 27B. Es soll Textschlussfolgern, Programmierung, visuelles Verständnis und agentenorientierte Arbeit in einer kleineren lokalen Bereitstellung ermöglichen. Das Sprachmodell erzeugt Text und Werkzeugaufrufanfragen; Bildeingaben verwenden die separat bereitgestellte Bildkomponente.\n\nDas Modell verwendet eine Basis mit hybrider Attention, zu ungefähr drei Vierteln linearer Attention und einem Viertel vollständiger Attention, sowie einen Kontext von 262K Tokens. Ternäre Sprachgewichte nehmen die Werte minus eins, null oder plus eins mit gemeinsamer Skalierung an. Eine gespeicherte Rotation der Gewichtsbasis erfordert die passende Aktivierungstransformation in der Laufzeitumgebung. Dies ist eine Anforderung an Modelldarstellung und Laufzeitumgebung, nicht bloss eine kleinere Dateiendung.\n\nDer Hersteller stellt zwei GGUF-Packungen bereit: Dicht gepackte Trits in PTQ1_0 belegen 5,95 GB, während PQ2_0 Trits in Zwei-Bit-Feldern speichert und 7,21 GB belegt. Die optionale Q8_0-Bildkomponente ergänzt etwa 0,63 GB. Die Packungen unterscheiden sich im Entpackaufwand und im Hardwareverhalten, sodass die kleinere Packung nicht durchgängig schneller ist. Dies sind veröffentlichte Artefaktgrössen; der Kontext und die Arbeitspuffer einer Aufgabe benötigen zusätzlichen Speicher.\n\nDenken ist standardmässig aktiviert. Der Hersteller nennt xhigh als voreingestellten Denkaufwand und medium als Option für kürzere Antworten; low wird nicht unterstützt und verhält sich ähnlich wie xhigh. Er unterscheidet ausserdem zwischen Generierungseinstellungen mit und ohne Denken. Lassen Sie sowohl für die Denkphase als auch für die Endantwort Platz: Ein kleines Generierungsbudget kann während des Denkens enden, bevor eine Antwort erscheint.\n\nStellen Sie für eine Repository-Aufgabe die relevanten Dateien als Text, das zu ändernde Verhalten und einen beobachteten Fehler bereit. Fordern Sie eine vorgeschlagene Änderung und die Prüfungen an, die eine Korrektur von einem neuen Problem unterscheiden würden. Geben Sie in einer werkzeugverbundenen Anwendung das Ergebnis des ausgeführten Werkzeugs vor der nächsten Entscheidung zurück. Benennen Sie für eine Dokumentanalyse die zu vergleichenden Abschnitte und die Felder oder Schlussfolgerungen, die die Antwort enthalten soll.\n\nStellen Sie für eine Bildaufgabe die visuelle Eingabe mit einer Frage zu etwas darin Sichtbarem bereit. Ein nützliches Ergebnis benennt das beobachtete Merkmal und verbindet es mit der gewünschten Schlussfolgerung. Halten Sie diesen visuellen Beleg von einer Tatsache aus einer externen Quelle oder einer vorgeschlagenen Handlung getrennt. Die Bildkomponente unterstützt die Interpretation des Bildes; sie macht aus einer erzeugten Werkzeuganfrage keine ausgeführte Handlung.\n\nDie veröffentlichten GGUF-Dateien erfordern die Low-Bit-Laufzeitunterstützung des Herstellers. Er weist darauf hin, dass eine unveränderte Laufzeitumgebung die Typen zurückweisen oder wegen der fehlenden passenden Rotation falsch dekodieren kann. Zur lokalen Modellwahl gehören daher die passende Packung, Bildkomponente und kompatible Laufzeitumgebung. Separat konvertierte Formate und begleitende Draft-Modelle sind eigenständige Artefakte und keine durch den allgemeinen Modellnamen garantierten Eigenschaften.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
Correct a binary-search boundary\n\nReview this Python binary search: lo=0; hi=len(a); while lo <= hi: mid=(lo+hi)//2; compare a[mid] with target. An empty list can index out of range. Propose a complete corrected function for a sorted ascending list, returning an index or -1, and tests for empty, missing and endpoint targets.A corrected binary-search function, a boundary explanation and representative tests.Check that every accessed index is within the list and that the loop terminates when the target is absent.prism-ml/ternary-bonsai-2-27bTernary Bonsai 2 27B von PrismML komprimiert ein auf Qwen3.8 basierendes Denk- und Vision-Language-Modell in ternäre Gewichte. Es behält einen Kontext von 262K, Denk- und Werkzeugaufrufverhalten bei, mit separaten Sprachmodellpackungen und einer optionalen Bildkomponente.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Ternary Bonsai 2 27B ist PrismMLs Low-Bit-Denkmodell auf Basis der Architektur von Qwen3.8 27B. Es soll Textschlussfolgern, Programmierung, visuelles Verständnis und agentenorientierte Arbeit in einer kleineren lokalen Bereitstellung ermöglichen. Das Sprachmodell erzeugt Text und Werkzeugaufrufanfragen; Bildeingaben verwenden die separat bereitgestellte Bildkomponente.
Das Modell verwendet eine Basis mit hybrider Attention, zu ungefähr drei Vierteln linearer Attention und einem Viertel vollständiger Attention, sowie einen Kontext von 262K Tokens. Ternäre Sprachgewichte nehmen die Werte minus eins, null oder plus eins mit gemeinsamer Skalierung an. Eine gespeicherte Rotation der Gewichtsbasis erfordert die passende Aktivierungstransformation in der Laufzeitumgebung. Dies ist eine Anforderung an Modelldarstellung und Laufzeitumgebung, nicht bloss eine kleinere Dateiendung.
Der Hersteller stellt zwei GGUF-Packungen bereit: Dicht gepackte Trits in PTQ1_0 belegen 5,95 GB, während PQ2_0 Trits in Zwei-Bit-Feldern speichert und 7,21 GB belegt. Die optionale Q8_0-Bildkomponente ergänzt etwa 0,63 GB. Die Packungen unterscheiden sich im Entpackaufwand und im Hardwareverhalten, sodass die kleinere Packung nicht durchgängig schneller ist. Dies sind veröffentlichte Artefaktgrössen; der Kontext und die Arbeitspuffer einer Aufgabe benötigen zusätzlichen Speicher.
Denken ist standardmässig aktiviert. Der Hersteller nennt xhigh als voreingestellten Denkaufwand und medium als Option für kürzere Antworten; low wird nicht unterstützt und verhält sich ähnlich wie xhigh. Er unterscheidet ausserdem zwischen Generierungseinstellungen mit und ohne Denken. Lassen Sie sowohl für die Denkphase als auch für die Endantwort Platz: Ein kleines Generierungsbudget kann während des Denkens enden, bevor eine Antwort erscheint.
Stellen Sie für eine Repository-Aufgabe die relevanten Dateien als Text, das zu ändernde Verhalten und einen beobachteten Fehler bereit. Fordern Sie eine vorgeschlagene Änderung und die Prüfungen an, die eine Korrektur von einem neuen Problem unterscheiden würden. Geben Sie in einer werkzeugverbundenen Anwendung das Ergebnis des ausgeführten Werkzeugs vor der nächsten Entscheidung zurück. Benennen Sie für eine Dokumentanalyse die zu vergleichenden Abschnitte und die Felder oder Schlussfolgerungen, die die Antwort enthalten soll.
Stellen Sie für eine Bildaufgabe die visuelle Eingabe mit einer Frage zu etwas darin Sichtbarem bereit. Ein nützliches Ergebnis benennt das beobachtete Merkmal und verbindet es mit der gewünschten Schlussfolgerung. Halten Sie diesen visuellen Beleg von einer Tatsache aus einer externen Quelle oder einer vorgeschlagenen Handlung getrennt. Die Bildkomponente unterstützt die Interpretation des Bildes; sie macht aus einer erzeugten Werkzeuganfrage keine ausgeführte Handlung.
Die veröffentlichten GGUF-Dateien erfordern die Low-Bit-Laufzeitunterstützung des Herstellers. Er weist darauf hin, dass eine unveränderte Laufzeitumgebung die Typen zurückweisen oder wegen der fehlenden passenden Rotation falsch dekodieren kann. Zur lokalen Modellwahl gehören daher die passende Packung, Bildkomponente und kompatible Laufzeitumgebung. Separat konvertierte Formate und begleitende Draft-Modelle sind eigenständige Artefakte und keine durch den allgemeinen Modellnamen garantierten Eigenschaften.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits prism-ml/ternary-bonsai-2-27b | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschliesslich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00015 / 1K Tokens Ausgabe · Ausgabetoken $0.001 / 1K Tokens Eingabe · Cache lesen $0.000075 / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00015 / 1K Tokens Ausgabe · Ausgabetoken $0.001 / 1K Tokens Eingabe · Cache lesen $0.000075 / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschliessenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "prism-ml/ternary-bonsai-2-27b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='prism-ml/ternary-bonsai-2-27b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='prism-ml/ternary-bonsai-2-27b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra prism-ml/ternary-bonsai-2-27b
Verwenden Sie die oben angezeigten Methodenpfade.
prism-ml/ternary-bonsai-2-27bTernary Bonsai 2 27B von PrismML komprimiert ein auf Qwen3.8 basierendes Denk- und Vision-Language-Modell in ternäre Gewichte. Es behält einen Kontext von 262K, Denk- und Werkzeugaufrufverhalten bei, mit separaten Sprachmodellpackungen und einer optionalen Bildkomponente.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Ternary Bonsai 2 27B ist PrismMLs Low-Bit-Denkmodell auf Basis der Architektur von Qwen3.8 27B. Es soll Textschlussfolgern, Programmierung, visuelles Verständnis und agentenorientierte Arbeit in einer kleineren lokalen Bereitstellung ermöglichen. Das Sprachmodell erzeugt Text und Werkzeugaufrufanfragen; Bildeingaben verwenden die separat bereitgestellte Bildkomponente.
Das Modell verwendet eine Basis mit hybrider Attention, zu ungefähr drei Vierteln linearer Attention und einem Viertel vollständiger Attention, sowie einen Kontext von 262K Tokens. Ternäre Sprachgewichte nehmen die Werte minus eins, null oder plus eins mit gemeinsamer Skalierung an. Eine gespeicherte Rotation der Gewichtsbasis erfordert die passende Aktivierungstransformation in der Laufzeitumgebung. Dies ist eine Anforderung an Modelldarstellung und Laufzeitumgebung, nicht bloss eine kleinere Dateiendung.
Der Hersteller stellt zwei GGUF-Packungen bereit: Dicht gepackte Trits in PTQ1_0 belegen 5,95 GB, während PQ2_0 Trits in Zwei-Bit-Feldern speichert und 7,21 GB belegt. Die optionale Q8_0-Bildkomponente ergänzt etwa 0,63 GB. Die Packungen unterscheiden sich im Entpackaufwand und im Hardwareverhalten, sodass die kleinere Packung nicht durchgängig schneller ist. Dies sind veröffentlichte Artefaktgrössen; der Kontext und die Arbeitspuffer einer Aufgabe benötigen zusätzlichen Speicher.
Denken ist standardmässig aktiviert. Der Hersteller nennt xhigh als voreingestellten Denkaufwand und medium als Option für kürzere Antworten; low wird nicht unterstützt und verhält sich ähnlich wie xhigh. Er unterscheidet ausserdem zwischen Generierungseinstellungen mit und ohne Denken. Lassen Sie sowohl für die Denkphase als auch für die Endantwort Platz: Ein kleines Generierungsbudget kann während des Denkens enden, bevor eine Antwort erscheint.
Stellen Sie für eine Repository-Aufgabe die relevanten Dateien als Text, das zu ändernde Verhalten und einen beobachteten Fehler bereit. Fordern Sie eine vorgeschlagene Änderung und die Prüfungen an, die eine Korrektur von einem neuen Problem unterscheiden würden. Geben Sie in einer werkzeugverbundenen Anwendung das Ergebnis des ausgeführten Werkzeugs vor der nächsten Entscheidung zurück. Benennen Sie für eine Dokumentanalyse die zu vergleichenden Abschnitte und die Felder oder Schlussfolgerungen, die die Antwort enthalten soll.
Stellen Sie für eine Bildaufgabe die visuelle Eingabe mit einer Frage zu etwas darin Sichtbarem bereit. Ein nützliches Ergebnis benennt das beobachtete Merkmal und verbindet es mit der gewünschten Schlussfolgerung. Halten Sie diesen visuellen Beleg von einer Tatsache aus einer externen Quelle oder einer vorgeschlagenen Handlung getrennt. Die Bildkomponente unterstützt die Interpretation des Bildes; sie macht aus einer erzeugten Werkzeuganfrage keine ausgeführte Handlung.
Die veröffentlichten GGUF-Dateien erfordern die Low-Bit-Laufzeitunterstützung des Herstellers. Er weist darauf hin, dass eine unveränderte Laufzeitumgebung die Typen zurückweisen oder wegen der fehlenden passenden Rotation falsch dekodieren kann. Zur lokalen Modellwahl gehören daher die passende Packung, Bildkomponente und kompatible Laufzeitumgebung. Separat konvertierte Formate und begleitende Draft-Modelle sind eigenständige Artefakte und keine durch den allgemeinen Modellnamen garantierten Eigenschaften.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits prism-ml/ternary-bonsai-2-27b | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschliesslich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00015 / 1K Tokens Ausgabe · Ausgabetoken $0.001 / 1K Tokens Eingabe · Cache lesen $0.000075 / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00015 / 1K Tokens Ausgabe · Ausgabetoken $0.001 / 1K Tokens Eingabe · Cache lesen $0.000075 / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschliessenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "prism-ml/ternary-bonsai-2-27b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'prism-ml/ternary-bonsai-2-27b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'prism-ml/ternary-bonsai-2-27b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra prism-ml/ternary-bonsai-2-27b
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
Correct a binary-search boundary\n\nReview this Python binary search: lo=0; hi=len(a); while lo <= hi: mid=(lo+hi)//2; compare a[mid] with target. An empty list can index out of range. Propose a complete corrected function for a sorted ascending list, returning an index or -1, and tests for empty, missing and endpoint targets.A corrected binary-search function, a boundary explanation and representative tests.Check that every accessed index is within the list and that the loop terminates when the target is absent.