Ternary Bonsai 2 27B è il modello di ragionamento a basso numero di bit di PrismML, basato sull'architettura Qwen3.8 27B. È progettato per portare ragionamento testuale, programmazione, comprensione visiva e attività orientate agli agenti in una distribuzione locale più piccola. Il modello linguistico genera testo e richieste di chiamate a strumenti; l'input di immagini usa il componente visivo fornito separatamente.
Il modello usa una struttura ad attenzione ibrida, con circa tre quarti di attenzione lineare e un quarto di attenzione completa, e un contesto di 262K token. I pesi linguistici ternari assumono valori meno uno, zero o più uno con una scalatura condivisa. Una rotazione memorizzata della base dei pesi richiede la trasformazione corrispondente delle attivazioni nel runtime. È un requisito di rappresentazione del modello e del runtime, non semplicemente un'estensione di file più piccola.
Il produttore fornisce due impacchettamenti GGUF: i trit densi in PTQ1_0 occupano 5,95 GB, mentre PQ2_0 memorizza i trit in slot da due bit e occupa 7,21 GB. Il pacchetto visivo facoltativo Q8_0 aggiunge circa 0,63 GB. Gli impacchettamenti hanno costi di decompressione e comportamenti hardware diversi, quindi quello più piccolo non è sempre più rapido. Sono dimensioni pubblicate degli artefatti; il contesto dell'attività e i buffer di lavoro richiedono memoria aggiuntiva.
Il ragionamento è abilitato per impostazione predefinita. Il produttore descrive xhigh come impegno di ragionamento predefinito e medium come opzione per risposte più brevi; low non è supportato e si comporta in modo simile a xhigh. Distingue inoltre le impostazioni di generazione con e senza ragionamento. Lascia spazio sia alla fase di ragionamento sia alla risposta finale: un budget di generazione ridotto può esaurirsi durante il pensiero prima che compaia una risposta.
Per un'attività su un repository, fornisci come testo i file pertinenti, il comportamento da modificare e un malfunzionamento osservato. Richiedi una modifica proposta e le verifiche che distinguerebbero una correzione da un nuovo problema. In un'applicazione collegata a strumenti, restituisci il risultato dello strumento eseguito prima della decisione successiva. Per l'analisi di documenti, indica le sezioni da confrontare e i campi o le conclusioni che la risposta deve contenere.
Per un'attività su un'immagine, fornisci l'input visivo con una domanda legata a qualcosa di visibile al suo interno. Un risultato utile identifica la caratteristica osservata e la collega alla conclusione richiesta. Mantieni quella prova visiva separata da un fatto proveniente da una fonte esterna o da un'azione proposta. Il componente visivo supporta l'interpretazione dell'immagine; non trasforma una richiesta generata per uno strumento in un'azione eseguita.
I file GGUF pubblicati richiedono il supporto del runtime del produttore per il basso numero di bit. Il produttore segnala che un runtime non modificato può rifiutare i tipi o decodificarli in modo errato perché manca la rotazione corrispondente. La scelta locale del modello include quindi l'impacchettamento adeguato, il componente visivo e un runtime compatibile. Formati convertiti separati e modelli draft complementari sono artefatti distinti, non proprietà garantite dal nome generale del modello.
", "aboutText": "Ternary Bonsai 2 27B è il modello di ragionamento a basso numero di bit di PrismML, basato sull'architettura Qwen3.8 27B. È progettato per portare ragionamento testuale, programmazione, comprensione visiva e attività orientate agli agenti in una distribuzione locale più piccola. Il modello linguistico genera testo e richieste di chiamate a strumenti; l'input di immagini usa il componente visivo fornito separatamente.\n\nIl modello usa una struttura ad attenzione ibrida, con circa tre quarti di attenzione lineare e un quarto di attenzione completa, e un contesto di 262K token. I pesi linguistici ternari assumono valori meno uno, zero o più uno con una scalatura condivisa. Una rotazione memorizzata della base dei pesi richiede la trasformazione corrispondente delle attivazioni nel runtime. È un requisito di rappresentazione del modello e del runtime, non semplicemente un'estensione di file più piccola.\n\nIl produttore fornisce due impacchettamenti GGUF: i trit densi in PTQ1_0 occupano 5,95 GB, mentre PQ2_0 memorizza i trit in slot da due bit e occupa 7,21 GB. Il pacchetto visivo facoltativo Q8_0 aggiunge circa 0,63 GB. Gli impacchettamenti hanno costi di decompressione e comportamenti hardware diversi, quindi quello più piccolo non è sempre più rapido. Sono dimensioni pubblicate degli artefatti; il contesto dell'attività e i buffer di lavoro richiedono memoria aggiuntiva.\n\nIl ragionamento è abilitato per impostazione predefinita. Il produttore descrive xhigh come impegno di ragionamento predefinito e medium come opzione per risposte più brevi; low non è supportato e si comporta in modo simile a xhigh. Distingue inoltre le impostazioni di generazione con e senza ragionamento. Lascia spazio sia alla fase di ragionamento sia alla risposta finale: un budget di generazione ridotto può esaurirsi durante il pensiero prima che compaia una risposta.\n\nPer un'attività su un repository, fornisci come testo i file pertinenti, il comportamento da modificare e un malfunzionamento osservato. Richiedi una modifica proposta e le verifiche che distinguerebbero una correzione da un nuovo problema. In un'applicazione collegata a strumenti, restituisci il risultato dello strumento eseguito prima della decisione successiva. Per l'analisi di documenti, indica le sezioni da confrontare e i campi o le conclusioni che la risposta deve contenere.\n\nPer un'attività su un'immagine, fornisci l'input visivo con una domanda legata a qualcosa di visibile al suo interno. Un risultato utile identifica la caratteristica osservata e la collega alla conclusione richiesta. Mantieni quella prova visiva separata da un fatto proveniente da una fonte esterna o da un'azione proposta. Il componente visivo supporta l'interpretazione dell'immagine; non trasforma una richiesta generata per uno strumento in un'azione eseguita.\n\nI file GGUF pubblicati richiedono il supporto del runtime del produttore per il basso numero di bit. Il produttore segnala che un runtime non modificato può rifiutare i tipi o decodificarli in modo errato perché manca la rotazione corrispondente. La scelta locale del modello include quindi l'impacchettamento adeguato, il componente visivo e un runtime compatibile. Formati convertiti separati e modelli draft complementari sono artefatti distinti, non proprietà garantite dal nome generale del modello.", "editorialOverlay": { "copy_fields": { "practical_html": "Esempio tecnico in inglese
Correct a binary-search boundary\n\nReview this Python binary search: lo=0; hi=len(a); while lo <= hi: mid=(lo+hi)//2; compare a[mid] with target. An empty list can index out of range. Propose a complete corrected function for a sorted ascending list, returning an index or -1, and tests for empty, missing and endpoint targets.A corrected binary-search function, a boundary explanation and representative tests.Check that every accessed index is within the list and that the loop terminates when the target is absent.prism-ml/ternary-bonsai-2-27bTernary Bonsai 2 27B di PrismML comprime in pesi ternari un modello di ragionamento e visione-linguaggio basato su Qwen3.8. Mantiene un contesto di 262K, il comportamento di ragionamento e di chiamata a strumenti, con impacchettamenti separati del modello linguistico e un componente visivo facoltativo.
Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito.
Ternary Bonsai 2 27B è il modello di ragionamento a basso numero di bit di PrismML, basato sull'architettura Qwen3.8 27B. È progettato per portare ragionamento testuale, programmazione, comprensione visiva e attività orientate agli agenti in una distribuzione locale più piccola. Il modello linguistico genera testo e richieste di chiamate a strumenti; l'input di immagini usa il componente visivo fornito separatamente.
Il modello usa una struttura ad attenzione ibrida, con circa tre quarti di attenzione lineare e un quarto di attenzione completa, e un contesto di 262K token. I pesi linguistici ternari assumono valori meno uno, zero o più uno con una scalatura condivisa. Una rotazione memorizzata della base dei pesi richiede la trasformazione corrispondente delle attivazioni nel runtime. È un requisito di rappresentazione del modello e del runtime, non semplicemente un'estensione di file più piccola.
Il produttore fornisce due impacchettamenti GGUF: i trit densi in PTQ1_0 occupano 5,95 GB, mentre PQ2_0 memorizza i trit in slot da due bit e occupa 7,21 GB. Il pacchetto visivo facoltativo Q8_0 aggiunge circa 0,63 GB. Gli impacchettamenti hanno costi di decompressione e comportamenti hardware diversi, quindi quello più piccolo non è sempre più rapido. Sono dimensioni pubblicate degli artefatti; il contesto dell'attività e i buffer di lavoro richiedono memoria aggiuntiva.
Il ragionamento è abilitato per impostazione predefinita. Il produttore descrive xhigh come impegno di ragionamento predefinito e medium come opzione per risposte più brevi; low non è supportato e si comporta in modo simile a xhigh. Distingue inoltre le impostazioni di generazione con e senza ragionamento. Lascia spazio sia alla fase di ragionamento sia alla risposta finale: un budget di generazione ridotto può esaurirsi durante il pensiero prima che compaia una risposta.
Per un'attività su un repository, fornisci come testo i file pertinenti, il comportamento da modificare e un malfunzionamento osservato. Richiedi una modifica proposta e le verifiche che distinguerebbero una correzione da un nuovo problema. In un'applicazione collegata a strumenti, restituisci il risultato dello strumento eseguito prima della decisione successiva. Per l'analisi di documenti, indica le sezioni da confrontare e i campi o le conclusioni che la risposta deve contenere.
Per un'attività su un'immagine, fornisci l'input visivo con una domanda legata a qualcosa di visibile al suo interno. Un risultato utile identifica la caratteristica osservata e la collega alla conclusione richiesta. Mantieni quella prova visiva separata da un fatto proveniente da una fonte esterna o da un'azione proposta. Il componente visivo supporta l'interpretazione dell'immagine; non trasforma una richiesta generata per uno strumento in un'azione eseguita.
I file GGUF pubblicati richiedono il supporto del runtime del produttore per il basso numero di bit. Il produttore segnala che un runtime non modificato può rifiutare i tipi o decodificarli in modo errato perché manca la rotazione corrispondente. La scelta locale del modello include quindi l'impacchettamento adeguato, il componente visivo e un runtime compatibile. Formati convertiti separati e modelli draft complementari sono artefatti distinti, non proprietà garantite dal nome generale del modello.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valori e limiti | Predefinito |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObbligatorio | Valori e limiti prism-ml/ternary-bonsai-2-27b | Predefinito— |
Campomessages | Tipomessage[] | RequisitoObbligatorio | Valori e limiti Numero minimo di elementi: 1 | Predefinito— |
Campomessages[].role | Tipostring | RequisitoObbligatorio | Valori e limiti Esempi: system, user, assistant, tool, function Condizioni: Questi ruoli sono rappresentati esplicitamente dai tipi di compatibilità del codice sorgente; l’insieme esatto dei ruoli rimane specifico del modello. Dipende dal modello | Predefinito— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].tool_call_id | Tipostring | RequisitoFacoltativo | Valori e limiti Si applica quando: role=tool; usa l’ID effettivamente restituito | Predefinito— |
Campomessages[].name | Tipostring | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].reasoning_content | Tipostring | RequisitoFacoltativo | Valori e limiti Si applica quando: Reinserisci il ragionamento effettivamente restituito quando il modello lo utilizza | Predefinito— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campomax_tokens | Tipointeger | RequisitoFacoltativo | Valori e limiti Minimo: 1 Dipende dal modello | Predefinito— |
Campomax_completion_tokens | Tipointeger | RequisitoFacoltativo | Valori e limiti Minimo: 1 Dipende dal modello | Predefinito— |
Campostream | Tipoboolean | RequisitoFacoltativo | Valori e limiti | Predefinitofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotemperature | Tiponumber | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotop_p | Tiponumber | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campostop | Tipostring|string[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotools | Tipofunction_tool[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotools[].type | Tipostring | RequisitoFacoltativo | Valori e limiti function Dipende dal modello | Predefinito— |
Campotools[].function.name | Tipostring | RequisitoObbligatorio | Valori e limiti Si applica quando: Funzione fornita come strumento | Predefinito— |
Campotools[].function.description | Tipostring | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campotool_choice | Tipostring|object | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoparallel_tool_calls | Tipoboolean | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporesponse_format | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporeasoning_effort | Tipostring | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporeasoning | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camposervice_tier | Tipostring | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoinstructions | Tipostring | RequisitoFacoltativo | Valori e limiti Campo di compatibilità | Predefinito— |
Campofunctions | Tipofunction[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campofunction_call | Tipostring|object | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoprompt_cache_options | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campomodalities | Tipostring[] | RequisitoFacoltativo | Valori e limiti text | Predefinito— |
Campoprovider | Tipoobject | RequisitoFacoltativo | Valori e limiti Condizioni: provider.options viene rifiutato su questa rotta testuale Ultra | Predefinito— |
Campocache_control.ttl | Tipostring | RequisitoFacoltativo | Valori e limiti Condizioni: 1h viene rifiutato nelle posizioni effettive della cache dei prompt | Predefinito— |
Testo · Testo UTF8
messages[].content
| Parametro | Contratto |
|---|---|
Parametrocontent_type | Contrattoapplication/json |
Parametrorequired | Contrattomodel, messages |
Parametromaterial_types | Contrattotext |
Parametromessages | ContrattoArray di messaggi con struttura role/content |
Parametrofile_material | ContrattoDocumento UTF-8 effettivo inserito come testo letterale; nessun ID di file dedotto |
Parametrooptional_controls | Contrattostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrocontrol_scope | ContrattoSpecifico del modello; gli strumenti di funzione dell’utente differiscono dagli strumenti ospitati |
Parametrooutput_modalities | Contrattotext |
Parametrohosted_operations | Contrattofalse |
Parametromultimodal_input_binding | Contrattonull |
Ciclo di vita: synchronous_or_streamed
Invia l’ID esatto del modello con messages.
La lunghezza del contesto non è un limite di uscita.
Un file di testo può fornire testo letterale; gli ingressi immagine/audio/oggetto file richiedono un’associazione esatta.
Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato.
Associa ogni costo alle condizioni indicate. Usa una sola tariffa per ogni insieme di configurazioni alternative.
| Configurazione | Listino delle tariffe | Token di contesto, più di | Token di contesto, fino al limite incluso | Costo |
|---|---|---|---|---|
| ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Token di contesto, più di— | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.00015 / 1K token Output · Token in output $0.001 / 1K token Input · Lettura dalla cache $0.000075 / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
| ConfigurazioneFascia 1 di lunghezza della richiesta | Listino delle tariffe— | Token di contesto, più di0 | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.00015 / 1K token Output · Token in output $0.001 / 1K token Input · Lettura dalla cache $0.000075 / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. Come funzionano la prenotazione e l’addebito finale →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "prism-ml/ternary-bonsai-2-27b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='prism-ml/ternary-bonsai-2-27b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='prism-ml/ternary-bonsai-2-27b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson o SSE
Conserva ogni risposta, file e parte di contenuto restituiti per intero.
Conserva ogni scelta con contenuto, chiamate agli strumenti e ragionamento. In SSE assembla i delta per indice di scelta e strumento e conserva il motivo finale di completamento e i dati di utilizzo.
Conserva gli ID e le intestazioni di richiesta/risposta. Non viene fornito alcun URL generico per recuperare un’attività testuale.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Risposta | Condizione | Passaggio successivo |
|---|---|---|
Risposta400 · invalid_request_error | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. |
Ailoot Ultra prism-ml/ternary-bonsai-2-27b
Usa i percorsi dei metodi indicati sopra.
prism-ml/ternary-bonsai-2-27bTernary Bonsai 2 27B di PrismML comprime in pesi ternari un modello di ragionamento e visione-linguaggio basato su Qwen3.8. Mantiene un contesto di 262K, il comportamento di ragionamento e di chiamata a strumenti, con impacchettamenti separati del modello linguistico e un componente visivo facoltativo.
Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito.
Ternary Bonsai 2 27B è il modello di ragionamento a basso numero di bit di PrismML, basato sull'architettura Qwen3.8 27B. È progettato per portare ragionamento testuale, programmazione, comprensione visiva e attività orientate agli agenti in una distribuzione locale più piccola. Il modello linguistico genera testo e richieste di chiamate a strumenti; l'input di immagini usa il componente visivo fornito separatamente.
Il modello usa una struttura ad attenzione ibrida, con circa tre quarti di attenzione lineare e un quarto di attenzione completa, e un contesto di 262K token. I pesi linguistici ternari assumono valori meno uno, zero o più uno con una scalatura condivisa. Una rotazione memorizzata della base dei pesi richiede la trasformazione corrispondente delle attivazioni nel runtime. È un requisito di rappresentazione del modello e del runtime, non semplicemente un'estensione di file più piccola.
Il produttore fornisce due impacchettamenti GGUF: i trit densi in PTQ1_0 occupano 5,95 GB, mentre PQ2_0 memorizza i trit in slot da due bit e occupa 7,21 GB. Il pacchetto visivo facoltativo Q8_0 aggiunge circa 0,63 GB. Gli impacchettamenti hanno costi di decompressione e comportamenti hardware diversi, quindi quello più piccolo non è sempre più rapido. Sono dimensioni pubblicate degli artefatti; il contesto dell'attività e i buffer di lavoro richiedono memoria aggiuntiva.
Il ragionamento è abilitato per impostazione predefinita. Il produttore descrive xhigh come impegno di ragionamento predefinito e medium come opzione per risposte più brevi; low non è supportato e si comporta in modo simile a xhigh. Distingue inoltre le impostazioni di generazione con e senza ragionamento. Lascia spazio sia alla fase di ragionamento sia alla risposta finale: un budget di generazione ridotto può esaurirsi durante il pensiero prima che compaia una risposta.
Per un'attività su un repository, fornisci come testo i file pertinenti, il comportamento da modificare e un malfunzionamento osservato. Richiedi una modifica proposta e le verifiche che distinguerebbero una correzione da un nuovo problema. In un'applicazione collegata a strumenti, restituisci il risultato dello strumento eseguito prima della decisione successiva. Per l'analisi di documenti, indica le sezioni da confrontare e i campi o le conclusioni che la risposta deve contenere.
Per un'attività su un'immagine, fornisci l'input visivo con una domanda legata a qualcosa di visibile al suo interno. Un risultato utile identifica la caratteristica osservata e la collega alla conclusione richiesta. Mantieni quella prova visiva separata da un fatto proveniente da una fonte esterna o da un'azione proposta. Il componente visivo supporta l'interpretazione dell'immagine; non trasforma una richiesta generata per uno strumento in un'azione eseguita.
I file GGUF pubblicati richiedono il supporto del runtime del produttore per il basso numero di bit. Il produttore segnala che un runtime non modificato può rifiutare i tipi o decodificarli in modo errato perché manca la rotazione corrispondente. La scelta locale del modello include quindi l'impacchettamento adeguato, il componente visivo e un runtime compatibile. Formati convertiti separati e modelli draft complementari sono artefatti distinti, non proprietà garantite dal nome generale del modello.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valori e limiti | Predefinito |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObbligatorio | Valori e limiti prism-ml/ternary-bonsai-2-27b | Predefinito— |
Campomessages | Tipomessage[] | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campomessages[].role | Tipostring | RequisitoObbligatorio | Valori e limiti user, assistant | Predefinito— |
Campomessages[].content | Tipostring | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campomax_tokens | Tipointeger | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campostream | Tipoboolean | RequisitoFacoltativo | Valori e limiti | Predefinitofalse |
Testo · Testo UTF-8
Stringa messages[].content
| Parametro | Contratto |
|---|---|
Parametrocontent_type | Contrattoapplication/json |
Parametrorequired | Contrattomodel, messages, max_tokens |
Parametrooptional_controls | Contrattostream |
Parametromaterial_types | Contrattotext |
Parametrotext_file_material | ContrattoLeggi il documento UTF-8 effettivo e inserisci il testo nell’ingresso indicato o nella stringa del contenuto del messaggio. |
Ciclo di vita: synchronous_or_streamed
Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato.
Associa ogni costo alle condizioni indicate. Usa una sola tariffa per ogni insieme di configurazioni alternative.
| Configurazione | Listino delle tariffe | Token di contesto, più di | Token di contesto, fino al limite incluso | Costo |
|---|---|---|---|---|
| ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Token di contesto, più di— | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.00015 / 1K token Output · Token in output $0.001 / 1K token Input · Lettura dalla cache $0.000075 / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
| ConfigurazioneFascia 1 di lunghezza della richiesta | Listino delle tariffe— | Token di contesto, più di0 | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.00015 / 1K token Output · Token in output $0.001 / 1K token Input · Lettura dalla cache $0.000075 / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. Come funzionano la prenotazione e l’addebito finale →
{\n "model": "prism-ml/ternary-bonsai-2-27b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'prism-ml/ternary-bonsai-2-27b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'prism-ml/ternary-bonsai-2-27b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON o SSE
Conserva ogni risposta, file e parte di contenuto restituiti per intero.
Conserva tutti i blocchi di contenuto, le firme di ragionamento e gli ID effettivi di utilizzo degli strumenti. Assembla tutti i delta dei blocchi SSE; il primo blocco di testo non è l’uscita completa.
Conserva gli ID e le intestazioni di richiesta/risposta. Non viene fornito alcun URL generico per recuperare un’attività testuale.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Risposta | Condizione | Passaggio successivo |
|---|---|---|
Risposta400 · invalid_request_error | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. |
Ailoot Ultra prism-ml/ternary-bonsai-2-27b
Usa i percorsi dei metodi indicati sopra.
Esempio tecnico in inglese
Correct a binary-search boundary\n\nReview this Python binary search: lo=0; hi=len(a); while lo <= hi: mid=(lo+hi)//2; compare a[mid] with target. An empty list can index out of range. Propose a complete corrected function for a sorted ascending list, returning an index or -1, and tests for empty, missing and endpoint targets.A corrected binary-search function, a boundary explanation and representative tests.Check that every accessed index is within the list and that the loop terminates when the target is absent.