Ternary Bonsai 2 27B es el modelo de razonamiento de pocos bits de PrismML basado en la arquitectura Qwen3.8 27B. Está diseñado para llevar razonamiento de texto, programación, comprensión visual y trabajo orientado a agentes a un despliegue local más pequeño. El modelo de lenguaje genera texto y solicitudes de llamadas a herramientas; la entrada de imagen utiliza el componente de visión proporcionado por separado.
El modelo utiliza una estructura base de atención híbrida, con aproximadamente tres cuartas partes de atención lineal y una cuarta parte de atención completa, y un contexto de 262K tokens. Los pesos ternarios de lenguaje toman valores de menos uno, cero o más uno con escalamiento compartido. Una rotación almacenada de la base de los pesos requiere la transformación de activaciones correspondiente en el entorno de ejecución. Es un requisito de representación del modelo y del entorno de ejecución, no simplemente una extensión de archivo más pequeña.
El productor proporciona dos empaquetados GGUF: los trits densos en PTQ1_0 ocupan 5.95 GB, mientras que PQ2_0 almacena los trits en espacios de dos bits y ocupa 7.21 GB. El paquete de visión opcional Q8_0 agrega aproximadamente 0.63 GB. Los empaquetados tienen distintos costos de desempaquetado y comportamientos de hardware, por lo que el empaquetado más pequeño no siempre es más rápido. Son tamaños publicados de los archivos; el contexto y los búferes de trabajo de una tarea requieren memoria adicional.
El pensamiento está habilitado de manera predeterminada. El fabricante describe xhigh como el esfuerzo de razonamiento predeterminado y medium como una opción para respuestas más cortas; low no es compatible y se comporta de manera cercana a xhigh. También distingue los ajustes de generación con pensamiento de los que no lo usan. Deja espacio tanto para la etapa de razonamiento como para la respuesta final: un presupuesto de generación pequeño puede agotarse durante el pensamiento antes de que aparezca una respuesta.
Para una tarea de repositorio, proporciona los archivos pertinentes como texto, el comportamiento que se debe cambiar y una falla observada. Pide un cambio propuesto y las comprobaciones que permitirían distinguir una corrección de un problema nuevo. En una aplicación conectada a herramientas, devuelve el resultado de la herramienta ejecutada antes de la siguiente decisión. Para el análisis de documentos, nombra las secciones que se deben comparar y los campos o las conclusiones que debe contener la respuesta.
Para una tarea de imagen, proporciona la entrada visual con una pregunta vinculada a algo visible en ella. Un resultado útil identifica la característica observada y la conecta con la conclusión solicitada. Mantén esa evidencia visual separada de un hecho que provenga de una fuente externa o de una acción propuesta. El componente de visión permite interpretar la imagen; no convierte una solicitud de herramienta generada en una acción ejecutada.
Los archivos GGUF publicados requieren el soporte del entorno de ejecución de pocos bits del productor. El fabricante señala que un entorno de ejecución sin modificar puede rechazar los tipos o decodificarlos incorrectamente porque falta la rotación correspondiente. Por lo tanto, la elección del modelo local incluye el empaquetado adecuado, el componente de visión y un entorno de ejecución compatible. Los formatos convertidos por separado y los modelos auxiliares de borrador son archivos distintos, no propiedades garantizadas por el nombre general del modelo.
", "aboutText": "Ternary Bonsai 2 27B es el modelo de razonamiento de pocos bits de PrismML basado en la arquitectura Qwen3.8 27B. Está diseñado para llevar razonamiento de texto, programación, comprensión visual y trabajo orientado a agentes a un despliegue local más pequeño. El modelo de lenguaje genera texto y solicitudes de llamadas a herramientas; la entrada de imagen utiliza el componente de visión proporcionado por separado.\n\nEl modelo utiliza una estructura base de atención híbrida, con aproximadamente tres cuartas partes de atención lineal y una cuarta parte de atención completa, y un contexto de 262K tokens. Los pesos ternarios de lenguaje toman valores de menos uno, cero o más uno con escalamiento compartido. Una rotación almacenada de la base de los pesos requiere la transformación de activaciones correspondiente en el entorno de ejecución. Es un requisito de representación del modelo y del entorno de ejecución, no simplemente una extensión de archivo más pequeña.\n\nEl productor proporciona dos empaquetados GGUF: los trits densos en PTQ1_0 ocupan 5.95 GB, mientras que PQ2_0 almacena los trits en espacios de dos bits y ocupa 7.21 GB. El paquete de visión opcional Q8_0 agrega aproximadamente 0.63 GB. Los empaquetados tienen distintos costos de desempaquetado y comportamientos de hardware, por lo que el empaquetado más pequeño no siempre es más rápido. Son tamaños publicados de los archivos; el contexto y los búferes de trabajo de una tarea requieren memoria adicional.\n\nEl pensamiento está habilitado de manera predeterminada. El fabricante describe xhigh como el esfuerzo de razonamiento predeterminado y medium como una opción para respuestas más cortas; low no es compatible y se comporta de manera cercana a xhigh. También distingue los ajustes de generación con pensamiento de los que no lo usan. Deja espacio tanto para la etapa de razonamiento como para la respuesta final: un presupuesto de generación pequeño puede agotarse durante el pensamiento antes de que aparezca una respuesta.\n\nPara una tarea de repositorio, proporciona los archivos pertinentes como texto, el comportamiento que se debe cambiar y una falla observada. Pide un cambio propuesto y las comprobaciones que permitirían distinguir una corrección de un problema nuevo. En una aplicación conectada a herramientas, devuelve el resultado de la herramienta ejecutada antes de la siguiente decisión. Para el análisis de documentos, nombra las secciones que se deben comparar y los campos o las conclusiones que debe contener la respuesta.\n\nPara una tarea de imagen, proporciona la entrada visual con una pregunta vinculada a algo visible en ella. Un resultado útil identifica la característica observada y la conecta con la conclusión solicitada. Mantén esa evidencia visual separada de un hecho que provenga de una fuente externa o de una acción propuesta. El componente de visión permite interpretar la imagen; no convierte una solicitud de herramienta generada en una acción ejecutada.\n\nLos archivos GGUF publicados requieren el soporte del entorno de ejecución de pocos bits del productor. El fabricante señala que un entorno de ejecución sin modificar puede rechazar los tipos o decodificarlos incorrectamente porque falta la rotación correspondiente. Por lo tanto, la elección del modelo local incluye el empaquetado adecuado, el componente de visión y un entorno de ejecución compatible. Los formatos convertidos por separado y los modelos auxiliares de borrador son archivos distintos, no propiedades garantizadas por el nombre general del modelo.", "editorialOverlay": { "copy_fields": { "practical_html": "Ejemplo técnico en inglés
Correct a binary-search boundary\n\nReview this Python binary search: lo=0; hi=len(a); while lo <= hi: mid=(lo+hi)//2; compare a[mid] with target. An empty list can index out of range. Propose a complete corrected function for a sorted ascending list, returning an index or -1, and tests for empty, missing and endpoint targets.A corrected binary-search function, a boundary explanation and representative tests.Check that every accessed index is within the list and that the loop terminates when the target is absent.prism-ml/ternary-bonsai-2-27bTernary Bonsai 2 27B de PrismML comprime un modelo de razonamiento y visión y lenguaje basado en Qwen3.8 mediante pesos ternarios. Conserva un contexto de 262K, comportamiento de pensamiento y de llamadas a herramientas, con empaquetados independientes del modelo de lenguaje y un componente de visión opcional.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Ternary Bonsai 2 27B es el modelo de razonamiento de pocos bits de PrismML basado en la arquitectura Qwen3.8 27B. Está diseñado para llevar razonamiento de texto, programación, comprensión visual y trabajo orientado a agentes a un despliegue local más pequeño. El modelo de lenguaje genera texto y solicitudes de llamadas a herramientas; la entrada de imagen utiliza el componente de visión proporcionado por separado.
El modelo utiliza una estructura base de atención híbrida, con aproximadamente tres cuartas partes de atención lineal y una cuarta parte de atención completa, y un contexto de 262K tokens. Los pesos ternarios de lenguaje toman valores de menos uno, cero o más uno con escalamiento compartido. Una rotación almacenada de la base de los pesos requiere la transformación de activaciones correspondiente en el entorno de ejecución. Es un requisito de representación del modelo y del entorno de ejecución, no simplemente una extensión de archivo más pequeña.
El productor proporciona dos empaquetados GGUF: los trits densos en PTQ1_0 ocupan 5.95 GB, mientras que PQ2_0 almacena los trits en espacios de dos bits y ocupa 7.21 GB. El paquete de visión opcional Q8_0 agrega aproximadamente 0.63 GB. Los empaquetados tienen distintos costos de desempaquetado y comportamientos de hardware, por lo que el empaquetado más pequeño no siempre es más rápido. Son tamaños publicados de los archivos; el contexto y los búferes de trabajo de una tarea requieren memoria adicional.
El pensamiento está habilitado de manera predeterminada. El fabricante describe xhigh como el esfuerzo de razonamiento predeterminado y medium como una opción para respuestas más cortas; low no es compatible y se comporta de manera cercana a xhigh. También distingue los ajustes de generación con pensamiento de los que no lo usan. Deja espacio tanto para la etapa de razonamiento como para la respuesta final: un presupuesto de generación pequeño puede agotarse durante el pensamiento antes de que aparezca una respuesta.
Para una tarea de repositorio, proporciona los archivos pertinentes como texto, el comportamiento que se debe cambiar y una falla observada. Pide un cambio propuesto y las comprobaciones que permitirían distinguir una corrección de un problema nuevo. En una aplicación conectada a herramientas, devuelve el resultado de la herramienta ejecutada antes de la siguiente decisión. Para el análisis de documentos, nombra las secciones que se deben comparar y los campos o las conclusiones que debe contener la respuesta.
Para una tarea de imagen, proporciona la entrada visual con una pregunta vinculada a algo visible en ella. Un resultado útil identifica la característica observada y la conecta con la conclusión solicitada. Mantén esa evidencia visual separada de un hecho que provenga de una fuente externa o de una acción propuesta. El componente de visión permite interpretar la imagen; no convierte una solicitud de herramienta generada en una acción ejecutada.
Los archivos GGUF publicados requieren el soporte del entorno de ejecución de pocos bits del productor. El fabricante señala que un entorno de ejecución sin modificar puede rechazar los tipos o decodificarlos incorrectamente porque falta la rotación correspondiente. Por lo tanto, la elección del modelo local incluye el empaquetado adecuado, el componente de visión y un entorno de ejecución compatible. Los formatos convertidos por separado y los modelos auxiliares de borrador son archivos distintos, no propiedades garantizadas por el nombre general del modelo.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites prism-ml/ternary-bonsai-2-27b | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites Número mínimo de elementos: 1 | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites Ejemplos: system, user, assistant, tool, function Condiciones: Estos roles están representados explícitamente por los tipos de compatibilidad del código fuente; el conjunto exacto de roles depende del modelo. Depende del modelo | Predeterminado— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_call_id | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: role=tool; utiliza el ID real devuelto | Predeterminado— |
Campomessages[].name | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].reasoning_content | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: Devuelve en los turnos siguientes el razonamiento realmente recibido cuando este modelo lo utilice | Predeterminado— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campomax_completion_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotemperature | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotop_p | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campostop | Tipostring|string[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools | Tipofunction_tool[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools[].type | Tipostring | RequisitoOpcional | Valores y límites function Depende del modelo | Predeterminado— |
Campotools[].function.name | Tipostring | RequisitoObligatorio | Valores y límites Se aplica cuando: herramienta de función proporcionada | Predeterminado— |
Campotools[].function.description | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotool_choice | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoparallel_tool_calls | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporesponse_format | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning_effort | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camposervice_tier | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoinstructions | Tipostring | RequisitoOpcional | Valores y límites Campo de compatibilidad | Predeterminado— |
Campofunctions | Tipofunction[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campofunction_call | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoprompt_cache_options | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomodalities | Tipostring[] | RequisitoOpcional | Valores y límites text | Predeterminado— |
Campoprovider | Tipoobject | RequisitoOpcional | Valores y límites Condiciones: provider.options se rechaza en esta ruta de texto Ultra | Predeterminado— |
Campocache_control.ttl | Tipostring | RequisitoOpcional | Valores y límites Condiciones: 1h se rechaza en los campos reales de caché de instrucciones | Predeterminado— |
Texto · Texto UTF8
messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages |
Parámetromaterial_types | Contratotext |
Parámetromessages | Contratomatriz de mensajes con estructura role/content |
Parámetrofile_material | Contratodocumento real en UTF-8 insertado como texto literal; no se deduce ningún ID de archivo |
Parámetrooptional_controls | Contratostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parámetrocontrol_scope | Contratodepende del modelo; las herramientas de funciones del usuario difieren de las herramientas alojadas |
Parámetrooutput_modalities | Contratotext |
Parámetrohosted_operations | Contratofalse |
Parámetromultimodal_input_binding | Contratonull |
Ciclo de vida: synchronous_or_streamed
Envía el ID exacto del modelo junto con messages.
La longitud del contexto no es un límite máximo de salida.
Un archivo de texto puede aportar texto literal; las entradas de imagen, audio u objetos de archivo requieren una vinculación exacta.
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
Relaciona cada cargo con las condiciones mostradas. Usa una tarifa para cada conjunto de configuraciones alternativas.
| Configuración | Tabla de tarifas | Tokens de contexto, más de | Tokens de contexto, hasta inclusive | Cargo |
|---|---|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Tokens de contexto, más de— | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.00015 / 1K tokens Salida · Tokens de salida $0.001 / 1K tokens Entrada · Lectura de caché $0.000075 / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
| ConfiguraciónNivel 1 por longitud de la solicitud | Tabla de tarifas— | Tokens de contexto, más de0 | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.00015 / 1K tokens Salida · Tokens de salida $0.001 / 1K tokens Entrada · Lectura de caché $0.000075 / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un monto estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "prism-ml/ternary-bonsai-2-27b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='prism-ml/ternary-bonsai-2-27b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='prism-ml/ternary-bonsai-2-27b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva cada alternativa y su contenido, llamadas de herramientas y razonamiento. En SSE, ensambla los fragmentos incrementales por índice de alternativa/herramienta y conserva el motivo final de terminación y el uso.
Conserva los ID de solicitud y respuesta y los encabezados. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra prism-ml/ternary-bonsai-2-27b
Usa las rutas de método indicadas arriba.
prism-ml/ternary-bonsai-2-27bTernary Bonsai 2 27B de PrismML comprime un modelo de razonamiento y visión y lenguaje basado en Qwen3.8 mediante pesos ternarios. Conserva un contexto de 262K, comportamiento de pensamiento y de llamadas a herramientas, con empaquetados independientes del modelo de lenguaje y un componente de visión opcional.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Ternary Bonsai 2 27B es el modelo de razonamiento de pocos bits de PrismML basado en la arquitectura Qwen3.8 27B. Está diseñado para llevar razonamiento de texto, programación, comprensión visual y trabajo orientado a agentes a un despliegue local más pequeño. El modelo de lenguaje genera texto y solicitudes de llamadas a herramientas; la entrada de imagen utiliza el componente de visión proporcionado por separado.
El modelo utiliza una estructura base de atención híbrida, con aproximadamente tres cuartas partes de atención lineal y una cuarta parte de atención completa, y un contexto de 262K tokens. Los pesos ternarios de lenguaje toman valores de menos uno, cero o más uno con escalamiento compartido. Una rotación almacenada de la base de los pesos requiere la transformación de activaciones correspondiente en el entorno de ejecución. Es un requisito de representación del modelo y del entorno de ejecución, no simplemente una extensión de archivo más pequeña.
El productor proporciona dos empaquetados GGUF: los trits densos en PTQ1_0 ocupan 5.95 GB, mientras que PQ2_0 almacena los trits en espacios de dos bits y ocupa 7.21 GB. El paquete de visión opcional Q8_0 agrega aproximadamente 0.63 GB. Los empaquetados tienen distintos costos de desempaquetado y comportamientos de hardware, por lo que el empaquetado más pequeño no siempre es más rápido. Son tamaños publicados de los archivos; el contexto y los búferes de trabajo de una tarea requieren memoria adicional.
El pensamiento está habilitado de manera predeterminada. El fabricante describe xhigh como el esfuerzo de razonamiento predeterminado y medium como una opción para respuestas más cortas; low no es compatible y se comporta de manera cercana a xhigh. También distingue los ajustes de generación con pensamiento de los que no lo usan. Deja espacio tanto para la etapa de razonamiento como para la respuesta final: un presupuesto de generación pequeño puede agotarse durante el pensamiento antes de que aparezca una respuesta.
Para una tarea de repositorio, proporciona los archivos pertinentes como texto, el comportamiento que se debe cambiar y una falla observada. Pide un cambio propuesto y las comprobaciones que permitirían distinguir una corrección de un problema nuevo. En una aplicación conectada a herramientas, devuelve el resultado de la herramienta ejecutada antes de la siguiente decisión. Para el análisis de documentos, nombra las secciones que se deben comparar y los campos o las conclusiones que debe contener la respuesta.
Para una tarea de imagen, proporciona la entrada visual con una pregunta vinculada a algo visible en ella. Un resultado útil identifica la característica observada y la conecta con la conclusión solicitada. Mantén esa evidencia visual separada de un hecho que provenga de una fuente externa o de una acción propuesta. El componente de visión permite interpretar la imagen; no convierte una solicitud de herramienta generada en una acción ejecutada.
Los archivos GGUF publicados requieren el soporte del entorno de ejecución de pocos bits del productor. El fabricante señala que un entorno de ejecución sin modificar puede rechazar los tipos o decodificarlos incorrectamente porque falta la rotación correspondiente. Por lo tanto, la elección del modelo local incluye el empaquetado adecuado, el componente de visión y un entorno de ejecución compatible. Los formatos convertidos por separado y los modelos auxiliares de borrador son archivos distintos, no propiedades garantizadas por el nombre general del modelo.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites prism-ml/ternary-bonsai-2-27b | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites user, assistant | Predeterminado— |
Campomessages[].content | Tipostring | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Texto · Texto UTF-8
cadena messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages, max_tokens |
Parámetrooptional_controls | Contratostream |
Parámetromaterial_types | Contratotext |
Parámetrotext_file_material | ContratoLee el documento real en UTF-8 y coloca su texto en el campo input indicado o en la cadena de contenido del mensaje. |
Ciclo de vida: synchronous_or_streamed
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
Relaciona cada cargo con las condiciones mostradas. Usa una tarifa para cada conjunto de configuraciones alternativas.
| Configuración | Tabla de tarifas | Tokens de contexto, más de | Tokens de contexto, hasta inclusive | Cargo |
|---|---|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Tokens de contexto, más de— | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.00015 / 1K tokens Salida · Tokens de salida $0.001 / 1K tokens Entrada · Lectura de caché $0.000075 / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
| ConfiguraciónNivel 1 por longitud de la solicitud | Tabla de tarifas— | Tokens de contexto, más de0 | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.00015 / 1K tokens Salida · Tokens de salida $0.001 / 1K tokens Entrada · Lectura de caché $0.000075 / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un monto estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
{\n "model": "prism-ml/ternary-bonsai-2-27b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'prism-ml/ternary-bonsai-2-27b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'prism-ml/ternary-bonsai-2-27b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva todos los bloques de contenido, las firmas de razonamiento y los ID reales de uso de herramientas. Ensambla todos los fragmentos incrementales de los bloques SSE; el primer bloque de texto no constituye la salida completa.
Conserva los ID de solicitud y respuesta y los encabezados. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra prism-ml/ternary-bonsai-2-27b
Usa las rutas de método indicadas arriba.
Ejemplo técnico en inglés
Correct a binary-search boundary\n\nReview this Python binary search: lo=0; hi=len(a); while lo <= hi: mid=(lo+hi)//2; compare a[mid] with target. An empty list can index out of range. Propose a complete corrected function for a sorted ascending list, returning an index or -1, and tests for empty, missing and endpoint targets.A corrected binary-search function, a boundary explanation and representative tests.Check that every accessed index is within the list and that the loop terminates when the target is absent.