Meta Llama 3.2 3B Instruct es un modelo de texto ajustado mediante instrucciones y diseñado para conversaciones de asistentes multilingües, trabajo basado en información recuperada y resúmenes. La tabla de modelos del fabricante identifica una clase 3B con 3.21B de parámetros. Acepta texto y produce texto o código. Su desarrollo combina poda del modelo y destilación de conocimiento con ajuste mediante instrucciones, creando un perfil de modelo pequeño para tareas acotadas de escritura y asistencia.
Proporciona al modelo el material de origen, la pregunta y la forma esperada de la respuesta. Una solicitud de asistencia de escritura puede especificar el público, el tono y los detalles que deben permanecer. Un resumen puede identificar las secciones que se deben cubrir y la extensión o estructura deseada. Para una respuesta breve de una base de conocimiento, aporta el pasaje pertinente y pide una explicación fundamentada en esa fuente.
El fabricante incluye la recuperación de conocimiento, los resúmenes, los asistentes de escritura móviles, la reformulación de consultas y la reformulación de prompts entre los usos previstos de los modelos de texto ajustados mediante instrucciones. Una aplicación de recuperación puede proporcionar los pasajes que ha encontrado y pedir al modelo que redacte la respuesta. Conserva los identificadores de los pasajes junto al resultado para que un lector u otro componente pueda examinar las pruebas.
Para reformular consultas, conserva la pregunta original y pide una formulación de búsqueda concisa que mantenga su intención. Para resumir un documento, pide las afirmaciones principales y los matices que las condicionan. Revisa la salida real en busca de condiciones omitidas, cifras modificadas o información inventada, especialmente cuando una respuesta breve comprime una fuente más extensa.
Inglés, alemán, francés, italiano, portugués, hindi, español y tailandés son los ocho idiomas oficialmente admitidos. Indica el idioma de salida deseado y conserva la escritura de los nombres o de la terminología especializada que deban permanecer sin cambios. Una tarea multilingüe debe incluir suficiente contexto de origen para evaluar el significado de la redacción devuelta, en lugar de apoyarse solo en la fluidez.
El checkpoint estándar de texto de Llama 3.2 tiene una ventana de contexto de 128K tokens. Utiliza ese presupuesto para el material de origen pertinente, el historial de conversación y el resultado generado. Conserva las decisiones anteriores necesarias para continuar y deja espacio para la respuesta. El corte de los datos de preentrenamiento es diciembre de 2023, por lo que la información posterior necesita pruebas aportadas con la tarea o por la aplicación de recuperación que lo rodea.
Este es el checkpoint Instruct, preparado para diálogo de tipo asistente. La ficha del modelo describe ajuste fino supervisado y alineación con preferencias humanas, con destilación adicional durante el desarrollo de los modelos pequeños. Sus ejemplos de uso proporcionan mensajes de sistema y de usuario mediante un formato de chat. Una instrucción de sistema puede definir el papel y las expectativas de salida, mientras que el mensaje de usuario aporta la tarea actual y sus fuentes.
Mantén un formato de conversación adecuado para la versión seleccionada cuando utilices directamente su checkpoint. Define el resultado con claridad y examina la respuesta generada, incluida su relación con las pruebas aportadas. Para un producto textual estructurado, especifica los campos o encabezados requeridos y valida la salida real antes de que una aplicación la consuma; una solicitud escrita de formato no garantiza que todos los valores sean correctos.
El fabricante distingue el modelo de texto estándar de los perfiles de texto cuantizados de Llama 3.2 publicados por separado. Su tabla de modelos indica un contexto de 8K para esos perfiles cuantizados, distinto de la ventana estándar de 128K. Selecciona conjuntamente el modelo y el presupuesto de trabajo en lugar de asumir que todos los despliegues etiquetados como 3B conservan la misma capacidad de contexto.
El modelo 3B Instruct también está separado de los modelos de visión más grandes de Llama 3.2. Para este perfil de texto, prepara material de origen textual o texto obtenido por la aplicación que lo rodea. Utiliza el modelo para una respuesta acotada, una reescritura, un resumen o una explicación breve de código. Conserva el checkpoint seleccionado, el prompt y la fuente junto al resultado; después formula la siguiente instrucción de manera específica para el detalle que falte o el error observado.
", "aboutText": "Meta Llama 3.2 3B Instruct es un modelo de texto ajustado mediante instrucciones y diseñado para conversaciones de asistentes multilingües, trabajo basado en información recuperada y resúmenes. La tabla de modelos del fabricante identifica una clase 3B con 3.21B de parámetros. Acepta texto y produce texto o código. Su desarrollo combina poda del modelo y destilación de conocimiento con ajuste mediante instrucciones, creando un perfil de modelo pequeño para tareas acotadas de escritura y asistencia.\n\n### Define un resultado textual acotado\n\nProporciona al modelo el material de origen, la pregunta y la forma esperada de la respuesta. Una solicitud de asistencia de escritura puede especificar el público, el tono y los detalles que deben permanecer. Un resumen puede identificar las secciones que se deben cubrir y la extensión o estructura deseada. Para una respuesta breve de una base de conocimiento, aporta el pasaje pertinente y pide una explicación fundamentada en esa fuente.\n\nEl fabricante incluye la recuperación de conocimiento, los resúmenes, los asistentes de escritura móviles, la reformulación de consultas y la reformulación de prompts entre los usos previstos de los modelos de texto ajustados mediante instrucciones. Una aplicación de recuperación puede proporcionar los pasajes que ha encontrado y pedir al modelo que redacte la respuesta. Conserva los identificadores de los pasajes junto al resultado para que un lector u otro componente pueda examinar las pruebas.\n\nPara reformular consultas, conserva la pregunta original y pide una formulación de búsqueda concisa que mantenga su intención. Para resumir un documento, pide las afirmaciones principales y los matices que las condicionan. Revisa la salida real en busca de condiciones omitidas, cifras modificadas o información inventada, especialmente cuando una respuesta breve comprime una fuente más extensa.\n\n### Idiomas y contexto\n\nInglés, alemán, francés, italiano, portugués, hindi, español y tailandés son los ocho idiomas oficialmente admitidos. Indica el idioma de salida deseado y conserva la escritura de los nombres o de la terminología especializada que deban permanecer sin cambios. Una tarea multilingüe debe incluir suficiente contexto de origen para evaluar el significado de la redacción devuelta, en lugar de apoyarse solo en la fluidez.\n\nEl checkpoint estándar de texto de Llama 3.2 tiene una ventana de contexto de 128K tokens. Utiliza ese presupuesto para el material de origen pertinente, el historial de conversación y el resultado generado. Conserva las decisiones anteriores necesarias para continuar y deja espacio para la respuesta. El corte de los datos de preentrenamiento es diciembre de 2023, por lo que la información posterior necesita pruebas aportadas con la tarea o por la aplicación de recuperación que lo rodea.\n\n### Ajuste mediante instrucciones y formato de conversación\n\nEste es el checkpoint Instruct, preparado para diálogo de tipo asistente. La ficha del modelo describe ajuste fino supervisado y alineación con preferencias humanas, con destilación adicional durante el desarrollo de los modelos pequeños. Sus ejemplos de uso proporcionan mensajes de sistema y de usuario mediante un formato de chat. Una instrucción de sistema puede definir el papel y las expectativas de salida, mientras que el mensaje de usuario aporta la tarea actual y sus fuentes.\n\nMantén un formato de conversación adecuado para la versión seleccionada cuando utilices directamente su checkpoint. Define el resultado con claridad y examina la respuesta generada, incluida su relación con las pruebas aportadas. Para un producto textual estructurado, especifica los campos o encabezados requeridos y valida la salida real antes de que una aplicación la consuma; una solicitud escrita de formato no garantiza que todos los valores sean correctos.\n\n### Perfiles estándar, cuantizados y de visión\n\nEl fabricante distingue el modelo de texto estándar de los perfiles de texto cuantizados de Llama 3.2 publicados por separado. Su tabla de modelos indica un contexto de 8K para esos perfiles cuantizados, distinto de la ventana estándar de 128K. Selecciona conjuntamente el modelo y el presupuesto de trabajo en lugar de asumir que todos los despliegues etiquetados como 3B conservan la misma capacidad de contexto.\n\nEl modelo 3B Instruct también está separado de los modelos de visión más grandes de Llama 3.2. Para este perfil de texto, prepara material de origen textual o texto obtenido por la aplicación que lo rodea. Utiliza el modelo para una respuesta acotada, una reescritura, un resumen o una explicación breve de código. Conserva el checkpoint seleccionado, el prompt y la fuente junto al resultado; después formula la siguiente instrucción de manera específica para el detalle que falte o el error observado.", "editorialOverlay": { "copy_fields": { "practical_html": "Ejemplo técnico en inglés
Rewrite a knowledge-base query\n\nRewrite this support question into one concise search query: 'I changed my work email yesterday and now the old address still gets export notifications, even though I log in with the new one.' Preserve the distinction between login identity and notification destination. Return the query and two key concepts it must retain; do not answer the question.One search query plus two retained concepts covering changed login email and stale export-notification address.The rewrite keeps the notification problem and does not collapse it into a login failure.meta-llama/llama-3.2-3b-instructMeta Llama 3.2 3B Instruct es un modelo de texto compacto para chat multilingüe, resúmenes basados en información recuperada y asistencia de escritura. Su checkpoint estándar tiene un contexto de 128K; las variantes cuantizadas publicadas por separado tienen una ventana de trabajo diferente.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Meta Llama 3.2 3B Instruct es un modelo de texto ajustado mediante instrucciones y diseñado para conversaciones de asistentes multilingües, trabajo basado en información recuperada y resúmenes. La tabla de modelos del fabricante identifica una clase 3B con 3.21B de parámetros. Acepta texto y produce texto o código. Su desarrollo combina poda del modelo y destilación de conocimiento con ajuste mediante instrucciones, creando un perfil de modelo pequeño para tareas acotadas de escritura y asistencia.
Proporciona al modelo el material de origen, la pregunta y la forma esperada de la respuesta. Una solicitud de asistencia de escritura puede especificar el público, el tono y los detalles que deben permanecer. Un resumen puede identificar las secciones que se deben cubrir y la extensión o estructura deseada. Para una respuesta breve de una base de conocimiento, aporta el pasaje pertinente y pide una explicación fundamentada en esa fuente.
El fabricante incluye la recuperación de conocimiento, los resúmenes, los asistentes de escritura móviles, la reformulación de consultas y la reformulación de prompts entre los usos previstos de los modelos de texto ajustados mediante instrucciones. Una aplicación de recuperación puede proporcionar los pasajes que ha encontrado y pedir al modelo que redacte la respuesta. Conserva los identificadores de los pasajes junto al resultado para que un lector u otro componente pueda examinar las pruebas.
Para reformular consultas, conserva la pregunta original y pide una formulación de búsqueda concisa que mantenga su intención. Para resumir un documento, pide las afirmaciones principales y los matices que las condicionan. Revisa la salida real en busca de condiciones omitidas, cifras modificadas o información inventada, especialmente cuando una respuesta breve comprime una fuente más extensa.
Inglés, alemán, francés, italiano, portugués, hindi, español y tailandés son los ocho idiomas oficialmente admitidos. Indica el idioma de salida deseado y conserva la escritura de los nombres o de la terminología especializada que deban permanecer sin cambios. Una tarea multilingüe debe incluir suficiente contexto de origen para evaluar el significado de la redacción devuelta, en lugar de apoyarse solo en la fluidez.
El checkpoint estándar de texto de Llama 3.2 tiene una ventana de contexto de 128K tokens. Utiliza ese presupuesto para el material de origen pertinente, el historial de conversación y el resultado generado. Conserva las decisiones anteriores necesarias para continuar y deja espacio para la respuesta. El corte de los datos de preentrenamiento es diciembre de 2023, por lo que la información posterior necesita pruebas aportadas con la tarea o por la aplicación de recuperación que lo rodea.
Este es el checkpoint Instruct, preparado para diálogo de tipo asistente. La ficha del modelo describe ajuste fino supervisado y alineación con preferencias humanas, con destilación adicional durante el desarrollo de los modelos pequeños. Sus ejemplos de uso proporcionan mensajes de sistema y de usuario mediante un formato de chat. Una instrucción de sistema puede definir el papel y las expectativas de salida, mientras que el mensaje de usuario aporta la tarea actual y sus fuentes.
Mantén un formato de conversación adecuado para la versión seleccionada cuando utilices directamente su checkpoint. Define el resultado con claridad y examina la respuesta generada, incluida su relación con las pruebas aportadas. Para un producto textual estructurado, especifica los campos o encabezados requeridos y valida la salida real antes de que una aplicación la consuma; una solicitud escrita de formato no garantiza que todos los valores sean correctos.
El fabricante distingue el modelo de texto estándar de los perfiles de texto cuantizados de Llama 3.2 publicados por separado. Su tabla de modelos indica un contexto de 8K para esos perfiles cuantizados, distinto de la ventana estándar de 128K. Selecciona conjuntamente el modelo y el presupuesto de trabajo en lugar de asumir que todos los despliegues etiquetados como 3B conservan la misma capacidad de contexto.
El modelo 3B Instruct también está separado de los modelos de visión más grandes de Llama 3.2. Para este perfil de texto, prepara material de origen textual o texto obtenido por la aplicación que lo rodea. Utiliza el modelo para una respuesta acotada, una reescritura, un resumen o una explicación breve de código. Conserva el checkpoint seleccionado, el prompt y la fuente junto al resultado; después formula la siguiente instrucción de manera específica para el detalle que falte o el error observado.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites meta-llama/llama-3.2-3b-instruct | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites Número mínimo de elementos: 1 | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites Ejemplos: system, user, assistant, tool, function Condiciones: Estos roles están representados explícitamente por los tipos de compatibilidad del código fuente; el conjunto exacto de roles depende del modelo. Depende del modelo | Predeterminado— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_call_id | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: role=tool; utiliza el ID real devuelto | Predeterminado— |
Campomessages[].name | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].reasoning_content | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: Devuelve en los turnos siguientes el razonamiento realmente recibido cuando este modelo lo utilice | Predeterminado— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campomax_completion_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotemperature | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotop_p | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campostop | Tipostring|string[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools | Tipofunction_tool[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools[].type | Tipostring | RequisitoOpcional | Valores y límites function Depende del modelo | Predeterminado— |
Campotools[].function.name | Tipostring | RequisitoObligatorio | Valores y límites Se aplica cuando: herramienta de función proporcionada | Predeterminado— |
Campotools[].function.description | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotool_choice | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoparallel_tool_calls | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporesponse_format | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning_effort | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camposervice_tier | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoinstructions | Tipostring | RequisitoOpcional | Valores y límites Campo de compatibilidad | Predeterminado— |
Campofunctions | Tipofunction[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campofunction_call | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoprompt_cache_options | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomodalities | Tipostring[] | RequisitoOpcional | Valores y límites text | Predeterminado— |
Campoprovider | Tipoobject | RequisitoOpcional | Valores y límites Condiciones: provider.options se rechaza en esta ruta de texto Ultra | Predeterminado— |
Campocache_control.ttl | Tipostring | RequisitoOpcional | Valores y límites Condiciones: 1h se rechaza en los campos reales de caché de instrucciones | Predeterminado— |
Texto · Texto UTF8
messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages |
Parámetromaterial_types | Contratotext |
Parámetromessages | Contratomatriz de mensajes con estructura role/content |
Parámetrofile_material | Contratodocumento real en UTF-8 insertado como texto literal; no se deduce ningún ID de archivo |
Parámetrooptional_controls | Contratostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parámetrocontrol_scope | Contratodepende del modelo; las herramientas de funciones del usuario difieren de las herramientas alojadas |
Parámetrooutput_modalities | Contratotext |
Parámetrohosted_operations | Contratofalse |
Parámetromultimodal_input_binding | Contratonull |
Ciclo de vida: synchronous_or_streamed
Envía el ID exacto del modelo junto con messages.
La longitud del contexto no es un límite máximo de salida.
Un archivo de texto puede aportar texto literal; las entradas de imagen, audio u objetos de archivo requieren una vinculación exacta.
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
Relaciona cada cargo con las condiciones mostradas. Usa una tarifa para cada conjunto de configuraciones alternativas.
| Configuración | Tabla de tarifas | Tokens de contexto, más de | Tokens de contexto, hasta inclusive | Cargo |
|---|---|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Tokens de contexto, más de— | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.0001 / 1K tokens Salida · Tokens de salida $0.00066 / 1K tokens Entrada · Lectura de caché — / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
| ConfiguraciónTramo 1 por longitud de la solicitud | Tabla de tarifas— | Tokens de contexto, más de0 | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.0001 / 1K tokens Salida · Tokens de salida $0.00066 / 1K tokens Entrada · Lectura de caché — / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un importe estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.2-3b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.2-3b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.2-3b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva cada alternativa y su contenido, llamadas de herramientas y razonamiento. En SSE, ensambla los fragmentos incrementales por índice de alternativa/herramienta y conserva el motivo final de terminación y el uso.
Conserva los ID de solicitud y respuesta y las cabeceras. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra meta-llama/llama-3.2-3b-instruct
Usa las rutas de método indicadas arriba.
meta-llama/llama-3.2-3b-instructMeta Llama 3.2 3B Instruct es un modelo de texto compacto para chat multilingüe, resúmenes basados en información recuperada y asistencia de escritura. Su checkpoint estándar tiene un contexto de 128K; las variantes cuantizadas publicadas por separado tienen una ventana de trabajo diferente.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Meta Llama 3.2 3B Instruct es un modelo de texto ajustado mediante instrucciones y diseñado para conversaciones de asistentes multilingües, trabajo basado en información recuperada y resúmenes. La tabla de modelos del fabricante identifica una clase 3B con 3.21B de parámetros. Acepta texto y produce texto o código. Su desarrollo combina poda del modelo y destilación de conocimiento con ajuste mediante instrucciones, creando un perfil de modelo pequeño para tareas acotadas de escritura y asistencia.
Proporciona al modelo el material de origen, la pregunta y la forma esperada de la respuesta. Una solicitud de asistencia de escritura puede especificar el público, el tono y los detalles que deben permanecer. Un resumen puede identificar las secciones que se deben cubrir y la extensión o estructura deseada. Para una respuesta breve de una base de conocimiento, aporta el pasaje pertinente y pide una explicación fundamentada en esa fuente.
El fabricante incluye la recuperación de conocimiento, los resúmenes, los asistentes de escritura móviles, la reformulación de consultas y la reformulación de prompts entre los usos previstos de los modelos de texto ajustados mediante instrucciones. Una aplicación de recuperación puede proporcionar los pasajes que ha encontrado y pedir al modelo que redacte la respuesta. Conserva los identificadores de los pasajes junto al resultado para que un lector u otro componente pueda examinar las pruebas.
Para reformular consultas, conserva la pregunta original y pide una formulación de búsqueda concisa que mantenga su intención. Para resumir un documento, pide las afirmaciones principales y los matices que las condicionan. Revisa la salida real en busca de condiciones omitidas, cifras modificadas o información inventada, especialmente cuando una respuesta breve comprime una fuente más extensa.
Inglés, alemán, francés, italiano, portugués, hindi, español y tailandés son los ocho idiomas oficialmente admitidos. Indica el idioma de salida deseado y conserva la escritura de los nombres o de la terminología especializada que deban permanecer sin cambios. Una tarea multilingüe debe incluir suficiente contexto de origen para evaluar el significado de la redacción devuelta, en lugar de apoyarse solo en la fluidez.
El checkpoint estándar de texto de Llama 3.2 tiene una ventana de contexto de 128K tokens. Utiliza ese presupuesto para el material de origen pertinente, el historial de conversación y el resultado generado. Conserva las decisiones anteriores necesarias para continuar y deja espacio para la respuesta. El corte de los datos de preentrenamiento es diciembre de 2023, por lo que la información posterior necesita pruebas aportadas con la tarea o por la aplicación de recuperación que lo rodea.
Este es el checkpoint Instruct, preparado para diálogo de tipo asistente. La ficha del modelo describe ajuste fino supervisado y alineación con preferencias humanas, con destilación adicional durante el desarrollo de los modelos pequeños. Sus ejemplos de uso proporcionan mensajes de sistema y de usuario mediante un formato de chat. Una instrucción de sistema puede definir el papel y las expectativas de salida, mientras que el mensaje de usuario aporta la tarea actual y sus fuentes.
Mantén un formato de conversación adecuado para la versión seleccionada cuando utilices directamente su checkpoint. Define el resultado con claridad y examina la respuesta generada, incluida su relación con las pruebas aportadas. Para un producto textual estructurado, especifica los campos o encabezados requeridos y valida la salida real antes de que una aplicación la consuma; una solicitud escrita de formato no garantiza que todos los valores sean correctos.
El fabricante distingue el modelo de texto estándar de los perfiles de texto cuantizados de Llama 3.2 publicados por separado. Su tabla de modelos indica un contexto de 8K para esos perfiles cuantizados, distinto de la ventana estándar de 128K. Selecciona conjuntamente el modelo y el presupuesto de trabajo en lugar de asumir que todos los despliegues etiquetados como 3B conservan la misma capacidad de contexto.
El modelo 3B Instruct también está separado de los modelos de visión más grandes de Llama 3.2. Para este perfil de texto, prepara material de origen textual o texto obtenido por la aplicación que lo rodea. Utiliza el modelo para una respuesta acotada, una reescritura, un resumen o una explicación breve de código. Conserva el checkpoint seleccionado, el prompt y la fuente junto al resultado; después formula la siguiente instrucción de manera específica para el detalle que falte o el error observado.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites meta-llama/llama-3.2-3b-instruct | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites user, assistant | Predeterminado— |
Campomessages[].content | Tipostring | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Texto · Texto UTF-8
cadena messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages, max_tokens |
Parámetrooptional_controls | Contratostream |
Parámetromaterial_types | Contratotext |
Parámetrotext_file_material | ContratoLee el documento real en UTF-8 y coloca su texto en el campo input indicado o en la cadena de contenido del mensaje. |
Ciclo de vida: synchronous_or_streamed
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
Relaciona cada cargo con las condiciones mostradas. Usa una tarifa para cada conjunto de configuraciones alternativas.
| Configuración | Tabla de tarifas | Tokens de contexto, más de | Tokens de contexto, hasta inclusive | Cargo |
|---|---|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Tokens de contexto, más de— | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.0001 / 1K tokens Salida · Tokens de salida $0.00066 / 1K tokens Entrada · Lectura de caché — / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
| ConfiguraciónTramo 1 por longitud de la solicitud | Tabla de tarifas— | Tokens de contexto, más de0 | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.0001 / 1K tokens Salida · Tokens de salida $0.00066 / 1K tokens Entrada · Lectura de caché — / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un importe estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
{\n "model": "meta-llama/llama-3.2-3b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-3b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-3b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva todos los bloques de contenido, las firmas de razonamiento y los ID reales de uso de herramientas. Ensambla todos los fragmentos incrementales de los bloques SSE; el primer bloque de texto no constituye la salida completa.
Conserva los ID de solicitud y respuesta y las cabeceras. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra meta-llama/llama-3.2-3b-instruct
Usa las rutas de método indicadas arriba.
Ejemplo técnico en inglés
Rewrite a knowledge-base query\n\nRewrite this support question into one concise search query: 'I changed my work email yesterday and now the old address still gets export notifications, even though I log in with the new one.' Preserve the distinction between login identity and notification destination. Return the query and two key concepts it must retain; do not answer the question.One search query plus two retained concepts covering changed login email and stale export-notification address.The rewrite keeps the notification problem and does not collapse it into a login failure.