Llama 3.2 1B Instruct es el modelo de texto compacto de Meta ajustado por instrucciones, con 1.23 mil millones de parámetros en la tabla del fabricante. Acepta texto multilingüe y devuelve texto o código. La versión está destinada a diálogo, recuperación de conocimiento, resúmenes, asistentes móviles de escritura y reformulación de consultas o prompts, en lugar de las tareas de comprensión de imágenes de las ediciones de visión separadas de Llama.
Información del modelo y contexto
El modelo usa una arquitectura Transformer autorregresiva con atención de consultas agrupadas y embeddings compartidos. Meta distingue modelos 1B y 3B preentrenados y ajustados por instrucciones. Esta entrada corresponde al checkpoint 1B Instruct, cuya tarea es seguir la solicitud del usuario en una conversación, en lugar de servir como base preentrenada.
La versión ordinaria de texto está documentada con un contexto de 128k. El fabricante enumera por separado un contexto de 8k para sus modelos de texto cuantizados. Esas configuraciones deben mantenerse diferenciadas: la cuantización no permite transferir el contexto de la versión ordinaria a todos los checkpoints de formato reducido ni inferir la capacidad configurada de un servicio particular.
Usa el contexto para los pasajes y la conversación pertinentes a una operación definida. Un documento extenso puede seguir requiriendo un resumen breve, una consulta de búsqueda reformulada o una respuesta basada en fuentes. Identifica el material que debe conservar el resultado y la extensión o los campos que necesita el siguiente paso de la aplicación.
Recuperación, resúmenes y reformulación
Para un resumen, proporciona el pasaje o la conversación real y especifica el público, la extensión y los hechos esenciales. Un resultado útil puede separar el asunto central, las decisiones ya expresadas y las preguntas abiertas. Si la fuente contiene varios temas, identifica cuál debe cubrir el resumen, en lugar de pedir una reducción sin rumbo de todo.
Para recuperación de conocimiento, proporciona los pasajes de referencia seleccionados o la información devuelta por un componente de recuperación. Pide la afirmación que responde la pregunta y el pasaje que la respalda. La respuesta de texto del modelo puede explicar información recuperada, mientras que buscar en una colección privada sigue siendo trabajo de la aplicación conectada. No obtiene esa colección únicamente por la etiqueta de caso de uso de recuperación.
Para reformular consultas, proporciona la pregunta original y el propósito de la búsqueda. Pide una reformulación concisa que conserve la entidad, la condición y la información deseada. Una consulta de soporte puede reformularse con el término del producto y la acción importantes, sin añadir un hecho ausente del mensaje del usuario. Devuelve la consulta revisada separada de cualquier explicación si otro componente la utilizará directamente.
Para un asistente de escritura, especifica el lector, el tono y los hechos de la fuente antes de pedir una carta corta o un pasaje revisado. Para una extracción, define los campos y cómo representar la información ausente. Estas son operaciones concretas que vinculan el enfoque documentado en texto del modelo compacto con un resultado que se puede inspeccionar.
Idiomas admitidos y entrenamiento
Los idiomas admitidos oficialmente son inglés, alemán, francés, italiano, portugués, hindi, español y tailandés. El modelo se entrena con una colección de idiomas más amplia, distinta de los ocho idiomas admitidos explícitamente por la ficha. Identifica el idioma final y los términos o identificadores que deben permanecer sin cambios.
La familia se preentrena con hasta nueve billones de tokens, con una fecha de corte de datos de diciembre de 2023. Para los modelos 1B y 3B, el fabricante usa salidas de Llama 3.1 8B y 70B como objetivos de entrenamiento a nivel de token y destilación de conocimiento después de la poda. Este es un proceso de entrenamiento; no significa que el modelo 1B desplegado les pida a esos modelos más grandes responder cada pregunta del usuario.
La ficha describe ajuste fino supervisado y alineación basada en preferencias, con rondas de posentrenamiento que incluyen ejemplos supervisados, muestreo por rechazo y optimización directa de preferencias. Esas etapas producen el comportamiento Instruct conservando el checkpoint identificado y la modalidad exclusivamente textual.
Conversación y ediciones cuantizadas
El fabricante muestra mensajes separados de sistema y usuario con el formato de conversación correspondiente. Define el papel del asistente y los requisitos de respuesta por separado del texto de referencia real. Conserva la respuesta anterior pertinente cuando un seguimiento pida una revisión, una aclaración o una forma diferente de la misma información.
La versión también documenta variantes distintas con cuantización durante el entrenamiento y cuantización posterior al entrenamiento. Su precisión y su contexto de 8k pertenecen a esas variantes, no a una especificación universal de esta entrada Instruct ordinaria. Usa el checkpoint y la configuración exactos al comparar una tarea repetida o preparar un despliegue derivado.
Límites de capacidad
Esta versión 1B es exclusivamente de texto. No debe heredar la entrada de imágenes de los modelos de visión 11B o 90B de Llama 3.2, las capacidades de texto e imágenes de Llama 4 ni los controles de esfuerzo de razonamiento con nombre de Muse Spark. El ejemplo de generación de 256 tokens de la ficha es un ajuste de ejemplo, no una capacidad máxima de respuesta declarada de forma independiente.
Un resultado final práctico es el resumen, la consulta, el registro extraído o el texto reformulado solicitado, conservando el significado pertinente y los identificadores de la fuente. Las fuentes consultadas no indican un máximo estricto independiente de tokens de salida. Mantén enfocada la tarea, completo el material de entrada para esa operación y explícita la distinción entre contexto ordinario y cuantizado.
", "aboutText": "Llama 3.2 1B Instruct es el modelo de texto compacto de Meta ajustado por instrucciones, con 1.23 mil millones de parámetros en la tabla del fabricante. Acepta texto multilingüe y devuelve texto o código. La versión está destinada a diálogo, recuperación de conocimiento, resúmenes, asistentes móviles de escritura y reformulación de consultas o prompts, en lugar de las tareas de comprensión de imágenes de las ediciones de visión separadas de Llama.\n\nInformación del modelo y contexto\n\nEl modelo usa una arquitectura Transformer autorregresiva con atención de consultas agrupadas y embeddings compartidos. Meta distingue modelos 1B y 3B preentrenados y ajustados por instrucciones. Esta entrada corresponde al checkpoint 1B Instruct, cuya tarea es seguir la solicitud del usuario en una conversación, en lugar de servir como base preentrenada.\n\nLa versión ordinaria de texto está documentada con un contexto de 128k. El fabricante enumera por separado un contexto de 8k para sus modelos de texto cuantizados. Esas configuraciones deben mantenerse diferenciadas: la cuantización no permite transferir el contexto de la versión ordinaria a todos los checkpoints de formato reducido ni inferir la capacidad configurada de un servicio particular.\n\nUsa el contexto para los pasajes y la conversación pertinentes a una operación definida. Un documento extenso puede seguir requiriendo un resumen breve, una consulta de búsqueda reformulada o una respuesta basada en fuentes. Identifica el material que debe conservar el resultado y la extensión o los campos que necesita el siguiente paso de la aplicación.\n\nRecuperación, resúmenes y reformulación\n\nPara un resumen, proporciona el pasaje o la conversación real y especifica el público, la extensión y los hechos esenciales. Un resultado útil puede separar el asunto central, las decisiones ya expresadas y las preguntas abiertas. Si la fuente contiene varios temas, identifica cuál debe cubrir el resumen, en lugar de pedir una reducción sin rumbo de todo.\n\nPara recuperación de conocimiento, proporciona los pasajes de referencia seleccionados o la información devuelta por un componente de recuperación. Pide la afirmación que responde la pregunta y el pasaje que la respalda. La respuesta de texto del modelo puede explicar información recuperada, mientras que buscar en una colección privada sigue siendo trabajo de la aplicación conectada. No obtiene esa colección únicamente por la etiqueta de caso de uso de recuperación.\n\nPara reformular consultas, proporciona la pregunta original y el propósito de la búsqueda. Pide una reformulación concisa que conserve la entidad, la condición y la información deseada. Una consulta de soporte puede reformularse con el término del producto y la acción importantes, sin añadir un hecho ausente del mensaje del usuario. Devuelve la consulta revisada separada de cualquier explicación si otro componente la utilizará directamente.\n\nPara un asistente de escritura, especifica el lector, el tono y los hechos de la fuente antes de pedir una carta corta o un pasaje revisado. Para una extracción, define los campos y cómo representar la información ausente. Estas son operaciones concretas que vinculan el enfoque documentado en texto del modelo compacto con un resultado que se puede inspeccionar.\n\nIdiomas admitidos y entrenamiento\n\nLos idiomas admitidos oficialmente son inglés, alemán, francés, italiano, portugués, hindi, español y tailandés. El modelo se entrena con una colección de idiomas más amplia, distinta de los ocho idiomas admitidos explícitamente por la ficha. Identifica el idioma final y los términos o identificadores que deben permanecer sin cambios.\n\nLa familia se preentrena con hasta nueve billones de tokens, con una fecha de corte de datos de diciembre de 2023. Para los modelos 1B y 3B, el fabricante usa salidas de Llama 3.1 8B y 70B como objetivos de entrenamiento a nivel de token y destilación de conocimiento después de la poda. Este es un proceso de entrenamiento; no significa que el modelo 1B desplegado les pida a esos modelos más grandes responder cada pregunta del usuario.\n\nLa ficha describe ajuste fino supervisado y alineación basada en preferencias, con rondas de posentrenamiento que incluyen ejemplos supervisados, muestreo por rechazo y optimización directa de preferencias. Esas etapas producen el comportamiento Instruct conservando el checkpoint identificado y la modalidad exclusivamente textual.\n\nConversación y ediciones cuantizadas\n\nEl fabricante muestra mensajes separados de sistema y usuario con el formato de conversación correspondiente. Define el papel del asistente y los requisitos de respuesta por separado del texto de referencia real. Conserva la respuesta anterior pertinente cuando un seguimiento pida una revisión, una aclaración o una forma diferente de la misma información.\n\nLa versión también documenta variantes distintas con cuantización durante el entrenamiento y cuantización posterior al entrenamiento. Su precisión y su contexto de 8k pertenecen a esas variantes, no a una especificación universal de esta entrada Instruct ordinaria. Usa el checkpoint y la configuración exactos al comparar una tarea repetida o preparar un despliegue derivado.\n\nLímites de capacidad\n\nEsta versión 1B es exclusivamente de texto. No debe heredar la entrada de imágenes de los modelos de visión 11B o 90B de Llama 3.2, las capacidades de texto e imágenes de Llama 4 ni los controles de esfuerzo de razonamiento con nombre de Muse Spark. El ejemplo de generación de 256 tokens de la ficha es un ajuste de ejemplo, no una capacidad máxima de respuesta declarada de forma independiente.\n\nUn resultado final práctico es el resumen, la consulta, el registro extraído o el texto reformulado solicitado, conservando el significado pertinente y los identificadores de la fuente. Las fuentes consultadas no indican un máximo estricto independiente de tokens de salida. Mantén enfocada la tarea, completo el material de entrada para esa operación y explícita la distinción entre contexto ordinario y cuantizado.", "editorialOverlay": { "copy_fields": { "practical_html": "Ejemplo técnico en inglés
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct es el modelo de texto compacto de 1.23B de Meta para diálogo, resúmenes, recuperación de conocimiento y reformulación de consultas. El fabricante indica un contexto de 128k para la versión ordinaria y de 8k para variantes cuantizadas separadas, con salida de texto multilingüe y código.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Llama 3.2 1B Instruct es el modelo de texto compacto de Meta ajustado por instrucciones, con 1.23 mil millones de parámetros en la tabla del fabricante. Acepta texto multilingüe y devuelve texto o código. La versión está destinada a diálogo, recuperación de conocimiento, resúmenes, asistentes móviles de escritura y reformulación de consultas o prompts, en lugar de las tareas de comprensión de imágenes de las ediciones de visión separadas de Llama.
Información del modelo y contexto
El modelo usa una arquitectura Transformer autorregresiva con atención de consultas agrupadas y embeddings compartidos. Meta distingue modelos 1B y 3B preentrenados y ajustados por instrucciones. Esta entrada corresponde al checkpoint 1B Instruct, cuya tarea es seguir la solicitud del usuario en una conversación, en lugar de servir como base preentrenada.
La versión ordinaria de texto está documentada con un contexto de 128k. El fabricante enumera por separado un contexto de 8k para sus modelos de texto cuantizados. Esas configuraciones deben mantenerse diferenciadas: la cuantización no permite transferir el contexto de la versión ordinaria a todos los checkpoints de formato reducido ni inferir la capacidad configurada de un servicio particular.
Usa el contexto para los pasajes y la conversación pertinentes a una operación definida. Un documento extenso puede seguir requiriendo un resumen breve, una consulta de búsqueda reformulada o una respuesta basada en fuentes. Identifica el material que debe conservar el resultado y la extensión o los campos que necesita el siguiente paso de la aplicación.
Recuperación, resúmenes y reformulación
Para un resumen, proporciona el pasaje o la conversación real y especifica el público, la extensión y los hechos esenciales. Un resultado útil puede separar el asunto central, las decisiones ya expresadas y las preguntas abiertas. Si la fuente contiene varios temas, identifica cuál debe cubrir el resumen, en lugar de pedir una reducción sin rumbo de todo.
Para recuperación de conocimiento, proporciona los pasajes de referencia seleccionados o la información devuelta por un componente de recuperación. Pide la afirmación que responde la pregunta y el pasaje que la respalda. La respuesta de texto del modelo puede explicar información recuperada, mientras que buscar en una colección privada sigue siendo trabajo de la aplicación conectada. No obtiene esa colección únicamente por la etiqueta de caso de uso de recuperación.
Para reformular consultas, proporciona la pregunta original y el propósito de la búsqueda. Pide una reformulación concisa que conserve la entidad, la condición y la información deseada. Una consulta de soporte puede reformularse con el término del producto y la acción importantes, sin añadir un hecho ausente del mensaje del usuario. Devuelve la consulta revisada separada de cualquier explicación si otro componente la utilizará directamente.
Para un asistente de escritura, especifica el lector, el tono y los hechos de la fuente antes de pedir una carta corta o un pasaje revisado. Para una extracción, define los campos y cómo representar la información ausente. Estas son operaciones concretas que vinculan el enfoque documentado en texto del modelo compacto con un resultado que se puede inspeccionar.
Idiomas admitidos y entrenamiento
Los idiomas admitidos oficialmente son inglés, alemán, francés, italiano, portugués, hindi, español y tailandés. El modelo se entrena con una colección de idiomas más amplia, distinta de los ocho idiomas admitidos explícitamente por la ficha. Identifica el idioma final y los términos o identificadores que deben permanecer sin cambios.
La familia se preentrena con hasta nueve billones de tokens, con una fecha de corte de datos de diciembre de 2023. Para los modelos 1B y 3B, el fabricante usa salidas de Llama 3.1 8B y 70B como objetivos de entrenamiento a nivel de token y destilación de conocimiento después de la poda. Este es un proceso de entrenamiento; no significa que el modelo 1B desplegado les pida a esos modelos más grandes responder cada pregunta del usuario.
La ficha describe ajuste fino supervisado y alineación basada en preferencias, con rondas de posentrenamiento que incluyen ejemplos supervisados, muestreo por rechazo y optimización directa de preferencias. Esas etapas producen el comportamiento Instruct conservando el checkpoint identificado y la modalidad exclusivamente textual.
Conversación y ediciones cuantizadas
El fabricante muestra mensajes separados de sistema y usuario con el formato de conversación correspondiente. Define el papel del asistente y los requisitos de respuesta por separado del texto de referencia real. Conserva la respuesta anterior pertinente cuando un seguimiento pida una revisión, una aclaración o una forma diferente de la misma información.
La versión también documenta variantes distintas con cuantización durante el entrenamiento y cuantización posterior al entrenamiento. Su precisión y su contexto de 8k pertenecen a esas variantes, no a una especificación universal de esta entrada Instruct ordinaria. Usa el checkpoint y la configuración exactos al comparar una tarea repetida o preparar un despliegue derivado.
Límites de capacidad
Esta versión 1B es exclusivamente de texto. No debe heredar la entrada de imágenes de los modelos de visión 11B o 90B de Llama 3.2, las capacidades de texto e imágenes de Llama 4 ni los controles de esfuerzo de razonamiento con nombre de Muse Spark. El ejemplo de generación de 256 tokens de la ficha es un ajuste de ejemplo, no una capacidad máxima de respuesta declarada de forma independiente.
Un resultado final práctico es el resumen, la consulta, el registro extraído o el texto reformulado solicitado, conservando el significado pertinente y los identificadores de la fuente. Las fuentes consultadas no indican un máximo estricto independiente de tokens de salida. Mantén enfocada la tarea, completo el material de entrada para esa operación y explícita la distinción entre contexto ordinario y cuantizado.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites meta-llama/llama-3.2-1b-instruct | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites Número mínimo de elementos: 1 | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites Ejemplos: system, user, assistant, tool, function Condiciones: Estos roles están representados explícitamente por los tipos de compatibilidad del código fuente; el conjunto exacto de roles depende del modelo. Depende del modelo | Predeterminado— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_call_id | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: role=tool; utiliza el ID real devuelto | Predeterminado— |
Campomessages[].name | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].reasoning_content | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: Devuelve en los turnos siguientes el razonamiento realmente recibido cuando este modelo lo utilice | Predeterminado— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campomax_completion_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotemperature | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotop_p | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campostop | Tipostring|string[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools | Tipofunction_tool[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools[].type | Tipostring | RequisitoOpcional | Valores y límites function Depende del modelo | Predeterminado— |
Campotools[].function.name | Tipostring | RequisitoObligatorio | Valores y límites Se aplica cuando: herramienta de función proporcionada | Predeterminado— |
Campotools[].function.description | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotool_choice | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoparallel_tool_calls | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporesponse_format | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning_effort | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camposervice_tier | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoinstructions | Tipostring | RequisitoOpcional | Valores y límites Campo de compatibilidad | Predeterminado— |
Campofunctions | Tipofunction[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campofunction_call | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoprompt_cache_options | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomodalities | Tipostring[] | RequisitoOpcional | Valores y límites text | Predeterminado— |
Campoprovider | Tipoobject | RequisitoOpcional | Valores y límites Condiciones: provider.options se rechaza en esta ruta de texto Ultra | Predeterminado— |
Campocache_control.ttl | Tipostring | RequisitoOpcional | Valores y límites Condiciones: 1h se rechaza en los campos reales de caché de instrucciones | Predeterminado— |
Texto · Texto UTF8
messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages |
Parámetromaterial_types | Contratotext |
Parámetromessages | Contratomatriz de mensajes con estructura role/content |
Parámetrofile_material | Contratodocumento real en UTF-8 insertado como texto literal; no se deduce ningún ID de archivo |
Parámetrooptional_controls | Contratostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parámetrocontrol_scope | Contratodepende del modelo; las herramientas de funciones del usuario difieren de las herramientas alojadas |
Parámetrooutput_modalities | Contratotext |
Parámetrohosted_operations | Contratofalse |
Parámetromultimodal_input_binding | Contratonull |
Ciclo de vida: synchronous_or_streamed
Envía el ID exacto del modelo junto con messages.
La longitud del contexto no es un límite máximo de salida.
Un archivo de texto puede aportar texto literal; las entradas de imagen, audio u objetos de archivo requieren una vinculación exacta.
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
Relaciona cada cargo con las condiciones mostradas. Usa una tarifa para cada conjunto de configuraciones alternativas.
| Configuración | Tabla de tarifas | Tokens de contexto, más de | Tokens de contexto, hasta inclusive | Cargo |
|---|---|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Tokens de contexto, más de— | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.000054 / 1K tokens Salida · Tokens de salida $0.000402 / 1K tokens Entrada · Lectura de caché — / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
| ConfiguraciónNivel 1 por longitud de la solicitud | Tabla de tarifas— | Tokens de contexto, más de0 | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.000054 / 1K tokens Salida · Tokens de salida $0.000402 / 1K tokens Entrada · Lectura de caché — / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un monto estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.2-1b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva cada alternativa y su contenido, llamadas de herramientas y razonamiento. En SSE, ensambla los fragmentos incrementales por índice de alternativa/herramienta y conserva el motivo final de terminación y el uso.
Conserva los ID de solicitud y respuesta y los encabezados. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Usa las rutas de método indicadas arriba.
meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct es el modelo de texto compacto de 1.23B de Meta para diálogo, resúmenes, recuperación de conocimiento y reformulación de consultas. El fabricante indica un contexto de 128k para la versión ordinaria y de 8k para variantes cuantizadas separadas, con salida de texto multilingüe y código.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Llama 3.2 1B Instruct es el modelo de texto compacto de Meta ajustado por instrucciones, con 1.23 mil millones de parámetros en la tabla del fabricante. Acepta texto multilingüe y devuelve texto o código. La versión está destinada a diálogo, recuperación de conocimiento, resúmenes, asistentes móviles de escritura y reformulación de consultas o prompts, en lugar de las tareas de comprensión de imágenes de las ediciones de visión separadas de Llama.
Información del modelo y contexto
El modelo usa una arquitectura Transformer autorregresiva con atención de consultas agrupadas y embeddings compartidos. Meta distingue modelos 1B y 3B preentrenados y ajustados por instrucciones. Esta entrada corresponde al checkpoint 1B Instruct, cuya tarea es seguir la solicitud del usuario en una conversación, en lugar de servir como base preentrenada.
La versión ordinaria de texto está documentada con un contexto de 128k. El fabricante enumera por separado un contexto de 8k para sus modelos de texto cuantizados. Esas configuraciones deben mantenerse diferenciadas: la cuantización no permite transferir el contexto de la versión ordinaria a todos los checkpoints de formato reducido ni inferir la capacidad configurada de un servicio particular.
Usa el contexto para los pasajes y la conversación pertinentes a una operación definida. Un documento extenso puede seguir requiriendo un resumen breve, una consulta de búsqueda reformulada o una respuesta basada en fuentes. Identifica el material que debe conservar el resultado y la extensión o los campos que necesita el siguiente paso de la aplicación.
Recuperación, resúmenes y reformulación
Para un resumen, proporciona el pasaje o la conversación real y especifica el público, la extensión y los hechos esenciales. Un resultado útil puede separar el asunto central, las decisiones ya expresadas y las preguntas abiertas. Si la fuente contiene varios temas, identifica cuál debe cubrir el resumen, en lugar de pedir una reducción sin rumbo de todo.
Para recuperación de conocimiento, proporciona los pasajes de referencia seleccionados o la información devuelta por un componente de recuperación. Pide la afirmación que responde la pregunta y el pasaje que la respalda. La respuesta de texto del modelo puede explicar información recuperada, mientras que buscar en una colección privada sigue siendo trabajo de la aplicación conectada. No obtiene esa colección únicamente por la etiqueta de caso de uso de recuperación.
Para reformular consultas, proporciona la pregunta original y el propósito de la búsqueda. Pide una reformulación concisa que conserve la entidad, la condición y la información deseada. Una consulta de soporte puede reformularse con el término del producto y la acción importantes, sin añadir un hecho ausente del mensaje del usuario. Devuelve la consulta revisada separada de cualquier explicación si otro componente la utilizará directamente.
Para un asistente de escritura, especifica el lector, el tono y los hechos de la fuente antes de pedir una carta corta o un pasaje revisado. Para una extracción, define los campos y cómo representar la información ausente. Estas son operaciones concretas que vinculan el enfoque documentado en texto del modelo compacto con un resultado que se puede inspeccionar.
Idiomas admitidos y entrenamiento
Los idiomas admitidos oficialmente son inglés, alemán, francés, italiano, portugués, hindi, español y tailandés. El modelo se entrena con una colección de idiomas más amplia, distinta de los ocho idiomas admitidos explícitamente por la ficha. Identifica el idioma final y los términos o identificadores que deben permanecer sin cambios.
La familia se preentrena con hasta nueve billones de tokens, con una fecha de corte de datos de diciembre de 2023. Para los modelos 1B y 3B, el fabricante usa salidas de Llama 3.1 8B y 70B como objetivos de entrenamiento a nivel de token y destilación de conocimiento después de la poda. Este es un proceso de entrenamiento; no significa que el modelo 1B desplegado les pida a esos modelos más grandes responder cada pregunta del usuario.
La ficha describe ajuste fino supervisado y alineación basada en preferencias, con rondas de posentrenamiento que incluyen ejemplos supervisados, muestreo por rechazo y optimización directa de preferencias. Esas etapas producen el comportamiento Instruct conservando el checkpoint identificado y la modalidad exclusivamente textual.
Conversación y ediciones cuantizadas
El fabricante muestra mensajes separados de sistema y usuario con el formato de conversación correspondiente. Define el papel del asistente y los requisitos de respuesta por separado del texto de referencia real. Conserva la respuesta anterior pertinente cuando un seguimiento pida una revisión, una aclaración o una forma diferente de la misma información.
La versión también documenta variantes distintas con cuantización durante el entrenamiento y cuantización posterior al entrenamiento. Su precisión y su contexto de 8k pertenecen a esas variantes, no a una especificación universal de esta entrada Instruct ordinaria. Usa el checkpoint y la configuración exactos al comparar una tarea repetida o preparar un despliegue derivado.
Límites de capacidad
Esta versión 1B es exclusivamente de texto. No debe heredar la entrada de imágenes de los modelos de visión 11B o 90B de Llama 3.2, las capacidades de texto e imágenes de Llama 4 ni los controles de esfuerzo de razonamiento con nombre de Muse Spark. El ejemplo de generación de 256 tokens de la ficha es un ajuste de ejemplo, no una capacidad máxima de respuesta declarada de forma independiente.
Un resultado final práctico es el resumen, la consulta, el registro extraído o el texto reformulado solicitado, conservando el significado pertinente y los identificadores de la fuente. Las fuentes consultadas no indican un máximo estricto independiente de tokens de salida. Mantén enfocada la tarea, completo el material de entrada para esa operación y explícita la distinción entre contexto ordinario y cuantizado.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites meta-llama/llama-3.2-1b-instruct | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites user, assistant | Predeterminado— |
Campomessages[].content | Tipostring | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Texto · Texto UTF-8
cadena messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages, max_tokens |
Parámetrooptional_controls | Contratostream |
Parámetromaterial_types | Contratotext |
Parámetrotext_file_material | ContratoLee el documento real en UTF-8 y coloca su texto en el campo input indicado o en la cadena de contenido del mensaje. |
Ciclo de vida: synchronous_or_streamed
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
Relaciona cada cargo con las condiciones mostradas. Usa una tarifa para cada conjunto de configuraciones alternativas.
| Configuración | Tabla de tarifas | Tokens de contexto, más de | Tokens de contexto, hasta inclusive | Cargo |
|---|---|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Tokens de contexto, más de— | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.000054 / 1K tokens Salida · Tokens de salida $0.000402 / 1K tokens Entrada · Lectura de caché — / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
| ConfiguraciónNivel 1 por longitud de la solicitud | Tabla de tarifas— | Tokens de contexto, más de0 | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.000054 / 1K tokens Salida · Tokens de salida $0.000402 / 1K tokens Entrada · Lectura de caché — / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un monto estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
{\n "model": "meta-llama/llama-3.2-1b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva todos los bloques de contenido, las firmas de razonamiento y los ID reales de uso de herramientas. Ensambla todos los fragmentos incrementales de los bloques SSE; el primer bloque de texto no constituye la salida completa.
Conserva los ID de solicitud y respuesta y los encabezados. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Usa las rutas de método indicadas arriba.
Ejemplo técnico en inglés
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.