Llama 3.2 1B Instruct es el modelo de texto compacto de Meta ajustado mediante instrucciones, con un recuento de 1.23 mil millones de parámetros en la tabla del fabricante. Acepta texto multilingüe y devuelve texto o código. La versión está pensada para diálogo, recuperación de conocimiento, resúmenes, asistentes móviles de escritura y reformulación de consultas o prompts, en lugar de las tareas de comprensión de imágenes de las ediciones de visión separadas de Llama.
Información del modelo y contexto
El modelo utiliza una arquitectura Transformer autorregresiva con atención de consultas agrupadas y embeddings compartidos. Meta distingue modelos 1B y 3B preentrenados y ajustados mediante instrucciones. Esta entrada corresponde al checkpoint 1B Instruct, cuya tarea es seguir la solicitud del usuario en una conversación en lugar de servir como base preentrenada.
La versión ordinaria de texto está documentada con un contexto de 128k. El fabricante indica por separado un contexto de 8k para sus modelos de texto cuantizados. Esas configuraciones deben mantenerse diferenciadas: la cuantización no permite trasladar el contexto de la versión ordinaria a todos los checkpoints de formato más pequeño ni inferir la capacidad configurada de un servicio concreto.
Utiliza el contexto para los pasajes y la conversación pertinentes para una operación definida. Un documento extenso puede seguir requiriendo un resumen breve, una consulta de búsqueda reformulada o una respuesta basada en fuentes. Identifica el material que debe conservar el resultado y la extensión o los campos que necesita el siguiente paso de la aplicación.
Recuperación, resúmenes y reformulación
Para resumir, proporciona el pasaje o la conversación reales y especifica el público, la extensión y los hechos esenciales. Un resultado útil puede separar el asunto central, las decisiones ya expresadas y las preguntas abiertas. Si la fuente contiene varios temas, identifica cuál debe cubrir el resumen en lugar de pedir una reducción sin dirección de todo el contenido.
Para recuperar conocimiento, aporta los pasajes de origen seleccionados o la información devuelta por un componente de recuperación. Pide la afirmación que responde a la pregunta y el pasaje que la respalda. La respuesta textual del modelo puede explicar la información recuperada, mientras que buscar en una colección privada sigue siendo trabajo de la aplicación conectada. El modelo no obtiene esa colección simplemente por la etiqueta del caso de uso de recuperación.
Para reformular consultas, proporciona la pregunta original y el propósito de la búsqueda. Pide una reformulación concisa que conserve la entidad, la condición y la información deseada. Una consulta de soporte puede reformularse con el término del producto y la acción importantes, sin añadir un hecho ausente del mensaje del usuario. Devuelve la consulta revisada por separado de cualquier explicación si otro componente la va a utilizar directamente.
Para un asistente de escritura, especifica el lector, el tono y los hechos de origen antes de solicitar una carta breve o un pasaje revisado. Para una tarea de extracción, define los campos y cómo representar la información ausente. Son operaciones concretas que conectan el enfoque textual documentado del modelo compacto con un resultado que se puede inspeccionar.
Idiomas admitidos y entrenamiento
Los idiomas oficialmente admitidos son inglés, alemán, francés, italiano, portugués, hindi, español y tailandés. El modelo se entrena con un conjunto de idiomas más amplio, distinto de los ocho explícitamente admitidos por la ficha. Identifica el idioma final y cualquier término o identificador que deba permanecer sin cambios.
La familia se preentrena con hasta nueve billones de tokens, con un corte de datos en diciembre de 2023. Para los modelos 1B y 3B, el fabricante utiliza salidas de Llama 3.1 8B y 70B como objetivos de entrenamiento a nivel de token y destilación de conocimiento después de la poda. Se trata de un proceso de entrenamiento; no significa que el modelo 1B desplegado pida a esos modelos mayores que respondan cada pregunta del usuario.
La ficha describe ajuste fino supervisado y alineación basada en preferencias, con rondas de entrenamiento posterior que incluyen ejemplos supervisados, muestreo por rechazo y optimización directa de preferencias. Esas etapas producen el comportamiento Instruct y conservan el checkpoint identificado por nombre y la modalidad exclusivamente textual.
Conversación y ediciones cuantizadas
El fabricante demuestra mensajes separados de sistema y de usuario utilizando el formato de conversación correspondiente. Define el papel del asistente y los requisitos de respuesta por separado del texto de origen real. Conserva la respuesta anterior pertinente cuando una consulta posterior pida una revisión, una aclaración o una forma distinta de la misma información.
La versión también documenta variantes diferenciadas con cuantización durante el entrenamiento y con cuantización posterior al entrenamiento. Su precisión y contexto de 8k pertenecen a esas variantes, en lugar de constituir una especificación universal para esta entrada Instruct ordinaria. Utiliza el checkpoint y la configuración exactos al comparar una tarea repetida o preparar un despliegue derivado.
Límites sustantivos
Esta versión 1B es exclusivamente textual. No debe heredar la entrada de imágenes de los modelos de visión 11B o 90B de Llama 3.2, las capacidades de texto e imágenes de Llama 4 ni los controles de esfuerzo de razonamiento identificados por nombre de Muse Spark. El ejemplo de generación de 256 tokens de la ficha es un ajuste ilustrativo, no una capacidad máxima de respuesta declarada de forma independiente.
Un resultado final práctico es el resumen, la consulta, el registro extraído o el texto reescrito que se haya solicitado, conservando el significado y los identificadores pertinentes de la fuente. Las fuentes consultadas no indican un máximo estricto separado de tokens de salida. Mantén la tarea centrada, el material de entrada completo para esa operación y explícita la distinción de contexto entre las versiones ordinarias y cuantizadas.
", "aboutText": "Llama 3.2 1B Instruct es el modelo de texto compacto de Meta ajustado mediante instrucciones, con un recuento de 1.23 mil millones de parámetros en la tabla del fabricante. Acepta texto multilingüe y devuelve texto o código. La versión está pensada para diálogo, recuperación de conocimiento, resúmenes, asistentes móviles de escritura y reformulación de consultas o prompts, en lugar de las tareas de comprensión de imágenes de las ediciones de visión separadas de Llama.\n\nInformación del modelo y contexto\n\nEl modelo utiliza una arquitectura Transformer autorregresiva con atención de consultas agrupadas y embeddings compartidos. Meta distingue modelos 1B y 3B preentrenados y ajustados mediante instrucciones. Esta entrada corresponde al checkpoint 1B Instruct, cuya tarea es seguir la solicitud del usuario en una conversación en lugar de servir como base preentrenada.\n\nLa versión ordinaria de texto está documentada con un contexto de 128k. El fabricante indica por separado un contexto de 8k para sus modelos de texto cuantizados. Esas configuraciones deben mantenerse diferenciadas: la cuantización no permite trasladar el contexto de la versión ordinaria a todos los checkpoints de formato más pequeño ni inferir la capacidad configurada de un servicio concreto.\n\nUtiliza el contexto para los pasajes y la conversación pertinentes para una operación definida. Un documento extenso puede seguir requiriendo un resumen breve, una consulta de búsqueda reformulada o una respuesta basada en fuentes. Identifica el material que debe conservar el resultado y la extensión o los campos que necesita el siguiente paso de la aplicación.\n\nRecuperación, resúmenes y reformulación\n\nPara resumir, proporciona el pasaje o la conversación reales y especifica el público, la extensión y los hechos esenciales. Un resultado útil puede separar el asunto central, las decisiones ya expresadas y las preguntas abiertas. Si la fuente contiene varios temas, identifica cuál debe cubrir el resumen en lugar de pedir una reducción sin dirección de todo el contenido.\n\nPara recuperar conocimiento, aporta los pasajes de origen seleccionados o la información devuelta por un componente de recuperación. Pide la afirmación que responde a la pregunta y el pasaje que la respalda. La respuesta textual del modelo puede explicar la información recuperada, mientras que buscar en una colección privada sigue siendo trabajo de la aplicación conectada. El modelo no obtiene esa colección simplemente por la etiqueta del caso de uso de recuperación.\n\nPara reformular consultas, proporciona la pregunta original y el propósito de la búsqueda. Pide una reformulación concisa que conserve la entidad, la condición y la información deseada. Una consulta de soporte puede reformularse con el término del producto y la acción importantes, sin añadir un hecho ausente del mensaje del usuario. Devuelve la consulta revisada por separado de cualquier explicación si otro componente la va a utilizar directamente.\n\nPara un asistente de escritura, especifica el lector, el tono y los hechos de origen antes de solicitar una carta breve o un pasaje revisado. Para una tarea de extracción, define los campos y cómo representar la información ausente. Son operaciones concretas que conectan el enfoque textual documentado del modelo compacto con un resultado que se puede inspeccionar.\n\nIdiomas admitidos y entrenamiento\n\nLos idiomas oficialmente admitidos son inglés, alemán, francés, italiano, portugués, hindi, español y tailandés. El modelo se entrena con un conjunto de idiomas más amplio, distinto de los ocho explícitamente admitidos por la ficha. Identifica el idioma final y cualquier término o identificador que deba permanecer sin cambios.\n\nLa familia se preentrena con hasta nueve billones de tokens, con un corte de datos en diciembre de 2023. Para los modelos 1B y 3B, el fabricante utiliza salidas de Llama 3.1 8B y 70B como objetivos de entrenamiento a nivel de token y destilación de conocimiento después de la poda. Se trata de un proceso de entrenamiento; no significa que el modelo 1B desplegado pida a esos modelos mayores que respondan cada pregunta del usuario.\n\nLa ficha describe ajuste fino supervisado y alineación basada en preferencias, con rondas de entrenamiento posterior que incluyen ejemplos supervisados, muestreo por rechazo y optimización directa de preferencias. Esas etapas producen el comportamiento Instruct y conservan el checkpoint identificado por nombre y la modalidad exclusivamente textual.\n\nConversación y ediciones cuantizadas\n\nEl fabricante demuestra mensajes separados de sistema y de usuario utilizando el formato de conversación correspondiente. Define el papel del asistente y los requisitos de respuesta por separado del texto de origen real. Conserva la respuesta anterior pertinente cuando una consulta posterior pida una revisión, una aclaración o una forma distinta de la misma información.\n\nLa versión también documenta variantes diferenciadas con cuantización durante el entrenamiento y con cuantización posterior al entrenamiento. Su precisión y contexto de 8k pertenecen a esas variantes, en lugar de constituir una especificación universal para esta entrada Instruct ordinaria. Utiliza el checkpoint y la configuración exactos al comparar una tarea repetida o preparar un despliegue derivado.\n\nLímites sustantivos\n\nEsta versión 1B es exclusivamente textual. No debe heredar la entrada de imágenes de los modelos de visión 11B o 90B de Llama 3.2, las capacidades de texto e imágenes de Llama 4 ni los controles de esfuerzo de razonamiento identificados por nombre de Muse Spark. El ejemplo de generación de 256 tokens de la ficha es un ajuste ilustrativo, no una capacidad máxima de respuesta declarada de forma independiente.\n\nUn resultado final práctico es el resumen, la consulta, el registro extraído o el texto reescrito que se haya solicitado, conservando el significado y los identificadores pertinentes de la fuente. Las fuentes consultadas no indican un máximo estricto separado de tokens de salida. Mantén la tarea centrada, el material de entrada completo para esa operación y explícita la distinción de contexto entre las versiones ordinarias y cuantizadas.", "editorialOverlay": { "copy_fields": { "practical_html": "Ejemplo técnico en inglés
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct es el modelo de texto compacto de Meta de 1.23B de parámetros para diálogo, resúmenes, recuperación de conocimiento y reformulación de consultas. El fabricante indica un contexto de 128k para la versión ordinaria y de 8k para las variantes cuantizadas separadas, con texto multilingüe y salida de código.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Llama 3.2 1B Instruct es el modelo de texto compacto de Meta ajustado mediante instrucciones, con un recuento de 1.23 mil millones de parámetros en la tabla del fabricante. Acepta texto multilingüe y devuelve texto o código. La versión está pensada para diálogo, recuperación de conocimiento, resúmenes, asistentes móviles de escritura y reformulación de consultas o prompts, en lugar de las tareas de comprensión de imágenes de las ediciones de visión separadas de Llama.
Información del modelo y contexto
El modelo utiliza una arquitectura Transformer autorregresiva con atención de consultas agrupadas y embeddings compartidos. Meta distingue modelos 1B y 3B preentrenados y ajustados mediante instrucciones. Esta entrada corresponde al checkpoint 1B Instruct, cuya tarea es seguir la solicitud del usuario en una conversación en lugar de servir como base preentrenada.
La versión ordinaria de texto está documentada con un contexto de 128k. El fabricante indica por separado un contexto de 8k para sus modelos de texto cuantizados. Esas configuraciones deben mantenerse diferenciadas: la cuantización no permite trasladar el contexto de la versión ordinaria a todos los checkpoints de formato más pequeño ni inferir la capacidad configurada de un servicio concreto.
Utiliza el contexto para los pasajes y la conversación pertinentes para una operación definida. Un documento extenso puede seguir requiriendo un resumen breve, una consulta de búsqueda reformulada o una respuesta basada en fuentes. Identifica el material que debe conservar el resultado y la extensión o los campos que necesita el siguiente paso de la aplicación.
Recuperación, resúmenes y reformulación
Para resumir, proporciona el pasaje o la conversación reales y especifica el público, la extensión y los hechos esenciales. Un resultado útil puede separar el asunto central, las decisiones ya expresadas y las preguntas abiertas. Si la fuente contiene varios temas, identifica cuál debe cubrir el resumen en lugar de pedir una reducción sin dirección de todo el contenido.
Para recuperar conocimiento, aporta los pasajes de origen seleccionados o la información devuelta por un componente de recuperación. Pide la afirmación que responde a la pregunta y el pasaje que la respalda. La respuesta textual del modelo puede explicar la información recuperada, mientras que buscar en una colección privada sigue siendo trabajo de la aplicación conectada. El modelo no obtiene esa colección simplemente por la etiqueta del caso de uso de recuperación.
Para reformular consultas, proporciona la pregunta original y el propósito de la búsqueda. Pide una reformulación concisa que conserve la entidad, la condición y la información deseada. Una consulta de soporte puede reformularse con el término del producto y la acción importantes, sin añadir un hecho ausente del mensaje del usuario. Devuelve la consulta revisada por separado de cualquier explicación si otro componente la va a utilizar directamente.
Para un asistente de escritura, especifica el lector, el tono y los hechos de origen antes de solicitar una carta breve o un pasaje revisado. Para una tarea de extracción, define los campos y cómo representar la información ausente. Son operaciones concretas que conectan el enfoque textual documentado del modelo compacto con un resultado que se puede inspeccionar.
Idiomas admitidos y entrenamiento
Los idiomas oficialmente admitidos son inglés, alemán, francés, italiano, portugués, hindi, español y tailandés. El modelo se entrena con un conjunto de idiomas más amplio, distinto de los ocho explícitamente admitidos por la ficha. Identifica el idioma final y cualquier término o identificador que deba permanecer sin cambios.
La familia se preentrena con hasta nueve billones de tokens, con un corte de datos en diciembre de 2023. Para los modelos 1B y 3B, el fabricante utiliza salidas de Llama 3.1 8B y 70B como objetivos de entrenamiento a nivel de token y destilación de conocimiento después de la poda. Se trata de un proceso de entrenamiento; no significa que el modelo 1B desplegado pida a esos modelos mayores que respondan cada pregunta del usuario.
La ficha describe ajuste fino supervisado y alineación basada en preferencias, con rondas de entrenamiento posterior que incluyen ejemplos supervisados, muestreo por rechazo y optimización directa de preferencias. Esas etapas producen el comportamiento Instruct y conservan el checkpoint identificado por nombre y la modalidad exclusivamente textual.
Conversación y ediciones cuantizadas
El fabricante demuestra mensajes separados de sistema y de usuario utilizando el formato de conversación correspondiente. Define el papel del asistente y los requisitos de respuesta por separado del texto de origen real. Conserva la respuesta anterior pertinente cuando una consulta posterior pida una revisión, una aclaración o una forma distinta de la misma información.
La versión también documenta variantes diferenciadas con cuantización durante el entrenamiento y con cuantización posterior al entrenamiento. Su precisión y contexto de 8k pertenecen a esas variantes, en lugar de constituir una especificación universal para esta entrada Instruct ordinaria. Utiliza el checkpoint y la configuración exactos al comparar una tarea repetida o preparar un despliegue derivado.
Límites sustantivos
Esta versión 1B es exclusivamente textual. No debe heredar la entrada de imágenes de los modelos de visión 11B o 90B de Llama 3.2, las capacidades de texto e imágenes de Llama 4 ni los controles de esfuerzo de razonamiento identificados por nombre de Muse Spark. El ejemplo de generación de 256 tokens de la ficha es un ajuste ilustrativo, no una capacidad máxima de respuesta declarada de forma independiente.
Un resultado final práctico es el resumen, la consulta, el registro extraído o el texto reescrito que se haya solicitado, conservando el significado y los identificadores pertinentes de la fuente. Las fuentes consultadas no indican un máximo estricto separado de tokens de salida. Mantén la tarea centrada, el material de entrada completo para esa operación y explícita la distinción de contexto entre las versiones ordinarias y cuantizadas.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites meta-llama/llama-3.2-1b-instruct | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites Número mínimo de elementos: 1 | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites Ejemplos: system, user, assistant, tool, function Condiciones: Estos roles están representados explícitamente por los tipos de compatibilidad del código fuente; el conjunto exacto de roles depende del modelo. Depende del modelo | Predeterminado— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_call_id | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: role=tool; utiliza el ID real devuelto | Predeterminado— |
Campomessages[].name | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].reasoning_content | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: Devuelve en los turnos siguientes el razonamiento realmente recibido cuando este modelo lo utilice | Predeterminado— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campomax_completion_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotemperature | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotop_p | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campostop | Tipostring|string[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools | Tipofunction_tool[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools[].type | Tipostring | RequisitoOpcional | Valores y límites function Depende del modelo | Predeterminado— |
Campotools[].function.name | Tipostring | RequisitoObligatorio | Valores y límites Se aplica cuando: herramienta de función proporcionada | Predeterminado— |
Campotools[].function.description | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotool_choice | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoparallel_tool_calls | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporesponse_format | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning_effort | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camposervice_tier | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoinstructions | Tipostring | RequisitoOpcional | Valores y límites Campo de compatibilidad | Predeterminado— |
Campofunctions | Tipofunction[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campofunction_call | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoprompt_cache_options | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomodalities | Tipostring[] | RequisitoOpcional | Valores y límites text | Predeterminado— |
Campoprovider | Tipoobject | RequisitoOpcional | Valores y límites Condiciones: provider.options se rechaza en esta ruta de texto Ultra | Predeterminado— |
Campocache_control.ttl | Tipostring | RequisitoOpcional | Valores y límites Condiciones: 1h se rechaza en los campos reales de caché de instrucciones | Predeterminado— |
Texto · Texto UTF8
messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages |
Parámetromaterial_types | Contratotext |
Parámetromessages | Contratomatriz de mensajes con estructura role/content |
Parámetrofile_material | Contratodocumento real en UTF-8 insertado como texto literal; no se deduce ningún ID de archivo |
Parámetrooptional_controls | Contratostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parámetrocontrol_scope | Contratodepende del modelo; las herramientas de funciones del usuario difieren de las herramientas alojadas |
Parámetrooutput_modalities | Contratotext |
Parámetrohosted_operations | Contratofalse |
Parámetromultimodal_input_binding | Contratonull |
Ciclo de vida: synchronous_or_streamed
Envía el ID exacto del modelo junto con messages.
La longitud del contexto no es un límite máximo de salida.
Un archivo de texto puede aportar texto literal; las entradas de imagen, audio u objetos de archivo requieren una vinculación exacta.
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
Relaciona cada cargo con las condiciones mostradas. Usa una tarifa para cada conjunto de configuraciones alternativas.
| Configuración | Tabla de tarifas | Tokens de contexto, más de | Tokens de contexto, hasta inclusive | Cargo |
|---|---|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Tokens de contexto, más de— | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.000054 / 1K tokens Salida · Tokens de salida $0.000402 / 1K tokens Entrada · Lectura de caché — / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
| ConfiguraciónTramo 1 por longitud de la solicitud | Tabla de tarifas— | Tokens de contexto, más de0 | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.000054 / 1K tokens Salida · Tokens de salida $0.000402 / 1K tokens Entrada · Lectura de caché — / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un importe estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.2-1b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva cada alternativa y su contenido, llamadas de herramientas y razonamiento. En SSE, ensambla los fragmentos incrementales por índice de alternativa/herramienta y conserva el motivo final de terminación y el uso.
Conserva los ID de solicitud y respuesta y las cabeceras. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Usa las rutas de método indicadas arriba.
meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct es el modelo de texto compacto de Meta de 1.23B de parámetros para diálogo, resúmenes, recuperación de conocimiento y reformulación de consultas. El fabricante indica un contexto de 128k para la versión ordinaria y de 8k para las variantes cuantizadas separadas, con texto multilingüe y salida de código.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Llama 3.2 1B Instruct es el modelo de texto compacto de Meta ajustado mediante instrucciones, con un recuento de 1.23 mil millones de parámetros en la tabla del fabricante. Acepta texto multilingüe y devuelve texto o código. La versión está pensada para diálogo, recuperación de conocimiento, resúmenes, asistentes móviles de escritura y reformulación de consultas o prompts, en lugar de las tareas de comprensión de imágenes de las ediciones de visión separadas de Llama.
Información del modelo y contexto
El modelo utiliza una arquitectura Transformer autorregresiva con atención de consultas agrupadas y embeddings compartidos. Meta distingue modelos 1B y 3B preentrenados y ajustados mediante instrucciones. Esta entrada corresponde al checkpoint 1B Instruct, cuya tarea es seguir la solicitud del usuario en una conversación en lugar de servir como base preentrenada.
La versión ordinaria de texto está documentada con un contexto de 128k. El fabricante indica por separado un contexto de 8k para sus modelos de texto cuantizados. Esas configuraciones deben mantenerse diferenciadas: la cuantización no permite trasladar el contexto de la versión ordinaria a todos los checkpoints de formato más pequeño ni inferir la capacidad configurada de un servicio concreto.
Utiliza el contexto para los pasajes y la conversación pertinentes para una operación definida. Un documento extenso puede seguir requiriendo un resumen breve, una consulta de búsqueda reformulada o una respuesta basada en fuentes. Identifica el material que debe conservar el resultado y la extensión o los campos que necesita el siguiente paso de la aplicación.
Recuperación, resúmenes y reformulación
Para resumir, proporciona el pasaje o la conversación reales y especifica el público, la extensión y los hechos esenciales. Un resultado útil puede separar el asunto central, las decisiones ya expresadas y las preguntas abiertas. Si la fuente contiene varios temas, identifica cuál debe cubrir el resumen en lugar de pedir una reducción sin dirección de todo el contenido.
Para recuperar conocimiento, aporta los pasajes de origen seleccionados o la información devuelta por un componente de recuperación. Pide la afirmación que responde a la pregunta y el pasaje que la respalda. La respuesta textual del modelo puede explicar la información recuperada, mientras que buscar en una colección privada sigue siendo trabajo de la aplicación conectada. El modelo no obtiene esa colección simplemente por la etiqueta del caso de uso de recuperación.
Para reformular consultas, proporciona la pregunta original y el propósito de la búsqueda. Pide una reformulación concisa que conserve la entidad, la condición y la información deseada. Una consulta de soporte puede reformularse con el término del producto y la acción importantes, sin añadir un hecho ausente del mensaje del usuario. Devuelve la consulta revisada por separado de cualquier explicación si otro componente la va a utilizar directamente.
Para un asistente de escritura, especifica el lector, el tono y los hechos de origen antes de solicitar una carta breve o un pasaje revisado. Para una tarea de extracción, define los campos y cómo representar la información ausente. Son operaciones concretas que conectan el enfoque textual documentado del modelo compacto con un resultado que se puede inspeccionar.
Idiomas admitidos y entrenamiento
Los idiomas oficialmente admitidos son inglés, alemán, francés, italiano, portugués, hindi, español y tailandés. El modelo se entrena con un conjunto de idiomas más amplio, distinto de los ocho explícitamente admitidos por la ficha. Identifica el idioma final y cualquier término o identificador que deba permanecer sin cambios.
La familia se preentrena con hasta nueve billones de tokens, con un corte de datos en diciembre de 2023. Para los modelos 1B y 3B, el fabricante utiliza salidas de Llama 3.1 8B y 70B como objetivos de entrenamiento a nivel de token y destilación de conocimiento después de la poda. Se trata de un proceso de entrenamiento; no significa que el modelo 1B desplegado pida a esos modelos mayores que respondan cada pregunta del usuario.
La ficha describe ajuste fino supervisado y alineación basada en preferencias, con rondas de entrenamiento posterior que incluyen ejemplos supervisados, muestreo por rechazo y optimización directa de preferencias. Esas etapas producen el comportamiento Instruct y conservan el checkpoint identificado por nombre y la modalidad exclusivamente textual.
Conversación y ediciones cuantizadas
El fabricante demuestra mensajes separados de sistema y de usuario utilizando el formato de conversación correspondiente. Define el papel del asistente y los requisitos de respuesta por separado del texto de origen real. Conserva la respuesta anterior pertinente cuando una consulta posterior pida una revisión, una aclaración o una forma distinta de la misma información.
La versión también documenta variantes diferenciadas con cuantización durante el entrenamiento y con cuantización posterior al entrenamiento. Su precisión y contexto de 8k pertenecen a esas variantes, en lugar de constituir una especificación universal para esta entrada Instruct ordinaria. Utiliza el checkpoint y la configuración exactos al comparar una tarea repetida o preparar un despliegue derivado.
Límites sustantivos
Esta versión 1B es exclusivamente textual. No debe heredar la entrada de imágenes de los modelos de visión 11B o 90B de Llama 3.2, las capacidades de texto e imágenes de Llama 4 ni los controles de esfuerzo de razonamiento identificados por nombre de Muse Spark. El ejemplo de generación de 256 tokens de la ficha es un ajuste ilustrativo, no una capacidad máxima de respuesta declarada de forma independiente.
Un resultado final práctico es el resumen, la consulta, el registro extraído o el texto reescrito que se haya solicitado, conservando el significado y los identificadores pertinentes de la fuente. Las fuentes consultadas no indican un máximo estricto separado de tokens de salida. Mantén la tarea centrada, el material de entrada completo para esa operación y explícita la distinción de contexto entre las versiones ordinarias y cuantizadas.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites meta-llama/llama-3.2-1b-instruct | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites user, assistant | Predeterminado— |
Campomessages[].content | Tipostring | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Texto · Texto UTF-8
cadena messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages, max_tokens |
Parámetrooptional_controls | Contratostream |
Parámetromaterial_types | Contratotext |
Parámetrotext_file_material | ContratoLee el documento real en UTF-8 y coloca su texto en el campo input indicado o en la cadena de contenido del mensaje. |
Ciclo de vida: synchronous_or_streamed
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
Relaciona cada cargo con las condiciones mostradas. Usa una tarifa para cada conjunto de configuraciones alternativas.
| Configuración | Tabla de tarifas | Tokens de contexto, más de | Tokens de contexto, hasta inclusive | Cargo |
|---|---|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Tokens de contexto, más de— | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.000054 / 1K tokens Salida · Tokens de salida $0.000402 / 1K tokens Entrada · Lectura de caché — / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
| ConfiguraciónTramo 1 por longitud de la solicitud | Tabla de tarifas— | Tokens de contexto, más de0 | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.000054 / 1K tokens Salida · Tokens de salida $0.000402 / 1K tokens Entrada · Lectura de caché — / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un importe estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
{\n "model": "meta-llama/llama-3.2-1b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva todos los bloques de contenido, las firmas de razonamiento y los ID reales de uso de herramientas. Ensambla todos los fragmentos incrementales de los bloques SSE; el primer bloque de texto no constituye la salida completa.
Conserva los ID de solicitud y respuesta y las cabeceras. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Usa las rutas de método indicadas arriba.
Ejemplo técnico en inglés
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.