Llama 3.1 8B Instruct es el modelo de texto de Meta de ocho mil millones de parámetros para diálogo multilingüe y asistentes basados en instrucciones. Acepta conversación escrita y material de origen y produce texto o código. Es la edición Instruct del tamaño 8B, distinta de su base preentrenada y de los modelos 70B y 405B de la familia.
Arquitectura, contexto e idiomas
El modelo utiliza una arquitectura Transformer autorregresiva con atención de consultas agrupadas. La familia ajustada mediante instrucciones utiliza ajuste fino supervisado y aprendizaje por refuerzo con retroalimentación humana para alinear sus respuestas conversacionales. El fabricante documenta un contexto de 128k para esta versión textual; no es la especificación de visión o contexto largo de un modelo posterior de Llama 4.
Los ocho idiomas oficialmente admitidos son inglés, alemán, francés, italiano, portugués, hindi, español y tailandés. Los datos de preentrenamiento abarcan un conjunto más amplio, distinto de los idiomas explícitamente admitidos por la ficha. Indica el idioma final y cualquier nombre, identificador de variable o término que deba permanecer sin cambios en un resultado multilingüe.
La familia se preentrena con aproximadamente quince billones de tokens, con un corte de datos en diciembre de 2023. El ajuste fino incluye material de instrucciones y más de veinticinco millones de ejemplos sintéticos. Esto describe el entrenamiento del modelo, no el acceso a una base de conocimiento privada o a información en directo cuando llega una nueva pregunta.
Operaciones textuales definidas
Una solicitud orientada al soporte puede aportar el mensaje del usuario y pasajes de referencia pertinentes y pedir después la respuesta y la condición que la respalda. Un registro compacto puede separar el problema, la información ya aportada y el siguiente paso requerido. Define los nombres de los campos y el tratamiento de valores ausentes cuando una aplicación necesite procesar ese resultado.
Para resumir, proporciona el pasaje o intercambio real y especifica el público, la extensión y los hechos que se deben conservar. Pide las decisiones o preguntas sin resolver pertinentes para un tema, en lugar de un resumen sin dirección de material no relacionado. Una consulta posterior puede pedir una respuesta más corta o una explicación más clara de una condición conservando los mismos hechos de origen.
Para editar, especifica el lector y el tono e identifica el significado que debe permanecer sin cambios. Una tarea práctica puede pedir un mensaje más claro seguido de una lista breve de modificaciones, o solo el mensaje revisado si se utilizará directamente. Una tarea de clasificación debe proporcionar las etiquetas permitidas y la distinción entre ellas, en lugar de confiar en que el nombre de una etiqueta defina la regla.
Generación de código y ejemplos
La salida documentada también incluye código. Proporciona el lenguaje, las entradas requeridas y el resultado esperado antes de solicitar una función. Para una explicación, aporta la función existente y una entrada concreta y pregunta qué pasos determinan su valor de retorno. Para una corrección, incluye el fallo observado y el comportamiento deseado, conservando la interfaz que debe mantener la compatibilidad.
Una salida útil puede separar el código propuesto, sus supuestos y las entradas de ejemplo. La aplicación o el desarrollador realiza la compilación, ejecución o modificación real del repositorio. El código fuente escrito es un producto que se debe inspeccionar, no una operación externa completada simplemente porque el modelo lo haya devuelto.
La familia también admite utilizar la salida generada para ejemplos sintéticos y destilación. Una solicitud textual definida puede producir variaciones bajo reglas aportadas y en un formato especificado. Conserva las reglas y las etiquetas para que cada ejemplo se pueda inspeccionar; los ejemplos generados no establecen de forma independiente la corrección de un conjunto de datos de entrenamiento.
Roles de conversación y uso de herramientas
La ficha del modelo demuestra una plantilla de chat con mensajes separados de sistema y de usuario. Define el papel del asistente y los requisitos de respuesta en el contexto de sistema y proporciona después la pregunta y el material de origen como tarea. Conserva los mensajes anteriores pertinentes al formular una consulta posterior o aportar nuevas pruebas que cambien el resultado.
Llama 3.1 documenta múltiples formatos de uso de herramientas. La aplicación describe una función, el modelo genera la llamada y los argumentos propuestos, la aplicación la ejecuta y devuelve el resultado con el rol de herramienta. La siguiente respuesta puede utilizar después la información devuelta. Mantén conectados la operación de origen y el resultado a lo largo de la conversación.
Por ejemplo, una consulta puede devolver el valor de referencia actual que falta en un pasaje, o una herramienta de cálculo puede proporcionar el resultado numérico necesario para la explicación. Un asistente con herramientas habilitadas necesita que el entorno proporcione esas operaciones. El comportamiento textual del modelo no crea por sí mismo una conexión con una fuente externa ni completa un efecto externo.
Límites prácticos
La etiqueta de contexto de 128k del fabricante debe mantenerse vinculada a la versión 8B Instruct exacta y a la configuración aplicable. El ejemplo de generación de 256 tokens es solo una opción de uso; las fuentes consultadas no indican una capacidad máxima estricta de respuesta por separado. El tamaño 8B no debe heredar el recuento de parámetros de otro miembro ni los controles de razonamiento identificados por nombre de otra familia.
Este es un modelo exclusivamente textual. La entrada visual, la comprensión de audio y la generación de voz requieren componentes especificados por separado. Define el producto final antes de aportar el material: una respuesta concisa, un registro extraído, un pasaje revisado, una explicación o una propuesta de código. Conserva la información de origen necesaria para inspeccionar el significado y el formato de ese producto.
", "aboutText": "Llama 3.1 8B Instruct es el modelo de texto de Meta de ocho mil millones de parámetros para diálogo multilingüe y asistentes basados en instrucciones. Acepta conversación escrita y material de origen y produce texto o código. Es la edición Instruct del tamaño 8B, distinta de su base preentrenada y de los modelos 70B y 405B de la familia.\n\nArquitectura, contexto e idiomas\n\nEl modelo utiliza una arquitectura Transformer autorregresiva con atención de consultas agrupadas. La familia ajustada mediante instrucciones utiliza ajuste fino supervisado y aprendizaje por refuerzo con retroalimentación humana para alinear sus respuestas conversacionales. El fabricante documenta un contexto de 128k para esta versión textual; no es la especificación de visión o contexto largo de un modelo posterior de Llama 4.\n\nLos ocho idiomas oficialmente admitidos son inglés, alemán, francés, italiano, portugués, hindi, español y tailandés. Los datos de preentrenamiento abarcan un conjunto más amplio, distinto de los idiomas explícitamente admitidos por la ficha. Indica el idioma final y cualquier nombre, identificador de variable o término que deba permanecer sin cambios en un resultado multilingüe.\n\nLa familia se preentrena con aproximadamente quince billones de tokens, con un corte de datos en diciembre de 2023. El ajuste fino incluye material de instrucciones y más de veinticinco millones de ejemplos sintéticos. Esto describe el entrenamiento del modelo, no el acceso a una base de conocimiento privada o a información en directo cuando llega una nueva pregunta.\n\nOperaciones textuales definidas\n\nUna solicitud orientada al soporte puede aportar el mensaje del usuario y pasajes de referencia pertinentes y pedir después la respuesta y la condición que la respalda. Un registro compacto puede separar el problema, la información ya aportada y el siguiente paso requerido. Define los nombres de los campos y el tratamiento de valores ausentes cuando una aplicación necesite procesar ese resultado.\n\nPara resumir, proporciona el pasaje o intercambio real y especifica el público, la extensión y los hechos que se deben conservar. Pide las decisiones o preguntas sin resolver pertinentes para un tema, en lugar de un resumen sin dirección de material no relacionado. Una consulta posterior puede pedir una respuesta más corta o una explicación más clara de una condición conservando los mismos hechos de origen.\n\nPara editar, especifica el lector y el tono e identifica el significado que debe permanecer sin cambios. Una tarea práctica puede pedir un mensaje más claro seguido de una lista breve de modificaciones, o solo el mensaje revisado si se utilizará directamente. Una tarea de clasificación debe proporcionar las etiquetas permitidas y la distinción entre ellas, en lugar de confiar en que el nombre de una etiqueta defina la regla.\n\nGeneración de código y ejemplos\n\nLa salida documentada también incluye código. Proporciona el lenguaje, las entradas requeridas y el resultado esperado antes de solicitar una función. Para una explicación, aporta la función existente y una entrada concreta y pregunta qué pasos determinan su valor de retorno. Para una corrección, incluye el fallo observado y el comportamiento deseado, conservando la interfaz que debe mantener la compatibilidad.\n\nUna salida útil puede separar el código propuesto, sus supuestos y las entradas de ejemplo. La aplicación o el desarrollador realiza la compilación, ejecución o modificación real del repositorio. El código fuente escrito es un producto que se debe inspeccionar, no una operación externa completada simplemente porque el modelo lo haya devuelto.\n\nLa familia también admite utilizar la salida generada para ejemplos sintéticos y destilación. Una solicitud textual definida puede producir variaciones bajo reglas aportadas y en un formato especificado. Conserva las reglas y las etiquetas para que cada ejemplo se pueda inspeccionar; los ejemplos generados no establecen de forma independiente la corrección de un conjunto de datos de entrenamiento.\n\nRoles de conversación y uso de herramientas\n\nLa ficha del modelo demuestra una plantilla de chat con mensajes separados de sistema y de usuario. Define el papel del asistente y los requisitos de respuesta en el contexto de sistema y proporciona después la pregunta y el material de origen como tarea. Conserva los mensajes anteriores pertinentes al formular una consulta posterior o aportar nuevas pruebas que cambien el resultado.\n\nLlama 3.1 documenta múltiples formatos de uso de herramientas. La aplicación describe una función, el modelo genera la llamada y los argumentos propuestos, la aplicación la ejecuta y devuelve el resultado con el rol de herramienta. La siguiente respuesta puede utilizar después la información devuelta. Mantén conectados la operación de origen y el resultado a lo largo de la conversación.\n\nPor ejemplo, una consulta puede devolver el valor de referencia actual que falta en un pasaje, o una herramienta de cálculo puede proporcionar el resultado numérico necesario para la explicación. Un asistente con herramientas habilitadas necesita que el entorno proporcione esas operaciones. El comportamiento textual del modelo no crea por sí mismo una conexión con una fuente externa ni completa un efecto externo.\n\nLímites prácticos\n\nLa etiqueta de contexto de 128k del fabricante debe mantenerse vinculada a la versión 8B Instruct exacta y a la configuración aplicable. El ejemplo de generación de 256 tokens es solo una opción de uso; las fuentes consultadas no indican una capacidad máxima estricta de respuesta por separado. El tamaño 8B no debe heredar el recuento de parámetros de otro miembro ni los controles de razonamiento identificados por nombre de otra familia.\n\nEste es un modelo exclusivamente textual. La entrada visual, la comprensión de audio y la generación de voz requieren componentes especificados por separado. Define el producto final antes de aportar el material: una respuesta concisa, un registro extraído, un pasaje revisado, una explicación o una propuesta de código. Conserva la información de origen necesaria para inspeccionar el significado y el formato de ese producto.", "editorialOverlay": { "copy_fields": { "practical_html": "Ejemplo técnico en inglés
Translate a delivery notice into German\n\nTranslate this customer notice into German: 'Order BN-42 will leave our warehouse on Thursday. Delivery normally takes three business days. We will send tracking details after dispatch.' Preserve BN-42, distinguish dispatch from delivery and use a polite professional tone. Return only the translation; do not turn the normal transit time into a guaranteed arrival date.One German customer notice preserving the identifier, event sequence and qualified transit time.The translation distinguishes warehouse dispatch from delivery and retains the word's sense of a normal estimate.meta-llama/llama-3.1-8b-instructLlama 3.1 8B Instruct es un modelo de texto pequeño de Meta ajustado mediante instrucciones para diálogo multilingüe, resúmenes y respuestas condicionadas por fuentes. Tiene un tamaño de 8B de parámetros, un contexto de 128k indicado por el fabricante, atención de consultas agrupadas y formatos documentados de uso de herramientas, y devuelve texto o código.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Llama 3.1 8B Instruct es el modelo de texto de Meta de ocho mil millones de parámetros para diálogo multilingüe y asistentes basados en instrucciones. Acepta conversación escrita y material de origen y produce texto o código. Es la edición Instruct del tamaño 8B, distinta de su base preentrenada y de los modelos 70B y 405B de la familia.
Arquitectura, contexto e idiomas
El modelo utiliza una arquitectura Transformer autorregresiva con atención de consultas agrupadas. La familia ajustada mediante instrucciones utiliza ajuste fino supervisado y aprendizaje por refuerzo con retroalimentación humana para alinear sus respuestas conversacionales. El fabricante documenta un contexto de 128k para esta versión textual; no es la especificación de visión o contexto largo de un modelo posterior de Llama 4.
Los ocho idiomas oficialmente admitidos son inglés, alemán, francés, italiano, portugués, hindi, español y tailandés. Los datos de preentrenamiento abarcan un conjunto más amplio, distinto de los idiomas explícitamente admitidos por la ficha. Indica el idioma final y cualquier nombre, identificador de variable o término que deba permanecer sin cambios en un resultado multilingüe.
La familia se preentrena con aproximadamente quince billones de tokens, con un corte de datos en diciembre de 2023. El ajuste fino incluye material de instrucciones y más de veinticinco millones de ejemplos sintéticos. Esto describe el entrenamiento del modelo, no el acceso a una base de conocimiento privada o a información en directo cuando llega una nueva pregunta.
Operaciones textuales definidas
Una solicitud orientada al soporte puede aportar el mensaje del usuario y pasajes de referencia pertinentes y pedir después la respuesta y la condición que la respalda. Un registro compacto puede separar el problema, la información ya aportada y el siguiente paso requerido. Define los nombres de los campos y el tratamiento de valores ausentes cuando una aplicación necesite procesar ese resultado.
Para resumir, proporciona el pasaje o intercambio real y especifica el público, la extensión y los hechos que se deben conservar. Pide las decisiones o preguntas sin resolver pertinentes para un tema, en lugar de un resumen sin dirección de material no relacionado. Una consulta posterior puede pedir una respuesta más corta o una explicación más clara de una condición conservando los mismos hechos de origen.
Para editar, especifica el lector y el tono e identifica el significado que debe permanecer sin cambios. Una tarea práctica puede pedir un mensaje más claro seguido de una lista breve de modificaciones, o solo el mensaje revisado si se utilizará directamente. Una tarea de clasificación debe proporcionar las etiquetas permitidas y la distinción entre ellas, en lugar de confiar en que el nombre de una etiqueta defina la regla.
Generación de código y ejemplos
La salida documentada también incluye código. Proporciona el lenguaje, las entradas requeridas y el resultado esperado antes de solicitar una función. Para una explicación, aporta la función existente y una entrada concreta y pregunta qué pasos determinan su valor de retorno. Para una corrección, incluye el fallo observado y el comportamiento deseado, conservando la interfaz que debe mantener la compatibilidad.
Una salida útil puede separar el código propuesto, sus supuestos y las entradas de ejemplo. La aplicación o el desarrollador realiza la compilación, ejecución o modificación real del repositorio. El código fuente escrito es un producto que se debe inspeccionar, no una operación externa completada simplemente porque el modelo lo haya devuelto.
La familia también admite utilizar la salida generada para ejemplos sintéticos y destilación. Una solicitud textual definida puede producir variaciones bajo reglas aportadas y en un formato especificado. Conserva las reglas y las etiquetas para que cada ejemplo se pueda inspeccionar; los ejemplos generados no establecen de forma independiente la corrección de un conjunto de datos de entrenamiento.
Roles de conversación y uso de herramientas
La ficha del modelo demuestra una plantilla de chat con mensajes separados de sistema y de usuario. Define el papel del asistente y los requisitos de respuesta en el contexto de sistema y proporciona después la pregunta y el material de origen como tarea. Conserva los mensajes anteriores pertinentes al formular una consulta posterior o aportar nuevas pruebas que cambien el resultado.
Llama 3.1 documenta múltiples formatos de uso de herramientas. La aplicación describe una función, el modelo genera la llamada y los argumentos propuestos, la aplicación la ejecuta y devuelve el resultado con el rol de herramienta. La siguiente respuesta puede utilizar después la información devuelta. Mantén conectados la operación de origen y el resultado a lo largo de la conversación.
Por ejemplo, una consulta puede devolver el valor de referencia actual que falta en un pasaje, o una herramienta de cálculo puede proporcionar el resultado numérico necesario para la explicación. Un asistente con herramientas habilitadas necesita que el entorno proporcione esas operaciones. El comportamiento textual del modelo no crea por sí mismo una conexión con una fuente externa ni completa un efecto externo.
Límites prácticos
La etiqueta de contexto de 128k del fabricante debe mantenerse vinculada a la versión 8B Instruct exacta y a la configuración aplicable. El ejemplo de generación de 256 tokens es solo una opción de uso; las fuentes consultadas no indican una capacidad máxima estricta de respuesta por separado. El tamaño 8B no debe heredar el recuento de parámetros de otro miembro ni los controles de razonamiento identificados por nombre de otra familia.
Este es un modelo exclusivamente textual. La entrada visual, la comprensión de audio y la generación de voz requieren componentes especificados por separado. Define el producto final antes de aportar el material: una respuesta concisa, un registro extraído, un pasaje revisado, una explicación o una propuesta de código. Conserva la información de origen necesaria para inspeccionar el significado y el formato de ese producto.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites meta-llama/llama-3.1-8b-instruct | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites Número mínimo de elementos: 1 | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites Ejemplos: system, user, assistant, tool, function Condiciones: Estos roles están representados explícitamente por los tipos de compatibilidad del código fuente; el conjunto exacto de roles depende del modelo. Depende del modelo | Predeterminado— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_call_id | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: role=tool; utiliza el ID real devuelto | Predeterminado— |
Campomessages[].name | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].reasoning_content | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: Devuelve en los turnos siguientes el razonamiento realmente recibido cuando este modelo lo utilice | Predeterminado— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campomax_completion_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotemperature | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotop_p | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campostop | Tipostring|string[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools | Tipofunction_tool[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools[].type | Tipostring | RequisitoOpcional | Valores y límites function Depende del modelo | Predeterminado— |
Campotools[].function.name | Tipostring | RequisitoObligatorio | Valores y límites Se aplica cuando: herramienta de función proporcionada | Predeterminado— |
Campotools[].function.description | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotool_choice | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoparallel_tool_calls | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporesponse_format | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning_effort | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camposervice_tier | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoinstructions | Tipostring | RequisitoOpcional | Valores y límites Campo de compatibilidad | Predeterminado— |
Campofunctions | Tipofunction[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campofunction_call | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoprompt_cache_options | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomodalities | Tipostring[] | RequisitoOpcional | Valores y límites text | Predeterminado— |
Campoprovider | Tipoobject | RequisitoOpcional | Valores y límites Condiciones: provider.options se rechaza en esta ruta de texto Ultra | Predeterminado— |
Campocache_control.ttl | Tipostring | RequisitoOpcional | Valores y límites Condiciones: 1h se rechaza en los campos reales de caché de instrucciones | Predeterminado— |
Texto · Texto UTF8
messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages |
Parámetromaterial_types | Contratotext |
Parámetromessages | Contratomatriz de mensajes con estructura role/content |
Parámetrofile_material | Contratodocumento real en UTF-8 insertado como texto literal; no se deduce ningún ID de archivo |
Parámetrooptional_controls | Contratostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parámetrocontrol_scope | Contratodepende del modelo; las herramientas de funciones del usuario difieren de las herramientas alojadas |
Parámetrooutput_modalities | Contratotext |
Parámetrohosted_operations | Contratofalse |
Parámetromultimodal_input_binding | Contratonull |
Ciclo de vida: synchronous_or_streamed
Envía el ID exacto del modelo junto con messages.
La longitud del contexto no es un límite máximo de salida.
Un archivo de texto puede aportar texto literal; las entradas de imagen, audio u objetos de archivo requieren una vinculación exacta.
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
Relaciona cada cargo con las condiciones mostradas. Usa una tarifa para cada conjunto de configuraciones alternativas.
| Configuración | Tabla de tarifas | Tokens de contexto, más de | Tokens de contexto, hasta inclusive | Cargo |
|---|---|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Tokens de contexto, más de— | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.00044 / 1K tokens Salida · Tokens de salida $0.00044 / 1K tokens Entrada · Lectura de caché $0.00044 / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
| ConfiguraciónTramo 1 por longitud de la solicitud | Tabla de tarifas— | Tokens de contexto, más de0 | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.00044 / 1K tokens Salida · Tokens de salida $0.00044 / 1K tokens Entrada · Lectura de caché $0.00044 / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un importe estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.1-8b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.1-8b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.1-8b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva cada alternativa y su contenido, llamadas de herramientas y razonamiento. En SSE, ensambla los fragmentos incrementales por índice de alternativa/herramienta y conserva el motivo final de terminación y el uso.
Conserva los ID de solicitud y respuesta y las cabeceras. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra meta-llama/llama-3.1-8b-instruct
Usa las rutas de método indicadas arriba.
meta-llama/llama-3.1-8b-instructLlama 3.1 8B Instruct es un modelo de texto pequeño de Meta ajustado mediante instrucciones para diálogo multilingüe, resúmenes y respuestas condicionadas por fuentes. Tiene un tamaño de 8B de parámetros, un contexto de 128k indicado por el fabricante, atención de consultas agrupadas y formatos documentados de uso de herramientas, y devuelve texto o código.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Llama 3.1 8B Instruct es el modelo de texto de Meta de ocho mil millones de parámetros para diálogo multilingüe y asistentes basados en instrucciones. Acepta conversación escrita y material de origen y produce texto o código. Es la edición Instruct del tamaño 8B, distinta de su base preentrenada y de los modelos 70B y 405B de la familia.
Arquitectura, contexto e idiomas
El modelo utiliza una arquitectura Transformer autorregresiva con atención de consultas agrupadas. La familia ajustada mediante instrucciones utiliza ajuste fino supervisado y aprendizaje por refuerzo con retroalimentación humana para alinear sus respuestas conversacionales. El fabricante documenta un contexto de 128k para esta versión textual; no es la especificación de visión o contexto largo de un modelo posterior de Llama 4.
Los ocho idiomas oficialmente admitidos son inglés, alemán, francés, italiano, portugués, hindi, español y tailandés. Los datos de preentrenamiento abarcan un conjunto más amplio, distinto de los idiomas explícitamente admitidos por la ficha. Indica el idioma final y cualquier nombre, identificador de variable o término que deba permanecer sin cambios en un resultado multilingüe.
La familia se preentrena con aproximadamente quince billones de tokens, con un corte de datos en diciembre de 2023. El ajuste fino incluye material de instrucciones y más de veinticinco millones de ejemplos sintéticos. Esto describe el entrenamiento del modelo, no el acceso a una base de conocimiento privada o a información en directo cuando llega una nueva pregunta.
Operaciones textuales definidas
Una solicitud orientada al soporte puede aportar el mensaje del usuario y pasajes de referencia pertinentes y pedir después la respuesta y la condición que la respalda. Un registro compacto puede separar el problema, la información ya aportada y el siguiente paso requerido. Define los nombres de los campos y el tratamiento de valores ausentes cuando una aplicación necesite procesar ese resultado.
Para resumir, proporciona el pasaje o intercambio real y especifica el público, la extensión y los hechos que se deben conservar. Pide las decisiones o preguntas sin resolver pertinentes para un tema, en lugar de un resumen sin dirección de material no relacionado. Una consulta posterior puede pedir una respuesta más corta o una explicación más clara de una condición conservando los mismos hechos de origen.
Para editar, especifica el lector y el tono e identifica el significado que debe permanecer sin cambios. Una tarea práctica puede pedir un mensaje más claro seguido de una lista breve de modificaciones, o solo el mensaje revisado si se utilizará directamente. Una tarea de clasificación debe proporcionar las etiquetas permitidas y la distinción entre ellas, en lugar de confiar en que el nombre de una etiqueta defina la regla.
Generación de código y ejemplos
La salida documentada también incluye código. Proporciona el lenguaje, las entradas requeridas y el resultado esperado antes de solicitar una función. Para una explicación, aporta la función existente y una entrada concreta y pregunta qué pasos determinan su valor de retorno. Para una corrección, incluye el fallo observado y el comportamiento deseado, conservando la interfaz que debe mantener la compatibilidad.
Una salida útil puede separar el código propuesto, sus supuestos y las entradas de ejemplo. La aplicación o el desarrollador realiza la compilación, ejecución o modificación real del repositorio. El código fuente escrito es un producto que se debe inspeccionar, no una operación externa completada simplemente porque el modelo lo haya devuelto.
La familia también admite utilizar la salida generada para ejemplos sintéticos y destilación. Una solicitud textual definida puede producir variaciones bajo reglas aportadas y en un formato especificado. Conserva las reglas y las etiquetas para que cada ejemplo se pueda inspeccionar; los ejemplos generados no establecen de forma independiente la corrección de un conjunto de datos de entrenamiento.
Roles de conversación y uso de herramientas
La ficha del modelo demuestra una plantilla de chat con mensajes separados de sistema y de usuario. Define el papel del asistente y los requisitos de respuesta en el contexto de sistema y proporciona después la pregunta y el material de origen como tarea. Conserva los mensajes anteriores pertinentes al formular una consulta posterior o aportar nuevas pruebas que cambien el resultado.
Llama 3.1 documenta múltiples formatos de uso de herramientas. La aplicación describe una función, el modelo genera la llamada y los argumentos propuestos, la aplicación la ejecuta y devuelve el resultado con el rol de herramienta. La siguiente respuesta puede utilizar después la información devuelta. Mantén conectados la operación de origen y el resultado a lo largo de la conversación.
Por ejemplo, una consulta puede devolver el valor de referencia actual que falta en un pasaje, o una herramienta de cálculo puede proporcionar el resultado numérico necesario para la explicación. Un asistente con herramientas habilitadas necesita que el entorno proporcione esas operaciones. El comportamiento textual del modelo no crea por sí mismo una conexión con una fuente externa ni completa un efecto externo.
Límites prácticos
La etiqueta de contexto de 128k del fabricante debe mantenerse vinculada a la versión 8B Instruct exacta y a la configuración aplicable. El ejemplo de generación de 256 tokens es solo una opción de uso; las fuentes consultadas no indican una capacidad máxima estricta de respuesta por separado. El tamaño 8B no debe heredar el recuento de parámetros de otro miembro ni los controles de razonamiento identificados por nombre de otra familia.
Este es un modelo exclusivamente textual. La entrada visual, la comprensión de audio y la generación de voz requieren componentes especificados por separado. Define el producto final antes de aportar el material: una respuesta concisa, un registro extraído, un pasaje revisado, una explicación o una propuesta de código. Conserva la información de origen necesaria para inspeccionar el significado y el formato de ese producto.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites meta-llama/llama-3.1-8b-instruct | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites user, assistant | Predeterminado— |
Campomessages[].content | Tipostring | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Texto · Texto UTF-8
cadena messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages, max_tokens |
Parámetrooptional_controls | Contratostream |
Parámetromaterial_types | Contratotext |
Parámetrotext_file_material | ContratoLee el documento real en UTF-8 y coloca su texto en el campo input indicado o en la cadena de contenido del mensaje. |
Ciclo de vida: synchronous_or_streamed
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
Relaciona cada cargo con las condiciones mostradas. Usa una tarifa para cada conjunto de configuraciones alternativas.
| Configuración | Tabla de tarifas | Tokens de contexto, más de | Tokens de contexto, hasta inclusive | Cargo |
|---|---|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Tokens de contexto, más de— | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.00044 / 1K tokens Salida · Tokens de salida $0.00044 / 1K tokens Entrada · Lectura de caché $0.00044 / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
| ConfiguraciónTramo 1 por longitud de la solicitud | Tabla de tarifas— | Tokens de contexto, más de0 | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.00044 / 1K tokens Salida · Tokens de salida $0.00044 / 1K tokens Entrada · Lectura de caché $0.00044 / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un importe estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
{\n "model": "meta-llama/llama-3.1-8b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva todos los bloques de contenido, las firmas de razonamiento y los ID reales de uso de herramientas. Ensambla todos los fragmentos incrementales de los bloques SSE; el primer bloque de texto no constituye la salida completa.
Conserva los ID de solicitud y respuesta y las cabeceras. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra meta-llama/llama-3.1-8b-instruct
Usa las rutas de método indicadas arriba.
Ejemplo técnico en inglés
Translate a delivery notice into German\n\nTranslate this customer notice into German: 'Order BN-42 will leave our warehouse on Thursday. Delivery normally takes three business days. We will send tracking details after dispatch.' Preserve BN-42, distinguish dispatch from delivery and use a polite professional tone. Return only the translation; do not turn the normal transit time into a guaranteed arrival date.One German customer notice preserving the identifier, event sequence and qualified transit time.The translation distinguishes warehouse dispatch from delivery and retains the word's sense of a normal estimate.