Source: https://ailoot.ai/models/es/meta-llama-llama-3-1-8b-instruct/ Canonical: https://ailoot.ai/models/es/meta-llama-llama-3-1-8b-instruct/ Language: es # Meta: Llama 3.1 8B Instruct [Markdown](https://ailoot.ai/models/es/meta-llama-llama-3-1-8b-instruct/index.md) · [JSON](https://ailoot.ai/models/es/meta-llama-llama-3-1-8b-instruct/facts.json) ## [Meta: Llama 3.1 8B Instruct](https://ailoot.ai/models/es/meta-llama-llama-3-1-8b-instruct/) Llama 3.1 8B Instruct es un modelo de texto pequeño de Meta ajustado mediante instrucciones para diálogo multilingüe, resúmenes y respuestas condicionadas por fuentes. Tiene un tamaño de 8B de parámetros, un contexto de 128k indicado por el fabricante, atención de consultas agrupadas y formatos documentados de uso de herramientas, y devuelve texto o código. - [**Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` `meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/es/meta-llama-llama-3-1-8b-instruct/#method-0) - [**Ailoot Ultra · Anthropic Messages** `POST /v1/messages` `meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/es/meta-llama-llama-3-1-8b-instruct/#method-1) Sobre el modelo Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado. Llama 3.1 8B Instruct es el modelo de texto de Meta de ocho mil millones de parámetros para diálogo multilingüe y asistentes basados en instrucciones. Acepta conversación escrita y material de origen y produce texto o código. Es la edición Instruct del tamaño 8B, distinta de su base preentrenada y de los modelos 70B y 405B de la familia. Arquitectura, contexto e idiomas El modelo utiliza una arquitectura Transformer autorregresiva con atención de consultas agrupadas. La familia ajustada mediante instrucciones utiliza ajuste fino supervisado y aprendizaje por refuerzo con retroalimentación humana para alinear sus respuestas conversacionales. El fabricante documenta un contexto de 128k para esta versión textual; no es la especificación de visión o contexto largo de un modelo posterior de Llama 4. Los ocho idiomas oficialmente admitidos son inglés, alemán, francés, italiano, portugués, hindi, español y tailandés. Los datos de preentrenamiento abarcan un conjunto más amplio, distinto de los idiomas explícitamente admitidos por la ficha. Indica el idioma final y cualquier nombre, identificador de variable o término que deba permanecer sin cambios en un resultado multilingüe. La familia se preentrena con aproximadamente quince billones de tokens, con un corte de datos en diciembre de 2023. El ajuste fino incluye material de instrucciones y más de veinticinco millones de ejemplos sintéticos. Esto describe el entrenamiento del modelo, no el acceso a una base de conocimiento privada o a información en directo cuando llega una nueva pregunta. Operaciones textuales definidas Una solicitud orientada al soporte puede aportar el mensaje del usuario y pasajes de referencia pertinentes y pedir después la respuesta y la condición que la respalda. Un registro compacto puede separar el problema, la información ya aportada y el siguiente paso requerido. Define los nombres de los campos y el tratamiento de valores ausentes cuando una aplicación necesite procesar ese resultado. Para resumir, proporciona el pasaje o intercambio real y especifica el público, la extensión y los hechos que se deben conservar. Pide las decisiones o preguntas sin resolver pertinentes para un tema, en lugar de un resumen sin dirección de material no relacionado. Una consulta posterior puede pedir una respuesta más corta o una explicación más clara de una condición conservando los mismos hechos de origen. Para editar, especifica el lector y el tono e identifica el significado que debe permanecer sin cambios. Una tarea práctica puede pedir un mensaje más claro seguido de una lista breve de modificaciones, o solo el mensaje revisado si se utilizará directamente. Una tarea de clasificación debe proporcionar las etiquetas permitidas y la distinción entre ellas, en lugar de confiar en que el nombre de una etiqueta defina la regla. Generación de código y ejemplos La salida documentada también incluye código. Proporciona el lenguaje, las entradas requeridas y el resultado esperado antes de solicitar una función. Para una explicación, aporta la función existente y una entrada concreta y pregunta qué pasos determinan su valor de retorno. Para una corrección, incluye el fallo observado y el comportamiento deseado, conservando la interfaz que debe mantener la compatibilidad. Una salida útil puede separar el código propuesto, sus supuestos y las entradas de ejemplo. La aplicación o el desarrollador realiza la compilación, ejecución o modificación real del repositorio. El código fuente escrito es un producto que se debe inspeccionar, no una operación externa completada simplemente porque el modelo lo haya devuelto. La familia también admite utilizar la salida generada para ejemplos sintéticos y destilación. Una solicitud textual definida puede producir variaciones bajo reglas aportadas y en un formato especificado. Conserva las reglas y las etiquetas para que cada ejemplo se pueda inspeccionar; los ejemplos generados no establecen de forma independiente la corrección de un conjunto de datos de entrenamiento. Roles de conversación y uso de herramientas La ficha del modelo demuestra una plantilla de chat con mensajes separados de sistema y de usuario. Define el papel del asistente y los requisitos de respuesta en el contexto de sistema y proporciona después la pregunta y el material de origen como tarea. Conserva los mensajes anteriores pertinentes al formular una consulta posterior o aportar nuevas pruebas que cambien el resultado. Llama 3.1 documenta múltiples formatos de uso de herramientas. La aplicación describe una función, el modelo genera la llamada y los argumentos propuestos, la aplicación la ejecuta y devuelve el resultado con el rol de herramienta. La siguiente respuesta puede utilizar después la información devuelta. Mantén conectados la operación de origen y el resultado a lo largo de la conversación. Por ejemplo, una consulta puede devolver el valor de referencia actual que falta en un pasaje, o una herramienta de cálculo puede proporcionar el resultado numérico necesario para la explicación. Un asistente con herramientas habilitadas necesita que el entorno proporcione esas operaciones. El comportamiento textual del modelo no crea por sí mismo una conexión con una fuente externa ni completa un efecto externo. Límites prácticos La etiqueta de contexto de 128k del fabricante debe mantenerse vinculada a la versión 8B Instruct exacta y a la configuración aplicable. El ejemplo de generación de 256 tokens es solo una opción de uso; las fuentes consultadas no indican una capacidad máxima estricta de respuesta por separado. El tamaño 8B no debe heredar el recuento de parámetros de otro miembro ni los controles de razonamiento identificados por nombre de otra familia. Este es un modelo exclusivamente textual. La entrada visual, la comprensión de audio y la generación de voz requieren componentes especificados por separado. Define el producto final antes de aportar el material: una respuesta concisa, un registro extraído, un pasaje revisado, una explicación o una propuesta de código. Conserva la información de origen necesaria para inspeccionar el significado y el formato de ese producto. Tarea práctica ### Tarea práctica Ejemplo técnico en inglés ``` Translate a delivery notice into German Translate this customer notice into German: 'Order BN-42 will leave our warehouse on Thursday. Delivery normally takes three business days. We will send tracking details after dispatch.' Preserve BN-42, distinguish dispatch from delivery and use a polite professional tone. Return only the translation; do not turn the normal transit time into a guaranteed arrival date. ``` #### Resultado esperado ``` One German customer notice preserving the identifier, event sequence and qualified transit time. ``` #### Comprobar el resultado ``` The translation distinguishes warehouse dispatch from delivery and retains the word's sense of a normal estimate. ``` **Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` `meta-llama/llama-3.1-8b-instruct` [`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/es/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=chat) Meta /`meta-llama/llama-3.1-8b-instruct` ### Primeros pasos Llama 3.1 8B Instruct es un modelo de texto pequeño de Meta ajustado mediante instrucciones para diálogo multilingüe, resúmenes y respuestas condicionadas por fuentes. Tiene un tamaño de 8B de parámetros, un contexto de 128k indicado por el fabricante, atención de consultas agrupadas y formatos documentados de uso de herramientas, y devuelve texto o código. Entradas aceptadas Texto Resultados Texto ### Disponible en Ailoot · entradas y métodos **Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` Tipos de entrada `text` Tipos de salida `text` Formato de salida json o SSE | Campo | Tipo | Requisito | Valores y límites | Predeterminado | | --- | --- | --- | --- | --- | | Campo`model` | Tipo`string` | RequisitoObligatorio | Valores y límites meta-llama/llama-3.1-8b-instruct | Predeterminado— | | Campo`messages` | Tipo`message[]` | RequisitoObligatorio | Valores y límites Número mínimo de elementos: 1 | Predeterminado— | | Campo`messages[].role` | Tipo`string` | RequisitoObligatorio | Valores y límites Ejemplos: system, user, assistant, tool, function Condiciones: Estos roles están representados explícitamente por los tipos de compatibilidad del código fuente; el conjunto exacto de roles depende del modelo. Depende del modelo | Predeterminado— | | Campo`messages[].content` | Tipo`string\|content_part[]\|null` | RequisitoOpcional | Valores y límites | Predeterminado— | | Campo`messages[].tool_calls` | Tipo`tool_call[]` | RequisitoOpcional | Valores y límites | Predeterminado— | | Campo`messages[].tool_call_id` | Tipo`string` | RequisitoOpcional | Valores y límites Se aplica cuando: role=tool; utiliza el ID real devuelto | Predeterminado— | | Campo`messages[].name` | Tipo`string` | RequisitoOpcional | Valores y límites | Predeterminado— | | Campo`messages[].reasoning_content` | Tipo`string` | RequisitoOpcional | Valores y límites Se aplica cuando: Devuelve en los turnos siguientes el razonamiento realmente recibido cuando este modelo lo utilice | Predeterminado— | | Campo`messages[].reasoning_details` | Tipo`object\|array` | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— | | Campo`max_tokens` | Tipo`integer` | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— | | Campo`max_completion_tokens` | Tipo`integer` | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— | | Campo`stream` | Tipo`boolean` | RequisitoOpcional | Valores y límites | Predeterminadofalse | | Campo`stream_options.include_usage` | Tipo`boolean` | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— | | Campo`temperature` | Tipo`number` | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— | | Campo`top_p` | Tipo`number` | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— | | Campo`stop` | Tipo`string\|string[]` | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— | | Campo`tools` | Tipo`function_tool[]` | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— | | Campo`tools[].type` | Tipo`string` | RequisitoOpcional | Valores y límites function Depende del modelo | Predeterminado— | | Campo`tools[].function.name` | Tipo`string` | RequisitoObligatorio | Valores y límites Se aplica cuando: herramienta de función proporcionada | Predeterminado— | | Campo`tools[].function.description` | Tipo`string` | RequisitoOpcional | Valores y límites | Predeterminado— | | Campo`tools[].function.parameters` | Tipo`JSON_schema` | RequisitoOpcional | Valores y límites | Predeterminado— | | Campo`tool_choice` | Tipo`string\|object` | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— | | Campo`parallel_tool_calls` | Tipo`boolean` | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— | | Campo`response_format` | Tipo`object` | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— | | Campo`reasoning_effort` | Tipo`string` | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— | | Campo`reasoning` | Tipo`object` | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— | | Campo`service_tier` | Tipo`string` | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— | | Campo`instructions` | Tipo`string` | RequisitoOpcional | Valores y límites Campo de compatibilidad | Predeterminado— | | Campo`functions` | Tipo`function[]` | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— | | Campo`function_call` | Tipo`string\|object` | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— | | Campo`prompt_cache_options` | Tipo`object` | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— | | Campo`modalities` | Tipo`string[]` | RequisitoOpcional | Valores y límites text | Predeterminado— | | Campo`provider` | Tipo`object` | RequisitoOpcional | Valores y límites Condiciones: provider.options se rechaza en esta ruta de texto Ultra | Predeterminado— | | Campo`cache_control.ttl` | Tipo`string` | RequisitoOpcional | Valores y límites Condiciones: 1h se rechaza en los campos reales de caché de instrucciones | Predeterminado— | Combinaciones de materiales de entrada **Texto** · Texto UTF8 `messages[].content` Parámetros del método y ciclo de vida | Parámetro | Contrato | | --- | --- | | Parámetro`content_type` | Contratoapplication/json | | Parámetro`required` | Contratomodel, messages | | Parámetro`material_types` | Contratotext | | Parámetro`messages` | Contratomatriz de mensajes con estructura role/content | | Parámetro`file_material` | Contratodocumento real en UTF-8 insertado como texto literal; no se deduce ningún ID de archivo | | Parámetro`optional_controls` | Contratostream, temperature, top\_p, stop, max\_tokens, max\_completion\_tokens, reasoning, response\_format, tools, tool\_choice | | Parámetro`control_scope` | Contratodepende del modelo; las herramientas de funciones del usuario difieren de las herramientas alojadas | | Parámetro`output_modalities` | Contratotext | | Parámetro`hosted_operations` | Contratofalse | | Parámetro`multimodal_input_binding` | Contratonull | Ciclo de vida: `synchronous_or_streamed` Envía el ID exacto del modelo junto con messages. La longitud del contexto no es un límite máximo de salida. Un archivo de texto puede aportar texto literal; las entradas de imagen, audio u objetos de archivo requieren una vinculación exacta. ### Planes Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado. Modo rápido Tarifa estándar Cuando se selecciona el modo rápido Modo flex Tarifa estándar Cuando se selecciona el modo flex Esfuerzo máximo de razonamiento Tarifa estándar Cuando el esfuerzo máximo de razonamiento utiliza el ajuste predeterminado (default) #### Tarifas de Ailoot #### Precios por configuración Relaciona cada cargo con las condiciones mostradas. Usa una tarifa para cada conjunto de configuraciones alternativas. | Configuración | Tabla de tarifas | Tokens de contexto, más de | Tokens de contexto, hasta inclusive | Cargo | | --- | --- | --- | --- | --- | | ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Tokens de contexto, más de— | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada **$0.00044** / 1K tokens Salida · Tokens de salida **$0.00044** / 1K tokens Entrada · Lectura de caché **$0.00044** / 1K tokens Entrada · Escritura en caché **—** / 1K tokens Entrada · Escritura en caché, 1 hora **—** / 1K tokens | | ConfiguraciónTramo 1 por longitud de la solicitud | Tabla de tarifas— | Tokens de contexto, más de0 | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada **$0.00044** / 1K tokens Salida · Tokens de salida **$0.00044** / 1K tokens Entrada · Lectura de caché **$0.00044** / 1K tokens Entrada · Escritura en caché **—** / 1K tokens Entrada · Escritura en caché, 1 hora **—** / 1K tokens | Ailoot reserva un importe estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. [Cómo funcionan la reserva y la liquidación →](https://ailoot.ai/docs/es/billing/reserve/) ### Solicitudes de ejemplo #### Ailoot Ultra · OpenAI Chat curlPython SDKFlujo en Python ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "meta-llama/llama-3.1-8b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}') Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path r=json.loads(Path("result.json").read_text()) for x in r.get("choices",[]): if x.get("message",{}).get("content"): print(x["message"]["content"]) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) result=client.chat.completions.create(model='meta-llama/llama-3.1-8b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(result.to_dict(mode="json")) ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='meta-llama/llama-3.1-8b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Recibir y guardar resultados #### Ailoot Ultra · OpenAI Chat json o SSE ##### Conserva todos los resultados completados Conserva todas las respuestas, archivos y partes de contenido completos recibidos. Conserva cada alternativa y su contenido, llamadas de herramientas y razonamiento. En SSE, ensambla los fragmentos incrementales por índice de alternativa/herramienta y conserva el motivo final de terminación y el uso. ##### Si es necesario revisar la respuesta original Conserva los ID de solicitud y respuesta y las cabeceras. No se proporciona una URL genérica para recuperar tareas de texto. Campos de respuesta | Campo | Tipo | | --- | --- | | Campo`choices[].index` | Tipointeger | | Campo`choices[].message.content` | Tipostring\|null | | Campo`choices[].message.tool_calls` | Tipotool\_call\[\] | | Campo`choices[].message.reasoning_content` | Tipostring | | Campo`choices[].message.reasoning_details` | Tipoobject\|array | | Campo`choices[].finish_reason` | Tipostring\|null | | Campo`usage` | Tipoobject | Errores y siguientes pasos | Respuesta | Condición | Siguiente paso | | --- | --- | --- | | Respuesta400 · `invalid_request_error` | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. | ### Alias #### Alias del modelo **Ailoot Ultra** [`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/es/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=chat) #### Alias de rutas de métodos Usa las rutas de método indicadas arriba. #### ID de modelo relacionados [`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/es/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=chat) **Ailoot Ultra · Anthropic Messages** `POST /v1/messages` `meta-llama/llama-3.1-8b-instruct` [`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/es/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=messages) Meta /`meta-llama/llama-3.1-8b-instruct` ### Primeros pasos Llama 3.1 8B Instruct es un modelo de texto pequeño de Meta ajustado mediante instrucciones para diálogo multilingüe, resúmenes y respuestas condicionadas por fuentes. Tiene un tamaño de 8B de parámetros, un contexto de 128k indicado por el fabricante, atención de consultas agrupadas y formatos documentados de uso de herramientas, y devuelve texto o código. Entradas aceptadas Texto Resultados json · sse ### Disponible en Ailoot · entradas y métodos **Ailoot Ultra · Anthropic Messages** `POST /v1/messages` Tipos de entrada `text` Tipos de salida `json`, `sse` Formato de salida JSON o SSE | Campo | Tipo | Requisito | Valores y límites | Predeterminado | | --- | --- | --- | --- | --- | | Campo`model` | Tipo`string` | RequisitoObligatorio | Valores y límites meta-llama/llama-3.1-8b-instruct | Predeterminado— | | Campo`messages` | Tipo`message[]` | RequisitoObligatorio | Valores y límites | Predeterminado— | | Campo`messages[].role` | Tipo`string` | RequisitoObligatorio | Valores y límites user, assistant | Predeterminado— | | Campo`messages[].content` | Tipo`string` | RequisitoObligatorio | Valores y límites | Predeterminado— | | Campo`max_tokens` | Tipo`integer` | RequisitoObligatorio | Valores y límites | Predeterminado— | | Campo`stream` | Tipo`boolean` | RequisitoOpcional | Valores y límites | Predeterminadofalse | Combinaciones de materiales de entrada **Texto** · Texto UTF-8 `cadena messages[].content` Parámetros del método y ciclo de vida | Parámetro | Contrato | | --- | --- | | Parámetro`content_type` | Contratoapplication/json | | Parámetro`required` | Contratomodel, messages, max\_tokens | | Parámetro`optional_controls` | Contratostream | | Parámetro`material_types` | Contratotext | | Parámetro`text_file_material` | ContratoLee el documento real en UTF-8 y coloca su texto en el campo input indicado o en la cadena de contenido del mensaje. | Ciclo de vida: `synchronous_or_streamed` ### Planes Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado. Modo rápido Tarifa estándar Cuando se selecciona el modo rápido Modo flex Tarifa estándar Cuando se selecciona el modo flex Esfuerzo máximo de razonamiento Tarifa estándar Cuando el esfuerzo máximo de razonamiento utiliza el ajuste predeterminado (default) #### Tarifas de Ailoot #### Precios por configuración Relaciona cada cargo con las condiciones mostradas. Usa una tarifa para cada conjunto de configuraciones alternativas. | Configuración | Tabla de tarifas | Tokens de contexto, más de | Tokens de contexto, hasta inclusive | Cargo | | --- | --- | --- | --- | --- | | ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Tokens de contexto, más de— | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada **$0.00044** / 1K tokens Salida · Tokens de salida **$0.00044** / 1K tokens Entrada · Lectura de caché **$0.00044** / 1K tokens Entrada · Escritura en caché **—** / 1K tokens Entrada · Escritura en caché, 1 hora **—** / 1K tokens | | ConfiguraciónTramo 1 por longitud de la solicitud | Tabla de tarifas— | Tokens de contexto, más de0 | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada **$0.00044** / 1K tokens Salida · Tokens de salida **$0.00044** / 1K tokens Entrada · Lectura de caché **$0.00044** / 1K tokens Entrada · Escritura en caché **—** / 1K tokens Entrada · Escritura en caché, 1 hora **—** / 1K tokens | Ailoot reserva un importe estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. [Cómo funcionan la reserva y la liquidación →](https://ailoot.ai/docs/es/billing/reserve/) ### Solicitudes de ejemplo #### Ailoot Ultra · Anthropic Messages Cuerpo JSON mínimo completocurl · usa tu documento en UTF-8Python · guarda el resultado completo ```json { "model": "meta-llama/llama-3.1-8b-instruct", "max_tokens": 128, "messages": [ { "role": "user", "content": "Summarize the incident report." } ], "stream": false } ``` ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8') PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \ -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) PY_RESULT ``` ```python import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text from urllib.request import Request, urlopen from urllib.error import HTTPError api_key = os.environ['AILOOT_API_KEY'] if not api_key.strip(): raise SystemExit('Set AILOOT_API_KEY before making a request') headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'} headers['x-api-key'] = api_key request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST') try: with urlopen(request, timeout=120) as response: raw = response.read() Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8') except HTTPError as error: Path('result.json').write_bytes(error.read()) Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8') raise Path('result.json').write_bytes(raw) import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) ``` ### Recibir y guardar resultados #### Ailoot Ultra · Anthropic Messages JSON o SSE ##### Conserva todos los resultados completados Conserva todas las respuestas, archivos y partes de contenido completos recibidos. Conserva todos los bloques de contenido, las firmas de razonamiento y los ID reales de uso de herramientas. Ensambla todos los fragmentos incrementales de los bloques SSE; el primer bloque de texto no constituye la salida completa. ##### Si es necesario revisar la respuesta original Conserva los ID de solicitud y respuesta y las cabeceras. No se proporciona una URL genérica para recuperar tareas de texto. Campos de respuesta | Campo | Tipo | | --- | --- | | Campo`id` | Tipostring | | Campo`model` | Tipostring | | Campo`content[]` | Tipotext\|thinking\|tool\_use\|other content block | | Campo`stop_reason` | Tipostring\|null | | Campo`usage` | Tipoobject | Errores y siguientes pasos | Respuesta | Condición | Siguiente paso | | --- | --- | --- | | Respuesta400 · `invalid_request_error` | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. | ### Alias #### Alias del modelo **Ailoot Ultra** [`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/es/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=messages) #### Alias de rutas de métodos Usa las rutas de método indicadas arriba. #### ID de modelo relacionados [`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/es/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=messages) FAQ · Meta: Llama 3.1 8B Instruct ¿Qué entradas y resultados están disponibles? `POST /v1/chat/completions` · `meta-llama/llama-3.1-8b-instruct`: `text` → `text` `POST /v1/messages` · `meta-llama/llama-3.1-8b-instruct`: `text` → `json`, `sse` ¿Qué campos utiliza la solicitud? `POST /v1/chat/completions` · `meta-llama/llama-3.1-8b-instruct`: `model`, `messages`, `stream`, `modalities`, `provider` `POST /v1/messages` · `meta-llama/llama-3.1-8b-instruct`: `model`, `messages`, `max_tokens`, `stream` ¿Qué límites se aplican? `POST /v1/chat/completions` · `meta-llama/llama-3.1-8b-instruct`: `messages.min_items`: `1` Conecta Ailoot a Claude Code, OpenCode, Hermes o tu aplicación. ## La empresa y su cartera de proyectos La empresa y su cartera de proyectos: millones de clientes; ventas por miles de millones al mes. ## Compra tokens con descuento. Ahorro por suscripción para trabajo habitual. Códigos promocionales: hasta el 50% al comprar tokens. Suscripción Elige un plan con descuento para tus peticiones habituales. Código de hasta el 50% Introduce el código al comprar. El precio se recalcula según la promoción vigente. Gasto en el historial Modelo, tokens e importe quedan guardados por cada petición. [Elegir suscripción](https://ailoot.ai/docs/es/billing/subscriptions/) · [Consultar precios de modelos](https://ailoot.ai/models/es/) ## Conecta la API al producto que vendes. SaaS, aplicaciones y bots bajo la oferta y el acuerdo de licencia Ailoot. Solicita una licencia de reventa para redistribuir el acceso. Aplicación comercial Integra generación de texto, imágenes, vídeo y sonido en funciones de pago de tu servicio. Licencia para revendedores Envía descripción del proyecto y esquema de acceso. Solicita condiciones escritas de uso y reventa. Documentos en la web La oferta, el acuerdo de licencia y la política de datos están disponibles antes de conectar. [Solicitar licencia de reventa](mailto:support@ailoot.ai) · [Oferta y acuerdo de licencia](https://ailoot.ai/legal/offer?lang=es) ## Ailoot · La empresa y su cartera de proyectos Ailoot se apoya en la experiencia operativa acumulada, una amplia base de clientes, un servicio estable y el seguimiento continuo de KPI. La empresa y su cartera de proyectos: millones de clientes; ventas por miles de millones al mes. Ailoot aplica esa experiencia operativa al acceso por API a funciones de IA en productos de clientes, agentes, aplicaciones y automatizaciones.