Qwen3-8B es un modelo de lenguaje denso de Qwen3 que combina razonamiento y generación de texto habitual. Entre sus puntos fuertes anunciados figuran las matemáticas, la resolución de problemas lógicos, el código, la escritura creativa, el diálogo por roles y el seguimiento de instrucciones en varios turnos. La familia admite más de 100 idiomas y dialectos. Una aplicación práctica es un asistente multilingüe de atención al cliente que convierte el mensaje de un cliente y un fragmento de política suministrado en una respuesta útil, conservando los nombres de productos y el tono solicitado.
Esta versión tiene 8.2 mil millones de parámetros, de los cuales 6.95 mil millones corresponden a componentes distintos de los embeddings, y 36 capas. Utiliza atención de consultas agrupadas con 32 cabezas de consulta y ocho cabezas de clave/valor. Es un modelo denso diferenciado, no el modelo de mezcla de expertos de 235B funcionando con menos expertos. La entrada de trabajo y el resultado generado son texto: una traducción, explicación, documento revisado, plan o programa. Elige una tarea clara antes de añadir contexto. Para una respuesta de atención al cliente, proporciona el mensaje del cliente, la política aplicable, la terminología aprobada y la acción que debe realizar el lector; pide una respuesta y una lista separada de los hechos que siguen faltando.
El flujo inicial del fabricante utiliza una secuencia de mensajes de chat y una plantilla de chat explícita. Para asistencia con código, incluye la función relevante, una entrada que revele el problema, la salida real y el resultado esperado. Pide una función corregida con ejemplos y una explicación separada del cambio de comportamiento. Para traducir, identifica los idiomas de origen y destino, los lectores y los términos que deben conservarse. Estas entradas facilitan comparar el texto resultante con el requisito original. La integración publicada requiere un entorno de ejecución compatible con Qwen3; la ficha advierte que las versiones de Transformers anteriores a 4.51.0 no reconocen la arquitectura necesaria.
El mismo modelo admite modos con y sin razonamiento. El razonamiento está activado de forma predeterminada en la plantilla proporcionada. La desactivación estricta elimina la sección de razonamiento; si permanece habilitado, /think y /no_think pueden cambiar la elección entre turnos. Prevalece la instrucción más reciente de este tipo y estos interruptores incluidos en la instrucción no pueden anular una desactivación estricta. En un flujo de producto, utiliza el modo directo para una reescritura breve de un mensaje aprobado y selecciona razonamiento para una discrepancia que necesite explicación. Separa la respuesta final del razonamiento intermedio y conserva solo la respuesta final en el historial posterior de la conversación. Con el razonamiento habilitado, incluso una petición flexible de no razonar conserva un bloque de razonamiento, cuyo contenido puede estar vacío. La desactivación estricta elimina ese bloque.
El fabricante describe llamadas de herramientas y recomienda Qwen-Agent para gestionar las plantillas y el análisis de las llamadas. Una aplicación puede proporcionar definiciones de herramientas, ejecutar las llamadas solicitadas y devolver sus resultados. Para un asistente de atención al cliente, una consulta de pedidos acotada y de solo lectura podría aportar un estado de envío confirmado antes de que el modelo redacte la respuesta. Especifica los campos permitidos de la consulta y cómo debe comunicarse la ausencia de un registro. El artefacto final útil es una respuesta fundamentada en la información devuelta, no una afirmación sin respaldo de que una operación externa ha tenido éxito. La guía de Qwen3 también describe llamadas de herramientas en paralelo y en varios pasos, con argumentos representados como objetos y resultados incorporados de nuevo a la conversación.
La ficha del modelo indica 32,768 tokens de contexto nativo y 131,072 con la ampliación YaRN. Por tanto, el comportamiento con contexto largo depende de la configuración real. YaRN estático puede afectar a las solicitudes más cortas, por lo que la ficha aconseja activarlo cuando haga falta un contexto largo. La entrada, el historial de conversación y la salida generada consumen un presupuesto de contexto compartido. Identifica las secciones largas de las fuentes, retira los duplicados irrelevantes y deja espacio para la respuesta solicitada. El ejemplo publicado de generación y las recomendaciones de salida son orientaciones de configuración, no un máximo estricto e independiente de salida. La documentación de Qwen3 habla de mensajes del asistente de 38,912 tokens en modo de razonamiento y de 16,384 sin razonamiento al explicar las longitudes de entrenamiento, y recomienda evaluar la calidad de las generaciones más largas. Estas cifras son distintas de la ventana de contexto total y no son un tope estricto propio de un endpoint. La ficha también explica su asignación posicional predeterminada de 40,960 tokens: 8,192 para solicitudes típicas más 32,768 para la salida. Es una orientación de configuración del fabricante, independiente del contexto de entrenamiento nativo y de cualquier límite del endpoint.
Para el modo de razonamiento, los valores de muestreo recomendados son temperature 0.6, top-p 0.95, top-k 20 y min-p 0; sin razonamiento son 0.7, 0.8, 20 y 0. El fabricante advierte que el razonamiento con decodificación voraz puede producir texto repetido. Las penalizaciones de presencia más altas pueden reducir la repetición y a veces provocar mezcla de idiomas. Define explícitamente el formato final, por ejemplo, una respuesta seguida de un objeto JSON con los campos sin resolver, y valida ese objeto antes de que una aplicación lo utilice. Comprueba el código propuesto con los casos suministrados y revisa las traducciones para confirmar que conservan la terminología.
", "aboutText": "Qwen3-8B es un modelo de lenguaje denso de Qwen3 que combina razonamiento y generación de texto habitual. Entre sus puntos fuertes anunciados figuran las matemáticas, la resolución de problemas lógicos, el código, la escritura creativa, el diálogo por roles y el seguimiento de instrucciones en varios turnos. La familia admite más de 100 idiomas y dialectos. Una aplicación práctica es un asistente multilingüe de atención al cliente que convierte el mensaje de un cliente y un fragmento de política suministrado en una respuesta útil, conservando los nombres de productos y el tono solicitado.\n\nEsta versión tiene 8.2 mil millones de parámetros, de los cuales 6.95 mil millones corresponden a componentes distintos de los embeddings, y 36 capas. Utiliza atención de consultas agrupadas con 32 cabezas de consulta y ocho cabezas de clave/valor. Es un modelo denso diferenciado, no el modelo de mezcla de expertos de 235B funcionando con menos expertos. La entrada de trabajo y el resultado generado son texto: una traducción, explicación, documento revisado, plan o programa. Elige una tarea clara antes de añadir contexto. Para una respuesta de atención al cliente, proporciona el mensaje del cliente, la política aplicable, la terminología aprobada y la acción que debe realizar el lector; pide una respuesta y una lista separada de los hechos que siguen faltando.\n\nEl flujo inicial del fabricante utiliza una secuencia de mensajes de chat y una plantilla de chat explícita. Para asistencia con código, incluye la función relevante, una entrada que revele el problema, la salida real y el resultado esperado. Pide una función corregida con ejemplos y una explicación separada del cambio de comportamiento. Para traducir, identifica los idiomas de origen y destino, los lectores y los términos que deben conservarse. Estas entradas facilitan comparar el texto resultante con el requisito original. La integración publicada requiere un entorno de ejecución compatible con Qwen3; la ficha advierte que las versiones de Transformers anteriores a 4.51.0 no reconocen la arquitectura necesaria.\n\nEl mismo modelo admite modos con y sin razonamiento. El razonamiento está activado de forma predeterminada en la plantilla proporcionada. La desactivación estricta elimina la sección de razonamiento; si permanece habilitado, /think y /no_think pueden cambiar la elección entre turnos. Prevalece la instrucción más reciente de este tipo y estos interruptores incluidos en la instrucción no pueden anular una desactivación estricta. En un flujo de producto, utiliza el modo directo para una reescritura breve de un mensaje aprobado y selecciona razonamiento para una discrepancia que necesite explicación. Separa la respuesta final del razonamiento intermedio y conserva solo la respuesta final en el historial posterior de la conversación. Con el razonamiento habilitado, incluso una petición flexible de no razonar conserva un bloque de razonamiento, cuyo contenido puede estar vacío. La desactivación estricta elimina ese bloque.\n\nEl fabricante describe llamadas de herramientas y recomienda Qwen-Agent para gestionar las plantillas y el análisis de las llamadas. Una aplicación puede proporcionar definiciones de herramientas, ejecutar las llamadas solicitadas y devolver sus resultados. Para un asistente de atención al cliente, una consulta de pedidos acotada y de solo lectura podría aportar un estado de envío confirmado antes de que el modelo redacte la respuesta. Especifica los campos permitidos de la consulta y cómo debe comunicarse la ausencia de un registro. El artefacto final útil es una respuesta fundamentada en la información devuelta, no una afirmación sin respaldo de que una operación externa ha tenido éxito. La guía de Qwen3 también describe llamadas de herramientas en paralelo y en varios pasos, con argumentos representados como objetos y resultados incorporados de nuevo a la conversación.\n\nLa ficha del modelo indica 32,768 tokens de contexto nativo y 131,072 con la ampliación YaRN. Por tanto, el comportamiento con contexto largo depende de la configuración real. YaRN estático puede afectar a las solicitudes más cortas, por lo que la ficha aconseja activarlo cuando haga falta un contexto largo. La entrada, el historial de conversación y la salida generada consumen un presupuesto de contexto compartido. Identifica las secciones largas de las fuentes, retira los duplicados irrelevantes y deja espacio para la respuesta solicitada. El ejemplo publicado de generación y las recomendaciones de salida son orientaciones de configuración, no un máximo estricto e independiente de salida. La documentación de Qwen3 habla de mensajes del asistente de 38,912 tokens en modo de razonamiento y de 16,384 sin razonamiento al explicar las longitudes de entrenamiento, y recomienda evaluar la calidad de las generaciones más largas. Estas cifras son distintas de la ventana de contexto total y no son un tope estricto propio de un endpoint. La ficha también explica su asignación posicional predeterminada de 40,960 tokens: 8,192 para solicitudes típicas más 32,768 para la salida. Es una orientación de configuración del fabricante, independiente del contexto de entrenamiento nativo y de cualquier límite del endpoint.\n\nPara el modo de razonamiento, los valores de muestreo recomendados son temperature 0.6, top-p 0.95, top-k 20 y min-p 0; sin razonamiento son 0.7, 0.8, 20 y 0. El fabricante advierte que el razonamiento con decodificación voraz puede producir texto repetido. Las penalizaciones de presencia más altas pueden reducir la repetición y a veces provocar mezcla de idiomas. Define explícitamente el formato final, por ejemplo, una respuesta seguida de un objeto JSON con los campos sin resolver, y valida ese objeto antes de que una aplicación lo utilice. Comprueba el código propuesto con los casos suministrados y revisa las traducciones para confirmar que conservan la terminología.", "editorialOverlay": { "copy_fields": { "practical_html": "Ejemplo técnico en inglés
A bilingual reply grounded in a return policy\n\nDraft a German reply to this customer: 'Can I return my unused Aero Cup after ten days?' Policy P1: unused products can be returned within 14 days; the customer must provide the order reference. Keep Aero Cup unchanged and ask for the missing reference. Follow the reply with a short English note naming the facts used.A polite German customer reply and a brief English source-fact note.The reply preserves the unused condition and 14-day window, asks for the reference and does not invent refund timing.qwen3-8bQwen3-8B ofrece generación de texto multilingüe, programación y dos modos de respuesta en un modelo denso de 8.2 mil millones de parámetros. Utiliza respuestas directas para el diálogo cotidiano y el modo de pensamiento para problemas que necesitan un análisis más detallado.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Qwen3-8B es un modelo de lenguaje denso de Qwen3 que combina razonamiento y generación de texto habitual. Entre sus puntos fuertes anunciados figuran las matemáticas, la resolución de problemas lógicos, el código, la escritura creativa, el diálogo por roles y el seguimiento de instrucciones en varios turnos. La familia admite más de 100 idiomas y dialectos. Una aplicación práctica es un asistente multilingüe de atención al cliente que convierte el mensaje de un cliente y un fragmento de política suministrado en una respuesta útil, conservando los nombres de productos y el tono solicitado.
Esta versión tiene 8.2 mil millones de parámetros, de los cuales 6.95 mil millones corresponden a componentes distintos de los embeddings, y 36 capas. Utiliza atención de consultas agrupadas con 32 cabezas de consulta y ocho cabezas de clave/valor. Es un modelo denso diferenciado, no el modelo de mezcla de expertos de 235B funcionando con menos expertos. La entrada de trabajo y el resultado generado son texto: una traducción, explicación, documento revisado, plan o programa. Elige una tarea clara antes de añadir contexto. Para una respuesta de atención al cliente, proporciona el mensaje del cliente, la política aplicable, la terminología aprobada y la acción que debe realizar el lector; pide una respuesta y una lista separada de los hechos que siguen faltando.
El flujo inicial del fabricante utiliza una secuencia de mensajes de chat y una plantilla de chat explícita. Para asistencia con código, incluye la función relevante, una entrada que revele el problema, la salida real y el resultado esperado. Pide una función corregida con ejemplos y una explicación separada del cambio de comportamiento. Para traducir, identifica los idiomas de origen y destino, los lectores y los términos que deben conservarse. Estas entradas facilitan comparar el texto resultante con el requisito original. La integración publicada requiere un entorno de ejecución compatible con Qwen3; la ficha advierte que las versiones de Transformers anteriores a 4.51.0 no reconocen la arquitectura necesaria.
El mismo modelo admite modos con y sin razonamiento. El razonamiento está activado de forma predeterminada en la plantilla proporcionada. La desactivación estricta elimina la sección de razonamiento; si permanece habilitado, /think y /no_think pueden cambiar la elección entre turnos. Prevalece la instrucción más reciente de este tipo y estos interruptores incluidos en la instrucción no pueden anular una desactivación estricta. En un flujo de producto, utiliza el modo directo para una reescritura breve de un mensaje aprobado y selecciona razonamiento para una discrepancia que necesite explicación. Separa la respuesta final del razonamiento intermedio y conserva solo la respuesta final en el historial posterior de la conversación. Con el razonamiento habilitado, incluso una petición flexible de no razonar conserva un bloque de razonamiento, cuyo contenido puede estar vacío. La desactivación estricta elimina ese bloque.
El fabricante describe llamadas de herramientas y recomienda Qwen-Agent para gestionar las plantillas y el análisis de las llamadas. Una aplicación puede proporcionar definiciones de herramientas, ejecutar las llamadas solicitadas y devolver sus resultados. Para un asistente de atención al cliente, una consulta de pedidos acotada y de solo lectura podría aportar un estado de envío confirmado antes de que el modelo redacte la respuesta. Especifica los campos permitidos de la consulta y cómo debe comunicarse la ausencia de un registro. El artefacto final útil es una respuesta fundamentada en la información devuelta, no una afirmación sin respaldo de que una operación externa ha tenido éxito. La guía de Qwen3 también describe llamadas de herramientas en paralelo y en varios pasos, con argumentos representados como objetos y resultados incorporados de nuevo a la conversación.
La ficha del modelo indica 32,768 tokens de contexto nativo y 131,072 con la ampliación YaRN. Por tanto, el comportamiento con contexto largo depende de la configuración real. YaRN estático puede afectar a las solicitudes más cortas, por lo que la ficha aconseja activarlo cuando haga falta un contexto largo. La entrada, el historial de conversación y la salida generada consumen un presupuesto de contexto compartido. Identifica las secciones largas de las fuentes, retira los duplicados irrelevantes y deja espacio para la respuesta solicitada. El ejemplo publicado de generación y las recomendaciones de salida son orientaciones de configuración, no un máximo estricto e independiente de salida. La documentación de Qwen3 habla de mensajes del asistente de 38,912 tokens en modo de razonamiento y de 16,384 sin razonamiento al explicar las longitudes de entrenamiento, y recomienda evaluar la calidad de las generaciones más largas. Estas cifras son distintas de la ventana de contexto total y no son un tope estricto propio de un endpoint. La ficha también explica su asignación posicional predeterminada de 40,960 tokens: 8,192 para solicitudes típicas más 32,768 para la salida. Es una orientación de configuración del fabricante, independiente del contexto de entrenamiento nativo y de cualquier límite del endpoint.
Para el modo de razonamiento, los valores de muestreo recomendados son temperature 0.6, top-p 0.95, top-k 20 y min-p 0; sin razonamiento son 0.7, 0.8, 20 y 0. El fabricante advierte que el razonamiento con decodificación voraz puede producir texto repetido. Las penalizaciones de presencia más altas pueden reducir la repetición y a veces provocar mezcla de idiomas. Define explícitamente el formato final, por ejemplo, una respuesta seguida de un objeto JSON con los campos sin resolver, y valida ese objeto antes de que una aplicación lo utilice. Comprueba el código propuesto con los casos suministrados y revisa las traducciones para confirmar que conservan la terminología.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites qwen3-8b | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites Número mínimo de elementos: 1 | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites Ejemplos: system, user, assistant, tool, function Condiciones: Estos roles están representados explícitamente por los tipos de compatibilidad del código fuente; el conjunto exacto de roles depende del modelo. Depende del modelo | Predeterminado— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_call_id | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: role=tool; utiliza el ID real devuelto | Predeterminado— |
Campomessages[].name | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].reasoning_content | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: Devuelve en los turnos siguientes el razonamiento realmente recibido cuando este modelo lo utilice | Predeterminado— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campomax_completion_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotemperature | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotop_p | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campostop | Tipostring|string[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools | Tipofunction_tool[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools[].type | Tipostring | RequisitoOpcional | Valores y límites function Depende del modelo | Predeterminado— |
Campotools[].function.name | Tipostring | RequisitoObligatorio | Valores y límites Se aplica cuando: herramienta de función proporcionada | Predeterminado— |
Campotools[].function.description | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotool_choice | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoparallel_tool_calls | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporesponse_format | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning_effort | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camposervice_tier | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoinstructions | Tipostring | RequisitoOpcional | Valores y límites Campo de compatibilidad | Predeterminado— |
Campofunctions | Tipofunction[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campofunction_call | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoprompt_cache_options | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomodalities | Tipostring[] | RequisitoOpcional | Valores y límites text | Predeterminado— |
Campoprovider | Tipoobject | RequisitoOpcional | Valores y límites Condiciones: provider.options se rechaza en esta ruta de texto Ultra | Predeterminado— |
Campocache_control.ttl | Tipostring | RequisitoOpcional | Valores y límites Condiciones: 1h se rechaza en los campos reales de caché de instrucciones | Predeterminado— |
Texto · Texto UTF8
messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages |
Parámetromaterial_types | Contratotext |
Parámetromessages | Contratomatriz de mensajes con estructura role/content |
Parámetrofile_material | Contratodocumento real en UTF-8 insertado como texto literal; no se deduce ningún ID de archivo |
Parámetrooptional_controls | Contratostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parámetrocontrol_scope | Contratodepende del modelo; las herramientas de funciones del usuario difieren de las herramientas alojadas |
Parámetrooutput_modalities | Contratotext |
Parámetrohosted_operations | Contratofalse |
Parámetromultimodal_input_binding | Contratonull |
Ciclo de vida: synchronous_or_streamed
Envía el ID exacto del modelo junto con messages.
La longitud del contexto no es un límite máximo de salida.
Un archivo de texto puede aportar texto literal; las entradas de imagen, audio u objetos de archivo requieren una vinculación exacta.
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
| Configuración | Tabla de tarifas | Cargo |
|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Cargo Entrada · Tokens de entrada $0.000144 / 1K tokens Salida · Tokens de salida $0.00144 / 1K tokens Entrada · Lectura de caché $0 / 1K tokens Entrada · Escritura en caché $0 / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un monto estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen3-8b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen3-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen3-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva cada alternativa y su contenido, llamadas de herramientas y razonamiento. En SSE, ensambla los fragmentos incrementales por índice de alternativa/herramienta y conserva el motivo final de terminación y el uso.
Conserva los ID de solicitud y respuesta y los encabezados. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra qwen3-8b
Usa las rutas de método indicadas arriba.
qwen3-8bQwen3-8B ofrece generación de texto multilingüe, programación y dos modos de respuesta en un modelo denso de 8.2 mil millones de parámetros. Utiliza respuestas directas para el diálogo cotidiano y el modo de pensamiento para problemas que necesitan un análisis más detallado.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Qwen3-8B es un modelo de lenguaje denso de Qwen3 que combina razonamiento y generación de texto habitual. Entre sus puntos fuertes anunciados figuran las matemáticas, la resolución de problemas lógicos, el código, la escritura creativa, el diálogo por roles y el seguimiento de instrucciones en varios turnos. La familia admite más de 100 idiomas y dialectos. Una aplicación práctica es un asistente multilingüe de atención al cliente que convierte el mensaje de un cliente y un fragmento de política suministrado en una respuesta útil, conservando los nombres de productos y el tono solicitado.
Esta versión tiene 8.2 mil millones de parámetros, de los cuales 6.95 mil millones corresponden a componentes distintos de los embeddings, y 36 capas. Utiliza atención de consultas agrupadas con 32 cabezas de consulta y ocho cabezas de clave/valor. Es un modelo denso diferenciado, no el modelo de mezcla de expertos de 235B funcionando con menos expertos. La entrada de trabajo y el resultado generado son texto: una traducción, explicación, documento revisado, plan o programa. Elige una tarea clara antes de añadir contexto. Para una respuesta de atención al cliente, proporciona el mensaje del cliente, la política aplicable, la terminología aprobada y la acción que debe realizar el lector; pide una respuesta y una lista separada de los hechos que siguen faltando.
El flujo inicial del fabricante utiliza una secuencia de mensajes de chat y una plantilla de chat explícita. Para asistencia con código, incluye la función relevante, una entrada que revele el problema, la salida real y el resultado esperado. Pide una función corregida con ejemplos y una explicación separada del cambio de comportamiento. Para traducir, identifica los idiomas de origen y destino, los lectores y los términos que deben conservarse. Estas entradas facilitan comparar el texto resultante con el requisito original. La integración publicada requiere un entorno de ejecución compatible con Qwen3; la ficha advierte que las versiones de Transformers anteriores a 4.51.0 no reconocen la arquitectura necesaria.
El mismo modelo admite modos con y sin razonamiento. El razonamiento está activado de forma predeterminada en la plantilla proporcionada. La desactivación estricta elimina la sección de razonamiento; si permanece habilitado, /think y /no_think pueden cambiar la elección entre turnos. Prevalece la instrucción más reciente de este tipo y estos interruptores incluidos en la instrucción no pueden anular una desactivación estricta. En un flujo de producto, utiliza el modo directo para una reescritura breve de un mensaje aprobado y selecciona razonamiento para una discrepancia que necesite explicación. Separa la respuesta final del razonamiento intermedio y conserva solo la respuesta final en el historial posterior de la conversación. Con el razonamiento habilitado, incluso una petición flexible de no razonar conserva un bloque de razonamiento, cuyo contenido puede estar vacío. La desactivación estricta elimina ese bloque.
El fabricante describe llamadas de herramientas y recomienda Qwen-Agent para gestionar las plantillas y el análisis de las llamadas. Una aplicación puede proporcionar definiciones de herramientas, ejecutar las llamadas solicitadas y devolver sus resultados. Para un asistente de atención al cliente, una consulta de pedidos acotada y de solo lectura podría aportar un estado de envío confirmado antes de que el modelo redacte la respuesta. Especifica los campos permitidos de la consulta y cómo debe comunicarse la ausencia de un registro. El artefacto final útil es una respuesta fundamentada en la información devuelta, no una afirmación sin respaldo de que una operación externa ha tenido éxito. La guía de Qwen3 también describe llamadas de herramientas en paralelo y en varios pasos, con argumentos representados como objetos y resultados incorporados de nuevo a la conversación.
La ficha del modelo indica 32,768 tokens de contexto nativo y 131,072 con la ampliación YaRN. Por tanto, el comportamiento con contexto largo depende de la configuración real. YaRN estático puede afectar a las solicitudes más cortas, por lo que la ficha aconseja activarlo cuando haga falta un contexto largo. La entrada, el historial de conversación y la salida generada consumen un presupuesto de contexto compartido. Identifica las secciones largas de las fuentes, retira los duplicados irrelevantes y deja espacio para la respuesta solicitada. El ejemplo publicado de generación y las recomendaciones de salida son orientaciones de configuración, no un máximo estricto e independiente de salida. La documentación de Qwen3 habla de mensajes del asistente de 38,912 tokens en modo de razonamiento y de 16,384 sin razonamiento al explicar las longitudes de entrenamiento, y recomienda evaluar la calidad de las generaciones más largas. Estas cifras son distintas de la ventana de contexto total y no son un tope estricto propio de un endpoint. La ficha también explica su asignación posicional predeterminada de 40,960 tokens: 8,192 para solicitudes típicas más 32,768 para la salida. Es una orientación de configuración del fabricante, independiente del contexto de entrenamiento nativo y de cualquier límite del endpoint.
Para el modo de razonamiento, los valores de muestreo recomendados son temperature 0.6, top-p 0.95, top-k 20 y min-p 0; sin razonamiento son 0.7, 0.8, 20 y 0. El fabricante advierte que el razonamiento con decodificación voraz puede producir texto repetido. Las penalizaciones de presencia más altas pueden reducir la repetición y a veces provocar mezcla de idiomas. Define explícitamente el formato final, por ejemplo, una respuesta seguida de un objeto JSON con los campos sin resolver, y valida ese objeto antes de que una aplicación lo utilice. Comprueba el código propuesto con los casos suministrados y revisa las traducciones para confirmar que conservan la terminología.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites qwen3-8b | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites user, assistant | Predeterminado— |
Campomessages[].content | Tipostring | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Texto · Texto UTF-8
cadena messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages, max_tokens |
Parámetrooptional_controls | Contratostream |
Parámetromaterial_types | Contratotext |
Parámetrotext_file_material | ContratoLee el documento real en UTF-8 y coloca su texto en el campo input indicado o en la cadena de contenido del mensaje. |
Ciclo de vida: synchronous_or_streamed
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
| Configuración | Tabla de tarifas | Cargo |
|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Cargo Entrada · Tokens de entrada $0.000144 / 1K tokens Salida · Tokens de salida $0.00144 / 1K tokens Entrada · Lectura de caché $0 / 1K tokens Entrada · Escritura en caché $0 / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un monto estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
{\n "model": "qwen3-8b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen3-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen3-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva todos los bloques de contenido, las firmas de razonamiento y los ID reales de uso de herramientas. Ensambla todos los fragmentos incrementales de los bloques SSE; el primer bloque de texto no constituye la salida completa.
Conserva los ID de solicitud y respuesta y los encabezados. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra qwen3-8b
Usa las rutas de método indicadas arriba.
Ejemplo técnico en inglés
A bilingual reply grounded in a return policy\n\nDraft a German reply to this customer: 'Can I return my unused Aero Cup after ten days?' Policy P1: unused products can be returned within 14 days; the customer must provide the order reference. Keep Aero Cup unchanged and ask for the missing reference. Follow the reply with a short English note naming the facts used.A polite German customer reply and a brief English source-fact note.The reply preserves the unused condition and 14-day window, asks for the reference and does not invent refund timing.