Qwen3-32B-FP8 es el punto de control FP8 oficial del modelo de lenguaje denso Qwen3-32B. El fabricante describe matemáticas, razonamiento lógico, generación de código, escritura creativa, diálogo basado en papeles y seguimiento de instrucciones en varios turnos. La familia admite más de 100 idiomas y dialectos. La entrada y la salida son texto y esta misma versión ofrece comportamiento en modo Thinking y en modo de respuesta directa (Non-Thinking).
El modelo tiene 32,800 millones de parámetros, incluidos 31,200 millones fuera de las capas de embeddings, y 64 capas. Su atención de consultas agrupadas contiene 64 cabezas de consulta y ocho de clave/valor. Es una arquitectura densa, distinta de las versiones de mezcla de expertos de Qwen3 con parámetros totales y activados. FP8 también forma parte de la identidad exacta de la edición. Para un asistente de desarrollo, aporta una función, una especificación y varias entradas y solicita después una explicación del comportamiento actual y una implementación revisada que conserve la interfaz acordada. Para edición, proporciona la fuente real, el lector previsto y la terminología en lugar de depender de un contexto no especificado.
El inicio rápido del fabricante utiliza la plantilla de chat designada. Separa la tarea de los materiales proporcionados y especifica la forma final. Una solicitud útil de análisis puede comparar dos métodos de validación de datos con las mismas reglas de campos, identificar los casos que acepta cada uno y devolver una función de validación propuesta. Incluye reglas de valores ausentes, datos representativos y los mensajes de error requeridos. Para contenido multilingüe, proporciona un glosario y solicita una traducción junto con una lista de términos que necesitan revisión. Esa preparación permite contrastar el resultado generado con una entrada concreta. La integración publicada espera un entorno de ejecución que reconozca Qwen3; la ficha advierte que versiones de Transformers inferiores a 4.51.0 no reconocen la arquitectura requerida.
La nota FP8 describe cuantización de granularidad fina con tamaño de bloque 128. La configuración del punto de control también identifica su configuración de cuantización FP8. El fabricante enumera Transformers, SGLang y vLLM para inferencia, pero señala un problema de inferencia distribuida con FP8 de granularidad fina en Transformers y advierte que el uso con varios dispositivos puede necesitar CUDA_LAUNCH_BLOCKING=1. Conserva esta advertencia de compatibilidad por separado de las capacidades textuales. La identidad cuantizada no establece por sí sola una latencia medida, ahorro de hardware o equivalencia de respuestas con el punto de control original.
El modo Thinking está activado de forma predeterminada en la plantilla proporcionada. Un ajuste explícito sin pensamiento suprime la sección de razonamiento. Cuando el pensamiento sigue activado, /think y /no_think son controles textuales para turnos sucesivos, aplicándose la instrucción más reciente; no pueden anular una desactivación de configuración. Solicita razonamiento cuando el modelo deba examinar condiciones contradictorias y utiliza después una continuación directa para presentar el resultado aceptado de forma concisa. Distingue la respuesta final y utiliza esa respuesta, no el razonamiento previo, como historial para turnos posteriores. Con pensamiento activado, incluso una petición textual sin pensamiento mantiene un bloque de razonamiento, cuyo contenido puede estar vacío. La desactivación explícita elimina ese bloque.
La ficha incluye uso con agentes y recomienda Qwen-Agent para el formato y el análisis sintáctico de llamadas a herramientas. Una aplicación proporciona las definiciones, comprueba las llamadas, las ejecuta y devuelve resultados. En el ejemplo de validación, un ejecutor controlado de pruebas podría evaluar el código propuesto con los casos proporcionados. Pide al modelo que resuma los resultados reales de éxito o fallo y revise una condición fallida identificada por nombre. Su salida no debería tratar una invocación propuesta como evidencia de ejecución. Decide el alcance permitido de la herramienta y los campos de salida antes de empezar el flujo. La guía Qwen3 también describe llamadas paralelas y de varios pasos, con argumentos representados como objetos y resultados devueltos a la conversación.
La ficha exacta enumera 32,768 tokens de contexto nativo y 131,072 con YaRN. La ampliación depende de configuración; el escalado estático puede afectar a textos más cortos. Tanto la entrada como el resultado generado ocupan el presupuesto de secuencia. Etiqueta las secciones largas de origen y asigna suficiente espacio al código y la explicación requeridos. Los ejemplos de salida publicados y las longitudes recomendadas no establecen un límite universal estricto de salida. Para generación más larga, evalúa si el resultado sigue siendo coherente y cumple los requisitos de la tarea. La documentación Qwen3 trata longitudes de mensajes del asistente de 38,912 tokens en modo de pensamiento y 16,384 en modo sin pensamiento en su explicación de longitud de entrenamiento y recomienda evaluar la calidad de generaciones mayores. Estas cifras son distintas de la ventana global de contexto y no son un límite estricto propio de un endpoint. La ficha también explica su asignación posicional predeterminada de 40,960 tokens como 8,192 para prompts habituales más 32,768 para salida; es orientación de configuración del fabricante, independiente del contexto nativo de entrenamiento y de cualquier límite del endpoint.
Los ajustes recomendados de muestreo son temperature 0.6, top-p 0.95, top-k 20 y min-p 0 para pensamiento, y 0.7, 0.8, 20 y 0 para modo directo. El fabricante advierte contra el razonamiento voraz por las repeticiones; penalizaciones de presencia altas pueden mezclar idiomas en ocasiones. Exige una respuesta final que pueda examinarse, como una tabla de decisiones, la función completa y una lista de casos. Valida los campos estructurados devueltos, comprueba los cálculos con la fuente y ejecuta código en el entorno previsto, manteniendo esta identidad FP8 exacta al registrar los resultados.
", "aboutText": "Qwen3-32B-FP8 es el punto de control FP8 oficial del modelo de lenguaje denso Qwen3-32B. El fabricante describe matemáticas, razonamiento lógico, generación de código, escritura creativa, diálogo basado en papeles y seguimiento de instrucciones en varios turnos. La familia admite más de 100 idiomas y dialectos. La entrada y la salida son texto y esta misma versión ofrece comportamiento en modo Thinking y en modo de respuesta directa (Non-Thinking).\n\nEl modelo tiene 32,800 millones de parámetros, incluidos 31,200 millones fuera de las capas de embeddings, y 64 capas. Su atención de consultas agrupadas contiene 64 cabezas de consulta y ocho de clave/valor. Es una arquitectura densa, distinta de las versiones de mezcla de expertos de Qwen3 con parámetros totales y activados. FP8 también forma parte de la identidad exacta de la edición. Para un asistente de desarrollo, aporta una función, una especificación y varias entradas y solicita después una explicación del comportamiento actual y una implementación revisada que conserve la interfaz acordada. Para edición, proporciona la fuente real, el lector previsto y la terminología en lugar de depender de un contexto no especificado.\n\nEl inicio rápido del fabricante utiliza la plantilla de chat designada. Separa la tarea de los materiales proporcionados y especifica la forma final. Una solicitud útil de análisis puede comparar dos métodos de validación de datos con las mismas reglas de campos, identificar los casos que acepta cada uno y devolver una función de validación propuesta. Incluye reglas de valores ausentes, datos representativos y los mensajes de error requeridos. Para contenido multilingüe, proporciona un glosario y solicita una traducción junto con una lista de términos que necesitan revisión. Esa preparación permite contrastar el resultado generado con una entrada concreta. La integración publicada espera un entorno de ejecución que reconozca Qwen3; la ficha advierte que versiones de Transformers inferiores a 4.51.0 no reconocen la arquitectura requerida.\n\nLa nota FP8 describe cuantización de granularidad fina con tamaño de bloque 128. La configuración del punto de control también identifica su configuración de cuantización FP8. El fabricante enumera Transformers, SGLang y vLLM para inferencia, pero señala un problema de inferencia distribuida con FP8 de granularidad fina en Transformers y advierte que el uso con varios dispositivos puede necesitar CUDA_LAUNCH_BLOCKING=1. Conserva esta advertencia de compatibilidad por separado de las capacidades textuales. La identidad cuantizada no establece por sí sola una latencia medida, ahorro de hardware o equivalencia de respuestas con el punto de control original.\n\nEl modo Thinking está activado de forma predeterminada en la plantilla proporcionada. Un ajuste explícito sin pensamiento suprime la sección de razonamiento. Cuando el pensamiento sigue activado, /think y /no_think son controles textuales para turnos sucesivos, aplicándose la instrucción más reciente; no pueden anular una desactivación de configuración. Solicita razonamiento cuando el modelo deba examinar condiciones contradictorias y utiliza después una continuación directa para presentar el resultado aceptado de forma concisa. Distingue la respuesta final y utiliza esa respuesta, no el razonamiento previo, como historial para turnos posteriores. Con pensamiento activado, incluso una petición textual sin pensamiento mantiene un bloque de razonamiento, cuyo contenido puede estar vacío. La desactivación explícita elimina ese bloque.\n\nLa ficha incluye uso con agentes y recomienda Qwen-Agent para el formato y el análisis sintáctico de llamadas a herramientas. Una aplicación proporciona las definiciones, comprueba las llamadas, las ejecuta y devuelve resultados. En el ejemplo de validación, un ejecutor controlado de pruebas podría evaluar el código propuesto con los casos proporcionados. Pide al modelo que resuma los resultados reales de éxito o fallo y revise una condición fallida identificada por nombre. Su salida no debería tratar una invocación propuesta como evidencia de ejecución. Decide el alcance permitido de la herramienta y los campos de salida antes de empezar el flujo. La guía Qwen3 también describe llamadas paralelas y de varios pasos, con argumentos representados como objetos y resultados devueltos a la conversación.\n\nLa ficha exacta enumera 32,768 tokens de contexto nativo y 131,072 con YaRN. La ampliación depende de configuración; el escalado estático puede afectar a textos más cortos. Tanto la entrada como el resultado generado ocupan el presupuesto de secuencia. Etiqueta las secciones largas de origen y asigna suficiente espacio al código y la explicación requeridos. Los ejemplos de salida publicados y las longitudes recomendadas no establecen un límite universal estricto de salida. Para generación más larga, evalúa si el resultado sigue siendo coherente y cumple los requisitos de la tarea. La documentación Qwen3 trata longitudes de mensajes del asistente de 38,912 tokens en modo de pensamiento y 16,384 en modo sin pensamiento en su explicación de longitud de entrenamiento y recomienda evaluar la calidad de generaciones mayores. Estas cifras son distintas de la ventana global de contexto y no son un límite estricto propio de un endpoint. La ficha también explica su asignación posicional predeterminada de 40,960 tokens como 8,192 para prompts habituales más 32,768 para salida; es orientación de configuración del fabricante, independiente del contexto nativo de entrenamiento y de cualquier límite del endpoint.\n\nLos ajustes recomendados de muestreo son temperature 0.6, top-p 0.95, top-k 20 y min-p 0 para pensamiento, y 0.7, 0.8, 20 y 0 para modo directo. El fabricante advierte contra el razonamiento voraz por las repeticiones; penalizaciones de presencia altas pueden mezclar idiomas en ocasiones. Exige una respuesta final que pueda examinarse, como una tabla de decisiones, la función completa y una lista de casos. Valida los campos estructurados devueltos, comprueba los cálculos con la fuente y ejecuta código en el entorno previsto, manteniendo esta identidad FP8 exacta al registrar los resultados.", "editorialOverlay": { "copy_fields": { "practical_html": "Ejemplo técnico en inglés
Compare missing-value validators\n\nCompare two Python validators for an optional quantity: A uses if not value: return None; B uses if value is None: return None. Requirement: None means omitted, integer zero is valid, and negative quantities are invalid. Explain each validator's behavior for None, 0 and -1, then propose a complete function with explicit validation errors.A three-input comparison table and a proposed function implementing the supplied rules.Check zero is preserved rather than treated as missing, and negatives are rejected explicitly.qwen/qwen3-32b-fp8Qwen3-32B-FP8 es la edición FP8 de granularidad fina del modelo de texto denso de Qwen3 con 32,800 millones de parámetros. Combina respuestas directas y en modo Thinking para escritura multilingüe, código y análisis, con detalles propios del punto de control y de compatibilidad.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Qwen3-32B-FP8 es el punto de control FP8 oficial del modelo de lenguaje denso Qwen3-32B. El fabricante describe matemáticas, razonamiento lógico, generación de código, escritura creativa, diálogo basado en papeles y seguimiento de instrucciones en varios turnos. La familia admite más de 100 idiomas y dialectos. La entrada y la salida son texto y esta misma versión ofrece comportamiento en modo Thinking y en modo de respuesta directa (Non-Thinking).
El modelo tiene 32,800 millones de parámetros, incluidos 31,200 millones fuera de las capas de embeddings, y 64 capas. Su atención de consultas agrupadas contiene 64 cabezas de consulta y ocho de clave/valor. Es una arquitectura densa, distinta de las versiones de mezcla de expertos de Qwen3 con parámetros totales y activados. FP8 también forma parte de la identidad exacta de la edición. Para un asistente de desarrollo, aporta una función, una especificación y varias entradas y solicita después una explicación del comportamiento actual y una implementación revisada que conserve la interfaz acordada. Para edición, proporciona la fuente real, el lector previsto y la terminología en lugar de depender de un contexto no especificado.
El inicio rápido del fabricante utiliza la plantilla de chat designada. Separa la tarea de los materiales proporcionados y especifica la forma final. Una solicitud útil de análisis puede comparar dos métodos de validación de datos con las mismas reglas de campos, identificar los casos que acepta cada uno y devolver una función de validación propuesta. Incluye reglas de valores ausentes, datos representativos y los mensajes de error requeridos. Para contenido multilingüe, proporciona un glosario y solicita una traducción junto con una lista de términos que necesitan revisión. Esa preparación permite contrastar el resultado generado con una entrada concreta. La integración publicada espera un entorno de ejecución que reconozca Qwen3; la ficha advierte que versiones de Transformers inferiores a 4.51.0 no reconocen la arquitectura requerida.
La nota FP8 describe cuantización de granularidad fina con tamaño de bloque 128. La configuración del punto de control también identifica su configuración de cuantización FP8. El fabricante enumera Transformers, SGLang y vLLM para inferencia, pero señala un problema de inferencia distribuida con FP8 de granularidad fina en Transformers y advierte que el uso con varios dispositivos puede necesitar CUDA_LAUNCH_BLOCKING=1. Conserva esta advertencia de compatibilidad por separado de las capacidades textuales. La identidad cuantizada no establece por sí sola una latencia medida, ahorro de hardware o equivalencia de respuestas con el punto de control original.
El modo Thinking está activado de forma predeterminada en la plantilla proporcionada. Un ajuste explícito sin pensamiento suprime la sección de razonamiento. Cuando el pensamiento sigue activado, /think y /no_think son controles textuales para turnos sucesivos, aplicándose la instrucción más reciente; no pueden anular una desactivación de configuración. Solicita razonamiento cuando el modelo deba examinar condiciones contradictorias y utiliza después una continuación directa para presentar el resultado aceptado de forma concisa. Distingue la respuesta final y utiliza esa respuesta, no el razonamiento previo, como historial para turnos posteriores. Con pensamiento activado, incluso una petición textual sin pensamiento mantiene un bloque de razonamiento, cuyo contenido puede estar vacío. La desactivación explícita elimina ese bloque.
La ficha incluye uso con agentes y recomienda Qwen-Agent para el formato y el análisis sintáctico de llamadas a herramientas. Una aplicación proporciona las definiciones, comprueba las llamadas, las ejecuta y devuelve resultados. En el ejemplo de validación, un ejecutor controlado de pruebas podría evaluar el código propuesto con los casos proporcionados. Pide al modelo que resuma los resultados reales de éxito o fallo y revise una condición fallida identificada por nombre. Su salida no debería tratar una invocación propuesta como evidencia de ejecución. Decide el alcance permitido de la herramienta y los campos de salida antes de empezar el flujo. La guía Qwen3 también describe llamadas paralelas y de varios pasos, con argumentos representados como objetos y resultados devueltos a la conversación.
La ficha exacta enumera 32,768 tokens de contexto nativo y 131,072 con YaRN. La ampliación depende de configuración; el escalado estático puede afectar a textos más cortos. Tanto la entrada como el resultado generado ocupan el presupuesto de secuencia. Etiqueta las secciones largas de origen y asigna suficiente espacio al código y la explicación requeridos. Los ejemplos de salida publicados y las longitudes recomendadas no establecen un límite universal estricto de salida. Para generación más larga, evalúa si el resultado sigue siendo coherente y cumple los requisitos de la tarea. La documentación Qwen3 trata longitudes de mensajes del asistente de 38,912 tokens en modo de pensamiento y 16,384 en modo sin pensamiento en su explicación de longitud de entrenamiento y recomienda evaluar la calidad de generaciones mayores. Estas cifras son distintas de la ventana global de contexto y no son un límite estricto propio de un endpoint. La ficha también explica su asignación posicional predeterminada de 40,960 tokens como 8,192 para prompts habituales más 32,768 para salida; es orientación de configuración del fabricante, independiente del contexto nativo de entrenamiento y de cualquier límite del endpoint.
Los ajustes recomendados de muestreo son temperature 0.6, top-p 0.95, top-k 20 y min-p 0 para pensamiento, y 0.7, 0.8, 20 y 0 para modo directo. El fabricante advierte contra el razonamiento voraz por las repeticiones; penalizaciones de presencia altas pueden mezclar idiomas en ocasiones. Exige una respuesta final que pueda examinarse, como una tabla de decisiones, la función completa y una lista de casos. Valida los campos estructurados devueltos, comprueba los cálculos con la fuente y ejecuta código en el entorno previsto, manteniendo esta identidad FP8 exacta al registrar los resultados.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites qwen/qwen3-32b-fp8 | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites Número mínimo de elementos: 1 | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites Ejemplos: system, user, assistant, tool, function Condiciones: Estos roles están representados explícitamente por los tipos de compatibilidad del código fuente; el conjunto exacto de roles depende del modelo. Depende del modelo | Predeterminado— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_call_id | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: role=tool; utiliza el ID real devuelto | Predeterminado— |
Campomessages[].name | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].reasoning_content | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: Devuelve en los turnos siguientes el razonamiento realmente recibido cuando este modelo lo utilice | Predeterminado— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campomax_completion_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotemperature | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotop_p | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campostop | Tipostring|string[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools | Tipofunction_tool[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools[].type | Tipostring | RequisitoOpcional | Valores y límites function Depende del modelo | Predeterminado— |
Campotools[].function.name | Tipostring | RequisitoObligatorio | Valores y límites Se aplica cuando: herramienta de función proporcionada | Predeterminado— |
Campotools[].function.description | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotool_choice | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoparallel_tool_calls | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporesponse_format | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning_effort | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camposervice_tier | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoinstructions | Tipostring | RequisitoOpcional | Valores y límites Campo de compatibilidad | Predeterminado— |
Campofunctions | Tipofunction[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campofunction_call | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoprompt_cache_options | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomodalities | Tipostring[] | RequisitoOpcional | Valores y límites text | Predeterminado— |
Campoprovider | Tipoobject | RequisitoOpcional | Valores y límites Condiciones: provider.options se rechaza en esta ruta de texto Ultra | Predeterminado— |
Campocache_control.ttl | Tipostring | RequisitoOpcional | Valores y límites Condiciones: 1h se rechaza en los campos reales de caché de instrucciones | Predeterminado— |
Texto · Texto UTF8
messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages |
Parámetromaterial_types | Contratotext |
Parámetromessages | Contratomatriz de mensajes con estructura role/content |
Parámetrofile_material | Contratodocumento real en UTF-8 insertado como texto literal; no se deduce ningún ID de archivo |
Parámetrooptional_controls | Contratostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parámetrocontrol_scope | Contratodepende del modelo; las herramientas de funciones del usuario difieren de las herramientas alojadas |
Parámetrooutput_modalities | Contratotext |
Parámetrohosted_operations | Contratofalse |
Parámetromultimodal_input_binding | Contratonull |
Ciclo de vida: synchronous_or_streamed
Envía el ID exacto del modelo junto con messages.
La longitud del contexto no es un límite máximo de salida.
Un archivo de texto puede aportar texto literal; las entradas de imagen, audio u objetos de archivo requieren una vinculación exacta.
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
| Configuración | Tabla de tarifas | Cargo |
|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Cargo Entrada · Tokens de entrada $0.0002 / 1K tokens Salida · Tokens de salida $0.001 / 1K tokens Entrada · Lectura de caché $0 / 1K tokens Entrada · Escritura en caché $0 / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un monto estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen3-32b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen3-32b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen3-32b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva cada alternativa y su contenido, llamadas de herramientas y razonamiento. En SSE, ensambla los fragmentos incrementales por índice de alternativa/herramienta y conserva el motivo final de terminación y el uso.
Conserva los ID de solicitud y respuesta y los encabezados. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra qwen/qwen3-32b-fp8
Usa las rutas de método indicadas arriba.
qwen/qwen3-32b-fp8Qwen3-32B-FP8 es la edición FP8 de granularidad fina del modelo de texto denso de Qwen3 con 32,800 millones de parámetros. Combina respuestas directas y en modo Thinking para escritura multilingüe, código y análisis, con detalles propios del punto de control y de compatibilidad.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Qwen3-32B-FP8 es el punto de control FP8 oficial del modelo de lenguaje denso Qwen3-32B. El fabricante describe matemáticas, razonamiento lógico, generación de código, escritura creativa, diálogo basado en papeles y seguimiento de instrucciones en varios turnos. La familia admite más de 100 idiomas y dialectos. La entrada y la salida son texto y esta misma versión ofrece comportamiento en modo Thinking y en modo de respuesta directa (Non-Thinking).
El modelo tiene 32,800 millones de parámetros, incluidos 31,200 millones fuera de las capas de embeddings, y 64 capas. Su atención de consultas agrupadas contiene 64 cabezas de consulta y ocho de clave/valor. Es una arquitectura densa, distinta de las versiones de mezcla de expertos de Qwen3 con parámetros totales y activados. FP8 también forma parte de la identidad exacta de la edición. Para un asistente de desarrollo, aporta una función, una especificación y varias entradas y solicita después una explicación del comportamiento actual y una implementación revisada que conserve la interfaz acordada. Para edición, proporciona la fuente real, el lector previsto y la terminología en lugar de depender de un contexto no especificado.
El inicio rápido del fabricante utiliza la plantilla de chat designada. Separa la tarea de los materiales proporcionados y especifica la forma final. Una solicitud útil de análisis puede comparar dos métodos de validación de datos con las mismas reglas de campos, identificar los casos que acepta cada uno y devolver una función de validación propuesta. Incluye reglas de valores ausentes, datos representativos y los mensajes de error requeridos. Para contenido multilingüe, proporciona un glosario y solicita una traducción junto con una lista de términos que necesitan revisión. Esa preparación permite contrastar el resultado generado con una entrada concreta. La integración publicada espera un entorno de ejecución que reconozca Qwen3; la ficha advierte que versiones de Transformers inferiores a 4.51.0 no reconocen la arquitectura requerida.
La nota FP8 describe cuantización de granularidad fina con tamaño de bloque 128. La configuración del punto de control también identifica su configuración de cuantización FP8. El fabricante enumera Transformers, SGLang y vLLM para inferencia, pero señala un problema de inferencia distribuida con FP8 de granularidad fina en Transformers y advierte que el uso con varios dispositivos puede necesitar CUDA_LAUNCH_BLOCKING=1. Conserva esta advertencia de compatibilidad por separado de las capacidades textuales. La identidad cuantizada no establece por sí sola una latencia medida, ahorro de hardware o equivalencia de respuestas con el punto de control original.
El modo Thinking está activado de forma predeterminada en la plantilla proporcionada. Un ajuste explícito sin pensamiento suprime la sección de razonamiento. Cuando el pensamiento sigue activado, /think y /no_think son controles textuales para turnos sucesivos, aplicándose la instrucción más reciente; no pueden anular una desactivación de configuración. Solicita razonamiento cuando el modelo deba examinar condiciones contradictorias y utiliza después una continuación directa para presentar el resultado aceptado de forma concisa. Distingue la respuesta final y utiliza esa respuesta, no el razonamiento previo, como historial para turnos posteriores. Con pensamiento activado, incluso una petición textual sin pensamiento mantiene un bloque de razonamiento, cuyo contenido puede estar vacío. La desactivación explícita elimina ese bloque.
La ficha incluye uso con agentes y recomienda Qwen-Agent para el formato y el análisis sintáctico de llamadas a herramientas. Una aplicación proporciona las definiciones, comprueba las llamadas, las ejecuta y devuelve resultados. En el ejemplo de validación, un ejecutor controlado de pruebas podría evaluar el código propuesto con los casos proporcionados. Pide al modelo que resuma los resultados reales de éxito o fallo y revise una condición fallida identificada por nombre. Su salida no debería tratar una invocación propuesta como evidencia de ejecución. Decide el alcance permitido de la herramienta y los campos de salida antes de empezar el flujo. La guía Qwen3 también describe llamadas paralelas y de varios pasos, con argumentos representados como objetos y resultados devueltos a la conversación.
La ficha exacta enumera 32,768 tokens de contexto nativo y 131,072 con YaRN. La ampliación depende de configuración; el escalado estático puede afectar a textos más cortos. Tanto la entrada como el resultado generado ocupan el presupuesto de secuencia. Etiqueta las secciones largas de origen y asigna suficiente espacio al código y la explicación requeridos. Los ejemplos de salida publicados y las longitudes recomendadas no establecen un límite universal estricto de salida. Para generación más larga, evalúa si el resultado sigue siendo coherente y cumple los requisitos de la tarea. La documentación Qwen3 trata longitudes de mensajes del asistente de 38,912 tokens en modo de pensamiento y 16,384 en modo sin pensamiento en su explicación de longitud de entrenamiento y recomienda evaluar la calidad de generaciones mayores. Estas cifras son distintas de la ventana global de contexto y no son un límite estricto propio de un endpoint. La ficha también explica su asignación posicional predeterminada de 40,960 tokens como 8,192 para prompts habituales más 32,768 para salida; es orientación de configuración del fabricante, independiente del contexto nativo de entrenamiento y de cualquier límite del endpoint.
Los ajustes recomendados de muestreo son temperature 0.6, top-p 0.95, top-k 20 y min-p 0 para pensamiento, y 0.7, 0.8, 20 y 0 para modo directo. El fabricante advierte contra el razonamiento voraz por las repeticiones; penalizaciones de presencia altas pueden mezclar idiomas en ocasiones. Exige una respuesta final que pueda examinarse, como una tabla de decisiones, la función completa y una lista de casos. Valida los campos estructurados devueltos, comprueba los cálculos con la fuente y ejecuta código en el entorno previsto, manteniendo esta identidad FP8 exacta al registrar los resultados.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites qwen/qwen3-32b-fp8 | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites user, assistant | Predeterminado— |
Campomessages[].content | Tipostring | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Texto · Texto UTF-8
cadena messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages, max_tokens |
Parámetrooptional_controls | Contratostream |
Parámetromaterial_types | Contratotext |
Parámetrotext_file_material | ContratoLee el documento real en UTF-8 y coloca su texto en el campo input indicado o en la cadena de contenido del mensaje. |
Ciclo de vida: synchronous_or_streamed
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
| Configuración | Tabla de tarifas | Cargo |
|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Cargo Entrada · Tokens de entrada $0.0002 / 1K tokens Salida · Tokens de salida $0.001 / 1K tokens Entrada · Lectura de caché $0 / 1K tokens Entrada · Escritura en caché $0 / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un monto estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
{\n "model": "qwen/qwen3-32b-fp8",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-32b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-32b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva todos los bloques de contenido, las firmas de razonamiento y los ID reales de uso de herramientas. Ensambla todos los fragmentos incrementales de los bloques SSE; el primer bloque de texto no constituye la salida completa.
Conserva los ID de solicitud y respuesta y los encabezados. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra qwen/qwen3-32b-fp8
Usa las rutas de método indicadas arriba.
Ejemplo técnico en inglés
Compare missing-value validators\n\nCompare two Python validators for an optional quantity: A uses if not value: return None; B uses if value is None: return None. Requirement: None means omitted, integer zero is valid, and negative quantities are invalid. Explain each validator's behavior for None, 0 and -1, then propose a complete function with explicit validation errors.A three-input comparison table and a proposed function implementing the supplied rules.Check zero is preserved rather than treated as missing, and negatives are rejected explicitly.