Capacidades de Qwen3
Qwen3-30B-A3B-FP8 incorpora el modelo híbrido de generación textual de Qwen a un punto de control FP8 de granularidad fina. Recibe conversaciones textuales y produce texto: explicaciones, código, traducciones, escritura creativa y respuestas de varios turnos. La familia Qwen3 admite 119 idiomas y dialectos, incluidas instrucciones multilingües. Sus dos modos permiten reservar el razonamiento explícito para matemáticas, programación y problemas lógicos y utilizar después respuestas directas para reescritura o diálogo sencillo. La cobertura lingüística no implica la misma fiabilidad para cada idioma o dominio especializado.
Descripción del modelo
El modelo tiene 30,500 millones de parámetros totales y activa 3,300 millones por token. Su arquitectura de mezcla de expertos utiliza 128 expertos, seleccionando ocho por token, a lo largo de 48 capas. Son cifras de arquitectura; el menor número activado no significa que el punto de control completo contenga solo 3,300 millones de parámetros. Es la edición FP8 de Qwen3-30B-A3B, distinta de su punto de control de precisión numérica original y de las versiones posteriores Thinking-2507 e Instruct-2507.
Uso de la interfaz textual
Prepara juntos la tarea, el texto de origen pertinente y el formato de respuesta esperado. Para depuración, aporta la función que falla, el error observado, el comportamiento previsto y una entrada mínima y pide después una explicación seguida de un parche y comprobaciones sugeridas. Para edición multilingüe, indica el idioma de destino, el público y los términos que deben permanecer sin cambios. Solicita un resultado final compacto cuando una explicación larga ocultaría el resultado. Son formas prácticas de utilizar las capacidades de texto y programación documentadas, no garantías de que el código generado se haya ejecutado.
Edición FP8
Qwen especifica cuantización FP8 de granularidad fina con bloques de pesos de 128 × 128. La configuración del punto de control deja ciertos componentes fuera de la conversión y utiliza cuantización dinámica de activaciones. FP8 describe la representación numérica, no un nuevo modo conversacional ni un tiempo de respuesta prometido. La compatibilidad importa: la ficha de Qwen registra una advertencia de inferencia distribuida con varios dispositivos para este método de cuantización. Por tanto, un punto de control cuantizado debería conservar su nombre exacto de edición, en lugar de heredar silenciosamente afirmaciones sobre otra compilación.
Modos Thinking y de respuesta directa (Non-Thinking)
La plantilla de chat del fabricante activa el modo Thinking de forma predeterminada. En ese modo, un bloque de razonamiento precede a la respuesta final. El ajuste explícito enable_thinking=False suprime el bloque. Con pensamiento activado, /think y /no_think orientan cada turno según la instrucción más reciente; con el interruptor textual de desactivación puede seguir apareciendo un bloque vacío. Esos marcadores del prompt no pueden anular la desactivación de configuración. Son controles documentados del fabricante; que una aplicación los exponga depende de su interfaz.
Uso con agentes
Qwen documenta llamadas a herramientas en ambos modos y recomienda Qwen-Agent para las plantillas y el análisis necesarios. Proporciona al agente una descripción clara de la herramienta, las entradas permitidas y un resultado concreto, como comprobar datos aportados antes de redactar un informe. El modelo puede participar en un flujo de herramientas; la búsqueda, la ejecución de código y las acciones externas proceden de las herramientas conectadas por la aplicación. La capacidad de herramientas por sí sola no da al modelo acceso a archivos o información actual.
Textos largos
Qwen describe un contexto nativo de 32,768 tokens y valida la ampliación a 131,072 con YaRN. La entrada, el historial de conversación, el razonamiento y la respuesta compiten por espacio de contexto. La configuración de posiciones suministrada es de 40,960; Qwen la explica como una asignación para prompts habituales y generación extendida, no como sustitución del contexto nativo declarado. YaRN estático puede reducir la calidad con entradas más cortas, por lo que la extensión está condicionada a configuración y necesidad. Para documentos, etiqueta las secciones y pide que la respuesta identifique los pasajes que respaldan cada conclusión.
Generación y limitaciones
Qwen recomienda temperature 0.6, top_p 0.95, top_k 20 y min_p 0 para pensamiento, y 0.7, 0.8, 20 y 0 para respuestas directas. La decodificación voraz puede producir razonamiento degradado o texto repetido. Sus orientaciones recomiendan un presupuesto de generación de 32,768 tokens para la mayoría de consultas y 38,912 para problemas inusualmente complejos; son recomendaciones, no un límite máximo de salida estricto establecido por separado. Las penalizaciones de presencia mayores pueden reducir repeticiones, pero mezclar idiomas o bajar la calidad. Conserva solo las respuestas finales en el historial. Indica explícitamente el esquema requerido de respuesta y comprueba los resultados matemáticos, las conclusiones factuales y los parches generados frente a la evidencia proporcionada antes de utilizarlos.
", "aboutText": "Capacidades de Qwen3\n\nQwen3-30B-A3B-FP8 incorpora el modelo híbrido de generación textual de Qwen a un punto de control FP8 de granularidad fina. Recibe conversaciones textuales y produce texto: explicaciones, código, traducciones, escritura creativa y respuestas de varios turnos. La familia Qwen3 admite 119 idiomas y dialectos, incluidas instrucciones multilingües. Sus dos modos permiten reservar el razonamiento explícito para matemáticas, programación y problemas lógicos y utilizar después respuestas directas para reescritura o diálogo sencillo. La cobertura lingüística no implica la misma fiabilidad para cada idioma o dominio especializado.\n\nDescripción del modelo\n\nEl modelo tiene 30,500 millones de parámetros totales y activa 3,300 millones por token. Su arquitectura de mezcla de expertos utiliza 128 expertos, seleccionando ocho por token, a lo largo de 48 capas. Son cifras de arquitectura; el menor número activado no significa que el punto de control completo contenga solo 3,300 millones de parámetros. Es la edición FP8 de Qwen3-30B-A3B, distinta de su punto de control de precisión numérica original y de las versiones posteriores Thinking-2507 e Instruct-2507.\n\nUso de la interfaz textual\n\nPrepara juntos la tarea, el texto de origen pertinente y el formato de respuesta esperado. Para depuración, aporta la función que falla, el error observado, el comportamiento previsto y una entrada mínima y pide después una explicación seguida de un parche y comprobaciones sugeridas. Para edición multilingüe, indica el idioma de destino, el público y los términos que deben permanecer sin cambios. Solicita un resultado final compacto cuando una explicación larga ocultaría el resultado. Son formas prácticas de utilizar las capacidades de texto y programación documentadas, no garantías de que el código generado se haya ejecutado.\n\nEdición FP8\n\nQwen especifica cuantización FP8 de granularidad fina con bloques de pesos de 128 × 128. La configuración del punto de control deja ciertos componentes fuera de la conversión y utiliza cuantización dinámica de activaciones. FP8 describe la representación numérica, no un nuevo modo conversacional ni un tiempo de respuesta prometido. La compatibilidad importa: la ficha de Qwen registra una advertencia de inferencia distribuida con varios dispositivos para este método de cuantización. Por tanto, un punto de control cuantizado debería conservar su nombre exacto de edición, en lugar de heredar silenciosamente afirmaciones sobre otra compilación.\n\nModos Thinking y de respuesta directa (Non-Thinking)\n\nLa plantilla de chat del fabricante activa el modo Thinking de forma predeterminada. En ese modo, un bloque de razonamiento precede a la respuesta final. El ajuste explícito enable_thinking=False suprime el bloque. Con pensamiento activado, /think y /no_think orientan cada turno según la instrucción más reciente; con el interruptor textual de desactivación puede seguir apareciendo un bloque vacío. Esos marcadores del prompt no pueden anular la desactivación de configuración. Son controles documentados del fabricante; que una aplicación los exponga depende de su interfaz.\n\nUso con agentes\n\nQwen documenta llamadas a herramientas en ambos modos y recomienda Qwen-Agent para las plantillas y el análisis necesarios. Proporciona al agente una descripción clara de la herramienta, las entradas permitidas y un resultado concreto, como comprobar datos aportados antes de redactar un informe. El modelo puede participar en un flujo de herramientas; la búsqueda, la ejecución de código y las acciones externas proceden de las herramientas conectadas por la aplicación. La capacidad de herramientas por sí sola no da al modelo acceso a archivos o información actual.\n\nTextos largos\n\nQwen describe un contexto nativo de 32,768 tokens y valida la ampliación a 131,072 con YaRN. La entrada, el historial de conversación, el razonamiento y la respuesta compiten por espacio de contexto. La configuración de posiciones suministrada es de 40,960; Qwen la explica como una asignación para prompts habituales y generación extendida, no como sustitución del contexto nativo declarado. YaRN estático puede reducir la calidad con entradas más cortas, por lo que la extensión está condicionada a configuración y necesidad. Para documentos, etiqueta las secciones y pide que la respuesta identifique los pasajes que respaldan cada conclusión.\n\nGeneración y limitaciones\n\nQwen recomienda temperature 0.6, top_p 0.95, top_k 20 y min_p 0 para pensamiento, y 0.7, 0.8, 20 y 0 para respuestas directas. La decodificación voraz puede producir razonamiento degradado o texto repetido. Sus orientaciones recomiendan un presupuesto de generación de 32,768 tokens para la mayoría de consultas y 38,912 para problemas inusualmente complejos; son recomendaciones, no un límite máximo de salida estricto establecido por separado. Las penalizaciones de presencia mayores pueden reducir repeticiones, pero mezclar idiomas o bajar la calidad. Conserva solo las respuestas finales en el historial. Indica explícitamente el esquema requerido de respuesta y comprueba los resultados matemáticos, las conclusiones factuales y los parches generados frente a la evidencia proporcionada antes de utilizarlos.", "editorialOverlay": { "copy_fields": { "practical_html": "Ejemplo técnico en inglés
Edit a multilingual service message\n\nTranslate into German for an office administrator: “The Atlas Link update is available, but installing it will restart the device. Save your work before starting.” Keep Atlas Link unchanged, preserve the restart warning and use a polite, concise tone. Return only the translated notice without adding a duration or maintenance window.A concise German notice retaining the product name, restart warning and save-work instruction.Check that the translation keeps the restart as a consequence of installation and does not add an unprovided downtime estimate.qwen/qwen3-30b-a3b-fp8Qwen3-30B-A3B-FP8 es el modelo de texto de mezcla de expertos de Qwen cuantizado en FP8, con modos seleccionables Thinking y de respuesta directa (Non-Thinking). Utilízalo para razonamiento matemático, programación, escritura multilingüe y flujos asistidos por herramientas, conservando la edición FP8 exacta y su configuración de contexto.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Capacidades de Qwen3
Qwen3-30B-A3B-FP8 incorpora el modelo híbrido de generación textual de Qwen a un punto de control FP8 de granularidad fina. Recibe conversaciones textuales y produce texto: explicaciones, código, traducciones, escritura creativa y respuestas de varios turnos. La familia Qwen3 admite 119 idiomas y dialectos, incluidas instrucciones multilingües. Sus dos modos permiten reservar el razonamiento explícito para matemáticas, programación y problemas lógicos y utilizar después respuestas directas para reescritura o diálogo sencillo. La cobertura lingüística no implica la misma fiabilidad para cada idioma o dominio especializado.
Descripción del modelo
El modelo tiene 30,500 millones de parámetros totales y activa 3,300 millones por token. Su arquitectura de mezcla de expertos utiliza 128 expertos, seleccionando ocho por token, a lo largo de 48 capas. Son cifras de arquitectura; el menor número activado no significa que el punto de control completo contenga solo 3,300 millones de parámetros. Es la edición FP8 de Qwen3-30B-A3B, distinta de su punto de control de precisión numérica original y de las versiones posteriores Thinking-2507 e Instruct-2507.
Uso de la interfaz textual
Prepara juntos la tarea, el texto de origen pertinente y el formato de respuesta esperado. Para depuración, aporta la función que falla, el error observado, el comportamiento previsto y una entrada mínima y pide después una explicación seguida de un parche y comprobaciones sugeridas. Para edición multilingüe, indica el idioma de destino, el público y los términos que deben permanecer sin cambios. Solicita un resultado final compacto cuando una explicación larga ocultaría el resultado. Son formas prácticas de utilizar las capacidades de texto y programación documentadas, no garantías de que el código generado se haya ejecutado.
Edición FP8
Qwen especifica cuantización FP8 de granularidad fina con bloques de pesos de 128 × 128. La configuración del punto de control deja ciertos componentes fuera de la conversión y utiliza cuantización dinámica de activaciones. FP8 describe la representación numérica, no un nuevo modo conversacional ni un tiempo de respuesta prometido. La compatibilidad importa: la ficha de Qwen registra una advertencia de inferencia distribuida con varios dispositivos para este método de cuantización. Por tanto, un punto de control cuantizado debería conservar su nombre exacto de edición, en lugar de heredar silenciosamente afirmaciones sobre otra compilación.
Modos Thinking y de respuesta directa (Non-Thinking)
La plantilla de chat del fabricante activa el modo Thinking de forma predeterminada. En ese modo, un bloque de razonamiento precede a la respuesta final. El ajuste explícito enable_thinking=False suprime el bloque. Con pensamiento activado, /think y /no_think orientan cada turno según la instrucción más reciente; con el interruptor textual de desactivación puede seguir apareciendo un bloque vacío. Esos marcadores del prompt no pueden anular la desactivación de configuración. Son controles documentados del fabricante; que una aplicación los exponga depende de su interfaz.
Uso con agentes
Qwen documenta llamadas a herramientas en ambos modos y recomienda Qwen-Agent para las plantillas y el análisis necesarios. Proporciona al agente una descripción clara de la herramienta, las entradas permitidas y un resultado concreto, como comprobar datos aportados antes de redactar un informe. El modelo puede participar en un flujo de herramientas; la búsqueda, la ejecución de código y las acciones externas proceden de las herramientas conectadas por la aplicación. La capacidad de herramientas por sí sola no da al modelo acceso a archivos o información actual.
Textos largos
Qwen describe un contexto nativo de 32,768 tokens y valida la ampliación a 131,072 con YaRN. La entrada, el historial de conversación, el razonamiento y la respuesta compiten por espacio de contexto. La configuración de posiciones suministrada es de 40,960; Qwen la explica como una asignación para prompts habituales y generación extendida, no como sustitución del contexto nativo declarado. YaRN estático puede reducir la calidad con entradas más cortas, por lo que la extensión está condicionada a configuración y necesidad. Para documentos, etiqueta las secciones y pide que la respuesta identifique los pasajes que respaldan cada conclusión.
Generación y limitaciones
Qwen recomienda temperature 0.6, top_p 0.95, top_k 20 y min_p 0 para pensamiento, y 0.7, 0.8, 20 y 0 para respuestas directas. La decodificación voraz puede producir razonamiento degradado o texto repetido. Sus orientaciones recomiendan un presupuesto de generación de 32,768 tokens para la mayoría de consultas y 38,912 para problemas inusualmente complejos; son recomendaciones, no un límite máximo de salida estricto establecido por separado. Las penalizaciones de presencia mayores pueden reducir repeticiones, pero mezclar idiomas o bajar la calidad. Conserva solo las respuestas finales en el historial. Indica explícitamente el esquema requerido de respuesta y comprueba los resultados matemáticos, las conclusiones factuales y los parches generados frente a la evidencia proporcionada antes de utilizarlos.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites qwen/qwen3-30b-a3b-fp8 | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites Número mínimo de elementos: 1 | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites Ejemplos: system, user, assistant, tool, function Condiciones: Estos roles están representados explícitamente por los tipos de compatibilidad del código fuente; el conjunto exacto de roles depende del modelo. Depende del modelo | Predeterminado— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_call_id | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: role=tool; utiliza el ID real devuelto | Predeterminado— |
Campomessages[].name | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].reasoning_content | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: Devuelve en los turnos siguientes el razonamiento realmente recibido cuando este modelo lo utilice | Predeterminado— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campomax_completion_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotemperature | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotop_p | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campostop | Tipostring|string[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools | Tipofunction_tool[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools[].type | Tipostring | RequisitoOpcional | Valores y límites function Depende del modelo | Predeterminado— |
Campotools[].function.name | Tipostring | RequisitoObligatorio | Valores y límites Se aplica cuando: herramienta de función proporcionada | Predeterminado— |
Campotools[].function.description | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotool_choice | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoparallel_tool_calls | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporesponse_format | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning_effort | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camposervice_tier | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoinstructions | Tipostring | RequisitoOpcional | Valores y límites Campo de compatibilidad | Predeterminado— |
Campofunctions | Tipofunction[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campofunction_call | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoprompt_cache_options | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomodalities | Tipostring[] | RequisitoOpcional | Valores y límites text | Predeterminado— |
Campoprovider | Tipoobject | RequisitoOpcional | Valores y límites Condiciones: provider.options se rechaza en esta ruta de texto Ultra | Predeterminado— |
Campocache_control.ttl | Tipostring | RequisitoOpcional | Valores y límites Condiciones: 1h se rechaza en los campos reales de caché de instrucciones | Predeterminado— |
Texto · Texto UTF8
messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages |
Parámetromaterial_types | Contratotext |
Parámetromessages | Contratomatriz de mensajes con estructura role/content |
Parámetrofile_material | Contratodocumento real en UTF-8 insertado como texto literal; no se deduce ningún ID de archivo |
Parámetrooptional_controls | Contratostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parámetrocontrol_scope | Contratodepende del modelo; las herramientas de funciones del usuario difieren de las herramientas alojadas |
Parámetrooutput_modalities | Contratotext |
Parámetrohosted_operations | Contratofalse |
Parámetromultimodal_input_binding | Contratonull |
Ciclo de vida: synchronous_or_streamed
Envía el ID exacto del modelo junto con messages.
La longitud del contexto no es un límite máximo de salida.
Un archivo de texto puede aportar texto literal; las entradas de imagen, audio u objetos de archivo requieren una vinculación exacta.
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
| Configuración | Tabla de tarifas | Cargo |
|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Cargo Entrada · Tokens de entrada $0.0002 / 1K tokens Salida · Tokens de salida $0.001 / 1K tokens Entrada · Lectura de caché $0 / 1K tokens Entrada · Escritura en caché $0 / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un monto estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen3-30b-a3b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen3-30b-a3b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen3-30b-a3b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva cada alternativa y su contenido, llamadas de herramientas y razonamiento. En SSE, ensambla los fragmentos incrementales por índice de alternativa/herramienta y conserva el motivo final de terminación y el uso.
Conserva los ID de solicitud y respuesta y los encabezados. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra qwen/qwen3-30b-a3b-fp8
Usa las rutas de método indicadas arriba.
qwen/qwen3-30b-a3b-fp8Qwen3-30B-A3B-FP8 es el modelo de texto de mezcla de expertos de Qwen cuantizado en FP8, con modos seleccionables Thinking y de respuesta directa (Non-Thinking). Utilízalo para razonamiento matemático, programación, escritura multilingüe y flujos asistidos por herramientas, conservando la edición FP8 exacta y su configuración de contexto.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Capacidades de Qwen3
Qwen3-30B-A3B-FP8 incorpora el modelo híbrido de generación textual de Qwen a un punto de control FP8 de granularidad fina. Recibe conversaciones textuales y produce texto: explicaciones, código, traducciones, escritura creativa y respuestas de varios turnos. La familia Qwen3 admite 119 idiomas y dialectos, incluidas instrucciones multilingües. Sus dos modos permiten reservar el razonamiento explícito para matemáticas, programación y problemas lógicos y utilizar después respuestas directas para reescritura o diálogo sencillo. La cobertura lingüística no implica la misma fiabilidad para cada idioma o dominio especializado.
Descripción del modelo
El modelo tiene 30,500 millones de parámetros totales y activa 3,300 millones por token. Su arquitectura de mezcla de expertos utiliza 128 expertos, seleccionando ocho por token, a lo largo de 48 capas. Son cifras de arquitectura; el menor número activado no significa que el punto de control completo contenga solo 3,300 millones de parámetros. Es la edición FP8 de Qwen3-30B-A3B, distinta de su punto de control de precisión numérica original y de las versiones posteriores Thinking-2507 e Instruct-2507.
Uso de la interfaz textual
Prepara juntos la tarea, el texto de origen pertinente y el formato de respuesta esperado. Para depuración, aporta la función que falla, el error observado, el comportamiento previsto y una entrada mínima y pide después una explicación seguida de un parche y comprobaciones sugeridas. Para edición multilingüe, indica el idioma de destino, el público y los términos que deben permanecer sin cambios. Solicita un resultado final compacto cuando una explicación larga ocultaría el resultado. Son formas prácticas de utilizar las capacidades de texto y programación documentadas, no garantías de que el código generado se haya ejecutado.
Edición FP8
Qwen especifica cuantización FP8 de granularidad fina con bloques de pesos de 128 × 128. La configuración del punto de control deja ciertos componentes fuera de la conversión y utiliza cuantización dinámica de activaciones. FP8 describe la representación numérica, no un nuevo modo conversacional ni un tiempo de respuesta prometido. La compatibilidad importa: la ficha de Qwen registra una advertencia de inferencia distribuida con varios dispositivos para este método de cuantización. Por tanto, un punto de control cuantizado debería conservar su nombre exacto de edición, en lugar de heredar silenciosamente afirmaciones sobre otra compilación.
Modos Thinking y de respuesta directa (Non-Thinking)
La plantilla de chat del fabricante activa el modo Thinking de forma predeterminada. En ese modo, un bloque de razonamiento precede a la respuesta final. El ajuste explícito enable_thinking=False suprime el bloque. Con pensamiento activado, /think y /no_think orientan cada turno según la instrucción más reciente; con el interruptor textual de desactivación puede seguir apareciendo un bloque vacío. Esos marcadores del prompt no pueden anular la desactivación de configuración. Son controles documentados del fabricante; que una aplicación los exponga depende de su interfaz.
Uso con agentes
Qwen documenta llamadas a herramientas en ambos modos y recomienda Qwen-Agent para las plantillas y el análisis necesarios. Proporciona al agente una descripción clara de la herramienta, las entradas permitidas y un resultado concreto, como comprobar datos aportados antes de redactar un informe. El modelo puede participar en un flujo de herramientas; la búsqueda, la ejecución de código y las acciones externas proceden de las herramientas conectadas por la aplicación. La capacidad de herramientas por sí sola no da al modelo acceso a archivos o información actual.
Textos largos
Qwen describe un contexto nativo de 32,768 tokens y valida la ampliación a 131,072 con YaRN. La entrada, el historial de conversación, el razonamiento y la respuesta compiten por espacio de contexto. La configuración de posiciones suministrada es de 40,960; Qwen la explica como una asignación para prompts habituales y generación extendida, no como sustitución del contexto nativo declarado. YaRN estático puede reducir la calidad con entradas más cortas, por lo que la extensión está condicionada a configuración y necesidad. Para documentos, etiqueta las secciones y pide que la respuesta identifique los pasajes que respaldan cada conclusión.
Generación y limitaciones
Qwen recomienda temperature 0.6, top_p 0.95, top_k 20 y min_p 0 para pensamiento, y 0.7, 0.8, 20 y 0 para respuestas directas. La decodificación voraz puede producir razonamiento degradado o texto repetido. Sus orientaciones recomiendan un presupuesto de generación de 32,768 tokens para la mayoría de consultas y 38,912 para problemas inusualmente complejos; son recomendaciones, no un límite máximo de salida estricto establecido por separado. Las penalizaciones de presencia mayores pueden reducir repeticiones, pero mezclar idiomas o bajar la calidad. Conserva solo las respuestas finales en el historial. Indica explícitamente el esquema requerido de respuesta y comprueba los resultados matemáticos, las conclusiones factuales y los parches generados frente a la evidencia proporcionada antes de utilizarlos.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites qwen/qwen3-30b-a3b-fp8 | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites user, assistant | Predeterminado— |
Campomessages[].content | Tipostring | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Texto · Texto UTF-8
cadena messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages, max_tokens |
Parámetrooptional_controls | Contratostream |
Parámetromaterial_types | Contratotext |
Parámetrotext_file_material | ContratoLee el documento real en UTF-8 y coloca su texto en el campo input indicado o en la cadena de contenido del mensaje. |
Ciclo de vida: synchronous_or_streamed
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
| Configuración | Tabla de tarifas | Cargo |
|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Cargo Entrada · Tokens de entrada $0.0002 / 1K tokens Salida · Tokens de salida $0.001 / 1K tokens Entrada · Lectura de caché $0 / 1K tokens Entrada · Escritura en caché $0 / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un monto estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
{\n "model": "qwen/qwen3-30b-a3b-fp8",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-30b-a3b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-30b-a3b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva todos los bloques de contenido, las firmas de razonamiento y los ID reales de uso de herramientas. Ensambla todos los fragmentos incrementales de los bloques SSE; el primer bloque de texto no constituye la salida completa.
Conserva los ID de solicitud y respuesta y los encabezados. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra qwen/qwen3-30b-a3b-fp8
Usa las rutas de método indicadas arriba.
Ejemplo técnico en inglés
Edit a multilingual service message\n\nTranslate into German for an office administrator: “The Atlas Link update is available, but installing it will restart the device. Save your work before starting.” Keep Atlas Link unchanged, preserve the restart warning and use a polite, concise tone. Return only the translated notice without adding a duration or maintenance window.A concise German notice retaining the product name, restart warning and save-work instruction.Check that the translation keeps the restart as a consequence of installation and does not add an unprovided downtime estimate.