Qwen3-32B-FP8 é o checkpoint FP8 oficial do modelo de linguagem denso Qwen3-32B. O fabricante descreve matemática, raciocínio lógico, geração de código, escrita criativa, diálogo baseado em papéis e cumprimento de instruções em vários turnos. A família suporta mais de 100 idiomas e dialetos. A entrada e a saída são texto, e esta mesma versão fornece comportamento thinking e de resposta direta.
O modelo tem 32,8 mil milhões de parâmetros, incluindo 31,2 mil milhões fora dos embeddings, e 64 camadas. A atenção com consultas agrupadas contém 64 cabeças de consulta e oito cabeças de chave/valor. É uma arquitetura densa, distinta das versões Qwen3 de mistura de especialistas com números de parâmetros totais e ativos. FP8 também faz parte da identidade exata da edição. Para um assistente de desenvolvimento, forneça uma função, uma especificação e várias entradas e peça uma explicação do comportamento atual e uma implementação revista que preserve a interface acordada. Para edição, forneça a fonte real, o leitor pretendido e a terminologia, em vez de depender de conhecimentos de contexto não especificados.
O guia de início rápido do fabricante usa o template de conversação designado. Separe a tarefa dos materiais fornecidos e especifique a forma final. Um pedido útil de análise pode comparar duas abordagens de validação de dados com as mesmas regras de campos, identificar os casos que cada uma aceita e devolver uma função de validação proposta. Inclua regras de valores em falta, dados representativos e as mensagens de erro exigidas. Para conteúdo multilingue, forneça um glossário e peça uma tradução mais uma lista de termos a rever. Esta preparação permite verificar o resultado gerado face a uma entrada concreta. A integração publicada espera um ambiente de execução compatível com Qwen3; a ficha alerta que versões de Transformers inferiores a 4.51.0 não reconhecem a arquitetura necessária.
A nota FP8 descreve quantização de granularidade fina com tamanho de bloco 128. A configuração do checkpoint também identifica a configuração de quantização FP8. O fabricante indica Transformers, SGLang e vLLM para inferência, mas assinala um problema de inferência distribuída com FP8 de granularidade fina em Transformers e nota que o uso de vários dispositivos pode precisar de CUDA_LAUNCH_BLOCKING=1. Mantenha esta ressalva de compatibilidade separada das capacidades textuais. A identidade quantizada não estabelece, por si só, uma latência medida, poupança de hardware ou equivalência das respostas face ao checkpoint original.
Thinking está ativado por predefinição no template fornecido. Uma definição rígida de non-thinking suprime a secção de raciocínio. Quando thinking continua ativado, /think e /no_think são controlos suaves para turnos sucessivos, aplicando-se a instrução mais recente; não podem sobrepor-se a uma desativação rígida. Peça raciocínio quando o modelo precisar de examinar condições contraditórias e use depois um seguimento direto para apresentar o resultado aceite de forma breve. Mantenha a resposta final separada e use-a, em vez do raciocínio anterior, como histórico para os turnos posteriores. Com thinking ativado, mesmo um pedido suave de non-thinking mantém um bloco de raciocínio; o seu conteúdo pode estar vazio. A desativação rígida remove esse bloco.
A ficha inclui uso com agentes e recomenda Qwen-Agent para formatação e análise sintática de chamadas de ferramentas. Uma aplicação fornece as definições das ferramentas, verifica chamadas, executa-as e devolve resultados. No exemplo de validação, um executor de testes controlado pode avaliar o código proposto face aos casos fornecidos. Peça ao modelo que resuma resultados reais de aprovação ou falha e reveja uma condição identificada que falhou. A saída não deve tratar uma chamada proposta como prova de execução. Decida o âmbito permitido e os campos de saída da ferramenta antes de iniciar o fluxo. O guia Qwen3 também descreve chamadas de ferramentas paralelas e com vários passos, com argumentos representados como objetos e resultados devolvidos à conversa.
A ficha exata indica 32 768 tokens de contexto nativo e 131 072 com YaRN. A expansão depende da configuração; o escalonamento estático pode afetar textos mais curtos. A entrada e o resultado gerado ocupam o orçamento da sequência. Identifique as secções longas de origem e atribua espaço suficiente ao código e à explicação pedidos. Os exemplos de saída publicados e as extensões recomendadas não estabelecem um limite rígido de saída universal. Para gerações mais longas, avalie se o resultado continua coerente e cumpre os requisitos da tarefa. A documentação Qwen3 discute extensões de mensagens do assistente de 38 912 tokens em thinking e de 16 384 em non-thinking na explicação da extensão de treino e recomenda avaliar a qualidade de gerações mais longas. Estes valores são distintos da janela de contexto total e não são um limite rígido específico de endpoint. A ficha também explica a alocação posicional predefinida de 40 960 tokens como 8 192 para prompts típicos mais 32 768 para saída; são orientações de configuração do fabricante, separadas do contexto nativo de treino e de qualquer limite de endpoint.
As definições de amostragem recomendadas são temperature de 0,6, top-p de 0,95, top-k de 20 e min-p de 0 para thinking, e 0,7, 0,8, 20 e 0 para modo direto. O fabricante alerta contra raciocínio guloso devido à repetição; penalizações de presença altas podem por vezes misturar idiomas. Exija uma resposta final verificável, como uma tabela de decisão, a função concluída e uma lista de casos. Valide os campos estruturados devolvidos, verifique cálculos face à fonte e execute código no ambiente pretendido, mantendo esta identidade FP8 exata ao registar os resultados.
", "aboutText": "Qwen3-32B-FP8 é o checkpoint FP8 oficial do modelo de linguagem denso Qwen3-32B. O fabricante descreve matemática, raciocínio lógico, geração de código, escrita criativa, diálogo baseado em papéis e cumprimento de instruções em vários turnos. A família suporta mais de 100 idiomas e dialetos. A entrada e a saída são texto, e esta mesma versão fornece comportamento thinking e de resposta direta.\n\nO modelo tem 32,8 mil milhões de parâmetros, incluindo 31,2 mil milhões fora dos embeddings, e 64 camadas. A atenção com consultas agrupadas contém 64 cabeças de consulta e oito cabeças de chave/valor. É uma arquitetura densa, distinta das versões Qwen3 de mistura de especialistas com números de parâmetros totais e ativos. FP8 também faz parte da identidade exata da edição. Para um assistente de desenvolvimento, forneça uma função, uma especificação e várias entradas e peça uma explicação do comportamento atual e uma implementação revista que preserve a interface acordada. Para edição, forneça a fonte real, o leitor pretendido e a terminologia, em vez de depender de conhecimentos de contexto não especificados.\n\nO guia de início rápido do fabricante usa o template de conversação designado. Separe a tarefa dos materiais fornecidos e especifique a forma final. Um pedido útil de análise pode comparar duas abordagens de validação de dados com as mesmas regras de campos, identificar os casos que cada uma aceita e devolver uma função de validação proposta. Inclua regras de valores em falta, dados representativos e as mensagens de erro exigidas. Para conteúdo multilingue, forneça um glossário e peça uma tradução mais uma lista de termos a rever. Esta preparação permite verificar o resultado gerado face a uma entrada concreta. A integração publicada espera um ambiente de execução compatível com Qwen3; a ficha alerta que versões de Transformers inferiores a 4.51.0 não reconhecem a arquitetura necessária.\n\nA nota FP8 descreve quantização de granularidade fina com tamanho de bloco 128. A configuração do checkpoint também identifica a configuração de quantização FP8. O fabricante indica Transformers, SGLang e vLLM para inferência, mas assinala um problema de inferência distribuída com FP8 de granularidade fina em Transformers e nota que o uso de vários dispositivos pode precisar de CUDA_LAUNCH_BLOCKING=1. Mantenha esta ressalva de compatibilidade separada das capacidades textuais. A identidade quantizada não estabelece, por si só, uma latência medida, poupança de hardware ou equivalência das respostas face ao checkpoint original.\n\nThinking está ativado por predefinição no template fornecido. Uma definição rígida de non-thinking suprime a secção de raciocínio. Quando thinking continua ativado, /think e /no_think são controlos suaves para turnos sucessivos, aplicando-se a instrução mais recente; não podem sobrepor-se a uma desativação rígida. Peça raciocínio quando o modelo precisar de examinar condições contraditórias e use depois um seguimento direto para apresentar o resultado aceite de forma breve. Mantenha a resposta final separada e use-a, em vez do raciocínio anterior, como histórico para os turnos posteriores. Com thinking ativado, mesmo um pedido suave de non-thinking mantém um bloco de raciocínio; o seu conteúdo pode estar vazio. A desativação rígida remove esse bloco.\n\nA ficha inclui uso com agentes e recomenda Qwen-Agent para formatação e análise sintática de chamadas de ferramentas. Uma aplicação fornece as definições das ferramentas, verifica chamadas, executa-as e devolve resultados. No exemplo de validação, um executor de testes controlado pode avaliar o código proposto face aos casos fornecidos. Peça ao modelo que resuma resultados reais de aprovação ou falha e reveja uma condição identificada que falhou. A saída não deve tratar uma chamada proposta como prova de execução. Decida o âmbito permitido e os campos de saída da ferramenta antes de iniciar o fluxo. O guia Qwen3 também descreve chamadas de ferramentas paralelas e com vários passos, com argumentos representados como objetos e resultados devolvidos à conversa.\n\nA ficha exata indica 32 768 tokens de contexto nativo e 131 072 com YaRN. A expansão depende da configuração; o escalonamento estático pode afetar textos mais curtos. A entrada e o resultado gerado ocupam o orçamento da sequência. Identifique as secções longas de origem e atribua espaço suficiente ao código e à explicação pedidos. Os exemplos de saída publicados e as extensões recomendadas não estabelecem um limite rígido de saída universal. Para gerações mais longas, avalie se o resultado continua coerente e cumpre os requisitos da tarefa. A documentação Qwen3 discute extensões de mensagens do assistente de 38 912 tokens em thinking e de 16 384 em non-thinking na explicação da extensão de treino e recomenda avaliar a qualidade de gerações mais longas. Estes valores são distintos da janela de contexto total e não são um limite rígido específico de endpoint. A ficha também explica a alocação posicional predefinida de 40 960 tokens como 8 192 para prompts típicos mais 32 768 para saída; são orientações de configuração do fabricante, separadas do contexto nativo de treino e de qualquer limite de endpoint.\n\nAs definições de amostragem recomendadas são temperature de 0,6, top-p de 0,95, top-k de 20 e min-p de 0 para thinking, e 0,7, 0,8, 20 e 0 para modo direto. O fabricante alerta contra raciocínio guloso devido à repetição; penalizações de presença altas podem por vezes misturar idiomas. Exija uma resposta final verificável, como uma tabela de decisão, a função concluída e uma lista de casos. Valide os campos estruturados devolvidos, verifique cálculos face à fonte e execute código no ambiente pretendido, mantendo esta identidade FP8 exata ao registar os resultados.", "editorialOverlay": { "copy_fields": { "practical_html": "Exemplo técnico em inglês
Compare missing-value validators\n\nCompare two Python validators for an optional quantity: A uses if not value: return None; B uses if value is None: return None. Requirement: None means omitted, integer zero is valid, and negative quantities are invalid. Explain each validator's behavior for None, 0 and -1, then propose a complete function with explicit validation errors.A three-input comparison table and a proposed function implementing the supplied rules.Check zero is preserved rather than treated as missing, and negatives are rejected explicitly.qwen/qwen3-32b-fp8Qwen3-32B-FP8 é a edição FP8 de granularidade fina do modelo textual denso Qwen3 de 32,8 mil milhões de parâmetros. Combina respostas diretas e thinking para escrita multilingue, código e análise, com detalhes de checkpoint e compatibilidade separados.
Esta descrição apresenta as capacidades do modelo. As entradas, saídas e opções disponíveis no Ailoot para o método selecionado estão indicadas abaixo.
Qwen3-32B-FP8 é o checkpoint FP8 oficial do modelo de linguagem denso Qwen3-32B. O fabricante descreve matemática, raciocínio lógico, geração de código, escrita criativa, diálogo baseado em papéis e cumprimento de instruções em vários turnos. A família suporta mais de 100 idiomas e dialetos. A entrada e a saída são texto, e esta mesma versão fornece comportamento thinking e de resposta direta.
O modelo tem 32,8 mil milhões de parâmetros, incluindo 31,2 mil milhões fora dos embeddings, e 64 camadas. A atenção com consultas agrupadas contém 64 cabeças de consulta e oito cabeças de chave/valor. É uma arquitetura densa, distinta das versões Qwen3 de mistura de especialistas com números de parâmetros totais e ativos. FP8 também faz parte da identidade exata da edição. Para um assistente de desenvolvimento, forneça uma função, uma especificação e várias entradas e peça uma explicação do comportamento atual e uma implementação revista que preserve a interface acordada. Para edição, forneça a fonte real, o leitor pretendido e a terminologia, em vez de depender de conhecimentos de contexto não especificados.
O guia de início rápido do fabricante usa o template de conversação designado. Separe a tarefa dos materiais fornecidos e especifique a forma final. Um pedido útil de análise pode comparar duas abordagens de validação de dados com as mesmas regras de campos, identificar os casos que cada uma aceita e devolver uma função de validação proposta. Inclua regras de valores em falta, dados representativos e as mensagens de erro exigidas. Para conteúdo multilingue, forneça um glossário e peça uma tradução mais uma lista de termos a rever. Esta preparação permite verificar o resultado gerado face a uma entrada concreta. A integração publicada espera um ambiente de execução compatível com Qwen3; a ficha alerta que versões de Transformers inferiores a 4.51.0 não reconhecem a arquitetura necessária.
A nota FP8 descreve quantização de granularidade fina com tamanho de bloco 128. A configuração do checkpoint também identifica a configuração de quantização FP8. O fabricante indica Transformers, SGLang e vLLM para inferência, mas assinala um problema de inferência distribuída com FP8 de granularidade fina em Transformers e nota que o uso de vários dispositivos pode precisar de CUDA_LAUNCH_BLOCKING=1. Mantenha esta ressalva de compatibilidade separada das capacidades textuais. A identidade quantizada não estabelece, por si só, uma latência medida, poupança de hardware ou equivalência das respostas face ao checkpoint original.
Thinking está ativado por predefinição no template fornecido. Uma definição rígida de non-thinking suprime a secção de raciocínio. Quando thinking continua ativado, /think e /no_think são controlos suaves para turnos sucessivos, aplicando-se a instrução mais recente; não podem sobrepor-se a uma desativação rígida. Peça raciocínio quando o modelo precisar de examinar condições contraditórias e use depois um seguimento direto para apresentar o resultado aceite de forma breve. Mantenha a resposta final separada e use-a, em vez do raciocínio anterior, como histórico para os turnos posteriores. Com thinking ativado, mesmo um pedido suave de non-thinking mantém um bloco de raciocínio; o seu conteúdo pode estar vazio. A desativação rígida remove esse bloco.
A ficha inclui uso com agentes e recomenda Qwen-Agent para formatação e análise sintática de chamadas de ferramentas. Uma aplicação fornece as definições das ferramentas, verifica chamadas, executa-as e devolve resultados. No exemplo de validação, um executor de testes controlado pode avaliar o código proposto face aos casos fornecidos. Peça ao modelo que resuma resultados reais de aprovação ou falha e reveja uma condição identificada que falhou. A saída não deve tratar uma chamada proposta como prova de execução. Decida o âmbito permitido e os campos de saída da ferramenta antes de iniciar o fluxo. O guia Qwen3 também descreve chamadas de ferramentas paralelas e com vários passos, com argumentos representados como objetos e resultados devolvidos à conversa.
A ficha exata indica 32 768 tokens de contexto nativo e 131 072 com YaRN. A expansão depende da configuração; o escalonamento estático pode afetar textos mais curtos. A entrada e o resultado gerado ocupam o orçamento da sequência. Identifique as secções longas de origem e atribua espaço suficiente ao código e à explicação pedidos. Os exemplos de saída publicados e as extensões recomendadas não estabelecem um limite rígido de saída universal. Para gerações mais longas, avalie se o resultado continua coerente e cumpre os requisitos da tarefa. A documentação Qwen3 discute extensões de mensagens do assistente de 38 912 tokens em thinking e de 16 384 em non-thinking na explicação da extensão de treino e recomenda avaliar a qualidade de gerações mais longas. Estes valores são distintos da janela de contexto total e não são um limite rígido específico de endpoint. A ficha também explica a alocação posicional predefinida de 40 960 tokens como 8 192 para prompts típicos mais 32 768 para saída; são orientações de configuração do fabricante, separadas do contexto nativo de treino e de qualquer limite de endpoint.
As definições de amostragem recomendadas são temperature de 0,6, top-p de 0,95, top-k de 20 e min-p de 0 para thinking, e 0,7, 0,8, 20 e 0 para modo direto. O fabricante alerta contra raciocínio guloso devido à repetição; penalizações de presença altas podem por vezes misturar idiomas. Exija uma resposta final verificável, como uma tabela de decisão, a função concluída e uma lista de casos. Valide os campos estruturados devolvidos, verifique cálculos face à fonte e execute código no ambiente pretendido, mantendo esta identidade FP8 exata ao registar os resultados.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valores e limites | Predefinição |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObrigatório | Valores e limites qwen/qwen3-32b-fp8 | Predefinição— |
Campomessages | Tipomessage[] | RequisitoObrigatório | Valores e limites Número mínimo de elementos: 1 | Predefinição— |
Campomessages[].role | Tipostring | RequisitoObrigatório | Valores e limites Exemplos: system, user, assistant, tool, function Condições: Estes papéis são representados explicitamente pelos tipos de compatibilidade do código-fonte; o conjunto exato de papéis continua específico do modelo. Depende do modelo | Predefinição— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoOpcional | Valores e limites | Predefinição— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoOpcional | Valores e limites | Predefinição— |
Campomessages[].tool_call_id | Tipostring | RequisitoOpcional | Valores e limites Aplica-se quando: role=tool; use o ID realmente devolvido | Predefinição— |
Campomessages[].name | Tipostring | RequisitoOpcional | Valores e limites | Predefinição— |
Campomessages[].reasoning_content | Tipostring | RequisitoOpcional | Valores e limites Aplica-se quando: Reintroduza o raciocínio realmente devolvido quando este modelo o utiliza | Predefinição— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campomax_tokens | Tipointeger | RequisitoOpcional | Valores e limites Mínimo: 1 Depende do modelo | Predefinição— |
Campomax_completion_tokens | Tipointeger | RequisitoOpcional | Valores e limites Mínimo: 1 Depende do modelo | Predefinição— |
Campostream | Tipoboolean | RequisitoOpcional | Valores e limites | Predefiniçãofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campotemperature | Tiponumber | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campotop_p | Tiponumber | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campostop | Tipostring|string[] | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campotools | Tipofunction_tool[] | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campotools[].type | Tipostring | RequisitoOpcional | Valores e limites function Depende do modelo | Predefinição— |
Campotools[].function.name | Tipostring | RequisitoObrigatório | Valores e limites Aplica-se quando: Função fornecida como ferramenta | Predefinição— |
Campotools[].function.description | Tipostring | RequisitoOpcional | Valores e limites | Predefinição— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoOpcional | Valores e limites | Predefinição— |
Campotool_choice | Tipostring|object | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campoparallel_tool_calls | Tipoboolean | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Camporesponse_format | Tipoobject | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Camporeasoning_effort | Tipostring | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Camporeasoning | Tipoobject | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Camposervice_tier | Tipostring | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campoinstructions | Tipostring | RequisitoOpcional | Valores e limites Campo de compatibilidade | Predefinição— |
Campofunctions | Tipofunction[] | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campofunction_call | Tipostring|object | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campoprompt_cache_options | Tipoobject | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campomodalities | Tipostring[] | RequisitoOpcional | Valores e limites text | Predefinição— |
Campoprovider | Tipoobject | RequisitoOpcional | Valores e limites Condições: provider.options é rejeitado nesta rota textual Ultra | Predefinição— |
Campocache_control.ttl | Tipostring | RequisitoOpcional | Valores e limites Condições: 1h é rejeitado nos locais efetivos da cache de prompts | Predefinição— |
Texto · Texto UTF8
messages[].content
| Parâmetro | Contrato |
|---|---|
Parâmetrocontent_type | Contratoapplication/json |
Parâmetrorequired | Contratomodel, messages |
Parâmetromaterial_types | Contratotext |
Parâmetromessages | ContratoLista de mensagens com estrutura role/content |
Parâmetrofile_material | ContratoDocumento UTF-8 real inserido como texto literal; nenhum ID de ficheiro inferido |
Parâmetrooptional_controls | Contratostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parâmetrocontrol_scope | ContratoEspecífico do modelo; as ferramentas de funções do utilizador diferem das ferramentas alojadas |
Parâmetrooutput_modalities | Contratotext |
Parâmetrohosted_operations | Contratofalse |
Parâmetromultimodal_input_binding | Contratonull |
Ciclo de vida: synchronous_or_streamed
Envie o ID exato do modelo com messages.
O comprimento do contexto não é um limite de saída.
Um ficheiro de texto pode fornecer texto literal; as entradas de imagem/áudio/objeto de ficheiro exigem uma associação exata.
As referências tarifárias não acrescentam opções ao pedido. Os parâmetros suportados constam do método selecionado.
| Configuração | Tabela de tarifas | Custo |
|---|---|---|
| ConfiguraçãoTarifas base dos tokens | Tabela de tarifasTarifa base | Custo Entrada · Tokens de entrada $0.0002 / 1K tokens Saída · Tokens de saída $0.001 / 1K tokens Entrada · Leitura da cache $0 / 1K tokens Entrada · Escrita na cache $0 / 1K tokens Entrada · Escrita na cache, 1 hora — / 1K tokens |
O Ailoot reserva um montante estimado antes de um pedido. Após o resultado, liquida o custo final com base na utilização medida. No streaming, a liquidação usa o registo final de utilização. Como funcionam a reserva e a liquidação →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen3-32b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen3-32b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen3-32b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ou SSE
Guarde cada resposta, ficheiro e parte de conteúdo devolvidos na íntegra.
Conserve cada opção com o conteúdo, as chamadas de ferramentas e o raciocínio. Em SSE, junte os deltas por índice de opção e ferramenta e mantenha o motivo final de conclusão e os dados de utilização.
Conserve os ID e cabeçalhos de pedido/resposta. Não é fornecido um URL genérico para obter uma tarefa textual.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Resposta | Condição | Passo seguinte |
|---|---|---|
Resposta400 · invalid_request_error | CondiçãoCampos obrigatórios, representação do material ou valor do parâmetro inválidos | Passo seguinteCorrija os campos indicados antes de um novo pedido de criação. |
Ailoot Ultra qwen/qwen3-32b-fp8
Use os caminhos dos métodos indicados acima.
qwen/qwen3-32b-fp8Qwen3-32B-FP8 é a edição FP8 de granularidade fina do modelo textual denso Qwen3 de 32,8 mil milhões de parâmetros. Combina respostas diretas e thinking para escrita multilingue, código e análise, com detalhes de checkpoint e compatibilidade separados.
Esta descrição apresenta as capacidades do modelo. As entradas, saídas e opções disponíveis no Ailoot para o método selecionado estão indicadas abaixo.
Qwen3-32B-FP8 é o checkpoint FP8 oficial do modelo de linguagem denso Qwen3-32B. O fabricante descreve matemática, raciocínio lógico, geração de código, escrita criativa, diálogo baseado em papéis e cumprimento de instruções em vários turnos. A família suporta mais de 100 idiomas e dialetos. A entrada e a saída são texto, e esta mesma versão fornece comportamento thinking e de resposta direta.
O modelo tem 32,8 mil milhões de parâmetros, incluindo 31,2 mil milhões fora dos embeddings, e 64 camadas. A atenção com consultas agrupadas contém 64 cabeças de consulta e oito cabeças de chave/valor. É uma arquitetura densa, distinta das versões Qwen3 de mistura de especialistas com números de parâmetros totais e ativos. FP8 também faz parte da identidade exata da edição. Para um assistente de desenvolvimento, forneça uma função, uma especificação e várias entradas e peça uma explicação do comportamento atual e uma implementação revista que preserve a interface acordada. Para edição, forneça a fonte real, o leitor pretendido e a terminologia, em vez de depender de conhecimentos de contexto não especificados.
O guia de início rápido do fabricante usa o template de conversação designado. Separe a tarefa dos materiais fornecidos e especifique a forma final. Um pedido útil de análise pode comparar duas abordagens de validação de dados com as mesmas regras de campos, identificar os casos que cada uma aceita e devolver uma função de validação proposta. Inclua regras de valores em falta, dados representativos e as mensagens de erro exigidas. Para conteúdo multilingue, forneça um glossário e peça uma tradução mais uma lista de termos a rever. Esta preparação permite verificar o resultado gerado face a uma entrada concreta. A integração publicada espera um ambiente de execução compatível com Qwen3; a ficha alerta que versões de Transformers inferiores a 4.51.0 não reconhecem a arquitetura necessária.
A nota FP8 descreve quantização de granularidade fina com tamanho de bloco 128. A configuração do checkpoint também identifica a configuração de quantização FP8. O fabricante indica Transformers, SGLang e vLLM para inferência, mas assinala um problema de inferência distribuída com FP8 de granularidade fina em Transformers e nota que o uso de vários dispositivos pode precisar de CUDA_LAUNCH_BLOCKING=1. Mantenha esta ressalva de compatibilidade separada das capacidades textuais. A identidade quantizada não estabelece, por si só, uma latência medida, poupança de hardware ou equivalência das respostas face ao checkpoint original.
Thinking está ativado por predefinição no template fornecido. Uma definição rígida de non-thinking suprime a secção de raciocínio. Quando thinking continua ativado, /think e /no_think são controlos suaves para turnos sucessivos, aplicando-se a instrução mais recente; não podem sobrepor-se a uma desativação rígida. Peça raciocínio quando o modelo precisar de examinar condições contraditórias e use depois um seguimento direto para apresentar o resultado aceite de forma breve. Mantenha a resposta final separada e use-a, em vez do raciocínio anterior, como histórico para os turnos posteriores. Com thinking ativado, mesmo um pedido suave de non-thinking mantém um bloco de raciocínio; o seu conteúdo pode estar vazio. A desativação rígida remove esse bloco.
A ficha inclui uso com agentes e recomenda Qwen-Agent para formatação e análise sintática de chamadas de ferramentas. Uma aplicação fornece as definições das ferramentas, verifica chamadas, executa-as e devolve resultados. No exemplo de validação, um executor de testes controlado pode avaliar o código proposto face aos casos fornecidos. Peça ao modelo que resuma resultados reais de aprovação ou falha e reveja uma condição identificada que falhou. A saída não deve tratar uma chamada proposta como prova de execução. Decida o âmbito permitido e os campos de saída da ferramenta antes de iniciar o fluxo. O guia Qwen3 também descreve chamadas de ferramentas paralelas e com vários passos, com argumentos representados como objetos e resultados devolvidos à conversa.
A ficha exata indica 32 768 tokens de contexto nativo e 131 072 com YaRN. A expansão depende da configuração; o escalonamento estático pode afetar textos mais curtos. A entrada e o resultado gerado ocupam o orçamento da sequência. Identifique as secções longas de origem e atribua espaço suficiente ao código e à explicação pedidos. Os exemplos de saída publicados e as extensões recomendadas não estabelecem um limite rígido de saída universal. Para gerações mais longas, avalie se o resultado continua coerente e cumpre os requisitos da tarefa. A documentação Qwen3 discute extensões de mensagens do assistente de 38 912 tokens em thinking e de 16 384 em non-thinking na explicação da extensão de treino e recomenda avaliar a qualidade de gerações mais longas. Estes valores são distintos da janela de contexto total e não são um limite rígido específico de endpoint. A ficha também explica a alocação posicional predefinida de 40 960 tokens como 8 192 para prompts típicos mais 32 768 para saída; são orientações de configuração do fabricante, separadas do contexto nativo de treino e de qualquer limite de endpoint.
As definições de amostragem recomendadas são temperature de 0,6, top-p de 0,95, top-k de 20 e min-p de 0 para thinking, e 0,7, 0,8, 20 e 0 para modo direto. O fabricante alerta contra raciocínio guloso devido à repetição; penalizações de presença altas podem por vezes misturar idiomas. Exija uma resposta final verificável, como uma tabela de decisão, a função concluída e uma lista de casos. Valide os campos estruturados devolvidos, verifique cálculos face à fonte e execute código no ambiente pretendido, mantendo esta identidade FP8 exata ao registar os resultados.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valores e limites | Predefinição |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObrigatório | Valores e limites qwen/qwen3-32b-fp8 | Predefinição— |
Campomessages | Tipomessage[] | RequisitoObrigatório | Valores e limites | Predefinição— |
Campomessages[].role | Tipostring | RequisitoObrigatório | Valores e limites user, assistant | Predefinição— |
Campomessages[].content | Tipostring | RequisitoObrigatório | Valores e limites | Predefinição— |
Campomax_tokens | Tipointeger | RequisitoObrigatório | Valores e limites | Predefinição— |
Campostream | Tipoboolean | RequisitoOpcional | Valores e limites | Predefiniçãofalse |
Texto · Texto UTF-8
Cadeia de caracteres messages[].content
| Parâmetro | Contrato |
|---|---|
Parâmetrocontent_type | Contratoapplication/json |
Parâmetrorequired | Contratomodel, messages, max_tokens |
Parâmetrooptional_controls | Contratostream |
Parâmetromaterial_types | Contratotext |
Parâmetrotext_file_material | ContratoLeia o documento UTF-8 real e coloque o texto na entrada indicada ou na cadeia de conteúdo da mensagem. |
Ciclo de vida: synchronous_or_streamed
As referências tarifárias não acrescentam opções ao pedido. Os parâmetros suportados constam do método selecionado.
| Configuração | Tabela de tarifas | Custo |
|---|---|---|
| ConfiguraçãoTarifas base dos tokens | Tabela de tarifasTarifa base | Custo Entrada · Tokens de entrada $0.0002 / 1K tokens Saída · Tokens de saída $0.001 / 1K tokens Entrada · Leitura da cache $0 / 1K tokens Entrada · Escrita na cache $0 / 1K tokens Entrada · Escrita na cache, 1 hora — / 1K tokens |
O Ailoot reserva um montante estimado antes de um pedido. Após o resultado, liquida o custo final com base na utilização medida. No streaming, a liquidação usa o registo final de utilização. Como funcionam a reserva e a liquidação →
{\n "model": "qwen/qwen3-32b-fp8",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-32b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-32b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ou SSE
Guarde cada resposta, ficheiro e parte de conteúdo devolvidos na íntegra.
Conserve todos os blocos de conteúdo, as assinaturas de raciocínio e os ID reais de utilização de ferramentas. Junte todos os deltas de blocos SSE; o primeiro bloco de texto não é a saída completa.
Conserve os ID e cabeçalhos de pedido/resposta. Não é fornecido um URL genérico para obter uma tarefa textual.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Resposta | Condição | Passo seguinte |
|---|---|---|
Resposta400 · invalid_request_error | CondiçãoCampos obrigatórios, representação do material ou valor do parâmetro inválidos | Passo seguinteCorrija os campos indicados antes de um novo pedido de criação. |
Ailoot Ultra qwen/qwen3-32b-fp8
Use os caminhos dos métodos indicados acima.
Exemplo técnico em inglês
Compare missing-value validators\n\nCompare two Python validators for an optional quantity: A uses if not value: return None; B uses if value is None: return None. Requirement: None means omitted, integer zero is valid, and negative quantities are invalid. Explain each validator's behavior for None, 0 and -1, then propose a complete function with explicit validation errors.A three-input comparison table and a proposed function implementing the supplied rules.Check zero is preserved rather than treated as missing, and negatives are rejected explicitly.