Qwen3-235B-A22B-FP8 é a edição FP8 oficial de Qwen3-235B-A22B. As capacidades textuais anunciadas abrangem raciocínio matemático e lógico, geração de código, escrita criativa, diálogo baseado em papéis e cumprimento de instruções em vários turnos em mais de 100 idiomas e dialetos. Combina modos thinking e de resposta direta. Use-o numa tarefa que reúna várias restrições, como comparar duas implementações com a mesma especificação e transformar a comparação numa proposta concreta de alteração.
A arquitetura subjacente é de mistura de especialistas: 235 mil milhões de parâmetros no total, 22 mil milhões ativos durante o processamento, 94 camadas e 128 especialistas, com oito selecionados por token. A atenção com consultas agrupadas usa 64 cabeças de consulta e quatro cabeças de chave/valor. O sufixo FP8 identifica um checkpoint publicado separadamente, e não uma modalidade de resposta adicional ou um número de parâmetros diferente. O modelo recebe texto e gera texto. Forneça a um assistente de revisão de código a especificação, os ficheiros de origem relevantes e o comportamento esperado; peça uma tabela de decisão, a alteração selecionada e exemplos que demonstrem o resultado pretendido.
O fluxo inicial do fabricante formata a fonte e as instruções como uma conversa. Para comparar documentos, identifique as versões, indique a autoridade de cada fonte e os requisitos que devem permanecer inalterados. Para uma pergunta matemática, inclua o enunciado completo e a forma pretendida da resposta final. Para uma tarefa de implementação, especifique a linguagem, o formato real da entrada, o caso de falha e as interfaces a preservar. Torne o resultado final explícito para que uma resposta longa continue a resolver o pedido original. A integração publicada espera um ambiente de execução compatível com Qwen3; a ficha alerta que versões de Transformers inferiores a 4.51.0 não reconhecem a arquitetura necessária.
Esta edição tem uma nota FP8 específica. O checkpoint usa quantização FP8 de granularidade fina com tamanho de bloco 128; a configuração publicada regista o esquema de quantização. O fabricante indica Transformers, SGLang e vLLM como opções de inferência, alertando para problemas de FP8 de granularidade fina na inferência distribuída com Transformers. O uso de vários dispositivos pode requerer CUDA_LAUNCH_BLOCKING=1. É um detalhe de compatibilidade específico da edição, e não um motivo para assumir velocidade, uso de memória ou qualidade de saída idênticos entre ambientes de execução. Preserve o nome FP8 completo ao comparar ou registar resultados e avalie o checkpoint real no ambiente pretendido.
Thinking é a predefinição no template de conversação fornecido, e um controlo rígido pode desativá-lo. Com thinking ativado, /think e /no_think podem controlar turnos individuais; prevalece a instrução mais recente. Os controlos suaves não se sobrepõem a uma desativação rígida. Mantenha a resposta final distinta da secção de raciocínio gerada e leve a resposta final para o histórico do diálogo posterior. Uma análise detalhada de contradições pode pedir thinking, enquanto um seguimento que reformate uma conclusão aceite pode pedir uma resposta direta. Com thinking ativado, mesmo um pedido suave de non-thinking mantém um bloco de raciocínio; o seu conteúdo pode estar vazio. A desativação rígida remove esse bloco.
A ficha recomenda Qwen-Agent para templates e análise de chamadas de ferramentas. Num assistente de engenharia, a aplicação pode disponibilizar um executor de testes ou uma consulta só de leitura ao código de origem, executar a chamada aceite e devolver evidências para a resposta seguinte. Especifique as entradas, permissões e campos de resultado da ferramenta. Exija que o assistente relacione a alteração proposta com o resultado devolvido e distinga um teste que pede de um teste que a aplicação realmente concluiu. As capacidades do modelo relacionadas com ferramentas dependem desse fluxo de execução envolvente. O guia Qwen3 também descreve chamadas de ferramentas paralelas e com vários passos, com argumentos representados como objetos e resultados devolvidos à conversa.
O contexto nativo é de 32 768 tokens, com 131 072 documentados através da expansão YaRN. A entrada e a saída gerada partilham o orçamento da sequência. A janela maior requer a configuração relevante, e YaRN estático pode afetar entradas curtas. Organize o material de origem longo por ficheiro ou secção e reserve espaço para a comparação ou o código finais. As extensões de saída mostradas no guia de início rápido e nas recomendações de boas práticas são orientações de geração, e não prova de um máximo de saída independente aplicável a todo o serviço. A documentação Qwen3 discute extensões de mensagens do assistente de 38 912 tokens no modo thinking e de 16 384 no modo non-thinking na explicação da extensão de treino e recomenda avaliar a qualidade de gerações mais longas. Estes valores são distintos da janela de contexto total e não constituem um limite rígido específico de um endpoint. A ficha também explica a sua alocação posicional predefinida de 40 960 tokens como 8 192 para prompts típicos mais 32 768 para saída; são orientações de configuração do fabricante, separadas do contexto nativo de treino e de qualquer limite de endpoint.
A amostragem recomendada no modo thinking é temperature de 0,6, top-p de 0,95, top-k de 20 e min-p de 0; o modo direto usa 0,7, 0,8, 20 e 0. A descodificação gulosa em thinking pode levar a repetição, e penalizações de presença mais fortes podem introduzir mistura de idiomas. Peça uma estrutura final verificável, como uma tabela de resultados seguida da função alterada e dos casos relevantes. Verifique as conclusões numéricas, execute o código no ambiente de destino e reveja os resultados das ferramentas antes de aplicar uma alteração proposta. A identidade do checkpoint FP8 e as suas ressalvas de execução devem acompanhar essa avaliação.
", "aboutText": "Qwen3-235B-A22B-FP8 é a edição FP8 oficial de Qwen3-235B-A22B. As capacidades textuais anunciadas abrangem raciocínio matemático e lógico, geração de código, escrita criativa, diálogo baseado em papéis e cumprimento de instruções em vários turnos em mais de 100 idiomas e dialetos. Combina modos thinking e de resposta direta. Use-o numa tarefa que reúna várias restrições, como comparar duas implementações com a mesma especificação e transformar a comparação numa proposta concreta de alteração.\n\nA arquitetura subjacente é de mistura de especialistas: 235 mil milhões de parâmetros no total, 22 mil milhões ativos durante o processamento, 94 camadas e 128 especialistas, com oito selecionados por token. A atenção com consultas agrupadas usa 64 cabeças de consulta e quatro cabeças de chave/valor. O sufixo FP8 identifica um checkpoint publicado separadamente, e não uma modalidade de resposta adicional ou um número de parâmetros diferente. O modelo recebe texto e gera texto. Forneça a um assistente de revisão de código a especificação, os ficheiros de origem relevantes e o comportamento esperado; peça uma tabela de decisão, a alteração selecionada e exemplos que demonstrem o resultado pretendido.\n\nO fluxo inicial do fabricante formata a fonte e as instruções como uma conversa. Para comparar documentos, identifique as versões, indique a autoridade de cada fonte e os requisitos que devem permanecer inalterados. Para uma pergunta matemática, inclua o enunciado completo e a forma pretendida da resposta final. Para uma tarefa de implementação, especifique a linguagem, o formato real da entrada, o caso de falha e as interfaces a preservar. Torne o resultado final explícito para que uma resposta longa continue a resolver o pedido original. A integração publicada espera um ambiente de execução compatível com Qwen3; a ficha alerta que versões de Transformers inferiores a 4.51.0 não reconhecem a arquitetura necessária.\n\nEsta edição tem uma nota FP8 específica. O checkpoint usa quantização FP8 de granularidade fina com tamanho de bloco 128; a configuração publicada regista o esquema de quantização. O fabricante indica Transformers, SGLang e vLLM como opções de inferência, alertando para problemas de FP8 de granularidade fina na inferência distribuída com Transformers. O uso de vários dispositivos pode requerer CUDA_LAUNCH_BLOCKING=1. É um detalhe de compatibilidade específico da edição, e não um motivo para assumir velocidade, uso de memória ou qualidade de saída idênticos entre ambientes de execução. Preserve o nome FP8 completo ao comparar ou registar resultados e avalie o checkpoint real no ambiente pretendido.\n\nThinking é a predefinição no template de conversação fornecido, e um controlo rígido pode desativá-lo. Com thinking ativado, /think e /no_think podem controlar turnos individuais; prevalece a instrução mais recente. Os controlos suaves não se sobrepõem a uma desativação rígida. Mantenha a resposta final distinta da secção de raciocínio gerada e leve a resposta final para o histórico do diálogo posterior. Uma análise detalhada de contradições pode pedir thinking, enquanto um seguimento que reformate uma conclusão aceite pode pedir uma resposta direta. Com thinking ativado, mesmo um pedido suave de non-thinking mantém um bloco de raciocínio; o seu conteúdo pode estar vazio. A desativação rígida remove esse bloco.\n\nA ficha recomenda Qwen-Agent para templates e análise de chamadas de ferramentas. Num assistente de engenharia, a aplicação pode disponibilizar um executor de testes ou uma consulta só de leitura ao código de origem, executar a chamada aceite e devolver evidências para a resposta seguinte. Especifique as entradas, permissões e campos de resultado da ferramenta. Exija que o assistente relacione a alteração proposta com o resultado devolvido e distinga um teste que pede de um teste que a aplicação realmente concluiu. As capacidades do modelo relacionadas com ferramentas dependem desse fluxo de execução envolvente. O guia Qwen3 também descreve chamadas de ferramentas paralelas e com vários passos, com argumentos representados como objetos e resultados devolvidos à conversa.\n\nO contexto nativo é de 32 768 tokens, com 131 072 documentados através da expansão YaRN. A entrada e a saída gerada partilham o orçamento da sequência. A janela maior requer a configuração relevante, e YaRN estático pode afetar entradas curtas. Organize o material de origem longo por ficheiro ou secção e reserve espaço para a comparação ou o código finais. As extensões de saída mostradas no guia de início rápido e nas recomendações de boas práticas são orientações de geração, e não prova de um máximo de saída independente aplicável a todo o serviço. A documentação Qwen3 discute extensões de mensagens do assistente de 38 912 tokens no modo thinking e de 16 384 no modo non-thinking na explicação da extensão de treino e recomenda avaliar a qualidade de gerações mais longas. Estes valores são distintos da janela de contexto total e não constituem um limite rígido específico de um endpoint. A ficha também explica a sua alocação posicional predefinida de 40 960 tokens como 8 192 para prompts típicos mais 32 768 para saída; são orientações de configuração do fabricante, separadas do contexto nativo de treino e de qualquer limite de endpoint.\n\nA amostragem recomendada no modo thinking é temperature de 0,6, top-p de 0,95, top-k de 20 e min-p de 0; o modo direto usa 0,7, 0,8, 20 e 0. A descodificação gulosa em thinking pode levar a repetição, e penalizações de presença mais fortes podem introduzir mistura de idiomas. Peça uma estrutura final verificável, como uma tabela de resultados seguida da função alterada e dos casos relevantes. Verifique as conclusões numéricas, execute o código no ambiente de destino e reveja os resultados das ferramentas antes de aplicar uma alteração proposta. A identidade do checkpoint FP8 e as suas ressalvas de execução devem acompanhar essa avaliação.", "editorialOverlay": { "copy_fields": { "practical_html": "Exemplo técnico em inglês
Compare two normalizers to a contract\n\nThe contract requires unique case-sensitive tags in first-occurrence order. Compare Python A: return sorted(set(tags)) with B: return list(dict.fromkeys(tags)). Input: ["red", "Blue", "red", "blue"]. Give a criterion table, select the compliant implementation and provide tests for order and case preservation. Do not alter the contract to fit either implementation.A two-implementation decision table, a selected implementation and two contract-focused tests.Check that sorting is recognized as an order violation and Blue remains distinct from blue.qwen/qwen3-235b-a22b-fp8Qwen3-235B-A22B-FP8 é o checkpoint FP8 oficial de granularidade fina do grande modelo de mistura de especialistas de Qwen3. Mantém as capacidades híbridas de raciocínio textual e diálogo, com a sua própria identidade de quantização e considerações de execução.
Esta descrição apresenta as capacidades do modelo. As entradas, saídas e opções disponíveis no Ailoot para o método selecionado estão indicadas abaixo.
Qwen3-235B-A22B-FP8 é a edição FP8 oficial de Qwen3-235B-A22B. As capacidades textuais anunciadas abrangem raciocínio matemático e lógico, geração de código, escrita criativa, diálogo baseado em papéis e cumprimento de instruções em vários turnos em mais de 100 idiomas e dialetos. Combina modos thinking e de resposta direta. Use-o numa tarefa que reúna várias restrições, como comparar duas implementações com a mesma especificação e transformar a comparação numa proposta concreta de alteração.
A arquitetura subjacente é de mistura de especialistas: 235 mil milhões de parâmetros no total, 22 mil milhões ativos durante o processamento, 94 camadas e 128 especialistas, com oito selecionados por token. A atenção com consultas agrupadas usa 64 cabeças de consulta e quatro cabeças de chave/valor. O sufixo FP8 identifica um checkpoint publicado separadamente, e não uma modalidade de resposta adicional ou um número de parâmetros diferente. O modelo recebe texto e gera texto. Forneça a um assistente de revisão de código a especificação, os ficheiros de origem relevantes e o comportamento esperado; peça uma tabela de decisão, a alteração selecionada e exemplos que demonstrem o resultado pretendido.
O fluxo inicial do fabricante formata a fonte e as instruções como uma conversa. Para comparar documentos, identifique as versões, indique a autoridade de cada fonte e os requisitos que devem permanecer inalterados. Para uma pergunta matemática, inclua o enunciado completo e a forma pretendida da resposta final. Para uma tarefa de implementação, especifique a linguagem, o formato real da entrada, o caso de falha e as interfaces a preservar. Torne o resultado final explícito para que uma resposta longa continue a resolver o pedido original. A integração publicada espera um ambiente de execução compatível com Qwen3; a ficha alerta que versões de Transformers inferiores a 4.51.0 não reconhecem a arquitetura necessária.
Esta edição tem uma nota FP8 específica. O checkpoint usa quantização FP8 de granularidade fina com tamanho de bloco 128; a configuração publicada regista o esquema de quantização. O fabricante indica Transformers, SGLang e vLLM como opções de inferência, alertando para problemas de FP8 de granularidade fina na inferência distribuída com Transformers. O uso de vários dispositivos pode requerer CUDA_LAUNCH_BLOCKING=1. É um detalhe de compatibilidade específico da edição, e não um motivo para assumir velocidade, uso de memória ou qualidade de saída idênticos entre ambientes de execução. Preserve o nome FP8 completo ao comparar ou registar resultados e avalie o checkpoint real no ambiente pretendido.
Thinking é a predefinição no template de conversação fornecido, e um controlo rígido pode desativá-lo. Com thinking ativado, /think e /no_think podem controlar turnos individuais; prevalece a instrução mais recente. Os controlos suaves não se sobrepõem a uma desativação rígida. Mantenha a resposta final distinta da secção de raciocínio gerada e leve a resposta final para o histórico do diálogo posterior. Uma análise detalhada de contradições pode pedir thinking, enquanto um seguimento que reformate uma conclusão aceite pode pedir uma resposta direta. Com thinking ativado, mesmo um pedido suave de non-thinking mantém um bloco de raciocínio; o seu conteúdo pode estar vazio. A desativação rígida remove esse bloco.
A ficha recomenda Qwen-Agent para templates e análise de chamadas de ferramentas. Num assistente de engenharia, a aplicação pode disponibilizar um executor de testes ou uma consulta só de leitura ao código de origem, executar a chamada aceite e devolver evidências para a resposta seguinte. Especifique as entradas, permissões e campos de resultado da ferramenta. Exija que o assistente relacione a alteração proposta com o resultado devolvido e distinga um teste que pede de um teste que a aplicação realmente concluiu. As capacidades do modelo relacionadas com ferramentas dependem desse fluxo de execução envolvente. O guia Qwen3 também descreve chamadas de ferramentas paralelas e com vários passos, com argumentos representados como objetos e resultados devolvidos à conversa.
O contexto nativo é de 32 768 tokens, com 131 072 documentados através da expansão YaRN. A entrada e a saída gerada partilham o orçamento da sequência. A janela maior requer a configuração relevante, e YaRN estático pode afetar entradas curtas. Organize o material de origem longo por ficheiro ou secção e reserve espaço para a comparação ou o código finais. As extensões de saída mostradas no guia de início rápido e nas recomendações de boas práticas são orientações de geração, e não prova de um máximo de saída independente aplicável a todo o serviço. A documentação Qwen3 discute extensões de mensagens do assistente de 38 912 tokens no modo thinking e de 16 384 no modo non-thinking na explicação da extensão de treino e recomenda avaliar a qualidade de gerações mais longas. Estes valores são distintos da janela de contexto total e não constituem um limite rígido específico de um endpoint. A ficha também explica a sua alocação posicional predefinida de 40 960 tokens como 8 192 para prompts típicos mais 32 768 para saída; são orientações de configuração do fabricante, separadas do contexto nativo de treino e de qualquer limite de endpoint.
A amostragem recomendada no modo thinking é temperature de 0,6, top-p de 0,95, top-k de 20 e min-p de 0; o modo direto usa 0,7, 0,8, 20 e 0. A descodificação gulosa em thinking pode levar a repetição, e penalizações de presença mais fortes podem introduzir mistura de idiomas. Peça uma estrutura final verificável, como uma tabela de resultados seguida da função alterada e dos casos relevantes. Verifique as conclusões numéricas, execute o código no ambiente de destino e reveja os resultados das ferramentas antes de aplicar uma alteração proposta. A identidade do checkpoint FP8 e as suas ressalvas de execução devem acompanhar essa avaliação.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valores e limites | Predefinição |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObrigatório | Valores e limites qwen/qwen3-235b-a22b-fp8 | Predefinição— |
Campomessages | Tipomessage[] | RequisitoObrigatório | Valores e limites Número mínimo de elementos: 1 | Predefinição— |
Campomessages[].role | Tipostring | RequisitoObrigatório | Valores e limites Exemplos: system, user, assistant, tool, function Condições: Estes papéis são representados explicitamente pelos tipos de compatibilidade do código-fonte; o conjunto exato de papéis continua específico do modelo. Depende do modelo | Predefinição— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoOpcional | Valores e limites | Predefinição— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoOpcional | Valores e limites | Predefinição— |
Campomessages[].tool_call_id | Tipostring | RequisitoOpcional | Valores e limites Aplica-se quando: role=tool; use o ID realmente devolvido | Predefinição— |
Campomessages[].name | Tipostring | RequisitoOpcional | Valores e limites | Predefinição— |
Campomessages[].reasoning_content | Tipostring | RequisitoOpcional | Valores e limites Aplica-se quando: Reintroduza o raciocínio realmente devolvido quando este modelo o utiliza | Predefinição— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campomax_tokens | Tipointeger | RequisitoOpcional | Valores e limites Mínimo: 1 Depende do modelo | Predefinição— |
Campomax_completion_tokens | Tipointeger | RequisitoOpcional | Valores e limites Mínimo: 1 Depende do modelo | Predefinição— |
Campostream | Tipoboolean | RequisitoOpcional | Valores e limites | Predefiniçãofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campotemperature | Tiponumber | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campotop_p | Tiponumber | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campostop | Tipostring|string[] | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campotools | Tipofunction_tool[] | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campotools[].type | Tipostring | RequisitoOpcional | Valores e limites function Depende do modelo | Predefinição— |
Campotools[].function.name | Tipostring | RequisitoObrigatório | Valores e limites Aplica-se quando: Função fornecida como ferramenta | Predefinição— |
Campotools[].function.description | Tipostring | RequisitoOpcional | Valores e limites | Predefinição— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoOpcional | Valores e limites | Predefinição— |
Campotool_choice | Tipostring|object | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campoparallel_tool_calls | Tipoboolean | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Camporesponse_format | Tipoobject | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Camporeasoning_effort | Tipostring | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Camporeasoning | Tipoobject | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Camposervice_tier | Tipostring | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campoinstructions | Tipostring | RequisitoOpcional | Valores e limites Campo de compatibilidade | Predefinição— |
Campofunctions | Tipofunction[] | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campofunction_call | Tipostring|object | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campoprompt_cache_options | Tipoobject | RequisitoOpcional | Valores e limites Depende do modelo | Predefinição— |
Campomodalities | Tipostring[] | RequisitoOpcional | Valores e limites text | Predefinição— |
Campoprovider | Tipoobject | RequisitoOpcional | Valores e limites Condições: provider.options é rejeitado nesta rota textual Ultra | Predefinição— |
Campocache_control.ttl | Tipostring | RequisitoOpcional | Valores e limites Condições: 1h é rejeitado nos locais efetivos da cache de prompts | Predefinição— |
Texto · Texto UTF8
messages[].content
| Parâmetro | Contrato |
|---|---|
Parâmetrocontent_type | Contratoapplication/json |
Parâmetrorequired | Contratomodel, messages |
Parâmetromaterial_types | Contratotext |
Parâmetromessages | ContratoLista de mensagens com estrutura role/content |
Parâmetrofile_material | ContratoDocumento UTF-8 real inserido como texto literal; nenhum ID de ficheiro inferido |
Parâmetrooptional_controls | Contratostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parâmetrocontrol_scope | ContratoEspecífico do modelo; as ferramentas de funções do utilizador diferem das ferramentas alojadas |
Parâmetrooutput_modalities | Contratotext |
Parâmetrohosted_operations | Contratofalse |
Parâmetromultimodal_input_binding | Contratonull |
Ciclo de vida: synchronous_or_streamed
Envie o ID exato do modelo com messages.
O comprimento do contexto não é um limite de saída.
Um ficheiro de texto pode fornecer texto literal; as entradas de imagem/áudio/objeto de ficheiro exigem uma associação exata.
As referências tarifárias não acrescentam opções ao pedido. Os parâmetros suportados constam do método selecionado.
| Configuração | Tabela de tarifas | Custo |
|---|---|---|
| ConfiguraçãoTarifas base dos tokens | Tabela de tarifasTarifa base | Custo Entrada · Tokens de entrada $0.0004 / 1K tokens Saída · Tokens de saída $0.0016 / 1K tokens Entrada · Leitura da cache $0 / 1K tokens Entrada · Escrita na cache $0 / 1K tokens Entrada · Escrita na cache, 1 hora — / 1K tokens |
O Ailoot reserva um montante estimado antes de um pedido. Após o resultado, liquida o custo final com base na utilização medida. No streaming, a liquidação usa o registo final de utilização. Como funcionam a reserva e a liquidação →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen3-235b-a22b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen3-235b-a22b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen3-235b-a22b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ou SSE
Guarde cada resposta, ficheiro e parte de conteúdo devolvidos na íntegra.
Conserve cada opção com o conteúdo, as chamadas de ferramentas e o raciocínio. Em SSE, junte os deltas por índice de opção e ferramenta e mantenha o motivo final de conclusão e os dados de utilização.
Conserve os ID e cabeçalhos de pedido/resposta. Não é fornecido um URL genérico para obter uma tarefa textual.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Resposta | Condição | Passo seguinte |
|---|---|---|
Resposta400 · invalid_request_error | CondiçãoCampos obrigatórios, representação do material ou valor do parâmetro inválidos | Passo seguinteCorrija os campos indicados antes de um novo pedido de criação. |
Ailoot Ultra qwen/qwen3-235b-a22b-fp8
Use os caminhos dos métodos indicados acima.
qwen/qwen3-235b-a22b-fp8Qwen3-235B-A22B-FP8 é o checkpoint FP8 oficial de granularidade fina do grande modelo de mistura de especialistas de Qwen3. Mantém as capacidades híbridas de raciocínio textual e diálogo, com a sua própria identidade de quantização e considerações de execução.
Esta descrição apresenta as capacidades do modelo. As entradas, saídas e opções disponíveis no Ailoot para o método selecionado estão indicadas abaixo.
Qwen3-235B-A22B-FP8 é a edição FP8 oficial de Qwen3-235B-A22B. As capacidades textuais anunciadas abrangem raciocínio matemático e lógico, geração de código, escrita criativa, diálogo baseado em papéis e cumprimento de instruções em vários turnos em mais de 100 idiomas e dialetos. Combina modos thinking e de resposta direta. Use-o numa tarefa que reúna várias restrições, como comparar duas implementações com a mesma especificação e transformar a comparação numa proposta concreta de alteração.
A arquitetura subjacente é de mistura de especialistas: 235 mil milhões de parâmetros no total, 22 mil milhões ativos durante o processamento, 94 camadas e 128 especialistas, com oito selecionados por token. A atenção com consultas agrupadas usa 64 cabeças de consulta e quatro cabeças de chave/valor. O sufixo FP8 identifica um checkpoint publicado separadamente, e não uma modalidade de resposta adicional ou um número de parâmetros diferente. O modelo recebe texto e gera texto. Forneça a um assistente de revisão de código a especificação, os ficheiros de origem relevantes e o comportamento esperado; peça uma tabela de decisão, a alteração selecionada e exemplos que demonstrem o resultado pretendido.
O fluxo inicial do fabricante formata a fonte e as instruções como uma conversa. Para comparar documentos, identifique as versões, indique a autoridade de cada fonte e os requisitos que devem permanecer inalterados. Para uma pergunta matemática, inclua o enunciado completo e a forma pretendida da resposta final. Para uma tarefa de implementação, especifique a linguagem, o formato real da entrada, o caso de falha e as interfaces a preservar. Torne o resultado final explícito para que uma resposta longa continue a resolver o pedido original. A integração publicada espera um ambiente de execução compatível com Qwen3; a ficha alerta que versões de Transformers inferiores a 4.51.0 não reconhecem a arquitetura necessária.
Esta edição tem uma nota FP8 específica. O checkpoint usa quantização FP8 de granularidade fina com tamanho de bloco 128; a configuração publicada regista o esquema de quantização. O fabricante indica Transformers, SGLang e vLLM como opções de inferência, alertando para problemas de FP8 de granularidade fina na inferência distribuída com Transformers. O uso de vários dispositivos pode requerer CUDA_LAUNCH_BLOCKING=1. É um detalhe de compatibilidade específico da edição, e não um motivo para assumir velocidade, uso de memória ou qualidade de saída idênticos entre ambientes de execução. Preserve o nome FP8 completo ao comparar ou registar resultados e avalie o checkpoint real no ambiente pretendido.
Thinking é a predefinição no template de conversação fornecido, e um controlo rígido pode desativá-lo. Com thinking ativado, /think e /no_think podem controlar turnos individuais; prevalece a instrução mais recente. Os controlos suaves não se sobrepõem a uma desativação rígida. Mantenha a resposta final distinta da secção de raciocínio gerada e leve a resposta final para o histórico do diálogo posterior. Uma análise detalhada de contradições pode pedir thinking, enquanto um seguimento que reformate uma conclusão aceite pode pedir uma resposta direta. Com thinking ativado, mesmo um pedido suave de non-thinking mantém um bloco de raciocínio; o seu conteúdo pode estar vazio. A desativação rígida remove esse bloco.
A ficha recomenda Qwen-Agent para templates e análise de chamadas de ferramentas. Num assistente de engenharia, a aplicação pode disponibilizar um executor de testes ou uma consulta só de leitura ao código de origem, executar a chamada aceite e devolver evidências para a resposta seguinte. Especifique as entradas, permissões e campos de resultado da ferramenta. Exija que o assistente relacione a alteração proposta com o resultado devolvido e distinga um teste que pede de um teste que a aplicação realmente concluiu. As capacidades do modelo relacionadas com ferramentas dependem desse fluxo de execução envolvente. O guia Qwen3 também descreve chamadas de ferramentas paralelas e com vários passos, com argumentos representados como objetos e resultados devolvidos à conversa.
O contexto nativo é de 32 768 tokens, com 131 072 documentados através da expansão YaRN. A entrada e a saída gerada partilham o orçamento da sequência. A janela maior requer a configuração relevante, e YaRN estático pode afetar entradas curtas. Organize o material de origem longo por ficheiro ou secção e reserve espaço para a comparação ou o código finais. As extensões de saída mostradas no guia de início rápido e nas recomendações de boas práticas são orientações de geração, e não prova de um máximo de saída independente aplicável a todo o serviço. A documentação Qwen3 discute extensões de mensagens do assistente de 38 912 tokens no modo thinking e de 16 384 no modo non-thinking na explicação da extensão de treino e recomenda avaliar a qualidade de gerações mais longas. Estes valores são distintos da janela de contexto total e não constituem um limite rígido específico de um endpoint. A ficha também explica a sua alocação posicional predefinida de 40 960 tokens como 8 192 para prompts típicos mais 32 768 para saída; são orientações de configuração do fabricante, separadas do contexto nativo de treino e de qualquer limite de endpoint.
A amostragem recomendada no modo thinking é temperature de 0,6, top-p de 0,95, top-k de 20 e min-p de 0; o modo direto usa 0,7, 0,8, 20 e 0. A descodificação gulosa em thinking pode levar a repetição, e penalizações de presença mais fortes podem introduzir mistura de idiomas. Peça uma estrutura final verificável, como uma tabela de resultados seguida da função alterada e dos casos relevantes. Verifique as conclusões numéricas, execute o código no ambiente de destino e reveja os resultados das ferramentas antes de aplicar uma alteração proposta. A identidade do checkpoint FP8 e as suas ressalvas de execução devem acompanhar essa avaliação.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valores e limites | Predefinição |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObrigatório | Valores e limites qwen/qwen3-235b-a22b-fp8 | Predefinição— |
Campomessages | Tipomessage[] | RequisitoObrigatório | Valores e limites | Predefinição— |
Campomessages[].role | Tipostring | RequisitoObrigatório | Valores e limites user, assistant | Predefinição— |
Campomessages[].content | Tipostring | RequisitoObrigatório | Valores e limites | Predefinição— |
Campomax_tokens | Tipointeger | RequisitoObrigatório | Valores e limites | Predefinição— |
Campostream | Tipoboolean | RequisitoOpcional | Valores e limites | Predefiniçãofalse |
Texto · Texto UTF-8
Cadeia de caracteres messages[].content
| Parâmetro | Contrato |
|---|---|
Parâmetrocontent_type | Contratoapplication/json |
Parâmetrorequired | Contratomodel, messages, max_tokens |
Parâmetrooptional_controls | Contratostream |
Parâmetromaterial_types | Contratotext |
Parâmetrotext_file_material | ContratoLeia o documento UTF-8 real e coloque o texto na entrada indicada ou na cadeia de conteúdo da mensagem. |
Ciclo de vida: synchronous_or_streamed
As referências tarifárias não acrescentam opções ao pedido. Os parâmetros suportados constam do método selecionado.
| Configuração | Tabela de tarifas | Custo |
|---|---|---|
| ConfiguraçãoTarifas base dos tokens | Tabela de tarifasTarifa base | Custo Entrada · Tokens de entrada $0.0004 / 1K tokens Saída · Tokens de saída $0.0016 / 1K tokens Entrada · Leitura da cache $0 / 1K tokens Entrada · Escrita na cache $0 / 1K tokens Entrada · Escrita na cache, 1 hora — / 1K tokens |
O Ailoot reserva um montante estimado antes de um pedido. Após o resultado, liquida o custo final com base na utilização medida. No streaming, a liquidação usa o registo final de utilização. Como funcionam a reserva e a liquidação →
{\n "model": "qwen/qwen3-235b-a22b-fp8",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-235b-a22b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-235b-a22b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ou SSE
Guarde cada resposta, ficheiro e parte de conteúdo devolvidos na íntegra.
Conserve todos os blocos de conteúdo, as assinaturas de raciocínio e os ID reais de utilização de ferramentas. Junte todos os deltas de blocos SSE; o primeiro bloco de texto não é a saída completa.
Conserve os ID e cabeçalhos de pedido/resposta. Não é fornecido um URL genérico para obter uma tarefa textual.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Resposta | Condição | Passo seguinte |
|---|---|---|
Resposta400 · invalid_request_error | CondiçãoCampos obrigatórios, representação do material ou valor do parâmetro inválidos | Passo seguinteCorrija os campos indicados antes de um novo pedido de criação. |
Ailoot Ultra qwen/qwen3-235b-a22b-fp8
Use os caminhos dos métodos indicados acima.
Exemplo técnico em inglês
Compare two normalizers to a contract\n\nThe contract requires unique case-sensitive tags in first-occurrence order. Compare Python A: return sorted(set(tags)) with B: return list(dict.fromkeys(tags)). Input: ["red", "Blue", "red", "blue"]. Give a criterion table, select the compliant implementation and provide tests for order and case preservation. Do not alter the contract to fit either implementation.A two-implementation decision table, a selected implementation and two contract-focused tests.Check that sorting is recognized as an order violation and Blue remains distinct from blue.