Capacités de Qwen3
Qwen3-30B-A3B-FP8 apporte le modèle hybride de génération textuelle de Qwen dans un checkpoint FP8 à granularité fine. Il accepte des conversations textuelles et produit du texte : explications, code, traductions, rédaction créative et réponses à plusieurs tours. La famille Qwen3 prend en charge 119 langues et dialectes, y compris des instructions multilingues. Ses deux modes permettent de réserver un raisonnement explicite aux mathématiques, au code et aux problèmes logiques, puis d’utiliser des réponses directes pour la réécriture ou le dialogue simples. La couverture linguistique n’implique pas une fiabilité égale dans chaque langue ou domaine spécialisé.
Vue d’ensemble du modèle
Le modèle possède 30,5 milliards de paramètres au total et en active 3,3 milliards par token. Son architecture à mélange d’experts utilise 128 experts, dont huit sélectionnés par token, sur 48 couches. Il s’agit de chiffres d’architecture ; le nombre actif plus faible ne signifie pas que le checkpoint complet ne contient que 3,3 milliards de paramètres. C’est l’édition FP8 de Qwen3-30B-A3B, distincte du checkpoint à précision numérique originale et des versions ultérieures Thinking-2507 et Instruct-2507.
Utilisation de l’interface textuelle
Préparez ensemble la tâche, le texte source pertinent et le format de réponse attendu. Pour le débogage, fournissez la fonction défaillante, l’erreur observée, le comportement voulu et une entrée minimale, puis demandez une explication suivie d’un patch et de vérifications suggérées. Pour la révision multilingue, indiquez la langue cible, le public et les termes qui doivent rester inchangés. Demandez un livrable final compact lorsqu’une longue explication masquerait le résultat. Ce sont des façons pratiques d’utiliser les capacités textuelles et de code documentées, pas des garanties que le code généré a été exécuté.
Édition FP8
Qwen indique une quantification FP8 à granularité fine avec des blocs de poids de 128 × 128. La configuration du checkpoint exclut certains composants de la conversion et utilise une quantification dynamique des activations. FP8 décrit une représentation numérique, pas un nouveau mode de conversation ni un temps de réponse promis. La compatibilité importe : la fiche Qwen indique une réserve sur l’inférence distribuée sur plusieurs appareils avec cette méthode de quantification. Un checkpoint quantifié devrait donc conserver son nom d’édition précis plutôt que d’hériter silencieusement d’affirmations sur une autre compilation.
Modes Thinking et réponse directe
Le gabarit de conversation du fabricant active Thinking par défaut. Dans ce mode, un bloc de raisonnement précède la réponse finale. Le réglage explicite enable_thinking=False supprime ce bloc. Si Thinking est activé, /think et /no_think donnent des indications pour chaque tour selon l’instruction la plus récente ; un bloc de raisonnement vide peut encore apparaître avec la désactivation textuelle. Ces marqueurs de prompt ne peuvent pas annuler la désactivation de configuration. Ce sont des contrôles documentés du fabricant ; leur exposition par une application dépend de son interface.
Usage d’agents
Qwen documente les appels d’outils dans les deux modes et recommande Qwen-Agent pour les gabarits et l’analyse nécessaires. Donnez à un agent une description d’outil claire, des entrées autorisées et un livrable précis, comme vérifier des données fournies avant de rédiger un rapport. Le modèle peut participer à un processus d’outils ; recherche, exécution de code et actions externes proviennent des outils connectés par l’application. La capacité d’appels d’outils seule ne donne pas accès aux fichiers ni aux informations actuelles.
Textes longs
Qwen décrit un contexte natif de 32 768 tokens et valide une extension à 131 072 avec YaRN. Entrée, historique de conversation, raisonnement et réponse se partagent l’espace de contexte. La configuration de positions fournie est de 40 960 ; Qwen l’explique comme une allocation pour les prompts typiques et une génération étendue, plutôt qu’un remplacement du contexte natif annoncé. Le YaRN statique peut réduire la qualité sur des entrées courtes ; l’extension dépend donc de la configuration et du besoin. Pour les documents, identifiez les sections et demandez que la réponse indique les passages étayant chaque conclusion.
Génération et limites
Qwen recommande temperature 0,6, top_p 0,95, top_k 20 et min_p 0 pour Thinking, et 0,7, 0,8, 20 et 0 pour les réponses directes. Le décodage glouton peut dégrader le raisonnement ou produire des répétitions. Ses conseils recommandent un budget de génération de 32 768 tokens pour la plupart des questions et de 38 912 pour les problèmes particulièrement complexes ; ce sont des recommandations, pas un plafond strict de sortie établi séparément. De plus fortes pénalités de présence peuvent réduire les répétitions, mais mélanger les langues ou diminuer la qualité. Conservez uniquement les réponses finales dans l’historique de conversation. Précisez explicitement le schéma de réponse requis et vérifiez résultats mathématiques, conclusions factuelles et patches générés à partir des éléments fournis avant de les utiliser.
", "aboutText": "Capacités de Qwen3\n\nQwen3-30B-A3B-FP8 apporte le modèle hybride de génération textuelle de Qwen dans un checkpoint FP8 à granularité fine. Il accepte des conversations textuelles et produit du texte : explications, code, traductions, rédaction créative et réponses à plusieurs tours. La famille Qwen3 prend en charge 119 langues et dialectes, y compris des instructions multilingues. Ses deux modes permettent de réserver un raisonnement explicite aux mathématiques, au code et aux problèmes logiques, puis d’utiliser des réponses directes pour la réécriture ou le dialogue simples. La couverture linguistique n’implique pas une fiabilité égale dans chaque langue ou domaine spécialisé.\n\nVue d’ensemble du modèle\n\nLe modèle possède 30,5 milliards de paramètres au total et en active 3,3 milliards par token. Son architecture à mélange d’experts utilise 128 experts, dont huit sélectionnés par token, sur 48 couches. Il s’agit de chiffres d’architecture ; le nombre actif plus faible ne signifie pas que le checkpoint complet ne contient que 3,3 milliards de paramètres. C’est l’édition FP8 de Qwen3-30B-A3B, distincte du checkpoint à précision numérique originale et des versions ultérieures Thinking-2507 et Instruct-2507.\n\nUtilisation de l’interface textuelle\n\nPréparez ensemble la tâche, le texte source pertinent et le format de réponse attendu. Pour le débogage, fournissez la fonction défaillante, l’erreur observée, le comportement voulu et une entrée minimale, puis demandez une explication suivie d’un patch et de vérifications suggérées. Pour la révision multilingue, indiquez la langue cible, le public et les termes qui doivent rester inchangés. Demandez un livrable final compact lorsqu’une longue explication masquerait le résultat. Ce sont des façons pratiques d’utiliser les capacités textuelles et de code documentées, pas des garanties que le code généré a été exécuté.\n\nÉdition FP8\n\nQwen indique une quantification FP8 à granularité fine avec des blocs de poids de 128 × 128. La configuration du checkpoint exclut certains composants de la conversion et utilise une quantification dynamique des activations. FP8 décrit une représentation numérique, pas un nouveau mode de conversation ni un temps de réponse promis. La compatibilité importe : la fiche Qwen indique une réserve sur l’inférence distribuée sur plusieurs appareils avec cette méthode de quantification. Un checkpoint quantifié devrait donc conserver son nom d’édition précis plutôt que d’hériter silencieusement d’affirmations sur une autre compilation.\n\nModes Thinking et réponse directe\n\nLe gabarit de conversation du fabricant active Thinking par défaut. Dans ce mode, un bloc de raisonnement précède la réponse finale. Le réglage explicite enable_thinking=False supprime ce bloc. Si Thinking est activé, /think et /no_think donnent des indications pour chaque tour selon l’instruction la plus récente ; un bloc de raisonnement vide peut encore apparaître avec la désactivation textuelle. Ces marqueurs de prompt ne peuvent pas annuler la désactivation de configuration. Ce sont des contrôles documentés du fabricant ; leur exposition par une application dépend de son interface.\n\nUsage d’agents\n\nQwen documente les appels d’outils dans les deux modes et recommande Qwen-Agent pour les gabarits et l’analyse nécessaires. Donnez à un agent une description d’outil claire, des entrées autorisées et un livrable précis, comme vérifier des données fournies avant de rédiger un rapport. Le modèle peut participer à un processus d’outils ; recherche, exécution de code et actions externes proviennent des outils connectés par l’application. La capacité d’appels d’outils seule ne donne pas accès aux fichiers ni aux informations actuelles.\n\nTextes longs\n\nQwen décrit un contexte natif de 32 768 tokens et valide une extension à 131 072 avec YaRN. Entrée, historique de conversation, raisonnement et réponse se partagent l’espace de contexte. La configuration de positions fournie est de 40 960 ; Qwen l’explique comme une allocation pour les prompts typiques et une génération étendue, plutôt qu’un remplacement du contexte natif annoncé. Le YaRN statique peut réduire la qualité sur des entrées courtes ; l’extension dépend donc de la configuration et du besoin. Pour les documents, identifiez les sections et demandez que la réponse indique les passages étayant chaque conclusion.\n\nGénération et limites\n\nQwen recommande temperature 0,6, top_p 0,95, top_k 20 et min_p 0 pour Thinking, et 0,7, 0,8, 20 et 0 pour les réponses directes. Le décodage glouton peut dégrader le raisonnement ou produire des répétitions. Ses conseils recommandent un budget de génération de 32 768 tokens pour la plupart des questions et de 38 912 pour les problèmes particulièrement complexes ; ce sont des recommandations, pas un plafond strict de sortie établi séparément. De plus fortes pénalités de présence peuvent réduire les répétitions, mais mélanger les langues ou diminuer la qualité. Conservez uniquement les réponses finales dans l’historique de conversation. Précisez explicitement le schéma de réponse requis et vérifiez résultats mathématiques, conclusions factuelles et patches générés à partir des éléments fournis avant de les utiliser.", "editorialOverlay": { "copy_fields": { "practical_html": "Exemple technique en anglais
Edit a multilingual service message\n\nTranslate into German for an office administrator: “The Atlas Link update is available, but installing it will restart the device. Save your work before starting.” Keep Atlas Link unchanged, preserve the restart warning and use a polite, concise tone. Return only the translated notice without adding a duration or maintenance window.A concise German notice retaining the product name, restart warning and save-work instruction.Check that the translation keeps the restart as a consequence of installation and does not add an unprovided downtime estimate.qwen/qwen3-30b-a3b-fp8Qwen3-30B-A3B-FP8 est le modèle textuel à mélange d’experts de Qwen quantifié en FP8, avec modes Thinking et réponse directe sélectionnables. Utilisez-le pour le raisonnement mathématique, le code, la rédaction multilingue et les tâches assistées par des outils, en conservant l’édition FP8 précise et sa configuration de contexte.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Capacités de Qwen3
Qwen3-30B-A3B-FP8 apporte le modèle hybride de génération textuelle de Qwen dans un checkpoint FP8 à granularité fine. Il accepte des conversations textuelles et produit du texte : explications, code, traductions, rédaction créative et réponses à plusieurs tours. La famille Qwen3 prend en charge 119 langues et dialectes, y compris des instructions multilingues. Ses deux modes permettent de réserver un raisonnement explicite aux mathématiques, au code et aux problèmes logiques, puis d’utiliser des réponses directes pour la réécriture ou le dialogue simples. La couverture linguistique n’implique pas une fiabilité égale dans chaque langue ou domaine spécialisé.
Vue d’ensemble du modèle
Le modèle possède 30,5 milliards de paramètres au total et en active 3,3 milliards par token. Son architecture à mélange d’experts utilise 128 experts, dont huit sélectionnés par token, sur 48 couches. Il s’agit de chiffres d’architecture ; le nombre actif plus faible ne signifie pas que le checkpoint complet ne contient que 3,3 milliards de paramètres. C’est l’édition FP8 de Qwen3-30B-A3B, distincte du checkpoint à précision numérique originale et des versions ultérieures Thinking-2507 et Instruct-2507.
Utilisation de l’interface textuelle
Préparez ensemble la tâche, le texte source pertinent et le format de réponse attendu. Pour le débogage, fournissez la fonction défaillante, l’erreur observée, le comportement voulu et une entrée minimale, puis demandez une explication suivie d’un patch et de vérifications suggérées. Pour la révision multilingue, indiquez la langue cible, le public et les termes qui doivent rester inchangés. Demandez un livrable final compact lorsqu’une longue explication masquerait le résultat. Ce sont des façons pratiques d’utiliser les capacités textuelles et de code documentées, pas des garanties que le code généré a été exécuté.
Édition FP8
Qwen indique une quantification FP8 à granularité fine avec des blocs de poids de 128 × 128. La configuration du checkpoint exclut certains composants de la conversion et utilise une quantification dynamique des activations. FP8 décrit une représentation numérique, pas un nouveau mode de conversation ni un temps de réponse promis. La compatibilité importe : la fiche Qwen indique une réserve sur l’inférence distribuée sur plusieurs appareils avec cette méthode de quantification. Un checkpoint quantifié devrait donc conserver son nom d’édition précis plutôt que d’hériter silencieusement d’affirmations sur une autre compilation.
Modes Thinking et réponse directe
Le gabarit de conversation du fabricant active Thinking par défaut. Dans ce mode, un bloc de raisonnement précède la réponse finale. Le réglage explicite enable_thinking=False supprime ce bloc. Si Thinking est activé, /think et /no_think donnent des indications pour chaque tour selon l’instruction la plus récente ; un bloc de raisonnement vide peut encore apparaître avec la désactivation textuelle. Ces marqueurs de prompt ne peuvent pas annuler la désactivation de configuration. Ce sont des contrôles documentés du fabricant ; leur exposition par une application dépend de son interface.
Usage d’agents
Qwen documente les appels d’outils dans les deux modes et recommande Qwen-Agent pour les gabarits et l’analyse nécessaires. Donnez à un agent une description d’outil claire, des entrées autorisées et un livrable précis, comme vérifier des données fournies avant de rédiger un rapport. Le modèle peut participer à un processus d’outils ; recherche, exécution de code et actions externes proviennent des outils connectés par l’application. La capacité d’appels d’outils seule ne donne pas accès aux fichiers ni aux informations actuelles.
Textes longs
Qwen décrit un contexte natif de 32 768 tokens et valide une extension à 131 072 avec YaRN. Entrée, historique de conversation, raisonnement et réponse se partagent l’espace de contexte. La configuration de positions fournie est de 40 960 ; Qwen l’explique comme une allocation pour les prompts typiques et une génération étendue, plutôt qu’un remplacement du contexte natif annoncé. Le YaRN statique peut réduire la qualité sur des entrées courtes ; l’extension dépend donc de la configuration et du besoin. Pour les documents, identifiez les sections et demandez que la réponse indique les passages étayant chaque conclusion.
Génération et limites
Qwen recommande temperature 0,6, top_p 0,95, top_k 20 et min_p 0 pour Thinking, et 0,7, 0,8, 20 et 0 pour les réponses directes. Le décodage glouton peut dégrader le raisonnement ou produire des répétitions. Ses conseils recommandent un budget de génération de 32 768 tokens pour la plupart des questions et de 38 912 pour les problèmes particulièrement complexes ; ce sont des recommandations, pas un plafond strict de sortie établi séparément. De plus fortes pénalités de présence peuvent réduire les répétitions, mais mélanger les langues ou diminuer la qualité. Conservez uniquement les réponses finales dans l’historique de conversation. Précisez explicitement le schéma de réponse requis et vérifiez résultats mathématiques, conclusions factuelles et patches générés à partir des éléments fournis avant de les utiliser.
POST /v1/chat/completionstexttext| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites qwen/qwen3-30b-a3b-fp8 | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites Nombre minimal d’éléments: 1 | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites Exemples : system, user, assistant, tool, function Conditions: Ces rôles sont explicitement représentés par les types de compatibilité du code source ; l’ensemble exact des rôles reste propre à chaque modèle. Selon le modèle | Par défaut— |
Champmessages[].content | Typestring|content_part[]|null | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_calls | Typetool_call[] | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_call_id | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: role=tool ; utilisez l’identifiant réellement renvoyé | Par défaut— |
Champmessages[].name | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].reasoning_content | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: Réinjectez le raisonnement réellement renvoyé lorsque ce modèle l’utilise | Par défaut— |
Champmessages[].reasoning_details | Typeobject|array | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champmax_completion_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Champstream_options.include_usage | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtemperature | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtop_p | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champstop | Typestring|string[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools | Typefunction_tool[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools[].type | Typestring | ExigenceFacultatif | Valeurs et limites function Selon le modèle | Par défaut— |
Champtools[].function.name | Typestring | ExigenceObligatoire | Valeurs et limites S’applique lorsque: outil de fonction fourni | Par défaut— |
Champtools[].function.description | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtools[].function.parameters | TypeJSON_schema | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtool_choice | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champparallel_tool_calls | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champresponse_format | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning_effort | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champservice_tier | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champinstructions | Typestring | ExigenceFacultatif | Valeurs et limites Champ de compatibilité | Par défaut— |
Champfunctions | Typefunction[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champfunction_call | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champprompt_cache_options | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmodalities | Typestring[] | ExigenceFacultatif | Valeurs et limites text | Par défaut— |
Champprovider | Typeobject | ExigenceFacultatif | Valeurs et limites Conditions: provider.options est rejeté sur cette route textuelle Ultra | Par défaut— |
Champcache_control.ttl | Typestring | ExigenceFacultatif | Valeurs et limites Conditions: 1h est rejeté dans les emplacements réels du cache de prompt | Par défaut— |
Texte · Texte UTF8
messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages |
Paramètrematerial_types | Contrattext |
Paramètremessages | Contrattableau de messages avec une structure role/content |
Paramètrefile_material | Contratdocument UTF-8 réel inséré sous forme de texte littéral ; aucun identifiant de fichier déduit |
Paramètreoptional_controls | Contratstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Paramètrecontrol_scope | Contratpropre au modèle ; les outils de fonctions de l’utilisateur diffèrent des outils hébergés |
Paramètreoutput_modalities | Contrattext |
Paramètrehosted_operations | Contratfalse |
Paramètremultimodal_input_binding | Contratnull |
Cycle de vie : synchronous_or_streamed
Envoyez l’identifiant exact du modèle avec messages.
La longueur du contexte n’est pas un plafond de sortie.
Un fichier texte peut fournir du texte littéral ; les entrées image/audio/objets fichier nécessitent une liaison exacte.
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
| Configuration | Barème tarifaire | Coût |
|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Coût Entrée · Tokens en entrée $0.0002 / 1K tokens Sortie · Tokens en sortie $0.001 / 1K tokens Entrée · Lecture du cache $0 / 1K tokens Entrée · Écriture dans le cache $0 / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen3-30b-a3b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen3-30b-a3b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen3-30b-a3b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez chaque choix avec son contenu, ses appels d’outils et son raisonnement. En SSE, assemblez les deltas par index de choix et d’outil, puis conservez le motif final de terminaison et les données d’utilisation.
Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.
| Champ | Type |
|---|---|
Champchoices[].index | Typeinteger |
Champchoices[].message.content | Typestring|null |
Champchoices[].message.tool_calls | Typetool_call[] |
Champchoices[].message.reasoning_content | Typestring |
Champchoices[].message.reasoning_details | Typeobject|array |
Champchoices[].finish_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra qwen/qwen3-30b-a3b-fp8
Utilisez les chemins de méthode indiqués ci-dessus.
qwen/qwen3-30b-a3b-fp8Qwen3-30B-A3B-FP8 est le modèle textuel à mélange d’experts de Qwen quantifié en FP8, avec modes Thinking et réponse directe sélectionnables. Utilisez-le pour le raisonnement mathématique, le code, la rédaction multilingue et les tâches assistées par des outils, en conservant l’édition FP8 précise et sa configuration de contexte.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Capacités de Qwen3
Qwen3-30B-A3B-FP8 apporte le modèle hybride de génération textuelle de Qwen dans un checkpoint FP8 à granularité fine. Il accepte des conversations textuelles et produit du texte : explications, code, traductions, rédaction créative et réponses à plusieurs tours. La famille Qwen3 prend en charge 119 langues et dialectes, y compris des instructions multilingues. Ses deux modes permettent de réserver un raisonnement explicite aux mathématiques, au code et aux problèmes logiques, puis d’utiliser des réponses directes pour la réécriture ou le dialogue simples. La couverture linguistique n’implique pas une fiabilité égale dans chaque langue ou domaine spécialisé.
Vue d’ensemble du modèle
Le modèle possède 30,5 milliards de paramètres au total et en active 3,3 milliards par token. Son architecture à mélange d’experts utilise 128 experts, dont huit sélectionnés par token, sur 48 couches. Il s’agit de chiffres d’architecture ; le nombre actif plus faible ne signifie pas que le checkpoint complet ne contient que 3,3 milliards de paramètres. C’est l’édition FP8 de Qwen3-30B-A3B, distincte du checkpoint à précision numérique originale et des versions ultérieures Thinking-2507 et Instruct-2507.
Utilisation de l’interface textuelle
Préparez ensemble la tâche, le texte source pertinent et le format de réponse attendu. Pour le débogage, fournissez la fonction défaillante, l’erreur observée, le comportement voulu et une entrée minimale, puis demandez une explication suivie d’un patch et de vérifications suggérées. Pour la révision multilingue, indiquez la langue cible, le public et les termes qui doivent rester inchangés. Demandez un livrable final compact lorsqu’une longue explication masquerait le résultat. Ce sont des façons pratiques d’utiliser les capacités textuelles et de code documentées, pas des garanties que le code généré a été exécuté.
Édition FP8
Qwen indique une quantification FP8 à granularité fine avec des blocs de poids de 128 × 128. La configuration du checkpoint exclut certains composants de la conversion et utilise une quantification dynamique des activations. FP8 décrit une représentation numérique, pas un nouveau mode de conversation ni un temps de réponse promis. La compatibilité importe : la fiche Qwen indique une réserve sur l’inférence distribuée sur plusieurs appareils avec cette méthode de quantification. Un checkpoint quantifié devrait donc conserver son nom d’édition précis plutôt que d’hériter silencieusement d’affirmations sur une autre compilation.
Modes Thinking et réponse directe
Le gabarit de conversation du fabricant active Thinking par défaut. Dans ce mode, un bloc de raisonnement précède la réponse finale. Le réglage explicite enable_thinking=False supprime ce bloc. Si Thinking est activé, /think et /no_think donnent des indications pour chaque tour selon l’instruction la plus récente ; un bloc de raisonnement vide peut encore apparaître avec la désactivation textuelle. Ces marqueurs de prompt ne peuvent pas annuler la désactivation de configuration. Ce sont des contrôles documentés du fabricant ; leur exposition par une application dépend de son interface.
Usage d’agents
Qwen documente les appels d’outils dans les deux modes et recommande Qwen-Agent pour les gabarits et l’analyse nécessaires. Donnez à un agent une description d’outil claire, des entrées autorisées et un livrable précis, comme vérifier des données fournies avant de rédiger un rapport. Le modèle peut participer à un processus d’outils ; recherche, exécution de code et actions externes proviennent des outils connectés par l’application. La capacité d’appels d’outils seule ne donne pas accès aux fichiers ni aux informations actuelles.
Textes longs
Qwen décrit un contexte natif de 32 768 tokens et valide une extension à 131 072 avec YaRN. Entrée, historique de conversation, raisonnement et réponse se partagent l’espace de contexte. La configuration de positions fournie est de 40 960 ; Qwen l’explique comme une allocation pour les prompts typiques et une génération étendue, plutôt qu’un remplacement du contexte natif annoncé. Le YaRN statique peut réduire la qualité sur des entrées courtes ; l’extension dépend donc de la configuration et du besoin. Pour les documents, identifiez les sections et demandez que la réponse indique les passages étayant chaque conclusion.
Génération et limites
Qwen recommande temperature 0,6, top_p 0,95, top_k 20 et min_p 0 pour Thinking, et 0,7, 0,8, 20 et 0 pour les réponses directes. Le décodage glouton peut dégrader le raisonnement ou produire des répétitions. Ses conseils recommandent un budget de génération de 32 768 tokens pour la plupart des questions et de 38 912 pour les problèmes particulièrement complexes ; ce sont des recommandations, pas un plafond strict de sortie établi séparément. De plus fortes pénalités de présence peuvent réduire les répétitions, mais mélanger les langues ou diminuer la qualité. Conservez uniquement les réponses finales dans l’historique de conversation. Précisez explicitement le schéma de réponse requis et vérifiez résultats mathématiques, conclusions factuelles et patches générés à partir des éléments fournis avant de les utiliser.
POST /v1/messagestextjson, sse| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites qwen/qwen3-30b-a3b-fp8 | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites user, assistant | Par défaut— |
Champmessages[].content | Typestring | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Texte · Texte UTF-8
chaîne messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages, max_tokens |
Paramètreoptional_controls | Contratstream |
Paramètrematerial_types | Contrattext |
Paramètretext_file_material | ContratLisez le document UTF-8 réel et placez son texte dans l’entrée indiquée ou dans la chaîne de contenu du message. |
Cycle de vie : synchronous_or_streamed
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
| Configuration | Barème tarifaire | Coût |
|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Coût Entrée · Tokens en entrée $0.0002 / 1K tokens Sortie · Tokens en sortie $0.001 / 1K tokens Entrée · Lecture du cache $0 / 1K tokens Entrée · Écriture dans le cache $0 / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
{\n "model": "qwen/qwen3-30b-a3b-fp8",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-30b-a3b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-30b-a3b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez tous les blocs de contenu, les signatures de raisonnement et les identifiants réels d’utilisation d’outils. Assemblez tous les deltas de blocs SSE ; un premier bloc de texte ne constitue pas la sortie complète.
Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.
| Champ | Type |
|---|---|
Champid | Typestring |
Champmodel | Typestring |
Champcontent[] | Typetext|thinking|tool_use|other content block |
Champstop_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra qwen/qwen3-30b-a3b-fp8
Utilisez les chemins de méthode indiqués ci-dessus.
Exemple technique en anglais
Edit a multilingual service message\n\nTranslate into German for an office administrator: “The Atlas Link update is available, but installing it will restart the device. Save your work before starting.” Keep Atlas Link unchanged, preserve the restart warning and use a polite, concise tone. Return only the translated notice without adding a duration or maintenance window.A concise German notice retaining the product name, restart warning and save-work instruction.Check that the translation keeps the restart as a consequence of installation and does not add an unprovided downtime estimate.