Qwen3-8B est un modèle linguistique dense Qwen3 qui combine raisonnement et génération textuelle ordinaire. Ses points forts annoncés comprennent les mathématiques, la résolution de problèmes logiques, le code, l’écriture créative, le dialogue fondé sur des rôles et le suivi des consignes sur plusieurs tours. La famille prend en charge plus de 100 langues et dialectes. Une application pratique est un assistant de support multilingue qui transforme le message d’un client et un extrait de politique fourni en une réponse utile, tout en conservant les noms de produits et le ton demandé.
Cette version comporte 8,2 milliards de paramètres, dont 6,95 milliards hors embeddings, et 36 couches. Elle utilise l’attention à requêtes groupées avec 32 têtes de requête et huit têtes clé/valeur. Il s’agit d’un modèle dense distinct, et non du modèle à mélange d’experts 235B utilisé avec moins d’experts. L’entrée de travail et le résultat généré sont textuels : traduction, explication, document révisé, plan ou programme. Choisissez une tâche claire avant d’ajouter du contexte. Pour une réponse d’assistance, fournissez le message client, la politique applicable, la terminologie approuvée et l’action que le lecteur doit effectuer ; demandez une réponse et une liste distincte des faits encore manquants.
Le flux initial du fabricant utilise une séquence de messages de chat et un modèle de conversation explicite. Pour l’assistance au code, incluez la fonction pertinente, une entrée qui révèle le problème, la sortie réelle et le résultat attendu. Demandez une fonction corrigée accompagnée d’exemples, avec une explication distincte du comportement modifié. Pour une traduction, indiquez les langues source et cible, les lecteurs et les termes à préserver. Ces entrées facilitent la comparaison du texte résultant avec l’exigence d’origine. L’intégration publiée attend un runtime compatible avec Qwen3 ; la fiche avertit que les versions de Transformers antérieures à 4.51.0 ne reconnaissent pas l’architecture requise.
Le même modèle prend en charge les modes thinking et non-thinking. Thinking est activé par défaut dans le modèle de conversation fourni. Une désactivation ferme supprime la section de raisonnement ; lorsque thinking reste activé, /think et /no_think peuvent modifier le choix entre les tours. La plus récente de ces consignes prévaut, et ces changements au niveau du prompt ne peuvent pas annuler une désactivation ferme. Dans un workflow produit, utilisez le mode direct pour une courte réécriture de message approuvé et choisissez le raisonnement pour un écart nécessitant une explication. Séparez la réponse finale du raisonnement intermédiaire et ne conservez que la réponse finale dans l’historique de conversation ultérieur. Lorsque thinking est activé, même une consigne souple non-thinking conserve un bloc de raisonnement ; son contenu peut être vide. La désactivation ferme supprime ce bloc.
Le fabricant décrit l’appel d’outils et recommande Qwen-Agent pour gérer les modèles de conversation et le parsing. Une application peut fournir des définitions d’outils, exécuter les appels demandés et renvoyer leurs résultats. Pour un assistant de support, une consultation de commande ciblée et en lecture seule pourrait fournir un état d’expédition confirmé avant que le modèle ne rédige une réponse. Précisez les champs de consultation autorisés et la manière de signaler un enregistrement manquant. Le livrable final utile est une réponse fondée sur les informations renvoyées, et non une affirmation non étayée selon laquelle une opération externe a réussi. Le guide Qwen3 décrit également les appels d’outils parallèles et à plusieurs étapes, avec des arguments représentés sous forme d’objets et des résultats renvoyés dans la conversation.
La fiche du modèle annonce 32 768 tokens de contexte natif et 131 072 avec l’extension YaRN. Le comportement en contexte long dépend donc de la configuration réelle. YaRN statique peut affecter les requêtes plus courtes ; la fiche recommande donc de l’activer lorsqu’un contexte long est nécessaire. L’entrée, l’historique de conversation et la sortie générée consomment un budget de contexte partagé. Identifiez les longues sections sources, supprimez les doublons sans rapport et laissez de la place pour la réponse demandée. L’exemple de génération publié et les recommandations de sortie sont des indications de configuration, et non une limite ferme indépendante de sortie maximale. La documentation Qwen3 évoque des longueurs de messages assistant de 38 912 tokens en mode thinking et de 16 384 en mode non-thinking dans son explication des longueurs d’entraînement, et recommande d’évaluer la qualité des générations plus longues. Ces chiffres sont distincts de la fenêtre de contexte globale et ne sont pas une limite ferme propre à un endpoint. La fiche explique également son allocation positionnelle par défaut de 40 960 tokens, soit 8 192 pour les prompts typiques plus 32 768 pour la sortie ; il s’agit de recommandations de configuration du fabricant, distinctes du contexte d’entraînement natif et de toute limite d’endpoint.
Pour le mode thinking, les valeurs d’échantillonnage recommandées sont une température de 0.6, top-p à 0.95, top-k à 20 et min-p à 0 ; pour non-thinking, elles sont de 0.7, 0.8, 20 et 0. Le fabricant avertit qu’un raisonnement avec décodage glouton peut produire du texte répété. Des pénalités de présence plus élevées peuvent réduire les répétitions tout en provoquant parfois un mélange de langues. Définissez explicitement le format final, par exemple une réponse suivie d’un objet JSON contenant les champs non résolus, et validez cet objet avant qu’une application ne l’utilise. Vérifiez le code proposé avec les cas fournis et examinez les traductions pour contrôler la préservation de la terminologie.
", "aboutText": "Qwen3-8B est un modèle linguistique dense Qwen3 qui combine raisonnement et génération textuelle ordinaire. Ses points forts annoncés comprennent les mathématiques, la résolution de problèmes logiques, le code, l’écriture créative, le dialogue fondé sur des rôles et le suivi des consignes sur plusieurs tours. La famille prend en charge plus de 100 langues et dialectes. Une application pratique est un assistant de support multilingue qui transforme le message d’un client et un extrait de politique fourni en une réponse utile, tout en conservant les noms de produits et le ton demandé.\n\nCette version comporte 8,2 milliards de paramètres, dont 6,95 milliards hors embeddings, et 36 couches. Elle utilise l’attention à requêtes groupées avec 32 têtes de requête et huit têtes clé/valeur. Il s’agit d’un modèle dense distinct, et non du modèle à mélange d’experts 235B utilisé avec moins d’experts. L’entrée de travail et le résultat généré sont textuels : traduction, explication, document révisé, plan ou programme. Choisissez une tâche claire avant d’ajouter du contexte. Pour une réponse d’assistance, fournissez le message client, la politique applicable, la terminologie approuvée et l’action que le lecteur doit effectuer ; demandez une réponse et une liste distincte des faits encore manquants.\n\nLe flux initial du fabricant utilise une séquence de messages de chat et un modèle de conversation explicite. Pour l’assistance au code, incluez la fonction pertinente, une entrée qui révèle le problème, la sortie réelle et le résultat attendu. Demandez une fonction corrigée accompagnée d’exemples, avec une explication distincte du comportement modifié. Pour une traduction, indiquez les langues source et cible, les lecteurs et les termes à préserver. Ces entrées facilitent la comparaison du texte résultant avec l’exigence d’origine. L’intégration publiée attend un runtime compatible avec Qwen3 ; la fiche avertit que les versions de Transformers antérieures à 4.51.0 ne reconnaissent pas l’architecture requise.\n\nLe même modèle prend en charge les modes thinking et non-thinking. Thinking est activé par défaut dans le modèle de conversation fourni. Une désactivation ferme supprime la section de raisonnement ; lorsque thinking reste activé, /think et /no_think peuvent modifier le choix entre les tours. La plus récente de ces consignes prévaut, et ces changements au niveau du prompt ne peuvent pas annuler une désactivation ferme. Dans un workflow produit, utilisez le mode direct pour une courte réécriture de message approuvé et choisissez le raisonnement pour un écart nécessitant une explication. Séparez la réponse finale du raisonnement intermédiaire et ne conservez que la réponse finale dans l’historique de conversation ultérieur. Lorsque thinking est activé, même une consigne souple non-thinking conserve un bloc de raisonnement ; son contenu peut être vide. La désactivation ferme supprime ce bloc.\n\nLe fabricant décrit l’appel d’outils et recommande Qwen-Agent pour gérer les modèles de conversation et le parsing. Une application peut fournir des définitions d’outils, exécuter les appels demandés et renvoyer leurs résultats. Pour un assistant de support, une consultation de commande ciblée et en lecture seule pourrait fournir un état d’expédition confirmé avant que le modèle ne rédige une réponse. Précisez les champs de consultation autorisés et la manière de signaler un enregistrement manquant. Le livrable final utile est une réponse fondée sur les informations renvoyées, et non une affirmation non étayée selon laquelle une opération externe a réussi. Le guide Qwen3 décrit également les appels d’outils parallèles et à plusieurs étapes, avec des arguments représentés sous forme d’objets et des résultats renvoyés dans la conversation.\n\nLa fiche du modèle annonce 32 768 tokens de contexte natif et 131 072 avec l’extension YaRN. Le comportement en contexte long dépend donc de la configuration réelle. YaRN statique peut affecter les requêtes plus courtes ; la fiche recommande donc de l’activer lorsqu’un contexte long est nécessaire. L’entrée, l’historique de conversation et la sortie générée consomment un budget de contexte partagé. Identifiez les longues sections sources, supprimez les doublons sans rapport et laissez de la place pour la réponse demandée. L’exemple de génération publié et les recommandations de sortie sont des indications de configuration, et non une limite ferme indépendante de sortie maximale. La documentation Qwen3 évoque des longueurs de messages assistant de 38 912 tokens en mode thinking et de 16 384 en mode non-thinking dans son explication des longueurs d’entraînement, et recommande d’évaluer la qualité des générations plus longues. Ces chiffres sont distincts de la fenêtre de contexte globale et ne sont pas une limite ferme propre à un endpoint. La fiche explique également son allocation positionnelle par défaut de 40 960 tokens, soit 8 192 pour les prompts typiques plus 32 768 pour la sortie ; il s’agit de recommandations de configuration du fabricant, distinctes du contexte d’entraînement natif et de toute limite d’endpoint.\n\nPour le mode thinking, les valeurs d’échantillonnage recommandées sont une température de 0.6, top-p à 0.95, top-k à 20 et min-p à 0 ; pour non-thinking, elles sont de 0.7, 0.8, 20 et 0. Le fabricant avertit qu’un raisonnement avec décodage glouton peut produire du texte répété. Des pénalités de présence plus élevées peuvent réduire les répétitions tout en provoquant parfois un mélange de langues. Définissez explicitement le format final, par exemple une réponse suivie d’un objet JSON contenant les champs non résolus, et validez cet objet avant qu’une application ne l’utilise. Vérifiez le code proposé avec les cas fournis et examinez les traductions pour contrôler la préservation de la terminologie.", "editorialOverlay": { "copy_fields": { "practical_html": "Exemple technique en anglais
A bilingual reply grounded in a return policy\n\nDraft a German reply to this customer: 'Can I return my unused Aero Cup after ten days?' Policy P1: unused products can be returned within 14 days; the customer must provide the order reference. Keep Aero Cup unchanged and ask for the missing reference. Follow the reply with a short English note naming the facts used.A polite German customer reply and a brief English source-fact note.The reply preserves the unused condition and 14-day window, asks for the reference and does not invent refund timing.qwen3-8bQwen3-8B offre la génération de texte multilingue, le code et deux modes de réponse dans un modèle dense de 8.2 milliards de paramètres. Utilisez les réponses directes pour les échanges quotidiens et le mode de raisonnement pour les problèmes nécessitant une analyse plus approfondie.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Qwen3-8B est un modèle linguistique dense Qwen3 qui combine raisonnement et génération textuelle ordinaire. Ses points forts annoncés comprennent les mathématiques, la résolution de problèmes logiques, le code, l’écriture créative, le dialogue fondé sur des rôles et le suivi des consignes sur plusieurs tours. La famille prend en charge plus de 100 langues et dialectes. Une application pratique est un assistant de support multilingue qui transforme le message d’un client et un extrait de politique fourni en une réponse utile, tout en conservant les noms de produits et le ton demandé.
Cette version comporte 8,2 milliards de paramètres, dont 6,95 milliards hors embeddings, et 36 couches. Elle utilise l’attention à requêtes groupées avec 32 têtes de requête et huit têtes clé/valeur. Il s’agit d’un modèle dense distinct, et non du modèle à mélange d’experts 235B utilisé avec moins d’experts. L’entrée de travail et le résultat généré sont textuels : traduction, explication, document révisé, plan ou programme. Choisissez une tâche claire avant d’ajouter du contexte. Pour une réponse d’assistance, fournissez le message client, la politique applicable, la terminologie approuvée et l’action que le lecteur doit effectuer ; demandez une réponse et une liste distincte des faits encore manquants.
Le flux initial du fabricant utilise une séquence de messages de chat et un modèle de conversation explicite. Pour l’assistance au code, incluez la fonction pertinente, une entrée qui révèle le problème, la sortie réelle et le résultat attendu. Demandez une fonction corrigée accompagnée d’exemples, avec une explication distincte du comportement modifié. Pour une traduction, indiquez les langues source et cible, les lecteurs et les termes à préserver. Ces entrées facilitent la comparaison du texte résultant avec l’exigence d’origine. L’intégration publiée attend un runtime compatible avec Qwen3 ; la fiche avertit que les versions de Transformers antérieures à 4.51.0 ne reconnaissent pas l’architecture requise.
Le même modèle prend en charge les modes thinking et non-thinking. Thinking est activé par défaut dans le modèle de conversation fourni. Une désactivation ferme supprime la section de raisonnement ; lorsque thinking reste activé, /think et /no_think peuvent modifier le choix entre les tours. La plus récente de ces consignes prévaut, et ces changements au niveau du prompt ne peuvent pas annuler une désactivation ferme. Dans un workflow produit, utilisez le mode direct pour une courte réécriture de message approuvé et choisissez le raisonnement pour un écart nécessitant une explication. Séparez la réponse finale du raisonnement intermédiaire et ne conservez que la réponse finale dans l’historique de conversation ultérieur. Lorsque thinking est activé, même une consigne souple non-thinking conserve un bloc de raisonnement ; son contenu peut être vide. La désactivation ferme supprime ce bloc.
Le fabricant décrit l’appel d’outils et recommande Qwen-Agent pour gérer les modèles de conversation et le parsing. Une application peut fournir des définitions d’outils, exécuter les appels demandés et renvoyer leurs résultats. Pour un assistant de support, une consultation de commande ciblée et en lecture seule pourrait fournir un état d’expédition confirmé avant que le modèle ne rédige une réponse. Précisez les champs de consultation autorisés et la manière de signaler un enregistrement manquant. Le livrable final utile est une réponse fondée sur les informations renvoyées, et non une affirmation non étayée selon laquelle une opération externe a réussi. Le guide Qwen3 décrit également les appels d’outils parallèles et à plusieurs étapes, avec des arguments représentés sous forme d’objets et des résultats renvoyés dans la conversation.
La fiche du modèle annonce 32 768 tokens de contexte natif et 131 072 avec l’extension YaRN. Le comportement en contexte long dépend donc de la configuration réelle. YaRN statique peut affecter les requêtes plus courtes ; la fiche recommande donc de l’activer lorsqu’un contexte long est nécessaire. L’entrée, l’historique de conversation et la sortie générée consomment un budget de contexte partagé. Identifiez les longues sections sources, supprimez les doublons sans rapport et laissez de la place pour la réponse demandée. L’exemple de génération publié et les recommandations de sortie sont des indications de configuration, et non une limite ferme indépendante de sortie maximale. La documentation Qwen3 évoque des longueurs de messages assistant de 38 912 tokens en mode thinking et de 16 384 en mode non-thinking dans son explication des longueurs d’entraînement, et recommande d’évaluer la qualité des générations plus longues. Ces chiffres sont distincts de la fenêtre de contexte globale et ne sont pas une limite ferme propre à un endpoint. La fiche explique également son allocation positionnelle par défaut de 40 960 tokens, soit 8 192 pour les prompts typiques plus 32 768 pour la sortie ; il s’agit de recommandations de configuration du fabricant, distinctes du contexte d’entraînement natif et de toute limite d’endpoint.
Pour le mode thinking, les valeurs d’échantillonnage recommandées sont une température de 0.6, top-p à 0.95, top-k à 20 et min-p à 0 ; pour non-thinking, elles sont de 0.7, 0.8, 20 et 0. Le fabricant avertit qu’un raisonnement avec décodage glouton peut produire du texte répété. Des pénalités de présence plus élevées peuvent réduire les répétitions tout en provoquant parfois un mélange de langues. Définissez explicitement le format final, par exemple une réponse suivie d’un objet JSON contenant les champs non résolus, et validez cet objet avant qu’une application ne l’utilise. Vérifiez le code proposé avec les cas fournis et examinez les traductions pour contrôler la préservation de la terminologie.
POST /v1/chat/completionstexttext| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites qwen3-8b | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites Nombre minimal d’éléments: 1 | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites Exemples : system, user, assistant, tool, function Conditions: Ces rôles sont explicitement représentés par les types de compatibilité du code source ; l’ensemble exact des rôles reste propre à chaque modèle. Selon le modèle | Par défaut— |
Champmessages[].content | Typestring|content_part[]|null | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_calls | Typetool_call[] | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_call_id | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: role=tool ; utilisez l’identifiant réellement renvoyé | Par défaut— |
Champmessages[].name | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].reasoning_content | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: Réinjectez le raisonnement réellement renvoyé lorsque ce modèle l’utilise | Par défaut— |
Champmessages[].reasoning_details | Typeobject|array | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champmax_completion_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Champstream_options.include_usage | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtemperature | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtop_p | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champstop | Typestring|string[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools | Typefunction_tool[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools[].type | Typestring | ExigenceFacultatif | Valeurs et limites function Selon le modèle | Par défaut— |
Champtools[].function.name | Typestring | ExigenceObligatoire | Valeurs et limites S’applique lorsque: outil de fonction fourni | Par défaut— |
Champtools[].function.description | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtools[].function.parameters | TypeJSON_schema | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtool_choice | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champparallel_tool_calls | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champresponse_format | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning_effort | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champservice_tier | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champinstructions | Typestring | ExigenceFacultatif | Valeurs et limites Champ de compatibilité | Par défaut— |
Champfunctions | Typefunction[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champfunction_call | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champprompt_cache_options | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmodalities | Typestring[] | ExigenceFacultatif | Valeurs et limites text | Par défaut— |
Champprovider | Typeobject | ExigenceFacultatif | Valeurs et limites Conditions: provider.options est rejeté sur cette route textuelle Ultra | Par défaut— |
Champcache_control.ttl | Typestring | ExigenceFacultatif | Valeurs et limites Conditions: 1h est rejeté dans les emplacements réels du cache de prompt | Par défaut— |
Texte · Texte UTF8
messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages |
Paramètrematerial_types | Contrattext |
Paramètremessages | Contrattableau de messages avec une structure role/content |
Paramètrefile_material | Contratdocument UTF-8 réel inséré sous forme de texte littéral ; aucun identifiant de fichier déduit |
Paramètreoptional_controls | Contratstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Paramètrecontrol_scope | Contratpropre au modèle ; les outils de fonctions de l’utilisateur diffèrent des outils hébergés |
Paramètreoutput_modalities | Contrattext |
Paramètrehosted_operations | Contratfalse |
Paramètremultimodal_input_binding | Contratnull |
Cycle de vie : synchronous_or_streamed
Envoyez l’identifiant exact du modèle avec messages.
La longueur du contexte n’est pas un plafond de sortie.
Un fichier texte peut fournir du texte littéral ; les entrées image/audio/objets fichier nécessitent une liaison exacte.
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
| Configuration | Barème tarifaire | Coût |
|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Coût Entrée · Tokens en entrée $0.000144 / 1K tokens Sortie · Tokens en sortie $0.00144 / 1K tokens Entrée · Lecture du cache $0 / 1K tokens Entrée · Écriture dans le cache $0 / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen3-8b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen3-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen3-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez chaque choix avec son contenu, ses appels d’outils et son raisonnement. En SSE, assemblez les deltas par index de choix et d’outil, puis conservez le motif final de terminaison et les données d’utilisation.
Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.
| Champ | Type |
|---|---|
Champchoices[].index | Typeinteger |
Champchoices[].message.content | Typestring|null |
Champchoices[].message.tool_calls | Typetool_call[] |
Champchoices[].message.reasoning_content | Typestring |
Champchoices[].message.reasoning_details | Typeobject|array |
Champchoices[].finish_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra qwen3-8b
Utilisez les chemins de méthode indiqués ci-dessus.
qwen3-8bQwen3-8B offre la génération de texte multilingue, le code et deux modes de réponse dans un modèle dense de 8.2 milliards de paramètres. Utilisez les réponses directes pour les échanges quotidiens et le mode de raisonnement pour les problèmes nécessitant une analyse plus approfondie.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Qwen3-8B est un modèle linguistique dense Qwen3 qui combine raisonnement et génération textuelle ordinaire. Ses points forts annoncés comprennent les mathématiques, la résolution de problèmes logiques, le code, l’écriture créative, le dialogue fondé sur des rôles et le suivi des consignes sur plusieurs tours. La famille prend en charge plus de 100 langues et dialectes. Une application pratique est un assistant de support multilingue qui transforme le message d’un client et un extrait de politique fourni en une réponse utile, tout en conservant les noms de produits et le ton demandé.
Cette version comporte 8,2 milliards de paramètres, dont 6,95 milliards hors embeddings, et 36 couches. Elle utilise l’attention à requêtes groupées avec 32 têtes de requête et huit têtes clé/valeur. Il s’agit d’un modèle dense distinct, et non du modèle à mélange d’experts 235B utilisé avec moins d’experts. L’entrée de travail et le résultat généré sont textuels : traduction, explication, document révisé, plan ou programme. Choisissez une tâche claire avant d’ajouter du contexte. Pour une réponse d’assistance, fournissez le message client, la politique applicable, la terminologie approuvée et l’action que le lecteur doit effectuer ; demandez une réponse et une liste distincte des faits encore manquants.
Le flux initial du fabricant utilise une séquence de messages de chat et un modèle de conversation explicite. Pour l’assistance au code, incluez la fonction pertinente, une entrée qui révèle le problème, la sortie réelle et le résultat attendu. Demandez une fonction corrigée accompagnée d’exemples, avec une explication distincte du comportement modifié. Pour une traduction, indiquez les langues source et cible, les lecteurs et les termes à préserver. Ces entrées facilitent la comparaison du texte résultant avec l’exigence d’origine. L’intégration publiée attend un runtime compatible avec Qwen3 ; la fiche avertit que les versions de Transformers antérieures à 4.51.0 ne reconnaissent pas l’architecture requise.
Le même modèle prend en charge les modes thinking et non-thinking. Thinking est activé par défaut dans le modèle de conversation fourni. Une désactivation ferme supprime la section de raisonnement ; lorsque thinking reste activé, /think et /no_think peuvent modifier le choix entre les tours. La plus récente de ces consignes prévaut, et ces changements au niveau du prompt ne peuvent pas annuler une désactivation ferme. Dans un workflow produit, utilisez le mode direct pour une courte réécriture de message approuvé et choisissez le raisonnement pour un écart nécessitant une explication. Séparez la réponse finale du raisonnement intermédiaire et ne conservez que la réponse finale dans l’historique de conversation ultérieur. Lorsque thinking est activé, même une consigne souple non-thinking conserve un bloc de raisonnement ; son contenu peut être vide. La désactivation ferme supprime ce bloc.
Le fabricant décrit l’appel d’outils et recommande Qwen-Agent pour gérer les modèles de conversation et le parsing. Une application peut fournir des définitions d’outils, exécuter les appels demandés et renvoyer leurs résultats. Pour un assistant de support, une consultation de commande ciblée et en lecture seule pourrait fournir un état d’expédition confirmé avant que le modèle ne rédige une réponse. Précisez les champs de consultation autorisés et la manière de signaler un enregistrement manquant. Le livrable final utile est une réponse fondée sur les informations renvoyées, et non une affirmation non étayée selon laquelle une opération externe a réussi. Le guide Qwen3 décrit également les appels d’outils parallèles et à plusieurs étapes, avec des arguments représentés sous forme d’objets et des résultats renvoyés dans la conversation.
La fiche du modèle annonce 32 768 tokens de contexte natif et 131 072 avec l’extension YaRN. Le comportement en contexte long dépend donc de la configuration réelle. YaRN statique peut affecter les requêtes plus courtes ; la fiche recommande donc de l’activer lorsqu’un contexte long est nécessaire. L’entrée, l’historique de conversation et la sortie générée consomment un budget de contexte partagé. Identifiez les longues sections sources, supprimez les doublons sans rapport et laissez de la place pour la réponse demandée. L’exemple de génération publié et les recommandations de sortie sont des indications de configuration, et non une limite ferme indépendante de sortie maximale. La documentation Qwen3 évoque des longueurs de messages assistant de 38 912 tokens en mode thinking et de 16 384 en mode non-thinking dans son explication des longueurs d’entraînement, et recommande d’évaluer la qualité des générations plus longues. Ces chiffres sont distincts de la fenêtre de contexte globale et ne sont pas une limite ferme propre à un endpoint. La fiche explique également son allocation positionnelle par défaut de 40 960 tokens, soit 8 192 pour les prompts typiques plus 32 768 pour la sortie ; il s’agit de recommandations de configuration du fabricant, distinctes du contexte d’entraînement natif et de toute limite d’endpoint.
Pour le mode thinking, les valeurs d’échantillonnage recommandées sont une température de 0.6, top-p à 0.95, top-k à 20 et min-p à 0 ; pour non-thinking, elles sont de 0.7, 0.8, 20 et 0. Le fabricant avertit qu’un raisonnement avec décodage glouton peut produire du texte répété. Des pénalités de présence plus élevées peuvent réduire les répétitions tout en provoquant parfois un mélange de langues. Définissez explicitement le format final, par exemple une réponse suivie d’un objet JSON contenant les champs non résolus, et validez cet objet avant qu’une application ne l’utilise. Vérifiez le code proposé avec les cas fournis et examinez les traductions pour contrôler la préservation de la terminologie.
POST /v1/messagestextjson, sse| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites qwen3-8b | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites user, assistant | Par défaut— |
Champmessages[].content | Typestring | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Texte · Texte UTF-8
chaîne messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages, max_tokens |
Paramètreoptional_controls | Contratstream |
Paramètrematerial_types | Contrattext |
Paramètretext_file_material | ContratLisez le document UTF-8 réel et placez son texte dans l’entrée indiquée ou dans la chaîne de contenu du message. |
Cycle de vie : synchronous_or_streamed
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
| Configuration | Barème tarifaire | Coût |
|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Coût Entrée · Tokens en entrée $0.000144 / 1K tokens Sortie · Tokens en sortie $0.00144 / 1K tokens Entrée · Lecture du cache $0 / 1K tokens Entrée · Écriture dans le cache $0 / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
{\n "model": "qwen3-8b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen3-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen3-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez tous les blocs de contenu, les signatures de raisonnement et les identifiants réels d’utilisation d’outils. Assemblez tous les deltas de blocs SSE ; un premier bloc de texte ne constitue pas la sortie complète.
Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.
| Champ | Type |
|---|---|
Champid | Typestring |
Champmodel | Typestring |
Champcontent[] | Typetext|thinking|tool_use|other content block |
Champstop_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra qwen3-8b
Utilisez les chemins de méthode indiqués ci-dessus.
Exemple technique en anglais
A bilingual reply grounded in a return policy\n\nDraft a German reply to this customer: 'Can I return my unused Aero Cup after ten days?' Policy P1: unused products can be returned within 14 days; the customer must provide the order reference. Keep Aero Cup unchanged and ask for the missing reference. Follow the reply with a short English note naming the facts used.A polite German customer reply and a brief English source-fact note.The reply preserves the unused condition and 14-day window, asks for the reference and does not invent refund timing.