Qwen3-8B est un modèle de langage dense de la famille Qwen3 qui combine raisonnement et génération de texte ordinaire. Ses points forts annoncés comprennent les mathématiques, la résolution de problèmes logiques, le code, l’écriture créative, le dialogue fondé sur des rôles et le suivi d’instructions sur plusieurs tours. La famille prend en charge plus de 100 langues et dialectes. Une application concrète consiste à créer un assistant de soutien multilingue qui transforme le message d’un client et un extrait de politique fourni en une réponse utile, tout en conservant les noms des produits et le ton demandé.
Cette version compte 8,2 milliards de paramètres, dont 6,95 milliards hors embeddings, et 36 couches. Elle utilise une attention à requêtes groupées avec 32 têtes de requête et huit têtes de clé/valeur. Il s’agit d’un modèle dense distinct, et non du modèle à mélange d’experts 235B fonctionnant avec moins d’experts. L’entrée de travail et le résultat généré sont du texte : traduction, explication, document révisé, plan ou programme. Choisissez une tâche claire avant d’ajouter du contexte. Pour une réponse de soutien, fournissez le message du client, la politique applicable, la terminologie approuvée et l’action attendue du lecteur ; demandez une réponse et une liste séparée des faits encore manquants.
Le flux de démarrage du fabricant utilise une séquence de messages de conversation et un gabarit de conversation explicite. Pour l’aide au code, incluez la fonction pertinente, une entrée qui révèle le problème, la sortie réelle et le résultat attendu. Demandez une fonction corrigée accompagnée d’exemples, avec une explication séparée du changement de comportement. Pour la traduction, précisez les langues source et cible, les lecteurs et les termes à conserver. Ces éléments facilitent la comparaison du texte obtenu avec l’exigence initiale. L’intégration publiée attend un environnement d’exécution compatible avec Qwen3 ; la fiche avertit que les versions de Transformers antérieures à 4.51.0 ne reconnaissent pas l’architecture requise.
Le même modèle prend en charge les modes avec et sans raisonnement. Le raisonnement est activé par défaut dans le gabarit fourni. Une désactivation stricte supprime la section de raisonnement ; lorsqu’il reste activé, /think et /no_think peuvent modifier le choix entre les tours. La plus récente de ces instructions a priorité, et ces commandes dans le prompt ne peuvent pas annuler une désactivation stricte. Dans un flux de produit, utilisez le mode direct pour une courte réécriture de message approuvé et sélectionnez le raisonnement pour expliquer un écart. Séparez la réponse finale du raisonnement intermédiaire et ne conservez que la réponse finale dans l’historique de conversation ultérieur. Lorsque le raisonnement est activé, même une demande souple de réponse sans raisonnement conserve un bloc de raisonnement ; son contenu peut être vide. La désactivation stricte supprime ce bloc.
Le fabricant décrit l’appel d’outils et recommande Qwen-Agent pour gérer les gabarits et l’analyse des réponses. Une application peut fournir des définitions d’outils, exécuter les appels demandés et renvoyer leurs résultats. Pour un assistant de soutien, une consultation de commande limitée et en lecture seule pourrait fournir un état d’expédition confirmé avant la rédaction de la réponse par le modèle. Précisez les champs consultables et la manière de signaler un dossier introuvable. Le livrable final utile est une réponse fondée sur les renseignements renvoyés, plutôt qu’une affirmation sans preuve de la réussite d’une opération externe. Le guide Qwen3 décrit aussi les appels d’outils parallèles et en plusieurs étapes, avec des arguments représentés sous forme d’objets et des résultats réinjectés dans la conversation.
La fiche du modèle indique un contexte natif de 32 768 jetons et de 131 072 avec l’extension YaRN. Le comportement en contexte long dépend donc de la configuration réelle. YaRN statique peut affecter les requêtes plus courtes ; la fiche conseille donc de l’activer lorsqu’un contexte long est nécessaire. L’entrée, l’historique de conversation et la sortie générée consomment un budget de contexte partagé. Étiquetez les longues sections source, retirez les doublons non pertinents et gardez de la place pour la réponse demandée. L’exemple de génération publié et les recommandations de sortie sont des indications de configuration, et non une limite maximale stricte de sortie indépendante. Dans son explication des longueurs d’entraînement, la documentation Qwen3 évoque des messages d’assistant de 38 912 jetons en mode raisonnement et de 16 384 en mode sans raisonnement, et recommande d’évaluer la qualité des générations plus longues. Ces chiffres sont distincts de la fenêtre de contexte globale et ne constituent pas un plafond strict propre à un point de terminaison. La fiche explique aussi son allocation positionnelle par défaut de 40 960 jetons : 8 192 pour les prompts typiques et 32 768 pour la sortie. Il s’agit d’indications de configuration du fabricant, distinctes du contexte natif d’entraînement et de toute limite du point de terminaison.
En mode raisonnement, les valeurs d’échantillonnage recommandées sont une température de 0.6, top-p de 0.95, top-k de 20 et min-p de 0 ; sans raisonnement, elles sont de 0.7, 0.8, 20 et 0. Le fabricant avertit qu’un raisonnement à sélection gloutonne peut produire du texte répétitif. Des pénalités de présence plus élevées peuvent réduire la répétition tout en provoquant parfois un mélange de langues. Définissez explicitement le format final, par exemple une réponse suivie d’un objet JSON contenant les champs non résolus, et validez cet objet avant qu’une application l’utilise. Vérifiez le code proposé avec les cas fournis et relisez les traductions pour contrôler la conservation de la terminologie.
", "aboutText": "Qwen3-8B est un modèle de langage dense de la famille Qwen3 qui combine raisonnement et génération de texte ordinaire. Ses points forts annoncés comprennent les mathématiques, la résolution de problèmes logiques, le code, l’écriture créative, le dialogue fondé sur des rôles et le suivi d’instructions sur plusieurs tours. La famille prend en charge plus de 100 langues et dialectes. Une application concrète consiste à créer un assistant de soutien multilingue qui transforme le message d’un client et un extrait de politique fourni en une réponse utile, tout en conservant les noms des produits et le ton demandé.\n\nCette version compte 8,2 milliards de paramètres, dont 6,95 milliards hors embeddings, et 36 couches. Elle utilise une attention à requêtes groupées avec 32 têtes de requête et huit têtes de clé/valeur. Il s’agit d’un modèle dense distinct, et non du modèle à mélange d’experts 235B fonctionnant avec moins d’experts. L’entrée de travail et le résultat généré sont du texte : traduction, explication, document révisé, plan ou programme. Choisissez une tâche claire avant d’ajouter du contexte. Pour une réponse de soutien, fournissez le message du client, la politique applicable, la terminologie approuvée et l’action attendue du lecteur ; demandez une réponse et une liste séparée des faits encore manquants.\n\nLe flux de démarrage du fabricant utilise une séquence de messages de conversation et un gabarit de conversation explicite. Pour l’aide au code, incluez la fonction pertinente, une entrée qui révèle le problème, la sortie réelle et le résultat attendu. Demandez une fonction corrigée accompagnée d’exemples, avec une explication séparée du changement de comportement. Pour la traduction, précisez les langues source et cible, les lecteurs et les termes à conserver. Ces éléments facilitent la comparaison du texte obtenu avec l’exigence initiale. L’intégration publiée attend un environnement d’exécution compatible avec Qwen3 ; la fiche avertit que les versions de Transformers antérieures à 4.51.0 ne reconnaissent pas l’architecture requise.\n\nLe même modèle prend en charge les modes avec et sans raisonnement. Le raisonnement est activé par défaut dans le gabarit fourni. Une désactivation stricte supprime la section de raisonnement ; lorsqu’il reste activé, /think et /no_think peuvent modifier le choix entre les tours. La plus récente de ces instructions a priorité, et ces commandes dans le prompt ne peuvent pas annuler une désactivation stricte. Dans un flux de produit, utilisez le mode direct pour une courte réécriture de message approuvé et sélectionnez le raisonnement pour expliquer un écart. Séparez la réponse finale du raisonnement intermédiaire et ne conservez que la réponse finale dans l’historique de conversation ultérieur. Lorsque le raisonnement est activé, même une demande souple de réponse sans raisonnement conserve un bloc de raisonnement ; son contenu peut être vide. La désactivation stricte supprime ce bloc.\n\nLe fabricant décrit l’appel d’outils et recommande Qwen-Agent pour gérer les gabarits et l’analyse des réponses. Une application peut fournir des définitions d’outils, exécuter les appels demandés et renvoyer leurs résultats. Pour un assistant de soutien, une consultation de commande limitée et en lecture seule pourrait fournir un état d’expédition confirmé avant la rédaction de la réponse par le modèle. Précisez les champs consultables et la manière de signaler un dossier introuvable. Le livrable final utile est une réponse fondée sur les renseignements renvoyés, plutôt qu’une affirmation sans preuve de la réussite d’une opération externe. Le guide Qwen3 décrit aussi les appels d’outils parallèles et en plusieurs étapes, avec des arguments représentés sous forme d’objets et des résultats réinjectés dans la conversation.\n\nLa fiche du modèle indique un contexte natif de 32 768 jetons et de 131 072 avec l’extension YaRN. Le comportement en contexte long dépend donc de la configuration réelle. YaRN statique peut affecter les requêtes plus courtes ; la fiche conseille donc de l’activer lorsqu’un contexte long est nécessaire. L’entrée, l’historique de conversation et la sortie générée consomment un budget de contexte partagé. Étiquetez les longues sections source, retirez les doublons non pertinents et gardez de la place pour la réponse demandée. L’exemple de génération publié et les recommandations de sortie sont des indications de configuration, et non une limite maximale stricte de sortie indépendante. Dans son explication des longueurs d’entraînement, la documentation Qwen3 évoque des messages d’assistant de 38 912 jetons en mode raisonnement et de 16 384 en mode sans raisonnement, et recommande d’évaluer la qualité des générations plus longues. Ces chiffres sont distincts de la fenêtre de contexte globale et ne constituent pas un plafond strict propre à un point de terminaison. La fiche explique aussi son allocation positionnelle par défaut de 40 960 jetons : 8 192 pour les prompts typiques et 32 768 pour la sortie. Il s’agit d’indications de configuration du fabricant, distinctes du contexte natif d’entraînement et de toute limite du point de terminaison.\n\nEn mode raisonnement, les valeurs d’échantillonnage recommandées sont une température de 0.6, top-p de 0.95, top-k de 20 et min-p de 0 ; sans raisonnement, elles sont de 0.7, 0.8, 20 et 0. Le fabricant avertit qu’un raisonnement à sélection gloutonne peut produire du texte répétitif. Des pénalités de présence plus élevées peuvent réduire la répétition tout en provoquant parfois un mélange de langues. Définissez explicitement le format final, par exemple une réponse suivie d’un objet JSON contenant les champs non résolus, et validez cet objet avant qu’une application l’utilise. Vérifiez le code proposé avec les cas fournis et relisez les traductions pour contrôler la conservation de la terminologie.", "editorialOverlay": { "copy_fields": { "practical_html": "Exemple technique en anglais
A bilingual reply grounded in a return policy\n\nDraft a German reply to this customer: 'Can I return my unused Aero Cup after ten days?' Policy P1: unused products can be returned within 14 days; the customer must provide the order reference. Keep Aero Cup unchanged and ask for the missing reference. Follow the reply with a short English note naming the facts used.A polite German customer reply and a brief English source-fact note.The reply preserves the unused condition and 14-day window, asks for the reference and does not invent refund timing.qwen3-8bQwen3-8B offre la génération de texte multilingue, la programmation et deux modes de réponse dans un modèle dense de 8.2 milliards de paramètres. Utilisez les réponses directes pour les échanges courants et le mode réflexion pour les problèmes qui exigent une analyse plus approfondie.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Qwen3-8B est un modèle de langage dense de la famille Qwen3 qui combine raisonnement et génération de texte ordinaire. Ses points forts annoncés comprennent les mathématiques, la résolution de problèmes logiques, le code, l’écriture créative, le dialogue fondé sur des rôles et le suivi d’instructions sur plusieurs tours. La famille prend en charge plus de 100 langues et dialectes. Une application concrète consiste à créer un assistant de soutien multilingue qui transforme le message d’un client et un extrait de politique fourni en une réponse utile, tout en conservant les noms des produits et le ton demandé.
Cette version compte 8,2 milliards de paramètres, dont 6,95 milliards hors embeddings, et 36 couches. Elle utilise une attention à requêtes groupées avec 32 têtes de requête et huit têtes de clé/valeur. Il s’agit d’un modèle dense distinct, et non du modèle à mélange d’experts 235B fonctionnant avec moins d’experts. L’entrée de travail et le résultat généré sont du texte : traduction, explication, document révisé, plan ou programme. Choisissez une tâche claire avant d’ajouter du contexte. Pour une réponse de soutien, fournissez le message du client, la politique applicable, la terminologie approuvée et l’action attendue du lecteur ; demandez une réponse et une liste séparée des faits encore manquants.
Le flux de démarrage du fabricant utilise une séquence de messages de conversation et un gabarit de conversation explicite. Pour l’aide au code, incluez la fonction pertinente, une entrée qui révèle le problème, la sortie réelle et le résultat attendu. Demandez une fonction corrigée accompagnée d’exemples, avec une explication séparée du changement de comportement. Pour la traduction, précisez les langues source et cible, les lecteurs et les termes à conserver. Ces éléments facilitent la comparaison du texte obtenu avec l’exigence initiale. L’intégration publiée attend un environnement d’exécution compatible avec Qwen3 ; la fiche avertit que les versions de Transformers antérieures à 4.51.0 ne reconnaissent pas l’architecture requise.
Le même modèle prend en charge les modes avec et sans raisonnement. Le raisonnement est activé par défaut dans le gabarit fourni. Une désactivation stricte supprime la section de raisonnement ; lorsqu’il reste activé, /think et /no_think peuvent modifier le choix entre les tours. La plus récente de ces instructions a priorité, et ces commandes dans le prompt ne peuvent pas annuler une désactivation stricte. Dans un flux de produit, utilisez le mode direct pour une courte réécriture de message approuvé et sélectionnez le raisonnement pour expliquer un écart. Séparez la réponse finale du raisonnement intermédiaire et ne conservez que la réponse finale dans l’historique de conversation ultérieur. Lorsque le raisonnement est activé, même une demande souple de réponse sans raisonnement conserve un bloc de raisonnement ; son contenu peut être vide. La désactivation stricte supprime ce bloc.
Le fabricant décrit l’appel d’outils et recommande Qwen-Agent pour gérer les gabarits et l’analyse des réponses. Une application peut fournir des définitions d’outils, exécuter les appels demandés et renvoyer leurs résultats. Pour un assistant de soutien, une consultation de commande limitée et en lecture seule pourrait fournir un état d’expédition confirmé avant la rédaction de la réponse par le modèle. Précisez les champs consultables et la manière de signaler un dossier introuvable. Le livrable final utile est une réponse fondée sur les renseignements renvoyés, plutôt qu’une affirmation sans preuve de la réussite d’une opération externe. Le guide Qwen3 décrit aussi les appels d’outils parallèles et en plusieurs étapes, avec des arguments représentés sous forme d’objets et des résultats réinjectés dans la conversation.
La fiche du modèle indique un contexte natif de 32 768 jetons et de 131 072 avec l’extension YaRN. Le comportement en contexte long dépend donc de la configuration réelle. YaRN statique peut affecter les requêtes plus courtes ; la fiche conseille donc de l’activer lorsqu’un contexte long est nécessaire. L’entrée, l’historique de conversation et la sortie générée consomment un budget de contexte partagé. Étiquetez les longues sections source, retirez les doublons non pertinents et gardez de la place pour la réponse demandée. L’exemple de génération publié et les recommandations de sortie sont des indications de configuration, et non une limite maximale stricte de sortie indépendante. Dans son explication des longueurs d’entraînement, la documentation Qwen3 évoque des messages d’assistant de 38 912 jetons en mode raisonnement et de 16 384 en mode sans raisonnement, et recommande d’évaluer la qualité des générations plus longues. Ces chiffres sont distincts de la fenêtre de contexte globale et ne constituent pas un plafond strict propre à un point de terminaison. La fiche explique aussi son allocation positionnelle par défaut de 40 960 jetons : 8 192 pour les prompts typiques et 32 768 pour la sortie. Il s’agit d’indications de configuration du fabricant, distinctes du contexte natif d’entraînement et de toute limite du point de terminaison.
En mode raisonnement, les valeurs d’échantillonnage recommandées sont une température de 0.6, top-p de 0.95, top-k de 20 et min-p de 0 ; sans raisonnement, elles sont de 0.7, 0.8, 20 et 0. Le fabricant avertit qu’un raisonnement à sélection gloutonne peut produire du texte répétitif. Des pénalités de présence plus élevées peuvent réduire la répétition tout en provoquant parfois un mélange de langues. Définissez explicitement le format final, par exemple une réponse suivie d’un objet JSON contenant les champs non résolus, et validez cet objet avant qu’une application l’utilise. Vérifiez le code proposé avec les cas fournis et relisez les traductions pour contrôler la conservation de la terminologie.
POST /v1/chat/completionstexttext| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites qwen3-8b | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites Nombre minimal d’éléments: 1 | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites Exemples : system, user, assistant, tool, function Conditions: Ces rôles sont explicitement représentés par les types de compatibilité du code source ; l’ensemble exact des rôles reste propre à chaque modèle. Selon le modèle | Par défaut— |
Champmessages[].content | Typestring|content_part[]|null | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_calls | Typetool_call[] | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_call_id | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: role=tool ; utilisez l’ID réellement renvoyé | Par défaut— |
Champmessages[].name | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].reasoning_content | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: Réinjectez le raisonnement réellement renvoyé lorsque ce modèle l’utilise | Par défaut— |
Champmessages[].reasoning_details | Typeobject|array | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champmax_completion_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Champstream_options.include_usage | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtemperature | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtop_p | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champstop | Typestring|string[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools | Typefunction_tool[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools[].type | Typestring | ExigenceFacultatif | Valeurs et limites function Selon le modèle | Par défaut— |
Champtools[].function.name | Typestring | ExigenceObligatoire | Valeurs et limites S’applique lorsque: Fonction fournie comme outil | Par défaut— |
Champtools[].function.description | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtools[].function.parameters | TypeJSON_schema | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtool_choice | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champparallel_tool_calls | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champresponse_format | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning_effort | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champservice_tier | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champinstructions | Typestring | ExigenceFacultatif | Valeurs et limites Champ de compatibilité | Par défaut— |
Champfunctions | Typefunction[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champfunction_call | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champprompt_cache_options | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmodalities | Typestring[] | ExigenceFacultatif | Valeurs et limites text | Par défaut— |
Champprovider | Typeobject | ExigenceFacultatif | Valeurs et limites Conditions: provider.options est refusé sur cette route textuelle Ultra | Par défaut— |
Champcache_control.ttl | Typestring | ExigenceFacultatif | Valeurs et limites Conditions: La valeur 1h est refusée là où le cache des prompts est configuré | Par défaut— |
Texte · Texte UTF8
messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages |
Paramètrematerial_types | Contrattext |
Paramètremessages | ContratTableau de messages avec une structure role/content |
Paramètrefile_material | ContratDocument UTF-8 réel inséré comme texte littéral ; aucun ID de fichier déduit |
Paramètreoptional_controls | Contratstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Paramètrecontrol_scope | ContratPropre au modèle ; les outils de fonctions de l’utilisateur diffèrent des outils hébergés |
Paramètreoutput_modalities | Contrattext |
Paramètrehosted_operations | Contratfalse |
Paramètremultimodal_input_binding | Contratnull |
Cycle de vie : synchronous_or_streamed
Envoyez l’ID exact du modèle avec messages.
La longueur du contexte n’est pas un plafond de sortie.
Un fichier texte peut fournir du texte littéral ; les entrées image/audio/objet fichier nécessitent une liaison exacte.
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
| Configuration | Barème tarifaire | Coût |
|---|---|---|
| ConfigurationTarifs de base des jetons | Barème tarifaireTarif de base | Coût Entrée · Jetons en entrée $0.000144 / 1K jetons Sortie · Jetons en sortie $0.00144 / 1K jetons Entrée · Lecture du cache $0 / 1K jetons Entrée · Écriture dans le cache $0 / 1K jetons Entrée · Écriture dans le cache, 1 h — / 1K jetons |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen3-8b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen3-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen3-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez chaque choix avec son contenu, ses appels d’outils et son raisonnement. En SSE, assemblez les deltas par index de choix et d’outil, et conservez le motif final d’arrêt et les données d’utilisation.
Conservez les ID et les en-têtes de requête/réponse. Aucune URL générique de récupération de tâche textuelle n’est fournie.
| Champ | Type |
|---|---|
Champchoices[].index | Typeinteger |
Champchoices[].message.content | Typestring|null |
Champchoices[].message.tool_calls | Typetool_call[] |
Champchoices[].message.reasoning_content | Typestring |
Champchoices[].message.reasoning_details | Typeobject|array |
Champchoices[].finish_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des éléments fournis ou valeur de paramètre invalides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra qwen3-8b
Utilisez les chemins de méthode indiqués ci-dessus.
qwen3-8bQwen3-8B offre la génération de texte multilingue, la programmation et deux modes de réponse dans un modèle dense de 8.2 milliards de paramètres. Utilisez les réponses directes pour les échanges courants et le mode réflexion pour les problèmes qui exigent une analyse plus approfondie.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Qwen3-8B est un modèle de langage dense de la famille Qwen3 qui combine raisonnement et génération de texte ordinaire. Ses points forts annoncés comprennent les mathématiques, la résolution de problèmes logiques, le code, l’écriture créative, le dialogue fondé sur des rôles et le suivi d’instructions sur plusieurs tours. La famille prend en charge plus de 100 langues et dialectes. Une application concrète consiste à créer un assistant de soutien multilingue qui transforme le message d’un client et un extrait de politique fourni en une réponse utile, tout en conservant les noms des produits et le ton demandé.
Cette version compte 8,2 milliards de paramètres, dont 6,95 milliards hors embeddings, et 36 couches. Elle utilise une attention à requêtes groupées avec 32 têtes de requête et huit têtes de clé/valeur. Il s’agit d’un modèle dense distinct, et non du modèle à mélange d’experts 235B fonctionnant avec moins d’experts. L’entrée de travail et le résultat généré sont du texte : traduction, explication, document révisé, plan ou programme. Choisissez une tâche claire avant d’ajouter du contexte. Pour une réponse de soutien, fournissez le message du client, la politique applicable, la terminologie approuvée et l’action attendue du lecteur ; demandez une réponse et une liste séparée des faits encore manquants.
Le flux de démarrage du fabricant utilise une séquence de messages de conversation et un gabarit de conversation explicite. Pour l’aide au code, incluez la fonction pertinente, une entrée qui révèle le problème, la sortie réelle et le résultat attendu. Demandez une fonction corrigée accompagnée d’exemples, avec une explication séparée du changement de comportement. Pour la traduction, précisez les langues source et cible, les lecteurs et les termes à conserver. Ces éléments facilitent la comparaison du texte obtenu avec l’exigence initiale. L’intégration publiée attend un environnement d’exécution compatible avec Qwen3 ; la fiche avertit que les versions de Transformers antérieures à 4.51.0 ne reconnaissent pas l’architecture requise.
Le même modèle prend en charge les modes avec et sans raisonnement. Le raisonnement est activé par défaut dans le gabarit fourni. Une désactivation stricte supprime la section de raisonnement ; lorsqu’il reste activé, /think et /no_think peuvent modifier le choix entre les tours. La plus récente de ces instructions a priorité, et ces commandes dans le prompt ne peuvent pas annuler une désactivation stricte. Dans un flux de produit, utilisez le mode direct pour une courte réécriture de message approuvé et sélectionnez le raisonnement pour expliquer un écart. Séparez la réponse finale du raisonnement intermédiaire et ne conservez que la réponse finale dans l’historique de conversation ultérieur. Lorsque le raisonnement est activé, même une demande souple de réponse sans raisonnement conserve un bloc de raisonnement ; son contenu peut être vide. La désactivation stricte supprime ce bloc.
Le fabricant décrit l’appel d’outils et recommande Qwen-Agent pour gérer les gabarits et l’analyse des réponses. Une application peut fournir des définitions d’outils, exécuter les appels demandés et renvoyer leurs résultats. Pour un assistant de soutien, une consultation de commande limitée et en lecture seule pourrait fournir un état d’expédition confirmé avant la rédaction de la réponse par le modèle. Précisez les champs consultables et la manière de signaler un dossier introuvable. Le livrable final utile est une réponse fondée sur les renseignements renvoyés, plutôt qu’une affirmation sans preuve de la réussite d’une opération externe. Le guide Qwen3 décrit aussi les appels d’outils parallèles et en plusieurs étapes, avec des arguments représentés sous forme d’objets et des résultats réinjectés dans la conversation.
La fiche du modèle indique un contexte natif de 32 768 jetons et de 131 072 avec l’extension YaRN. Le comportement en contexte long dépend donc de la configuration réelle. YaRN statique peut affecter les requêtes plus courtes ; la fiche conseille donc de l’activer lorsqu’un contexte long est nécessaire. L’entrée, l’historique de conversation et la sortie générée consomment un budget de contexte partagé. Étiquetez les longues sections source, retirez les doublons non pertinents et gardez de la place pour la réponse demandée. L’exemple de génération publié et les recommandations de sortie sont des indications de configuration, et non une limite maximale stricte de sortie indépendante. Dans son explication des longueurs d’entraînement, la documentation Qwen3 évoque des messages d’assistant de 38 912 jetons en mode raisonnement et de 16 384 en mode sans raisonnement, et recommande d’évaluer la qualité des générations plus longues. Ces chiffres sont distincts de la fenêtre de contexte globale et ne constituent pas un plafond strict propre à un point de terminaison. La fiche explique aussi son allocation positionnelle par défaut de 40 960 jetons : 8 192 pour les prompts typiques et 32 768 pour la sortie. Il s’agit d’indications de configuration du fabricant, distinctes du contexte natif d’entraînement et de toute limite du point de terminaison.
En mode raisonnement, les valeurs d’échantillonnage recommandées sont une température de 0.6, top-p de 0.95, top-k de 20 et min-p de 0 ; sans raisonnement, elles sont de 0.7, 0.8, 20 et 0. Le fabricant avertit qu’un raisonnement à sélection gloutonne peut produire du texte répétitif. Des pénalités de présence plus élevées peuvent réduire la répétition tout en provoquant parfois un mélange de langues. Définissez explicitement le format final, par exemple une réponse suivie d’un objet JSON contenant les champs non résolus, et validez cet objet avant qu’une application l’utilise. Vérifiez le code proposé avec les cas fournis et relisez les traductions pour contrôler la conservation de la terminologie.
POST /v1/messagestextjson, sse| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites qwen3-8b | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites user, assistant | Par défaut— |
Champmessages[].content | Typestring | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Texte · Texte UTF-8
Chaîne messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages, max_tokens |
Paramètreoptional_controls | Contratstream |
Paramètrematerial_types | Contrattext |
Paramètretext_file_material | ContratLisez le document UTF-8 réel et placez son texte dans l’entrée indiquée ou dans la chaîne de contenu du message. |
Cycle de vie : synchronous_or_streamed
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
| Configuration | Barème tarifaire | Coût |
|---|---|---|
| ConfigurationTarifs de base des jetons | Barème tarifaireTarif de base | Coût Entrée · Jetons en entrée $0.000144 / 1K jetons Sortie · Jetons en sortie $0.00144 / 1K jetons Entrée · Lecture du cache $0 / 1K jetons Entrée · Écriture dans le cache $0 / 1K jetons Entrée · Écriture dans le cache, 1 h — / 1K jetons |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
{\n "model": "qwen3-8b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen3-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen3-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez tous les blocs de contenu, les signatures de raisonnement et les ID réels d’utilisation d’outils. Assemblez tous les deltas de blocs SSE ; un premier bloc de texte ne constitue pas la sortie complète.
Conservez les ID et les en-têtes de requête/réponse. Aucune URL générique de récupération de tâche textuelle n’est fournie.
| Champ | Type |
|---|---|
Champid | Typestring |
Champmodel | Typestring |
Champcontent[] | Typetext|thinking|tool_use|other content block |
Champstop_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des éléments fournis ou valeur de paramètre invalides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra qwen3-8b
Utilisez les chemins de méthode indiqués ci-dessus.
Exemple technique en anglais
A bilingual reply grounded in a return policy\n\nDraft a German reply to this customer: 'Can I return my unused Aero Cup after ten days?' Policy P1: unused products can be returned within 14 days; the customer must provide the order reference. Keep Aero Cup unchanged and ask for the missing reference. Follow the reply with a short English note naming the facts used.A polite German customer reply and a brief English source-fact note.The reply preserves the unused condition and 14-day window, asks for the reference and does not invent refund timing.