Qwen2-7B-Instruct est l’édition Qwen2 de taille 7B entraînée aux instructions pour la conversation et les tâches exprimées en langage naturel. C’est un modèle à entrée et sortie textuelles : la réponse peut être une explication, une traduction, un brouillon documentaire ou du code. Le fabricant cite la compréhension et la génération linguistiques, le multilinguisme, le code, les mathématiques et le raisonnement comme principaux usages.
Détails du modèle
Qwen2 comprend des versions de base et des versions entraînées aux instructions distinctes. Cette fiche concerne l’édition Instruct, plutôt que le modèle de base Qwen2-7B ou la version à mélange d’experts de la famille. Le tableau d’informations du fabricant indique 7,07 milliards de paramètres pour le modèle de taille 7B. Son Transformer à décodeur utilise SwiGLU, un biais QKV dans l’attention et une attention à requêtes groupées, avec un tokenizer conçu pour les langues naturelles et le code. Ce sont des choix d’architecture et de représentation, pas des modalités d’entrée supplémentaires.
L’annonce décrit un entraînement en anglais et chinois plus 27 langues supplémentaires. Celles-ci comprennent le russe, le tchèque et le polonais ; l’allemand, le français et l’espagnol ; l’arabe, le persan et le turc ; le japonais et le coréen ; et d’autres langues d’Asie du Sud et du Sud-Est. Un assistant multilingue peut donc recevoir une instruction et une source dans des langues différentes, mais devrait toujours préciser la langue, la terminologie et le public du livrable final.
Entraînement et distinction Instruct
Après le préentraînement, le fabricant utilise un fine-tuning supervisé et une optimisation directe des préférences. L’édition entraînée aux instructions vise à répondre à une demande dans une conversation ; l’édition de base a un autre rôle comme fondation de modèle linguistique. Gardez le nom de l’édition explicite lors du choix ou de la comparaison du comportement des prompts. Entraîner le modèle à suivre des instructions et lui fournir une instruction précise à l’utilisation sont des éléments complémentaires de ce processus.
Préparation d’une entrée conversationnelle
Le démarrage rapide de la fiche sépare l’instruction système de la question utilisateur et applique le gabarit de conversation correspondant avant la génération. Pour une tâche applicative, la même distinction pratique est utile : définissez le rôle et les règles de réponse de l’assistant séparément du passage source ou du code à traiter. Une étiquette textuelle dans un document ne remplace pas des rôles conversationnels correctement formatés dans l’interface environnante.
Une tâche d’explication technique peut fournir une fonction et un exemple d’entrée, puis demander le rôle de chaque branche et les conditions affectant le résultat. Une tâche de code peut préciser l’entrée acceptée, la valeur de retour attendue et les contraintes de modification du comportement existant. Demandez l’implémentation suivie d’exemples pour un cas normal et un cas limite. Cela applique les capacités linguistiques et de code documentées ; générer du code produit du texte, tandis que son exécution appartient à l’environnement applicatif.
Pour une révision multilingue, fournissez le passage original, le public cible et une petite liste terminologique. Demandez une révision conservant les noms et conditions d’origine, puis une courte explication des changements. C’est plus précis qu’une demande d’amélioration du texte : cela définit le sens à préserver et la sortie utile attendue.
Traitement de textes longs
Le fabricant documente un contexte allant jusqu’à 131 072 tokens, mais les instructions de long contexte comptent. Les entrées dépassant 32 768 tokens nécessitent la configuration d’extension YaRN documentée. L’exemple publié utilise un facteur d’échelle de 4,0 avec un réglage de positions d’origine de 32 768. Le fabricant précise que l’extension statique peut affecter le traitement de textes courts et recommande de l’activer lorsque le long contexte est réellement nécessaire.
Préparez une tâche documentaire longue avec une question ciblée, des sections sources nommées et une structure de sortie explicite. Par exemple, fournissez plusieurs parties d’une spécification technique et demandez les exigences pertinentes pour une modification précise, en gardant la section source à côté de chaque constat. Une grande fenêtre d’entrée aide à maintenir ces parties ensemble ; la réponse peut néanmoins être un tableau compact plutôt qu’un récit complet du document.
Limites importantes
Le chiffre de 131 072 tokens décrit le contexte étendu, pas une permission d’ignorer sa configuration. Les 512 tokens générés dans le démarrage rapide sont un réglage d’exemple, pas une capacité maximale de sortie publiée. Cette version Instruct est textuelle et ne doit pas hériter des capacités image ou vidéo de Qwen-VL, ni de l’entraînement mathématique spécialisé avec outils intégrés de Qwen2.5-Math. Choisissez l’édition nommée et préparez le texte pour l’explication, le code ou le document souhaité.
", "aboutText": "Qwen2-7B-Instruct est l’édition Qwen2 de taille 7B entraînée aux instructions pour la conversation et les tâches exprimées en langage naturel. C’est un modèle à entrée et sortie textuelles : la réponse peut être une explication, une traduction, un brouillon documentaire ou du code. Le fabricant cite la compréhension et la génération linguistiques, le multilinguisme, le code, les mathématiques et le raisonnement comme principaux usages.\n\nDétails du modèle\n\nQwen2 comprend des versions de base et des versions entraînées aux instructions distinctes. Cette fiche concerne l’édition Instruct, plutôt que le modèle de base Qwen2-7B ou la version à mélange d’experts de la famille. Le tableau d’informations du fabricant indique 7,07 milliards de paramètres pour le modèle de taille 7B. Son Transformer à décodeur utilise SwiGLU, un biais QKV dans l’attention et une attention à requêtes groupées, avec un tokenizer conçu pour les langues naturelles et le code. Ce sont des choix d’architecture et de représentation, pas des modalités d’entrée supplémentaires.\n\nL’annonce décrit un entraînement en anglais et chinois plus 27 langues supplémentaires. Celles-ci comprennent le russe, le tchèque et le polonais ; l’allemand, le français et l’espagnol ; l’arabe, le persan et le turc ; le japonais et le coréen ; et d’autres langues d’Asie du Sud et du Sud-Est. Un assistant multilingue peut donc recevoir une instruction et une source dans des langues différentes, mais devrait toujours préciser la langue, la terminologie et le public du livrable final.\n\nEntraînement et distinction Instruct\n\nAprès le préentraînement, le fabricant utilise un fine-tuning supervisé et une optimisation directe des préférences. L’édition entraînée aux instructions vise à répondre à une demande dans une conversation ; l’édition de base a un autre rôle comme fondation de modèle linguistique. Gardez le nom de l’édition explicite lors du choix ou de la comparaison du comportement des prompts. Entraîner le modèle à suivre des instructions et lui fournir une instruction précise à l’utilisation sont des éléments complémentaires de ce processus.\n\nPréparation d’une entrée conversationnelle\n\nLe démarrage rapide de la fiche sépare l’instruction système de la question utilisateur et applique le gabarit de conversation correspondant avant la génération. Pour une tâche applicative, la même distinction pratique est utile : définissez le rôle et les règles de réponse de l’assistant séparément du passage source ou du code à traiter. Une étiquette textuelle dans un document ne remplace pas des rôles conversationnels correctement formatés dans l’interface environnante.\n\nUne tâche d’explication technique peut fournir une fonction et un exemple d’entrée, puis demander le rôle de chaque branche et les conditions affectant le résultat. Une tâche de code peut préciser l’entrée acceptée, la valeur de retour attendue et les contraintes de modification du comportement existant. Demandez l’implémentation suivie d’exemples pour un cas normal et un cas limite. Cela applique les capacités linguistiques et de code documentées ; générer du code produit du texte, tandis que son exécution appartient à l’environnement applicatif.\n\nPour une révision multilingue, fournissez le passage original, le public cible et une petite liste terminologique. Demandez une révision conservant les noms et conditions d’origine, puis une courte explication des changements. C’est plus précis qu’une demande d’amélioration du texte : cela définit le sens à préserver et la sortie utile attendue.\n\nTraitement de textes longs\n\nLe fabricant documente un contexte allant jusqu’à 131 072 tokens, mais les instructions de long contexte comptent. Les entrées dépassant 32 768 tokens nécessitent la configuration d’extension YaRN documentée. L’exemple publié utilise un facteur d’échelle de 4,0 avec un réglage de positions d’origine de 32 768. Le fabricant précise que l’extension statique peut affecter le traitement de textes courts et recommande de l’activer lorsque le long contexte est réellement nécessaire.\n\nPréparez une tâche documentaire longue avec une question ciblée, des sections sources nommées et une structure de sortie explicite. Par exemple, fournissez plusieurs parties d’une spécification technique et demandez les exigences pertinentes pour une modification précise, en gardant la section source à côté de chaque constat. Une grande fenêtre d’entrée aide à maintenir ces parties ensemble ; la réponse peut néanmoins être un tableau compact plutôt qu’un récit complet du document.\n\nLimites importantes\n\nLe chiffre de 131 072 tokens décrit le contexte étendu, pas une permission d’ignorer sa configuration. Les 512 tokens générés dans le démarrage rapide sont un réglage d’exemple, pas une capacité maximale de sortie publiée. Cette version Instruct est textuelle et ne doit pas hériter des capacités image ou vidéo de Qwen-VL, ni de l’entraînement mathématique spécialisé avec outils intégrés de Qwen2.5-Math. Choisissez l’édition nommée et préparez le texte pour l’explication, le code ou le document souhaité.", "editorialOverlay": { "copy_fields": { "practical_html": "Exemple technique en anglais
Translate a terminology-bound notice\n\nTranslate this notice into German for office staff: 'The access badge expires on 30 April. Collect a replacement from Reception before your next shift. Temporary passes are valid for one day.' Use Zugangskarte for access badge and Empfang for Reception. Preserve the date and conditions, then explain one translation choice in English.A complete German notice followed by one short English explanation of terminology or phrasing.The replacement is collected before the next shift and the temporary pass remains valid for one day.Qwen/Qwen2-7B-InstructQwen2-7B-Instruct est un modèle textuel entraîné aux instructions pour le dialogue multilingue, le code, les mathématiques et le raisonnement. Son fabricant documente un contexte allant jusqu’à 131 072 tokens lorsque la configuration longue est activée.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Qwen2-7B-Instruct est l’édition Qwen2 de taille 7B entraînée aux instructions pour la conversation et les tâches exprimées en langage naturel. C’est un modèle à entrée et sortie textuelles : la réponse peut être une explication, une traduction, un brouillon documentaire ou du code. Le fabricant cite la compréhension et la génération linguistiques, le multilinguisme, le code, les mathématiques et le raisonnement comme principaux usages.
Détails du modèle
Qwen2 comprend des versions de base et des versions entraînées aux instructions distinctes. Cette fiche concerne l’édition Instruct, plutôt que le modèle de base Qwen2-7B ou la version à mélange d’experts de la famille. Le tableau d’informations du fabricant indique 7,07 milliards de paramètres pour le modèle de taille 7B. Son Transformer à décodeur utilise SwiGLU, un biais QKV dans l’attention et une attention à requêtes groupées, avec un tokenizer conçu pour les langues naturelles et le code. Ce sont des choix d’architecture et de représentation, pas des modalités d’entrée supplémentaires.
L’annonce décrit un entraînement en anglais et chinois plus 27 langues supplémentaires. Celles-ci comprennent le russe, le tchèque et le polonais ; l’allemand, le français et l’espagnol ; l’arabe, le persan et le turc ; le japonais et le coréen ; et d’autres langues d’Asie du Sud et du Sud-Est. Un assistant multilingue peut donc recevoir une instruction et une source dans des langues différentes, mais devrait toujours préciser la langue, la terminologie et le public du livrable final.
Entraînement et distinction Instruct
Après le préentraînement, le fabricant utilise un fine-tuning supervisé et une optimisation directe des préférences. L’édition entraînée aux instructions vise à répondre à une demande dans une conversation ; l’édition de base a un autre rôle comme fondation de modèle linguistique. Gardez le nom de l’édition explicite lors du choix ou de la comparaison du comportement des prompts. Entraîner le modèle à suivre des instructions et lui fournir une instruction précise à l’utilisation sont des éléments complémentaires de ce processus.
Préparation d’une entrée conversationnelle
Le démarrage rapide de la fiche sépare l’instruction système de la question utilisateur et applique le gabarit de conversation correspondant avant la génération. Pour une tâche applicative, la même distinction pratique est utile : définissez le rôle et les règles de réponse de l’assistant séparément du passage source ou du code à traiter. Une étiquette textuelle dans un document ne remplace pas des rôles conversationnels correctement formatés dans l’interface environnante.
Une tâche d’explication technique peut fournir une fonction et un exemple d’entrée, puis demander le rôle de chaque branche et les conditions affectant le résultat. Une tâche de code peut préciser l’entrée acceptée, la valeur de retour attendue et les contraintes de modification du comportement existant. Demandez l’implémentation suivie d’exemples pour un cas normal et un cas limite. Cela applique les capacités linguistiques et de code documentées ; générer du code produit du texte, tandis que son exécution appartient à l’environnement applicatif.
Pour une révision multilingue, fournissez le passage original, le public cible et une petite liste terminologique. Demandez une révision conservant les noms et conditions d’origine, puis une courte explication des changements. C’est plus précis qu’une demande d’amélioration du texte : cela définit le sens à préserver et la sortie utile attendue.
Traitement de textes longs
Le fabricant documente un contexte allant jusqu’à 131 072 tokens, mais les instructions de long contexte comptent. Les entrées dépassant 32 768 tokens nécessitent la configuration d’extension YaRN documentée. L’exemple publié utilise un facteur d’échelle de 4,0 avec un réglage de positions d’origine de 32 768. Le fabricant précise que l’extension statique peut affecter le traitement de textes courts et recommande de l’activer lorsque le long contexte est réellement nécessaire.
Préparez une tâche documentaire longue avec une question ciblée, des sections sources nommées et une structure de sortie explicite. Par exemple, fournissez plusieurs parties d’une spécification technique et demandez les exigences pertinentes pour une modification précise, en gardant la section source à côté de chaque constat. Une grande fenêtre d’entrée aide à maintenir ces parties ensemble ; la réponse peut néanmoins être un tableau compact plutôt qu’un récit complet du document.
Limites importantes
Le chiffre de 131 072 tokens décrit le contexte étendu, pas une permission d’ignorer sa configuration. Les 512 tokens générés dans le démarrage rapide sont un réglage d’exemple, pas une capacité maximale de sortie publiée. Cette version Instruct est textuelle et ne doit pas hériter des capacités image ou vidéo de Qwen-VL, ni de l’entraînement mathématique spécialisé avec outils intégrés de Qwen2.5-Math. Choisissez l’édition nommée et préparez le texte pour l’explication, le code ou le document souhaité.
POST /v1/chat/completionstexttext| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites Qwen/Qwen2-7B-Instruct | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites Nombre minimal d’éléments: 1 | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites Exemples : system, user, assistant, tool, function Conditions: Ces rôles sont explicitement représentés par les types de compatibilité du code source ; l’ensemble exact des rôles reste propre à chaque modèle. Selon le modèle | Par défaut— |
Champmessages[].content | Typestring|content_part[]|null | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_calls | Typetool_call[] | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_call_id | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: role=tool ; utilisez l’identifiant réellement renvoyé | Par défaut— |
Champmessages[].name | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].reasoning_content | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: Réinjectez le raisonnement réellement renvoyé lorsque ce modèle l’utilise | Par défaut— |
Champmessages[].reasoning_details | Typeobject|array | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champmax_completion_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Champstream_options.include_usage | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtemperature | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtop_p | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champstop | Typestring|string[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools | Typefunction_tool[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools[].type | Typestring | ExigenceFacultatif | Valeurs et limites function Selon le modèle | Par défaut— |
Champtools[].function.name | Typestring | ExigenceObligatoire | Valeurs et limites S’applique lorsque: outil de fonction fourni | Par défaut— |
Champtools[].function.description | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtools[].function.parameters | TypeJSON_schema | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtool_choice | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champparallel_tool_calls | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champresponse_format | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning_effort | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champservice_tier | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champinstructions | Typestring | ExigenceFacultatif | Valeurs et limites Champ de compatibilité | Par défaut— |
Champfunctions | Typefunction[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champfunction_call | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champprompt_cache_options | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmodalities | Typestring[] | ExigenceFacultatif | Valeurs et limites text | Par défaut— |
Champprovider | Typeobject | ExigenceFacultatif | Valeurs et limites Conditions: provider.options est rejeté sur cette route textuelle Ultra | Par défaut— |
Champcache_control.ttl | Typestring | ExigenceFacultatif | Valeurs et limites Conditions: 1h est rejeté dans les emplacements réels du cache de prompt | Par défaut— |
Texte · Texte UTF8
messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages |
Paramètrematerial_types | Contrattext |
Paramètremessages | Contrattableau de messages avec une structure role/content |
Paramètrefile_material | Contratdocument UTF-8 réel inséré sous forme de texte littéral ; aucun identifiant de fichier déduit |
Paramètreoptional_controls | Contratstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Paramètrecontrol_scope | Contratpropre au modèle ; les outils de fonctions de l’utilisateur diffèrent des outils hébergés |
Paramètreoutput_modalities | Contrattext |
Paramètrehosted_operations | Contratfalse |
Paramètremultimodal_input_binding | Contratnull |
Cycle de vie : synchronous_or_streamed
Envoyez l’identifiant exact du modèle avec messages.
La longueur du contexte n’est pas un plafond de sortie.
Un fichier texte peut fournir du texte littéral ; les entrées image/audio/objets fichier nécessitent une liaison exacte.
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
| Configuration | Barème tarifaire | Coût |
|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Coût Entrée · Tokens en entrée $0.0001 / 1K tokens Sortie · Tokens en sortie $0.0001 / 1K tokens Entrée · Lecture du cache $0 / 1K tokens Entrée · Écriture dans le cache $0 / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "Qwen/Qwen2-7B-Instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='Qwen/Qwen2-7B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='Qwen/Qwen2-7B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez chaque choix avec son contenu, ses appels d’outils et son raisonnement. En SSE, assemblez les deltas par index de choix et d’outil, puis conservez le motif final de terminaison et les données d’utilisation.
Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.
| Champ | Type |
|---|---|
Champchoices[].index | Typeinteger |
Champchoices[].message.content | Typestring|null |
Champchoices[].message.tool_calls | Typetool_call[] |
Champchoices[].message.reasoning_content | Typestring |
Champchoices[].message.reasoning_details | Typeobject|array |
Champchoices[].finish_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra Qwen/Qwen2-7B-Instruct
Utilisez les chemins de méthode indiqués ci-dessus.
Qwen/Qwen2-7B-InstructQwen2-7B-Instruct est un modèle textuel entraîné aux instructions pour le dialogue multilingue, le code, les mathématiques et le raisonnement. Son fabricant documente un contexte allant jusqu’à 131 072 tokens lorsque la configuration longue est activée.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Qwen2-7B-Instruct est l’édition Qwen2 de taille 7B entraînée aux instructions pour la conversation et les tâches exprimées en langage naturel. C’est un modèle à entrée et sortie textuelles : la réponse peut être une explication, une traduction, un brouillon documentaire ou du code. Le fabricant cite la compréhension et la génération linguistiques, le multilinguisme, le code, les mathématiques et le raisonnement comme principaux usages.
Détails du modèle
Qwen2 comprend des versions de base et des versions entraînées aux instructions distinctes. Cette fiche concerne l’édition Instruct, plutôt que le modèle de base Qwen2-7B ou la version à mélange d’experts de la famille. Le tableau d’informations du fabricant indique 7,07 milliards de paramètres pour le modèle de taille 7B. Son Transformer à décodeur utilise SwiGLU, un biais QKV dans l’attention et une attention à requêtes groupées, avec un tokenizer conçu pour les langues naturelles et le code. Ce sont des choix d’architecture et de représentation, pas des modalités d’entrée supplémentaires.
L’annonce décrit un entraînement en anglais et chinois plus 27 langues supplémentaires. Celles-ci comprennent le russe, le tchèque et le polonais ; l’allemand, le français et l’espagnol ; l’arabe, le persan et le turc ; le japonais et le coréen ; et d’autres langues d’Asie du Sud et du Sud-Est. Un assistant multilingue peut donc recevoir une instruction et une source dans des langues différentes, mais devrait toujours préciser la langue, la terminologie et le public du livrable final.
Entraînement et distinction Instruct
Après le préentraînement, le fabricant utilise un fine-tuning supervisé et une optimisation directe des préférences. L’édition entraînée aux instructions vise à répondre à une demande dans une conversation ; l’édition de base a un autre rôle comme fondation de modèle linguistique. Gardez le nom de l’édition explicite lors du choix ou de la comparaison du comportement des prompts. Entraîner le modèle à suivre des instructions et lui fournir une instruction précise à l’utilisation sont des éléments complémentaires de ce processus.
Préparation d’une entrée conversationnelle
Le démarrage rapide de la fiche sépare l’instruction système de la question utilisateur et applique le gabarit de conversation correspondant avant la génération. Pour une tâche applicative, la même distinction pratique est utile : définissez le rôle et les règles de réponse de l’assistant séparément du passage source ou du code à traiter. Une étiquette textuelle dans un document ne remplace pas des rôles conversationnels correctement formatés dans l’interface environnante.
Une tâche d’explication technique peut fournir une fonction et un exemple d’entrée, puis demander le rôle de chaque branche et les conditions affectant le résultat. Une tâche de code peut préciser l’entrée acceptée, la valeur de retour attendue et les contraintes de modification du comportement existant. Demandez l’implémentation suivie d’exemples pour un cas normal et un cas limite. Cela applique les capacités linguistiques et de code documentées ; générer du code produit du texte, tandis que son exécution appartient à l’environnement applicatif.
Pour une révision multilingue, fournissez le passage original, le public cible et une petite liste terminologique. Demandez une révision conservant les noms et conditions d’origine, puis une courte explication des changements. C’est plus précis qu’une demande d’amélioration du texte : cela définit le sens à préserver et la sortie utile attendue.
Traitement de textes longs
Le fabricant documente un contexte allant jusqu’à 131 072 tokens, mais les instructions de long contexte comptent. Les entrées dépassant 32 768 tokens nécessitent la configuration d’extension YaRN documentée. L’exemple publié utilise un facteur d’échelle de 4,0 avec un réglage de positions d’origine de 32 768. Le fabricant précise que l’extension statique peut affecter le traitement de textes courts et recommande de l’activer lorsque le long contexte est réellement nécessaire.
Préparez une tâche documentaire longue avec une question ciblée, des sections sources nommées et une structure de sortie explicite. Par exemple, fournissez plusieurs parties d’une spécification technique et demandez les exigences pertinentes pour une modification précise, en gardant la section source à côté de chaque constat. Une grande fenêtre d’entrée aide à maintenir ces parties ensemble ; la réponse peut néanmoins être un tableau compact plutôt qu’un récit complet du document.
Limites importantes
Le chiffre de 131 072 tokens décrit le contexte étendu, pas une permission d’ignorer sa configuration. Les 512 tokens générés dans le démarrage rapide sont un réglage d’exemple, pas une capacité maximale de sortie publiée. Cette version Instruct est textuelle et ne doit pas hériter des capacités image ou vidéo de Qwen-VL, ni de l’entraînement mathématique spécialisé avec outils intégrés de Qwen2.5-Math. Choisissez l’édition nommée et préparez le texte pour l’explication, le code ou le document souhaité.
POST /v1/messagestextjson, sse| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites Qwen/Qwen2-7B-Instruct | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites user, assistant | Par défaut— |
Champmessages[].content | Typestring | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Texte · Texte UTF-8
chaîne messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages, max_tokens |
Paramètreoptional_controls | Contratstream |
Paramètrematerial_types | Contrattext |
Paramètretext_file_material | ContratLisez le document UTF-8 réel et placez son texte dans l’entrée indiquée ou dans la chaîne de contenu du message. |
Cycle de vie : synchronous_or_streamed
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
| Configuration | Barème tarifaire | Coût |
|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Coût Entrée · Tokens en entrée $0.0001 / 1K tokens Sortie · Tokens en sortie $0.0001 / 1K tokens Entrée · Lecture du cache $0 / 1K tokens Entrée · Écriture dans le cache $0 / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
{\n "model": "Qwen/Qwen2-7B-Instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2-7B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2-7B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez tous les blocs de contenu, les signatures de raisonnement et les identifiants réels d’utilisation d’outils. Assemblez tous les deltas de blocs SSE ; un premier bloc de texte ne constitue pas la sortie complète.
Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.
| Champ | Type |
|---|---|
Champid | Typestring |
Champmodel | Typestring |
Champcontent[] | Typetext|thinking|tool_use|other content block |
Champstop_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra Qwen/Qwen2-7B-Instruct
Utilisez les chemins de méthode indiqués ci-dessus.
Exemple technique en anglais
Translate a terminology-bound notice\n\nTranslate this notice into German for office staff: 'The access badge expires on 30 April. Collect a replacement from Reception before your next shift. Temporary passes are valid for one day.' Use Zugangskarte for access badge and Empfang for Reception. Preserve the date and conditions, then explain one translation choice in English.A complete German notice followed by one short English explanation of terminology or phrasing.The replacement is collected before the next shift and the temporary pass remains valid for one day.