Qwen2 7B Instruct
Qwen2-7B-Instruct est un modèle textuel entraîné aux instructions pour le dialogue multilingue, le code, les mathématiques et le raisonnement. Son fabricant documente un contexte allant jusqu’à 131 072 jetons lorsque la configuration longue est activée.
- Ailoot Ultra · OpenAI Chat
POST /v1/chat/completionsqwen2-7b-instruct - Ailoot Ultra · Anthropic Messages
POST /v1/messagesqwen2-7b-instruct
À propos du modèle
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Qwen2-7B-Instruct est l’édition Qwen2 de taille 7B entraînée aux instructions pour la conversation et les tâches exprimées en langage naturel. C’est un modèle à entrée et sortie textuelles : la réponse peut être une explication, une traduction, un brouillon documentaire ou du code. Le fabricant cite la compréhension et la génération linguistiques, le multilinguisme, le code, les mathématiques et le raisonnement comme principaux usages.
Détails du modèle
Qwen2 comprend des versions de base et des versions entraînées aux instructions distinctes. Cette fiche concerne l’édition Instruct, plutôt que le modèle de base Qwen2-7B ou la version à mélange d’experts de la famille. Le tableau d’informations du fabricant indique 7,07 milliards de paramètres pour le modèle de taille 7B. Son Transformer à décodeur utilise SwiGLU, un biais QKV dans l’attention et une attention à requêtes groupées, avec un tokenizer conçu pour les langues naturelles et le code. Ce sont des choix d’architecture et de représentation, pas des modalités d’entrée supplémentaires.
L’annonce décrit un entraînement en anglais et chinois plus 27 langues supplémentaires. Celles-ci comprennent le russe, le tchèque et le polonais; l’allemand, le français et l’espagnol; l’arabe, le persan et le turc; le japonais et le coréen; et d’autres langues d’Asie du Sud et du Sud-Est. Un assistant multilingue peut donc recevoir une instruction et une source dans des langues différentes, mais devrait toujours préciser la langue, la terminologie et le public du livrable final.
Entraînement et distinction Instruct
Après le préentraînement, le fabricant utilise un fine-tuning supervisé et une optimisation directe des préférences. L’édition entraînée aux instructions vise à répondre à une demande dans une conversation; l’édition de base a un autre rôle comme fondation de modèle linguistique. Gardez le nom de l’édition explicite lors du choix ou de la comparaison du comportement des prompts. Entraîner le modèle à suivre des instructions et lui fournir une instruction précise à l’utilisation sont des éléments complémentaires de ce processus.
Préparation d’une entrée conversationnelle
Le démarrage rapide de la fiche sépare l’instruction système de la question utilisateur et applique le gabarit de conversation correspondant avant la génération. Pour une tâche applicative, la même distinction pratique est utile : définissez le rôle et les règles de réponse de l’assistant séparément du passage source ou du code à traiter. Une étiquette textuelle dans un document ne remplace pas des rôles conversationnels correctement formatés dans l’interface environnante.
Une tâche d’explication technique peut fournir une fonction et un exemple d’entrée, puis demander le rôle de chaque branche et les conditions affectant le résultat. Une tâche de code peut préciser l’entrée acceptée, la valeur de retour attendue et les contraintes de modification du comportement existant. Demandez l’implémentation suivie d’exemples pour un cas normal et un cas limite. Cela applique les capacités linguistiques et de code documentées; générer du code produit du texte, tandis que son exécution appartient à l’environnement applicatif.
Pour une révision multilingue, fournissez le passage original, le public cible et une petite liste terminologique. Demandez une révision conservant les noms et conditions d’origine, puis une courte explication des changements. C’est plus précis qu’une demande d’amélioration du texte : cela définit le sens à préserver et la sortie utile attendue.
Traitement de textes longs
Le fabricant documente un contexte allant jusqu’à 131 072 jetons, mais les instructions de long contexte comptent. Les entrées dépassant 32 768 jetons nécessitent la configuration d’extension YaRN documentée. L’exemple publié utilise un facteur d’échelle de 4,0 avec un réglage de positions d’origine de 32 768. Le fabricant précise que l’extension statique peut affecter le traitement de textes courts et recommande de l’activer lorsque le long contexte est réellement nécessaire.
Préparez une tâche documentaire longue avec une question ciblée, des sections sources nommées et une structure de sortie explicite. Par exemple, fournissez plusieurs parties d’une spécification technique et demandez les exigences pertinentes pour une modification précise, en gardant la section source à côté de chaque constat. Une grande fenêtre d’entrée aide à maintenir ces parties ensemble; la réponse peut néanmoins être un tableau compact plutôt qu’un récit complet du document.
Limites importantes
Le chiffre de 131 072 jetons décrit le contexte étendu, pas une permission d’ignorer sa configuration. Les 512 jetons générés dans le démarrage rapide sont un réglage d’exemple, pas une capacité maximale de sortie publiée. Cette version Instruct est textuelle et ne doit pas hériter des capacités image ou vidéo de Qwen-VL, ni de l’entraînement mathématique spécialisé avec outils intégrés de Qwen2.5-Math. Choisissez l’édition nommée et préparez le texte pour l’explication, le code ou le document souhaité.
Ailoot Ultra · OpenAI Chat POST /v1/chat/completions qwen2-7b-instruct
qwen2-7b-instructPour commencer
Qwen2-7B-Instruct est un modèle textuel entraîné aux instructions pour le dialogue multilingue, le code, les mathématiques et le raisonnement. Son fabricant documente un contexte allant jusqu’à 131 072 jetons lorsque la configuration longue est activée.
- Entrées acceptées
- Texte
- Résultats
- Texte
Disponible dans Ailoot · entrées et méthodes
Ailoot Ultra · OpenAI Chat POST /v1/chat/completions
- Entrée
text- Sortie
text- Format de sortie
- json ou SSE
| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites qwen2-7b-instruct | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites Nombre minimal d’éléments: 1 | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites Selon le modèle | Par défaut— |
Champmessages[].content | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: Conversation textuelle | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Combinaisons d’éléments d’entrée
Texte · Texte UTF8
messages[].content
Paramètres et cycle de vie de la méthode
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages |
Paramètrematerial_types | Contrattext |
Paramètremessages | ContratTableau de messages avec une structure role/content |
Paramètrefile_material | ContratDocument UTF-8 réel inséré comme texte littéral ; aucun ID de fichier déduit |
Paramètreoptional_controls | Contratstream |
Paramètrecontrol_scope | ContratConversation textuelle ; stream est un booléen dont la valeur par défaut est false. |
Paramètreoutput_modalities | Contrattext |
Paramètrehosted_operations | Contratfalse |
Paramètremultimodal_input_binding | Contratnull |
Alias de méthode : /chat/completions
Cycle de vie : synchronous_or_streamed
Envoyez l’ID exact du modèle avec messages.
La longueur du contexte n’est pas un plafond de sortie.
Un fichier texte peut fournir du texte littéral ; les entrées image/audio/objet fichier nécessitent une liaison exacte.
Tarifs
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
- Mode rapide
- Non précisé Lorsque le mode rapide est sélectionné
- Mode Flex
- Non précisé Lorsque le mode flex est sélectionné
- Effort de raisonnement maximal
- Non précisé Lorsque l’effort de raisonnement maximal utilise l’ajustement par défaut (default)
Tarifs Ailoot
Prix par configuration
| Configuration | Barème tarifaire | Coût |
|---|---|---|
| ConfigurationTarifs de base des jetons | Barème tarifaireTarif de base | Coût Entrée · Jetons en entrée $0.000286 / 1K jetons Sortie · Jetons en sortie $0.00058 / 1K jetons Entrée · Lecture du cache $0 / 1K jetons Entrée · Écriture dans le cache $0 / 1K jetons Entrée · Écriture dans le cache, 1 h — / 1K jetons |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
Exemples de requêtes
Ailoot Ultra · OpenAI Chat
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model":"qwen2-7b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("choices",[]):
if x.get("message",{}).get("content"): print(x["message"]["content"])
PY_RESULT
from openai import OpenAI
import os
if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.chat.completions.create(model="qwen2-7b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)
import base64, json
from pathlib import Path
def save_result(data, stem="result"):
# Keep every field, including usage, IDs, reasoning and tool requests.
Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
print(json.dumps(data, ensure_ascii=False, indent=2))
def save_blob(encoded, suffix, label):
raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
file = Path(stem + "-" + label + "." + ext)
file.write_bytes(raw)
print("Saved", file)
for index, block in enumerate(data.get("content") or []):
print("Content", index, json.dumps(block, ensure_ascii=False))
for choice in data.get("choices") or []:
print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
for index, item in enumerate(data.get("output") or []):
print("Output", index, json.dumps(item, ensure_ascii=False))
if item.get("type") == "image_generation_call" and item.get("result"):
save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
for ci, candidate in enumerate(data.get("candidates") or []):
for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
blob = part.get("inlineData") or part.get("inline_data")
if blob and blob.get("data"):
mime = blob.get("mimeType") or blob.get("mime_type")
suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))
save_result(result.to_dict(mode="json"))
Recevoir et enregistrer les résultats
Ailoot Ultra · OpenAI Chat
json ou SSE
Conserver tous les résultats terminés
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez chaque choix avec son contenu, ses appels d’outils et son raisonnement. En SSE, assemblez les deltas par index de choix et d’outil, et conservez le motif final d’arrêt et les données d’utilisation.
Si la réponse d’origine doit être vérifiée
Conservez les ID et les en-têtes de requête/réponse. Aucune URL générique de récupération de tâche textuelle n’est fournie.
Champs de la réponse
| Champ | Type |
|---|---|
Champchoices[].index | Typeinteger |
Champchoices[].message.content | Typestring|null |
Champchoices[].message.tool_calls | Typetool_call[] |
Champchoices[].message.reasoning_content | Typestring |
Champchoices[].message.reasoning_details | Typeobject|array |
Champchoices[].finish_reason | Typestring|null |
Champusage | Typeobject |
Erreurs et étapes suivantes
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des éléments fournis ou valeur de paramètre invalides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Alias
Alias du modèle
Ailoot Ultra qwen2-7b-instruct
Alias des chemins de méthode
/chat/completions
ID d’appel associés
Ailoot Ultra · Anthropic Messages POST /v1/messages qwen2-7b-instruct
qwen2-7b-instructPour commencer
Qwen2-7B-Instruct est un modèle textuel entraîné aux instructions pour le dialogue multilingue, le code, les mathématiques et le raisonnement. Son fabricant documente un contexte allant jusqu’à 131 072 jetons lorsque la configuration longue est activée.
- Entrées acceptées
- Texte
- Résultats
- json · sse
Disponible dans Ailoot · entrées et méthodes
Ailoot Ultra · Anthropic Messages POST /v1/messages
- Entrée
text- Sortie
json,sse- Format de sortie
- JSON ou SSE
| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites qwen2-7b-instruct | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites user, assistant | Par défaut— |
Champmessages[].content | Typestring | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Combinaisons d’éléments d’entrée
Texte · Texte UTF-8
Chaîne messages[].content
Paramètres et cycle de vie de la méthode
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages, max_tokens |
Paramètreoptional_controls | Contratstream |
Paramètrematerial_types | Contrattext |
Paramètretext_file_material | ContratLisez le document UTF-8 réel et placez son texte dans l’entrée indiquée ou dans la chaîne de contenu du message. |
Cycle de vie : synchronous_or_streamed
Tarifs
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
- Mode rapide
- Non précisé Lorsque le mode rapide est sélectionné
- Mode Flex
- Non précisé Lorsque le mode flex est sélectionné
- Effort de raisonnement maximal
- Non précisé Lorsque l’effort de raisonnement maximal utilise l’ajustement par défaut (default)
Tarifs Ailoot
Prix par configuration
| Configuration | Barème tarifaire | Coût |
|---|---|---|
| ConfigurationTarifs de base des jetons | Barème tarifaireTarif de base | Coût Entrée · Jetons en entrée $0.000286 / 1K jetons Sortie · Jetons en sortie $0.00058 / 1K jetons Entrée · Lecture du cache $0 / 1K jetons Entrée · Écriture dans le cache $0 / 1K jetons Entrée · Écriture dans le cache, 1 h — / 1K jetons |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
Exemples de requêtes
Ailoot Ultra · Anthropic Messages
{
"model": "qwen2-7b-instruct",
"max_tokens": 128,
"messages": [
{
"role": "user",
"content": "Summarize the incident report."
}
],
"stream": false
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json, os
from pathlib import Path
source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
raise SystemExit('Choose a document containing text')
payload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \
-H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
PY_RESULT
import json, os
from pathlib import Path
source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
raise SystemExit('Choose a document containing text')
payload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
from urllib.request import Request, urlopen
from urllib.error import HTTPError
api_key = os.environ['AILOOT_API_KEY']
if not api_key.strip():
raise SystemExit('Set AILOOT_API_KEY before making a request')
headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}
headers['x-api-key'] = api_key
request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')
try:
with urlopen(request, timeout=120) as response:
raw = response.read()
Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')
except HTTPError as error:
Path('result.json').write_bytes(error.read())
Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')
raise
Path('result.json').write_bytes(raw)
import json
from pathlib import Path
result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
Recevoir et enregistrer les résultats
Ailoot Ultra · Anthropic Messages
JSON ou SSE
Conserver tous les résultats terminés
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez tous les blocs de contenu, les signatures de raisonnement et les ID réels d’utilisation d’outils. Assemblez tous les deltas de blocs SSE ; un premier bloc de texte ne constitue pas la sortie complète.
Si la réponse d’origine doit être vérifiée
Conservez les ID et les en-têtes de requête/réponse. Aucune URL générique de récupération de tâche textuelle n’est fournie.
Champs de la réponse
| Champ | Type |
|---|---|
Champid | Typestring |
Champmodel | Typestring |
Champcontent[] | Typetext|thinking|tool_use|other content block |
Champstop_reason | Typestring|null |
Champusage | Typeobject |
Erreurs et étapes suivantes
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des éléments fournis ou valeur de paramètre invalides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Alias
Alias du modèle
Ailoot Ultra qwen2-7b-instruct
Alias des chemins de méthode
/chat/completions
ID d’appel associés
FAQ · Pro/Qwen/Qwen2-7B-Instruct
- Quelles entrées et quels résultats sont disponibles ?
POST /v1/chat/completions·qwen2-7b-instruct:text→textPOST /v1/messages·qwen2-7b-instruct:text→json,sse- Quels champs la requête utilise-t-elle ?
POST /v1/chat/completions·qwen2-7b-instruct:model,messages,streamPOST /v1/messages·qwen2-7b-instruct:model,messages,max_tokens,stream- Quelles limites s’appliquent ?
POST /v1/chat/completions·qwen2-7b-instruct:messages.min_items:1