Qwen2 7B Instruct
Qwen2-7B-Instruct ist ein auf Anweisungen trainiertes Textmodell für mehrsprachigen Dialog, Programmierung, Mathematik und Schlussfolgern. Der Hersteller dokumentiert bis zu 131’072 Kontexttokens bei aktivierter Langkontextkonfiguration.
- Ailoot Ultra · OpenAI Chat
POST /v1/chat/completionsqwen2-7b-instruct - Ailoot Ultra · Anthropic Messages
POST /v1/messagesqwen2-7b-instruct
Über das Modell
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Qwen2-7B-Instruct ist die auf Anweisungen trainierte Qwen2-Edition in 7B-Grösse für Gespräche und natürlichsprachlich formulierte Aufgaben. Das Modell nimmt Text entgegen und gibt Text aus: Erklärungen, Übersetzungen, Dokumententwürfe oder Programmcode. Der Hersteller nennt Sprachverständnis, Generierung, mehrsprachige Arbeit, Programmierung, Mathematik und Schlussfolgern als Hauptanwendungen.
Modelldetails
Qwen2 umfasst separate Basis- und anweisungstrainierte Veröffentlichungen. Diese Karte betrifft die Instruct-Edition, nicht das Qwen2-7B-Basismodell oder die Mixture-of-Experts-Veröffentlichung der Familie. Die Modellinformationstabelle nennt 7,07 Milliarden Parameter für das Modell in 7B-Grösse. Sein Decoder-Transformer verwendet SwiGLU, Attention-QKV-Bias und Grouped-Query Attention sowie einen für natürliche Sprachen und Code entwickelten Tokenizer. Dies sind Architektur- und Darstellungsentscheidungen, keine zusätzlichen Eingabemodalitäten.
Die Veröffentlichungsankündigung beschreibt Training in Englisch und Chinesisch sowie 27 zusätzlichen Sprachen. Dazu zählen Russisch, Tschechisch und Polnisch; Deutsch, Französisch und Spanisch; Arabisch, Persisch und Türkisch; Japanisch und Koreanisch sowie weitere Sprachen Süd- und Südostasiens. Ein mehrsprachiger Assistent kann deshalb Anweisungen und Quellmaterial in unterschiedlichen Sprachen erhalten; Sprache, Terminologie und Zielgruppe des endgültigen Artefakts sollten trotzdem ausdrücklich genannt werden.
Training und die Instruct-Unterscheidung
Nach dem Vortraining nutzt der Hersteller überwachtes Fine-Tuning und direkte Präferenzoptimierung. Die anweisungstrainierte Edition soll auf eine Anfrage im Gespräch reagieren; die Basisedition hat eine andere Rolle als Sprachmodellgrundlage. Halten Sie den Editionsnamen bei Modellauswahl oder Promptvergleichen ausdrücklich fest. Training für Anweisungsbefolgung und eine präzise Anweisung bei der Nutzung ergänzen sich in diesem Ablauf.
Vorbereitung einer Gesprächseingabe
Der Schnellstart der Modellkarte trennt die Systemanweisung von der Nutzerfrage und wendet vor der Generierung die passende Chatvorlage an. Für Aufgaben auf Anwendungsebene ist diese praktische Trennung ebenso nützlich: Definieren Sie Rolle und Antwortregeln des Assistenten getrennt vom Quellabschnitt oder Code. Eine Textkennzeichnung in einem Dokument ersetzt keine korrekt formatierten Gesprächsrollen in der umgebenden Schnittstelle.
Eine technische Erklärungsaufgabe kann eine Funktion und ein Eingabebeispiel liefern und fragen, was jeder Zweig tut und welche Bedingungen das Ergebnis beeinflussen. Eine Programmieraufgabe kann zulässige Eingabe, erwarteten Rückgabewert und Einschränkungen für Änderungen bestehenden Verhaltens festlegen. Fordern Sie die Implementierung mit anschliessenden Beispielen für einen normalen und einen Randfall an. Das nutzt die dokumentierten Sprach- und Codefähigkeiten; generierter Code ist ein Textergebnis, seine Ausführung gehört zur Anwendungsumgebung.
Geben Sie für mehrsprachige Redaktion Originalabschnitt, Zielgruppe und eine kleine Terminologieliste vor. Bitten Sie um eine Überarbeitung, die ursprüngliche Namen und Bedingungen erhält, und anschliessend um eine kurze Erklärung der Änderungen. Das ist konkreter als die Bitte, den Text zu verbessern: Es definiert den zu bewahrenden Sinn und die benötigte nutzbare Ausgabe.
Verarbeitung langer Texte
Der Hersteller dokumentiert Kontextunterstützung bis zu 131’072 Tokens; die Langkontextanweisungen bleiben jedoch wichtig. Eingaben über 32’768 Tokens erfordern die dokumentierte YaRN-Erweiterungskonfiguration. Das veröffentlichte Beispiel verwendet den Skalierungsfaktor 4,0 bei einer ursprünglichen Positionseinstellung von 32’768. Der Hersteller weist darauf hin, dass die statische Erweiterung kürzere Texte beeinflussen kann, und empfiehlt sie, wenn Langkontextverarbeitung tatsächlich gebraucht wird.
Bereiten Sie eine lange Dokumentaufgabe mit gezielter Frage, benannten Quellabschnitten und ausdrücklicher Ausgabestruktur vor. Geben Sie beispielsweise mehrere Teile einer technischen Spezifikation an und fragen Sie nach den Anforderungen für eine bestimmte Änderung, jeweils mit dem Quellabschnitt neben dem Ergebnis. Ein grosses Eingabefenster hält diese Teile zusammen; die Antwort kann trotzdem eine kompakte Tabelle statt einer Nacherzählung des gesamten Dokuments sein.
Wichtige Grenzen
Die 131’072 Tokens bezeichnen erweiterten Kontext, keine Erlaubnis, dessen Konfiguration zu ignorieren. Die 512 generierten Tokens des Schnellstartbeispiels sind eine Beispieleinstellung, keine veröffentlichte maximale Ausgabekapazität. Diese Instruct-Veröffentlichung ist ein Textmodell und sollte weder Bild- oder Videofähigkeiten von Qwen-VL noch das spezialisierte werkzeugintegrierte mathematische Training von Qwen2.5-Math übernehmen. Wählen Sie die benannte Edition und bereiten Sie den Text für die gewünschte Erklärung, den Code oder das Dokument vor.
Ailoot Ultra · OpenAI Chat POST /v1/chat/completions qwen2-7b-instruct
qwen2-7b-instructEinstieg
Qwen2-7B-Instruct ist ein auf Anweisungen trainiertes Textmodell für mehrsprachigen Dialog, Programmierung, Mathematik und Schlussfolgern. Der Hersteller dokumentiert bis zu 131’072 Kontexttokens bei aktivierter Langkontextkonfiguration.
- Zulässige Eingaben
- Text
- Ergebnisse
- Text
In Ailoot verfügbar · Eingaben und Methoden
Ailoot Ultra · OpenAI Chat POST /v1/chat/completions
- Eingabe
text- Ausgabe
text- Ausgabeformat
- json oder SSE
| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits qwen2-7b-instruct | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Modellabhängig | Standard— |
Feldmessages[].content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Textgespräch | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Kombinationen von Eingabematerialien
Text · UTF8-Text
messages[].content
Methodenparameter und Lebenszyklus
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream |
Parametercontrol_scope | VertragTextgespräch; stream ist ein boolescher Wert und standardmässig false. |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Methodenaliasnamen: /chat/completions
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarife
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
- Schnellmodus
- Nicht angegeben Wenn der Schnellmodus ausgewählt ist
- Flex-Modus
- Nicht angegeben Wenn der Modus flex ausgewählt ist
- Maximaler Denkaufwand
- Nicht angegeben Wenn beim maximalen Denkaufwand die Standardanpassung (default) verwendet wird
Ailoot-Tarife
Preise nach Konfiguration
| Konfiguration | Tarifstaffel | Gebühr |
|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken $0.000286 / 1K Tokens Ausgabe · Ausgabetoken $0.00058 / 1K Tokens Eingabe · Cache lesen $0 / 1K Tokens Eingabe · Cache schreiben $0 / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschliessenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
Beispielanfragen
Ailoot Ultra · OpenAI Chat
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model":"qwen2-7b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("choices",[]):
if x.get("message",{}).get("content"): print(x["message"]["content"])
PY_RESULT
from openai import OpenAI
import os
if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.chat.completions.create(model="qwen2-7b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)
import base64, json
from pathlib import Path
def save_result(data, stem="result"):
# Keep every field, including usage, IDs, reasoning and tool requests.
Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
print(json.dumps(data, ensure_ascii=False, indent=2))
def save_blob(encoded, suffix, label):
raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
file = Path(stem + "-" + label + "." + ext)
file.write_bytes(raw)
print("Saved", file)
for index, block in enumerate(data.get("content") or []):
print("Content", index, json.dumps(block, ensure_ascii=False))
for choice in data.get("choices") or []:
print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
for index, item in enumerate(data.get("output") or []):
print("Output", index, json.dumps(item, ensure_ascii=False))
if item.get("type") == "image_generation_call" and item.get("result"):
save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
for ci, candidate in enumerate(data.get("candidates") or []):
for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
blob = part.get("inlineData") or part.get("inline_data")
if blob and blob.get("data"):
mime = blob.get("mimeType") or blob.get("mime_type")
suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))
save_result(result.to_dict(mode="json"))
Ergebnisse abrufen und speichern
Ailoot Ultra · OpenAI Chat
json oder SSE
Alle fertiggestellten Ergebnisse aufbewahren
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Wenn die ursprüngliche Antwort geprüft werden muss
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
Antwortfelder
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
Fehler und nächste Schritte
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Aliasnamen
Modellaliasnamen
Ailoot Ultra qwen2-7b-instruct
Aliasnamen für Methodenpfade
/chat/completions
Zugehörige Aufrufer-IDs
Ailoot Ultra · Anthropic Messages POST /v1/messages qwen2-7b-instruct
qwen2-7b-instructEinstieg
Qwen2-7B-Instruct ist ein auf Anweisungen trainiertes Textmodell für mehrsprachigen Dialog, Programmierung, Mathematik und Schlussfolgern. Der Hersteller dokumentiert bis zu 131’072 Kontexttokens bei aktivierter Langkontextkonfiguration.
- Zulässige Eingaben
- Text
- Ergebnisse
- json · sse
In Ailoot verfügbar · Eingaben und Methoden
Ailoot Ultra · Anthropic Messages POST /v1/messages
- Eingabe
text- Ausgabe
json,sse- Ausgabeformat
- JSON oder SSE
| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits qwen2-7b-instruct | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Kombinationen von Eingabematerialien
Text · UTF-8-Text
Zeichenfolge messages[].content
Methodenparameter und Lebenszyklus
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarife
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
- Schnellmodus
- Nicht angegeben Wenn der Schnellmodus ausgewählt ist
- Flex-Modus
- Nicht angegeben Wenn der Modus flex ausgewählt ist
- Maximaler Denkaufwand
- Nicht angegeben Wenn beim maximalen Denkaufwand die Standardanpassung (default) verwendet wird
Ailoot-Tarife
Preise nach Konfiguration
| Konfiguration | Tarifstaffel | Gebühr |
|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken $0.000286 / 1K Tokens Ausgabe · Ausgabetoken $0.00058 / 1K Tokens Eingabe · Cache lesen $0 / 1K Tokens Eingabe · Cache schreiben $0 / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschliessenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
Beispielanfragen
Ailoot Ultra · Anthropic Messages
{
"model": "qwen2-7b-instruct",
"max_tokens": 128,
"messages": [
{
"role": "user",
"content": "Summarize the incident report."
}
],
"stream": false
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json, os
from pathlib import Path
source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
raise SystemExit('Choose a document containing text')
payload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \
-H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
PY_RESULT
import json, os
from pathlib import Path
source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
raise SystemExit('Choose a document containing text')
payload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
from urllib.request import Request, urlopen
from urllib.error import HTTPError
api_key = os.environ['AILOOT_API_KEY']
if not api_key.strip():
raise SystemExit('Set AILOOT_API_KEY before making a request')
headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}
headers['x-api-key'] = api_key
request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')
try:
with urlopen(request, timeout=120) as response:
raw = response.read()
Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')
except HTTPError as error:
Path('result.json').write_bytes(error.read())
Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')
raise
Path('result.json').write_bytes(raw)
import json
from pathlib import Path
result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
Ergebnisse abrufen und speichern
Ailoot Ultra · Anthropic Messages
JSON oder SSE
Alle fertiggestellten Ergebnisse aufbewahren
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Wenn die ursprüngliche Antwort geprüft werden muss
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
Antwortfelder
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
Fehler und nächste Schritte
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Aliasnamen
Modellaliasnamen
Ailoot Ultra qwen2-7b-instruct
Aliasnamen für Methodenpfade
/chat/completions
Zugehörige Aufrufer-IDs
FAQ · Pro/Qwen/Qwen2-7B-Instruct
- Welche Eingaben und Ergebnisse sind verfügbar?
POST /v1/chat/completions·qwen2-7b-instruct:text→textPOST /v1/messages·qwen2-7b-instruct:text→json,sse- Welche Felder verwendet die Anfrage?
POST /v1/chat/completions·qwen2-7b-instruct:model,messages,streamPOST /v1/messages·qwen2-7b-instruct:model,messages,max_tokens,stream- Welche Grenzen gelten?
POST /v1/chat/completions·qwen2-7b-instruct:messages.min_items:1