Qwen2 7B Instruct
Qwen2-7B-Instruct je textový model doladený na pokyny pre viacjazyčný dialóg, programovanie, matematiku a uvažovanie. Výrobca dokumentuje kontext až 131 072 tokenov pri zapnutej konfigurácii dlhého kontextu.
- Ailoot Ultra · OpenAI Chat
POST /v1/chat/completionsqwen2-7b-instruct - Ailoot Ultra · Anthropic Messages
POST /v1/messagesqwen2-7b-instruct
O modeli
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
Qwen2-7B-Instruct je vydanie Qwen2 veľkosti 7B doladené na pokyny pre konverzáciu a úlohy vyjadrené v prirodzenom jazyku. Je to model s textovým vstupom a textovým výstupom: odpoveďou môže byť vysvetlenie, preklad, návrh dokumentu alebo programový kód. Výrobca ako hlavné oblasti využitia uvádza porozumenie jazyku, generovanie, viacjazyčnú prácu, programovanie, matematiku a uvažovanie.
Podrobnosti modelu
Qwen2 zahŕňa samostatné základné vydania a vydania doladené na pokyny. Táto karta sa týka vydania Instruct, nie základného modelu Qwen2-7B ani vydania rodiny so zmesou expertov. Informačná tabuľka výrobcu uvádza pri modeli veľkosti 7B 7,07 miliardy parametrov. Jeho dekodérový Transformer používa SwiGLU, bias QKV v mechanizme pozornosti a pozornosť so zoskupenými dopytmi, s tokenizérom navrhnutým pre prirodzené jazyky a kód. Sú to voľby architektúry a reprezentácie, nie dodatočné vstupné modality.
Oznámenie vydania opisuje trénovanie v angličtine a čínštine plus 27 ďalších jazykoch. Patria medzi ne ruština, čeština a poľština; nemčina, francúzština a španielčina; arabčina, perzština a turečtina; japončina a kórejčina; aj ďalšie jazyky južnej a juhovýchodnej Ázie. Viacjazyčný asistent preto môže dostať pokyn a zdrojový materiál v odlišných jazykoch, no stále by sa mali určiť jazyk, terminológia a publikum konečného artefaktu.
Trénovanie a odlišnosť Instruct
Po predtrénovaní výrobca používa doladenie s dohľadom a priamu optimalizáciu preferencií. Vydanie doladené na pokyny je určené na odpoveď na požiadavku v konverzácii, zatiaľ čo základné vydanie má inú rolu ako základ jazykového modelu. Pri výbere modelu alebo porovnávaní správania promptov uvádzajte názov vydania výslovne. Trénovanie modelu na dodržiavanie pokynov a poskytnutie presného pokynu pri použití sú vzájomne sa dopĺňajúce časti tohto pracovného postupu.
Príprava konverzačného vstupu
Rýchly úvod v karte modelu oddeľuje systémový pokyn od otázky používateľa a pred generovaním aplikuje zodpovedajúcu chatovú šablónu. Pri úlohe na úrovni aplikácie je užitočné rovnaké praktické rozlíšenie: rolu asistenta a pravidlá odpovede definujte oddelene od zdrojovej pasáže alebo kódu, s ktorými má pracovať. Textový štítok napísaný v dokumente nenahrádza správne formátované konverzačné roly v okolitom rozhraní.
Úloha technického vysvetlenia môže dodať funkciu a jeden vstupný príklad a potom žiadať, čo robí každá vetva a ktoré podmienky ovplyvňujú výsledok. Programátorská úloha môže určiť prijímaný vstup, očakávanú návratovú hodnotu a obmedzenia zmien existujúceho správania. Vyžiadajte implementáciu a po nej príklady pre bežný aj hraničný prípad. Sú to použitia dokumentovaných jazykových a programátorských schopností; generovanie kódu je textový výsledok, jeho spustenie patrí do aplikačného prostredia.
Pri viacjazyčnej úprave dodajte pôvodnú pasáž, cieľové publikum a krátky zoznam termínov. Vyžiadajte revíziu, ktorá zachová pôvodné názvy a podmienky, a potom krátke vysvetlenie zmien. Je to konkrétnejšie než žiadosť zlepšiť text: definuje význam, ktorý musí zostať zachovaný, a užitočný výstup, ktorý sa má vrátiť.
Spracovanie dlhých textov
Výrobca dokumentuje podporu kontextu až 131 072 tokenov, ale pokyny pre dlhý kontext sú dôležité. Vstupy nad 32 768 tokenov vyžadujú dokumentovanú konfiguráciu rozšírenia YaRN. Publikovaný príklad používa faktor škálovania 4,0 s pôvodným nastavením pozícií 32 768. Výrobca uvádza, že statické nastavenie rozšírenia môže ovplyvniť správanie pri kratších textoch, a odporúča ho zapnúť, keď je spracovanie dlhého kontextu skutočne potrebné.
Úlohu s dlhým dokumentom pripravte s cielenou otázkou, pomenovanými zdrojovými sekciami a jasnou výstupnou štruktúrou. Napríklad dodajte niekoľko častí technickej špecifikácie a vyžiadajte požiadavky relevantné pre konkrétnu zmenu, pričom pri každom zistení zostane zdrojová sekcia. Veľké vstupné okno je užitočné na udržanie týchto častí spolu; odpoveď stále môže byť kompaktnou tabuľkou namiesto prerozprávania celého dokumentu.
Dôležité hranice
Hodnota 131 072 tokenov znamená podporu rozšíreného kontextu, nie povolenie ignorovať konfiguráciu dlhého kontextu. 512 generovaných tokenov v rýchlom úvodnom príklade je ukážkové nastavenie, nie publikovaná maximálna výstupná kapacita. Toto vydanie Instruct je textový model a nemá preberať obrazové či video schopnosti z Qwen-VL ani špecializované matematické trénovanie Qwen2.5-Math integrované s nástrojmi. Vyberte pomenované vydanie a pripravte text pre konkrétne vysvetlenie, kód alebo dokument, ktorý potrebujete.
Ailoot Ultra · OpenAI Chat POST /v1/chat/completions qwen2-7b-instruct
qwen2-7b-instructÚvod
Qwen2-7B-Instruct je textový model doladený na pokyny pre viacjazyčný dialóg, programovanie, matematiku a uvažovanie. Výrobca dokumentuje kontext až 131 072 tokenov pri zapnutej konfigurácii dlhého kontextu.
- Povolené vstupy
- Text
- Výsledky
- Text
Dostupné v Ailoot · vstupy a metódy
Ailoot Ultra · OpenAI Chat POST /v1/chat/completions
- Vstup
text- Výstup
text- Výstupný formát
- json alebo SSE
| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity qwen2-7b-instruct | Predvolené— |
Polemessages | Typmessage[] | PožiadavkaPovinné | Hodnoty a limity Minimálny počet položiek: 1 | Predvolené— |
Polemessages[].role | Typstring | PožiadavkaPovinné | Hodnoty a limity Závisí od modelu | Predvolené— |
Polemessages[].content | Typstring | PožiadavkaVoliteľné | Hodnoty a limity Platí, keď: Textová konverzácia | Predvolené— |
Polestream | Typboolean | PožiadavkaVoliteľné | Hodnoty a limity | Predvolenéfalse |
Kombinácie vstupných podkladov
Text · Text UTF8
messages[].content
Parametre a životný cyklus metódy
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciamodel, messages |
Parametermaterial_types | Špecifikáciatext |
Parametermessages | Špecifikáciapole správ so štruktúrou role/content |
Parameterfile_material | Špecifikáciaskutočný dokument UTF-8 vložený ako doslovný text; ID súboru sa neodvodzuje |
Parameteroptional_controls | Špecifikáciastream |
Parametercontrol_scope | ŠpecifikáciaTextová konverzácia; stream je logická hodnota a predvolene má hodnotu false. |
Parameteroutput_modalities | Špecifikáciatext |
Parameterhosted_operations | Špecifikáciafalse |
Parametermultimodal_input_binding | Špecifikácianull |
Aliasy metódy: /chat/completions
Životný cyklus: synchronous_or_streamed
Pošlite presné ID modelu spolu s messages.
Dĺžka kontextu nie je horná hranica výstupu.
Textový súbor môže poskytnúť doslovný text; obrazové a zvukové vstupy a vstupy so súborovými objektmi potrebujú presné naviazanie.
Cenník
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
- Rýchly režim
- Neuvedené Keď je zvolený rýchly režim
- Režim Flex
- Neuvedené Keď je zvolený režim flex
- Maximálna úroveň uvažovania
- Neuvedené Keď sa pri maximálnej úrovni uvažovania používa predvolená úprava (default)
Sadzby Ailoot
Ceny podľa konfigurácie
| Konfigurácia | Sadzobník | Poplatok |
|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Poplatok Vstup · Vstupné tokeny $0.000286 / 1K tokenov Výstup · Výstupné tokeny $0.00058 / 1K tokenov Vstup · Čítanie cache $0 / 1K tokenov Vstup · Zápis do cache $0 / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
Príklady požiadaviek
Ailoot Ultra · OpenAI Chat
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model":"qwen2-7b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("choices",[]):
if x.get("message",{}).get("content"): print(x["message"]["content"])
PY_RESULT
from openai import OpenAI
import os
if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.chat.completions.create(model="qwen2-7b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)
import base64, json
from pathlib import Path
def save_result(data, stem="result"):
# Keep every field, including usage, IDs, reasoning and tool requests.
Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
print(json.dumps(data, ensure_ascii=False, indent=2))
def save_blob(encoded, suffix, label):
raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
file = Path(stem + "-" + label + "." + ext)
file.write_bytes(raw)
print("Saved", file)
for index, block in enumerate(data.get("content") or []):
print("Content", index, json.dumps(block, ensure_ascii=False))
for choice in data.get("choices") or []:
print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
for index, item in enumerate(data.get("output") or []):
print("Output", index, json.dumps(item, ensure_ascii=False))
if item.get("type") == "image_generation_call" and item.get("result"):
save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
for ci, candidate in enumerate(data.get("candidates") or []):
for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
blob = part.get("inlineData") or part.get("inline_data")
if blob and blob.get("data"):
mime = blob.get("mimeType") or blob.get("mime_type")
suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))
save_result(result.to_dict(mode="json"))
Prijať a uložiť výsledky
Ailoot Ultra · OpenAI Chat
json alebo SSE
Uchovať všetky dokončené výsledky
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Zachovajte každý variant odpovede a jeho obsah, volania nástrojov a uvažovanie. V SSE zostavujte čiastkové zmeny podľa indexu variantu/nástroja a zachovajte konečný dôvod ukončenia aj údaje o spotrebe.
Ak treba overiť pôvodnú odpoveď
Zachovajte ID požiadaviek/odpovedí aj hlavičky. Všeobecná URL na načítanie textovej úlohy nie je poskytnutá.
Polia odpovede
| Pole | Typ |
|---|---|
Polechoices[].index | Typinteger |
Polechoices[].message.content | Typstring|null |
Polechoices[].message.tool_calls | Typtool_call[] |
Polechoices[].message.reasoning_content | Typstring |
Polechoices[].message.reasoning_details | Typobject|array |
Polechoices[].finish_reason | Typstring|null |
Poleusage | Typobject |
Chyby a ďalšie kroky
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatné povinné polia, reprezentácia materiálu alebo hodnota parametra | Ďalší krokPred novou požiadavkou na vytvorenie opravte uvedené polia. |
Aliasy
Aliasy modelov
Ailoot Ultra qwen2-7b-instruct
Aliasy ciest metód
/chat/completions
Súvisiace ID na volanie
Ailoot Ultra · Anthropic Messages POST /v1/messages qwen2-7b-instruct
qwen2-7b-instructÚvod
Qwen2-7B-Instruct je textový model doladený na pokyny pre viacjazyčný dialóg, programovanie, matematiku a uvažovanie. Výrobca dokumentuje kontext až 131 072 tokenov pri zapnutej konfigurácii dlhého kontextu.
- Povolené vstupy
- Text
- Výsledky
- json · sse
Dostupné v Ailoot · vstupy a metódy
Ailoot Ultra · Anthropic Messages POST /v1/messages
- Vstup
text- Výstup
json,sse- Výstupný formát
- JSON alebo SSE
| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity qwen2-7b-instruct | Predvolené— |
Polemessages | Typmessage[] | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polemessages[].role | Typstring | PožiadavkaPovinné | Hodnoty a limity user, assistant | Predvolené— |
Polemessages[].content | Typstring | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polemax_tokens | Typinteger | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polestream | Typboolean | PožiadavkaVoliteľné | Hodnoty a limity | Predvolenéfalse |
Kombinácie vstupných podkladov
Text · Text UTF-8
reťazec messages[].content
Parametre a životný cyklus metódy
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciamodel, messages, max_tokens |
Parameteroptional_controls | Špecifikáciastream |
Parametermaterial_types | Špecifikáciatext |
Parametertext_file_material | ŠpecifikáciaPrečítajte skutočný dokument UTF-8 a vložte jeho text do uvedeného vstupného reťazca alebo reťazca obsahu správy. |
Životný cyklus: synchronous_or_streamed
Cenník
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
- Rýchly režim
- Neuvedené Keď je zvolený rýchly režim
- Režim Flex
- Neuvedené Keď je zvolený režim flex
- Maximálna úroveň uvažovania
- Neuvedené Keď sa pri maximálnej úrovni uvažovania používa predvolená úprava (default)
Sadzby Ailoot
Ceny podľa konfigurácie
| Konfigurácia | Sadzobník | Poplatok |
|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Poplatok Vstup · Vstupné tokeny $0.000286 / 1K tokenov Výstup · Výstupné tokeny $0.00058 / 1K tokenov Vstup · Čítanie cache $0 / 1K tokenov Vstup · Zápis do cache $0 / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
Príklady požiadaviek
Ailoot Ultra · Anthropic Messages
{
"model": "qwen2-7b-instruct",
"max_tokens": 128,
"messages": [
{
"role": "user",
"content": "Summarize the incident report."
}
],
"stream": false
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json, os
from pathlib import Path
source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
raise SystemExit('Choose a document containing text')
payload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \
-H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
PY_RESULT
import json, os
from pathlib import Path
source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
raise SystemExit('Choose a document containing text')
payload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
from urllib.request import Request, urlopen
from urllib.error import HTTPError
api_key = os.environ['AILOOT_API_KEY']
if not api_key.strip():
raise SystemExit('Set AILOOT_API_KEY before making a request')
headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}
headers['x-api-key'] = api_key
request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')
try:
with urlopen(request, timeout=120) as response:
raw = response.read()
Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')
except HTTPError as error:
Path('result.json').write_bytes(error.read())
Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')
raise
Path('result.json').write_bytes(raw)
import json
from pathlib import Path
result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
Prijať a uložiť výsledky
Ailoot Ultra · Anthropic Messages
JSON alebo SSE
Uchovať všetky dokončené výsledky
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Zachovajte všetky bloky obsahu, podpisy uvažovania a skutočné ID volaní nástrojov. Zostavte všetky čiastkové zmeny blokov SSE; prvý textový blok nie je celý výstup.
Ak treba overiť pôvodnú odpoveď
Zachovajte ID požiadaviek/odpovedí aj hlavičky. Všeobecná URL na načítanie textovej úlohy nie je poskytnutá.
Polia odpovede
| Pole | Typ |
|---|---|
Poleid | Typstring |
Polemodel | Typstring |
Polecontent[] | Typtext|thinking|tool_use|other content block |
Polestop_reason | Typstring|null |
Poleusage | Typobject |
Chyby a ďalšie kroky
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatné povinné polia, reprezentácia materiálu alebo hodnota parametra | Ďalší krokPred novou požiadavkou na vytvorenie opravte uvedené polia. |
Aliasy
Aliasy modelov
Ailoot Ultra qwen2-7b-instruct
Aliasy ciest metód
/chat/completions
Súvisiace ID na volanie
FAQ · Pro/Qwen/Qwen2-7B-Instruct
- Aké vstupy a výsledky sú dostupné?
POST /v1/chat/completions·qwen2-7b-instruct:text→textPOST /v1/messages·qwen2-7b-instruct:text→json,sse- Aké polia používa požiadavka?
POST /v1/chat/completions·qwen2-7b-instruct:model,messages,streamPOST /v1/messages·qwen2-7b-instruct:model,messages,max_tokens,stream- Aké limity platia?
POST /v1/chat/completions·qwen2-7b-instruct:messages.min_items:1