modely

Qwen2 7B Instruct

Markdown · JSON

Qwen2 7B Instruct

Qwen2-7B-Instruct je textový model doladený na pokyny pre viacjazyčný dialóg, programovanie, matematiku a uvažovanie. Výrobca dokumentuje kontext až 131 072 tokenov pri zapnutej konfigurácii dlhého kontextu.

O modeli

Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.

Qwen2-7B-Instruct je vydanie Qwen2 veľkosti 7B doladené na pokyny pre konverzáciu a úlohy vyjadrené v prirodzenom jazyku. Je to model s textovým vstupom a textovým výstupom: odpoveďou môže byť vysvetlenie, preklad, návrh dokumentu alebo programový kód. Výrobca ako hlavné oblasti využitia uvádza porozumenie jazyku, generovanie, viacjazyčnú prácu, programovanie, matematiku a uvažovanie.

Podrobnosti modelu

Qwen2 zahŕňa samostatné základné vydania a vydania doladené na pokyny. Táto karta sa týka vydania Instruct, nie základného modelu Qwen2-7B ani vydania rodiny so zmesou expertov. Informačná tabuľka výrobcu uvádza pri modeli veľkosti 7B 7,07 miliardy parametrov. Jeho dekodérový Transformer používa SwiGLU, bias QKV v mechanizme pozornosti a pozornosť so zoskupenými dopytmi, s tokenizérom navrhnutým pre prirodzené jazyky a kód. Sú to voľby architektúry a reprezentácie, nie dodatočné vstupné modality.

Oznámenie vydania opisuje trénovanie v angličtine a čínštine plus 27 ďalších jazykoch. Patria medzi ne ruština, čeština a poľština; nemčina, francúzština a španielčina; arabčina, perzština a turečtina; japončina a kórejčina; aj ďalšie jazyky južnej a juhovýchodnej Ázie. Viacjazyčný asistent preto môže dostať pokyn a zdrojový materiál v odlišných jazykoch, no stále by sa mali určiť jazyk, terminológia a publikum konečného artefaktu.

Trénovanie a odlišnosť Instruct

Po predtrénovaní výrobca používa doladenie s dohľadom a priamu optimalizáciu preferencií. Vydanie doladené na pokyny je určené na odpoveď na požiadavku v konverzácii, zatiaľ čo základné vydanie má inú rolu ako základ jazykového modelu. Pri výbere modelu alebo porovnávaní správania promptov uvádzajte názov vydania výslovne. Trénovanie modelu na dodržiavanie pokynov a poskytnutie presného pokynu pri použití sú vzájomne sa dopĺňajúce časti tohto pracovného postupu.

Príprava konverzačného vstupu

Rýchly úvod v karte modelu oddeľuje systémový pokyn od otázky používateľa a pred generovaním aplikuje zodpovedajúcu chatovú šablónu. Pri úlohe na úrovni aplikácie je užitočné rovnaké praktické rozlíšenie: rolu asistenta a pravidlá odpovede definujte oddelene od zdrojovej pasáže alebo kódu, s ktorými má pracovať. Textový štítok napísaný v dokumente nenahrádza správne formátované konverzačné roly v okolitom rozhraní.

Úloha technického vysvetlenia môže dodať funkciu a jeden vstupný príklad a potom žiadať, čo robí každá vetva a ktoré podmienky ovplyvňujú výsledok. Programátorská úloha môže určiť prijímaný vstup, očakávanú návratovú hodnotu a obmedzenia zmien existujúceho správania. Vyžiadajte implementáciu a po nej príklady pre bežný aj hraničný prípad. Sú to použitia dokumentovaných jazykových a programátorských schopností; generovanie kódu je textový výsledok, jeho spustenie patrí do aplikačného prostredia.

Pri viacjazyčnej úprave dodajte pôvodnú pasáž, cieľové publikum a krátky zoznam termínov. Vyžiadajte revíziu, ktorá zachová pôvodné názvy a podmienky, a potom krátke vysvetlenie zmien. Je to konkrétnejšie než žiadosť zlepšiť text: definuje význam, ktorý musí zostať zachovaný, a užitočný výstup, ktorý sa má vrátiť.

Spracovanie dlhých textov

Výrobca dokumentuje podporu kontextu až 131 072 tokenov, ale pokyny pre dlhý kontext sú dôležité. Vstupy nad 32 768 tokenov vyžadujú dokumentovanú konfiguráciu rozšírenia YaRN. Publikovaný príklad používa faktor škálovania 4,0 s pôvodným nastavením pozícií 32 768. Výrobca uvádza, že statické nastavenie rozšírenia môže ovplyvniť správanie pri kratších textoch, a odporúča ho zapnúť, keď je spracovanie dlhého kontextu skutočne potrebné.

Úlohu s dlhým dokumentom pripravte s cielenou otázkou, pomenovanými zdrojovými sekciami a jasnou výstupnou štruktúrou. Napríklad dodajte niekoľko častí technickej špecifikácie a vyžiadajte požiadavky relevantné pre konkrétnu zmenu, pričom pri každom zistení zostane zdrojová sekcia. Veľké vstupné okno je užitočné na udržanie týchto častí spolu; odpoveď stále môže byť kompaktnou tabuľkou namiesto prerozprávania celého dokumentu.

Dôležité hranice

Hodnota 131 072 tokenov znamená podporu rozšíreného kontextu, nie povolenie ignorovať konfiguráciu dlhého kontextu. 512 generovaných tokenov v rýchlom úvodnom príklade je ukážkové nastavenie, nie publikovaná maximálna výstupná kapacita. Toto vydanie Instruct je textový model a nemá preberať obrazové či video schopnosti z Qwen-VL ani špecializované matematické trénovanie Qwen2.5-Math integrované s nástrojmi. Vyberte pomenované vydanie a pripravte text pre konkrétne vysvetlenie, kód alebo dokument, ktorý potrebujete.

Ailoot Ultra · OpenAI Chat POST /v1/chat/completions qwen2-7b-instruct

qwen2-7b-instruct

Alibaba /qwen2-7b-instruct

Úvod

Qwen2-7B-Instruct je textový model doladený na pokyny pre viacjazyčný dialóg, programovanie, matematiku a uvažovanie. Výrobca dokumentuje kontext až 131 072 tokenov pri zapnutej konfigurácii dlhého kontextu.

Povolené vstupy
Text
Výsledky
Text

Dostupné v Ailoot · vstupy a metódy

Ailoot Ultra · OpenAI Chat POST /v1/chat/completions
Vstup
text
Výstup
text
Výstupný formát
json alebo SSE
PoleTypPožiadavkaHodnoty a limityPredvolené
PolemodelTypstringPožiadavkaPovinnéHodnoty a limity
qwen2-7b-instruct
Predvolené—
PolemessagesTypmessage[]PožiadavkaPovinnéHodnoty a limity
Minimálny počet položiek: 1
Predvolené—
Polemessages[].roleTypstringPožiadavkaPovinnéHodnoty a limity
Závisí od modelu
Predvolené—
Polemessages[].contentTypstringPožiadavkaVoliteľnéHodnoty a limity
Platí, keď: Textová konverzácia
Predvolené—
PolestreamTypbooleanPožiadavkaVoliteľnéHodnoty a limityPredvolenéfalse
Kombinácie vstupných podkladov

Text · Text UTF8

messages[].content

Parametre a životný cyklus metódy
ParameterŠpecifikácia
Parametercontent_typeŠpecifikáciaapplication/json
ParameterrequiredŠpecifikáciamodel, messages
Parametermaterial_typesŠpecifikáciatext
ParametermessagesŠpecifikáciapole správ so štruktúrou role/content
Parameterfile_materialŠpecifikáciaskutočný dokument UTF-8 vložený ako doslovný text; ID súboru sa neodvodzuje
Parameteroptional_controlsŠpecifikáciastream
Parametercontrol_scopeŠpecifikáciaTextová konverzácia; stream je logická hodnota a predvolene má hodnotu false.
Parameteroutput_modalitiesŠpecifikáciatext
Parameterhosted_operationsŠpecifikáciafalse
Parametermultimodal_input_bindingŠpecifikácianull

Aliasy metódy: /chat/completions

Životný cyklus: synchronous_or_streamed

Pošlite presné ID modelu spolu s messages.

Dĺžka kontextu nie je horná hranica výstupu.

Textový súbor môže poskytnúť doslovný text; obrazové a zvukové vstupy a vstupy so súborovými objektmi potrebujú presné naviazanie.

Cenník

Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.

Rýchly režim
Neuvedené Keď je zvolený rýchly režim
Režim Flex
Neuvedené Keď je zvolený režim flex
Maximálna úroveň uvažovania
Neuvedené Keď sa pri maximálnej úrovni uvažovania používa predvolená úprava (default)

Sadzby Ailoot

Ceny podľa konfigurácie

KonfiguráciaSadzobníkPoplatok
KonfiguráciaZákladné sadzby za tokenySadzobníkZákladná sadzbaPoplatok
Vstup · Vstupné tokeny $0.000286 / 1K tokenov
Výstup · Výstupné tokeny $0.00058 / 1K tokenov
Vstup · Čítanie cache $0 / 1K tokenov
Vstup · Zápis do cache $0 / 1K tokenov
Vstup · Zápis do cache, 1 hod — / 1K tokenov

Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →

Príklady požiadaviek

Ailoot Ultra · OpenAI Chat

curlPython SDK
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model":"qwen2-7b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')

Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("choices",[]):
    if x.get("message",{}).get("content"): print(x["message"]["content"])
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.chat.completions.create(model="qwen2-7b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(result.to_dict(mode="json"))

Prijať a uložiť výsledky

Ailoot Ultra · OpenAI Chat

json alebo SSE

Uchovať všetky dokončené výsledky

Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.

Zachovajte každý variant odpovede a jeho obsah, volania nástrojov a uvažovanie. V SSE zostavujte čiastkové zmeny podľa indexu variantu/nástroja a zachovajte konečný dôvod ukončenia aj údaje o spotrebe.

Ak treba overiť pôvodnú odpoveď

Zachovajte ID požiadaviek/odpovedí aj hlavičky. Všeobecná URL na načítanie textovej úlohy nie je poskytnutá.

Polia odpovede
PoleTyp
Polechoices[].indexTypinteger
Polechoices[].message.contentTypstring|null
Polechoices[].message.tool_callsTyptool_call[]
Polechoices[].message.reasoning_contentTypstring
Polechoices[].message.reasoning_detailsTypobject|array
Polechoices[].finish_reasonTypstring|null
PoleusageTypobject
Chyby a ďalšie kroky
OdpoveďPodmienkaĎalší krok
Odpoveď400 · invalid_request_errorPodmienkaNeplatné povinné polia, reprezentácia materiálu alebo hodnota parametraĎalší krokPred novou požiadavkou na vytvorenie opravte uvedené polia.

Aliasy

Aliasy modelov

Ailoot Ultra qwen2-7b-instruct

Aliasy ciest metód

/chat/completions

Súvisiace ID na volanie

qwen2-7b-instruct

Ailoot Ultra · Anthropic Messages POST /v1/messages qwen2-7b-instruct

qwen2-7b-instruct

Alibaba /qwen2-7b-instruct

Úvod

Qwen2-7B-Instruct je textový model doladený na pokyny pre viacjazyčný dialóg, programovanie, matematiku a uvažovanie. Výrobca dokumentuje kontext až 131 072 tokenov pri zapnutej konfigurácii dlhého kontextu.

Povolené vstupy
Text
Výsledky
json · sse

Dostupné v Ailoot · vstupy a metódy

Ailoot Ultra · Anthropic Messages POST /v1/messages
Vstup
text
Výstup
json, sse
Výstupný formát
JSON alebo SSE
PoleTypPožiadavkaHodnoty a limityPredvolené
PolemodelTypstringPožiadavkaPovinnéHodnoty a limity
qwen2-7b-instruct
Predvolené—
PolemessagesTypmessage[]PožiadavkaPovinnéHodnoty a limityPredvolené—
Polemessages[].roleTypstringPožiadavkaPovinnéHodnoty a limity
user, assistant
Predvolené—
Polemessages[].contentTypstringPožiadavkaPovinnéHodnoty a limityPredvolené—
Polemax_tokensTypintegerPožiadavkaPovinnéHodnoty a limityPredvolené—
PolestreamTypbooleanPožiadavkaVoliteľnéHodnoty a limityPredvolenéfalse
Kombinácie vstupných podkladov

Text · Text UTF-8

reťazec messages[].content

Parametre a životný cyklus metódy
ParameterŠpecifikácia
Parametercontent_typeŠpecifikáciaapplication/json
ParameterrequiredŠpecifikáciamodel, messages, max_tokens
Parameteroptional_controlsŠpecifikáciastream
Parametermaterial_typesŠpecifikáciatext
Parametertext_file_materialŠpecifikáciaPrečítajte skutočný dokument UTF-8 a vložte jeho text do uvedeného vstupného reťazca alebo reťazca obsahu správy.

Životný cyklus: synchronous_or_streamed

Cenník

Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.

Rýchly režim
Neuvedené Keď je zvolený rýchly režim
Režim Flex
Neuvedené Keď je zvolený režim flex
Maximálna úroveň uvažovania
Neuvedené Keď sa pri maximálnej úrovni uvažovania používa predvolená úprava (default)

Sadzby Ailoot

Ceny podľa konfigurácie

KonfiguráciaSadzobníkPoplatok
KonfiguráciaZákladné sadzby za tokenySadzobníkZákladná sadzbaPoplatok
Vstup · Vstupné tokeny $0.000286 / 1K tokenov
Výstup · Výstupné tokeny $0.00058 / 1K tokenov
Vstup · Čítanie cache $0 / 1K tokenov
Vstup · Zápis do cache $0 / 1K tokenov
Vstup · Zápis do cache, 1 hod — / 1K tokenov

Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →

Príklady požiadaviek

Ailoot Ultra · Anthropic Messages

Úplné minimálne telo požiadavky vo formáte JSONcurl · použite svoj dokument UTF-8Python · uložte úplný výsledok
{
  "model": "qwen2-7b-instruct",
  "max_tokens": 128,
  "messages": [
    {
      "role": "user",
      "content": "Summarize the incident report."
    }
  ],
  "stream": false
}
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json, os
from pathlib import Path

source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
    raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
    raise SystemExit('Choose a document containing text')
payload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \
  -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path

result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
PY_RESULT
import json, os
from pathlib import Path

source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
    raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
    raise SystemExit('Choose a document containing text')
payload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
from urllib.request import Request, urlopen
from urllib.error import HTTPError

api_key = os.environ['AILOOT_API_KEY']
if not api_key.strip():
    raise SystemExit('Set AILOOT_API_KEY before making a request')
headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}
headers['x-api-key'] = api_key
request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')
try:
    with urlopen(request, timeout=120) as response:
        raw = response.read()
        Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')
except HTTPError as error:
    Path('result.json').write_bytes(error.read())
    Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')
    raise
Path('result.json').write_bytes(raw)
import json
from pathlib import Path

result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))

Prijať a uložiť výsledky

Ailoot Ultra · Anthropic Messages

JSON alebo SSE

Uchovať všetky dokončené výsledky

Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.

Zachovajte všetky bloky obsahu, podpisy uvažovania a skutočné ID volaní nástrojov. Zostavte všetky čiastkové zmeny blokov SSE; prvý textový blok nie je celý výstup.

Ak treba overiť pôvodnú odpoveď

Zachovajte ID požiadaviek/odpovedí aj hlavičky. Všeobecná URL na načítanie textovej úlohy nie je poskytnutá.

Polia odpovede
PoleTyp
PoleidTypstring
PolemodelTypstring
Polecontent[]Typtext|thinking|tool_use|other content block
Polestop_reasonTypstring|null
PoleusageTypobject
Chyby a ďalšie kroky
OdpoveďPodmienkaĎalší krok
Odpoveď400 · invalid_request_errorPodmienkaNeplatné povinné polia, reprezentácia materiálu alebo hodnota parametraĎalší krokPred novou požiadavkou na vytvorenie opravte uvedené polia.

Aliasy

Aliasy modelov

Ailoot Ultra qwen2-7b-instruct

Aliasy ciest metód

/chat/completions

Súvisiace ID na volanie

qwen2-7b-instruct

FAQ · Pro/Qwen/Qwen2-7B-Instruct
Aké vstupy a výsledky sú dostupné?

POST /v1/chat/completions · qwen2-7b-instruct: text → text

POST /v1/messages · qwen2-7b-instruct: text → json, sse

Aké polia používa požiadavka?

POST /v1/chat/completions · qwen2-7b-instruct: model, messages, stream

POST /v1/messages · qwen2-7b-instruct: model, messages, max_tokens, stream

Aké limity platia?

POST /v1/chat/completions · qwen2-7b-instruct: messages.min_items: 1

Viac podrobností

Pripojte Ailoot k Claude Code, OpenCode, Hermes alebo vlastnej aplikácii.

Spoločnosť a jej portfólio projektov

Spoločnosť a jej portfólio projektov: milióny zákazníkov; mesačné tržby v miliardách.

Nakupujte tokeny so zľavou.

Zľava predplatného na pravidelnú prácu. Promo kódy až 50% na nákup tokenov.

Predplatné
Na pravidelné požiadavky vyberte tarifu so zľavou.
Promo kód až 50%
Pri nákupe zadajte kód. Cena sa prepočíta podľa prebiehajúcej akcie.
Výdavky v histórii
Pri každej požiadavke sa uloží model, tokeny a suma.

Vybrať predplatné · Zobraziť ceny modelov

Pripojte API k produktu, ktorý predávate.

SaaS, aplikácie a boti podľa ponuky a licenčnej zmluvy Ailoot. Na ďalší predaj požiadajte o licenciu predajcu.

Komerčná aplikácia
Začleňte generovanie textu, obrázkov, videa a zvuku do platených funkcií svojej služby.
Licencia pre predajcu
Pošlite popis projektu a spôsob poskytovania prístupu. Vyžiadajte písomné podmienky použitia a ďalšieho predaja.
Dokumenty na webe
Ponuka, licenčná zmluva a zásady spracovania dát sú dostupné pred pripojením.

Požiadať o licenciu predajcu · Ponuka a licenčná zmluva