Qwen2-7B-Instruct je vydanie Qwen2 veľkosti 7B doladené na pokyny pre konverzáciu a úlohy vyjadrené v prirodzenom jazyku. Je to model s textovým vstupom a textovým výstupom: odpoveďou môže byť vysvetlenie, preklad, návrh dokumentu alebo programový kód. Výrobca ako hlavné oblasti využitia uvádza porozumenie jazyku, generovanie, viacjazyčnú prácu, programovanie, matematiku a uvažovanie.
Podrobnosti modelu
Qwen2 zahŕňa samostatné základné vydania a vydania doladené na pokyny. Táto karta sa týka vydania Instruct, nie základného modelu Qwen2-7B ani vydania rodiny so zmesou expertov. Informačná tabuľka výrobcu uvádza pri modeli veľkosti 7B 7,07 miliardy parametrov. Jeho dekodérový Transformer používa SwiGLU, bias QKV v mechanizme pozornosti a pozornosť so zoskupenými dopytmi, s tokenizérom navrhnutým pre prirodzené jazyky a kód. Sú to voľby architektúry a reprezentácie, nie dodatočné vstupné modality.
Oznámenie vydania opisuje trénovanie v angličtine a čínštine plus 27 ďalších jazykoch. Patria medzi ne ruština, čeština a poľština; nemčina, francúzština a španielčina; arabčina, perzština a turečtina; japončina a kórejčina; aj ďalšie jazyky južnej a juhovýchodnej Ázie. Viacjazyčný asistent preto môže dostať pokyn a zdrojový materiál v odlišných jazykoch, no stále by sa mali určiť jazyk, terminológia a publikum konečného artefaktu.
Trénovanie a odlišnosť Instruct
Po predtrénovaní výrobca používa doladenie s dohľadom a priamu optimalizáciu preferencií. Vydanie doladené na pokyny je určené na odpoveď na požiadavku v konverzácii, zatiaľ čo základné vydanie má inú rolu ako základ jazykového modelu. Pri výbere modelu alebo porovnávaní správania promptov uvádzajte názov vydania výslovne. Trénovanie modelu na dodržiavanie pokynov a poskytnutie presného pokynu pri použití sú vzájomne sa dopĺňajúce časti tohto pracovného postupu.
Príprava konverzačného vstupu
Rýchly úvod v karte modelu oddeľuje systémový pokyn od otázky používateľa a pred generovaním aplikuje zodpovedajúcu chatovú šablónu. Pri úlohe na úrovni aplikácie je užitočné rovnaké praktické rozlíšenie: rolu asistenta a pravidlá odpovede definujte oddelene od zdrojovej pasáže alebo kódu, s ktorými má pracovať. Textový štítok napísaný v dokumente nenahrádza správne formátované konverzačné roly v okolitom rozhraní.
Úloha technického vysvetlenia môže dodať funkciu a jeden vstupný príklad a potom žiadať, čo robí každá vetva a ktoré podmienky ovplyvňujú výsledok. Programátorská úloha môže určiť prijímaný vstup, očakávanú návratovú hodnotu a obmedzenia zmien existujúceho správania. Vyžiadajte implementáciu a po nej príklady pre bežný aj hraničný prípad. Sú to použitia dokumentovaných jazykových a programátorských schopností; generovanie kódu je textový výsledok, jeho spustenie patrí do aplikačného prostredia.
Pri viacjazyčnej úprave dodajte pôvodnú pasáž, cieľové publikum a krátky zoznam termínov. Vyžiadajte revíziu, ktorá zachová pôvodné názvy a podmienky, a potom krátke vysvetlenie zmien. Je to konkrétnejšie než žiadosť zlepšiť text: definuje význam, ktorý musí zostať zachovaný, a užitočný výstup, ktorý sa má vrátiť.
Spracovanie dlhých textov
Výrobca dokumentuje podporu kontextu až 131 072 tokenov, ale pokyny pre dlhý kontext sú dôležité. Vstupy nad 32 768 tokenov vyžadujú dokumentovanú konfiguráciu rozšírenia YaRN. Publikovaný príklad používa faktor škálovania 4,0 s pôvodným nastavením pozícií 32 768. Výrobca uvádza, že statické nastavenie rozšírenia môže ovplyvniť správanie pri kratších textoch, a odporúča ho zapnúť, keď je spracovanie dlhého kontextu skutočne potrebné.
Úlohu s dlhým dokumentom pripravte s cielenou otázkou, pomenovanými zdrojovými sekciami a jasnou výstupnou štruktúrou. Napríklad dodajte niekoľko častí technickej špecifikácie a vyžiadajte požiadavky relevantné pre konkrétnu zmenu, pričom pri každom zistení zostane zdrojová sekcia. Veľké vstupné okno je užitočné na udržanie týchto častí spolu; odpoveď stále môže byť kompaktnou tabuľkou namiesto prerozprávania celého dokumentu.
Dôležité hranice
Hodnota 131 072 tokenov znamená podporu rozšíreného kontextu, nie povolenie ignorovať konfiguráciu dlhého kontextu. 512 generovaných tokenov v rýchlom úvodnom príklade je ukážkové nastavenie, nie publikovaná maximálna výstupná kapacita. Toto vydanie Instruct je textový model a nemá preberať obrazové či video schopnosti z Qwen-VL ani špecializované matematické trénovanie Qwen2.5-Math integrované s nástrojmi. Vyberte pomenované vydanie a pripravte text pre konkrétne vysvetlenie, kód alebo dokument, ktorý potrebujete.
", "aboutText": "Qwen2-7B-Instruct je vydanie Qwen2 veľkosti 7B doladené na pokyny pre konverzáciu a úlohy vyjadrené v prirodzenom jazyku. Je to model s textovým vstupom a textovým výstupom: odpoveďou môže byť vysvetlenie, preklad, návrh dokumentu alebo programový kód. Výrobca ako hlavné oblasti využitia uvádza porozumenie jazyku, generovanie, viacjazyčnú prácu, programovanie, matematiku a uvažovanie.\n\nPodrobnosti modelu\n\nQwen2 zahŕňa samostatné základné vydania a vydania doladené na pokyny. Táto karta sa týka vydania Instruct, nie základného modelu Qwen2-7B ani vydania rodiny so zmesou expertov. Informačná tabuľka výrobcu uvádza pri modeli veľkosti 7B 7,07 miliardy parametrov. Jeho dekodérový Transformer používa SwiGLU, bias QKV v mechanizme pozornosti a pozornosť so zoskupenými dopytmi, s tokenizérom navrhnutým pre prirodzené jazyky a kód. Sú to voľby architektúry a reprezentácie, nie dodatočné vstupné modality.\n\nOznámenie vydania opisuje trénovanie v angličtine a čínštine plus 27 ďalších jazykoch. Patria medzi ne ruština, čeština a poľština; nemčina, francúzština a španielčina; arabčina, perzština a turečtina; japončina a kórejčina; aj ďalšie jazyky južnej a juhovýchodnej Ázie. Viacjazyčný asistent preto môže dostať pokyn a zdrojový materiál v odlišných jazykoch, no stále by sa mali určiť jazyk, terminológia a publikum konečného artefaktu.\n\nTrénovanie a odlišnosť Instruct\n\nPo predtrénovaní výrobca používa doladenie s dohľadom a priamu optimalizáciu preferencií. Vydanie doladené na pokyny je určené na odpoveď na požiadavku v konverzácii, zatiaľ čo základné vydanie má inú rolu ako základ jazykového modelu. Pri výbere modelu alebo porovnávaní správania promptov uvádzajte názov vydania výslovne. Trénovanie modelu na dodržiavanie pokynov a poskytnutie presného pokynu pri použití sú vzájomne sa dopĺňajúce časti tohto pracovného postupu.\n\nPríprava konverzačného vstupu\n\nRýchly úvod v karte modelu oddeľuje systémový pokyn od otázky používateľa a pred generovaním aplikuje zodpovedajúcu chatovú šablónu. Pri úlohe na úrovni aplikácie je užitočné rovnaké praktické rozlíšenie: rolu asistenta a pravidlá odpovede definujte oddelene od zdrojovej pasáže alebo kódu, s ktorými má pracovať. Textový štítok napísaný v dokumente nenahrádza správne formátované konverzačné roly v okolitom rozhraní.\n\nÚloha technického vysvetlenia môže dodať funkciu a jeden vstupný príklad a potom žiadať, čo robí každá vetva a ktoré podmienky ovplyvňujú výsledok. Programátorská úloha môže určiť prijímaný vstup, očakávanú návratovú hodnotu a obmedzenia zmien existujúceho správania. Vyžiadajte implementáciu a po nej príklady pre bežný aj hraničný prípad. Sú to použitia dokumentovaných jazykových a programátorských schopností; generovanie kódu je textový výsledok, jeho spustenie patrí do aplikačného prostredia.\n\nPri viacjazyčnej úprave dodajte pôvodnú pasáž, cieľové publikum a krátky zoznam termínov. Vyžiadajte revíziu, ktorá zachová pôvodné názvy a podmienky, a potom krátke vysvetlenie zmien. Je to konkrétnejšie než žiadosť zlepšiť text: definuje význam, ktorý musí zostať zachovaný, a užitočný výstup, ktorý sa má vrátiť.\n\nSpracovanie dlhých textov\n\nVýrobca dokumentuje podporu kontextu až 131 072 tokenov, ale pokyny pre dlhý kontext sú dôležité. Vstupy nad 32 768 tokenov vyžadujú dokumentovanú konfiguráciu rozšírenia YaRN. Publikovaný príklad používa faktor škálovania 4,0 s pôvodným nastavením pozícií 32 768. Výrobca uvádza, že statické nastavenie rozšírenia môže ovplyvniť správanie pri kratších textoch, a odporúča ho zapnúť, keď je spracovanie dlhého kontextu skutočne potrebné.\n\nÚlohu s dlhým dokumentom pripravte s cielenou otázkou, pomenovanými zdrojovými sekciami a jasnou výstupnou štruktúrou. Napríklad dodajte niekoľko častí technickej špecifikácie a vyžiadajte požiadavky relevantné pre konkrétnu zmenu, pričom pri každom zistení zostane zdrojová sekcia. Veľké vstupné okno je užitočné na udržanie týchto častí spolu; odpoveď stále môže byť kompaktnou tabuľkou namiesto prerozprávania celého dokumentu.\n\nDôležité hranice\n\nHodnota 131 072 tokenov znamená podporu rozšíreného kontextu, nie povolenie ignorovať konfiguráciu dlhého kontextu. 512 generovaných tokenov v rýchlom úvodnom príklade je ukážkové nastavenie, nie publikovaná maximálna výstupná kapacita. Toto vydanie Instruct je textový model a nemá preberať obrazové či video schopnosti z Qwen-VL ani špecializované matematické trénovanie Qwen2.5-Math integrované s nástrojmi. Vyberte pomenované vydanie a pripravte text pre konkrétne vysvetlenie, kód alebo dokument, ktorý potrebujete.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "76dfeaf16f19afcb4f0deb420d8988fc1239f67889007f2257775a964a208c15", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "sk", "methods": [ { "html": "qwen2-7b-instructQwen2-7B-Instruct je textový model doladený na pokyny pre viacjazyčný dialóg, programovanie, matematiku a uvažovanie. Výrobca dokumentuje kontext až 131 072 tokenov pri zapnutej konfigurácii dlhého kontextu.
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
Qwen2-7B-Instruct je vydanie Qwen2 veľkosti 7B doladené na pokyny pre konverzáciu a úlohy vyjadrené v prirodzenom jazyku. Je to model s textovým vstupom a textovým výstupom: odpoveďou môže byť vysvetlenie, preklad, návrh dokumentu alebo programový kód. Výrobca ako hlavné oblasti využitia uvádza porozumenie jazyku, generovanie, viacjazyčnú prácu, programovanie, matematiku a uvažovanie.
Podrobnosti modelu
Qwen2 zahŕňa samostatné základné vydania a vydania doladené na pokyny. Táto karta sa týka vydania Instruct, nie základného modelu Qwen2-7B ani vydania rodiny so zmesou expertov. Informačná tabuľka výrobcu uvádza pri modeli veľkosti 7B 7,07 miliardy parametrov. Jeho dekodérový Transformer používa SwiGLU, bias QKV v mechanizme pozornosti a pozornosť so zoskupenými dopytmi, s tokenizérom navrhnutým pre prirodzené jazyky a kód. Sú to voľby architektúry a reprezentácie, nie dodatočné vstupné modality.
Oznámenie vydania opisuje trénovanie v angličtine a čínštine plus 27 ďalších jazykoch. Patria medzi ne ruština, čeština a poľština; nemčina, francúzština a španielčina; arabčina, perzština a turečtina; japončina a kórejčina; aj ďalšie jazyky južnej a juhovýchodnej Ázie. Viacjazyčný asistent preto môže dostať pokyn a zdrojový materiál v odlišných jazykoch, no stále by sa mali určiť jazyk, terminológia a publikum konečného artefaktu.
Trénovanie a odlišnosť Instruct
Po predtrénovaní výrobca používa doladenie s dohľadom a priamu optimalizáciu preferencií. Vydanie doladené na pokyny je určené na odpoveď na požiadavku v konverzácii, zatiaľ čo základné vydanie má inú rolu ako základ jazykového modelu. Pri výbere modelu alebo porovnávaní správania promptov uvádzajte názov vydania výslovne. Trénovanie modelu na dodržiavanie pokynov a poskytnutie presného pokynu pri použití sú vzájomne sa dopĺňajúce časti tohto pracovného postupu.
Príprava konverzačného vstupu
Rýchly úvod v karte modelu oddeľuje systémový pokyn od otázky používateľa a pred generovaním aplikuje zodpovedajúcu chatovú šablónu. Pri úlohe na úrovni aplikácie je užitočné rovnaké praktické rozlíšenie: rolu asistenta a pravidlá odpovede definujte oddelene od zdrojovej pasáže alebo kódu, s ktorými má pracovať. Textový štítok napísaný v dokumente nenahrádza správne formátované konverzačné roly v okolitom rozhraní.
Úloha technického vysvetlenia môže dodať funkciu a jeden vstupný príklad a potom žiadať, čo robí každá vetva a ktoré podmienky ovplyvňujú výsledok. Programátorská úloha môže určiť prijímaný vstup, očakávanú návratovú hodnotu a obmedzenia zmien existujúceho správania. Vyžiadajte implementáciu a po nej príklady pre bežný aj hraničný prípad. Sú to použitia dokumentovaných jazykových a programátorských schopností; generovanie kódu je textový výsledok, jeho spustenie patrí do aplikačného prostredia.
Pri viacjazyčnej úprave dodajte pôvodnú pasáž, cieľové publikum a krátky zoznam termínov. Vyžiadajte revíziu, ktorá zachová pôvodné názvy a podmienky, a potom krátke vysvetlenie zmien. Je to konkrétnejšie než žiadosť zlepšiť text: definuje význam, ktorý musí zostať zachovaný, a užitočný výstup, ktorý sa má vrátiť.
Spracovanie dlhých textov
Výrobca dokumentuje podporu kontextu až 131 072 tokenov, ale pokyny pre dlhý kontext sú dôležité. Vstupy nad 32 768 tokenov vyžadujú dokumentovanú konfiguráciu rozšírenia YaRN. Publikovaný príklad používa faktor škálovania 4,0 s pôvodným nastavením pozícií 32 768. Výrobca uvádza, že statické nastavenie rozšírenia môže ovplyvniť správanie pri kratších textoch, a odporúča ho zapnúť, keď je spracovanie dlhého kontextu skutočne potrebné.
Úlohu s dlhým dokumentom pripravte s cielenou otázkou, pomenovanými zdrojovými sekciami a jasnou výstupnou štruktúrou. Napríklad dodajte niekoľko častí technickej špecifikácie a vyžiadajte požiadavky relevantné pre konkrétnu zmenu, pričom pri každom zistení zostane zdrojová sekcia. Veľké vstupné okno je užitočné na udržanie týchto častí spolu; odpoveď stále môže byť kompaktnou tabuľkou namiesto prerozprávania celého dokumentu.
Dôležité hranice
Hodnota 131 072 tokenov znamená podporu rozšíreného kontextu, nie povolenie ignorovať konfiguráciu dlhého kontextu. 512 generovaných tokenov v rýchlom úvodnom príklade je ukážkové nastavenie, nie publikovaná maximálna výstupná kapacita. Toto vydanie Instruct je textový model a nemá preberať obrazové či video schopnosti z Qwen-VL ani špecializované matematické trénovanie Qwen2.5-Math integrované s nástrojmi. Vyberte pomenované vydanie a pripravte text pre konkrétne vysvetlenie, kód alebo dokument, ktorý potrebujete.
POST /v1/chat/completionstexttext| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity qwen2-7b-instruct | Predvolené— |
Polemessages | Typmessage[] | PožiadavkaPovinné | Hodnoty a limity Minimálny počet položiek: 1 | Predvolené— |
Polemessages[].role | Typstring | PožiadavkaPovinné | Hodnoty a limity Závisí od modelu | Predvolené— |
Polemessages[].content | Typstring | PožiadavkaVoliteľné | Hodnoty a limity Platí, keď: Textová konverzácia | Predvolené— |
Polestream | Typboolean | PožiadavkaVoliteľné | Hodnoty a limity | Predvolenéfalse |
Text · Text UTF8
messages[].content
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciamodel, messages |
Parametermaterial_types | Špecifikáciatext |
Parametermessages | Špecifikáciapole správ so štruktúrou role/content |
Parameterfile_material | Špecifikáciaskutočný dokument UTF-8 vložený ako doslovný text; ID súboru sa neodvodzuje |
Parameteroptional_controls | Špecifikáciastream |
Parametercontrol_scope | ŠpecifikáciaTextová konverzácia; stream je logická hodnota a predvolene má hodnotu false. |
Parameteroutput_modalities | Špecifikáciatext |
Parameterhosted_operations | Špecifikáciafalse |
Parametermultimodal_input_binding | Špecifikácianull |
Aliasy metódy: /chat/completions
Životný cyklus: synchronous_or_streamed
Pošlite presné ID modelu spolu s messages.
Dĺžka kontextu nie je horná hranica výstupu.
Textový súbor môže poskytnúť doslovný text; obrazové a zvukové vstupy a vstupy so súborovými objektmi potrebujú presné naviazanie.
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
| Konfigurácia | Sadzobník | Poplatok |
|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Poplatok Vstup · Vstupné tokeny $0.000286 / 1K tokenov Výstup · Výstupné tokeny $0.00058 / 1K tokenov Vstup · Čítanie cache $0 / 1K tokenov Vstup · Zápis do cache $0 / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"qwen2-7b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="qwen2-7b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson alebo SSE
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Zachovajte každý variant odpovede a jeho obsah, volania nástrojov a uvažovanie. V SSE zostavujte čiastkové zmeny podľa indexu variantu/nástroja a zachovajte konečný dôvod ukončenia aj údaje o spotrebe.
Zachovajte ID požiadaviek/odpovedí aj hlavičky. Všeobecná URL na načítanie textovej úlohy nie je poskytnutá.
| Pole | Typ |
|---|---|
Polechoices[].index | Typinteger |
Polechoices[].message.content | Typstring|null |
Polechoices[].message.tool_calls | Typtool_call[] |
Polechoices[].message.reasoning_content | Typstring |
Polechoices[].message.reasoning_details | Typobject|array |
Polechoices[].finish_reason | Typstring|null |
Poleusage | Typobject |
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatné povinné polia, reprezentácia materiálu alebo hodnota parametra | Ďalší krokPred novou požiadavkou na vytvorenie opravte uvedené polia. |
Ailoot Ultra qwen2-7b-instruct
/chat/completions
qwen2-7b-instructQwen2-7B-Instruct je textový model doladený na pokyny pre viacjazyčný dialóg, programovanie, matematiku a uvažovanie. Výrobca dokumentuje kontext až 131 072 tokenov pri zapnutej konfigurácii dlhého kontextu.
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
Qwen2-7B-Instruct je vydanie Qwen2 veľkosti 7B doladené na pokyny pre konverzáciu a úlohy vyjadrené v prirodzenom jazyku. Je to model s textovým vstupom a textovým výstupom: odpoveďou môže byť vysvetlenie, preklad, návrh dokumentu alebo programový kód. Výrobca ako hlavné oblasti využitia uvádza porozumenie jazyku, generovanie, viacjazyčnú prácu, programovanie, matematiku a uvažovanie.
Podrobnosti modelu
Qwen2 zahŕňa samostatné základné vydania a vydania doladené na pokyny. Táto karta sa týka vydania Instruct, nie základného modelu Qwen2-7B ani vydania rodiny so zmesou expertov. Informačná tabuľka výrobcu uvádza pri modeli veľkosti 7B 7,07 miliardy parametrov. Jeho dekodérový Transformer používa SwiGLU, bias QKV v mechanizme pozornosti a pozornosť so zoskupenými dopytmi, s tokenizérom navrhnutým pre prirodzené jazyky a kód. Sú to voľby architektúry a reprezentácie, nie dodatočné vstupné modality.
Oznámenie vydania opisuje trénovanie v angličtine a čínštine plus 27 ďalších jazykoch. Patria medzi ne ruština, čeština a poľština; nemčina, francúzština a španielčina; arabčina, perzština a turečtina; japončina a kórejčina; aj ďalšie jazyky južnej a juhovýchodnej Ázie. Viacjazyčný asistent preto môže dostať pokyn a zdrojový materiál v odlišných jazykoch, no stále by sa mali určiť jazyk, terminológia a publikum konečného artefaktu.
Trénovanie a odlišnosť Instruct
Po predtrénovaní výrobca používa doladenie s dohľadom a priamu optimalizáciu preferencií. Vydanie doladené na pokyny je určené na odpoveď na požiadavku v konverzácii, zatiaľ čo základné vydanie má inú rolu ako základ jazykového modelu. Pri výbere modelu alebo porovnávaní správania promptov uvádzajte názov vydania výslovne. Trénovanie modelu na dodržiavanie pokynov a poskytnutie presného pokynu pri použití sú vzájomne sa dopĺňajúce časti tohto pracovného postupu.
Príprava konverzačného vstupu
Rýchly úvod v karte modelu oddeľuje systémový pokyn od otázky používateľa a pred generovaním aplikuje zodpovedajúcu chatovú šablónu. Pri úlohe na úrovni aplikácie je užitočné rovnaké praktické rozlíšenie: rolu asistenta a pravidlá odpovede definujte oddelene od zdrojovej pasáže alebo kódu, s ktorými má pracovať. Textový štítok napísaný v dokumente nenahrádza správne formátované konverzačné roly v okolitom rozhraní.
Úloha technického vysvetlenia môže dodať funkciu a jeden vstupný príklad a potom žiadať, čo robí každá vetva a ktoré podmienky ovplyvňujú výsledok. Programátorská úloha môže určiť prijímaný vstup, očakávanú návratovú hodnotu a obmedzenia zmien existujúceho správania. Vyžiadajte implementáciu a po nej príklady pre bežný aj hraničný prípad. Sú to použitia dokumentovaných jazykových a programátorských schopností; generovanie kódu je textový výsledok, jeho spustenie patrí do aplikačného prostredia.
Pri viacjazyčnej úprave dodajte pôvodnú pasáž, cieľové publikum a krátky zoznam termínov. Vyžiadajte revíziu, ktorá zachová pôvodné názvy a podmienky, a potom krátke vysvetlenie zmien. Je to konkrétnejšie než žiadosť zlepšiť text: definuje význam, ktorý musí zostať zachovaný, a užitočný výstup, ktorý sa má vrátiť.
Spracovanie dlhých textov
Výrobca dokumentuje podporu kontextu až 131 072 tokenov, ale pokyny pre dlhý kontext sú dôležité. Vstupy nad 32 768 tokenov vyžadujú dokumentovanú konfiguráciu rozšírenia YaRN. Publikovaný príklad používa faktor škálovania 4,0 s pôvodným nastavením pozícií 32 768. Výrobca uvádza, že statické nastavenie rozšírenia môže ovplyvniť správanie pri kratších textoch, a odporúča ho zapnúť, keď je spracovanie dlhého kontextu skutočne potrebné.
Úlohu s dlhým dokumentom pripravte s cielenou otázkou, pomenovanými zdrojovými sekciami a jasnou výstupnou štruktúrou. Napríklad dodajte niekoľko častí technickej špecifikácie a vyžiadajte požiadavky relevantné pre konkrétnu zmenu, pričom pri každom zistení zostane zdrojová sekcia. Veľké vstupné okno je užitočné na udržanie týchto častí spolu; odpoveď stále môže byť kompaktnou tabuľkou namiesto prerozprávania celého dokumentu.
Dôležité hranice
Hodnota 131 072 tokenov znamená podporu rozšíreného kontextu, nie povolenie ignorovať konfiguráciu dlhého kontextu. 512 generovaných tokenov v rýchlom úvodnom príklade je ukážkové nastavenie, nie publikovaná maximálna výstupná kapacita. Toto vydanie Instruct je textový model a nemá preberať obrazové či video schopnosti z Qwen-VL ani špecializované matematické trénovanie Qwen2.5-Math integrované s nástrojmi. Vyberte pomenované vydanie a pripravte text pre konkrétne vysvetlenie, kód alebo dokument, ktorý potrebujete.
POST /v1/messagestextjson, sse| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity qwen2-7b-instruct | Predvolené— |
Polemessages | Typmessage[] | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polemessages[].role | Typstring | PožiadavkaPovinné | Hodnoty a limity user, assistant | Predvolené— |
Polemessages[].content | Typstring | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polemax_tokens | Typinteger | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polestream | Typboolean | PožiadavkaVoliteľné | Hodnoty a limity | Predvolenéfalse |
Text · Text UTF-8
reťazec messages[].content
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciamodel, messages, max_tokens |
Parameteroptional_controls | Špecifikáciastream |
Parametermaterial_types | Špecifikáciatext |
Parametertext_file_material | ŠpecifikáciaPrečítajte skutočný dokument UTF-8 a vložte jeho text do uvedeného vstupného reťazca alebo reťazca obsahu správy. |
Životný cyklus: synchronous_or_streamed
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
| Konfigurácia | Sadzobník | Poplatok |
|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Poplatok Vstup · Vstupné tokeny $0.000286 / 1K tokenov Výstup · Výstupné tokeny $0.00058 / 1K tokenov Vstup · Čítanie cache $0 / 1K tokenov Vstup · Zápis do cache $0 / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
{\n "model": "qwen2-7b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON alebo SSE
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Zachovajte všetky bloky obsahu, podpisy uvažovania a skutočné ID volaní nástrojov. Zostavte všetky čiastkové zmeny blokov SSE; prvý textový blok nie je celý výstup.
Zachovajte ID požiadaviek/odpovedí aj hlavičky. Všeobecná URL na načítanie textovej úlohy nie je poskytnutá.
| Pole | Typ |
|---|---|
Poleid | Typstring |
Polemodel | Typstring |
Polecontent[] | Typtext|thinking|tool_use|other content block |
Polestop_reason | Typstring|null |
Poleusage | Typobject |
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatné povinné polia, reprezentácia materiálu alebo hodnota parametra | Ďalší krokPred novou požiadavkou na vytvorenie opravte uvedené polia. |
Ailoot Ultra qwen2-7b-instruct
/chat/completions