A Qwen2-7B-Instruct a Qwen2 utasításkövetésre finomhangolt, 7B-méretű verziója beszélgetéshez és természetes nyelven megfogalmazott feladatokhoz. Szövegbemeneti és szövegkimeneti modell: a válasz magyarázat, fordítás, dokumentumvázlat vagy programkód lehet. A gyártó fő alkalmazási területként nyelvértést, generálást, többnyelvű munkát, programozást, matematikát és következtetést jelöl meg.
Modellrészletek
A Qwen2 külön alap- és utasításkövetésre finomhangolt kiadásokat tartalmaz. Ez a kártya az Instruct-verziót tárgyalja, nem a Qwen2-7B-alapmodellt vagy a család mixture-of-experts-kiadását. A gyártó modellinformációs táblázata 7,07 milliárd paramétert ad meg a 7B-méretű modellhez. Dekóder-Transformere SwiGLU-t, attention QKV bias beállítást és grouped-query attention mechanizmust használ természetes nyelvekhez és kódhoz tervezett tokenizálóval. Ezek architekturális és reprezentációs választások, nem további bemeneti modalitások.
A kiadási közlemény angol és kínai, valamint további 27 nyelven végzett tanítást ír le. Közéjük tartozik az orosz, cseh és lengyel; a német, francia és spanyol; az arab, perzsa és török; a japán és koreai, továbbá Dél- és Délkelet-Ázsia további nyelvei. Egy többnyelvű asszisztens így különböző nyelveken fogadhat utasítást és forrásanyagot, de a végső eredmény nyelvét, terminológiáját és közönségét továbbra is célszerű meghatározni.
Tanítás és az Instruct különbsége
Előtanítás után a gyártó felügyelt finomhangolást és közvetlen preferenciaoptimalizálást használ. Az utasításkövetésre finomhangolt verzió beszélgetésben adott kérés megválaszolására készül, míg az alapverzió nyelvimodell-alapként más szerepet tölt be. Modellválasztáskor vagy a promptviselkedés összehasonlításakor tartsd egyértelműen a verziónevet. Az utasításkövetésre tanítás és a használatkor adott pontos utasítás e munkafolyamat egymást kiegészítő részei.
Beszélgetési bemenet előkészítése
A modellkártya gyorsindítása elkülöníti a rendszerutasítást a felhasználó kérdésétől, és generálás előtt a megfelelő chatsablont alkalmazza. Alkalmazásszintű feladatnál ugyanez a gyakorlati különbség hasznos: az asszisztens szerepét és válaszszabályait határozd meg külön a kezelendő forrásrészlettől vagy kódtól. Egy dokumentumba írt szöveges címke nem helyettesíti a környező felület megfelelően formázott beszélgetési szerepeit.
Egy technikai magyarázó feladat megadhat egy függvényt és egy bemeneti példát, majd kérdezheti az egyes ágak működését és az eredményt befolyásoló feltételeket. Kódolási feladat meghatározhatja az elfogadott bemenetet, az elvárt visszatérési értéket és a meglévő viselkedés változtatásának korlátait. Kérd a megvalósítást, majd példákat egy szokásos és egy határesethez. Ezek a dokumentált nyelvi és kódolási képességek alkalmazásai; a kód generálása szöveges eredmény, futtatása pedig az alkalmazáskörnyezethez tartozik.
Többnyelvű szerkesztéshez add meg az eredeti szövegrészt, a célközönséget és egy rövid terminológiai listát. Kérj az eredeti neveket és feltételeket megtartó átdolgozást, majd a változtatások rövid magyarázatát. Ez pontosabb egy általános szövegjavítási kérésnél: megadja, mely jelentésnek kell megmaradnia, és milyen használható kimenetet kell visszaadni.
Hosszú szövegek feldolgozása
A gyártó legfeljebb 131 072 tokenes kontextustámogatást dokumentál, de a hosszú kontextusra vonatkozó utasítások fontosak. A 32 768 tokenen túli bemenetekhez a dokumentált YaRN-kiterjesztési konfiguráció kell. A közzétett példa 4,0 skálázási tényezőt használ 32 768-as eredeti pozícióbeállítással. A gyártó jelzi, hogy a statikus kiterjesztés befolyásolhatja a rövidebb szövegek viselkedését, és akkor ajánlja bekapcsolni, ha valóban szükséges a hosszú kontextusú feldolgozás.
Hosszú dokumentumfeladatot célzott kérdéssel, megnevezett forrásszakaszokkal és egyértelmű kimeneti szerkezettel készíts elő. Például add meg egy műszaki specifikáció több részét, és kérd az adott változtatáshoz releváns követelményeket a forrásszakasz megőrzésével minden megállapítás mellett. A nagy bemeneti ablak hasznos ezek együtt tartására; a válasz továbbra is lehet tömör táblázat a teljes dokumentum újramesélése helyett.
Fontos határok
A 131 072 tokenes szám kiterjesztett kontextustámogatás, nem felhatalmazás a hosszú kontextusú konfiguráció figyelmen kívül hagyására. A gyorsindítás 512 generált tokenje példabeállítás, nem közzétett maximális kimeneti kapacitás. Ez az Instruct-kiadás szövegmodell, és nem örökölhet kép- vagy videóképességeket a Qwen-VL-től vagy a Qwen2.5-Math speciális, eszközökkel integrált matematikai tanítását. Válaszd a megnevezett verziót, és készítsd elő a szöveget a szükséges magyarázathoz, kódhoz vagy dokumentumhoz.
", "aboutText": "A Qwen2-7B-Instruct a Qwen2 utasításkövetésre finomhangolt, 7B-méretű verziója beszélgetéshez és természetes nyelven megfogalmazott feladatokhoz. Szövegbemeneti és szövegkimeneti modell: a válasz magyarázat, fordítás, dokumentumvázlat vagy programkód lehet. A gyártó fő alkalmazási területként nyelvértést, generálást, többnyelvű munkát, programozást, matematikát és következtetést jelöl meg.\n\nModellrészletek\n\nA Qwen2 külön alap- és utasításkövetésre finomhangolt kiadásokat tartalmaz. Ez a kártya az Instruct-verziót tárgyalja, nem a Qwen2-7B-alapmodellt vagy a család mixture-of-experts-kiadását. A gyártó modellinformációs táblázata 7,07 milliárd paramétert ad meg a 7B-méretű modellhez. Dekóder-Transformere SwiGLU-t, attention QKV bias beállítást és grouped-query attention mechanizmust használ természetes nyelvekhez és kódhoz tervezett tokenizálóval. Ezek architekturális és reprezentációs választások, nem további bemeneti modalitások.\n\nA kiadási közlemény angol és kínai, valamint további 27 nyelven végzett tanítást ír le. Közéjük tartozik az orosz, cseh és lengyel; a német, francia és spanyol; az arab, perzsa és török; a japán és koreai, továbbá Dél- és Délkelet-Ázsia további nyelvei. Egy többnyelvű asszisztens így különböző nyelveken fogadhat utasítást és forrásanyagot, de a végső eredmény nyelvét, terminológiáját és közönségét továbbra is célszerű meghatározni.\n\nTanítás és az Instruct különbsége\n\nElőtanítás után a gyártó felügyelt finomhangolást és közvetlen preferenciaoptimalizálást használ. Az utasításkövetésre finomhangolt verzió beszélgetésben adott kérés megválaszolására készül, míg az alapverzió nyelvimodell-alapként más szerepet tölt be. Modellválasztáskor vagy a promptviselkedés összehasonlításakor tartsd egyértelműen a verziónevet. Az utasításkövetésre tanítás és a használatkor adott pontos utasítás e munkafolyamat egymást kiegészítő részei.\n\nBeszélgetési bemenet előkészítése\n\nA modellkártya gyorsindítása elkülöníti a rendszerutasítást a felhasználó kérdésétől, és generálás előtt a megfelelő chatsablont alkalmazza. Alkalmazásszintű feladatnál ugyanez a gyakorlati különbség hasznos: az asszisztens szerepét és válaszszabályait határozd meg külön a kezelendő forrásrészlettől vagy kódtól. Egy dokumentumba írt szöveges címke nem helyettesíti a környező felület megfelelően formázott beszélgetési szerepeit.\n\nEgy technikai magyarázó feladat megadhat egy függvényt és egy bemeneti példát, majd kérdezheti az egyes ágak működését és az eredményt befolyásoló feltételeket. Kódolási feladat meghatározhatja az elfogadott bemenetet, az elvárt visszatérési értéket és a meglévő viselkedés változtatásának korlátait. Kérd a megvalósítást, majd példákat egy szokásos és egy határesethez. Ezek a dokumentált nyelvi és kódolási képességek alkalmazásai; a kód generálása szöveges eredmény, futtatása pedig az alkalmazáskörnyezethez tartozik.\n\nTöbbnyelvű szerkesztéshez add meg az eredeti szövegrészt, a célközönséget és egy rövid terminológiai listát. Kérj az eredeti neveket és feltételeket megtartó átdolgozást, majd a változtatások rövid magyarázatát. Ez pontosabb egy általános szövegjavítási kérésnél: megadja, mely jelentésnek kell megmaradnia, és milyen használható kimenetet kell visszaadni.\n\nHosszú szövegek feldolgozása\n\nA gyártó legfeljebb 131 072 tokenes kontextustámogatást dokumentál, de a hosszú kontextusra vonatkozó utasítások fontosak. A 32 768 tokenen túli bemenetekhez a dokumentált YaRN-kiterjesztési konfiguráció kell. A közzétett példa 4,0 skálázási tényezőt használ 32 768-as eredeti pozícióbeállítással. A gyártó jelzi, hogy a statikus kiterjesztés befolyásolhatja a rövidebb szövegek viselkedését, és akkor ajánlja bekapcsolni, ha valóban szükséges a hosszú kontextusú feldolgozás.\n\nHosszú dokumentumfeladatot célzott kérdéssel, megnevezett forrásszakaszokkal és egyértelmű kimeneti szerkezettel készíts elő. Például add meg egy műszaki specifikáció több részét, és kérd az adott változtatáshoz releváns követelményeket a forrásszakasz megőrzésével minden megállapítás mellett. A nagy bemeneti ablak hasznos ezek együtt tartására; a válasz továbbra is lehet tömör táblázat a teljes dokumentum újramesélése helyett.\n\nFontos határok\n\nA 131 072 tokenes szám kiterjesztett kontextustámogatás, nem felhatalmazás a hosszú kontextusú konfiguráció figyelmen kívül hagyására. A gyorsindítás 512 generált tokenje példabeállítás, nem közzétett maximális kimeneti kapacitás. Ez az Instruct-kiadás szövegmodell, és nem örökölhet kép- vagy videóképességeket a Qwen-VL-től vagy a Qwen2.5-Math speciális, eszközökkel integrált matematikai tanítását. Válaszd a megnevezett verziót, és készítsd elő a szöveget a szükséges magyarázathoz, kódhoz vagy dokumentumhoz.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "7a8d1018308f540ab0f8f160f6d169f8b222d2b9fe030fa32cab73e35a00e9e6", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "hu", "methods": [ { "html": "qwen2-7b-instructA Qwen2-7B-Instruct utasításkövetésre finomhangolt szövegmodell többnyelvű párbeszédhez, programozáshoz, matematikához és következtetéshez. A gyártó legfeljebb 131 072 tokenes kontextust dokumentál, ha a hosszú kontextus konfigurációja be van kapcsolva.
Ez a leírás a modell képességeit ismerteti. Az Ailootban elérhető bemenetek, kimenetek és lehetőségek alább, a kiválasztott metódusnál láthatók.
A Qwen2-7B-Instruct a Qwen2 utasításkövetésre finomhangolt, 7B-méretű verziója beszélgetéshez és természetes nyelven megfogalmazott feladatokhoz. Szövegbemeneti és szövegkimeneti modell: a válasz magyarázat, fordítás, dokumentumvázlat vagy programkód lehet. A gyártó fő alkalmazási területként nyelvértést, generálást, többnyelvű munkát, programozást, matematikát és következtetést jelöl meg.
Modellrészletek
A Qwen2 külön alap- és utasításkövetésre finomhangolt kiadásokat tartalmaz. Ez a kártya az Instruct-verziót tárgyalja, nem a Qwen2-7B-alapmodellt vagy a család mixture-of-experts-kiadását. A gyártó modellinformációs táblázata 7,07 milliárd paramétert ad meg a 7B-méretű modellhez. Dekóder-Transformere SwiGLU-t, attention QKV bias beállítást és grouped-query attention mechanizmust használ természetes nyelvekhez és kódhoz tervezett tokenizálóval. Ezek architekturális és reprezentációs választások, nem további bemeneti modalitások.
A kiadási közlemény angol és kínai, valamint további 27 nyelven végzett tanítást ír le. Közéjük tartozik az orosz, cseh és lengyel; a német, francia és spanyol; az arab, perzsa és török; a japán és koreai, továbbá Dél- és Délkelet-Ázsia további nyelvei. Egy többnyelvű asszisztens így különböző nyelveken fogadhat utasítást és forrásanyagot, de a végső eredmény nyelvét, terminológiáját és közönségét továbbra is célszerű meghatározni.
Tanítás és az Instruct különbsége
Előtanítás után a gyártó felügyelt finomhangolást és közvetlen preferenciaoptimalizálást használ. Az utasításkövetésre finomhangolt verzió beszélgetésben adott kérés megválaszolására készül, míg az alapverzió nyelvimodell-alapként más szerepet tölt be. Modellválasztáskor vagy a promptviselkedés összehasonlításakor tartsd egyértelműen a verziónevet. Az utasításkövetésre tanítás és a használatkor adott pontos utasítás e munkafolyamat egymást kiegészítő részei.
Beszélgetési bemenet előkészítése
A modellkártya gyorsindítása elkülöníti a rendszerutasítást a felhasználó kérdésétől, és generálás előtt a megfelelő chatsablont alkalmazza. Alkalmazásszintű feladatnál ugyanez a gyakorlati különbség hasznos: az asszisztens szerepét és válaszszabályait határozd meg külön a kezelendő forrásrészlettől vagy kódtól. Egy dokumentumba írt szöveges címke nem helyettesíti a környező felület megfelelően formázott beszélgetési szerepeit.
Egy technikai magyarázó feladat megadhat egy függvényt és egy bemeneti példát, majd kérdezheti az egyes ágak működését és az eredményt befolyásoló feltételeket. Kódolási feladat meghatározhatja az elfogadott bemenetet, az elvárt visszatérési értéket és a meglévő viselkedés változtatásának korlátait. Kérd a megvalósítást, majd példákat egy szokásos és egy határesethez. Ezek a dokumentált nyelvi és kódolási képességek alkalmazásai; a kód generálása szöveges eredmény, futtatása pedig az alkalmazáskörnyezethez tartozik.
Többnyelvű szerkesztéshez add meg az eredeti szövegrészt, a célközönséget és egy rövid terminológiai listát. Kérj az eredeti neveket és feltételeket megtartó átdolgozást, majd a változtatások rövid magyarázatát. Ez pontosabb egy általános szövegjavítási kérésnél: megadja, mely jelentésnek kell megmaradnia, és milyen használható kimenetet kell visszaadni.
Hosszú szövegek feldolgozása
A gyártó legfeljebb 131 072 tokenes kontextustámogatást dokumentál, de a hosszú kontextusra vonatkozó utasítások fontosak. A 32 768 tokenen túli bemenetekhez a dokumentált YaRN-kiterjesztési konfiguráció kell. A közzétett példa 4,0 skálázási tényezőt használ 32 768-as eredeti pozícióbeállítással. A gyártó jelzi, hogy a statikus kiterjesztés befolyásolhatja a rövidebb szövegek viselkedését, és akkor ajánlja bekapcsolni, ha valóban szükséges a hosszú kontextusú feldolgozás.
Hosszú dokumentumfeladatot célzott kérdéssel, megnevezett forrásszakaszokkal és egyértelmű kimeneti szerkezettel készíts elő. Például add meg egy műszaki specifikáció több részét, és kérd az adott változtatáshoz releváns követelményeket a forrásszakasz megőrzésével minden megállapítás mellett. A nagy bemeneti ablak hasznos ezek együtt tartására; a válasz továbbra is lehet tömör táblázat a teljes dokumentum újramesélése helyett.
Fontos határok
A 131 072 tokenes szám kiterjesztett kontextustámogatás, nem felhatalmazás a hosszú kontextusú konfiguráció figyelmen kívül hagyására. A gyorsindítás 512 generált tokenje példabeállítás, nem közzétett maximális kimeneti kapacitás. Ez az Instruct-kiadás szövegmodell, és nem örökölhet kép- vagy videóképességeket a Qwen-VL-től vagy a Qwen2.5-Math speciális, eszközökkel integrált matematikai tanítását. Válaszd a megnevezett verziót, és készítsd elő a szöveget a szükséges magyarázathoz, kódhoz vagy dokumentumhoz.
POST /v1/chat/completionstexttext| Mező | Típus | Követelmény | Értékek és korlátok | Alapértelmezett |
|---|---|---|---|---|
Mezőmodel | Típusstring | KövetelményKötelező | Értékek és korlátok qwen2-7b-instruct | Alapértelmezett— |
Mezőmessages | Típusmessage[] | KövetelményKötelező | Értékek és korlátok Minimális elemszám: 1 | Alapértelmezett— |
Mezőmessages[].role | Típusstring | KövetelményKötelező | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőmessages[].content | Típusstring | KövetelményOpcionális | Értékek és korlátok Akkor alkalmazandó, ha: Szöveges beszélgetés | Alapértelmezett— |
Mezőstream | Típusboolean | KövetelményOpcionális | Értékek és korlátok | Alapértelmezettfalse |
Szöveg · UTF8 szöveg
messages[].content
| Paraméter | Szerződés |
|---|---|
Paramétercontent_type | Szerződésapplication/json |
Paraméterrequired | Szerződésmodel, messages |
Paramétermaterial_types | Szerződéstext |
Paramétermessages | Szerződésüzenettömb role/content szerkezettel |
Paraméterfile_material | Szerződésa tényleges UTF-8 dokumentum szó szerinti szövegként beillesztve; nincs kikövetkeztetett fájlazonosító |
Paraméteroptional_controls | Szerződésstream |
Paramétercontrol_scope | SzerződésSzöveges beszélgetés; a stream logikai érték, alapértéke false. |
Paraméteroutput_modalities | Szerződéstext |
Paraméterhosted_operations | Szerződésfalse |
Paramétermultimodal_input_binding | Szerződésnull |
Metódus álnevei: /chat/completions
Életciklus: synchronous_or_streamed
Küldje el a pontos modellazonosítót a messages mellett.
A kontextushossz nem kimeneti felső korlát.
Egy szövegfájl szó szerinti szöveget adhat meg; a kép-/hang-/fájlobjektum-bemenetek pontos hozzárendelést igényelnek.
A díjszabás nem ad új kérési lehetőségeket. A támogatott paraméterek a kiválasztott módszernél szerepelnek.
| Beállítás | Díjtáblázat | Díj |
|---|---|---|
| BeállításTokenenkénti alapárak | DíjtáblázatAlapdíj | Díj Bemenet · Bemeneti tokenek $0.000286 / 1K token Kimenet · Kimeneti tokenek $0.00058 / 1K token Bemenet · Gyorsítótár olvasása $0 / 1K token Bemenet · Írás a gyorsítótárba $0 / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
Az Ailoot a kérés előtt becsült összeget foglal le. Az eredmény után a mért használat alapján elszámolja a végső díjat. Folyamatos átvitel esetén a végső használati rekordot használja. A foglalás és az elszámolás működése →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"qwen2-7b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="qwen2-7b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson vagy SSE
Őrizzen meg minden teljes visszaadott választ, fájlt és tartalomrészt.
Őrizze meg az összes válaszváltozatot és azok tartalmát/eszközhívásait/gondolkodási tartalmát. SSE esetén válaszváltozat- és eszközindex szerint állítsa össze a részleges frissítéseket, és tartsa meg a végső befejezési okot és a használati adatokat.
Őrizze meg a kérés-/válaszazonosítókat és a fejléceket. Nincs megadva általános URL a szöveges feladatok lekéréséhez.
| Mező | Típus |
|---|---|
Mezőchoices[].index | Típusinteger |
Mezőchoices[].message.content | Típusstring|null |
Mezőchoices[].message.tool_calls | Típustool_call[] |
Mezőchoices[].message.reasoning_content | Típusstring |
Mezőchoices[].message.reasoning_details | Típusobject|array |
Mezőchoices[].finish_reason | Típusstring|null |
Mezőusage | Típusobject |
| Válasz | Feltétel | Következő lépés |
|---|---|---|
Válasz400 · invalid_request_error | FeltételÉrvénytelen kötelező mezők, az anyag érvénytelen reprezentációja vagy érvénytelen paraméterérték | Következő lépésJavítsa a jelzett mezőket egy új létrehozási kérés előtt. |
Ailoot Ultra qwen2-7b-instruct
/chat/completions
qwen2-7b-instructA Qwen2-7B-Instruct utasításkövetésre finomhangolt szövegmodell többnyelvű párbeszédhez, programozáshoz, matematikához és következtetéshez. A gyártó legfeljebb 131 072 tokenes kontextust dokumentál, ha a hosszú kontextus konfigurációja be van kapcsolva.
Ez a leírás a modell képességeit ismerteti. Az Ailootban elérhető bemenetek, kimenetek és lehetőségek alább, a kiválasztott metódusnál láthatók.
A Qwen2-7B-Instruct a Qwen2 utasításkövetésre finomhangolt, 7B-méretű verziója beszélgetéshez és természetes nyelven megfogalmazott feladatokhoz. Szövegbemeneti és szövegkimeneti modell: a válasz magyarázat, fordítás, dokumentumvázlat vagy programkód lehet. A gyártó fő alkalmazási területként nyelvértést, generálást, többnyelvű munkát, programozást, matematikát és következtetést jelöl meg.
Modellrészletek
A Qwen2 külön alap- és utasításkövetésre finomhangolt kiadásokat tartalmaz. Ez a kártya az Instruct-verziót tárgyalja, nem a Qwen2-7B-alapmodellt vagy a család mixture-of-experts-kiadását. A gyártó modellinformációs táblázata 7,07 milliárd paramétert ad meg a 7B-méretű modellhez. Dekóder-Transformere SwiGLU-t, attention QKV bias beállítást és grouped-query attention mechanizmust használ természetes nyelvekhez és kódhoz tervezett tokenizálóval. Ezek architekturális és reprezentációs választások, nem további bemeneti modalitások.
A kiadási közlemény angol és kínai, valamint további 27 nyelven végzett tanítást ír le. Közéjük tartozik az orosz, cseh és lengyel; a német, francia és spanyol; az arab, perzsa és török; a japán és koreai, továbbá Dél- és Délkelet-Ázsia további nyelvei. Egy többnyelvű asszisztens így különböző nyelveken fogadhat utasítást és forrásanyagot, de a végső eredmény nyelvét, terminológiáját és közönségét továbbra is célszerű meghatározni.
Tanítás és az Instruct különbsége
Előtanítás után a gyártó felügyelt finomhangolást és közvetlen preferenciaoptimalizálást használ. Az utasításkövetésre finomhangolt verzió beszélgetésben adott kérés megválaszolására készül, míg az alapverzió nyelvimodell-alapként más szerepet tölt be. Modellválasztáskor vagy a promptviselkedés összehasonlításakor tartsd egyértelműen a verziónevet. Az utasításkövetésre tanítás és a használatkor adott pontos utasítás e munkafolyamat egymást kiegészítő részei.
Beszélgetési bemenet előkészítése
A modellkártya gyorsindítása elkülöníti a rendszerutasítást a felhasználó kérdésétől, és generálás előtt a megfelelő chatsablont alkalmazza. Alkalmazásszintű feladatnál ugyanez a gyakorlati különbség hasznos: az asszisztens szerepét és válaszszabályait határozd meg külön a kezelendő forrásrészlettől vagy kódtól. Egy dokumentumba írt szöveges címke nem helyettesíti a környező felület megfelelően formázott beszélgetési szerepeit.
Egy technikai magyarázó feladat megadhat egy függvényt és egy bemeneti példát, majd kérdezheti az egyes ágak működését és az eredményt befolyásoló feltételeket. Kódolási feladat meghatározhatja az elfogadott bemenetet, az elvárt visszatérési értéket és a meglévő viselkedés változtatásának korlátait. Kérd a megvalósítást, majd példákat egy szokásos és egy határesethez. Ezek a dokumentált nyelvi és kódolási képességek alkalmazásai; a kód generálása szöveges eredmény, futtatása pedig az alkalmazáskörnyezethez tartozik.
Többnyelvű szerkesztéshez add meg az eredeti szövegrészt, a célközönséget és egy rövid terminológiai listát. Kérj az eredeti neveket és feltételeket megtartó átdolgozást, majd a változtatások rövid magyarázatát. Ez pontosabb egy általános szövegjavítási kérésnél: megadja, mely jelentésnek kell megmaradnia, és milyen használható kimenetet kell visszaadni.
Hosszú szövegek feldolgozása
A gyártó legfeljebb 131 072 tokenes kontextustámogatást dokumentál, de a hosszú kontextusra vonatkozó utasítások fontosak. A 32 768 tokenen túli bemenetekhez a dokumentált YaRN-kiterjesztési konfiguráció kell. A közzétett példa 4,0 skálázási tényezőt használ 32 768-as eredeti pozícióbeállítással. A gyártó jelzi, hogy a statikus kiterjesztés befolyásolhatja a rövidebb szövegek viselkedését, és akkor ajánlja bekapcsolni, ha valóban szükséges a hosszú kontextusú feldolgozás.
Hosszú dokumentumfeladatot célzott kérdéssel, megnevezett forrásszakaszokkal és egyértelmű kimeneti szerkezettel készíts elő. Például add meg egy műszaki specifikáció több részét, és kérd az adott változtatáshoz releváns követelményeket a forrásszakasz megőrzésével minden megállapítás mellett. A nagy bemeneti ablak hasznos ezek együtt tartására; a válasz továbbra is lehet tömör táblázat a teljes dokumentum újramesélése helyett.
Fontos határok
A 131 072 tokenes szám kiterjesztett kontextustámogatás, nem felhatalmazás a hosszú kontextusú konfiguráció figyelmen kívül hagyására. A gyorsindítás 512 generált tokenje példabeállítás, nem közzétett maximális kimeneti kapacitás. Ez az Instruct-kiadás szövegmodell, és nem örökölhet kép- vagy videóképességeket a Qwen-VL-től vagy a Qwen2.5-Math speciális, eszközökkel integrált matematikai tanítását. Válaszd a megnevezett verziót, és készítsd elő a szöveget a szükséges magyarázathoz, kódhoz vagy dokumentumhoz.
POST /v1/messagestextjson, sse| Mező | Típus | Követelmény | Értékek és korlátok | Alapértelmezett |
|---|---|---|---|---|
Mezőmodel | Típusstring | KövetelményKötelező | Értékek és korlátok qwen2-7b-instruct | Alapértelmezett— |
Mezőmessages | Típusmessage[] | KövetelményKötelező | Értékek és korlátok | Alapértelmezett— |
Mezőmessages[].role | Típusstring | KövetelményKötelező | Értékek és korlátok user, assistant | Alapértelmezett— |
Mezőmessages[].content | Típusstring | KövetelményKötelező | Értékek és korlátok | Alapértelmezett— |
Mezőmax_tokens | Típusinteger | KövetelményKötelező | Értékek és korlátok | Alapértelmezett— |
Mezőstream | Típusboolean | KövetelményOpcionális | Értékek és korlátok | Alapértelmezettfalse |
Szöveg · UTF-8 szöveg
messages[].content karakterlánc
| Paraméter | Szerződés |
|---|---|
Paramétercontent_type | Szerződésapplication/json |
Paraméterrequired | Szerződésmodel, messages, max_tokens |
Paraméteroptional_controls | Szerződésstream |
Paramétermaterial_types | Szerződéstext |
Paramétertext_file_material | SzerződésOlvassa el a tényleges UTF-8 dokumentumot, és tegye a szövegét a jelzett bemeneti karakterláncba vagy az üzenettartalom karakterláncába. |
Életciklus: synchronous_or_streamed
A díjszabás nem ad új kérési lehetőségeket. A támogatott paraméterek a kiválasztott módszernél szerepelnek.
| Beállítás | Díjtáblázat | Díj |
|---|---|---|
| BeállításTokenenkénti alapárak | DíjtáblázatAlapdíj | Díj Bemenet · Bemeneti tokenek $0.000286 / 1K token Kimenet · Kimeneti tokenek $0.00058 / 1K token Bemenet · Gyorsítótár olvasása $0 / 1K token Bemenet · Írás a gyorsítótárba $0 / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
Az Ailoot a kérés előtt becsült összeget foglal le. Az eredmény után a mért használat alapján elszámolja a végső díjat. Folyamatos átvitel esetén a végső használati rekordot használja. A foglalás és az elszámolás működése →
{\n "model": "qwen2-7b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON vagy SSE
Őrizzen meg minden teljes visszaadott választ, fájlt és tartalomrészt.
Őrizze meg az összes tartalomblokkot, a gondolkodási tartalom aláírásait és a tényleges eszközhasználati ID-kat. Állítsa össze az összes SSE-blokk részleges frissítését; az első szövegblokk nem a teljes kimenet.
Őrizze meg a kérés-/válaszazonosítókat és a fejléceket. Nincs megadva általános URL a szöveges feladatok lekéréséhez.
| Mező | Típus |
|---|---|
Mezőid | Típusstring |
Mezőmodel | Típusstring |
Mezőcontent[] | Típustext|thinking|tool_use|other content block |
Mezőstop_reason | Típusstring|null |
Mezőusage | Típusobject |
| Válasz | Feltétel | Következő lépés |
|---|---|---|
Válasz400 · invalid_request_error | FeltételÉrvénytelen kötelező mezők, az anyag érvénytelen reprezentációja vagy érvénytelen paraméterérték | Következő lépésJavítsa a jelzett mezőket egy új létrehozási kérés előtt. |
Ailoot Ultra qwen2-7b-instruct
/chat/completions