Qwen2-7B-Instruct on Qwen2:n ohjeiden noudattamiseen hienosäädetty 7B-kokoinen versio keskusteluun ja luonnollisella kielellä ilmaistuihin tehtäviin. Se on tekstiä vastaanottava ja tuottava malli: vastaus voi olla selitys, käännös, asiakirjaluonnos tai ohjelmakoodi. Valmistaja nimeää pääkäyttöalueiksi kielen ymmärtämisen, generoinnin, monikielisen työn, ohjelmoinnin, matematiikan ja päättelyn.
Mallin tiedot
Qwen2 sisältää erilliset perusmalli- ja ohjeiden noudattamiseen hienosäädetyt julkaisut. Tämä kortti koskee Instruct-versiota eikä Qwen2-7B-perusmallia tai perheen mixture-of-experts-julkaisua. Valmistajan mallitaulukko ilmoittaa 7B-kokoiselle mallille 7,07 miljardia parametria. Sen dekooderi-Transformer käyttää SwiGLU:ta, attention-mekanismin QKV-biasia ja grouped-query attention -mekanismia sekä luonnollisille kielille ja koodille suunniteltua tokenisoijaa. Nämä ovat arkkitehtuuri- ja esitystapavalintoja, eivät lisäsyötemodaliteetteja.
Julkaisutiedote kuvaa koulutuksen englannilla ja kiinalla sekä 27 lisäkielellä. Niihin kuuluvat venäjä, tšekki ja puola; saksa, ranska ja espanja; arabia, persia ja turkki; japani ja korea sekä muita Etelä- ja Kaakkois-Aasian kieliä. Monikielinen avustaja voi siksi vastaanottaa ohjeen ja lähdeaineiston eri kielillä, mutta lopullisen tuloksen kieli, terminologia ja yleisö tulee silti määrittää.
Koulutus ja Instruct-version ero
Esikoulutuksen jälkeen valmistaja käyttää ohjattua hienosäätöä ja suoraa preferenssioptimointia. Ohjeiden noudattamiseen hienosäädetty versio on tarkoitettu vastaamaan pyyntöön keskustelussa, kun taas perusversion rooli on toimia kielimallipohjana. Pidä version nimi selkeänä mallia valitessasi tai kehotteiden toimintaa vertaillessasi. Mallin opettaminen seuraamaan ohjeita ja tarkan ohjeen antaminen käyttöhetkellä täydentävät toisiaan tässä työnkulussa.
Keskustelusyötteen valmistelu
Mallikortin pika-aloitus erottaa järjestelmäohjeen käyttäjän kysymyksestä ja käyttää vastaavaa keskustelumallinetta ennen generointia. Sama käytännön erottelu hyödyttää sovellustason tehtävää: määritä avustajan rooli ja vastaussäännöt erillään sen käsiteltävästä lähdekatkelmasta tai koodista. Asiakirjan sisään kirjoitettu tekstimerkintä ei korvaa oikein muotoiltuja keskustelurooleja ympäröivässä rajapinnassa.
Tekninen selitystehtävä voi antaa funktion ja yhden syöte-esimerkin ja kysyä sitten, mitä kukin haara tekee ja mitkä ehdot vaikuttavat tulokseen. Kooditehtävä voi määrittää hyväksytyn syötteen, odotetun palautusarvon ja olemassa olevan toiminnan muuttamisen rajoitteet. Pyydä toteutus ja sen jälkeen esimerkit normaalille tapaukselle ja rajatapaukselle. Nämä soveltavat dokumentoituja kieli- ja koodikykyjä; koodin generointi on tekstimuotoinen tulos, kun taas sen suoritus kuuluu sovellusympäristöön.
Monikielisessä muokkauksessa anna alkuperäinen katkelma, kohdeyleisö ja lyhyt termiluettelo. Pyydä muokkaus, joka säilyttää alkuperäiset nimet ja ehdot, ja sen jälkeen lyhyt selitys muutoksista. Tämä on tarkempi kuin yleinen tekstin parantamispyyntö: se määrittää säilytettävän merkityksen ja palautettavan käyttökelpoisen tuloksen.
Pitkien tekstien käsittely
Valmistaja dokumentoi enintään 131 072 tokenin kontekstituen, mutta pitkän kontekstin ohjeet ovat tärkeitä. Yli 32 768 tokenin syötteet edellyttävät dokumentoitua YaRN-laajennuskokoonpanoa. Julkaistu esimerkki käyttää skaalauskerrointa 4,0 ja alkuperäistä 32 768 position asetusta. Valmistaja huomauttaa, että staattinen laajennusasetus voi vaikuttaa lyhyiden tekstien toimintaan, ja suosittelee sen käyttöönottoa silloin, kun pitkän kontekstin käsittelyä tarvitaan.
Valmistele pitkä asiakirjatehtävä kohdennetulla kysymyksellä, nimetyillä lähdeosioilla ja selkeällä tulosterakenteella. Anna esimerkiksi teknisen määrittelyn useita osia ja pyydä tiettyyn muutokseen liittyvät vaatimukset niin, että lähdeosio säilyy kunkin löydöksen vieressä. Suuri syöteikkuna auttaa säilyttämään nämä osat yhdessä; vastaus voi silti olla tiivis taulukko eikä koko asiakirjan uudelleenkerronta.
Tärkeät rajat
131 072 tokenin luku tarkoittaa laajennettua kontekstitukea, ei lupaa ohittaa pitkän kontekstin kokoonpanoa. Pika-aloituksen 512 generoitua tokenia on esimerkkiasetus, ei julkaistu enimmäistulostekapasiteetti. Tämä Instruct-julkaisu on tekstimalli, eikä sen tule periä kuva- tai videokykyjä Qwen-VL:stä tai Qwen2.5-Mathin erikoistunutta työkaluihin integroitua matematiikkakoulutusta. Valitse nimetty versio ja valmistele teksti tarvitsemaasi selitystä, koodia tai asiakirjaa varten.
", "aboutText": "Qwen2-7B-Instruct on Qwen2:n ohjeiden noudattamiseen hienosäädetty 7B-kokoinen versio keskusteluun ja luonnollisella kielellä ilmaistuihin tehtäviin. Se on tekstiä vastaanottava ja tuottava malli: vastaus voi olla selitys, käännös, asiakirjaluonnos tai ohjelmakoodi. Valmistaja nimeää pääkäyttöalueiksi kielen ymmärtämisen, generoinnin, monikielisen työn, ohjelmoinnin, matematiikan ja päättelyn.\n\nMallin tiedot\n\nQwen2 sisältää erilliset perusmalli- ja ohjeiden noudattamiseen hienosäädetyt julkaisut. Tämä kortti koskee Instruct-versiota eikä Qwen2-7B-perusmallia tai perheen mixture-of-experts-julkaisua. Valmistajan mallitaulukko ilmoittaa 7B-kokoiselle mallille 7,07 miljardia parametria. Sen dekooderi-Transformer käyttää SwiGLU:ta, attention-mekanismin QKV-biasia ja grouped-query attention -mekanismia sekä luonnollisille kielille ja koodille suunniteltua tokenisoijaa. Nämä ovat arkkitehtuuri- ja esitystapavalintoja, eivät lisäsyötemodaliteetteja.\n\nJulkaisutiedote kuvaa koulutuksen englannilla ja kiinalla sekä 27 lisäkielellä. Niihin kuuluvat venäjä, tšekki ja puola; saksa, ranska ja espanja; arabia, persia ja turkki; japani ja korea sekä muita Etelä- ja Kaakkois-Aasian kieliä. Monikielinen avustaja voi siksi vastaanottaa ohjeen ja lähdeaineiston eri kielillä, mutta lopullisen tuloksen kieli, terminologia ja yleisö tulee silti määrittää.\n\nKoulutus ja Instruct-version ero\n\nEsikoulutuksen jälkeen valmistaja käyttää ohjattua hienosäätöä ja suoraa preferenssioptimointia. Ohjeiden noudattamiseen hienosäädetty versio on tarkoitettu vastaamaan pyyntöön keskustelussa, kun taas perusversion rooli on toimia kielimallipohjana. Pidä version nimi selkeänä mallia valitessasi tai kehotteiden toimintaa vertaillessasi. Mallin opettaminen seuraamaan ohjeita ja tarkan ohjeen antaminen käyttöhetkellä täydentävät toisiaan tässä työnkulussa.\n\nKeskustelusyötteen valmistelu\n\nMallikortin pika-aloitus erottaa järjestelmäohjeen käyttäjän kysymyksestä ja käyttää vastaavaa keskustelumallinetta ennen generointia. Sama käytännön erottelu hyödyttää sovellustason tehtävää: määritä avustajan rooli ja vastaussäännöt erillään sen käsiteltävästä lähdekatkelmasta tai koodista. Asiakirjan sisään kirjoitettu tekstimerkintä ei korvaa oikein muotoiltuja keskustelurooleja ympäröivässä rajapinnassa.\n\nTekninen selitystehtävä voi antaa funktion ja yhden syöte-esimerkin ja kysyä sitten, mitä kukin haara tekee ja mitkä ehdot vaikuttavat tulokseen. Kooditehtävä voi määrittää hyväksytyn syötteen, odotetun palautusarvon ja olemassa olevan toiminnan muuttamisen rajoitteet. Pyydä toteutus ja sen jälkeen esimerkit normaalille tapaukselle ja rajatapaukselle. Nämä soveltavat dokumentoituja kieli- ja koodikykyjä; koodin generointi on tekstimuotoinen tulos, kun taas sen suoritus kuuluu sovellusympäristöön.\n\nMonikielisessä muokkauksessa anna alkuperäinen katkelma, kohdeyleisö ja lyhyt termiluettelo. Pyydä muokkaus, joka säilyttää alkuperäiset nimet ja ehdot, ja sen jälkeen lyhyt selitys muutoksista. Tämä on tarkempi kuin yleinen tekstin parantamispyyntö: se määrittää säilytettävän merkityksen ja palautettavan käyttökelpoisen tuloksen.\n\nPitkien tekstien käsittely\n\nValmistaja dokumentoi enintään 131 072 tokenin kontekstituen, mutta pitkän kontekstin ohjeet ovat tärkeitä. Yli 32 768 tokenin syötteet edellyttävät dokumentoitua YaRN-laajennuskokoonpanoa. Julkaistu esimerkki käyttää skaalauskerrointa 4,0 ja alkuperäistä 32 768 position asetusta. Valmistaja huomauttaa, että staattinen laajennusasetus voi vaikuttaa lyhyiden tekstien toimintaan, ja suosittelee sen käyttöönottoa silloin, kun pitkän kontekstin käsittelyä tarvitaan.\n\nValmistele pitkä asiakirjatehtävä kohdennetulla kysymyksellä, nimetyillä lähdeosioilla ja selkeällä tulosterakenteella. Anna esimerkiksi teknisen määrittelyn useita osia ja pyydä tiettyyn muutokseen liittyvät vaatimukset niin, että lähdeosio säilyy kunkin löydöksen vieressä. Suuri syöteikkuna auttaa säilyttämään nämä osat yhdessä; vastaus voi silti olla tiivis taulukko eikä koko asiakirjan uudelleenkerronta.\n\nTärkeät rajat\n\n131 072 tokenin luku tarkoittaa laajennettua kontekstitukea, ei lupaa ohittaa pitkän kontekstin kokoonpanoa. Pika-aloituksen 512 generoitua tokenia on esimerkkiasetus, ei julkaistu enimmäistulostekapasiteetti. Tämä Instruct-julkaisu on tekstimalli, eikä sen tule periä kuva- tai videokykyjä Qwen-VL:stä tai Qwen2.5-Mathin erikoistunutta työkaluihin integroitua matematiikkakoulutusta. Valitse nimetty versio ja valmistele teksti tarvitsemaasi selitystä, koodia tai asiakirjaa varten.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "a17d45d357e46a492b30ab02ee94661b9fea4aedcebfec5d162a4daa2fcaeb83", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "fi", "methods": [ { "html": "qwen2-7b-instructQwen2-7B-Instruct on ohjeiden noudattamiseen hienosäädetty tekstimalli monikieliseen keskusteluun, ohjelmointiin, matematiikkaan ja päättelyyn. Valmistaja dokumentoi enintään 131 072 tokenin kontekstin, kun pitkän kontekstin kokoonpano on käytössä.
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
Qwen2-7B-Instruct on Qwen2:n ohjeiden noudattamiseen hienosäädetty 7B-kokoinen versio keskusteluun ja luonnollisella kielellä ilmaistuihin tehtäviin. Se on tekstiä vastaanottava ja tuottava malli: vastaus voi olla selitys, käännös, asiakirjaluonnos tai ohjelmakoodi. Valmistaja nimeää pääkäyttöalueiksi kielen ymmärtämisen, generoinnin, monikielisen työn, ohjelmoinnin, matematiikan ja päättelyn.
Mallin tiedot
Qwen2 sisältää erilliset perusmalli- ja ohjeiden noudattamiseen hienosäädetyt julkaisut. Tämä kortti koskee Instruct-versiota eikä Qwen2-7B-perusmallia tai perheen mixture-of-experts-julkaisua. Valmistajan mallitaulukko ilmoittaa 7B-kokoiselle mallille 7,07 miljardia parametria. Sen dekooderi-Transformer käyttää SwiGLU:ta, attention-mekanismin QKV-biasia ja grouped-query attention -mekanismia sekä luonnollisille kielille ja koodille suunniteltua tokenisoijaa. Nämä ovat arkkitehtuuri- ja esitystapavalintoja, eivät lisäsyötemodaliteetteja.
Julkaisutiedote kuvaa koulutuksen englannilla ja kiinalla sekä 27 lisäkielellä. Niihin kuuluvat venäjä, tšekki ja puola; saksa, ranska ja espanja; arabia, persia ja turkki; japani ja korea sekä muita Etelä- ja Kaakkois-Aasian kieliä. Monikielinen avustaja voi siksi vastaanottaa ohjeen ja lähdeaineiston eri kielillä, mutta lopullisen tuloksen kieli, terminologia ja yleisö tulee silti määrittää.
Koulutus ja Instruct-version ero
Esikoulutuksen jälkeen valmistaja käyttää ohjattua hienosäätöä ja suoraa preferenssioptimointia. Ohjeiden noudattamiseen hienosäädetty versio on tarkoitettu vastaamaan pyyntöön keskustelussa, kun taas perusversion rooli on toimia kielimallipohjana. Pidä version nimi selkeänä mallia valitessasi tai kehotteiden toimintaa vertaillessasi. Mallin opettaminen seuraamaan ohjeita ja tarkan ohjeen antaminen käyttöhetkellä täydentävät toisiaan tässä työnkulussa.
Keskustelusyötteen valmistelu
Mallikortin pika-aloitus erottaa järjestelmäohjeen käyttäjän kysymyksestä ja käyttää vastaavaa keskustelumallinetta ennen generointia. Sama käytännön erottelu hyödyttää sovellustason tehtävää: määritä avustajan rooli ja vastaussäännöt erillään sen käsiteltävästä lähdekatkelmasta tai koodista. Asiakirjan sisään kirjoitettu tekstimerkintä ei korvaa oikein muotoiltuja keskustelurooleja ympäröivässä rajapinnassa.
Tekninen selitystehtävä voi antaa funktion ja yhden syöte-esimerkin ja kysyä sitten, mitä kukin haara tekee ja mitkä ehdot vaikuttavat tulokseen. Kooditehtävä voi määrittää hyväksytyn syötteen, odotetun palautusarvon ja olemassa olevan toiminnan muuttamisen rajoitteet. Pyydä toteutus ja sen jälkeen esimerkit normaalille tapaukselle ja rajatapaukselle. Nämä soveltavat dokumentoituja kieli- ja koodikykyjä; koodin generointi on tekstimuotoinen tulos, kun taas sen suoritus kuuluu sovellusympäristöön.
Monikielisessä muokkauksessa anna alkuperäinen katkelma, kohdeyleisö ja lyhyt termiluettelo. Pyydä muokkaus, joka säilyttää alkuperäiset nimet ja ehdot, ja sen jälkeen lyhyt selitys muutoksista. Tämä on tarkempi kuin yleinen tekstin parantamispyyntö: se määrittää säilytettävän merkityksen ja palautettavan käyttökelpoisen tuloksen.
Pitkien tekstien käsittely
Valmistaja dokumentoi enintään 131 072 tokenin kontekstituen, mutta pitkän kontekstin ohjeet ovat tärkeitä. Yli 32 768 tokenin syötteet edellyttävät dokumentoitua YaRN-laajennuskokoonpanoa. Julkaistu esimerkki käyttää skaalauskerrointa 4,0 ja alkuperäistä 32 768 position asetusta. Valmistaja huomauttaa, että staattinen laajennusasetus voi vaikuttaa lyhyiden tekstien toimintaan, ja suosittelee sen käyttöönottoa silloin, kun pitkän kontekstin käsittelyä tarvitaan.
Valmistele pitkä asiakirjatehtävä kohdennetulla kysymyksellä, nimetyillä lähdeosioilla ja selkeällä tulosterakenteella. Anna esimerkiksi teknisen määrittelyn useita osia ja pyydä tiettyyn muutokseen liittyvät vaatimukset niin, että lähdeosio säilyy kunkin löydöksen vieressä. Suuri syöteikkuna auttaa säilyttämään nämä osat yhdessä; vastaus voi silti olla tiivis taulukko eikä koko asiakirjan uudelleenkerronta.
Tärkeät rajat
131 072 tokenin luku tarkoittaa laajennettua kontekstitukea, ei lupaa ohittaa pitkän kontekstin kokoonpanoa. Pika-aloituksen 512 generoitua tokenia on esimerkkiasetus, ei julkaistu enimmäistulostekapasiteetti. Tämä Instruct-julkaisu on tekstimalli, eikä sen tule periä kuva- tai videokykyjä Qwen-VL:stä tai Qwen2.5-Mathin erikoistunutta työkaluihin integroitua matematiikkakoulutusta. Valitse nimetty versio ja valmistele teksti tarvitsemaasi selitystä, koodia tai asiakirjaa varten.
POST /v1/chat/completionstexttext| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat qwen2-7b-instruct | Oletus— |
Kenttämessages | Tyyppimessage[] | VaatimusPakollinen | Arvot & rajat Kohteiden vähimmäismäärä: 1 | Oletus— |
Kenttämessages[].role | Tyyppistring | VaatimusPakollinen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttämessages[].content | Tyyppistring | VaatimusValinnainen | Arvot & rajat Sovelletaan, kun: Tekstikeskustelu | Oletus— |
Kenttästream | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat | Oletusfalse |
Teksti · UTF8-teksti
messages[].content
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, messages |
Parametrimaterial_types | Sopimustext |
Parametrimessages | Sopimusviestitaulukko role/content-rakenteella |
Parametrifile_material | Sopimusvarsinainen UTF-8-asiakirja lisätään sellaisenaan tekstinä; tiedoston ID:tä ei päätellä |
Parametrioptional_controls | Sopimusstream |
Parametricontrol_scope | SopimusTekstikeskustelu; stream on totuusarvo, jonka oletus on false. |
Parametrioutput_modalities | Sopimustext |
Parametrihosted_operations | Sopimusfalse |
Parametrimultimodal_input_binding | Sopimusnull |
Menetelmien aliakset: /chat/completions
Elinkaari: synchronous_or_streamed
Lähetä mallin täsmällinen ID yhdessä messages-kentän kanssa.
Kontekstin pituus ei ole tuloksen yläraja.
Tekstitiedosto voi antaa tekstiä sellaisenaan; kuva-, ääni- ja tiedosto-objektisyötteet tarvitsevat täsmällisen sidonnan.
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
| Asetukset | Hinnasto | Veloitus |
|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Veloitus Syöte · Syötetokenit $0.000286 / 1K tokenia Tuloste · Tulostokenit $0.00058 / 1K tokenia Syöte · Välimuistin luku $0 / 1K tokenia Syöte · Välimuistiin kirjoitus $0 / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"qwen2-7b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="qwen2-7b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson tai SSE
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Säilytä jokainen vastausvaihtoehto sisältöineen, työkalukutsuineen ja päättelyineen. Kokoa SSE:ssä muutokset vastausvaihtoehdon ja työkalun indeksin mukaan ja säilytä lopullinen päättymissyy sekä käyttötiedot.
Säilytä pyyntöjen/vastausten ID:t ja otsakkeet. Yleistä tekstityön haku-URL:ää ei anneta.
| Kenttä | Tyyppi |
|---|---|
Kenttächoices[].index | Tyyppiinteger |
Kenttächoices[].message.content | Tyyppistring|null |
Kenttächoices[].message.tool_calls | Tyyppitool_call[] |
Kenttächoices[].message.reasoning_content | Tyyppistring |
Kenttächoices[].message.reasoning_details | Tyyppiobject|array |
Kenttächoices[].finish_reason | Tyyppistring|null |
Kenttäusage | Tyyppiobject |
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. |
Ailoot Ultra qwen2-7b-instruct
/chat/completions
qwen2-7b-instructQwen2-7B-Instruct on ohjeiden noudattamiseen hienosäädetty tekstimalli monikieliseen keskusteluun, ohjelmointiin, matematiikkaan ja päättelyyn. Valmistaja dokumentoi enintään 131 072 tokenin kontekstin, kun pitkän kontekstin kokoonpano on käytössä.
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
Qwen2-7B-Instruct on Qwen2:n ohjeiden noudattamiseen hienosäädetty 7B-kokoinen versio keskusteluun ja luonnollisella kielellä ilmaistuihin tehtäviin. Se on tekstiä vastaanottava ja tuottava malli: vastaus voi olla selitys, käännös, asiakirjaluonnos tai ohjelmakoodi. Valmistaja nimeää pääkäyttöalueiksi kielen ymmärtämisen, generoinnin, monikielisen työn, ohjelmoinnin, matematiikan ja päättelyn.
Mallin tiedot
Qwen2 sisältää erilliset perusmalli- ja ohjeiden noudattamiseen hienosäädetyt julkaisut. Tämä kortti koskee Instruct-versiota eikä Qwen2-7B-perusmallia tai perheen mixture-of-experts-julkaisua. Valmistajan mallitaulukko ilmoittaa 7B-kokoiselle mallille 7,07 miljardia parametria. Sen dekooderi-Transformer käyttää SwiGLU:ta, attention-mekanismin QKV-biasia ja grouped-query attention -mekanismia sekä luonnollisille kielille ja koodille suunniteltua tokenisoijaa. Nämä ovat arkkitehtuuri- ja esitystapavalintoja, eivät lisäsyötemodaliteetteja.
Julkaisutiedote kuvaa koulutuksen englannilla ja kiinalla sekä 27 lisäkielellä. Niihin kuuluvat venäjä, tšekki ja puola; saksa, ranska ja espanja; arabia, persia ja turkki; japani ja korea sekä muita Etelä- ja Kaakkois-Aasian kieliä. Monikielinen avustaja voi siksi vastaanottaa ohjeen ja lähdeaineiston eri kielillä, mutta lopullisen tuloksen kieli, terminologia ja yleisö tulee silti määrittää.
Koulutus ja Instruct-version ero
Esikoulutuksen jälkeen valmistaja käyttää ohjattua hienosäätöä ja suoraa preferenssioptimointia. Ohjeiden noudattamiseen hienosäädetty versio on tarkoitettu vastaamaan pyyntöön keskustelussa, kun taas perusversion rooli on toimia kielimallipohjana. Pidä version nimi selkeänä mallia valitessasi tai kehotteiden toimintaa vertaillessasi. Mallin opettaminen seuraamaan ohjeita ja tarkan ohjeen antaminen käyttöhetkellä täydentävät toisiaan tässä työnkulussa.
Keskustelusyötteen valmistelu
Mallikortin pika-aloitus erottaa järjestelmäohjeen käyttäjän kysymyksestä ja käyttää vastaavaa keskustelumallinetta ennen generointia. Sama käytännön erottelu hyödyttää sovellustason tehtävää: määritä avustajan rooli ja vastaussäännöt erillään sen käsiteltävästä lähdekatkelmasta tai koodista. Asiakirjan sisään kirjoitettu tekstimerkintä ei korvaa oikein muotoiltuja keskustelurooleja ympäröivässä rajapinnassa.
Tekninen selitystehtävä voi antaa funktion ja yhden syöte-esimerkin ja kysyä sitten, mitä kukin haara tekee ja mitkä ehdot vaikuttavat tulokseen. Kooditehtävä voi määrittää hyväksytyn syötteen, odotetun palautusarvon ja olemassa olevan toiminnan muuttamisen rajoitteet. Pyydä toteutus ja sen jälkeen esimerkit normaalille tapaukselle ja rajatapaukselle. Nämä soveltavat dokumentoituja kieli- ja koodikykyjä; koodin generointi on tekstimuotoinen tulos, kun taas sen suoritus kuuluu sovellusympäristöön.
Monikielisessä muokkauksessa anna alkuperäinen katkelma, kohdeyleisö ja lyhyt termiluettelo. Pyydä muokkaus, joka säilyttää alkuperäiset nimet ja ehdot, ja sen jälkeen lyhyt selitys muutoksista. Tämä on tarkempi kuin yleinen tekstin parantamispyyntö: se määrittää säilytettävän merkityksen ja palautettavan käyttökelpoisen tuloksen.
Pitkien tekstien käsittely
Valmistaja dokumentoi enintään 131 072 tokenin kontekstituen, mutta pitkän kontekstin ohjeet ovat tärkeitä. Yli 32 768 tokenin syötteet edellyttävät dokumentoitua YaRN-laajennuskokoonpanoa. Julkaistu esimerkki käyttää skaalauskerrointa 4,0 ja alkuperäistä 32 768 position asetusta. Valmistaja huomauttaa, että staattinen laajennusasetus voi vaikuttaa lyhyiden tekstien toimintaan, ja suosittelee sen käyttöönottoa silloin, kun pitkän kontekstin käsittelyä tarvitaan.
Valmistele pitkä asiakirjatehtävä kohdennetulla kysymyksellä, nimetyillä lähdeosioilla ja selkeällä tulosterakenteella. Anna esimerkiksi teknisen määrittelyn useita osia ja pyydä tiettyyn muutokseen liittyvät vaatimukset niin, että lähdeosio säilyy kunkin löydöksen vieressä. Suuri syöteikkuna auttaa säilyttämään nämä osat yhdessä; vastaus voi silti olla tiivis taulukko eikä koko asiakirjan uudelleenkerronta.
Tärkeät rajat
131 072 tokenin luku tarkoittaa laajennettua kontekstitukea, ei lupaa ohittaa pitkän kontekstin kokoonpanoa. Pika-aloituksen 512 generoitua tokenia on esimerkkiasetus, ei julkaistu enimmäistulostekapasiteetti. Tämä Instruct-julkaisu on tekstimalli, eikä sen tule periä kuva- tai videokykyjä Qwen-VL:stä tai Qwen2.5-Mathin erikoistunutta työkaluihin integroitua matematiikkakoulutusta. Valitse nimetty versio ja valmistele teksti tarvitsemaasi selitystä, koodia tai asiakirjaa varten.
POST /v1/messagestextjson, sse| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat qwen2-7b-instruct | Oletus— |
Kenttämessages | Tyyppimessage[] | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttämessages[].role | Tyyppistring | VaatimusPakollinen | Arvot & rajat user, assistant | Oletus— |
Kenttämessages[].content | Tyyppistring | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttämax_tokens | Tyyppiinteger | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttästream | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat | Oletusfalse |
Teksti · UTF-8-teksti
messages[].content-merkkijono
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, messages, max_tokens |
Parametrioptional_controls | Sopimusstream |
Parametrimaterial_types | Sopimustext |
Parametritext_file_material | SopimusLue varsinainen UTF-8-asiakirja ja sijoita sen teksti ilmoitettuun syöte- tai viestisisällön merkkijonoon. |
Elinkaari: synchronous_or_streamed
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
| Asetukset | Hinnasto | Veloitus |
|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Veloitus Syöte · Syötetokenit $0.000286 / 1K tokenia Tuloste · Tulostokenit $0.00058 / 1K tokenia Syöte · Välimuistin luku $0 / 1K tokenia Syöte · Välimuistiin kirjoitus $0 / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
{\n "model": "qwen2-7b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON tai SSE
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Säilytä kaikki sisältölohkot, päättelyallekirjoitukset ja todelliset työkalukäytön ID:t. Kokoa kaikki SSE-lohkomuutokset; ensimmäinen tekstilohko ei ole koko tulos.
Säilytä pyyntöjen/vastausten ID:t ja otsakkeet. Yleistä tekstityön haku-URL:ää ei anneta.
| Kenttä | Tyyppi |
|---|---|
Kenttäid | Tyyppistring |
Kenttämodel | Tyyppistring |
Kenttäcontent[] | Tyyppitext|thinking|tool_use|other content block |
Kenttästop_reason | Tyyppistring|null |
Kenttäusage | Tyyppiobject |
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. |
Ailoot Ultra qwen2-7b-instruct
/chat/completions