Qwen2 7B Instruct
Qwen2-7B-Instruct on ohjeiden noudattamiseen hienosäädetty tekstimalli monikieliseen keskusteluun, ohjelmointiin, matematiikkaan ja päättelyyn. Valmistaja dokumentoi enintään 131 072 tokenin kontekstin, kun pitkän kontekstin kokoonpano on käytössä.
- Ailoot Ultra · OpenAI Chat
POST /v1/chat/completionsqwen2-7b-instruct - Ailoot Ultra · Anthropic Messages
POST /v1/messagesqwen2-7b-instruct
Tietoa mallista
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
Qwen2-7B-Instruct on Qwen2:n ohjeiden noudattamiseen hienosäädetty 7B-kokoinen versio keskusteluun ja luonnollisella kielellä ilmaistuihin tehtäviin. Se on tekstiä vastaanottava ja tuottava malli: vastaus voi olla selitys, käännös, asiakirjaluonnos tai ohjelmakoodi. Valmistaja nimeää pääkäyttöalueiksi kielen ymmärtämisen, generoinnin, monikielisen työn, ohjelmoinnin, matematiikan ja päättelyn.
Mallin tiedot
Qwen2 sisältää erilliset perusmalli- ja ohjeiden noudattamiseen hienosäädetyt julkaisut. Tämä kortti koskee Instruct-versiota eikä Qwen2-7B-perusmallia tai perheen mixture-of-experts-julkaisua. Valmistajan mallitaulukko ilmoittaa 7B-kokoiselle mallille 7,07 miljardia parametria. Sen dekooderi-Transformer käyttää SwiGLU:ta, attention-mekanismin QKV-biasia ja grouped-query attention -mekanismia sekä luonnollisille kielille ja koodille suunniteltua tokenisoijaa. Nämä ovat arkkitehtuuri- ja esitystapavalintoja, eivät lisäsyötemodaliteetteja.
Julkaisutiedote kuvaa koulutuksen englannilla ja kiinalla sekä 27 lisäkielellä. Niihin kuuluvat venäjä, tšekki ja puola; saksa, ranska ja espanja; arabia, persia ja turkki; japani ja korea sekä muita Etelä- ja Kaakkois-Aasian kieliä. Monikielinen avustaja voi siksi vastaanottaa ohjeen ja lähdeaineiston eri kielillä, mutta lopullisen tuloksen kieli, terminologia ja yleisö tulee silti määrittää.
Koulutus ja Instruct-version ero
Esikoulutuksen jälkeen valmistaja käyttää ohjattua hienosäätöä ja suoraa preferenssioptimointia. Ohjeiden noudattamiseen hienosäädetty versio on tarkoitettu vastaamaan pyyntöön keskustelussa, kun taas perusversion rooli on toimia kielimallipohjana. Pidä version nimi selkeänä mallia valitessasi tai kehotteiden toimintaa vertaillessasi. Mallin opettaminen seuraamaan ohjeita ja tarkan ohjeen antaminen käyttöhetkellä täydentävät toisiaan tässä työnkulussa.
Keskustelusyötteen valmistelu
Mallikortin pika-aloitus erottaa järjestelmäohjeen käyttäjän kysymyksestä ja käyttää vastaavaa keskustelumallinetta ennen generointia. Sama käytännön erottelu hyödyttää sovellustason tehtävää: määritä avustajan rooli ja vastaussäännöt erillään sen käsiteltävästä lähdekatkelmasta tai koodista. Asiakirjan sisään kirjoitettu tekstimerkintä ei korvaa oikein muotoiltuja keskustelurooleja ympäröivässä rajapinnassa.
Tekninen selitystehtävä voi antaa funktion ja yhden syöte-esimerkin ja kysyä sitten, mitä kukin haara tekee ja mitkä ehdot vaikuttavat tulokseen. Kooditehtävä voi määrittää hyväksytyn syötteen, odotetun palautusarvon ja olemassa olevan toiminnan muuttamisen rajoitteet. Pyydä toteutus ja sen jälkeen esimerkit normaalille tapaukselle ja rajatapaukselle. Nämä soveltavat dokumentoituja kieli- ja koodikykyjä; koodin generointi on tekstimuotoinen tulos, kun taas sen suoritus kuuluu sovellusympäristöön.
Monikielisessä muokkauksessa anna alkuperäinen katkelma, kohdeyleisö ja lyhyt termiluettelo. Pyydä muokkaus, joka säilyttää alkuperäiset nimet ja ehdot, ja sen jälkeen lyhyt selitys muutoksista. Tämä on tarkempi kuin yleinen tekstin parantamispyyntö: se määrittää säilytettävän merkityksen ja palautettavan käyttökelpoisen tuloksen.
Pitkien tekstien käsittely
Valmistaja dokumentoi enintään 131 072 tokenin kontekstituen, mutta pitkän kontekstin ohjeet ovat tärkeitä. Yli 32 768 tokenin syötteet edellyttävät dokumentoitua YaRN-laajennuskokoonpanoa. Julkaistu esimerkki käyttää skaalauskerrointa 4,0 ja alkuperäistä 32 768 position asetusta. Valmistaja huomauttaa, että staattinen laajennusasetus voi vaikuttaa lyhyiden tekstien toimintaan, ja suosittelee sen käyttöönottoa silloin, kun pitkän kontekstin käsittelyä tarvitaan.
Valmistele pitkä asiakirjatehtävä kohdennetulla kysymyksellä, nimetyillä lähdeosioilla ja selkeällä tulosterakenteella. Anna esimerkiksi teknisen määrittelyn useita osia ja pyydä tiettyyn muutokseen liittyvät vaatimukset niin, että lähdeosio säilyy kunkin löydöksen vieressä. Suuri syöteikkuna auttaa säilyttämään nämä osat yhdessä; vastaus voi silti olla tiivis taulukko eikä koko asiakirjan uudelleenkerronta.
Tärkeät rajat
131 072 tokenin luku tarkoittaa laajennettua kontekstitukea, ei lupaa ohittaa pitkän kontekstin kokoonpanoa. Pika-aloituksen 512 generoitua tokenia on esimerkkiasetus, ei julkaistu enimmäistulostekapasiteetti. Tämä Instruct-julkaisu on tekstimalli, eikä sen tule periä kuva- tai videokykyjä Qwen-VL:stä tai Qwen2.5-Mathin erikoistunutta työkaluihin integroitua matematiikkakoulutusta. Valitse nimetty versio ja valmistele teksti tarvitsemaasi selitystä, koodia tai asiakirjaa varten.
Ailoot Ultra · OpenAI Chat POST /v1/chat/completions qwen2-7b-instruct
qwen2-7b-instructAloitus
Qwen2-7B-Instruct on ohjeiden noudattamiseen hienosäädetty tekstimalli monikieliseen keskusteluun, ohjelmointiin, matematiikkaan ja päättelyyn. Valmistaja dokumentoi enintään 131 072 tokenin kontekstin, kun pitkän kontekstin kokoonpano on käytössä.
- Hyväksytyt syötteet
- Teksti
- Tulokset
- Teksti
Saatavilla Ailootissa · syötteet & menetelmät
Ailoot Ultra · OpenAI Chat POST /v1/chat/completions
- Syötetyypit
text- Tulostyypit
text- Tulosteen muoto
- json tai SSE
| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat qwen2-7b-instruct | Oletus— |
Kenttämessages | Tyyppimessage[] | VaatimusPakollinen | Arvot & rajat Kohteiden vähimmäismäärä: 1 | Oletus— |
Kenttämessages[].role | Tyyppistring | VaatimusPakollinen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttämessages[].content | Tyyppistring | VaatimusValinnainen | Arvot & rajat Sovelletaan, kun: Tekstikeskustelu | Oletus— |
Kenttästream | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat | Oletusfalse |
Syöteaineistojen yhdistelmät
Teksti · UTF8-teksti
messages[].content
Menetelmän parametrit ja elinkaari
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, messages |
Parametrimaterial_types | Sopimustext |
Parametrimessages | Sopimusviestitaulukko role/content-rakenteella |
Parametrifile_material | Sopimusvarsinainen UTF-8-asiakirja lisätään sellaisenaan tekstinä; tiedoston ID:tä ei päätellä |
Parametrioptional_controls | Sopimusstream |
Parametricontrol_scope | SopimusTekstikeskustelu; stream on totuusarvo, jonka oletus on false. |
Parametrioutput_modalities | Sopimustext |
Parametrihosted_operations | Sopimusfalse |
Parametrimultimodal_input_binding | Sopimusnull |
Menetelmien aliakset: /chat/completions
Elinkaari: synchronous_or_streamed
Lähetä mallin täsmällinen ID yhdessä messages-kentän kanssa.
Kontekstin pituus ei ole tuloksen yläraja.
Tekstitiedosto voi antaa tekstiä sellaisenaan; kuva-, ääni- ja tiedosto-objektisyötteet tarvitsevat täsmällisen sidonnan.
Hinnoittelu
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
- Nopea tila
- Ei määritetty Kun nopea tila on valittu
- Flex-tila
- Ei määritetty Kun flex-tila on valittu
- Päättelyn enimmäisteho
- Ei määritetty Kun päättelyn enimmäistehoon sovelletaan default-oletussäätöä
Ailoot-hinnat
Hinnat asetusten mukaan
| Asetukset | Hinnasto | Veloitus |
|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Veloitus Syöte · Syötetokenit $0.000286 / 1K tokenia Tuloste · Tulostokenit $0.00058 / 1K tokenia Syöte · Välimuistin luku $0 / 1K tokenia Syöte · Välimuistiin kirjoitus $0 / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
Esimerkkipyynnöt
Ailoot Ultra · OpenAI Chat
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model":"qwen2-7b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("choices",[]):
if x.get("message",{}).get("content"): print(x["message"]["content"])
PY_RESULT
from openai import OpenAI
import os
if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.chat.completions.create(model="qwen2-7b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)
import base64, json
from pathlib import Path
def save_result(data, stem="result"):
# Keep every field, including usage, IDs, reasoning and tool requests.
Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
print(json.dumps(data, ensure_ascii=False, indent=2))
def save_blob(encoded, suffix, label):
raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
file = Path(stem + "-" + label + "." + ext)
file.write_bytes(raw)
print("Saved", file)
for index, block in enumerate(data.get("content") or []):
print("Content", index, json.dumps(block, ensure_ascii=False))
for choice in data.get("choices") or []:
print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
for index, item in enumerate(data.get("output") or []):
print("Output", index, json.dumps(item, ensure_ascii=False))
if item.get("type") == "image_generation_call" and item.get("result"):
save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
for ci, candidate in enumerate(data.get("candidates") or []):
for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
blob = part.get("inlineData") or part.get("inline_data")
if blob and blob.get("data"):
mime = blob.get("mimeType") or blob.get("mime_type")
suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))
save_result(result.to_dict(mode="json"))
Vastaanota ja tallenna tulokset
Ailoot Ultra · OpenAI Chat
json tai SSE
Säilytä kaikki valmistuneet tulokset
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Säilytä jokainen vastausvaihtoehto sisältöineen, työkalukutsuineen ja päättelyineen. Kokoa SSE:ssä muutokset vastausvaihtoehdon ja työkalun indeksin mukaan ja säilytä lopullinen päättymissyy sekä käyttötiedot.
Jos alkuperäinen vastaus on tarkistettava
Säilytä pyyntöjen/vastausten ID:t ja otsakkeet. Yleistä tekstityön haku-URL:ää ei anneta.
Vastauksen kentät
| Kenttä | Tyyppi |
|---|---|
Kenttächoices[].index | Tyyppiinteger |
Kenttächoices[].message.content | Tyyppistring|null |
Kenttächoices[].message.tool_calls | Tyyppitool_call[] |
Kenttächoices[].message.reasoning_content | Tyyppistring |
Kenttächoices[].message.reasoning_details | Tyyppiobject|array |
Kenttächoices[].finish_reason | Tyyppistring|null |
Kenttäusage | Tyyppiobject |
Virheet ja seuraavat vaiheet
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. |
Aliakset
Mallin aliakset
Ailoot Ultra qwen2-7b-instruct
Menetelmäpolkujen aliakset
/chat/completions
Liittyvät kutsujan ID:t
Ailoot Ultra · Anthropic Messages POST /v1/messages qwen2-7b-instruct
qwen2-7b-instructAloitus
Qwen2-7B-Instruct on ohjeiden noudattamiseen hienosäädetty tekstimalli monikieliseen keskusteluun, ohjelmointiin, matematiikkaan ja päättelyyn. Valmistaja dokumentoi enintään 131 072 tokenin kontekstin, kun pitkän kontekstin kokoonpano on käytössä.
- Hyväksytyt syötteet
- Teksti
- Tulokset
- json · sse
Saatavilla Ailootissa · syötteet & menetelmät
Ailoot Ultra · Anthropic Messages POST /v1/messages
- Syötetyypit
text- Tulostyypit
json,sse- Tulosteen muoto
- JSON tai SSE
| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat qwen2-7b-instruct | Oletus— |
Kenttämessages | Tyyppimessage[] | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttämessages[].role | Tyyppistring | VaatimusPakollinen | Arvot & rajat user, assistant | Oletus— |
Kenttämessages[].content | Tyyppistring | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttämax_tokens | Tyyppiinteger | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttästream | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat | Oletusfalse |
Syöteaineistojen yhdistelmät
Teksti · UTF-8-teksti
messages[].content-merkkijono
Menetelmän parametrit ja elinkaari
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, messages, max_tokens |
Parametrioptional_controls | Sopimusstream |
Parametrimaterial_types | Sopimustext |
Parametritext_file_material | SopimusLue varsinainen UTF-8-asiakirja ja sijoita sen teksti ilmoitettuun syöte- tai viestisisällön merkkijonoon. |
Elinkaari: synchronous_or_streamed
Hinnoittelu
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
- Nopea tila
- Ei määritetty Kun nopea tila on valittu
- Flex-tila
- Ei määritetty Kun flex-tila on valittu
- Päättelyn enimmäisteho
- Ei määritetty Kun päättelyn enimmäistehoon sovelletaan default-oletussäätöä
Ailoot-hinnat
Hinnat asetusten mukaan
| Asetukset | Hinnasto | Veloitus |
|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Veloitus Syöte · Syötetokenit $0.000286 / 1K tokenia Tuloste · Tulostokenit $0.00058 / 1K tokenia Syöte · Välimuistin luku $0 / 1K tokenia Syöte · Välimuistiin kirjoitus $0 / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
Esimerkkipyynnöt
Ailoot Ultra · Anthropic Messages
{
"model": "qwen2-7b-instruct",
"max_tokens": 128,
"messages": [
{
"role": "user",
"content": "Summarize the incident report."
}
],
"stream": false
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json, os
from pathlib import Path
source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
raise SystemExit('Choose a document containing text')
payload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \
-H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
PY_RESULT
import json, os
from pathlib import Path
source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
raise SystemExit('Choose a document containing text')
payload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
from urllib.request import Request, urlopen
from urllib.error import HTTPError
api_key = os.environ['AILOOT_API_KEY']
if not api_key.strip():
raise SystemExit('Set AILOOT_API_KEY before making a request')
headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}
headers['x-api-key'] = api_key
request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')
try:
with urlopen(request, timeout=120) as response:
raw = response.read()
Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')
except HTTPError as error:
Path('result.json').write_bytes(error.read())
Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')
raise
Path('result.json').write_bytes(raw)
import json
from pathlib import Path
result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
Vastaanota ja tallenna tulokset
Ailoot Ultra · Anthropic Messages
JSON tai SSE
Säilytä kaikki valmistuneet tulokset
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Säilytä kaikki sisältölohkot, päättelyallekirjoitukset ja todelliset työkalukäytön ID:t. Kokoa kaikki SSE-lohkomuutokset; ensimmäinen tekstilohko ei ole koko tulos.
Jos alkuperäinen vastaus on tarkistettava
Säilytä pyyntöjen/vastausten ID:t ja otsakkeet. Yleistä tekstityön haku-URL:ää ei anneta.
Vastauksen kentät
| Kenttä | Tyyppi |
|---|---|
Kenttäid | Tyyppistring |
Kenttämodel | Tyyppistring |
Kenttäcontent[] | Tyyppitext|thinking|tool_use|other content block |
Kenttästop_reason | Tyyppistring|null |
Kenttäusage | Tyyppiobject |
Virheet ja seuraavat vaiheet
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. |
Aliakset
Mallin aliakset
Ailoot Ultra qwen2-7b-instruct
Menetelmäpolkujen aliakset
/chat/completions
Liittyvät kutsujan ID:t
FAQ · Pro/Qwen/Qwen2-7B-Instruct
- Mitä syötteitä ja tuloksia on saatavilla?
POST /v1/chat/completions·qwen2-7b-instruct:text→textPOST /v1/messages·qwen2-7b-instruct:text→json,sse- Mitä kenttiä pyyntö käyttää?
POST /v1/chat/completions·qwen2-7b-instruct:model,messages,streamPOST /v1/messages·qwen2-7b-instruct:model,messages,max_tokens,stream- Mitä rajoja sovelletaan?
POST /v1/chat/completions·qwen2-7b-instruct:messages.min_items:1