Qwen2 7B Instruct
Qwen2-7B-Instruct je textový model doladěný pro instrukce pro vícejazyčný dialog, kód, matematiku a uvažování. Výrobce dokumentuje kontext až 131 072 tokenů při zapnuté konfiguraci dlouhého kontextu.
- Ailoot Ultra · OpenAI Chat
POST /v1/chat/completionsqwen2-7b-instruct - Ailoot Ultra · Anthropic Messages
POST /v1/messagesqwen2-7b-instruct
O modelu
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
Qwen2-7B-Instruct je vydání Qwen2 ve velikosti 7B doladěné pro instrukce pro konverzaci a úkoly vyjádřené přirozeným jazykem. Jde o model s textovým vstupem a textovým výstupem: odpověď může být vysvětlení, překlad, návrh dokumentu nebo programový kód. Výrobce označuje porozumění jazyku, generování, vícejazyčnou práci, programování, matematiku a uvažování za hlavní oblasti použití.
Podrobnosti modelu
Qwen2 obsahuje samostatná základní vydání a vydání doladěná pro instrukce. Tato karta se týká vydání Instruct, nikoli základního modelu Qwen2-7B nebo vydání rodiny se směsí expertů. Tabulka informací o modelu od výrobce uvádí 7,07 miliardy parametrů pro model velikosti 7B. Jeho dekodérový Transformer využívá SwiGLU, bias QKV v pozornosti a pozornost se seskupenými dotazy, s tokenizerem navrženým pro přirozené jazyky a kód. Jde o volby architektury a reprezentace, nikoli další vstupní modality.
Oznámení vydání popisuje trénování v angličtině a čínštině a dalších 27 jazycích. Patří mezi ně ruština, čeština a polština; němčina, francouzština a španělština; arabština, perština a turečtina; japonština a korejština; a další jazyky jižní a jihovýchodní Asie. Vícejazyčný asistent tak může přijímat instrukci a zdrojový materiál v různých jazycích, přesto je však třeba určit jazyk, terminologii a publikum konečného výstupu.
Trénování a odlišnost Instruct
Po předtrénování výrobce využívá dolaďování s dohledem a přímou optimalizaci preferencí. Vydání doladěné pro instrukce má reagovat na požadavek v konverzaci, zatímco základní vydání má jinou roli jako základ jazykového modelu. Při volbě modelu nebo porovnávání chování promptů ponechte název vydání explicitní. Trénování modelu k následování instrukcí a zadání přesné instrukce při použití jsou doplňující se části postupu.
Příprava konverzačního vstupu
Rychlý start v kartě modelu odděluje systémovou instrukci od otázky uživatele a před generováním aplikuje odpovídající šablonu chatu. U úkolu na úrovni aplikace je stejné praktické rozlišení užitečné: roli asistenta a pravidla odpovědi definujte odděleně od zdrojové pasáže nebo kódu, se kterými má pracovat. Textový popisek uvnitř dokumentu nenahrazuje správně formátované konverzační role v okolním rozhraní.
Úkol technického vysvětlení může poskytnout funkci a jeden příklad vstupu a poté se ptát, co dělá každá větev a které podmínky ovlivňují výsledek. Programovací úkol může specifikovat přijímaný vstup, očekávanou návratovou hodnotu a omezení změny existujícího chování. Požádejte o implementaci následovanou příklady pro běžný a hraniční případ. Jde o aplikace dokumentovaných jazykových a programovacích schopností; generování kódu je textový výsledek, zatímco jeho spuštění patří do prostředí aplikace.
Pro vícejazyčnou úpravu poskytněte původní pasáž, cílové publikum a krátký seznam terminologie. Požádejte o revizi zachovávající původní názvy a podmínky a poté o krátké vysvětlení změn. Je to konkrétnější než požadavek na zlepšení textu: definuje, který význam musí zůstat zachován a jaký použitelný výstup se má vrátit.
Zpracování dlouhých textů
Výrobce dokumentuje podporu kontextu až 131 072 tokenů, ale instrukce dlouhého kontextu jsou důležité. Vstupy nad 32 768 tokenů vyžadují dokumentovanou konfiguraci rozšíření YaRN. Publikovaný příklad používá škálovací faktor 4,0 s původním nastavením pozic 32 768. Výrobce uvádí, že statické nastavení rozšíření může ovlivnit chování u kratších textů, a doporučuje je zapnout, pokud je zpracování dlouhého kontextu skutečně potřeba.
Úkol s dlouhým dokumentem připravte s konkrétní otázkou, pojmenovanými zdrojovými oddíly a explicitní strukturou výstupu. Například poskytněte několik částí technické specifikace a požádejte o požadavky související s konkrétní změnou, se zdrojovým oddílem vedle každého zjištění. Velké vstupní okno pomáhá uchovat tyto části pohromadě; odpověď může být stále stručná tabulka místo převyprávění celého dokumentu.
Důležité hranice
Hodnota 131 072 tokenů je podpora rozšířeného kontextu, nikoli povolení ignorovat konfiguraci dlouhého kontextu. 512 generovaných tokenů v příkladu rychlého startu je nastavení příkladu, nikoli publikovaná maximální výstupní kapacita. Toto vydání Instruct je textový model a nemá přebírat obrazové nebo video schopnosti Qwen-VL ani specializované matematické trénování integrované s nástroji z Qwen2.5-Math. Vyberte pojmenované vydání a připravte text pro konkrétní vysvětlení, kód nebo dokument, který potřebujete.
Ailoot Ultra · OpenAI Chat POST /v1/chat/completions qwen2-7b-instruct
qwen2-7b-instructÚvod
Qwen2-7B-Instruct je textový model doladěný pro instrukce pro vícejazyčný dialog, kód, matematiku a uvažování. Výrobce dokumentuje kontext až 131 072 tokenů při zapnuté konfiguraci dlouhého kontextu.
- Přijímané vstupy
- Text
- Výsledky
- Text
Dostupné v Ailoot · vstupy a metody
Ailoot Ultra · OpenAI Chat POST /v1/chat/completions
- Vstup
text- Výstup
text- Výstupní formát
- json nebo SSE
| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity qwen2-7b-instruct | Výchozí— |
Polemessages | Typmessage[] | PožadavekPovinné | Hodnoty a limity Minimální počet položek: 1 | Výchozí— |
Polemessages[].role | Typstring | PožadavekPovinné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polemessages[].content | Typstring | PožadavekVolitelné | Hodnoty a limity Platí, když: Textová konverzace | Výchozí— |
Polestream | Typboolean | PožadavekVolitelné | Hodnoty a limity | Výchozífalse |
Kombinace vstupních materiálů
Text · text UTF8
messages[].content
Parametry a životní cyklus metody
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, messages |
Parametrmaterial_types | Kontrakttext |
Parametrmessages | Kontraktpole zpráv se strukturou role/content |
Parametrfile_material | Kontraktskutečný dokument UTF-8 vložený jako doslovný text; ID souboru se neodvozuje |
Parametroptional_controls | Kontraktstream |
Parametrcontrol_scope | KontraktTextová konverzace; stream je booleovská hodnota a ve výchozím nastavení je false. |
Parametroutput_modalities | Kontrakttext |
Parametrhosted_operations | Kontraktfalse |
Parametrmultimodal_input_binding | Kontraktnull |
Aliasy metody: /chat/completions
Životní cyklus: synchronous_or_streamed
Odešlete přesné ID modelu spolu s messages.
Délka kontextu není limitem výstupu.
Textový soubor může dodat doslovný text; obrazové/zvukové vstupy a vstupy v podobě souborových objektů vyžadují přesnou vazbu.
Tarify
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
- Rychlý režim
- Neuvedeno Při výběru rychlého režimu
- Režim flex
- Neuvedeno Při výběru režimu flex
- Maximální intenzita uvažování
- Neuvedeno Když se při maximální intenzitě uvažování použije výchozí úprava (default)
Sazby Ailoot
Ceny podle konfigurace
| Konfigurace | Tabulka sazeb | Poplatek |
|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Poplatek Vstup · Vstupní tokeny $0.000286 / 1K tokenů Výstup · Výstupní tokeny $0.00058 / 1K tokenů Vstup · Čtení z mezipaměti $0 / 1K tokenů Vstup · Zápis do mezipaměti $0 / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
Příklady požadavků
Ailoot Ultra · OpenAI Chat
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model":"qwen2-7b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("choices",[]):
if x.get("message",{}).get("content"): print(x["message"]["content"])
PY_RESULT
from openai import OpenAI
import os
if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.chat.completions.create(model="qwen2-7b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)
import base64, json
from pathlib import Path
def save_result(data, stem="result"):
# Keep every field, including usage, IDs, reasoning and tool requests.
Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
print(json.dumps(data, ensure_ascii=False, indent=2))
def save_blob(encoded, suffix, label):
raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
file = Path(stem + "-" + label + "." + ext)
file.write_bytes(raw)
print("Saved", file)
for index, block in enumerate(data.get("content") or []):
print("Content", index, json.dumps(block, ensure_ascii=False))
for choice in data.get("choices") or []:
print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
for index, item in enumerate(data.get("output") or []):
print("Output", index, json.dumps(item, ensure_ascii=False))
if item.get("type") == "image_generation_call" and item.get("result"):
save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
for ci, candidate in enumerate(data.get("candidates") or []):
for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
blob = part.get("inlineData") or part.get("inline_data")
if blob and blob.get("data"):
mime = blob.get("mimeType") or blob.get("mime_type")
suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))
save_result(result.to_dict(mode="json"))
Přijímání a ukládání výsledků
Ailoot Ultra · OpenAI Chat
json nebo SSE
Uchovejte všechny dokončené výsledky
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Zachovejte každou volbu a její obsah/volání nástrojů/uvažování. V SSE sestavujte přírůstky podle indexu volby/nástroje a zachovejte konečný důvod ukončení i údaje o využití.
Pokud je nutné ověřit původní odpověď
Zachovejte ID požadavků/odpovědí a hlavičky. Není dodána obecná URL pro načtení textové úlohy.
Pole odpovědi
| Pole | Typ |
|---|---|
Polechoices[].index | Typinteger |
Polechoices[].message.content | Typstring|null |
Polechoices[].message.tool_calls | Typtool_call[] |
Polechoices[].message.reasoning_content | Typstring |
Polechoices[].message.reasoning_details | Typobject|array |
Polechoices[].finish_reason | Typstring|null |
Poleusage | Typobject |
Chyby a další kroky
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Aliasy
Aliasy modelu
Ailoot Ultra qwen2-7b-instruct
Aliasy cest metod
/chat/completions
Související ID modelů
Ailoot Ultra · Anthropic Messages POST /v1/messages qwen2-7b-instruct
qwen2-7b-instructÚvod
Qwen2-7B-Instruct je textový model doladěný pro instrukce pro vícejazyčný dialog, kód, matematiku a uvažování. Výrobce dokumentuje kontext až 131 072 tokenů při zapnuté konfiguraci dlouhého kontextu.
- Přijímané vstupy
- Text
- Výsledky
- json · sse
Dostupné v Ailoot · vstupy a metody
Ailoot Ultra · Anthropic Messages POST /v1/messages
- Vstup
text- Výstup
json,sse- Výstupní formát
- JSON nebo SSE
| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity qwen2-7b-instruct | Výchozí— |
Polemessages | Typmessage[] | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polemessages[].role | Typstring | PožadavekPovinné | Hodnoty a limity user, assistant | Výchozí— |
Polemessages[].content | Typstring | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polemax_tokens | Typinteger | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polestream | Typboolean | PožadavekVolitelné | Hodnoty a limity | Výchozífalse |
Kombinace vstupních materiálů
Text · text UTF-8
řetězec messages[].content
Parametry a životní cyklus metody
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, messages, max_tokens |
Parametroptional_controls | Kontraktstream |
Parametrmaterial_types | Kontrakttext |
Parametrtext_file_material | KontraktPřečtěte skutečný dokument UTF-8 a vložte jeho text do uvedeného pole input nebo do řetězce obsahu zprávy. |
Životní cyklus: synchronous_or_streamed
Tarify
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
- Rychlý režim
- Neuvedeno Při výběru rychlého režimu
- Režim flex
- Neuvedeno Při výběru režimu flex
- Maximální intenzita uvažování
- Neuvedeno Když se při maximální intenzitě uvažování použije výchozí úprava (default)
Sazby Ailoot
Ceny podle konfigurace
| Konfigurace | Tabulka sazeb | Poplatek |
|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Poplatek Vstup · Vstupní tokeny $0.000286 / 1K tokenů Výstup · Výstupní tokeny $0.00058 / 1K tokenů Vstup · Čtení z mezipaměti $0 / 1K tokenů Vstup · Zápis do mezipaměti $0 / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
Příklady požadavků
Ailoot Ultra · Anthropic Messages
{
"model": "qwen2-7b-instruct",
"max_tokens": 128,
"messages": [
{
"role": "user",
"content": "Summarize the incident report."
}
],
"stream": false
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json, os
from pathlib import Path
source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
raise SystemExit('Choose a document containing text')
payload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \
-H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
PY_RESULT
import json, os
from pathlib import Path
source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
raise SystemExit('Choose a document containing text')
payload = {'model': 'qwen2-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
from urllib.request import Request, urlopen
from urllib.error import HTTPError
api_key = os.environ['AILOOT_API_KEY']
if not api_key.strip():
raise SystemExit('Set AILOOT_API_KEY before making a request')
headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}
headers['x-api-key'] = api_key
request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')
try:
with urlopen(request, timeout=120) as response:
raw = response.read()
Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')
except HTTPError as error:
Path('result.json').write_bytes(error.read())
Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')
raise
Path('result.json').write_bytes(raw)
import json
from pathlib import Path
result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
Přijímání a ukládání výsledků
Ailoot Ultra · Anthropic Messages
JSON nebo SSE
Uchovejte všechny dokončené výsledky
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Zachovejte všechny bloky obsahu, podpisy uvažování a skutečná ID použití nástrojů. Sestavte všechny přírůstky bloků SSE; první textový blok není úplný výstup.
Pokud je nutné ověřit původní odpověď
Zachovejte ID požadavků/odpovědí a hlavičky. Není dodána obecná URL pro načtení textové úlohy.
Pole odpovědi
| Pole | Typ |
|---|---|
Poleid | Typstring |
Polemodel | Typstring |
Polecontent[] | Typtext|thinking|tool_use|other content block |
Polestop_reason | Typstring|null |
Poleusage | Typobject |
Chyby a další kroky
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Aliasy
Aliasy modelu
Ailoot Ultra qwen2-7b-instruct
Aliasy cest metod
/chat/completions
Související ID modelů
FAQ · Pro/Qwen/Qwen2-7B-Instruct
- Jaké vstupy a výsledky jsou dostupné?
POST /v1/chat/completions·qwen2-7b-instruct:text→textPOST /v1/messages·qwen2-7b-instruct:text→json,sse- Jaká pole požadavek používá?
POST /v1/chat/completions·qwen2-7b-instruct:model,messages,streamPOST /v1/messages·qwen2-7b-instruct:model,messages,max_tokens,stream- Jaké limity platí?
POST /v1/chat/completions·qwen2-7b-instruct:messages.min_items:1