Qwen2-7B-Instruct je vydání Qwen2 ve velikosti 7B doladěné pro instrukce pro konverzaci a úkoly vyjádřené přirozeným jazykem. Jde o model s textovým vstupem a textovým výstupem: odpověď může být vysvětlení, překlad, návrh dokumentu nebo programový kód. Výrobce označuje porozumění jazyku, generování, vícejazyčnou práci, programování, matematiku a uvažování za hlavní oblasti použití.
Podrobnosti modelu
Qwen2 obsahuje samostatná základní vydání a vydání doladěná pro instrukce. Tato karta se týká vydání Instruct, nikoli základního modelu Qwen2-7B nebo vydání rodiny se směsí expertů. Tabulka informací o modelu od výrobce uvádí 7,07 miliardy parametrů pro model velikosti 7B. Jeho dekodérový Transformer využívá SwiGLU, bias QKV v pozornosti a pozornost se seskupenými dotazy, s tokenizerem navrženým pro přirozené jazyky a kód. Jde o volby architektury a reprezentace, nikoli další vstupní modality.
Oznámení vydání popisuje trénování v angličtině a čínštině a dalších 27 jazycích. Patří mezi ně ruština, čeština a polština; němčina, francouzština a španělština; arabština, perština a turečtina; japonština a korejština; a další jazyky jižní a jihovýchodní Asie. Vícejazyčný asistent tak může přijímat instrukci a zdrojový materiál v různých jazycích, přesto je však třeba určit jazyk, terminologii a publikum konečného výstupu.
Trénování a odlišnost Instruct
Po předtrénování výrobce využívá dolaďování s dohledem a přímou optimalizaci preferencí. Vydání doladěné pro instrukce má reagovat na požadavek v konverzaci, zatímco základní vydání má jinou roli jako základ jazykového modelu. Při volbě modelu nebo porovnávání chování promptů ponechte název vydání explicitní. Trénování modelu k následování instrukcí a zadání přesné instrukce při použití jsou doplňující se části postupu.
Příprava konverzačního vstupu
Rychlý start v kartě modelu odděluje systémovou instrukci od otázky uživatele a před generováním aplikuje odpovídající šablonu chatu. U úkolu na úrovni aplikace je stejné praktické rozlišení užitečné: roli asistenta a pravidla odpovědi definujte odděleně od zdrojové pasáže nebo kódu, se kterými má pracovat. Textový popisek uvnitř dokumentu nenahrazuje správně formátované konverzační role v okolním rozhraní.
Úkol technického vysvětlení může poskytnout funkci a jeden příklad vstupu a poté se ptát, co dělá každá větev a které podmínky ovlivňují výsledek. Programovací úkol může specifikovat přijímaný vstup, očekávanou návratovou hodnotu a omezení změny existujícího chování. Požádejte o implementaci následovanou příklady pro běžný a hraniční případ. Jde o aplikace dokumentovaných jazykových a programovacích schopností; generování kódu je textový výsledek, zatímco jeho spuštění patří do prostředí aplikace.
Pro vícejazyčnou úpravu poskytněte původní pasáž, cílové publikum a krátký seznam terminologie. Požádejte o revizi zachovávající původní názvy a podmínky a poté o krátké vysvětlení změn. Je to konkrétnější než požadavek na zlepšení textu: definuje, který význam musí zůstat zachován a jaký použitelný výstup se má vrátit.
Zpracování dlouhých textů
Výrobce dokumentuje podporu kontextu až 131 072 tokenů, ale instrukce dlouhého kontextu jsou důležité. Vstupy nad 32 768 tokenů vyžadují dokumentovanou konfiguraci rozšíření YaRN. Publikovaný příklad používá škálovací faktor 4,0 s původním nastavením pozic 32 768. Výrobce uvádí, že statické nastavení rozšíření může ovlivnit chování u kratších textů, a doporučuje je zapnout, pokud je zpracování dlouhého kontextu skutečně potřeba.
Úkol s dlouhým dokumentem připravte s konkrétní otázkou, pojmenovanými zdrojovými oddíly a explicitní strukturou výstupu. Například poskytněte několik částí technické specifikace a požádejte o požadavky související s konkrétní změnou, se zdrojovým oddílem vedle každého zjištění. Velké vstupní okno pomáhá uchovat tyto části pohromadě; odpověď může být stále stručná tabulka místo převyprávění celého dokumentu.
Důležité hranice
Hodnota 131 072 tokenů je podpora rozšířeného kontextu, nikoli povolení ignorovat konfiguraci dlouhého kontextu. 512 generovaných tokenů v příkladu rychlého startu je nastavení příkladu, nikoli publikovaná maximální výstupní kapacita. Toto vydání Instruct je textový model a nemá přebírat obrazové nebo video schopnosti Qwen-VL ani specializované matematické trénování integrované s nástroji z Qwen2.5-Math. Vyberte pojmenované vydání a připravte text pro konkrétní vysvětlení, kód nebo dokument, který potřebujete.
", "aboutText": "Qwen2-7B-Instruct je vydání Qwen2 ve velikosti 7B doladěné pro instrukce pro konverzaci a úkoly vyjádřené přirozeným jazykem. Jde o model s textovým vstupem a textovým výstupem: odpověď může být vysvětlení, překlad, návrh dokumentu nebo programový kód. Výrobce označuje porozumění jazyku, generování, vícejazyčnou práci, programování, matematiku a uvažování za hlavní oblasti použití.\n\nPodrobnosti modelu\n\nQwen2 obsahuje samostatná základní vydání a vydání doladěná pro instrukce. Tato karta se týká vydání Instruct, nikoli základního modelu Qwen2-7B nebo vydání rodiny se směsí expertů. Tabulka informací o modelu od výrobce uvádí 7,07 miliardy parametrů pro model velikosti 7B. Jeho dekodérový Transformer využívá SwiGLU, bias QKV v pozornosti a pozornost se seskupenými dotazy, s tokenizerem navrženým pro přirozené jazyky a kód. Jde o volby architektury a reprezentace, nikoli další vstupní modality.\n\nOznámení vydání popisuje trénování v angličtině a čínštině a dalších 27 jazycích. Patří mezi ně ruština, čeština a polština; němčina, francouzština a španělština; arabština, perština a turečtina; japonština a korejština; a další jazyky jižní a jihovýchodní Asie. Vícejazyčný asistent tak může přijímat instrukci a zdrojový materiál v různých jazycích, přesto je však třeba určit jazyk, terminologii a publikum konečného výstupu.\n\nTrénování a odlišnost Instruct\n\nPo předtrénování výrobce využívá dolaďování s dohledem a přímou optimalizaci preferencí. Vydání doladěné pro instrukce má reagovat na požadavek v konverzaci, zatímco základní vydání má jinou roli jako základ jazykového modelu. Při volbě modelu nebo porovnávání chování promptů ponechte název vydání explicitní. Trénování modelu k následování instrukcí a zadání přesné instrukce při použití jsou doplňující se části postupu.\n\nPříprava konverzačního vstupu\n\nRychlý start v kartě modelu odděluje systémovou instrukci od otázky uživatele a před generováním aplikuje odpovídající šablonu chatu. U úkolu na úrovni aplikace je stejné praktické rozlišení užitečné: roli asistenta a pravidla odpovědi definujte odděleně od zdrojové pasáže nebo kódu, se kterými má pracovat. Textový popisek uvnitř dokumentu nenahrazuje správně formátované konverzační role v okolním rozhraní.\n\nÚkol technického vysvětlení může poskytnout funkci a jeden příklad vstupu a poté se ptát, co dělá každá větev a které podmínky ovlivňují výsledek. Programovací úkol může specifikovat přijímaný vstup, očekávanou návratovou hodnotu a omezení změny existujícího chování. Požádejte o implementaci následovanou příklady pro běžný a hraniční případ. Jde o aplikace dokumentovaných jazykových a programovacích schopností; generování kódu je textový výsledek, zatímco jeho spuštění patří do prostředí aplikace.\n\nPro vícejazyčnou úpravu poskytněte původní pasáž, cílové publikum a krátký seznam terminologie. Požádejte o revizi zachovávající původní názvy a podmínky a poté o krátké vysvětlení změn. Je to konkrétnější než požadavek na zlepšení textu: definuje, který význam musí zůstat zachován a jaký použitelný výstup se má vrátit.\n\nZpracování dlouhých textů\n\nVýrobce dokumentuje podporu kontextu až 131 072 tokenů, ale instrukce dlouhého kontextu jsou důležité. Vstupy nad 32 768 tokenů vyžadují dokumentovanou konfiguraci rozšíření YaRN. Publikovaný příklad používá škálovací faktor 4,0 s původním nastavením pozic 32 768. Výrobce uvádí, že statické nastavení rozšíření může ovlivnit chování u kratších textů, a doporučuje je zapnout, pokud je zpracování dlouhého kontextu skutečně potřeba.\n\nÚkol s dlouhým dokumentem připravte s konkrétní otázkou, pojmenovanými zdrojovými oddíly a explicitní strukturou výstupu. Například poskytněte několik částí technické specifikace a požádejte o požadavky související s konkrétní změnou, se zdrojovým oddílem vedle každého zjištění. Velké vstupní okno pomáhá uchovat tyto části pohromadě; odpověď může být stále stručná tabulka místo převyprávění celého dokumentu.\n\nDůležité hranice\n\nHodnota 131 072 tokenů je podpora rozšířeného kontextu, nikoli povolení ignorovat konfiguraci dlouhého kontextu. 512 generovaných tokenů v příkladu rychlého startu je nastavení příkladu, nikoli publikovaná maximální výstupní kapacita. Toto vydání Instruct je textový model a nemá přebírat obrazové nebo video schopnosti Qwen-VL ani specializované matematické trénování integrované s nástroji z Qwen2.5-Math. Vyberte pojmenované vydání a připravte text pro konkrétní vysvětlení, kód nebo dokument, který potřebujete.", "editorialOverlay": { "copy_fields": { "practical_html": "Technický příklad v angličtině
Translate a terminology-bound notice\n\nTranslate this notice into German for office staff: 'The access badge expires on 30 April. Collect a replacement from Reception before your next shift. Temporary passes are valid for one day.' Use Zugangskarte for access badge and Empfang for Reception. Preserve the date and conditions, then explain one translation choice in English.A complete German notice followed by one short English explanation of terminology or phrasing.The replacement is collected before the next shift and the temporary pass remains valid for one day.Qwen/Qwen2-7B-InstructQwen2-7B-Instruct je textový model doladěný pro instrukce pro vícejazyčný dialog, kód, matematiku a uvažování. Výrobce dokumentuje kontext až 131 072 tokenů při zapnuté konfiguraci dlouhého kontextu.
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
Qwen2-7B-Instruct je vydání Qwen2 ve velikosti 7B doladěné pro instrukce pro konverzaci a úkoly vyjádřené přirozeným jazykem. Jde o model s textovým vstupem a textovým výstupem: odpověď může být vysvětlení, překlad, návrh dokumentu nebo programový kód. Výrobce označuje porozumění jazyku, generování, vícejazyčnou práci, programování, matematiku a uvažování za hlavní oblasti použití.
Podrobnosti modelu
Qwen2 obsahuje samostatná základní vydání a vydání doladěná pro instrukce. Tato karta se týká vydání Instruct, nikoli základního modelu Qwen2-7B nebo vydání rodiny se směsí expertů. Tabulka informací o modelu od výrobce uvádí 7,07 miliardy parametrů pro model velikosti 7B. Jeho dekodérový Transformer využívá SwiGLU, bias QKV v pozornosti a pozornost se seskupenými dotazy, s tokenizerem navrženým pro přirozené jazyky a kód. Jde o volby architektury a reprezentace, nikoli další vstupní modality.
Oznámení vydání popisuje trénování v angličtině a čínštině a dalších 27 jazycích. Patří mezi ně ruština, čeština a polština; němčina, francouzština a španělština; arabština, perština a turečtina; japonština a korejština; a další jazyky jižní a jihovýchodní Asie. Vícejazyčný asistent tak může přijímat instrukci a zdrojový materiál v různých jazycích, přesto je však třeba určit jazyk, terminologii a publikum konečného výstupu.
Trénování a odlišnost Instruct
Po předtrénování výrobce využívá dolaďování s dohledem a přímou optimalizaci preferencí. Vydání doladěné pro instrukce má reagovat na požadavek v konverzaci, zatímco základní vydání má jinou roli jako základ jazykového modelu. Při volbě modelu nebo porovnávání chování promptů ponechte název vydání explicitní. Trénování modelu k následování instrukcí a zadání přesné instrukce při použití jsou doplňující se části postupu.
Příprava konverzačního vstupu
Rychlý start v kartě modelu odděluje systémovou instrukci od otázky uživatele a před generováním aplikuje odpovídající šablonu chatu. U úkolu na úrovni aplikace je stejné praktické rozlišení užitečné: roli asistenta a pravidla odpovědi definujte odděleně od zdrojové pasáže nebo kódu, se kterými má pracovat. Textový popisek uvnitř dokumentu nenahrazuje správně formátované konverzační role v okolním rozhraní.
Úkol technického vysvětlení může poskytnout funkci a jeden příklad vstupu a poté se ptát, co dělá každá větev a které podmínky ovlivňují výsledek. Programovací úkol může specifikovat přijímaný vstup, očekávanou návratovou hodnotu a omezení změny existujícího chování. Požádejte o implementaci následovanou příklady pro běžný a hraniční případ. Jde o aplikace dokumentovaných jazykových a programovacích schopností; generování kódu je textový výsledek, zatímco jeho spuštění patří do prostředí aplikace.
Pro vícejazyčnou úpravu poskytněte původní pasáž, cílové publikum a krátký seznam terminologie. Požádejte o revizi zachovávající původní názvy a podmínky a poté o krátké vysvětlení změn. Je to konkrétnější než požadavek na zlepšení textu: definuje, který význam musí zůstat zachován a jaký použitelný výstup se má vrátit.
Zpracování dlouhých textů
Výrobce dokumentuje podporu kontextu až 131 072 tokenů, ale instrukce dlouhého kontextu jsou důležité. Vstupy nad 32 768 tokenů vyžadují dokumentovanou konfiguraci rozšíření YaRN. Publikovaný příklad používá škálovací faktor 4,0 s původním nastavením pozic 32 768. Výrobce uvádí, že statické nastavení rozšíření může ovlivnit chování u kratších textů, a doporučuje je zapnout, pokud je zpracování dlouhého kontextu skutečně potřeba.
Úkol s dlouhým dokumentem připravte s konkrétní otázkou, pojmenovanými zdrojovými oddíly a explicitní strukturou výstupu. Například poskytněte několik částí technické specifikace a požádejte o požadavky související s konkrétní změnou, se zdrojovým oddílem vedle každého zjištění. Velké vstupní okno pomáhá uchovat tyto části pohromadě; odpověď může být stále stručná tabulka místo převyprávění celého dokumentu.
Důležité hranice
Hodnota 131 072 tokenů je podpora rozšířeného kontextu, nikoli povolení ignorovat konfiguraci dlouhého kontextu. 512 generovaných tokenů v příkladu rychlého startu je nastavení příkladu, nikoli publikovaná maximální výstupní kapacita. Toto vydání Instruct je textový model a nemá přebírat obrazové nebo video schopnosti Qwen-VL ani specializované matematické trénování integrované s nástroji z Qwen2.5-Math. Vyberte pojmenované vydání a připravte text pro konkrétní vysvětlení, kód nebo dokument, který potřebujete.
POST /v1/chat/completionstexttext| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity Qwen/Qwen2-7B-Instruct | Výchozí— |
Polemessages | Typmessage[] | PožadavekPovinné | Hodnoty a limity Minimální počet položek: 1 | Výchozí— |
Polemessages[].role | Typstring | PožadavekPovinné | Hodnoty a limity Příklady: system, user, assistant, tool, function Podmínky: Tyto role jsou výslovně zastoupeny typy kompatibility zdrojového kódu; přesná sada rolí zůstává specifická pro daný model. Závisí na modelu | Výchozí— |
Polemessages[].content | Typstring|content_part[]|null | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Polemessages[].tool_calls | Typtool_call[] | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Polemessages[].tool_call_id | Typstring | PožadavekVolitelné | Hodnoty a limity Platí, když: role=tool; použijte skutečně vrácené ID | Výchozí— |
Polemessages[].name | Typstring | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Polemessages[].reasoning_content | Typstring | PožadavekVolitelné | Hodnoty a limity Platí, když: Předávejte zpět skutečně vrácené uvažování tam, kde je tento model používá | Výchozí— |
Polemessages[].reasoning_details | Typobject|array | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polemax_tokens | Typinteger | PožadavekVolitelné | Hodnoty a limity Minimum: 1 Závisí na modelu | Výchozí— |
Polemax_completion_tokens | Typinteger | PožadavekVolitelné | Hodnoty a limity Minimum: 1 Závisí na modelu | Výchozí— |
Polestream | Typboolean | PožadavekVolitelné | Hodnoty a limity | Výchozífalse |
Polestream_options.include_usage | Typboolean | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletemperature | Typnumber | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletop_p | Typnumber | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polestop | Typstring|string[] | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletools | Typfunction_tool[] | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletools[].type | Typstring | PožadavekVolitelné | Hodnoty a limity function Závisí na modelu | Výchozí— |
Poletools[].function.name | Typstring | PožadavekPovinné | Hodnoty a limity Platí, když: nástroj typu funkce je dodán | Výchozí— |
Poletools[].function.description | Typstring | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Poletools[].function.parameters | TypJSON_schema | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Poletool_choice | Typstring|object | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleparallel_tool_calls | Typboolean | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleresponse_format | Typobject | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polereasoning_effort | Typstring | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polereasoning | Typobject | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleservice_tier | Typstring | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleinstructions | Typstring | PožadavekVolitelné | Hodnoty a limity Pole kompatibility | Výchozí— |
Polefunctions | Typfunction[] | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polefunction_call | Typstring|object | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleprompt_cache_options | Typobject | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polemodalities | Typstring[] | PožadavekVolitelné | Hodnoty a limity text | Výchozí— |
Poleprovider | Typobject | PožadavekVolitelné | Hodnoty a limity Podmínky: provider.options je na této textové trase Ultra odmítáno | Výchozí— |
Polecache_control.ttl | Typstring | PožadavekVolitelné | Hodnoty a limity Podmínky: Hodnota 1h je ve skutečných umístěních mezipaměti promptů odmítána | Výchozí— |
Text · text UTF8
messages[].content
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, messages |
Parametrmaterial_types | Kontrakttext |
Parametrmessages | Kontraktpole zpráv se strukturou role/content |
Parametrfile_material | Kontraktskutečný dokument UTF-8 vložený jako doslovný text; ID souboru se neodvozuje |
Parametroptional_controls | Kontraktstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrcontrol_scope | Kontraktspecifické pro model; nástroje uživatelských funkcí se liší od hostovaných nástrojů |
Parametroutput_modalities | Kontrakttext |
Parametrhosted_operations | Kontraktfalse |
Parametrmultimodal_input_binding | Kontraktnull |
Životní cyklus: synchronous_or_streamed
Odešlete přesné ID modelu spolu s messages.
Délka kontextu není limitem výstupu.
Textový soubor může dodat doslovný text; obrazové/zvukové vstupy a vstupy v podobě souborových objektů vyžadují přesnou vazbu.
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
| Konfigurace | Tabulka sazeb | Poplatek |
|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Poplatek Vstup · Vstupní tokeny $0.0001 / 1K tokenů Výstup · Výstupní tokeny $0.0001 / 1K tokenů Vstup · Čtení z mezipaměti $0 / 1K tokenů Vstup · Zápis do mezipaměti $0 / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "Qwen/Qwen2-7B-Instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='Qwen/Qwen2-7B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='Qwen/Qwen2-7B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson nebo SSE
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Zachovejte každou volbu a její obsah/volání nástrojů/uvažování. V SSE sestavujte přírůstky podle indexu volby/nástroje a zachovejte konečný důvod ukončení i údaje o využití.
Zachovejte ID požadavků/odpovědí a hlavičky. Není dodána obecná URL pro načtení textové úlohy.
| Pole | Typ |
|---|---|
Polechoices[].index | Typinteger |
Polechoices[].message.content | Typstring|null |
Polechoices[].message.tool_calls | Typtool_call[] |
Polechoices[].message.reasoning_content | Typstring |
Polechoices[].message.reasoning_details | Typobject|array |
Polechoices[].finish_reason | Typstring|null |
Poleusage | Typobject |
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Ailoot Ultra Qwen/Qwen2-7B-Instruct
Použijte cesty metod uvedené výše.
Qwen/Qwen2-7B-InstructQwen2-7B-Instruct je textový model doladěný pro instrukce pro vícejazyčný dialog, kód, matematiku a uvažování. Výrobce dokumentuje kontext až 131 072 tokenů při zapnuté konfiguraci dlouhého kontextu.
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
Qwen2-7B-Instruct je vydání Qwen2 ve velikosti 7B doladěné pro instrukce pro konverzaci a úkoly vyjádřené přirozeným jazykem. Jde o model s textovým vstupem a textovým výstupem: odpověď může být vysvětlení, překlad, návrh dokumentu nebo programový kód. Výrobce označuje porozumění jazyku, generování, vícejazyčnou práci, programování, matematiku a uvažování za hlavní oblasti použití.
Podrobnosti modelu
Qwen2 obsahuje samostatná základní vydání a vydání doladěná pro instrukce. Tato karta se týká vydání Instruct, nikoli základního modelu Qwen2-7B nebo vydání rodiny se směsí expertů. Tabulka informací o modelu od výrobce uvádí 7,07 miliardy parametrů pro model velikosti 7B. Jeho dekodérový Transformer využívá SwiGLU, bias QKV v pozornosti a pozornost se seskupenými dotazy, s tokenizerem navrženým pro přirozené jazyky a kód. Jde o volby architektury a reprezentace, nikoli další vstupní modality.
Oznámení vydání popisuje trénování v angličtině a čínštině a dalších 27 jazycích. Patří mezi ně ruština, čeština a polština; němčina, francouzština a španělština; arabština, perština a turečtina; japonština a korejština; a další jazyky jižní a jihovýchodní Asie. Vícejazyčný asistent tak může přijímat instrukci a zdrojový materiál v různých jazycích, přesto je však třeba určit jazyk, terminologii a publikum konečného výstupu.
Trénování a odlišnost Instruct
Po předtrénování výrobce využívá dolaďování s dohledem a přímou optimalizaci preferencí. Vydání doladěné pro instrukce má reagovat na požadavek v konverzaci, zatímco základní vydání má jinou roli jako základ jazykového modelu. Při volbě modelu nebo porovnávání chování promptů ponechte název vydání explicitní. Trénování modelu k následování instrukcí a zadání přesné instrukce při použití jsou doplňující se části postupu.
Příprava konverzačního vstupu
Rychlý start v kartě modelu odděluje systémovou instrukci od otázky uživatele a před generováním aplikuje odpovídající šablonu chatu. U úkolu na úrovni aplikace je stejné praktické rozlišení užitečné: roli asistenta a pravidla odpovědi definujte odděleně od zdrojové pasáže nebo kódu, se kterými má pracovat. Textový popisek uvnitř dokumentu nenahrazuje správně formátované konverzační role v okolním rozhraní.
Úkol technického vysvětlení může poskytnout funkci a jeden příklad vstupu a poté se ptát, co dělá každá větev a které podmínky ovlivňují výsledek. Programovací úkol může specifikovat přijímaný vstup, očekávanou návratovou hodnotu a omezení změny existujícího chování. Požádejte o implementaci následovanou příklady pro běžný a hraniční případ. Jde o aplikace dokumentovaných jazykových a programovacích schopností; generování kódu je textový výsledek, zatímco jeho spuštění patří do prostředí aplikace.
Pro vícejazyčnou úpravu poskytněte původní pasáž, cílové publikum a krátký seznam terminologie. Požádejte o revizi zachovávající původní názvy a podmínky a poté o krátké vysvětlení změn. Je to konkrétnější než požadavek na zlepšení textu: definuje, který význam musí zůstat zachován a jaký použitelný výstup se má vrátit.
Zpracování dlouhých textů
Výrobce dokumentuje podporu kontextu až 131 072 tokenů, ale instrukce dlouhého kontextu jsou důležité. Vstupy nad 32 768 tokenů vyžadují dokumentovanou konfiguraci rozšíření YaRN. Publikovaný příklad používá škálovací faktor 4,0 s původním nastavením pozic 32 768. Výrobce uvádí, že statické nastavení rozšíření může ovlivnit chování u kratších textů, a doporučuje je zapnout, pokud je zpracování dlouhého kontextu skutečně potřeba.
Úkol s dlouhým dokumentem připravte s konkrétní otázkou, pojmenovanými zdrojovými oddíly a explicitní strukturou výstupu. Například poskytněte několik částí technické specifikace a požádejte o požadavky související s konkrétní změnou, se zdrojovým oddílem vedle každého zjištění. Velké vstupní okno pomáhá uchovat tyto části pohromadě; odpověď může být stále stručná tabulka místo převyprávění celého dokumentu.
Důležité hranice
Hodnota 131 072 tokenů je podpora rozšířeného kontextu, nikoli povolení ignorovat konfiguraci dlouhého kontextu. 512 generovaných tokenů v příkladu rychlého startu je nastavení příkladu, nikoli publikovaná maximální výstupní kapacita. Toto vydání Instruct je textový model a nemá přebírat obrazové nebo video schopnosti Qwen-VL ani specializované matematické trénování integrované s nástroji z Qwen2.5-Math. Vyberte pojmenované vydání a připravte text pro konkrétní vysvětlení, kód nebo dokument, který potřebujete.
POST /v1/messagestextjson, sse| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity Qwen/Qwen2-7B-Instruct | Výchozí— |
Polemessages | Typmessage[] | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polemessages[].role | Typstring | PožadavekPovinné | Hodnoty a limity user, assistant | Výchozí— |
Polemessages[].content | Typstring | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polemax_tokens | Typinteger | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polestream | Typboolean | PožadavekVolitelné | Hodnoty a limity | Výchozífalse |
Text · text UTF-8
řetězec messages[].content
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, messages, max_tokens |
Parametroptional_controls | Kontraktstream |
Parametrmaterial_types | Kontrakttext |
Parametrtext_file_material | KontraktPřečtěte skutečný dokument UTF-8 a vložte jeho text do uvedeného pole input nebo do řetězce obsahu zprávy. |
Životní cyklus: synchronous_or_streamed
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
| Konfigurace | Tabulka sazeb | Poplatek |
|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Poplatek Vstup · Vstupní tokeny $0.0001 / 1K tokenů Výstup · Výstupní tokeny $0.0001 / 1K tokenů Vstup · Čtení z mezipaměti $0 / 1K tokenů Vstup · Zápis do mezipaměti $0 / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
{\n "model": "Qwen/Qwen2-7B-Instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2-7B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2-7B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON nebo SSE
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Zachovejte všechny bloky obsahu, podpisy uvažování a skutečná ID použití nástrojů. Sestavte všechny přírůstky bloků SSE; první textový blok není úplný výstup.
Zachovejte ID požadavků/odpovědí a hlavičky. Není dodána obecná URL pro načtení textové úlohy.
| Pole | Typ |
|---|---|
Poleid | Typstring |
Polemodel | Typstring |
Polecontent[] | Typtext|thinking|tool_use|other content block |
Polestop_reason | Typstring|null |
Poleusage | Typobject |
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Ailoot Ultra Qwen/Qwen2-7B-Instruct
Použijte cesty metod uvedené výše.
Technický příklad v angličtině
Translate a terminology-bound notice\n\nTranslate this notice into German for office staff: 'The access badge expires on 30 April. Collect a replacement from Reception before your next shift. Temporary passes are valid for one day.' Use Zugangskarte for access badge and Empfang for Reception. Preserve the date and conditions, then explain one translation choice in English.A complete German notice followed by one short English explanation of terminology or phrasing.The replacement is collected before the next shift and the temporary pass remains valid for one day.