Qwen2.5-32B-Instruct je instrukčně doladěný textový model velikosti 32B z obecné rodiny Qwen2.5. Kombinuje porozumění jazyku a jeho generování s programováním a matematikou, nejde tedy o samostatně pojmenovaného specialistu Coder nebo Math. Výrobce zdůrazňuje zejména následování podrobných instrukcí, dlouhé psaní, porozumění tabulkám a vytváření strukturovaného textu, především JSON. Rodina je předtrénována na korpusu popisovaném jako dosahující 18 bilionů tokenů.
Strukturovaná data, dlouhé odpovědi a vícejazyčná práce
Užitečná extrakční úloha dodává zdrojovou pasáž a přesná pole potřebná pro další krok aplikace. Určete typy polí, zda se má formulace kopírovat, nebo shrnout, a jak reprezentovat chybějící informace. Záznam produktu může například požadovat identifikátor, provozní podmínky a seznam nevyřešených otázek. Požádejte pouze o záznam JSON, pokud se má parsovat, nebo o samostatné vysvětlení, pokud člověk potřebuje prověřit úvahy za extrahovanými poli.
Porozumění tabulkám je dalším zdokumentovaným zaměřením. Spolu s otázkou dodejte názvy sloupců, jednotky a relevantní řádky. Požádejte model, aby určil řádky splňující podmínku, vysvětlil změnu mezi obdobími nebo převedl tabulku na písemnou zprávu. Praktický výstup může zachovat identifikátor každého řádku vedle zjištění. Tím se udržuje spojení mezi dodanými daty a odpovědí namísto shrnutí bez dohledatelného zdrojového řádku.
Pro dlouhé psaní určete cílové publikum, části a zdrojová fakta, než požádáte o dokument. Technický návrh může požadovat vymezení problému, požadavky, alternativy a doporučení výhradně podle dodaného materiálu. Uveďte, které podmínky jsou povinné a které představují otázky k vyřešení. Výrobce také rozvíjí odolnost vůči různým systémovým promptům, a podporuje tak definovanou roli, tón a podmínky konverzace.
Rodina podporuje více než 29 jazyků, včetně angličtiny, čínštiny, ruštiny, francouzštiny, španělštiny, portugalštiny, němčiny, italštiny, japonštiny, korejštiny, vietnamštiny, thajštiny a arabštiny. U vícejazyčné úlohy odlište jazyk zdroje od požadovaného jazyka výstupu a dodejte terminologický seznam, pokud názvy nebo technické termíny musí zůstat konzistentní. Dvojjazyčná zpráva může požadovat stejná zdrojová fakta ve dvou verzích při zachování identifikátorů a jednotek.
Podrobnosti modelu v této edici
Verze 32B-Instruct má 32,5 miliardy parametrů, z toho 31,0 miliardy parametrů mimo embeddingy, a 64 vrstev Transformer. Používá rotační poziční embeddingy, SwiGLU, RMSNorm a bias QKV v mechanismu pozornosti. Mechanismus grouped-query attention využívá 40 dotazových hlav a 8 hlav klíčů/hodnot. Jde o verzi hustého jazykového modelu s architekturou pouze dekodéru, která prošla předtrénováním a následným dotrénováním; Instruct označuje edici vytrénovanou pro konverzaci, nikoli základní model.
Karta uvádí plný kontext 131 072 tokenů a generování až 8 192 tokenů. Tyto údaje popisují různé části úlohy: kontext uchovává prompt a konverzaci, zatímco údaj o generování omezuje písemnou odpověď. 512 vygenerovaných tokenů v příkladu rychlého startu je pouze příklad v rámci tohoto většího deklarovaného limitu generování. Model přijímá a vrací text; obsah naskenované tabulky nebo snímku obrazovky je nutné zpřístupnit jako text nebo použít samostatný vizuální model.
Konverzace a nástroje
Karta modelu ukazuje oddělené systémové a uživatelské zprávy formátované odpovídající šablonou chatu. Trvalá pravidla odpovědi asistenta vložte do příslušné konverzační role a samotný dokument, tabulku nebo kód připojte k uživatelské úloze. Označte hranici mezi citovaným zdrojovým materiálem a instrukcemi, aby se instrukce v dokumentu nezaměnila se zadáním, které aplikace zamýšlí.
Oficiální oznámení rodiny dokumentuje podporu volání nástrojů prostřednictvím kompatibilních konverzačních šablon a integrací pro zpřístupnění modelu. V takovém postupu aplikace dodává popisy funkcí, přijímá navržené volání, provádí funkci a vrací její výsledek. Může tak spojit textovou otázku s výpočtem nebo vyhledáním dat, samotný výběr modelu však neposkytuje externí nástroj ani jeho data. Generování JSON a volání nástroje jsou rovněž různé výsledky: jedno formátuje text, zatímco druhé žádá aplikaci pracující s modelem o provedení pojmenované operace.
Příprava dlouhého kontextu
Vydaná konfigurace začíná na 32 768 tokenech. Vstupy přesahující toto nastavení vyžadují zdokumentované rozšíření YaRN, jehož příklad používá faktor 4,0 a původní nastavení maximálního počtu pozic na 32 768. Výrobce upozorňuje, že statické škálování může ovlivnit chování u kratších textů, a doporučuje je zapnout, když je potřeba zpracování dlouhého kontextu.
Při porovnávání rozsáhlých dokumentů určete roli každého dokumentu a požádejte o jeden dobře vymezený výsledek: matici požadavků, seznam nesrovnalostí nebo upravenou část. Zachovejte umístění zdrojů vedle extrahovaných zjištění a ponechte v odpovědi dostatek prostoru pro požadovanou strukturu. Kapacita dlouhého kontextu pomáhá udržet relevantní materiál pohromadě; nenahrazuje potřebu určit, co se má porovnávat a jak bude konečný výsledek využit.
", "aboutText": "Qwen2.5-32B-Instruct je instrukčně doladěný textový model velikosti 32B z obecné rodiny Qwen2.5. Kombinuje porozumění jazyku a jeho generování s programováním a matematikou, nejde tedy o samostatně pojmenovaného specialistu Coder nebo Math. Výrobce zdůrazňuje zejména následování podrobných instrukcí, dlouhé psaní, porozumění tabulkám a vytváření strukturovaného textu, především JSON. Rodina je předtrénována na korpusu popisovaném jako dosahující 18 bilionů tokenů.\n\nStrukturovaná data, dlouhé odpovědi a vícejazyčná práce\n\nUžitečná extrakční úloha dodává zdrojovou pasáž a přesná pole potřebná pro další krok aplikace. Určete typy polí, zda se má formulace kopírovat, nebo shrnout, a jak reprezentovat chybějící informace. Záznam produktu může například požadovat identifikátor, provozní podmínky a seznam nevyřešených otázek. Požádejte pouze o záznam JSON, pokud se má parsovat, nebo o samostatné vysvětlení, pokud člověk potřebuje prověřit úvahy za extrahovanými poli.\n\nPorozumění tabulkám je dalším zdokumentovaným zaměřením. Spolu s otázkou dodejte názvy sloupců, jednotky a relevantní řádky. Požádejte model, aby určil řádky splňující podmínku, vysvětlil změnu mezi obdobími nebo převedl tabulku na písemnou zprávu. Praktický výstup může zachovat identifikátor každého řádku vedle zjištění. Tím se udržuje spojení mezi dodanými daty a odpovědí namísto shrnutí bez dohledatelného zdrojového řádku.\n\nPro dlouhé psaní určete cílové publikum, části a zdrojová fakta, než požádáte o dokument. Technický návrh může požadovat vymezení problému, požadavky, alternativy a doporučení výhradně podle dodaného materiálu. Uveďte, které podmínky jsou povinné a které představují otázky k vyřešení. Výrobce také rozvíjí odolnost vůči různým systémovým promptům, a podporuje tak definovanou roli, tón a podmínky konverzace.\n\nRodina podporuje více než 29 jazyků, včetně angličtiny, čínštiny, ruštiny, francouzštiny, španělštiny, portugalštiny, němčiny, italštiny, japonštiny, korejštiny, vietnamštiny, thajštiny a arabštiny. U vícejazyčné úlohy odlište jazyk zdroje od požadovaného jazyka výstupu a dodejte terminologický seznam, pokud názvy nebo technické termíny musí zůstat konzistentní. Dvojjazyčná zpráva může požadovat stejná zdrojová fakta ve dvou verzích při zachování identifikátorů a jednotek.\n\nPodrobnosti modelu v této edici\n\nVerze 32B-Instruct má 32,5 miliardy parametrů, z toho 31,0 miliardy parametrů mimo embeddingy, a 64 vrstev Transformer. Používá rotační poziční embeddingy, SwiGLU, RMSNorm a bias QKV v mechanismu pozornosti. Mechanismus grouped-query attention využívá 40 dotazových hlav a 8 hlav klíčů/hodnot. Jde o verzi hustého jazykového modelu s architekturou pouze dekodéru, která prošla předtrénováním a následným dotrénováním; Instruct označuje edici vytrénovanou pro konverzaci, nikoli základní model.\n\nKarta uvádí plný kontext 131 072 tokenů a generování až 8 192 tokenů. Tyto údaje popisují různé části úlohy: kontext uchovává prompt a konverzaci, zatímco údaj o generování omezuje písemnou odpověď. 512 vygenerovaných tokenů v příkladu rychlého startu je pouze příklad v rámci tohoto většího deklarovaného limitu generování. Model přijímá a vrací text; obsah naskenované tabulky nebo snímku obrazovky je nutné zpřístupnit jako text nebo použít samostatný vizuální model.\n\nKonverzace a nástroje\n\nKarta modelu ukazuje oddělené systémové a uživatelské zprávy formátované odpovídající šablonou chatu. Trvalá pravidla odpovědi asistenta vložte do příslušné konverzační role a samotný dokument, tabulku nebo kód připojte k uživatelské úloze. Označte hranici mezi citovaným zdrojovým materiálem a instrukcemi, aby se instrukce v dokumentu nezaměnila se zadáním, které aplikace zamýšlí.\n\nOficiální oznámení rodiny dokumentuje podporu volání nástrojů prostřednictvím kompatibilních konverzačních šablon a integrací pro zpřístupnění modelu. V takovém postupu aplikace dodává popisy funkcí, přijímá navržené volání, provádí funkci a vrací její výsledek. Může tak spojit textovou otázku s výpočtem nebo vyhledáním dat, samotný výběr modelu však neposkytuje externí nástroj ani jeho data. Generování JSON a volání nástroje jsou rovněž různé výsledky: jedno formátuje text, zatímco druhé žádá aplikaci pracující s modelem o provedení pojmenované operace.\n\nPříprava dlouhého kontextu\n\nVydaná konfigurace začíná na 32 768 tokenech. Vstupy přesahující toto nastavení vyžadují zdokumentované rozšíření YaRN, jehož příklad používá faktor 4,0 a původní nastavení maximálního počtu pozic na 32 768. Výrobce upozorňuje, že statické škálování může ovlivnit chování u kratších textů, a doporučuje je zapnout, když je potřeba zpracování dlouhého kontextu.\n\nPři porovnávání rozsáhlých dokumentů určete roli každého dokumentu a požádejte o jeden dobře vymezený výsledek: matici požadavků, seznam nesrovnalostí nebo upravenou část. Zachovejte umístění zdrojů vedle extrahovaných zjištění a ponechte v odpovědi dostatek prostoru pro požadovanou strukturu. Kapacita dlouhého kontextu pomáhá udržet relevantní materiál pohromadě; nenahrazuje potřebu určit, co se má porovnávat a jak bude konečný výsledek využit.", "editorialOverlay": { "copy_fields": { "practical_html": "Technický příklad v angličtině
Explain a stock table\n\nAnalyze this text table: SKU | opening units | received units | shipped units. A1 | 20 | 10 | 18. B2 | 7 | 0 | 9. Calculate closing stock for each SKU, identify any impossible negative balance and draft a short note naming the row that needs investigation. Preserve column units.A closing-stock table with row IDs and a short anomaly note supported by the source values.Recalculate opening plus received minus shipped and verify the B2 discrepancy is flagged rather than corrected.Qwen/Qwen2.5-32B-InstructQwen2.5-32B-Instruct je vícejazyčný textový model pro podrobné instrukce, programování, matematiku a strukturovaná data. Jeho edice s 32,5 miliardy parametrů klade důraz na porozumění tabulkám, výstup JSON a dlouhé písemné výsledky, se zdokumentovanými nastaveními rozšířeného kontextu.
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
Qwen2.5-32B-Instruct je instrukčně doladěný textový model velikosti 32B z obecné rodiny Qwen2.5. Kombinuje porozumění jazyku a jeho generování s programováním a matematikou, nejde tedy o samostatně pojmenovaného specialistu Coder nebo Math. Výrobce zdůrazňuje zejména následování podrobných instrukcí, dlouhé psaní, porozumění tabulkám a vytváření strukturovaného textu, především JSON. Rodina je předtrénována na korpusu popisovaném jako dosahující 18 bilionů tokenů.
Strukturovaná data, dlouhé odpovědi a vícejazyčná práce
Užitečná extrakční úloha dodává zdrojovou pasáž a přesná pole potřebná pro další krok aplikace. Určete typy polí, zda se má formulace kopírovat, nebo shrnout, a jak reprezentovat chybějící informace. Záznam produktu může například požadovat identifikátor, provozní podmínky a seznam nevyřešených otázek. Požádejte pouze o záznam JSON, pokud se má parsovat, nebo o samostatné vysvětlení, pokud člověk potřebuje prověřit úvahy za extrahovanými poli.
Porozumění tabulkám je dalším zdokumentovaným zaměřením. Spolu s otázkou dodejte názvy sloupců, jednotky a relevantní řádky. Požádejte model, aby určil řádky splňující podmínku, vysvětlil změnu mezi obdobími nebo převedl tabulku na písemnou zprávu. Praktický výstup může zachovat identifikátor každého řádku vedle zjištění. Tím se udržuje spojení mezi dodanými daty a odpovědí namísto shrnutí bez dohledatelného zdrojového řádku.
Pro dlouhé psaní určete cílové publikum, části a zdrojová fakta, než požádáte o dokument. Technický návrh může požadovat vymezení problému, požadavky, alternativy a doporučení výhradně podle dodaného materiálu. Uveďte, které podmínky jsou povinné a které představují otázky k vyřešení. Výrobce také rozvíjí odolnost vůči různým systémovým promptům, a podporuje tak definovanou roli, tón a podmínky konverzace.
Rodina podporuje více než 29 jazyků, včetně angličtiny, čínštiny, ruštiny, francouzštiny, španělštiny, portugalštiny, němčiny, italštiny, japonštiny, korejštiny, vietnamštiny, thajštiny a arabštiny. U vícejazyčné úlohy odlište jazyk zdroje od požadovaného jazyka výstupu a dodejte terminologický seznam, pokud názvy nebo technické termíny musí zůstat konzistentní. Dvojjazyčná zpráva může požadovat stejná zdrojová fakta ve dvou verzích při zachování identifikátorů a jednotek.
Podrobnosti modelu v této edici
Verze 32B-Instruct má 32,5 miliardy parametrů, z toho 31,0 miliardy parametrů mimo embeddingy, a 64 vrstev Transformer. Používá rotační poziční embeddingy, SwiGLU, RMSNorm a bias QKV v mechanismu pozornosti. Mechanismus grouped-query attention využívá 40 dotazových hlav a 8 hlav klíčů/hodnot. Jde o verzi hustého jazykového modelu s architekturou pouze dekodéru, která prošla předtrénováním a následným dotrénováním; Instruct označuje edici vytrénovanou pro konverzaci, nikoli základní model.
Karta uvádí plný kontext 131 072 tokenů a generování až 8 192 tokenů. Tyto údaje popisují různé části úlohy: kontext uchovává prompt a konverzaci, zatímco údaj o generování omezuje písemnou odpověď. 512 vygenerovaných tokenů v příkladu rychlého startu je pouze příklad v rámci tohoto většího deklarovaného limitu generování. Model přijímá a vrací text; obsah naskenované tabulky nebo snímku obrazovky je nutné zpřístupnit jako text nebo použít samostatný vizuální model.
Konverzace a nástroje
Karta modelu ukazuje oddělené systémové a uživatelské zprávy formátované odpovídající šablonou chatu. Trvalá pravidla odpovědi asistenta vložte do příslušné konverzační role a samotný dokument, tabulku nebo kód připojte k uživatelské úloze. Označte hranici mezi citovaným zdrojovým materiálem a instrukcemi, aby se instrukce v dokumentu nezaměnila se zadáním, které aplikace zamýšlí.
Oficiální oznámení rodiny dokumentuje podporu volání nástrojů prostřednictvím kompatibilních konverzačních šablon a integrací pro zpřístupnění modelu. V takovém postupu aplikace dodává popisy funkcí, přijímá navržené volání, provádí funkci a vrací její výsledek. Může tak spojit textovou otázku s výpočtem nebo vyhledáním dat, samotný výběr modelu však neposkytuje externí nástroj ani jeho data. Generování JSON a volání nástroje jsou rovněž různé výsledky: jedno formátuje text, zatímco druhé žádá aplikaci pracující s modelem o provedení pojmenované operace.
Příprava dlouhého kontextu
Vydaná konfigurace začíná na 32 768 tokenech. Vstupy přesahující toto nastavení vyžadují zdokumentované rozšíření YaRN, jehož příklad používá faktor 4,0 a původní nastavení maximálního počtu pozic na 32 768. Výrobce upozorňuje, že statické škálování může ovlivnit chování u kratších textů, a doporučuje je zapnout, když je potřeba zpracování dlouhého kontextu.
Při porovnávání rozsáhlých dokumentů určete roli každého dokumentu a požádejte o jeden dobře vymezený výsledek: matici požadavků, seznam nesrovnalostí nebo upravenou část. Zachovejte umístění zdrojů vedle extrahovaných zjištění a ponechte v odpovědi dostatek prostoru pro požadovanou strukturu. Kapacita dlouhého kontextu pomáhá udržet relevantní materiál pohromadě; nenahrazuje potřebu určit, co se má porovnávat a jak bude konečný výsledek využit.
POST /v1/chat/completionstexttext| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity Qwen/Qwen2.5-32B-Instruct | Výchozí— |
Polemessages | Typmessage[] | PožadavekPovinné | Hodnoty a limity Minimální počet položek: 1 | Výchozí— |
Polemessages[].role | Typstring | PožadavekPovinné | Hodnoty a limity Příklady: system, user, assistant, tool, function Podmínky: Tyto role jsou výslovně zastoupeny typy kompatibility zdrojového kódu; přesná sada rolí zůstává specifická pro daný model. Závisí na modelu | Výchozí— |
Polemessages[].content | Typstring|content_part[]|null | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Polemessages[].tool_calls | Typtool_call[] | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Polemessages[].tool_call_id | Typstring | PožadavekVolitelné | Hodnoty a limity Platí, když: role=tool; použijte skutečně vrácené ID | Výchozí— |
Polemessages[].name | Typstring | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Polemessages[].reasoning_content | Typstring | PožadavekVolitelné | Hodnoty a limity Platí, když: Předávejte zpět skutečně vrácené uvažování tam, kde je tento model používá | Výchozí— |
Polemessages[].reasoning_details | Typobject|array | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polemax_tokens | Typinteger | PožadavekVolitelné | Hodnoty a limity Minimum: 1 Závisí na modelu | Výchozí— |
Polemax_completion_tokens | Typinteger | PožadavekVolitelné | Hodnoty a limity Minimum: 1 Závisí na modelu | Výchozí— |
Polestream | Typboolean | PožadavekVolitelné | Hodnoty a limity | Výchozífalse |
Polestream_options.include_usage | Typboolean | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletemperature | Typnumber | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletop_p | Typnumber | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polestop | Typstring|string[] | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletools | Typfunction_tool[] | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletools[].type | Typstring | PožadavekVolitelné | Hodnoty a limity function Závisí na modelu | Výchozí— |
Poletools[].function.name | Typstring | PožadavekPovinné | Hodnoty a limity Platí, když: nástroj typu funkce je dodán | Výchozí— |
Poletools[].function.description | Typstring | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Poletools[].function.parameters | TypJSON_schema | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Poletool_choice | Typstring|object | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleparallel_tool_calls | Typboolean | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleresponse_format | Typobject | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polereasoning_effort | Typstring | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polereasoning | Typobject | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleservice_tier | Typstring | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleinstructions | Typstring | PožadavekVolitelné | Hodnoty a limity Pole kompatibility | Výchozí— |
Polefunctions | Typfunction[] | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polefunction_call | Typstring|object | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleprompt_cache_options | Typobject | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polemodalities | Typstring[] | PožadavekVolitelné | Hodnoty a limity text | Výchozí— |
Poleprovider | Typobject | PožadavekVolitelné | Hodnoty a limity Podmínky: provider.options je na této textové trase Ultra odmítáno | Výchozí— |
Polecache_control.ttl | Typstring | PožadavekVolitelné | Hodnoty a limity Podmínky: Hodnota 1h je ve skutečných umístěních mezipaměti promptů odmítána | Výchozí— |
Text · text UTF8
messages[].content
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, messages |
Parametrmaterial_types | Kontrakttext |
Parametrmessages | Kontraktpole zpráv se strukturou role/content |
Parametrfile_material | Kontraktskutečný dokument UTF-8 vložený jako doslovný text; ID souboru se neodvozuje |
Parametroptional_controls | Kontraktstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrcontrol_scope | Kontraktspecifické pro model; nástroje uživatelských funkcí se liší od hostovaných nástrojů |
Parametroutput_modalities | Kontrakttext |
Parametrhosted_operations | Kontraktfalse |
Parametrmultimodal_input_binding | Kontraktnull |
Životní cyklus: synchronous_or_streamed
Odešlete přesné ID modelu spolu s messages.
Délka kontextu není limitem výstupu.
Textový soubor může dodat doslovný text; obrazové/zvukové vstupy a vstupy v podobě souborových objektů vyžadují přesnou vazbu.
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
| Konfigurace | Tabulka sazeb | Poplatek |
|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Poplatek Vstup · Vstupní tokeny $0.00036 / 1K tokenů Výstup · Výstupní tokeny $0.00036 / 1K tokenů Vstup · Čtení z mezipaměti $0 / 1K tokenů Vstup · Zápis do mezipaměti $0 / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "Qwen/Qwen2.5-32B-Instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='Qwen/Qwen2.5-32B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='Qwen/Qwen2.5-32B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson nebo SSE
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Zachovejte každou volbu a její obsah/volání nástrojů/uvažování. V SSE sestavujte přírůstky podle indexu volby/nástroje a zachovejte konečný důvod ukončení i údaje o využití.
Zachovejte ID požadavků/odpovědí a hlavičky. Není dodána obecná URL pro načtení textové úlohy.
| Pole | Typ |
|---|---|
Polechoices[].index | Typinteger |
Polechoices[].message.content | Typstring|null |
Polechoices[].message.tool_calls | Typtool_call[] |
Polechoices[].message.reasoning_content | Typstring |
Polechoices[].message.reasoning_details | Typobject|array |
Polechoices[].finish_reason | Typstring|null |
Poleusage | Typobject |
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
Qwen/Qwen2.5-32B-InstructQwen2.5-32B-Instruct je vícejazyčný textový model pro podrobné instrukce, programování, matematiku a strukturovaná data. Jeho edice s 32,5 miliardy parametrů klade důraz na porozumění tabulkám, výstup JSON a dlouhé písemné výsledky, se zdokumentovanými nastaveními rozšířeného kontextu.
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
Qwen2.5-32B-Instruct je instrukčně doladěný textový model velikosti 32B z obecné rodiny Qwen2.5. Kombinuje porozumění jazyku a jeho generování s programováním a matematikou, nejde tedy o samostatně pojmenovaného specialistu Coder nebo Math. Výrobce zdůrazňuje zejména následování podrobných instrukcí, dlouhé psaní, porozumění tabulkám a vytváření strukturovaného textu, především JSON. Rodina je předtrénována na korpusu popisovaném jako dosahující 18 bilionů tokenů.
Strukturovaná data, dlouhé odpovědi a vícejazyčná práce
Užitečná extrakční úloha dodává zdrojovou pasáž a přesná pole potřebná pro další krok aplikace. Určete typy polí, zda se má formulace kopírovat, nebo shrnout, a jak reprezentovat chybějící informace. Záznam produktu může například požadovat identifikátor, provozní podmínky a seznam nevyřešených otázek. Požádejte pouze o záznam JSON, pokud se má parsovat, nebo o samostatné vysvětlení, pokud člověk potřebuje prověřit úvahy za extrahovanými poli.
Porozumění tabulkám je dalším zdokumentovaným zaměřením. Spolu s otázkou dodejte názvy sloupců, jednotky a relevantní řádky. Požádejte model, aby určil řádky splňující podmínku, vysvětlil změnu mezi obdobími nebo převedl tabulku na písemnou zprávu. Praktický výstup může zachovat identifikátor každého řádku vedle zjištění. Tím se udržuje spojení mezi dodanými daty a odpovědí namísto shrnutí bez dohledatelného zdrojového řádku.
Pro dlouhé psaní určete cílové publikum, části a zdrojová fakta, než požádáte o dokument. Technický návrh může požadovat vymezení problému, požadavky, alternativy a doporučení výhradně podle dodaného materiálu. Uveďte, které podmínky jsou povinné a které představují otázky k vyřešení. Výrobce také rozvíjí odolnost vůči různým systémovým promptům, a podporuje tak definovanou roli, tón a podmínky konverzace.
Rodina podporuje více než 29 jazyků, včetně angličtiny, čínštiny, ruštiny, francouzštiny, španělštiny, portugalštiny, němčiny, italštiny, japonštiny, korejštiny, vietnamštiny, thajštiny a arabštiny. U vícejazyčné úlohy odlište jazyk zdroje od požadovaného jazyka výstupu a dodejte terminologický seznam, pokud názvy nebo technické termíny musí zůstat konzistentní. Dvojjazyčná zpráva může požadovat stejná zdrojová fakta ve dvou verzích při zachování identifikátorů a jednotek.
Podrobnosti modelu v této edici
Verze 32B-Instruct má 32,5 miliardy parametrů, z toho 31,0 miliardy parametrů mimo embeddingy, a 64 vrstev Transformer. Používá rotační poziční embeddingy, SwiGLU, RMSNorm a bias QKV v mechanismu pozornosti. Mechanismus grouped-query attention využívá 40 dotazových hlav a 8 hlav klíčů/hodnot. Jde o verzi hustého jazykového modelu s architekturou pouze dekodéru, která prošla předtrénováním a následným dotrénováním; Instruct označuje edici vytrénovanou pro konverzaci, nikoli základní model.
Karta uvádí plný kontext 131 072 tokenů a generování až 8 192 tokenů. Tyto údaje popisují různé části úlohy: kontext uchovává prompt a konverzaci, zatímco údaj o generování omezuje písemnou odpověď. 512 vygenerovaných tokenů v příkladu rychlého startu je pouze příklad v rámci tohoto většího deklarovaného limitu generování. Model přijímá a vrací text; obsah naskenované tabulky nebo snímku obrazovky je nutné zpřístupnit jako text nebo použít samostatný vizuální model.
Konverzace a nástroje
Karta modelu ukazuje oddělené systémové a uživatelské zprávy formátované odpovídající šablonou chatu. Trvalá pravidla odpovědi asistenta vložte do příslušné konverzační role a samotný dokument, tabulku nebo kód připojte k uživatelské úloze. Označte hranici mezi citovaným zdrojovým materiálem a instrukcemi, aby se instrukce v dokumentu nezaměnila se zadáním, které aplikace zamýšlí.
Oficiální oznámení rodiny dokumentuje podporu volání nástrojů prostřednictvím kompatibilních konverzačních šablon a integrací pro zpřístupnění modelu. V takovém postupu aplikace dodává popisy funkcí, přijímá navržené volání, provádí funkci a vrací její výsledek. Může tak spojit textovou otázku s výpočtem nebo vyhledáním dat, samotný výběr modelu však neposkytuje externí nástroj ani jeho data. Generování JSON a volání nástroje jsou rovněž různé výsledky: jedno formátuje text, zatímco druhé žádá aplikaci pracující s modelem o provedení pojmenované operace.
Příprava dlouhého kontextu
Vydaná konfigurace začíná na 32 768 tokenech. Vstupy přesahující toto nastavení vyžadují zdokumentované rozšíření YaRN, jehož příklad používá faktor 4,0 a původní nastavení maximálního počtu pozic na 32 768. Výrobce upozorňuje, že statické škálování může ovlivnit chování u kratších textů, a doporučuje je zapnout, když je potřeba zpracování dlouhého kontextu.
Při porovnávání rozsáhlých dokumentů určete roli každého dokumentu a požádejte o jeden dobře vymezený výsledek: matici požadavků, seznam nesrovnalostí nebo upravenou část. Zachovejte umístění zdrojů vedle extrahovaných zjištění a ponechte v odpovědi dostatek prostoru pro požadovanou strukturu. Kapacita dlouhého kontextu pomáhá udržet relevantní materiál pohromadě; nenahrazuje potřebu určit, co se má porovnávat a jak bude konečný výsledek využit.
POST /v1/messagestextjson, sse| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity Qwen/Qwen2.5-32B-Instruct | Výchozí— |
Polemessages | Typmessage[] | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polemessages[].role | Typstring | PožadavekPovinné | Hodnoty a limity user, assistant | Výchozí— |
Polemessages[].content | Typstring | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polemax_tokens | Typinteger | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polestream | Typboolean | PožadavekVolitelné | Hodnoty a limity | Výchozífalse |
Text · text UTF-8
řetězec messages[].content
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, messages, max_tokens |
Parametroptional_controls | Kontraktstream |
Parametrmaterial_types | Kontrakttext |
Parametrtext_file_material | KontraktPřečtěte skutečný dokument UTF-8 a vložte jeho text do uvedeného pole input nebo do řetězce obsahu zprávy. |
Životní cyklus: synchronous_or_streamed
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
| Konfigurace | Tabulka sazeb | Poplatek |
|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Poplatek Vstup · Vstupní tokeny $0.00036 / 1K tokenů Výstup · Výstupní tokeny $0.00036 / 1K tokenů Vstup · Čtení z mezipaměti $0 / 1K tokenů Vstup · Zápis do mezipaměti $0 / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
{\n "model": "Qwen/Qwen2.5-32B-Instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-32B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-32B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON nebo SSE
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Zachovejte všechny bloky obsahu, podpisy uvažování a skutečná ID použití nástrojů. Sestavte všechny přírůstky bloků SSE; první textový blok není úplný výstup.
Zachovejte ID požadavků/odpovědí a hlavičky. Není dodána obecná URL pro načtení textové úlohy.
| Pole | Typ |
|---|---|
Poleid | Typstring |
Polemodel | Typstring |
Polecontent[] | Typtext|thinking|tool_use|other content block |
Polestop_reason | Typstring|null |
Poleusage | Typobject |
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
qwen2.5-32b-instructQwen2.5-32B-Instruct je vícejazyčný textový model pro podrobné instrukce, programování, matematiku a strukturovaná data. Jeho edice s 32,5 miliardy parametrů klade důraz na porozumění tabulkám, výstup JSON a dlouhé písemné výsledky, se zdokumentovanými nastaveními rozšířeného kontextu.
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
Qwen2.5-32B-Instruct je instrukčně doladěný textový model velikosti 32B z obecné rodiny Qwen2.5. Kombinuje porozumění jazyku a jeho generování s programováním a matematikou, nejde tedy o samostatně pojmenovaného specialistu Coder nebo Math. Výrobce zdůrazňuje zejména následování podrobných instrukcí, dlouhé psaní, porozumění tabulkám a vytváření strukturovaného textu, především JSON. Rodina je předtrénována na korpusu popisovaném jako dosahující 18 bilionů tokenů.
Strukturovaná data, dlouhé odpovědi a vícejazyčná práce
Užitečná extrakční úloha dodává zdrojovou pasáž a přesná pole potřebná pro další krok aplikace. Určete typy polí, zda se má formulace kopírovat, nebo shrnout, a jak reprezentovat chybějící informace. Záznam produktu může například požadovat identifikátor, provozní podmínky a seznam nevyřešených otázek. Požádejte pouze o záznam JSON, pokud se má parsovat, nebo o samostatné vysvětlení, pokud člověk potřebuje prověřit úvahy za extrahovanými poli.
Porozumění tabulkám je dalším zdokumentovaným zaměřením. Spolu s otázkou dodejte názvy sloupců, jednotky a relevantní řádky. Požádejte model, aby určil řádky splňující podmínku, vysvětlil změnu mezi obdobími nebo převedl tabulku na písemnou zprávu. Praktický výstup může zachovat identifikátor každého řádku vedle zjištění. Tím se udržuje spojení mezi dodanými daty a odpovědí namísto shrnutí bez dohledatelného zdrojového řádku.
Pro dlouhé psaní určete cílové publikum, části a zdrojová fakta, než požádáte o dokument. Technický návrh může požadovat vymezení problému, požadavky, alternativy a doporučení výhradně podle dodaného materiálu. Uveďte, které podmínky jsou povinné a které představují otázky k vyřešení. Výrobce také rozvíjí odolnost vůči různým systémovým promptům, a podporuje tak definovanou roli, tón a podmínky konverzace.
Rodina podporuje více než 29 jazyků, včetně angličtiny, čínštiny, ruštiny, francouzštiny, španělštiny, portugalštiny, němčiny, italštiny, japonštiny, korejštiny, vietnamštiny, thajštiny a arabštiny. U vícejazyčné úlohy odlište jazyk zdroje od požadovaného jazyka výstupu a dodejte terminologický seznam, pokud názvy nebo technické termíny musí zůstat konzistentní. Dvojjazyčná zpráva může požadovat stejná zdrojová fakta ve dvou verzích při zachování identifikátorů a jednotek.
Podrobnosti modelu v této edici
Verze 32B-Instruct má 32,5 miliardy parametrů, z toho 31,0 miliardy parametrů mimo embeddingy, a 64 vrstev Transformer. Používá rotační poziční embeddingy, SwiGLU, RMSNorm a bias QKV v mechanismu pozornosti. Mechanismus grouped-query attention využívá 40 dotazových hlav a 8 hlav klíčů/hodnot. Jde o verzi hustého jazykového modelu s architekturou pouze dekodéru, která prošla předtrénováním a následným dotrénováním; Instruct označuje edici vytrénovanou pro konverzaci, nikoli základní model.
Karta uvádí plný kontext 131 072 tokenů a generování až 8 192 tokenů. Tyto údaje popisují různé části úlohy: kontext uchovává prompt a konverzaci, zatímco údaj o generování omezuje písemnou odpověď. 512 vygenerovaných tokenů v příkladu rychlého startu je pouze příklad v rámci tohoto většího deklarovaného limitu generování. Model přijímá a vrací text; obsah naskenované tabulky nebo snímku obrazovky je nutné zpřístupnit jako text nebo použít samostatný vizuální model.
Konverzace a nástroje
Karta modelu ukazuje oddělené systémové a uživatelské zprávy formátované odpovídající šablonou chatu. Trvalá pravidla odpovědi asistenta vložte do příslušné konverzační role a samotný dokument, tabulku nebo kód připojte k uživatelské úloze. Označte hranici mezi citovaným zdrojovým materiálem a instrukcemi, aby se instrukce v dokumentu nezaměnila se zadáním, které aplikace zamýšlí.
Oficiální oznámení rodiny dokumentuje podporu volání nástrojů prostřednictvím kompatibilních konverzačních šablon a integrací pro zpřístupnění modelu. V takovém postupu aplikace dodává popisy funkcí, přijímá navržené volání, provádí funkci a vrací její výsledek. Může tak spojit textovou otázku s výpočtem nebo vyhledáním dat, samotný výběr modelu však neposkytuje externí nástroj ani jeho data. Generování JSON a volání nástroje jsou rovněž různé výsledky: jedno formátuje text, zatímco druhé žádá aplikaci pracující s modelem o provedení pojmenované operace.
Příprava dlouhého kontextu
Vydaná konfigurace začíná na 32 768 tokenech. Vstupy přesahující toto nastavení vyžadují zdokumentované rozšíření YaRN, jehož příklad používá faktor 4,0 a původní nastavení maximálního počtu pozic na 32 768. Výrobce upozorňuje, že statické škálování může ovlivnit chování u kratších textů, a doporučuje je zapnout, když je potřeba zpracování dlouhého kontextu.
Při porovnávání rozsáhlých dokumentů určete roli každého dokumentu a požádejte o jeden dobře vymezený výsledek: matici požadavků, seznam nesrovnalostí nebo upravenou část. Zachovejte umístění zdrojů vedle extrahovaných zjištění a ponechte v odpovědi dostatek prostoru pro požadovanou strukturu. Kapacita dlouhého kontextu pomáhá udržet relevantní materiál pohromadě; nenahrazuje potřebu určit, co se má porovnávat a jak bude konečný výsledek využit.
POST /v1/chat/completionstexttext| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity qwen2.5-32b-instruct | Výchozí— |
Polemessages | Typmessage[] | PožadavekPovinné | Hodnoty a limity Minimální počet položek: 1 | Výchozí— |
Polemessages[].role | Typstring | PožadavekPovinné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polemessages[].content | Typstring | PožadavekVolitelné | Hodnoty a limity Platí, když: Textová konverzace | Výchozí— |
Polestream | Typboolean | PožadavekVolitelné | Hodnoty a limity | Výchozífalse |
Text · text UTF8
messages[].content
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, messages |
Parametrmaterial_types | Kontrakttext |
Parametrmessages | Kontraktpole zpráv se strukturou role/content |
Parametrfile_material | Kontraktskutečný dokument UTF-8 vložený jako doslovný text; ID souboru se neodvozuje |
Parametroptional_controls | Kontraktstream |
Parametrcontrol_scope | KontraktTextová konverzace; stream je booleovská hodnota a ve výchozím nastavení je false. |
Parametroutput_modalities | Kontrakttext |
Parametrhosted_operations | Kontraktfalse |
Parametrmultimodal_input_binding | Kontraktnull |
Aliasy metody: /chat/completions
Životní cyklus: synchronous_or_streamed
Odešlete přesné ID modelu spolu s messages.
Délka kontextu není limitem výstupu.
Textový soubor může dodat doslovný text; obrazové/zvukové vstupy a vstupy v podobě souborových objektů vyžadují přesnou vazbu.
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
| Konfigurace | Tabulka sazeb | Poplatek |
|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Poplatek Vstup · Vstupní tokeny $0.00036 / 1K tokenů Výstup · Výstupní tokeny $0.00036 / 1K tokenů Vstup · Čtení z mezipaměti $0 / 1K tokenů Vstup · Zápis do mezipaměti $0 / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"qwen2.5-32b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="qwen2.5-32b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson nebo SSE
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Zachovejte každou volbu a její obsah/volání nástrojů/uvažování. V SSE sestavujte přírůstky podle indexu volby/nástroje a zachovejte konečný důvod ukončení i údaje o využití.
Zachovejte ID požadavků/odpovědí a hlavičky. Není dodána obecná URL pro načtení textové úlohy.
| Pole | Typ |
|---|---|
Polechoices[].index | Typinteger |
Polechoices[].message.content | Typstring|null |
Polechoices[].message.tool_calls | Typtool_call[] |
Polechoices[].message.reasoning_content | Typstring |
Polechoices[].message.reasoning_details | Typobject|array |
Polechoices[].finish_reason | Typstring|null |
Poleusage | Typobject |
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
qwen2.5-32b-instructQwen2.5-32B-Instruct je vícejazyčný textový model pro podrobné instrukce, programování, matematiku a strukturovaná data. Jeho edice s 32,5 miliardy parametrů klade důraz na porozumění tabulkám, výstup JSON a dlouhé písemné výsledky, se zdokumentovanými nastaveními rozšířeného kontextu.
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
Qwen2.5-32B-Instruct je instrukčně doladěný textový model velikosti 32B z obecné rodiny Qwen2.5. Kombinuje porozumění jazyku a jeho generování s programováním a matematikou, nejde tedy o samostatně pojmenovaného specialistu Coder nebo Math. Výrobce zdůrazňuje zejména následování podrobných instrukcí, dlouhé psaní, porozumění tabulkám a vytváření strukturovaného textu, především JSON. Rodina je předtrénována na korpusu popisovaném jako dosahující 18 bilionů tokenů.
Strukturovaná data, dlouhé odpovědi a vícejazyčná práce
Užitečná extrakční úloha dodává zdrojovou pasáž a přesná pole potřebná pro další krok aplikace. Určete typy polí, zda se má formulace kopírovat, nebo shrnout, a jak reprezentovat chybějící informace. Záznam produktu může například požadovat identifikátor, provozní podmínky a seznam nevyřešených otázek. Požádejte pouze o záznam JSON, pokud se má parsovat, nebo o samostatné vysvětlení, pokud člověk potřebuje prověřit úvahy za extrahovanými poli.
Porozumění tabulkám je dalším zdokumentovaným zaměřením. Spolu s otázkou dodejte názvy sloupců, jednotky a relevantní řádky. Požádejte model, aby určil řádky splňující podmínku, vysvětlil změnu mezi obdobími nebo převedl tabulku na písemnou zprávu. Praktický výstup může zachovat identifikátor každého řádku vedle zjištění. Tím se udržuje spojení mezi dodanými daty a odpovědí namísto shrnutí bez dohledatelného zdrojového řádku.
Pro dlouhé psaní určete cílové publikum, části a zdrojová fakta, než požádáte o dokument. Technický návrh může požadovat vymezení problému, požadavky, alternativy a doporučení výhradně podle dodaného materiálu. Uveďte, které podmínky jsou povinné a které představují otázky k vyřešení. Výrobce také rozvíjí odolnost vůči různým systémovým promptům, a podporuje tak definovanou roli, tón a podmínky konverzace.
Rodina podporuje více než 29 jazyků, včetně angličtiny, čínštiny, ruštiny, francouzštiny, španělštiny, portugalštiny, němčiny, italštiny, japonštiny, korejštiny, vietnamštiny, thajštiny a arabštiny. U vícejazyčné úlohy odlište jazyk zdroje od požadovaného jazyka výstupu a dodejte terminologický seznam, pokud názvy nebo technické termíny musí zůstat konzistentní. Dvojjazyčná zpráva může požadovat stejná zdrojová fakta ve dvou verzích při zachování identifikátorů a jednotek.
Podrobnosti modelu v této edici
Verze 32B-Instruct má 32,5 miliardy parametrů, z toho 31,0 miliardy parametrů mimo embeddingy, a 64 vrstev Transformer. Používá rotační poziční embeddingy, SwiGLU, RMSNorm a bias QKV v mechanismu pozornosti. Mechanismus grouped-query attention využívá 40 dotazových hlav a 8 hlav klíčů/hodnot. Jde o verzi hustého jazykového modelu s architekturou pouze dekodéru, která prošla předtrénováním a následným dotrénováním; Instruct označuje edici vytrénovanou pro konverzaci, nikoli základní model.
Karta uvádí plný kontext 131 072 tokenů a generování až 8 192 tokenů. Tyto údaje popisují různé části úlohy: kontext uchovává prompt a konverzaci, zatímco údaj o generování omezuje písemnou odpověď. 512 vygenerovaných tokenů v příkladu rychlého startu je pouze příklad v rámci tohoto většího deklarovaného limitu generování. Model přijímá a vrací text; obsah naskenované tabulky nebo snímku obrazovky je nutné zpřístupnit jako text nebo použít samostatný vizuální model.
Konverzace a nástroje
Karta modelu ukazuje oddělené systémové a uživatelské zprávy formátované odpovídající šablonou chatu. Trvalá pravidla odpovědi asistenta vložte do příslušné konverzační role a samotný dokument, tabulku nebo kód připojte k uživatelské úloze. Označte hranici mezi citovaným zdrojovým materiálem a instrukcemi, aby se instrukce v dokumentu nezaměnila se zadáním, které aplikace zamýšlí.
Oficiální oznámení rodiny dokumentuje podporu volání nástrojů prostřednictvím kompatibilních konverzačních šablon a integrací pro zpřístupnění modelu. V takovém postupu aplikace dodává popisy funkcí, přijímá navržené volání, provádí funkci a vrací její výsledek. Může tak spojit textovou otázku s výpočtem nebo vyhledáním dat, samotný výběr modelu však neposkytuje externí nástroj ani jeho data. Generování JSON a volání nástroje jsou rovněž různé výsledky: jedno formátuje text, zatímco druhé žádá aplikaci pracující s modelem o provedení pojmenované operace.
Příprava dlouhého kontextu
Vydaná konfigurace začíná na 32 768 tokenech. Vstupy přesahující toto nastavení vyžadují zdokumentované rozšíření YaRN, jehož příklad používá faktor 4,0 a původní nastavení maximálního počtu pozic na 32 768. Výrobce upozorňuje, že statické škálování může ovlivnit chování u kratších textů, a doporučuje je zapnout, když je potřeba zpracování dlouhého kontextu.
Při porovnávání rozsáhlých dokumentů určete roli každého dokumentu a požádejte o jeden dobře vymezený výsledek: matici požadavků, seznam nesrovnalostí nebo upravenou část. Zachovejte umístění zdrojů vedle extrahovaných zjištění a ponechte v odpovědi dostatek prostoru pro požadovanou strukturu. Kapacita dlouhého kontextu pomáhá udržet relevantní materiál pohromadě; nenahrazuje potřebu určit, co se má porovnávat a jak bude konečný výsledek využit.
POST /v1/messagestextjson, sse| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity qwen2.5-32b-instruct | Výchozí— |
Polemessages | Typmessage[] | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polemessages[].role | Typstring | PožadavekPovinné | Hodnoty a limity user, assistant | Výchozí— |
Polemessages[].content | Typstring | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polemax_tokens | Typinteger | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polestream | Typboolean | PožadavekVolitelné | Hodnoty a limity | Výchozífalse |
Text · text UTF-8
řetězec messages[].content
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, messages, max_tokens |
Parametroptional_controls | Kontraktstream |
Parametrmaterial_types | Kontrakttext |
Parametrtext_file_material | KontraktPřečtěte skutečný dokument UTF-8 a vložte jeho text do uvedeného pole input nebo do řetězce obsahu zprávy. |
Životní cyklus: synchronous_or_streamed
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
| Konfigurace | Tabulka sazeb | Poplatek |
|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Poplatek Vstup · Vstupní tokeny $0.00036 / 1K tokenů Výstup · Výstupní tokeny $0.00036 / 1K tokenů Vstup · Čtení z mezipaměti $0 / 1K tokenů Vstup · Zápis do mezipaměti $0 / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
{\n "model": "qwen2.5-32b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-32b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-32b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON nebo SSE
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Zachovejte všechny bloky obsahu, podpisy uvažování a skutečná ID použití nástrojů. Sestavte všechny přírůstky bloků SSE; první textový blok není úplný výstup.
Zachovejte ID požadavků/odpovědí a hlavičky. Není dodána obecná URL pro načtení textové úlohy.
| Pole | Typ |
|---|---|
Poleid | Typstring |
Polemodel | Typstring |
Polecontent[] | Typtext|thinking|tool_use|other content block |
Polestop_reason | Typstring|null |
Poleusage | Typobject |
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
Technický příklad v angličtině
Explain a stock table\n\nAnalyze this text table: SKU | opening units | received units | shipped units. A1 | 20 | 10 | 18. B2 | 7 | 0 | 9. Calculate closing stock for each SKU, identify any impossible negative balance and draft a short note naming the row that needs investigation. Preserve column units.A closing-stock table with row IDs and a short anomaly note supported by the source values.Recalculate opening plus received minus shipped and verify the B2 discrepancy is flagged rather than corrected.