Qwen2.5-14B-Instruct yra instrukcijoms pritaikyta bendros paskirties Qwen2.5 šeimos 14B dydžio versija. Ji priima tekstinį pokalbį ir grąžina tekstą: paaiškinimą, dokumentą, programos kodą arba struktūrizuotus laukus. Kūrėjas pabrėžia instrukcijų laikymąsi, programavimą, matematiką, struktūrizuotų duomenų, tokių kaip lentelės, supratimą ir struktūrizuotų atsakymų generavimą, ypač JSON.
Šeimos patobulinimai
Kūrėjas aprašo platesnes žinias ir stipresnius programavimo bei matematikos gebėjimus nei ankstesnėje Qwen2 kartoje, taip pat ilgų atsakymų generavimą ir geresnį įvairių sistemos instrukcijų apdorojimą. Šeima naudoja pradinio mokymo korpusą, aprašytą kaip siekiantį 18 tūkstančių milijardų žetonų. Šios galimybės padeda kurti konkrečios srities asistentą, kurio vaidmenį ir išvestį nustato užduotis. Šis modelis tebėra bendroji Instruct versija; atskirai įvardytos Qwen2.5-Coder ir Qwen2.5-Math linijos turi savo specializacijas.
Proceso asistentas gali gauti procedūrą ir klausimą apie vieną etapą. Apibrėžkite skaitytojo vaidmenį, paprašykite tam etapui svarbių veiksmų ir reikalaukite išlaikyti originalias procedūros sąlygas. Naudinga išvestis gali atskirti kitą veiksmą, sąlygą, kuri leidžia jį taikyti, ir dar reikalingą informaciją. Taip platus patarimo prašymas tampa atsakymu, susietu su pateiktu procesu.
Kodo paaiškinimui pateikite funkciją, susijusių pagalbinių funkcijų apibrėžimus ir neaiškumą keliančią įvestį. Paprašykite operacijų sekos ir šiai įvesčiai grąžinamos reikšmės. Matematikos paaiškinimui prieš prašydami išvedimo nurodykite simbolius, prielaidas ir tikslinę išraišką. Abi užduotys naudoja tekstą; programos vykdymas ar atskiro skaitinio įrankio suteikimas yra modelį naudojančios programos darbas.
Lentelės ir JSON
Lentelės klausimui išlaikykite stulpelių antraštes ir vienetus, įvardykite susijusias eilutes ir nurodykite palyginimą. Pageidaujama išvestis gali išvardyti tinkamų eilučių identifikatorius ir paaiškinti, kurią pateiktą sąlygą kiekviena eilutė atitinka. Jei lentelėje trūksta reikšmių, nurodykite, ar atsakyme jos turi likti nepateiktos, ar būti aiškiai pažymėtos.
Struktūrizuotam išskyrimui parodykite laukų pavadinimus ir reikiamus tipus. Įvestį, pavyzdžiui, prekės identifikatorių, atsargų kiekį ir sandėlio žymą, galima paversti įrašu su tais pačiais laukais. Prašykite tik įrašo, kai programa jį analizuos; atskiro tekstinio paaiškinimo prašykite, kai vartotojui reikia patikrinti šaltinio interpretaciją. Dokumentuotas modelio gebėjimas generuoti JSON skiriasi nuo konkrečios sąsajos schemos taikymo.
Daugiakalbis pokalbis palaikomas daugiau kaip 29 kalbomis, įskaitant anglų, kinų, rusų, vokiečių, prancūzų, ispanų, portugalų, italų, japonų, korėjiečių, vietnamiečių, tajų ir arabų. Nustatykite galutinę kalbą ir pateikite terminus, kurie turi likti nepakitę. Verčiamam techniniam paaiškinimui paprašykite išlaikyti kintamųjų pavadinimus, cituotas žymas ir vienetus, aplinkinį tekstą pritaikant skaitytojui.
Konkreti 14B laida
Kortelėje nurodyta 14,7 milijardo parametrų, įskaitant 13,1 milijardo parametrų, nepriklausančių įterpiniams, ir 48 Transformer sluoksniai. Architektūra naudoja rotary positional embeddings, SwiGLU, RMSNorm ir attention QKV bias, su 40 užklausų galvučių ir 8 raktų bei reikšmių galvutėmis grupuotų užklausų dėmesio mechanizme. Pradinis ir vėlesnis mokymas sukuria šią Instruct versiją. Jos parametrų ir sluoksnių skaičiai skiriasi nuo 32B versijos net tuomet, kai šeimos galimybės ir paskelbti konteksto skaičiai sutampa.
Modelio kortelėje nurodytas visas 131 072 žetonų kontekstas ir iki 8 192 žetonų generavimas. Pirmasis skaičius susijęs su pokalbiu ir užduočiai išlaikoma medžiaga; antrasis – su generuojamu atsakymu. Greitojo paleidimo 512 žetonų generavimo nustatymas yra tik pavyzdys ir nepakeičia kortelėje nurodytos atsakymo talpos. Vaizdų, vaizdo įrašų ir garso supratimas priklauso atskirai įvardytoms multimodalinėms laidoms, o ne šiam teksto modeliui.
Įvesties formatas ir įrankiais papildytos užduotys
Kūrėjo pavyzdyje atitinkamas pokalbio šablonas taikomas atskiriems sistemos ir vartotojo pranešimams. Asistento vaidmenį ir atsakymo taisykles apibrėžkite atskirai nuo nagrinėjamos medžiagos. Pateikite visą klausimą ir pažymėkite šaltinio tekstą, kad jame cituota instrukcija nebūtų supainiota su programos pateikta užduotimi.
Oficialiame Qwen2.5 pranešime taip pat aprašomi įrankių iškvietimo šablonai ir suderinamos integracijos. Įrankiais papildytai užduočiai modelį naudojanti programa turi pateikti funkcijų aprašus, vykdyti pasirinktą operaciją ir grąžinti jos rezultatą kitam atsakymui. Pavyzdžiui, pokalbis gali prašyti apskaičiuoti naudojant pateiktą skaičiavimo įrankį; funkcijos rezultatas tampa informacija, kurią modelis gali paaiškinti. Įrankių prieinamumą ir vykdymą suteikia ši integracija, o ši laida teikia tekstinį pokalbio veikimą.
Ilgo teksto konfigūracija
Paskelbta konfigūracija iš pradžių apima 32 768 žetonus. Dokumentuotas plėtinys ilgesnėms įvestims naudoja YaRN su pavyzdiniu 4,0 mastelio koeficientu ir pradiniu maksimalių pozicijų nustatymu 32 768. Statinis mastelio keitimas gali paveikti trumpesnio teksto apdorojimą, todėl kūrėjas rekomenduoja jį pridėti, kai reikia ilgo konteksto.
Rengdami ilgą šaltinį nustatykite taisytiną dalį ar atsakytiną klausimą ir išlaikykite pagrindžiančias dalis kartu. Aiški užklausa gali prašyti pataisytos ištraukos, pakeitimų lentelės ir originalių skyrių nuorodų. Taip išplėstinis kontekstas naudojamas konkrečiam artefaktui, o atsakymas lieka atskiroje generavimo riboje.
", "aboutText": "Qwen2.5-14B-Instruct yra instrukcijoms pritaikyta bendros paskirties Qwen2.5 šeimos 14B dydžio versija. Ji priima tekstinį pokalbį ir grąžina tekstą: paaiškinimą, dokumentą, programos kodą arba struktūrizuotus laukus. Kūrėjas pabrėžia instrukcijų laikymąsi, programavimą, matematiką, struktūrizuotų duomenų, tokių kaip lentelės, supratimą ir struktūrizuotų atsakymų generavimą, ypač JSON.\n\nŠeimos patobulinimai\n\nKūrėjas aprašo platesnes žinias ir stipresnius programavimo bei matematikos gebėjimus nei ankstesnėje Qwen2 kartoje, taip pat ilgų atsakymų generavimą ir geresnį įvairių sistemos instrukcijų apdorojimą. Šeima naudoja pradinio mokymo korpusą, aprašytą kaip siekiantį 18 tūkstančių milijardų žetonų. Šios galimybės padeda kurti konkrečios srities asistentą, kurio vaidmenį ir išvestį nustato užduotis. Šis modelis tebėra bendroji Instruct versija; atskirai įvardytos Qwen2.5-Coder ir Qwen2.5-Math linijos turi savo specializacijas.\n\nProceso asistentas gali gauti procedūrą ir klausimą apie vieną etapą. Apibrėžkite skaitytojo vaidmenį, paprašykite tam etapui svarbių veiksmų ir reikalaukite išlaikyti originalias procedūros sąlygas. Naudinga išvestis gali atskirti kitą veiksmą, sąlygą, kuri leidžia jį taikyti, ir dar reikalingą informaciją. Taip platus patarimo prašymas tampa atsakymu, susietu su pateiktu procesu.\n\nKodo paaiškinimui pateikite funkciją, susijusių pagalbinių funkcijų apibrėžimus ir neaiškumą keliančią įvestį. Paprašykite operacijų sekos ir šiai įvesčiai grąžinamos reikšmės. Matematikos paaiškinimui prieš prašydami išvedimo nurodykite simbolius, prielaidas ir tikslinę išraišką. Abi užduotys naudoja tekstą; programos vykdymas ar atskiro skaitinio įrankio suteikimas yra modelį naudojančios programos darbas.\n\nLentelės ir JSON\n\nLentelės klausimui išlaikykite stulpelių antraštes ir vienetus, įvardykite susijusias eilutes ir nurodykite palyginimą. Pageidaujama išvestis gali išvardyti tinkamų eilučių identifikatorius ir paaiškinti, kurią pateiktą sąlygą kiekviena eilutė atitinka. Jei lentelėje trūksta reikšmių, nurodykite, ar atsakyme jos turi likti nepateiktos, ar būti aiškiai pažymėtos.\n\nStruktūrizuotam išskyrimui parodykite laukų pavadinimus ir reikiamus tipus. Įvestį, pavyzdžiui, prekės identifikatorių, atsargų kiekį ir sandėlio žymą, galima paversti įrašu su tais pačiais laukais. Prašykite tik įrašo, kai programa jį analizuos; atskiro tekstinio paaiškinimo prašykite, kai vartotojui reikia patikrinti šaltinio interpretaciją. Dokumentuotas modelio gebėjimas generuoti JSON skiriasi nuo konkrečios sąsajos schemos taikymo.\n\nDaugiakalbis pokalbis palaikomas daugiau kaip 29 kalbomis, įskaitant anglų, kinų, rusų, vokiečių, prancūzų, ispanų, portugalų, italų, japonų, korėjiečių, vietnamiečių, tajų ir arabų. Nustatykite galutinę kalbą ir pateikite terminus, kurie turi likti nepakitę. Verčiamam techniniam paaiškinimui paprašykite išlaikyti kintamųjų pavadinimus, cituotas žymas ir vienetus, aplinkinį tekstą pritaikant skaitytojui.\n\nKonkreti 14B laida\n\nKortelėje nurodyta 14,7 milijardo parametrų, įskaitant 13,1 milijardo parametrų, nepriklausančių įterpiniams, ir 48 Transformer sluoksniai. Architektūra naudoja rotary positional embeddings, SwiGLU, RMSNorm ir attention QKV bias, su 40 užklausų galvučių ir 8 raktų bei reikšmių galvutėmis grupuotų užklausų dėmesio mechanizme. Pradinis ir vėlesnis mokymas sukuria šią Instruct versiją. Jos parametrų ir sluoksnių skaičiai skiriasi nuo 32B versijos net tuomet, kai šeimos galimybės ir paskelbti konteksto skaičiai sutampa.\n\nModelio kortelėje nurodytas visas 131 072 žetonų kontekstas ir iki 8 192 žetonų generavimas. Pirmasis skaičius susijęs su pokalbiu ir užduočiai išlaikoma medžiaga; antrasis – su generuojamu atsakymu. Greitojo paleidimo 512 žetonų generavimo nustatymas yra tik pavyzdys ir nepakeičia kortelėje nurodytos atsakymo talpos. Vaizdų, vaizdo įrašų ir garso supratimas priklauso atskirai įvardytoms multimodalinėms laidoms, o ne šiam teksto modeliui.\n\nĮvesties formatas ir įrankiais papildytos užduotys\n\nKūrėjo pavyzdyje atitinkamas pokalbio šablonas taikomas atskiriems sistemos ir vartotojo pranešimams. Asistento vaidmenį ir atsakymo taisykles apibrėžkite atskirai nuo nagrinėjamos medžiagos. Pateikite visą klausimą ir pažymėkite šaltinio tekstą, kad jame cituota instrukcija nebūtų supainiota su programos pateikta užduotimi.\n\nOficialiame Qwen2.5 pranešime taip pat aprašomi įrankių iškvietimo šablonai ir suderinamos integracijos. Įrankiais papildytai užduočiai modelį naudojanti programa turi pateikti funkcijų aprašus, vykdyti pasirinktą operaciją ir grąžinti jos rezultatą kitam atsakymui. Pavyzdžiui, pokalbis gali prašyti apskaičiuoti naudojant pateiktą skaičiavimo įrankį; funkcijos rezultatas tampa informacija, kurią modelis gali paaiškinti. Įrankių prieinamumą ir vykdymą suteikia ši integracija, o ši laida teikia tekstinį pokalbio veikimą.\n\nIlgo teksto konfigūracija\n\nPaskelbta konfigūracija iš pradžių apima 32 768 žetonus. Dokumentuotas plėtinys ilgesnėms įvestims naudoja YaRN su pavyzdiniu 4,0 mastelio koeficientu ir pradiniu maksimalių pozicijų nustatymu 32 768. Statinis mastelio keitimas gali paveikti trumpesnio teksto apdorojimą, todėl kūrėjas rekomenduoja jį pridėti, kai reikia ilgo konteksto.\n\nRengdami ilgą šaltinį nustatykite taisytiną dalį ar atsakytiną klausimą ir išlaikykite pagrindžiančias dalis kartu. Aiški užklausa gali prašyti pataisytos ištraukos, pakeitimų lentelės ir originalių skyrių nuorodų. Taip išplėstinis kontekstas naudojamas konkrečiam artefaktui, o atsakymas lieka atskiroje generavimo riboje.", "editorialOverlay": { "copy_fields": { "practical_html": "Techninis pavyzdys anglų kalba
Filter a stock table with missing values\n\nUse this stock table: item_id | stock | reorder_at; A7 | 3 | 5; B2 | 8 | 4; C9 | unknown | 6. Return the identifiers requiring reorder under stock < reorder_at, then list rows that cannot be decided. Preserve identifiers and explain the condition for each selected or unresolved row.A reorder list and a separate unresolved-row list, each with a short source-based reason.Check that equality would not trigger reorder and that unknown stock is not treated as zero.Qwen/Qwen2.5-14B-InstructQwen2.5-14B-Instruct – daugiakalbis teksto modelis instrukcijomis grindžiamiems asistentams, kodui ir matematikai. Ši 14,7 milijardo parametrų laida palaiko lentelių interpretavimą, JSON generavimą ir 8 192 žetonų atsakymo ribą bei išplėstinio konteksto konfigūraciją ilgoms įvestims.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Qwen2.5-14B-Instruct yra instrukcijoms pritaikyta bendros paskirties Qwen2.5 šeimos 14B dydžio versija. Ji priima tekstinį pokalbį ir grąžina tekstą: paaiškinimą, dokumentą, programos kodą arba struktūrizuotus laukus. Kūrėjas pabrėžia instrukcijų laikymąsi, programavimą, matematiką, struktūrizuotų duomenų, tokių kaip lentelės, supratimą ir struktūrizuotų atsakymų generavimą, ypač JSON.
Šeimos patobulinimai
Kūrėjas aprašo platesnes žinias ir stipresnius programavimo bei matematikos gebėjimus nei ankstesnėje Qwen2 kartoje, taip pat ilgų atsakymų generavimą ir geresnį įvairių sistemos instrukcijų apdorojimą. Šeima naudoja pradinio mokymo korpusą, aprašytą kaip siekiantį 18 tūkstančių milijardų žetonų. Šios galimybės padeda kurti konkrečios srities asistentą, kurio vaidmenį ir išvestį nustato užduotis. Šis modelis tebėra bendroji Instruct versija; atskirai įvardytos Qwen2.5-Coder ir Qwen2.5-Math linijos turi savo specializacijas.
Proceso asistentas gali gauti procedūrą ir klausimą apie vieną etapą. Apibrėžkite skaitytojo vaidmenį, paprašykite tam etapui svarbių veiksmų ir reikalaukite išlaikyti originalias procedūros sąlygas. Naudinga išvestis gali atskirti kitą veiksmą, sąlygą, kuri leidžia jį taikyti, ir dar reikalingą informaciją. Taip platus patarimo prašymas tampa atsakymu, susietu su pateiktu procesu.
Kodo paaiškinimui pateikite funkciją, susijusių pagalbinių funkcijų apibrėžimus ir neaiškumą keliančią įvestį. Paprašykite operacijų sekos ir šiai įvesčiai grąžinamos reikšmės. Matematikos paaiškinimui prieš prašydami išvedimo nurodykite simbolius, prielaidas ir tikslinę išraišką. Abi užduotys naudoja tekstą; programos vykdymas ar atskiro skaitinio įrankio suteikimas yra modelį naudojančios programos darbas.
Lentelės ir JSON
Lentelės klausimui išlaikykite stulpelių antraštes ir vienetus, įvardykite susijusias eilutes ir nurodykite palyginimą. Pageidaujama išvestis gali išvardyti tinkamų eilučių identifikatorius ir paaiškinti, kurią pateiktą sąlygą kiekviena eilutė atitinka. Jei lentelėje trūksta reikšmių, nurodykite, ar atsakyme jos turi likti nepateiktos, ar būti aiškiai pažymėtos.
Struktūrizuotam išskyrimui parodykite laukų pavadinimus ir reikiamus tipus. Įvestį, pavyzdžiui, prekės identifikatorių, atsargų kiekį ir sandėlio žymą, galima paversti įrašu su tais pačiais laukais. Prašykite tik įrašo, kai programa jį analizuos; atskiro tekstinio paaiškinimo prašykite, kai vartotojui reikia patikrinti šaltinio interpretaciją. Dokumentuotas modelio gebėjimas generuoti JSON skiriasi nuo konkrečios sąsajos schemos taikymo.
Daugiakalbis pokalbis palaikomas daugiau kaip 29 kalbomis, įskaitant anglų, kinų, rusų, vokiečių, prancūzų, ispanų, portugalų, italų, japonų, korėjiečių, vietnamiečių, tajų ir arabų. Nustatykite galutinę kalbą ir pateikite terminus, kurie turi likti nepakitę. Verčiamam techniniam paaiškinimui paprašykite išlaikyti kintamųjų pavadinimus, cituotas žymas ir vienetus, aplinkinį tekstą pritaikant skaitytojui.
Konkreti 14B laida
Kortelėje nurodyta 14,7 milijardo parametrų, įskaitant 13,1 milijardo parametrų, nepriklausančių įterpiniams, ir 48 Transformer sluoksniai. Architektūra naudoja rotary positional embeddings, SwiGLU, RMSNorm ir attention QKV bias, su 40 užklausų galvučių ir 8 raktų bei reikšmių galvutėmis grupuotų užklausų dėmesio mechanizme. Pradinis ir vėlesnis mokymas sukuria šią Instruct versiją. Jos parametrų ir sluoksnių skaičiai skiriasi nuo 32B versijos net tuomet, kai šeimos galimybės ir paskelbti konteksto skaičiai sutampa.
Modelio kortelėje nurodytas visas 131 072 žetonų kontekstas ir iki 8 192 žetonų generavimas. Pirmasis skaičius susijęs su pokalbiu ir užduočiai išlaikoma medžiaga; antrasis – su generuojamu atsakymu. Greitojo paleidimo 512 žetonų generavimo nustatymas yra tik pavyzdys ir nepakeičia kortelėje nurodytos atsakymo talpos. Vaizdų, vaizdo įrašų ir garso supratimas priklauso atskirai įvardytoms multimodalinėms laidoms, o ne šiam teksto modeliui.
Įvesties formatas ir įrankiais papildytos užduotys
Kūrėjo pavyzdyje atitinkamas pokalbio šablonas taikomas atskiriems sistemos ir vartotojo pranešimams. Asistento vaidmenį ir atsakymo taisykles apibrėžkite atskirai nuo nagrinėjamos medžiagos. Pateikite visą klausimą ir pažymėkite šaltinio tekstą, kad jame cituota instrukcija nebūtų supainiota su programos pateikta užduotimi.
Oficialiame Qwen2.5 pranešime taip pat aprašomi įrankių iškvietimo šablonai ir suderinamos integracijos. Įrankiais papildytai užduočiai modelį naudojanti programa turi pateikti funkcijų aprašus, vykdyti pasirinktą operaciją ir grąžinti jos rezultatą kitam atsakymui. Pavyzdžiui, pokalbis gali prašyti apskaičiuoti naudojant pateiktą skaičiavimo įrankį; funkcijos rezultatas tampa informacija, kurią modelis gali paaiškinti. Įrankių prieinamumą ir vykdymą suteikia ši integracija, o ši laida teikia tekstinį pokalbio veikimą.
Ilgo teksto konfigūracija
Paskelbta konfigūracija iš pradžių apima 32 768 žetonus. Dokumentuotas plėtinys ilgesnėms įvestims naudoja YaRN su pavyzdiniu 4,0 mastelio koeficientu ir pradiniu maksimalių pozicijų nustatymu 32 768. Statinis mastelio keitimas gali paveikti trumpesnio teksto apdorojimą, todėl kūrėjas rekomenduoja jį pridėti, kai reikia ilgo konteksto.
Rengdami ilgą šaltinį nustatykite taisytiną dalį ar atsakytiną klausimą ir išlaikykite pagrindžiančias dalis kartu. Aiški užklausa gali prašyti pataisytos ištraukos, pakeitimų lentelės ir originalių skyrių nuorodų. Taip išplėstinis kontekstas naudojamas konkrečiam artefaktui, o atsakymas lieka atskiroje generavimo riboje.
POST /v1/chat/completionstexttext| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Qwen/Qwen2.5-14B-Instruct | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Pavyzdžiai: system, user, assistant, tool, function Sąlygos: Šie vaidmenys aiškiai išreikšti šaltinio kodo suderinamumo tipuose; tikslus vaidmenų rinkinys priklauso nuo konkretaus modelio. Priklauso nuo modelio | Numatyta— |
Laukasmessages[].content | Tipasstring|content_part[]|null | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].tool_calls | Tipastool_call[] | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].tool_call_id | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Taikoma, kai: role=tool; naudokite tikrąjį grąžintą ID | Numatyta— |
Laukasmessages[].name | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].reasoning_content | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Taikoma, kai: Grąžinkite tikrąjį gautą samprotavimą ten, kur šis modelis jį naudoja | Numatyta— |
Laukasmessages[].reasoning_details | Tipasobject|array | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasmax_tokens | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 Priklauso nuo modelio | Numatyta— |
Laukasmax_completion_tokens | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 Priklauso nuo modelio | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Laukasstream_options.include_usage | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastemperature | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastop_p | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasstop | Tipasstring|string[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastools | Tipasfunction_tool[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastools[].type | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos function Priklauso nuo modelio | Numatyta— |
Laukastools[].function.name | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Taikoma, kai: pateiktas funkcijos tipo įrankis | Numatyta— |
Laukastools[].function.description | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukastools[].function.parameters | TipasJSON_schema | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukastool_choice | Tipasstring|object | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasparallel_tool_calls | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasresponse_format | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasreasoning_effort | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasreasoning | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasservice_tier | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasinstructions | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Suderinamumo laukas | Numatyta— |
Laukasfunctions | Tipasfunction[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasfunction_call | Tipasstring|object | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasprompt_cache_options | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasmodalities | Tipasstring[] | ReikalavimasNeprivaloma | Reikšmės ir ribos text | Numatyta— |
Laukasprovider | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: provider.options šiame Ultra teksto maršrute atmetamas | Numatyta— |
Laukascache_control.ttl | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: 1h atmetamas tikrosiose užklausų podėlio vietose | Numatyta— |
Tekstas · UTF8 tekstas
messages[].content
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages |
Parametrasmaterial_types | Specifikacijatext |
Parametrasmessages | Specifikacijapranešimų masyvas su role/content struktūra |
Parametrasfile_material | Specifikacijatikrasis UTF-8 dokumentas įterptas kaip pažodinis tekstas; failo ID nenumanomas |
Parametrasoptional_controls | Specifikacijastream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrascontrol_scope | Specifikacijapriklauso nuo modelio; naudotojo funkcijų įrankiai skiriasi nuo priglobtų įrankių |
Parametrasoutput_modalities | Specifikacijatext |
Parametrashosted_operations | Specifikacijafalse |
Parametrasmultimodal_input_binding | Specifikacijanull |
Gyvavimo ciklas: synchronous_or_streamed
Siųskite tikslų modelio ID kartu su messages.
Konteksto ilgis nėra išvesties limitas.
Teksto failas gali pateikti pažodinį tekstą; vaizdų / garso / failų objektų įvestims reikia tikslaus susiejimo.
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.0002 / 1K tokenų Išvestis · Išvesties tokenai $0.0002 / 1K tokenų Įvestis · Talpyklos skaitymas $0 / 1K tokenų Įvestis · Rašymas į talpyklą $0 / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "Qwen/Qwen2.5-14B-Instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='Qwen/Qwen2.5-14B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='Qwen/Qwen2.5-14B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite kiekvieną variantą ir jo turinį / įrankių iškvietimus / samprotavimą. SSE prieaugius surinkite pagal varianto / įrankio indeksą; išsaugokite galutinę užbaigimo priežastį ir naudojimo duomenis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukaschoices[].index | Tipasinteger |
Laukaschoices[].message.content | Tipasstring|null |
Laukaschoices[].message.tool_calls | Tipastool_call[] |
Laukaschoices[].message.reasoning_content | Tipasstring |
Laukaschoices[].message.reasoning_details | Tipasobject|array |
Laukaschoices[].finish_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra Qwen/Qwen2.5-14B-Instruct, qwen2.5-14b-instruct
/chat/completions
Qwen/Qwen2.5-14B-InstructQwen2.5-14B-Instruct – daugiakalbis teksto modelis instrukcijomis grindžiamiems asistentams, kodui ir matematikai. Ši 14,7 milijardo parametrų laida palaiko lentelių interpretavimą, JSON generavimą ir 8 192 žetonų atsakymo ribą bei išplėstinio konteksto konfigūraciją ilgoms įvestims.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Qwen2.5-14B-Instruct yra instrukcijoms pritaikyta bendros paskirties Qwen2.5 šeimos 14B dydžio versija. Ji priima tekstinį pokalbį ir grąžina tekstą: paaiškinimą, dokumentą, programos kodą arba struktūrizuotus laukus. Kūrėjas pabrėžia instrukcijų laikymąsi, programavimą, matematiką, struktūrizuotų duomenų, tokių kaip lentelės, supratimą ir struktūrizuotų atsakymų generavimą, ypač JSON.
Šeimos patobulinimai
Kūrėjas aprašo platesnes žinias ir stipresnius programavimo bei matematikos gebėjimus nei ankstesnėje Qwen2 kartoje, taip pat ilgų atsakymų generavimą ir geresnį įvairių sistemos instrukcijų apdorojimą. Šeima naudoja pradinio mokymo korpusą, aprašytą kaip siekiantį 18 tūkstančių milijardų žetonų. Šios galimybės padeda kurti konkrečios srities asistentą, kurio vaidmenį ir išvestį nustato užduotis. Šis modelis tebėra bendroji Instruct versija; atskirai įvardytos Qwen2.5-Coder ir Qwen2.5-Math linijos turi savo specializacijas.
Proceso asistentas gali gauti procedūrą ir klausimą apie vieną etapą. Apibrėžkite skaitytojo vaidmenį, paprašykite tam etapui svarbių veiksmų ir reikalaukite išlaikyti originalias procedūros sąlygas. Naudinga išvestis gali atskirti kitą veiksmą, sąlygą, kuri leidžia jį taikyti, ir dar reikalingą informaciją. Taip platus patarimo prašymas tampa atsakymu, susietu su pateiktu procesu.
Kodo paaiškinimui pateikite funkciją, susijusių pagalbinių funkcijų apibrėžimus ir neaiškumą keliančią įvestį. Paprašykite operacijų sekos ir šiai įvesčiai grąžinamos reikšmės. Matematikos paaiškinimui prieš prašydami išvedimo nurodykite simbolius, prielaidas ir tikslinę išraišką. Abi užduotys naudoja tekstą; programos vykdymas ar atskiro skaitinio įrankio suteikimas yra modelį naudojančios programos darbas.
Lentelės ir JSON
Lentelės klausimui išlaikykite stulpelių antraštes ir vienetus, įvardykite susijusias eilutes ir nurodykite palyginimą. Pageidaujama išvestis gali išvardyti tinkamų eilučių identifikatorius ir paaiškinti, kurią pateiktą sąlygą kiekviena eilutė atitinka. Jei lentelėje trūksta reikšmių, nurodykite, ar atsakyme jos turi likti nepateiktos, ar būti aiškiai pažymėtos.
Struktūrizuotam išskyrimui parodykite laukų pavadinimus ir reikiamus tipus. Įvestį, pavyzdžiui, prekės identifikatorių, atsargų kiekį ir sandėlio žymą, galima paversti įrašu su tais pačiais laukais. Prašykite tik įrašo, kai programa jį analizuos; atskiro tekstinio paaiškinimo prašykite, kai vartotojui reikia patikrinti šaltinio interpretaciją. Dokumentuotas modelio gebėjimas generuoti JSON skiriasi nuo konkrečios sąsajos schemos taikymo.
Daugiakalbis pokalbis palaikomas daugiau kaip 29 kalbomis, įskaitant anglų, kinų, rusų, vokiečių, prancūzų, ispanų, portugalų, italų, japonų, korėjiečių, vietnamiečių, tajų ir arabų. Nustatykite galutinę kalbą ir pateikite terminus, kurie turi likti nepakitę. Verčiamam techniniam paaiškinimui paprašykite išlaikyti kintamųjų pavadinimus, cituotas žymas ir vienetus, aplinkinį tekstą pritaikant skaitytojui.
Konkreti 14B laida
Kortelėje nurodyta 14,7 milijardo parametrų, įskaitant 13,1 milijardo parametrų, nepriklausančių įterpiniams, ir 48 Transformer sluoksniai. Architektūra naudoja rotary positional embeddings, SwiGLU, RMSNorm ir attention QKV bias, su 40 užklausų galvučių ir 8 raktų bei reikšmių galvutėmis grupuotų užklausų dėmesio mechanizme. Pradinis ir vėlesnis mokymas sukuria šią Instruct versiją. Jos parametrų ir sluoksnių skaičiai skiriasi nuo 32B versijos net tuomet, kai šeimos galimybės ir paskelbti konteksto skaičiai sutampa.
Modelio kortelėje nurodytas visas 131 072 žetonų kontekstas ir iki 8 192 žetonų generavimas. Pirmasis skaičius susijęs su pokalbiu ir užduočiai išlaikoma medžiaga; antrasis – su generuojamu atsakymu. Greitojo paleidimo 512 žetonų generavimo nustatymas yra tik pavyzdys ir nepakeičia kortelėje nurodytos atsakymo talpos. Vaizdų, vaizdo įrašų ir garso supratimas priklauso atskirai įvardytoms multimodalinėms laidoms, o ne šiam teksto modeliui.
Įvesties formatas ir įrankiais papildytos užduotys
Kūrėjo pavyzdyje atitinkamas pokalbio šablonas taikomas atskiriems sistemos ir vartotojo pranešimams. Asistento vaidmenį ir atsakymo taisykles apibrėžkite atskirai nuo nagrinėjamos medžiagos. Pateikite visą klausimą ir pažymėkite šaltinio tekstą, kad jame cituota instrukcija nebūtų supainiota su programos pateikta užduotimi.
Oficialiame Qwen2.5 pranešime taip pat aprašomi įrankių iškvietimo šablonai ir suderinamos integracijos. Įrankiais papildytai užduočiai modelį naudojanti programa turi pateikti funkcijų aprašus, vykdyti pasirinktą operaciją ir grąžinti jos rezultatą kitam atsakymui. Pavyzdžiui, pokalbis gali prašyti apskaičiuoti naudojant pateiktą skaičiavimo įrankį; funkcijos rezultatas tampa informacija, kurią modelis gali paaiškinti. Įrankių prieinamumą ir vykdymą suteikia ši integracija, o ši laida teikia tekstinį pokalbio veikimą.
Ilgo teksto konfigūracija
Paskelbta konfigūracija iš pradžių apima 32 768 žetonus. Dokumentuotas plėtinys ilgesnėms įvestims naudoja YaRN su pavyzdiniu 4,0 mastelio koeficientu ir pradiniu maksimalių pozicijų nustatymu 32 768. Statinis mastelio keitimas gali paveikti trumpesnio teksto apdorojimą, todėl kūrėjas rekomenduoja jį pridėti, kai reikia ilgo konteksto.
Rengdami ilgą šaltinį nustatykite taisytiną dalį ar atsakytiną klausimą ir išlaikykite pagrindžiančias dalis kartu. Aiški užklausa gali prašyti pataisytos ištraukos, pakeitimų lentelės ir originalių skyrių nuorodų. Taip išplėstinis kontekstas naudojamas konkrečiam artefaktui, o atsakymas lieka atskiroje generavimo riboje.
POST /v1/messagestextjson, sse| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Qwen/Qwen2.5-14B-Instruct | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos user, assistant | Numatyta— |
Laukasmessages[].content | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmax_tokens | Tipasinteger | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Tekstas · UTF-8 tekstas
messages[].content eilutė
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages, max_tokens |
Parametrasoptional_controls | Specifikacijastream |
Parametrasmaterial_types | Specifikacijatext |
Parametrastext_file_material | SpecifikacijaPerskaitykite tikrąjį UTF-8 dokumentą ir įterpkite jo tekstą į nurodytą input lauką arba pranešimo turinio eilutę. |
Gyvavimo ciklas: synchronous_or_streamed
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.0002 / 1K tokenų Išvestis · Išvesties tokenai $0.0002 / 1K tokenų Įvestis · Talpyklos skaitymas $0 / 1K tokenų Įvestis · Rašymas į talpyklą $0 / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
{\n "model": "Qwen/Qwen2.5-14B-Instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-14B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-14B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite visus turinio blokus, mąstymo parašus ir tikruosius įrankių naudojimo ID. Surinkite visus SSE blokų prieaugius; pirmasis teksto blokas nėra visa išvestis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukasid | Tipasstring |
Laukasmodel | Tipasstring |
Laukascontent[] | Tipastext|thinking|tool_use|other content block |
Laukasstop_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra Qwen/Qwen2.5-14B-Instruct, qwen2.5-14b-instruct
/chat/completions
qwen2.5-14b-instructQwen2.5-14B-Instruct – daugiakalbis teksto modelis instrukcijomis grindžiamiems asistentams, kodui ir matematikai. Ši 14,7 milijardo parametrų laida palaiko lentelių interpretavimą, JSON generavimą ir 8 192 žetonų atsakymo ribą bei išplėstinio konteksto konfigūraciją ilgoms įvestims.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Qwen2.5-14B-Instruct yra instrukcijoms pritaikyta bendros paskirties Qwen2.5 šeimos 14B dydžio versija. Ji priima tekstinį pokalbį ir grąžina tekstą: paaiškinimą, dokumentą, programos kodą arba struktūrizuotus laukus. Kūrėjas pabrėžia instrukcijų laikymąsi, programavimą, matematiką, struktūrizuotų duomenų, tokių kaip lentelės, supratimą ir struktūrizuotų atsakymų generavimą, ypač JSON.
Šeimos patobulinimai
Kūrėjas aprašo platesnes žinias ir stipresnius programavimo bei matematikos gebėjimus nei ankstesnėje Qwen2 kartoje, taip pat ilgų atsakymų generavimą ir geresnį įvairių sistemos instrukcijų apdorojimą. Šeima naudoja pradinio mokymo korpusą, aprašytą kaip siekiantį 18 tūkstančių milijardų žetonų. Šios galimybės padeda kurti konkrečios srities asistentą, kurio vaidmenį ir išvestį nustato užduotis. Šis modelis tebėra bendroji Instruct versija; atskirai įvardytos Qwen2.5-Coder ir Qwen2.5-Math linijos turi savo specializacijas.
Proceso asistentas gali gauti procedūrą ir klausimą apie vieną etapą. Apibrėžkite skaitytojo vaidmenį, paprašykite tam etapui svarbių veiksmų ir reikalaukite išlaikyti originalias procedūros sąlygas. Naudinga išvestis gali atskirti kitą veiksmą, sąlygą, kuri leidžia jį taikyti, ir dar reikalingą informaciją. Taip platus patarimo prašymas tampa atsakymu, susietu su pateiktu procesu.
Kodo paaiškinimui pateikite funkciją, susijusių pagalbinių funkcijų apibrėžimus ir neaiškumą keliančią įvestį. Paprašykite operacijų sekos ir šiai įvesčiai grąžinamos reikšmės. Matematikos paaiškinimui prieš prašydami išvedimo nurodykite simbolius, prielaidas ir tikslinę išraišką. Abi užduotys naudoja tekstą; programos vykdymas ar atskiro skaitinio įrankio suteikimas yra modelį naudojančios programos darbas.
Lentelės ir JSON
Lentelės klausimui išlaikykite stulpelių antraštes ir vienetus, įvardykite susijusias eilutes ir nurodykite palyginimą. Pageidaujama išvestis gali išvardyti tinkamų eilučių identifikatorius ir paaiškinti, kurią pateiktą sąlygą kiekviena eilutė atitinka. Jei lentelėje trūksta reikšmių, nurodykite, ar atsakyme jos turi likti nepateiktos, ar būti aiškiai pažymėtos.
Struktūrizuotam išskyrimui parodykite laukų pavadinimus ir reikiamus tipus. Įvestį, pavyzdžiui, prekės identifikatorių, atsargų kiekį ir sandėlio žymą, galima paversti įrašu su tais pačiais laukais. Prašykite tik įrašo, kai programa jį analizuos; atskiro tekstinio paaiškinimo prašykite, kai vartotojui reikia patikrinti šaltinio interpretaciją. Dokumentuotas modelio gebėjimas generuoti JSON skiriasi nuo konkrečios sąsajos schemos taikymo.
Daugiakalbis pokalbis palaikomas daugiau kaip 29 kalbomis, įskaitant anglų, kinų, rusų, vokiečių, prancūzų, ispanų, portugalų, italų, japonų, korėjiečių, vietnamiečių, tajų ir arabų. Nustatykite galutinę kalbą ir pateikite terminus, kurie turi likti nepakitę. Verčiamam techniniam paaiškinimui paprašykite išlaikyti kintamųjų pavadinimus, cituotas žymas ir vienetus, aplinkinį tekstą pritaikant skaitytojui.
Konkreti 14B laida
Kortelėje nurodyta 14,7 milijardo parametrų, įskaitant 13,1 milijardo parametrų, nepriklausančių įterpiniams, ir 48 Transformer sluoksniai. Architektūra naudoja rotary positional embeddings, SwiGLU, RMSNorm ir attention QKV bias, su 40 užklausų galvučių ir 8 raktų bei reikšmių galvutėmis grupuotų užklausų dėmesio mechanizme. Pradinis ir vėlesnis mokymas sukuria šią Instruct versiją. Jos parametrų ir sluoksnių skaičiai skiriasi nuo 32B versijos net tuomet, kai šeimos galimybės ir paskelbti konteksto skaičiai sutampa.
Modelio kortelėje nurodytas visas 131 072 žetonų kontekstas ir iki 8 192 žetonų generavimas. Pirmasis skaičius susijęs su pokalbiu ir užduočiai išlaikoma medžiaga; antrasis – su generuojamu atsakymu. Greitojo paleidimo 512 žetonų generavimo nustatymas yra tik pavyzdys ir nepakeičia kortelėje nurodytos atsakymo talpos. Vaizdų, vaizdo įrašų ir garso supratimas priklauso atskirai įvardytoms multimodalinėms laidoms, o ne šiam teksto modeliui.
Įvesties formatas ir įrankiais papildytos užduotys
Kūrėjo pavyzdyje atitinkamas pokalbio šablonas taikomas atskiriems sistemos ir vartotojo pranešimams. Asistento vaidmenį ir atsakymo taisykles apibrėžkite atskirai nuo nagrinėjamos medžiagos. Pateikite visą klausimą ir pažymėkite šaltinio tekstą, kad jame cituota instrukcija nebūtų supainiota su programos pateikta užduotimi.
Oficialiame Qwen2.5 pranešime taip pat aprašomi įrankių iškvietimo šablonai ir suderinamos integracijos. Įrankiais papildytai užduočiai modelį naudojanti programa turi pateikti funkcijų aprašus, vykdyti pasirinktą operaciją ir grąžinti jos rezultatą kitam atsakymui. Pavyzdžiui, pokalbis gali prašyti apskaičiuoti naudojant pateiktą skaičiavimo įrankį; funkcijos rezultatas tampa informacija, kurią modelis gali paaiškinti. Įrankių prieinamumą ir vykdymą suteikia ši integracija, o ši laida teikia tekstinį pokalbio veikimą.
Ilgo teksto konfigūracija
Paskelbta konfigūracija iš pradžių apima 32 768 žetonus. Dokumentuotas plėtinys ilgesnėms įvestims naudoja YaRN su pavyzdiniu 4,0 mastelio koeficientu ir pradiniu maksimalių pozicijų nustatymu 32 768. Statinis mastelio keitimas gali paveikti trumpesnio teksto apdorojimą, todėl kūrėjas rekomenduoja jį pridėti, kai reikia ilgo konteksto.
Rengdami ilgą šaltinį nustatykite taisytiną dalį ar atsakytiną klausimą ir išlaikykite pagrindžiančias dalis kartu. Aiški užklausa gali prašyti pataisytos ištraukos, pakeitimų lentelės ir originalių skyrių nuorodų. Taip išplėstinis kontekstas naudojamas konkrečiam artefaktui, o atsakymas lieka atskiroje generavimo riboje.
POST /v1/chat/completionstexttext| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos qwen2.5-14b-instruct | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasmessages[].content | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Taikoma, kai: Tekstinis pokalbis | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Tekstas · UTF8 tekstas
messages[].content
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages |
Parametrasmaterial_types | Specifikacijatext |
Parametrasmessages | Specifikacijapranešimų masyvas su role/content struktūra |
Parametrasfile_material | Specifikacijatikrasis UTF-8 dokumentas įterptas kaip pažodinis tekstas; failo ID nenumanomas |
Parametrasoptional_controls | Specifikacijastream |
Parametrascontrol_scope | SpecifikacijaTekstinis pokalbis; stream yra loginė reikšmė, kurios numatytoji reikšmė yra false. |
Parametrasoutput_modalities | Specifikacijatext |
Parametrashosted_operations | Specifikacijafalse |
Parametrasmultimodal_input_binding | Specifikacijanull |
Metodo pseudonimai: /chat/completions
Gyvavimo ciklas: synchronous_or_streamed
Siųskite tikslų modelio ID kartu su messages.
Konteksto ilgis nėra išvesties limitas.
Teksto failas gali pateikti pažodinį tekstą; vaizdų / garso / failų objektų įvestims reikia tikslaus susiejimo.
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.0002 / 1K tokenų Išvestis · Išvesties tokenai $0.0002 / 1K tokenų Įvestis · Talpyklos skaitymas $0 / 1K tokenų Įvestis · Rašymas į talpyklą $0 / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"qwen2.5-14b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="qwen2.5-14b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite kiekvieną variantą ir jo turinį / įrankių iškvietimus / samprotavimą. SSE prieaugius surinkite pagal varianto / įrankio indeksą; išsaugokite galutinę užbaigimo priežastį ir naudojimo duomenis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukaschoices[].index | Tipasinteger |
Laukaschoices[].message.content | Tipasstring|null |
Laukaschoices[].message.tool_calls | Tipastool_call[] |
Laukaschoices[].message.reasoning_content | Tipasstring |
Laukaschoices[].message.reasoning_details | Tipasobject|array |
Laukaschoices[].finish_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra Qwen/Qwen2.5-14B-Instruct, qwen2.5-14b-instruct
/chat/completions
qwen2.5-14b-instructQwen2.5-14B-Instruct – daugiakalbis teksto modelis instrukcijomis grindžiamiems asistentams, kodui ir matematikai. Ši 14,7 milijardo parametrų laida palaiko lentelių interpretavimą, JSON generavimą ir 8 192 žetonų atsakymo ribą bei išplėstinio konteksto konfigūraciją ilgoms įvestims.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Qwen2.5-14B-Instruct yra instrukcijoms pritaikyta bendros paskirties Qwen2.5 šeimos 14B dydžio versija. Ji priima tekstinį pokalbį ir grąžina tekstą: paaiškinimą, dokumentą, programos kodą arba struktūrizuotus laukus. Kūrėjas pabrėžia instrukcijų laikymąsi, programavimą, matematiką, struktūrizuotų duomenų, tokių kaip lentelės, supratimą ir struktūrizuotų atsakymų generavimą, ypač JSON.
Šeimos patobulinimai
Kūrėjas aprašo platesnes žinias ir stipresnius programavimo bei matematikos gebėjimus nei ankstesnėje Qwen2 kartoje, taip pat ilgų atsakymų generavimą ir geresnį įvairių sistemos instrukcijų apdorojimą. Šeima naudoja pradinio mokymo korpusą, aprašytą kaip siekiantį 18 tūkstančių milijardų žetonų. Šios galimybės padeda kurti konkrečios srities asistentą, kurio vaidmenį ir išvestį nustato užduotis. Šis modelis tebėra bendroji Instruct versija; atskirai įvardytos Qwen2.5-Coder ir Qwen2.5-Math linijos turi savo specializacijas.
Proceso asistentas gali gauti procedūrą ir klausimą apie vieną etapą. Apibrėžkite skaitytojo vaidmenį, paprašykite tam etapui svarbių veiksmų ir reikalaukite išlaikyti originalias procedūros sąlygas. Naudinga išvestis gali atskirti kitą veiksmą, sąlygą, kuri leidžia jį taikyti, ir dar reikalingą informaciją. Taip platus patarimo prašymas tampa atsakymu, susietu su pateiktu procesu.
Kodo paaiškinimui pateikite funkciją, susijusių pagalbinių funkcijų apibrėžimus ir neaiškumą keliančią įvestį. Paprašykite operacijų sekos ir šiai įvesčiai grąžinamos reikšmės. Matematikos paaiškinimui prieš prašydami išvedimo nurodykite simbolius, prielaidas ir tikslinę išraišką. Abi užduotys naudoja tekstą; programos vykdymas ar atskiro skaitinio įrankio suteikimas yra modelį naudojančios programos darbas.
Lentelės ir JSON
Lentelės klausimui išlaikykite stulpelių antraštes ir vienetus, įvardykite susijusias eilutes ir nurodykite palyginimą. Pageidaujama išvestis gali išvardyti tinkamų eilučių identifikatorius ir paaiškinti, kurią pateiktą sąlygą kiekviena eilutė atitinka. Jei lentelėje trūksta reikšmių, nurodykite, ar atsakyme jos turi likti nepateiktos, ar būti aiškiai pažymėtos.
Struktūrizuotam išskyrimui parodykite laukų pavadinimus ir reikiamus tipus. Įvestį, pavyzdžiui, prekės identifikatorių, atsargų kiekį ir sandėlio žymą, galima paversti įrašu su tais pačiais laukais. Prašykite tik įrašo, kai programa jį analizuos; atskiro tekstinio paaiškinimo prašykite, kai vartotojui reikia patikrinti šaltinio interpretaciją. Dokumentuotas modelio gebėjimas generuoti JSON skiriasi nuo konkrečios sąsajos schemos taikymo.
Daugiakalbis pokalbis palaikomas daugiau kaip 29 kalbomis, įskaitant anglų, kinų, rusų, vokiečių, prancūzų, ispanų, portugalų, italų, japonų, korėjiečių, vietnamiečių, tajų ir arabų. Nustatykite galutinę kalbą ir pateikite terminus, kurie turi likti nepakitę. Verčiamam techniniam paaiškinimui paprašykite išlaikyti kintamųjų pavadinimus, cituotas žymas ir vienetus, aplinkinį tekstą pritaikant skaitytojui.
Konkreti 14B laida
Kortelėje nurodyta 14,7 milijardo parametrų, įskaitant 13,1 milijardo parametrų, nepriklausančių įterpiniams, ir 48 Transformer sluoksniai. Architektūra naudoja rotary positional embeddings, SwiGLU, RMSNorm ir attention QKV bias, su 40 užklausų galvučių ir 8 raktų bei reikšmių galvutėmis grupuotų užklausų dėmesio mechanizme. Pradinis ir vėlesnis mokymas sukuria šią Instruct versiją. Jos parametrų ir sluoksnių skaičiai skiriasi nuo 32B versijos net tuomet, kai šeimos galimybės ir paskelbti konteksto skaičiai sutampa.
Modelio kortelėje nurodytas visas 131 072 žetonų kontekstas ir iki 8 192 žetonų generavimas. Pirmasis skaičius susijęs su pokalbiu ir užduočiai išlaikoma medžiaga; antrasis – su generuojamu atsakymu. Greitojo paleidimo 512 žetonų generavimo nustatymas yra tik pavyzdys ir nepakeičia kortelėje nurodytos atsakymo talpos. Vaizdų, vaizdo įrašų ir garso supratimas priklauso atskirai įvardytoms multimodalinėms laidoms, o ne šiam teksto modeliui.
Įvesties formatas ir įrankiais papildytos užduotys
Kūrėjo pavyzdyje atitinkamas pokalbio šablonas taikomas atskiriems sistemos ir vartotojo pranešimams. Asistento vaidmenį ir atsakymo taisykles apibrėžkite atskirai nuo nagrinėjamos medžiagos. Pateikite visą klausimą ir pažymėkite šaltinio tekstą, kad jame cituota instrukcija nebūtų supainiota su programos pateikta užduotimi.
Oficialiame Qwen2.5 pranešime taip pat aprašomi įrankių iškvietimo šablonai ir suderinamos integracijos. Įrankiais papildytai užduočiai modelį naudojanti programa turi pateikti funkcijų aprašus, vykdyti pasirinktą operaciją ir grąžinti jos rezultatą kitam atsakymui. Pavyzdžiui, pokalbis gali prašyti apskaičiuoti naudojant pateiktą skaičiavimo įrankį; funkcijos rezultatas tampa informacija, kurią modelis gali paaiškinti. Įrankių prieinamumą ir vykdymą suteikia ši integracija, o ši laida teikia tekstinį pokalbio veikimą.
Ilgo teksto konfigūracija
Paskelbta konfigūracija iš pradžių apima 32 768 žetonus. Dokumentuotas plėtinys ilgesnėms įvestims naudoja YaRN su pavyzdiniu 4,0 mastelio koeficientu ir pradiniu maksimalių pozicijų nustatymu 32 768. Statinis mastelio keitimas gali paveikti trumpesnio teksto apdorojimą, todėl kūrėjas rekomenduoja jį pridėti, kai reikia ilgo konteksto.
Rengdami ilgą šaltinį nustatykite taisytiną dalį ar atsakytiną klausimą ir išlaikykite pagrindžiančias dalis kartu. Aiški užklausa gali prašyti pataisytos ištraukos, pakeitimų lentelės ir originalių skyrių nuorodų. Taip išplėstinis kontekstas naudojamas konkrečiam artefaktui, o atsakymas lieka atskiroje generavimo riboje.
POST /v1/messagestextjson, sse| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos qwen2.5-14b-instruct | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos user, assistant | Numatyta— |
Laukasmessages[].content | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmax_tokens | Tipasinteger | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Tekstas · UTF-8 tekstas
messages[].content eilutė
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages, max_tokens |
Parametrasoptional_controls | Specifikacijastream |
Parametrasmaterial_types | Specifikacijatext |
Parametrastext_file_material | SpecifikacijaPerskaitykite tikrąjį UTF-8 dokumentą ir įterpkite jo tekstą į nurodytą input lauką arba pranešimo turinio eilutę. |
Gyvavimo ciklas: synchronous_or_streamed
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.0002 / 1K tokenų Išvestis · Išvesties tokenai $0.0002 / 1K tokenų Įvestis · Talpyklos skaitymas $0 / 1K tokenų Įvestis · Rašymas į talpyklą $0 / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
{\n "model": "qwen2.5-14b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-14b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-14b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite visus turinio blokus, mąstymo parašus ir tikruosius įrankių naudojimo ID. Surinkite visus SSE blokų prieaugius; pirmasis teksto blokas nėra visa išvestis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukasid | Tipasstring |
Laukasmodel | Tipasstring |
Laukascontent[] | Tipastext|thinking|tool_use|other content block |
Laukasstop_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra Qwen/Qwen2.5-14B-Instruct, qwen2.5-14b-instruct
/chat/completions
Techninis pavyzdys anglų kalba
Filter a stock table with missing values\n\nUse this stock table: item_id | stock | reorder_at; A7 | 3 | 5; B2 | 8 | 4; C9 | unknown | 6. Return the identifiers requiring reorder under stock < reorder_at, then list rows that cannot be decided. Preserve identifiers and explain the condition for each selected or unresolved row.A reorder list and a separate unresolved-row list, each with a short source-based reason.Check that equality would not trigger reorder and that unknown stock is not treated as zero.