Qwen2.5-32B-Instruct yra instrukcijoms pritaikytas 32B dydžio teksto modelis bendrojoje Qwen2.5 šeimoje. Jis derina kalbos supratimą ir generavimą su programavimu bei matematika ir nėra atskirai įvardytas Coder ar Math specialistas. Kūrėjas ypač pabrėžia išsamių instrukcijų laikymąsi, ilgų tekstų rašymą, lentelių supratimą ir struktūrizuoto teksto kūrimą, ypač JSON. Šeima iš pradžių mokyta su korpusu, aprašytu kaip siekiančiu 18 tūkstančių milijardų žetonų.
Struktūrizuoti duomenys, ilgi atsakymai ir daugiakalbis darbas
Naudinga išskyrimo užduotis pateikia šaltinio ištrauką ir tikslius laukus, reikalingus kitam programos žingsniui. Apibrėžkite laukų tipus, ar formuluotę reikia kopijuoti, ar apibendrinti, ir kaip vaizduoti nepateiktą informaciją. Pavyzdžiui, produkto įraše galima prašyti identifikatoriaus, veikimo sąlygų ir neišspręstų klausimų sąrašo. Prašykite vien JSON įrašo, kai jis turi būti analizuojamas, arba atskiro paaiškinimo, kai žmogui reikia patikrinti išskirtų laukų pagrindimą.
Lentelių supratimas yra kitas dokumentuotas akcentas. Kartu su klausimu pateikite stulpelių pavadinimus, vienetus ir susijusias eilutes. Paprašykite nustatyti sąlygą atitinkančias eilutes, paaiškinti pokytį tarp laikotarpių arba lentelę paversti rašytine ataskaita. Praktinė išvestis gali išlaikyti kiekvienos eilutės identifikatorių šalia išvados. Taip išsaugomas pateiktų duomenų ir atsakymo ryšys, o ne kuriama santrauka be atsekamos šaltinio eilutės.
Ilgam rašytiniam darbui prieš prašydami dokumento įvardykite auditoriją, dalis ir šaltinio faktus. Techninis pasiūlymas gali reikalauti problemos apibrėžimo, reikalavimų, alternatyvų ir rekomendacijos naudojant tik pateiktą medžiagą. Nurodykite, kurios sąlygos privalomos, o kurios yra išspręstini klausimai. Kūrėjas taip pat tobulina atsparumą skirtingoms sisteminėms užklausoms, palaikantį apibrėžtą vaidmenį, toną ir pokalbio sąlygas.
Šeima palaiko daugiau kaip 29 kalbas, įskaitant anglų, kinų, rusų, prancūzų, ispanų, portugalų, vokiečių, italų, japonų, korėjiečių, vietnamiečių, tajų ir arabų. Daugiakalbei užduočiai atskirkite šaltinio kalbą nuo reikiamos išvesties kalbos ir pateikite terminų sąrašą, kai pavadinimai ar techniniai terminai turi būti nuoseklūs. Dvikalbė ataskaita gali prašyti tų pačių šaltinio faktų dviejose versijose, išlaikant identifikatorius ir vienetus nepakeistus.
Šios versijos modelio duomenys
32B-Instruct laida turi 32,5 milijardo parametrų, iš jų 31,0 milijardo nėra įterpinių parametrai, ir 64 Transformer sluoksnius. Ji naudoja rotary positional embeddings, SwiGLU, RMSNorm ir attention QKV bias. Grupuotų užklausų dėmesys naudoja 40 užklausų galvučių ir 8 raktų bei reikšmių galvutes. Tai tankiosios architektūros, tik dekoderio kalbos modelio laida su pradiniu ir vėlesniu mokymu; Instruct žymi pokalbiui mokytą versiją, o ne bazinį modelį.
Kortelėje nurodytas visas 131 072 žetonų kontekstas ir iki 8 192 žetonų generavimas. Šie skaičiai aprašo skirtingas užduoties dalis: kontekstas išlaiko užklausą ir pokalbį, o generavimo skaičius apriboja rašytinį atsakymą. Greitojo paleidimo 512 generuojamų žetonų yra tik pavyzdys didesnėje nurodytoje generavimo riboje. Modelis priima ir grąžina tekstą; nuskenuotos lentelės ar ekrano kopijos turinį reikia pateikti tekstu arba naudoti atskirą vaizdo modelį.
Pokalbis ir įrankiai
Modelio kortelėje demonstruojami atskiri sistemos ir vartotojo pranešimai, suformatuoti atitinkamu pokalbio šablonu. Nuolatines asistento atsakymo taisykles įrašykite į tinkamą pokalbio vaidmenį, o tikrą dokumentą, lentelę ar kodą pateikite su vartotojo užduotimi. Pažymėkite ribą tarp cituojamos šaltinio medžiagos ir instrukcijų, kad instrukcija dokumente nebūtų palaikyta programos numatyta užduotimi.
Oficialus šeimos pranešimas dokumentuoja įrankių iškvietimą per suderinamus pokalbio šablonus ir paslaugos integracijas. Tokiuose procesuose programa teikia funkcijų aprašus, gauna siūlomą iškvietimą, vykdo funkciją ir grąžina rezultatą. Tai gali susieti tekstinį klausimą su skaičiavimu ar duomenų paieška, bet vien šio modelio pasirinkimas nesuteikia išorinio įrankio ar jo duomenų. JSON generavimas ir įrankio iškvietimas taip pat skirtingi rezultatai: vienas formatuoja tekstą, kitas prašo modelį naudojančios programos atlikti įvardytą operaciją.
Ilgo konteksto parengimas
Išleista konfigūracija prasideda nuo 32 768 žetonų. Įvestims virš šio nustatymo reikia dokumentuoto YaRN plėtinio, kurio pavyzdyje naudojamas 4,0 koeficientas ir pradinis maksimalių pozicijų nustatymas 32 768. Kūrėjas įspėja, kad statinis mastelio keitimas gali paveikti trumpesnio teksto apdorojimą, ir rekomenduoja jį įjungti, kai reikia ilgo konteksto.
Didelių dokumentų palyginimui nurodykite kiekvieno dokumento vaidmenį ir paprašykite vieno aiškiai apibrėžto artefakto: reikalavimų matricos, neatitikimų sąrašo ar pataisytos dalies. Šalia išskirtų išvadų palikite šaltinio vietas ir skirkite pakankamai vietos atsakymui pagal reikiamą struktūrą. Ilgas kontekstas padeda išlaikyti svarbią medžiagą kartu; jis nepakeičia būtinybės apibrėžti, ką reikia lyginti ir kaip bus naudojamas galutinis rezultatas.
", "aboutText": "Qwen2.5-32B-Instruct yra instrukcijoms pritaikytas 32B dydžio teksto modelis bendrojoje Qwen2.5 šeimoje. Jis derina kalbos supratimą ir generavimą su programavimu bei matematika ir nėra atskirai įvardytas Coder ar Math specialistas. Kūrėjas ypač pabrėžia išsamių instrukcijų laikymąsi, ilgų tekstų rašymą, lentelių supratimą ir struktūrizuoto teksto kūrimą, ypač JSON. Šeima iš pradžių mokyta su korpusu, aprašytu kaip siekiančiu 18 tūkstančių milijardų žetonų.\n\nStruktūrizuoti duomenys, ilgi atsakymai ir daugiakalbis darbas\n\nNaudinga išskyrimo užduotis pateikia šaltinio ištrauką ir tikslius laukus, reikalingus kitam programos žingsniui. Apibrėžkite laukų tipus, ar formuluotę reikia kopijuoti, ar apibendrinti, ir kaip vaizduoti nepateiktą informaciją. Pavyzdžiui, produkto įraše galima prašyti identifikatoriaus, veikimo sąlygų ir neišspręstų klausimų sąrašo. Prašykite vien JSON įrašo, kai jis turi būti analizuojamas, arba atskiro paaiškinimo, kai žmogui reikia patikrinti išskirtų laukų pagrindimą.\n\nLentelių supratimas yra kitas dokumentuotas akcentas. Kartu su klausimu pateikite stulpelių pavadinimus, vienetus ir susijusias eilutes. Paprašykite nustatyti sąlygą atitinkančias eilutes, paaiškinti pokytį tarp laikotarpių arba lentelę paversti rašytine ataskaita. Praktinė išvestis gali išlaikyti kiekvienos eilutės identifikatorių šalia išvados. Taip išsaugomas pateiktų duomenų ir atsakymo ryšys, o ne kuriama santrauka be atsekamos šaltinio eilutės.\n\nIlgam rašytiniam darbui prieš prašydami dokumento įvardykite auditoriją, dalis ir šaltinio faktus. Techninis pasiūlymas gali reikalauti problemos apibrėžimo, reikalavimų, alternatyvų ir rekomendacijos naudojant tik pateiktą medžiagą. Nurodykite, kurios sąlygos privalomos, o kurios yra išspręstini klausimai. Kūrėjas taip pat tobulina atsparumą skirtingoms sisteminėms užklausoms, palaikantį apibrėžtą vaidmenį, toną ir pokalbio sąlygas.\n\nŠeima palaiko daugiau kaip 29 kalbas, įskaitant anglų, kinų, rusų, prancūzų, ispanų, portugalų, vokiečių, italų, japonų, korėjiečių, vietnamiečių, tajų ir arabų. Daugiakalbei užduočiai atskirkite šaltinio kalbą nuo reikiamos išvesties kalbos ir pateikite terminų sąrašą, kai pavadinimai ar techniniai terminai turi būti nuoseklūs. Dvikalbė ataskaita gali prašyti tų pačių šaltinio faktų dviejose versijose, išlaikant identifikatorius ir vienetus nepakeistus.\n\nŠios versijos modelio duomenys\n\n32B-Instruct laida turi 32,5 milijardo parametrų, iš jų 31,0 milijardo nėra įterpinių parametrai, ir 64 Transformer sluoksnius. Ji naudoja rotary positional embeddings, SwiGLU, RMSNorm ir attention QKV bias. Grupuotų užklausų dėmesys naudoja 40 užklausų galvučių ir 8 raktų bei reikšmių galvutes. Tai tankiosios architektūros, tik dekoderio kalbos modelio laida su pradiniu ir vėlesniu mokymu; Instruct žymi pokalbiui mokytą versiją, o ne bazinį modelį.\n\nKortelėje nurodytas visas 131 072 žetonų kontekstas ir iki 8 192 žetonų generavimas. Šie skaičiai aprašo skirtingas užduoties dalis: kontekstas išlaiko užklausą ir pokalbį, o generavimo skaičius apriboja rašytinį atsakymą. Greitojo paleidimo 512 generuojamų žetonų yra tik pavyzdys didesnėje nurodytoje generavimo riboje. Modelis priima ir grąžina tekstą; nuskenuotos lentelės ar ekrano kopijos turinį reikia pateikti tekstu arba naudoti atskirą vaizdo modelį.\n\nPokalbis ir įrankiai\n\nModelio kortelėje demonstruojami atskiri sistemos ir vartotojo pranešimai, suformatuoti atitinkamu pokalbio šablonu. Nuolatines asistento atsakymo taisykles įrašykite į tinkamą pokalbio vaidmenį, o tikrą dokumentą, lentelę ar kodą pateikite su vartotojo užduotimi. Pažymėkite ribą tarp cituojamos šaltinio medžiagos ir instrukcijų, kad instrukcija dokumente nebūtų palaikyta programos numatyta užduotimi.\n\nOficialus šeimos pranešimas dokumentuoja įrankių iškvietimą per suderinamus pokalbio šablonus ir paslaugos integracijas. Tokiuose procesuose programa teikia funkcijų aprašus, gauna siūlomą iškvietimą, vykdo funkciją ir grąžina rezultatą. Tai gali susieti tekstinį klausimą su skaičiavimu ar duomenų paieška, bet vien šio modelio pasirinkimas nesuteikia išorinio įrankio ar jo duomenų. JSON generavimas ir įrankio iškvietimas taip pat skirtingi rezultatai: vienas formatuoja tekstą, kitas prašo modelį naudojančios programos atlikti įvardytą operaciją.\n\nIlgo konteksto parengimas\n\nIšleista konfigūracija prasideda nuo 32 768 žetonų. Įvestims virš šio nustatymo reikia dokumentuoto YaRN plėtinio, kurio pavyzdyje naudojamas 4,0 koeficientas ir pradinis maksimalių pozicijų nustatymas 32 768. Kūrėjas įspėja, kad statinis mastelio keitimas gali paveikti trumpesnio teksto apdorojimą, ir rekomenduoja jį įjungti, kai reikia ilgo konteksto.\n\nDidelių dokumentų palyginimui nurodykite kiekvieno dokumento vaidmenį ir paprašykite vieno aiškiai apibrėžto artefakto: reikalavimų matricos, neatitikimų sąrašo ar pataisytos dalies. Šalia išskirtų išvadų palikite šaltinio vietas ir skirkite pakankamai vietos atsakymui pagal reikiamą struktūrą. Ilgas kontekstas padeda išlaikyti svarbią medžiagą kartu; jis nepakeičia būtinybės apibrėžti, ką reikia lyginti ir kaip bus naudojamas galutinis rezultatas.", "editorialOverlay": { "copy_fields": { "practical_html": "Techninis pavyzdys anglų kalba
Explain a stock table\n\nAnalyze this text table: SKU | opening units | received units | shipped units. A1 | 20 | 10 | 18. B2 | 7 | 0 | 9. Calculate closing stock for each SKU, identify any impossible negative balance and draft a short note naming the row that needs investigation. Preserve column units.A closing-stock table with row IDs and a short anomaly note supported by the source values.Recalculate opening plus received minus shipped and verify the B2 discrepancy is flagged rather than corrected.Qwen/Qwen2.5-32B-InstructQwen2.5-32B-Instruct – daugiakalbis teksto modelis išsamioms instrukcijoms, programavimui, matematikai ir struktūrizuotiems duomenims. Jo 32,5 milijardo parametrų versija pabrėžia lentelių supratimą, JSON išvestį ir ilgus rašytinius rezultatus, su dokumentuotais išplėstinio konteksto nustatymais.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Qwen2.5-32B-Instruct yra instrukcijoms pritaikytas 32B dydžio teksto modelis bendrojoje Qwen2.5 šeimoje. Jis derina kalbos supratimą ir generavimą su programavimu bei matematika ir nėra atskirai įvardytas Coder ar Math specialistas. Kūrėjas ypač pabrėžia išsamių instrukcijų laikymąsi, ilgų tekstų rašymą, lentelių supratimą ir struktūrizuoto teksto kūrimą, ypač JSON. Šeima iš pradžių mokyta su korpusu, aprašytu kaip siekiančiu 18 tūkstančių milijardų žetonų.
Struktūrizuoti duomenys, ilgi atsakymai ir daugiakalbis darbas
Naudinga išskyrimo užduotis pateikia šaltinio ištrauką ir tikslius laukus, reikalingus kitam programos žingsniui. Apibrėžkite laukų tipus, ar formuluotę reikia kopijuoti, ar apibendrinti, ir kaip vaizduoti nepateiktą informaciją. Pavyzdžiui, produkto įraše galima prašyti identifikatoriaus, veikimo sąlygų ir neišspręstų klausimų sąrašo. Prašykite vien JSON įrašo, kai jis turi būti analizuojamas, arba atskiro paaiškinimo, kai žmogui reikia patikrinti išskirtų laukų pagrindimą.
Lentelių supratimas yra kitas dokumentuotas akcentas. Kartu su klausimu pateikite stulpelių pavadinimus, vienetus ir susijusias eilutes. Paprašykite nustatyti sąlygą atitinkančias eilutes, paaiškinti pokytį tarp laikotarpių arba lentelę paversti rašytine ataskaita. Praktinė išvestis gali išlaikyti kiekvienos eilutės identifikatorių šalia išvados. Taip išsaugomas pateiktų duomenų ir atsakymo ryšys, o ne kuriama santrauka be atsekamos šaltinio eilutės.
Ilgam rašytiniam darbui prieš prašydami dokumento įvardykite auditoriją, dalis ir šaltinio faktus. Techninis pasiūlymas gali reikalauti problemos apibrėžimo, reikalavimų, alternatyvų ir rekomendacijos naudojant tik pateiktą medžiagą. Nurodykite, kurios sąlygos privalomos, o kurios yra išspręstini klausimai. Kūrėjas taip pat tobulina atsparumą skirtingoms sisteminėms užklausoms, palaikantį apibrėžtą vaidmenį, toną ir pokalbio sąlygas.
Šeima palaiko daugiau kaip 29 kalbas, įskaitant anglų, kinų, rusų, prancūzų, ispanų, portugalų, vokiečių, italų, japonų, korėjiečių, vietnamiečių, tajų ir arabų. Daugiakalbei užduočiai atskirkite šaltinio kalbą nuo reikiamos išvesties kalbos ir pateikite terminų sąrašą, kai pavadinimai ar techniniai terminai turi būti nuoseklūs. Dvikalbė ataskaita gali prašyti tų pačių šaltinio faktų dviejose versijose, išlaikant identifikatorius ir vienetus nepakeistus.
Šios versijos modelio duomenys
32B-Instruct laida turi 32,5 milijardo parametrų, iš jų 31,0 milijardo nėra įterpinių parametrai, ir 64 Transformer sluoksnius. Ji naudoja rotary positional embeddings, SwiGLU, RMSNorm ir attention QKV bias. Grupuotų užklausų dėmesys naudoja 40 užklausų galvučių ir 8 raktų bei reikšmių galvutes. Tai tankiosios architektūros, tik dekoderio kalbos modelio laida su pradiniu ir vėlesniu mokymu; Instruct žymi pokalbiui mokytą versiją, o ne bazinį modelį.
Kortelėje nurodytas visas 131 072 žetonų kontekstas ir iki 8 192 žetonų generavimas. Šie skaičiai aprašo skirtingas užduoties dalis: kontekstas išlaiko užklausą ir pokalbį, o generavimo skaičius apriboja rašytinį atsakymą. Greitojo paleidimo 512 generuojamų žetonų yra tik pavyzdys didesnėje nurodytoje generavimo riboje. Modelis priima ir grąžina tekstą; nuskenuotos lentelės ar ekrano kopijos turinį reikia pateikti tekstu arba naudoti atskirą vaizdo modelį.
Pokalbis ir įrankiai
Modelio kortelėje demonstruojami atskiri sistemos ir vartotojo pranešimai, suformatuoti atitinkamu pokalbio šablonu. Nuolatines asistento atsakymo taisykles įrašykite į tinkamą pokalbio vaidmenį, o tikrą dokumentą, lentelę ar kodą pateikite su vartotojo užduotimi. Pažymėkite ribą tarp cituojamos šaltinio medžiagos ir instrukcijų, kad instrukcija dokumente nebūtų palaikyta programos numatyta užduotimi.
Oficialus šeimos pranešimas dokumentuoja įrankių iškvietimą per suderinamus pokalbio šablonus ir paslaugos integracijas. Tokiuose procesuose programa teikia funkcijų aprašus, gauna siūlomą iškvietimą, vykdo funkciją ir grąžina rezultatą. Tai gali susieti tekstinį klausimą su skaičiavimu ar duomenų paieška, bet vien šio modelio pasirinkimas nesuteikia išorinio įrankio ar jo duomenų. JSON generavimas ir įrankio iškvietimas taip pat skirtingi rezultatai: vienas formatuoja tekstą, kitas prašo modelį naudojančios programos atlikti įvardytą operaciją.
Ilgo konteksto parengimas
Išleista konfigūracija prasideda nuo 32 768 žetonų. Įvestims virš šio nustatymo reikia dokumentuoto YaRN plėtinio, kurio pavyzdyje naudojamas 4,0 koeficientas ir pradinis maksimalių pozicijų nustatymas 32 768. Kūrėjas įspėja, kad statinis mastelio keitimas gali paveikti trumpesnio teksto apdorojimą, ir rekomenduoja jį įjungti, kai reikia ilgo konteksto.
Didelių dokumentų palyginimui nurodykite kiekvieno dokumento vaidmenį ir paprašykite vieno aiškiai apibrėžto artefakto: reikalavimų matricos, neatitikimų sąrašo ar pataisytos dalies. Šalia išskirtų išvadų palikite šaltinio vietas ir skirkite pakankamai vietos atsakymui pagal reikiamą struktūrą. Ilgas kontekstas padeda išlaikyti svarbią medžiagą kartu; jis nepakeičia būtinybės apibrėžti, ką reikia lyginti ir kaip bus naudojamas galutinis rezultatas.
POST /v1/chat/completionstexttext| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Qwen/Qwen2.5-32B-Instruct | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Pavyzdžiai: system, user, assistant, tool, function Sąlygos: Šie vaidmenys aiškiai išreikšti šaltinio kodo suderinamumo tipuose; tikslus vaidmenų rinkinys priklauso nuo konkretaus modelio. Priklauso nuo modelio | Numatyta— |
Laukasmessages[].content | Tipasstring|content_part[]|null | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].tool_calls | Tipastool_call[] | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].tool_call_id | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Taikoma, kai: role=tool; naudokite tikrąjį grąžintą ID | Numatyta— |
Laukasmessages[].name | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].reasoning_content | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Taikoma, kai: Grąžinkite tikrąjį gautą samprotavimą ten, kur šis modelis jį naudoja | Numatyta— |
Laukasmessages[].reasoning_details | Tipasobject|array | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasmax_tokens | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 Priklauso nuo modelio | Numatyta— |
Laukasmax_completion_tokens | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 Priklauso nuo modelio | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Laukasstream_options.include_usage | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastemperature | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastop_p | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasstop | Tipasstring|string[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastools | Tipasfunction_tool[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastools[].type | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos function Priklauso nuo modelio | Numatyta— |
Laukastools[].function.name | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Taikoma, kai: pateiktas funkcijos tipo įrankis | Numatyta— |
Laukastools[].function.description | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukastools[].function.parameters | TipasJSON_schema | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukastool_choice | Tipasstring|object | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasparallel_tool_calls | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasresponse_format | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasreasoning_effort | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasreasoning | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasservice_tier | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasinstructions | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Suderinamumo laukas | Numatyta— |
Laukasfunctions | Tipasfunction[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasfunction_call | Tipasstring|object | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasprompt_cache_options | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasmodalities | Tipasstring[] | ReikalavimasNeprivaloma | Reikšmės ir ribos text | Numatyta— |
Laukasprovider | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: provider.options šiame Ultra teksto maršrute atmetamas | Numatyta— |
Laukascache_control.ttl | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: 1h atmetamas tikrosiose užklausų podėlio vietose | Numatyta— |
Tekstas · UTF8 tekstas
messages[].content
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages |
Parametrasmaterial_types | Specifikacijatext |
Parametrasmessages | Specifikacijapranešimų masyvas su role/content struktūra |
Parametrasfile_material | Specifikacijatikrasis UTF-8 dokumentas įterptas kaip pažodinis tekstas; failo ID nenumanomas |
Parametrasoptional_controls | Specifikacijastream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrascontrol_scope | Specifikacijapriklauso nuo modelio; naudotojo funkcijų įrankiai skiriasi nuo priglobtų įrankių |
Parametrasoutput_modalities | Specifikacijatext |
Parametrashosted_operations | Specifikacijafalse |
Parametrasmultimodal_input_binding | Specifikacijanull |
Gyvavimo ciklas: synchronous_or_streamed
Siųskite tikslų modelio ID kartu su messages.
Konteksto ilgis nėra išvesties limitas.
Teksto failas gali pateikti pažodinį tekstą; vaizdų / garso / failų objektų įvestims reikia tikslaus susiejimo.
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.00036 / 1K tokenų Išvestis · Išvesties tokenai $0.00036 / 1K tokenų Įvestis · Talpyklos skaitymas $0 / 1K tokenų Įvestis · Rašymas į talpyklą $0 / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "Qwen/Qwen2.5-32B-Instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='Qwen/Qwen2.5-32B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='Qwen/Qwen2.5-32B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite kiekvieną variantą ir jo turinį / įrankių iškvietimus / samprotavimą. SSE prieaugius surinkite pagal varianto / įrankio indeksą; išsaugokite galutinę užbaigimo priežastį ir naudojimo duomenis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukaschoices[].index | Tipasinteger |
Laukaschoices[].message.content | Tipasstring|null |
Laukaschoices[].message.tool_calls | Tipastool_call[] |
Laukaschoices[].message.reasoning_content | Tipasstring |
Laukaschoices[].message.reasoning_details | Tipasobject|array |
Laukaschoices[].finish_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
Qwen/Qwen2.5-32B-InstructQwen2.5-32B-Instruct – daugiakalbis teksto modelis išsamioms instrukcijoms, programavimui, matematikai ir struktūrizuotiems duomenims. Jo 32,5 milijardo parametrų versija pabrėžia lentelių supratimą, JSON išvestį ir ilgus rašytinius rezultatus, su dokumentuotais išplėstinio konteksto nustatymais.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Qwen2.5-32B-Instruct yra instrukcijoms pritaikytas 32B dydžio teksto modelis bendrojoje Qwen2.5 šeimoje. Jis derina kalbos supratimą ir generavimą su programavimu bei matematika ir nėra atskirai įvardytas Coder ar Math specialistas. Kūrėjas ypač pabrėžia išsamių instrukcijų laikymąsi, ilgų tekstų rašymą, lentelių supratimą ir struktūrizuoto teksto kūrimą, ypač JSON. Šeima iš pradžių mokyta su korpusu, aprašytu kaip siekiančiu 18 tūkstančių milijardų žetonų.
Struktūrizuoti duomenys, ilgi atsakymai ir daugiakalbis darbas
Naudinga išskyrimo užduotis pateikia šaltinio ištrauką ir tikslius laukus, reikalingus kitam programos žingsniui. Apibrėžkite laukų tipus, ar formuluotę reikia kopijuoti, ar apibendrinti, ir kaip vaizduoti nepateiktą informaciją. Pavyzdžiui, produkto įraše galima prašyti identifikatoriaus, veikimo sąlygų ir neišspręstų klausimų sąrašo. Prašykite vien JSON įrašo, kai jis turi būti analizuojamas, arba atskiro paaiškinimo, kai žmogui reikia patikrinti išskirtų laukų pagrindimą.
Lentelių supratimas yra kitas dokumentuotas akcentas. Kartu su klausimu pateikite stulpelių pavadinimus, vienetus ir susijusias eilutes. Paprašykite nustatyti sąlygą atitinkančias eilutes, paaiškinti pokytį tarp laikotarpių arba lentelę paversti rašytine ataskaita. Praktinė išvestis gali išlaikyti kiekvienos eilutės identifikatorių šalia išvados. Taip išsaugomas pateiktų duomenų ir atsakymo ryšys, o ne kuriama santrauka be atsekamos šaltinio eilutės.
Ilgam rašytiniam darbui prieš prašydami dokumento įvardykite auditoriją, dalis ir šaltinio faktus. Techninis pasiūlymas gali reikalauti problemos apibrėžimo, reikalavimų, alternatyvų ir rekomendacijos naudojant tik pateiktą medžiagą. Nurodykite, kurios sąlygos privalomos, o kurios yra išspręstini klausimai. Kūrėjas taip pat tobulina atsparumą skirtingoms sisteminėms užklausoms, palaikantį apibrėžtą vaidmenį, toną ir pokalbio sąlygas.
Šeima palaiko daugiau kaip 29 kalbas, įskaitant anglų, kinų, rusų, prancūzų, ispanų, portugalų, vokiečių, italų, japonų, korėjiečių, vietnamiečių, tajų ir arabų. Daugiakalbei užduočiai atskirkite šaltinio kalbą nuo reikiamos išvesties kalbos ir pateikite terminų sąrašą, kai pavadinimai ar techniniai terminai turi būti nuoseklūs. Dvikalbė ataskaita gali prašyti tų pačių šaltinio faktų dviejose versijose, išlaikant identifikatorius ir vienetus nepakeistus.
Šios versijos modelio duomenys
32B-Instruct laida turi 32,5 milijardo parametrų, iš jų 31,0 milijardo nėra įterpinių parametrai, ir 64 Transformer sluoksnius. Ji naudoja rotary positional embeddings, SwiGLU, RMSNorm ir attention QKV bias. Grupuotų užklausų dėmesys naudoja 40 užklausų galvučių ir 8 raktų bei reikšmių galvutes. Tai tankiosios architektūros, tik dekoderio kalbos modelio laida su pradiniu ir vėlesniu mokymu; Instruct žymi pokalbiui mokytą versiją, o ne bazinį modelį.
Kortelėje nurodytas visas 131 072 žetonų kontekstas ir iki 8 192 žetonų generavimas. Šie skaičiai aprašo skirtingas užduoties dalis: kontekstas išlaiko užklausą ir pokalbį, o generavimo skaičius apriboja rašytinį atsakymą. Greitojo paleidimo 512 generuojamų žetonų yra tik pavyzdys didesnėje nurodytoje generavimo riboje. Modelis priima ir grąžina tekstą; nuskenuotos lentelės ar ekrano kopijos turinį reikia pateikti tekstu arba naudoti atskirą vaizdo modelį.
Pokalbis ir įrankiai
Modelio kortelėje demonstruojami atskiri sistemos ir vartotojo pranešimai, suformatuoti atitinkamu pokalbio šablonu. Nuolatines asistento atsakymo taisykles įrašykite į tinkamą pokalbio vaidmenį, o tikrą dokumentą, lentelę ar kodą pateikite su vartotojo užduotimi. Pažymėkite ribą tarp cituojamos šaltinio medžiagos ir instrukcijų, kad instrukcija dokumente nebūtų palaikyta programos numatyta užduotimi.
Oficialus šeimos pranešimas dokumentuoja įrankių iškvietimą per suderinamus pokalbio šablonus ir paslaugos integracijas. Tokiuose procesuose programa teikia funkcijų aprašus, gauna siūlomą iškvietimą, vykdo funkciją ir grąžina rezultatą. Tai gali susieti tekstinį klausimą su skaičiavimu ar duomenų paieška, bet vien šio modelio pasirinkimas nesuteikia išorinio įrankio ar jo duomenų. JSON generavimas ir įrankio iškvietimas taip pat skirtingi rezultatai: vienas formatuoja tekstą, kitas prašo modelį naudojančios programos atlikti įvardytą operaciją.
Ilgo konteksto parengimas
Išleista konfigūracija prasideda nuo 32 768 žetonų. Įvestims virš šio nustatymo reikia dokumentuoto YaRN plėtinio, kurio pavyzdyje naudojamas 4,0 koeficientas ir pradinis maksimalių pozicijų nustatymas 32 768. Kūrėjas įspėja, kad statinis mastelio keitimas gali paveikti trumpesnio teksto apdorojimą, ir rekomenduoja jį įjungti, kai reikia ilgo konteksto.
Didelių dokumentų palyginimui nurodykite kiekvieno dokumento vaidmenį ir paprašykite vieno aiškiai apibrėžto artefakto: reikalavimų matricos, neatitikimų sąrašo ar pataisytos dalies. Šalia išskirtų išvadų palikite šaltinio vietas ir skirkite pakankamai vietos atsakymui pagal reikiamą struktūrą. Ilgas kontekstas padeda išlaikyti svarbią medžiagą kartu; jis nepakeičia būtinybės apibrėžti, ką reikia lyginti ir kaip bus naudojamas galutinis rezultatas.
POST /v1/messagestextjson, sse| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Qwen/Qwen2.5-32B-Instruct | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos user, assistant | Numatyta— |
Laukasmessages[].content | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmax_tokens | Tipasinteger | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Tekstas · UTF-8 tekstas
messages[].content eilutė
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages, max_tokens |
Parametrasoptional_controls | Specifikacijastream |
Parametrasmaterial_types | Specifikacijatext |
Parametrastext_file_material | SpecifikacijaPerskaitykite tikrąjį UTF-8 dokumentą ir įterpkite jo tekstą į nurodytą input lauką arba pranešimo turinio eilutę. |
Gyvavimo ciklas: synchronous_or_streamed
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.00036 / 1K tokenų Išvestis · Išvesties tokenai $0.00036 / 1K tokenų Įvestis · Talpyklos skaitymas $0 / 1K tokenų Įvestis · Rašymas į talpyklą $0 / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
{\n "model": "Qwen/Qwen2.5-32B-Instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-32B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-32B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite visus turinio blokus, mąstymo parašus ir tikruosius įrankių naudojimo ID. Surinkite visus SSE blokų prieaugius; pirmasis teksto blokas nėra visa išvestis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukasid | Tipasstring |
Laukasmodel | Tipasstring |
Laukascontent[] | Tipastext|thinking|tool_use|other content block |
Laukasstop_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
qwen2.5-32b-instructQwen2.5-32B-Instruct – daugiakalbis teksto modelis išsamioms instrukcijoms, programavimui, matematikai ir struktūrizuotiems duomenims. Jo 32,5 milijardo parametrų versija pabrėžia lentelių supratimą, JSON išvestį ir ilgus rašytinius rezultatus, su dokumentuotais išplėstinio konteksto nustatymais.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Qwen2.5-32B-Instruct yra instrukcijoms pritaikytas 32B dydžio teksto modelis bendrojoje Qwen2.5 šeimoje. Jis derina kalbos supratimą ir generavimą su programavimu bei matematika ir nėra atskirai įvardytas Coder ar Math specialistas. Kūrėjas ypač pabrėžia išsamių instrukcijų laikymąsi, ilgų tekstų rašymą, lentelių supratimą ir struktūrizuoto teksto kūrimą, ypač JSON. Šeima iš pradžių mokyta su korpusu, aprašytu kaip siekiančiu 18 tūkstančių milijardų žetonų.
Struktūrizuoti duomenys, ilgi atsakymai ir daugiakalbis darbas
Naudinga išskyrimo užduotis pateikia šaltinio ištrauką ir tikslius laukus, reikalingus kitam programos žingsniui. Apibrėžkite laukų tipus, ar formuluotę reikia kopijuoti, ar apibendrinti, ir kaip vaizduoti nepateiktą informaciją. Pavyzdžiui, produkto įraše galima prašyti identifikatoriaus, veikimo sąlygų ir neišspręstų klausimų sąrašo. Prašykite vien JSON įrašo, kai jis turi būti analizuojamas, arba atskiro paaiškinimo, kai žmogui reikia patikrinti išskirtų laukų pagrindimą.
Lentelių supratimas yra kitas dokumentuotas akcentas. Kartu su klausimu pateikite stulpelių pavadinimus, vienetus ir susijusias eilutes. Paprašykite nustatyti sąlygą atitinkančias eilutes, paaiškinti pokytį tarp laikotarpių arba lentelę paversti rašytine ataskaita. Praktinė išvestis gali išlaikyti kiekvienos eilutės identifikatorių šalia išvados. Taip išsaugomas pateiktų duomenų ir atsakymo ryšys, o ne kuriama santrauka be atsekamos šaltinio eilutės.
Ilgam rašytiniam darbui prieš prašydami dokumento įvardykite auditoriją, dalis ir šaltinio faktus. Techninis pasiūlymas gali reikalauti problemos apibrėžimo, reikalavimų, alternatyvų ir rekomendacijos naudojant tik pateiktą medžiagą. Nurodykite, kurios sąlygos privalomos, o kurios yra išspręstini klausimai. Kūrėjas taip pat tobulina atsparumą skirtingoms sisteminėms užklausoms, palaikantį apibrėžtą vaidmenį, toną ir pokalbio sąlygas.
Šeima palaiko daugiau kaip 29 kalbas, įskaitant anglų, kinų, rusų, prancūzų, ispanų, portugalų, vokiečių, italų, japonų, korėjiečių, vietnamiečių, tajų ir arabų. Daugiakalbei užduočiai atskirkite šaltinio kalbą nuo reikiamos išvesties kalbos ir pateikite terminų sąrašą, kai pavadinimai ar techniniai terminai turi būti nuoseklūs. Dvikalbė ataskaita gali prašyti tų pačių šaltinio faktų dviejose versijose, išlaikant identifikatorius ir vienetus nepakeistus.
Šios versijos modelio duomenys
32B-Instruct laida turi 32,5 milijardo parametrų, iš jų 31,0 milijardo nėra įterpinių parametrai, ir 64 Transformer sluoksnius. Ji naudoja rotary positional embeddings, SwiGLU, RMSNorm ir attention QKV bias. Grupuotų užklausų dėmesys naudoja 40 užklausų galvučių ir 8 raktų bei reikšmių galvutes. Tai tankiosios architektūros, tik dekoderio kalbos modelio laida su pradiniu ir vėlesniu mokymu; Instruct žymi pokalbiui mokytą versiją, o ne bazinį modelį.
Kortelėje nurodytas visas 131 072 žetonų kontekstas ir iki 8 192 žetonų generavimas. Šie skaičiai aprašo skirtingas užduoties dalis: kontekstas išlaiko užklausą ir pokalbį, o generavimo skaičius apriboja rašytinį atsakymą. Greitojo paleidimo 512 generuojamų žetonų yra tik pavyzdys didesnėje nurodytoje generavimo riboje. Modelis priima ir grąžina tekstą; nuskenuotos lentelės ar ekrano kopijos turinį reikia pateikti tekstu arba naudoti atskirą vaizdo modelį.
Pokalbis ir įrankiai
Modelio kortelėje demonstruojami atskiri sistemos ir vartotojo pranešimai, suformatuoti atitinkamu pokalbio šablonu. Nuolatines asistento atsakymo taisykles įrašykite į tinkamą pokalbio vaidmenį, o tikrą dokumentą, lentelę ar kodą pateikite su vartotojo užduotimi. Pažymėkite ribą tarp cituojamos šaltinio medžiagos ir instrukcijų, kad instrukcija dokumente nebūtų palaikyta programos numatyta užduotimi.
Oficialus šeimos pranešimas dokumentuoja įrankių iškvietimą per suderinamus pokalbio šablonus ir paslaugos integracijas. Tokiuose procesuose programa teikia funkcijų aprašus, gauna siūlomą iškvietimą, vykdo funkciją ir grąžina rezultatą. Tai gali susieti tekstinį klausimą su skaičiavimu ar duomenų paieška, bet vien šio modelio pasirinkimas nesuteikia išorinio įrankio ar jo duomenų. JSON generavimas ir įrankio iškvietimas taip pat skirtingi rezultatai: vienas formatuoja tekstą, kitas prašo modelį naudojančios programos atlikti įvardytą operaciją.
Ilgo konteksto parengimas
Išleista konfigūracija prasideda nuo 32 768 žetonų. Įvestims virš šio nustatymo reikia dokumentuoto YaRN plėtinio, kurio pavyzdyje naudojamas 4,0 koeficientas ir pradinis maksimalių pozicijų nustatymas 32 768. Kūrėjas įspėja, kad statinis mastelio keitimas gali paveikti trumpesnio teksto apdorojimą, ir rekomenduoja jį įjungti, kai reikia ilgo konteksto.
Didelių dokumentų palyginimui nurodykite kiekvieno dokumento vaidmenį ir paprašykite vieno aiškiai apibrėžto artefakto: reikalavimų matricos, neatitikimų sąrašo ar pataisytos dalies. Šalia išskirtų išvadų palikite šaltinio vietas ir skirkite pakankamai vietos atsakymui pagal reikiamą struktūrą. Ilgas kontekstas padeda išlaikyti svarbią medžiagą kartu; jis nepakeičia būtinybės apibrėžti, ką reikia lyginti ir kaip bus naudojamas galutinis rezultatas.
POST /v1/chat/completionstexttext| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos qwen2.5-32b-instruct | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasmessages[].content | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Taikoma, kai: Tekstinis pokalbis | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Tekstas · UTF8 tekstas
messages[].content
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages |
Parametrasmaterial_types | Specifikacijatext |
Parametrasmessages | Specifikacijapranešimų masyvas su role/content struktūra |
Parametrasfile_material | Specifikacijatikrasis UTF-8 dokumentas įterptas kaip pažodinis tekstas; failo ID nenumanomas |
Parametrasoptional_controls | Specifikacijastream |
Parametrascontrol_scope | SpecifikacijaTekstinis pokalbis; stream yra loginė reikšmė, kurios numatytoji reikšmė yra false. |
Parametrasoutput_modalities | Specifikacijatext |
Parametrashosted_operations | Specifikacijafalse |
Parametrasmultimodal_input_binding | Specifikacijanull |
Metodo pseudonimai: /chat/completions
Gyvavimo ciklas: synchronous_or_streamed
Siųskite tikslų modelio ID kartu su messages.
Konteksto ilgis nėra išvesties limitas.
Teksto failas gali pateikti pažodinį tekstą; vaizdų / garso / failų objektų įvestims reikia tikslaus susiejimo.
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.00036 / 1K tokenų Išvestis · Išvesties tokenai $0.00036 / 1K tokenų Įvestis · Talpyklos skaitymas $0 / 1K tokenų Įvestis · Rašymas į talpyklą $0 / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"qwen2.5-32b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="qwen2.5-32b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite kiekvieną variantą ir jo turinį / įrankių iškvietimus / samprotavimą. SSE prieaugius surinkite pagal varianto / įrankio indeksą; išsaugokite galutinę užbaigimo priežastį ir naudojimo duomenis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukaschoices[].index | Tipasinteger |
Laukaschoices[].message.content | Tipasstring|null |
Laukaschoices[].message.tool_calls | Tipastool_call[] |
Laukaschoices[].message.reasoning_content | Tipasstring |
Laukaschoices[].message.reasoning_details | Tipasobject|array |
Laukaschoices[].finish_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
qwen2.5-32b-instructQwen2.5-32B-Instruct – daugiakalbis teksto modelis išsamioms instrukcijoms, programavimui, matematikai ir struktūrizuotiems duomenims. Jo 32,5 milijardo parametrų versija pabrėžia lentelių supratimą, JSON išvestį ir ilgus rašytinius rezultatus, su dokumentuotais išplėstinio konteksto nustatymais.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Qwen2.5-32B-Instruct yra instrukcijoms pritaikytas 32B dydžio teksto modelis bendrojoje Qwen2.5 šeimoje. Jis derina kalbos supratimą ir generavimą su programavimu bei matematika ir nėra atskirai įvardytas Coder ar Math specialistas. Kūrėjas ypač pabrėžia išsamių instrukcijų laikymąsi, ilgų tekstų rašymą, lentelių supratimą ir struktūrizuoto teksto kūrimą, ypač JSON. Šeima iš pradžių mokyta su korpusu, aprašytu kaip siekiančiu 18 tūkstančių milijardų žetonų.
Struktūrizuoti duomenys, ilgi atsakymai ir daugiakalbis darbas
Naudinga išskyrimo užduotis pateikia šaltinio ištrauką ir tikslius laukus, reikalingus kitam programos žingsniui. Apibrėžkite laukų tipus, ar formuluotę reikia kopijuoti, ar apibendrinti, ir kaip vaizduoti nepateiktą informaciją. Pavyzdžiui, produkto įraše galima prašyti identifikatoriaus, veikimo sąlygų ir neišspręstų klausimų sąrašo. Prašykite vien JSON įrašo, kai jis turi būti analizuojamas, arba atskiro paaiškinimo, kai žmogui reikia patikrinti išskirtų laukų pagrindimą.
Lentelių supratimas yra kitas dokumentuotas akcentas. Kartu su klausimu pateikite stulpelių pavadinimus, vienetus ir susijusias eilutes. Paprašykite nustatyti sąlygą atitinkančias eilutes, paaiškinti pokytį tarp laikotarpių arba lentelę paversti rašytine ataskaita. Praktinė išvestis gali išlaikyti kiekvienos eilutės identifikatorių šalia išvados. Taip išsaugomas pateiktų duomenų ir atsakymo ryšys, o ne kuriama santrauka be atsekamos šaltinio eilutės.
Ilgam rašytiniam darbui prieš prašydami dokumento įvardykite auditoriją, dalis ir šaltinio faktus. Techninis pasiūlymas gali reikalauti problemos apibrėžimo, reikalavimų, alternatyvų ir rekomendacijos naudojant tik pateiktą medžiagą. Nurodykite, kurios sąlygos privalomos, o kurios yra išspręstini klausimai. Kūrėjas taip pat tobulina atsparumą skirtingoms sisteminėms užklausoms, palaikantį apibrėžtą vaidmenį, toną ir pokalbio sąlygas.
Šeima palaiko daugiau kaip 29 kalbas, įskaitant anglų, kinų, rusų, prancūzų, ispanų, portugalų, vokiečių, italų, japonų, korėjiečių, vietnamiečių, tajų ir arabų. Daugiakalbei užduočiai atskirkite šaltinio kalbą nuo reikiamos išvesties kalbos ir pateikite terminų sąrašą, kai pavadinimai ar techniniai terminai turi būti nuoseklūs. Dvikalbė ataskaita gali prašyti tų pačių šaltinio faktų dviejose versijose, išlaikant identifikatorius ir vienetus nepakeistus.
Šios versijos modelio duomenys
32B-Instruct laida turi 32,5 milijardo parametrų, iš jų 31,0 milijardo nėra įterpinių parametrai, ir 64 Transformer sluoksnius. Ji naudoja rotary positional embeddings, SwiGLU, RMSNorm ir attention QKV bias. Grupuotų užklausų dėmesys naudoja 40 užklausų galvučių ir 8 raktų bei reikšmių galvutes. Tai tankiosios architektūros, tik dekoderio kalbos modelio laida su pradiniu ir vėlesniu mokymu; Instruct žymi pokalbiui mokytą versiją, o ne bazinį modelį.
Kortelėje nurodytas visas 131 072 žetonų kontekstas ir iki 8 192 žetonų generavimas. Šie skaičiai aprašo skirtingas užduoties dalis: kontekstas išlaiko užklausą ir pokalbį, o generavimo skaičius apriboja rašytinį atsakymą. Greitojo paleidimo 512 generuojamų žetonų yra tik pavyzdys didesnėje nurodytoje generavimo riboje. Modelis priima ir grąžina tekstą; nuskenuotos lentelės ar ekrano kopijos turinį reikia pateikti tekstu arba naudoti atskirą vaizdo modelį.
Pokalbis ir įrankiai
Modelio kortelėje demonstruojami atskiri sistemos ir vartotojo pranešimai, suformatuoti atitinkamu pokalbio šablonu. Nuolatines asistento atsakymo taisykles įrašykite į tinkamą pokalbio vaidmenį, o tikrą dokumentą, lentelę ar kodą pateikite su vartotojo užduotimi. Pažymėkite ribą tarp cituojamos šaltinio medžiagos ir instrukcijų, kad instrukcija dokumente nebūtų palaikyta programos numatyta užduotimi.
Oficialus šeimos pranešimas dokumentuoja įrankių iškvietimą per suderinamus pokalbio šablonus ir paslaugos integracijas. Tokiuose procesuose programa teikia funkcijų aprašus, gauna siūlomą iškvietimą, vykdo funkciją ir grąžina rezultatą. Tai gali susieti tekstinį klausimą su skaičiavimu ar duomenų paieška, bet vien šio modelio pasirinkimas nesuteikia išorinio įrankio ar jo duomenų. JSON generavimas ir įrankio iškvietimas taip pat skirtingi rezultatai: vienas formatuoja tekstą, kitas prašo modelį naudojančios programos atlikti įvardytą operaciją.
Ilgo konteksto parengimas
Išleista konfigūracija prasideda nuo 32 768 žetonų. Įvestims virš šio nustatymo reikia dokumentuoto YaRN plėtinio, kurio pavyzdyje naudojamas 4,0 koeficientas ir pradinis maksimalių pozicijų nustatymas 32 768. Kūrėjas įspėja, kad statinis mastelio keitimas gali paveikti trumpesnio teksto apdorojimą, ir rekomenduoja jį įjungti, kai reikia ilgo konteksto.
Didelių dokumentų palyginimui nurodykite kiekvieno dokumento vaidmenį ir paprašykite vieno aiškiai apibrėžto artefakto: reikalavimų matricos, neatitikimų sąrašo ar pataisytos dalies. Šalia išskirtų išvadų palikite šaltinio vietas ir skirkite pakankamai vietos atsakymui pagal reikiamą struktūrą. Ilgas kontekstas padeda išlaikyti svarbią medžiagą kartu; jis nepakeičia būtinybės apibrėžti, ką reikia lyginti ir kaip bus naudojamas galutinis rezultatas.
POST /v1/messagestextjson, sse| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos qwen2.5-32b-instruct | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos user, assistant | Numatyta— |
Laukasmessages[].content | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmax_tokens | Tipasinteger | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Tekstas · UTF-8 tekstas
messages[].content eilutė
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages, max_tokens |
Parametrasoptional_controls | Specifikacijastream |
Parametrasmaterial_types | Specifikacijatext |
Parametrastext_file_material | SpecifikacijaPerskaitykite tikrąjį UTF-8 dokumentą ir įterpkite jo tekstą į nurodytą input lauką arba pranešimo turinio eilutę. |
Gyvavimo ciklas: synchronous_or_streamed
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.00036 / 1K tokenų Išvestis · Išvesties tokenai $0.00036 / 1K tokenų Įvestis · Talpyklos skaitymas $0 / 1K tokenų Įvestis · Rašymas į talpyklą $0 / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
{\n "model": "qwen2.5-32b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-32b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-32b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite visus turinio blokus, mąstymo parašus ir tikruosius įrankių naudojimo ID. Surinkite visus SSE blokų prieaugius; pirmasis teksto blokas nėra visa išvestis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukasid | Tipasstring |
Laukasmodel | Tipasstring |
Laukascontent[] | Tipastext|thinking|tool_use|other content block |
Laukasstop_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
Techninis pavyzdys anglų kalba
Explain a stock table\n\nAnalyze this text table: SKU | opening units | received units | shipped units. A1 | 20 | 10 | 18. B2 | 7 | 0 | 9. Calculate closing stock for each SKU, identify any impossible negative balance and draft a short note naming the row that needs investigation. Preserve column units.A closing-stock table with row IDs and a short anomaly note supported by the source values.Recalculate opening plus received minus shipped and verify the B2 discrepancy is flagged rather than corrected.