Mistral Small 4 viename multimodaliniame modelyje sujungia bendrą instrukcijų vykdymą, samprotavimą ir programavimą. Gamintojas jį aprašo kaip suvienijantį Instruct, Magistral samprotavimo ir Devstral programavimo šeimas. Jis priima tekstą bei vaizdus ir grąžina tekstą, o įrankiais paremtoms programoms prieinami funkcijų kvietimai ir JSON išvestis.
Architektūra ir pagrindinės savybės
Laida turi iš viso 119 mlrd. parametrų ir aktyvina 6,5 mlrd. kiekvienam žetonui. Ekspertų mišinio architektūroje yra 128 ekspertai, iš jų 4 aktyvūs, o gamintojas dokumentuoja 256 tūkst. žetonų konteksto langą. Aktyvių parametrų ir ekspertų skaičiai aprašo modelio organizavimą; jie skiriasi nuo teksto ar vaizdų turinio kiekio vienoje užduotyje.
Modelis pateikia instrukcijų ir samprotavimo funkcijas tame pačiame kontroliniame taške. Gamintojas taip pat įvardija regą, sisteminių užklausų laikymąsi ir daugiakalbį palaikymą dešimtimis kalbų, įskaitant anglų, prancūzų, ispanų, vokiečių, italų, portugalų, olandų, kinų, japonų, korėjiečių ir arabų. Todėl tekstinė instrukcija gali klausti apie vaizdą ar sujungti rašytinį reikalavimą su matomais įrodymais, o atsakymas grąžinamas tekstu.
Vaizdinė užduotis gali pateikti dokumento puslapį ir prašyti reikšmių, susijusių su įvardyta sąlyga. Išlaikykite žymas bei vienetus įskaitomus ir nurodykite, ar rezultatas turi išsaugoti originalią formuluotę, ją apibendrinti ar palyginti su kitu šaltiniu. Sąsajos užduotis gali susieti ekrano kopiją su naudotojo tikslu ir prašyti aktualaus matomo valdiklio bei siūlomą kitą žingsnį pagrindžiančių įrodymų.
Instrukcijų ar samprotavimo režimo pasirinkimas
Išleistoje kortelėje dokumentuota samprotavimo pastangų reikšmė none greitam instrukcinio tipo atsakymui ir high samprotavimui, o high rekomenduojama sudėtingoms užklausoms. Pasirinkimas atliekamas kiekvienai užklausai tame pačiame Small 4 modelyje. Įprasto klasifikavimo ar trumpo perrašymo atsakymo sutartis gali skirtis nuo matematinės, vaizdinės ar kodo problemos, kuriai reikia išplėtoto paaiškinimo.
Didelėms samprotavimo pastangoms gamintojas rekomenduoja temperatūrą 0.7. Režimui none nurodo temperatūrą nuo 0.0 iki 0.7 pagal užduotį. Šie nustatymai aprašo dokumentuotus režimus ir nepaverčia samprotavimo pastangų teisingo rezultato garantija. Prieš rinkdamiesi, kiek užduočiai reikia samprotavimo, apibrėžkite prielaidas, išvesties formą ir aktualią šaltinių medžiagą.
Sprendžiamam uždaviniui pateikite visą sąlygą ir prašykite svarbių pagrįstų žingsnių, po jų – galutinės išraiškos. Kodo užduočiai pateikite reikalavimą, paveiktą funkciją ir konkrečią įvestį; siūlomo įgyvendinimo prašykite atskirai nuo paaiškinimo bei pavyzdžių. Gamintojo naudojimo demonstracijos apima instrukcijų vykdymą, vaizdui pritaikytą skaičiavimo įrankį ir vaizdinį samprotavimą, parodant, kaip tekstas bei vaizdiniai įrodymai gali patekti į šias skirtingas užduotis.
Programavimas, dokumentai ir įrankiai
Modelis skirtas kodo bazės tyrimui ir programinės įrangos kūrimo agentams, bendriesiems asistentams, dokumentų supratimui bei tyrimams. Programavimo agento užklausa gali įvardyti keistiną modulį, išsaugotiną sąsają ir reikiamą veikimą. Pateikite aktualų kodą ir klaidos įrodymus. Modelis gali siūlyti kitą operaciją ar kodo pakeitimą, o programa suteikia prieigą prie repozitorijos, vykdymą ir grįžtamąjį ryšį.
Duomenims iš dokumentų išgauti įvardykite privalomus laukus ir trūkstamos informacijos vaizdavimą. Naudingas įrašas gali atskirti dokumento identifikatorių, šaltinio teiginį, interpretuotą reikalavimą ir neišspręstą klausimą. Gamintojo paslaugos kortelėje nurodyta pasirinktinė struktūruota išvestis ir atsakymas į klausimus apie dokumentus; pastarasis naudoja dokumento apdorojimą ir OCR tekstui bei struktūrai paruošti prieš kalbos modelio analizę. Tiesioginis klausimas apie vaizdą ir OCR paremtas dokumento procesas turi išlaikyti savą įvesties paruošimą.
Funkcijų kvietimui reikia aiškiai aprašytų įrankių. Modelis parenka funkciją ir sukuria argumentus; programa vykdo operaciją ir grąžina rezultatą vėlesniam atsakymui. Ta pati logika taikoma ir paieškos, ir skaičiavimo, ir programavimo operacijai. JSON formatavimas sutvarko atsakymą, o įrankio kvietimas prašo išorinio veiksmo; jų nereikia laikyti sukeičiamais rezultatais.
Paslaugos kortelėje taip pat nurodytos numatomos išvestys, atsakymo prefiksai, paketinis apdorojimas ir agentų pokalbiai. Numatomos išvestys naudingos, kai dokumentą ar kodo failą reikia sugeneruoti iš naujo tik su ribotu pakeitimu, o likęs turinys žinomas. Nurodykite pakeitimą ir išsaugotiną medžiagą. Prefikso tęsimas naudoja žinomą atsakymo pradžią, o paketinis apdorojimas susijęs su darbo pateikimu, ne papildomu samprotavimo režimu.
Konteksto ir versijos ribos
Rašytinę užduotį, vaizdinę medžiagą, pokalbį ir pageidaujamą atsakymą planuokite pagal dokumentuotą 256 tūkst. žetonų kontekstą. Išleistas naudojimo pavyzdys sukonfigūruoja 262 144 žetonų kontekstą, o jo 1 024 žetonų generavimo pavyzdys nėra atskira didžiausia išvesties talpa. Skaityti šaltiniai nepateikia nepriklausomos griežtos atsakymo ilgio ribos, kuria būtų galima pakeisti pasirinktą užduoties ilgį.
Small 4 turi savą 119 mlrd. parametrų ekspertų mišinio architektūrą ir hibridinius režimus. Jis neturi paveldėti tankiosios Medium 3.5 128 mlrd. parametrų architektūros ar atskirų Ministral 3 Instruct ir Reasoning versijų. Gamintojas taip pat išleidžia atskirus kvantizuotus bei spekuliatyviojo dekodavimo artefaktus; tai atskiri diegimo artefaktai, o ne skirtingi turinio modalumai. Išsaugokite įvardytą Small 4 laidą ir režimą, prašomą faktiniam paaiškinimui, struktūruotam įrašui ar kodo rezultatui.
", "aboutText": "Mistral Small 4 viename multimodaliniame modelyje sujungia bendrą instrukcijų vykdymą, samprotavimą ir programavimą. Gamintojas jį aprašo kaip suvienijantį Instruct, Magistral samprotavimo ir Devstral programavimo šeimas. Jis priima tekstą bei vaizdus ir grąžina tekstą, o įrankiais paremtoms programoms prieinami funkcijų kvietimai ir JSON išvestis.\n\nArchitektūra ir pagrindinės savybės\n\nLaida turi iš viso 119 mlrd. parametrų ir aktyvina 6,5 mlrd. kiekvienam žetonui. Ekspertų mišinio architektūroje yra 128 ekspertai, iš jų 4 aktyvūs, o gamintojas dokumentuoja 256 tūkst. žetonų konteksto langą. Aktyvių parametrų ir ekspertų skaičiai aprašo modelio organizavimą; jie skiriasi nuo teksto ar vaizdų turinio kiekio vienoje užduotyje.\n\nModelis pateikia instrukcijų ir samprotavimo funkcijas tame pačiame kontroliniame taške. Gamintojas taip pat įvardija regą, sisteminių užklausų laikymąsi ir daugiakalbį palaikymą dešimtimis kalbų, įskaitant anglų, prancūzų, ispanų, vokiečių, italų, portugalų, olandų, kinų, japonų, korėjiečių ir arabų. Todėl tekstinė instrukcija gali klausti apie vaizdą ar sujungti rašytinį reikalavimą su matomais įrodymais, o atsakymas grąžinamas tekstu.\n\nVaizdinė užduotis gali pateikti dokumento puslapį ir prašyti reikšmių, susijusių su įvardyta sąlyga. Išlaikykite žymas bei vienetus įskaitomus ir nurodykite, ar rezultatas turi išsaugoti originalią formuluotę, ją apibendrinti ar palyginti su kitu šaltiniu. Sąsajos užduotis gali susieti ekrano kopiją su naudotojo tikslu ir prašyti aktualaus matomo valdiklio bei siūlomą kitą žingsnį pagrindžiančių įrodymų.\n\nInstrukcijų ar samprotavimo režimo pasirinkimas\n\nIšleistoje kortelėje dokumentuota samprotavimo pastangų reikšmė none greitam instrukcinio tipo atsakymui ir high samprotavimui, o high rekomenduojama sudėtingoms užklausoms. Pasirinkimas atliekamas kiekvienai užklausai tame pačiame Small 4 modelyje. Įprasto klasifikavimo ar trumpo perrašymo atsakymo sutartis gali skirtis nuo matematinės, vaizdinės ar kodo problemos, kuriai reikia išplėtoto paaiškinimo.\n\nDidelėms samprotavimo pastangoms gamintojas rekomenduoja temperatūrą 0.7. Režimui none nurodo temperatūrą nuo 0.0 iki 0.7 pagal užduotį. Šie nustatymai aprašo dokumentuotus režimus ir nepaverčia samprotavimo pastangų teisingo rezultato garantija. Prieš rinkdamiesi, kiek užduočiai reikia samprotavimo, apibrėžkite prielaidas, išvesties formą ir aktualią šaltinių medžiagą.\n\nSprendžiamam uždaviniui pateikite visą sąlygą ir prašykite svarbių pagrįstų žingsnių, po jų – galutinės išraiškos. Kodo užduočiai pateikite reikalavimą, paveiktą funkciją ir konkrečią įvestį; siūlomo įgyvendinimo prašykite atskirai nuo paaiškinimo bei pavyzdžių. Gamintojo naudojimo demonstracijos apima instrukcijų vykdymą, vaizdui pritaikytą skaičiavimo įrankį ir vaizdinį samprotavimą, parodant, kaip tekstas bei vaizdiniai įrodymai gali patekti į šias skirtingas užduotis.\n\nProgramavimas, dokumentai ir įrankiai\n\nModelis skirtas kodo bazės tyrimui ir programinės įrangos kūrimo agentams, bendriesiems asistentams, dokumentų supratimui bei tyrimams. Programavimo agento užklausa gali įvardyti keistiną modulį, išsaugotiną sąsają ir reikiamą veikimą. Pateikite aktualų kodą ir klaidos įrodymus. Modelis gali siūlyti kitą operaciją ar kodo pakeitimą, o programa suteikia prieigą prie repozitorijos, vykdymą ir grįžtamąjį ryšį.\n\nDuomenims iš dokumentų išgauti įvardykite privalomus laukus ir trūkstamos informacijos vaizdavimą. Naudingas įrašas gali atskirti dokumento identifikatorių, šaltinio teiginį, interpretuotą reikalavimą ir neišspręstą klausimą. Gamintojo paslaugos kortelėje nurodyta pasirinktinė struktūruota išvestis ir atsakymas į klausimus apie dokumentus; pastarasis naudoja dokumento apdorojimą ir OCR tekstui bei struktūrai paruošti prieš kalbos modelio analizę. Tiesioginis klausimas apie vaizdą ir OCR paremtas dokumento procesas turi išlaikyti savą įvesties paruošimą.\n\nFunkcijų kvietimui reikia aiškiai aprašytų įrankių. Modelis parenka funkciją ir sukuria argumentus; programa vykdo operaciją ir grąžina rezultatą vėlesniam atsakymui. Ta pati logika taikoma ir paieškos, ir skaičiavimo, ir programavimo operacijai. JSON formatavimas sutvarko atsakymą, o įrankio kvietimas prašo išorinio veiksmo; jų nereikia laikyti sukeičiamais rezultatais.\n\nPaslaugos kortelėje taip pat nurodytos numatomos išvestys, atsakymo prefiksai, paketinis apdorojimas ir agentų pokalbiai. Numatomos išvestys naudingos, kai dokumentą ar kodo failą reikia sugeneruoti iš naujo tik su ribotu pakeitimu, o likęs turinys žinomas. Nurodykite pakeitimą ir išsaugotiną medžiagą. Prefikso tęsimas naudoja žinomą atsakymo pradžią, o paketinis apdorojimas susijęs su darbo pateikimu, ne papildomu samprotavimo režimu.\n\nKonteksto ir versijos ribos\n\nRašytinę užduotį, vaizdinę medžiagą, pokalbį ir pageidaujamą atsakymą planuokite pagal dokumentuotą 256 tūkst. žetonų kontekstą. Išleistas naudojimo pavyzdys sukonfigūruoja 262 144 žetonų kontekstą, o jo 1 024 žetonų generavimo pavyzdys nėra atskira didžiausia išvesties talpa. Skaityti šaltiniai nepateikia nepriklausomos griežtos atsakymo ilgio ribos, kuria būtų galima pakeisti pasirinktą užduoties ilgį.\n\nSmall 4 turi savą 119 mlrd. parametrų ekspertų mišinio architektūrą ir hibridinius režimus. Jis neturi paveldėti tankiosios Medium 3.5 128 mlrd. parametrų architektūros ar atskirų Ministral 3 Instruct ir Reasoning versijų. Gamintojas taip pat išleidžia atskirus kvantizuotus bei spekuliatyviojo dekodavimo artefaktus; tai atskiri diegimo artefaktai, o ne skirtingi turinio modalumai. Išsaugokite įvardytą Small 4 laidą ir režimą, prašomą faktiniam paaiškinimui, struktūruotam įrašui ar kodo rezultatui.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "b7ac320b85ca7ad35fb25afcb38070e091ca7be4d46b30f9f5ae7190a77e834c", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "lt", "methods": [ { "html": "mistralai/mistral-small-2603:batchMistral Small 4 – hibridinis teksto ir vaizdų modelis su instrukcijų vykdymo, samprotavimo ir programavimo galimybėmis. Jo 119 mlrd. parametrų ekspertų mišinio laida kiekvienam žetonui aktyvina 6,5 mlrd. parametrų ir palaiko gamintojo nurodytą 256 tūkst. žetonų kontekstą, pasirenkamas samprotavimo pastangas, JSON bei funkcijų kvietimus.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Mistral Small 4 viename multimodaliniame modelyje sujungia bendrą instrukcijų vykdymą, samprotavimą ir programavimą. Gamintojas jį aprašo kaip suvienijantį Instruct, Magistral samprotavimo ir Devstral programavimo šeimas. Jis priima tekstą bei vaizdus ir grąžina tekstą, o įrankiais paremtoms programoms prieinami funkcijų kvietimai ir JSON išvestis.
Architektūra ir pagrindinės savybės
Laida turi iš viso 119 mlrd. parametrų ir aktyvina 6,5 mlrd. kiekvienam žetonui. Ekspertų mišinio architektūroje yra 128 ekspertai, iš jų 4 aktyvūs, o gamintojas dokumentuoja 256 tūkst. žetonų konteksto langą. Aktyvių parametrų ir ekspertų skaičiai aprašo modelio organizavimą; jie skiriasi nuo teksto ar vaizdų turinio kiekio vienoje užduotyje.
Modelis pateikia instrukcijų ir samprotavimo funkcijas tame pačiame kontroliniame taške. Gamintojas taip pat įvardija regą, sisteminių užklausų laikymąsi ir daugiakalbį palaikymą dešimtimis kalbų, įskaitant anglų, prancūzų, ispanų, vokiečių, italų, portugalų, olandų, kinų, japonų, korėjiečių ir arabų. Todėl tekstinė instrukcija gali klausti apie vaizdą ar sujungti rašytinį reikalavimą su matomais įrodymais, o atsakymas grąžinamas tekstu.
Vaizdinė užduotis gali pateikti dokumento puslapį ir prašyti reikšmių, susijusių su įvardyta sąlyga. Išlaikykite žymas bei vienetus įskaitomus ir nurodykite, ar rezultatas turi išsaugoti originalią formuluotę, ją apibendrinti ar palyginti su kitu šaltiniu. Sąsajos užduotis gali susieti ekrano kopiją su naudotojo tikslu ir prašyti aktualaus matomo valdiklio bei siūlomą kitą žingsnį pagrindžiančių įrodymų.
Instrukcijų ar samprotavimo režimo pasirinkimas
Išleistoje kortelėje dokumentuota samprotavimo pastangų reikšmė none greitam instrukcinio tipo atsakymui ir high samprotavimui, o high rekomenduojama sudėtingoms užklausoms. Pasirinkimas atliekamas kiekvienai užklausai tame pačiame Small 4 modelyje. Įprasto klasifikavimo ar trumpo perrašymo atsakymo sutartis gali skirtis nuo matematinės, vaizdinės ar kodo problemos, kuriai reikia išplėtoto paaiškinimo.
Didelėms samprotavimo pastangoms gamintojas rekomenduoja temperatūrą 0.7. Režimui none nurodo temperatūrą nuo 0.0 iki 0.7 pagal užduotį. Šie nustatymai aprašo dokumentuotus režimus ir nepaverčia samprotavimo pastangų teisingo rezultato garantija. Prieš rinkdamiesi, kiek užduočiai reikia samprotavimo, apibrėžkite prielaidas, išvesties formą ir aktualią šaltinių medžiagą.
Sprendžiamam uždaviniui pateikite visą sąlygą ir prašykite svarbių pagrįstų žingsnių, po jų – galutinės išraiškos. Kodo užduočiai pateikite reikalavimą, paveiktą funkciją ir konkrečią įvestį; siūlomo įgyvendinimo prašykite atskirai nuo paaiškinimo bei pavyzdžių. Gamintojo naudojimo demonstracijos apima instrukcijų vykdymą, vaizdui pritaikytą skaičiavimo įrankį ir vaizdinį samprotavimą, parodant, kaip tekstas bei vaizdiniai įrodymai gali patekti į šias skirtingas užduotis.
Programavimas, dokumentai ir įrankiai
Modelis skirtas kodo bazės tyrimui ir programinės įrangos kūrimo agentams, bendriesiems asistentams, dokumentų supratimui bei tyrimams. Programavimo agento užklausa gali įvardyti keistiną modulį, išsaugotiną sąsają ir reikiamą veikimą. Pateikite aktualų kodą ir klaidos įrodymus. Modelis gali siūlyti kitą operaciją ar kodo pakeitimą, o programa suteikia prieigą prie repozitorijos, vykdymą ir grįžtamąjį ryšį.
Duomenims iš dokumentų išgauti įvardykite privalomus laukus ir trūkstamos informacijos vaizdavimą. Naudingas įrašas gali atskirti dokumento identifikatorių, šaltinio teiginį, interpretuotą reikalavimą ir neišspręstą klausimą. Gamintojo paslaugos kortelėje nurodyta pasirinktinė struktūruota išvestis ir atsakymas į klausimus apie dokumentus; pastarasis naudoja dokumento apdorojimą ir OCR tekstui bei struktūrai paruošti prieš kalbos modelio analizę. Tiesioginis klausimas apie vaizdą ir OCR paremtas dokumento procesas turi išlaikyti savą įvesties paruošimą.
Funkcijų kvietimui reikia aiškiai aprašytų įrankių. Modelis parenka funkciją ir sukuria argumentus; programa vykdo operaciją ir grąžina rezultatą vėlesniam atsakymui. Ta pati logika taikoma ir paieškos, ir skaičiavimo, ir programavimo operacijai. JSON formatavimas sutvarko atsakymą, o įrankio kvietimas prašo išorinio veiksmo; jų nereikia laikyti sukeičiamais rezultatais.
Paslaugos kortelėje taip pat nurodytos numatomos išvestys, atsakymo prefiksai, paketinis apdorojimas ir agentų pokalbiai. Numatomos išvestys naudingos, kai dokumentą ar kodo failą reikia sugeneruoti iš naujo tik su ribotu pakeitimu, o likęs turinys žinomas. Nurodykite pakeitimą ir išsaugotiną medžiagą. Prefikso tęsimas naudoja žinomą atsakymo pradžią, o paketinis apdorojimas susijęs su darbo pateikimu, ne papildomu samprotavimo režimu.
Konteksto ir versijos ribos
Rašytinę užduotį, vaizdinę medžiagą, pokalbį ir pageidaujamą atsakymą planuokite pagal dokumentuotą 256 tūkst. žetonų kontekstą. Išleistas naudojimo pavyzdys sukonfigūruoja 262 144 žetonų kontekstą, o jo 1 024 žetonų generavimo pavyzdys nėra atskira didžiausia išvesties talpa. Skaityti šaltiniai nepateikia nepriklausomos griežtos atsakymo ilgio ribos, kuria būtų galima pakeisti pasirinktą užduoties ilgį.
Small 4 turi savą 119 mlrd. parametrų ekspertų mišinio architektūrą ir hibridinius režimus. Jis neturi paveldėti tankiosios Medium 3.5 128 mlrd. parametrų architektūros ar atskirų Ministral 3 Instruct ir Reasoning versijų. Gamintojas taip pat išleidžia atskirus kvantizuotus bei spekuliatyviojo dekodavimo artefaktus; tai atskiri diegimo artefaktai, o ne skirtingi turinio modalumai. Išsaugokite įvardytą Small 4 laidą ir režimą, prašomą faktiniam paaiškinimui, struktūruotam įrašui ar kodo rezultatui.
POST /v1/batchestexttext| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasendpoint | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos /v1/chat/completions | Numatyta— |
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos mistralai/mistral-small-2603:batch | Numatyta— |
Laukasrequests | Tipasbatch_item[] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 | Numatyta— |
Laukasrequests[].custom_id | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasrequests[].body.messages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukascompletion_window | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos 24h | Numatyta— |
Laukasprovider | Tipasobject|null | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasrequests[].body.model | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos mistralai/mistral-small-2603:batch, mistralai/mistral-small-2603 | Numatyta— |
Laukasprovider.only | Tipasstring[] | ReikalavimasNeprivaloma | Reikšmės ir ribos mistral | Numatyta— |
Laukasprovider.allow_fallbacks | Tipasboolean|null | ReikalavimasNeprivaloma | Reikšmės ir ribos false, null | Numatyta— |
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijaendpoint, model, requests |
Parametrasmaterial_types | Specifikacijatext |
Parametrasrepresentation | Specifikacijatiesiogiai įterptas requests[] masyvas; kiekvienas elementas turi custom_id ir body laukus |
Parametrasrequest_endpoint_profile | Specifikacija/v1/chat/completions |
Parametrasfile_material | SpecifikacijaKlientas gali vietoje perskaityti faktinį UTF-8 JSONL turinį į requests[] masyvą. Įkėlimo purpose, input_file_id ar failo nuoroda nenaudojami. Jei kliento medžiagos nėra arba ji tuščia, parengimas sustabdomas prieš POST. |
Parametrasserialization_order | Specifikacijaendpoint, model, provider (jei pateiktas), completion_window (jei pateiktas), requests pateikite paskiausiai |
Parametrasoptional_controls | Specifikacijaprovider.only, provider.allow_fallbacks, completion_window |
Parametrasschema_scope | SpecifikacijaTekstinių Chat Completions užklausų turiniai dokumentuotoje Batch paketo struktūroje, pateikiamoje pačioje užklausoje. |
Gyvavimo ciklas: asynchronous
GET /v1/batches/{operation_id} · faktinė pradinės kūrimo užklausos atsakymo response.id reikšmė; tas pats naudotojas, raktas ir grupė
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
Kiekvieną mokestį susiekite su nurodytomis sąlygomis. Kiekvienam alternatyvių konfigūracijų rinkiniui taikykite vieną įkainį.
| Konfigūracija | Įkainių lentelė | Konteksto tokenų daugiau nei | Konteksto tokenų iki imtinai | Mokestis |
|---|---|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Konteksto tokenų daugiau nei— | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.00015 / 1K tokenų Išvestis · Išvesties tokenai $0.0006 / 1K tokenų Įvestis · Talpyklos skaitymas $0.000015 / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
| KonfigūracijaUžklausos ilgio pakopa 1 | Įkainių lentelė— | Konteksto tokenų daugiau nei0 | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.00015 / 1K tokenų Išvestis · Išvesties tokenai $0.0006 / 1K tokenų Įvestis · Talpyklos skaitymas $0.000015 / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-small-2603:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/mistral-small-2603:batch', 'mistralai/mistral-small-2603']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-small-2603:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\ntiesiogiai įterptas results[].response.body JSON
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nIšsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite visą pradinės būsenos JSON, kiekvieną rezultatą ir custom_id bei visą atsakymo arba klaidos turinį. Užbaigtus results[] išsaugokite JSONL formatu nieko nefiltruodami.
Išsaugokite pradinį operacijos ID. Atsakyme 503 result_pending_check pateikiama X-Should-Retry:false; niekada pakartotinai neteikite pradinio paketo, kurio baigtis nežinoma.
| Laukas | Tipas |
|---|---|
Laukasresults[].custom_id | Tipasstring |
Laukasresults[].response.body.choices[].message.content | Tipasstring|null |
Laukasresults[].error | Tipasobject|null |
Laukasusage | Tipasobject|null |
Laukasid | Tipasstring |
Laukasmodel | Tipasstring |
Laukasendpoint | Tipasstring |
Laukasstatus | Tipasstring |
Laukasrequest_counts | Tipasobject |
Laukasresults[].id | Tipasstring |
Laukasresults[].response.status_code | Tipasinteger |
Laukasresults[].response.request_id | Tipasstring |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNeteisinga dokumentuota tiesiogiai įterpto paketo struktūra, pasikartojantys raktai, netinkama elemento tapatybė arba konfliktas su sukonfigūruotomis modelio galimybėmis. | Kitas žingsnisPrieš bet kokį naują pateikimą pataisykite nurodytus laukus. |
Atsakymas401 · authentication_error | SąlygaNegaliojantis API raktas. | Kitas žingsnisNaudokite leistiną Ailoot raktą. |
Atsakymas403 · permission_error | SąlygaPaketinio apdorojimo grupė neprieinama. | Kitas žingsnisPatikrinkite rakto ir grupės prieigos teises. |
Atsakymas422 · invalid_request_error | SąlygaPaketinis apdorojimas apmokamas iš balanso; kūrimo užklausos su prenumeratos apmokėjimu atmetamos. | Kitas žingsnisNaudokite leistiną grupę, kurios užklausos apmokamos iš balanso. |
Atsakymas422 · price_unavailable | SąlygaNepavyksta apskaičiuoti paketinio apdorojimo įvesties kainos. | Kitas žingsnisIšsaugokite atsakymą; naudokite dokumentuotą šios API šeimos įvestį. |
Atsakymas402 · billing_error | SąlygaPaketiniam apdorojimui reikalingas rezervas neprieinamas. | Kitas žingsnisPrieš teikdami naują užklausą išspręskite užklausos priėmimo problemą. |
Atsakymas503 · price_unavailable | SąlygaPaketinio apdorojimo metodo kaina arba savieji sistemos įkainiai neprieinami. | Kitas žingsnisIšsaugokite atsakymą; nekeiskite kainų kitomis. |
Atsakymas503 · api_error | SąlygaKonkretus tiekėjo maršrutas neprieinamas. | Kitas žingsnisIšsaugokite atsakymą maršrutui pataisyti. |
Atsakymas503 · result_pending_check | SąlygaPradinį rezultatą reikia patikrinti; X-Should-Retry:false. | Kitas žingsnisIšsaugokite pradinę operation_id/id reikšmę ir tikrinkite operacijos būseną; niekada nekartokite pradinės POST užklausos. |
Atsakymas404 · not_found | SąlygaPaketinio apdorojimo būsenos operacijos nėra arba ji susieta su kita tapatybe. | Kitas žingsnisNaudokite tikslią pradinę id reikšmę ir tą patį naudotoją, raktą bei grupę. |
Ailoot Ultra mistralai/mistral-small-2603:batch
Naudokite aukščiau nurodytus metodų kelius.