Mistral Large 3 2512 – pagal instrukcijas suderinta Mistral AI versija bendram pokalbiui, vaizdų supratimui ir įmonių darbui. Jos retintoje ekspertų mišinio architektūroje iš viso yra 675 mlrd. parametrų, iš jų 41 mlrd. aktyvių, ir 256 tūkst. žetonų konteksto langas. Tekstas bei vaizdai gali prisidėti prie tos pačios užduoties, o atsakymas yra tekstas, kodas ar struktūruotas rezultatas.
Galimybės ir įvesties paruošimas
Modelis sujungia kalbos komponentą su regos koduotuvu. Suteikite vaizdui aiškų vaidmenį: perskaityti puslapį, interpretuoti diagramą ar paaiškinti ekraną. Perkrautam ekranui pateikite iškarpą su aktualiais valdikliais ir išsaugokite jiems suprasti reikalingas aplinkines žymas. Mistral rekomenduoja vaizdo formas, artimas kvadratui; itin siaurą ar platų šaltinį skaidykite į naudingas sritis, užuot sumažinę svarbias detales iki neįskaitomos juostos.
Gamintojas nurodo daugiakalbį pokalbį dešimtimis kalbų, įskaitant anglų, prancūzų, ispanų, vokiečių, italų, portugalų, olandų, kinų, japonų, korėjiečių ir arabų. Nurodykite išvesties kalbą, numatytą skaitytoją ir išsaugotiną terminiją. Pagalbos straipsniui prašykite lokalizuoto paaiškinimo su nepakeistais produktų pavadinimais ir trumpo abejotinų vertimų sąrašo, kurį reikia išspręsti prieš publikavimą.
Ilgi dokumentai ir įmonių žinios
Kontekste sujunkite susijusią medžiagą: taisyklių tekstą, specifikaciją, esamus sprendimus ir klausimą, į kurį reikia atsakyti. Pažymėkite kiekvieną šaltinį ir jo versiją. Naudinga užklausa: „Palygink šias tris įvedimo į darbą tvarkas. Grąžink bendrų reikalavimų, prieštaravimų ir neatsakytų klausimų lentelę, kiekvienai išvadai nurodydamas šaltinio skyrių.“ Gautas artefaktas yra pateiktomis ištraukomis pagrįstas palyginimas, o ne bendrinė temos santrauka.
Klausimui apie dokumentą nurodykite pageidaujamą detalumą ir prašykite pagrindžiančios ištraukos šalia išvados. Mistral Document QnA procesas pirmiausia OCR išgauna tekstą bei dokumento struktūrą, tada kalbos modelis interpretuoja šią medžiagą. Ruošdami išgautą tekstą, išsaugokite puslapių numerius ir antraštes, kad atsakymas galėtų nurodyti originalą. Dokumento URL, išgautas tekstas ir vaizdiniai įrodymai turi skirtingus paruošimo reikalavimus; rinkitės naudojamos programos palaikomą įvesties formą.
Programavimas ir kasdienė pagalba
Mistral Large 3 skiria ir programavimo pagalbai, ir kasdieniam pokalbiui. Pateikite aktualias funkcijas, laukiamą veikimą ir stebimą klaidą. Pavyzdžiui: „Šis analizatorius praleidžia paskutinį lauką, kai įvestis baigiasi be naujos eilutės. Paaiškink nesėkmingą šaką, pasiūlyk mažiausią pakeitimą ir grąžink pataisytą funkciją su trimis tipiniais įvesties bei išvesties pavyzdžiais.“ Naudingas rezultatas – siūlomas pakeitimas, susietas su faktiniu kodu, ir atvejų rinkinys, kurį kūrėjas gali paleisti.
Verslo juodraščiui kartu pateikite faktus ir pageidaujamą artefaktą. Prašymas susitikimo užrašus paversti sprendimo pažyma turėtų įvardyti sprendimą, alternatyvas, neišspręstas prielaidas ir kitą veiksmą. Prašykite modelio atskirti šaltinio faktus nuo rekomendacijų ir trūkstamą informaciją pažymėti atitinkamame skyriuje. Tokią išvestį lengviau taisyti nei vientisą, nediferencijuotą pasakojimą.
Įrankiai ir struktūruoti rezultatai
Savasis funkcijų kvietimas leidžia modeliui parinkti pateiktą funkciją ir paruošti jos argumentus. Programa vykdo tą funkciją ir grąžina rezultatą; tada modelis atsakyme naudoja gautą informaciją. Įrankiai turi būti konkretūs, ir pateikite tik užduočiai reikalingus. Atsargų tikrinimo asistentas gali gauti prekės nuorodą, paprašyti atsargų paieškos ir paaiškinti grąžintą kiekį bei sandėlį. Prieš vykdydami užklausą, patikrinkite parinktą funkciją ir argumentus, o įrankio atsakymą išsaugokite kartu su galutiniu atsakymu.
Duomenims išgauti nurodykite laukus, tipus ir trūkstamų reikšmių tvarkymą. Mistral dokumentuoja JSON režimą ir pasirinktinę struktūruotą išvestį; JSON režimas reikalauja aiškios instrukcijos grąžinti JSON, o pasirinktinė schema suteikia griežtesnę formato kontrolę. Sąskaitos santraukoje galima prašyti tiekėjo, sąskaitos numerio, mokėjimo termino, valiutos ir eilučių, nuosekliai vaizduojant trūkstamas reikšmes. Išgautas reikšmes tikrinkite pagal dokumentą net tada, kai atsakymas atitinka prašytą struktūrą.
Nustatymai ir versijų skirtumai
Sisteminėse instrukcijose apibrėžkite vaidmenį, užduotį ir įrankių taisykles. Šiam kontroliniam taškui Mistral rekomenduoja mažesnę nei 0.1 temperatūrą gamybiniam ir kasdieniam naudojimui, o kūrybinėms užduotims galima nagrinėti didesnes reikšmes. Įvairių idėjų prašymą atskirkite nuo atkuriamo duomenų išgavimo: pirmajam suteikite erdvės alternatyvoms, antrajam – aiškius laukus ir šaltinio apribojimus.
Ši instrukcijų versija yra atskira nuo Large 3 bazinio kontrolinio taško ir specializuotų samprotavimo modelių. Gamintojas įvardija griežtą samprotavimą ir specializuotą vaizdinį darbą kaip sritis, kuriose gali būti geresnis būtent joms sukurtas modelis. Sudėtingam skaičiavimui pateikite prielaidas bei vienetus, prašykite tarpinių patikrinimų ir patikrinkite rezultatą prieinamu skaičiavimo įrankiu. Tankiems vaizdiniams įrodymams paruoškite įskaitomas sritis ir prieš naudodami ataskaitoje palyginkite atsakymą su šaltiniu.
", "aboutText": "Mistral Large 3 2512 – pagal instrukcijas suderinta Mistral AI versija bendram pokalbiui, vaizdų supratimui ir įmonių darbui. Jos retintoje ekspertų mišinio architektūroje iš viso yra 675 mlrd. parametrų, iš jų 41 mlrd. aktyvių, ir 256 tūkst. žetonų konteksto langas. Tekstas bei vaizdai gali prisidėti prie tos pačios užduoties, o atsakymas yra tekstas, kodas ar struktūruotas rezultatas.\n\nGalimybės ir įvesties paruošimas\n\nModelis sujungia kalbos komponentą su regos koduotuvu. Suteikite vaizdui aiškų vaidmenį: perskaityti puslapį, interpretuoti diagramą ar paaiškinti ekraną. Perkrautam ekranui pateikite iškarpą su aktualiais valdikliais ir išsaugokite jiems suprasti reikalingas aplinkines žymas. Mistral rekomenduoja vaizdo formas, artimas kvadratui; itin siaurą ar platų šaltinį skaidykite į naudingas sritis, užuot sumažinę svarbias detales iki neįskaitomos juostos.\n\nGamintojas nurodo daugiakalbį pokalbį dešimtimis kalbų, įskaitant anglų, prancūzų, ispanų, vokiečių, italų, portugalų, olandų, kinų, japonų, korėjiečių ir arabų. Nurodykite išvesties kalbą, numatytą skaitytoją ir išsaugotiną terminiją. Pagalbos straipsniui prašykite lokalizuoto paaiškinimo su nepakeistais produktų pavadinimais ir trumpo abejotinų vertimų sąrašo, kurį reikia išspręsti prieš publikavimą.\n\nIlgi dokumentai ir įmonių žinios\n\nKontekste sujunkite susijusią medžiagą: taisyklių tekstą, specifikaciją, esamus sprendimus ir klausimą, į kurį reikia atsakyti. Pažymėkite kiekvieną šaltinį ir jo versiją. Naudinga užklausa: „Palygink šias tris įvedimo į darbą tvarkas. Grąžink bendrų reikalavimų, prieštaravimų ir neatsakytų klausimų lentelę, kiekvienai išvadai nurodydamas šaltinio skyrių.“ Gautas artefaktas yra pateiktomis ištraukomis pagrįstas palyginimas, o ne bendrinė temos santrauka.\n\nKlausimui apie dokumentą nurodykite pageidaujamą detalumą ir prašykite pagrindžiančios ištraukos šalia išvados. Mistral Document QnA procesas pirmiausia OCR išgauna tekstą bei dokumento struktūrą, tada kalbos modelis interpretuoja šią medžiagą. Ruošdami išgautą tekstą, išsaugokite puslapių numerius ir antraštes, kad atsakymas galėtų nurodyti originalą. Dokumento URL, išgautas tekstas ir vaizdiniai įrodymai turi skirtingus paruošimo reikalavimus; rinkitės naudojamos programos palaikomą įvesties formą.\n\nProgramavimas ir kasdienė pagalba\n\nMistral Large 3 skiria ir programavimo pagalbai, ir kasdieniam pokalbiui. Pateikite aktualias funkcijas, laukiamą veikimą ir stebimą klaidą. Pavyzdžiui: „Šis analizatorius praleidžia paskutinį lauką, kai įvestis baigiasi be naujos eilutės. Paaiškink nesėkmingą šaką, pasiūlyk mažiausią pakeitimą ir grąžink pataisytą funkciją su trimis tipiniais įvesties bei išvesties pavyzdžiais.“ Naudingas rezultatas – siūlomas pakeitimas, susietas su faktiniu kodu, ir atvejų rinkinys, kurį kūrėjas gali paleisti.\n\nVerslo juodraščiui kartu pateikite faktus ir pageidaujamą artefaktą. Prašymas susitikimo užrašus paversti sprendimo pažyma turėtų įvardyti sprendimą, alternatyvas, neišspręstas prielaidas ir kitą veiksmą. Prašykite modelio atskirti šaltinio faktus nuo rekomendacijų ir trūkstamą informaciją pažymėti atitinkamame skyriuje. Tokią išvestį lengviau taisyti nei vientisą, nediferencijuotą pasakojimą.\n\nĮrankiai ir struktūruoti rezultatai\n\nSavasis funkcijų kvietimas leidžia modeliui parinkti pateiktą funkciją ir paruošti jos argumentus. Programa vykdo tą funkciją ir grąžina rezultatą; tada modelis atsakyme naudoja gautą informaciją. Įrankiai turi būti konkretūs, ir pateikite tik užduočiai reikalingus. Atsargų tikrinimo asistentas gali gauti prekės nuorodą, paprašyti atsargų paieškos ir paaiškinti grąžintą kiekį bei sandėlį. Prieš vykdydami užklausą, patikrinkite parinktą funkciją ir argumentus, o įrankio atsakymą išsaugokite kartu su galutiniu atsakymu.\n\nDuomenims išgauti nurodykite laukus, tipus ir trūkstamų reikšmių tvarkymą. Mistral dokumentuoja JSON režimą ir pasirinktinę struktūruotą išvestį; JSON režimas reikalauja aiškios instrukcijos grąžinti JSON, o pasirinktinė schema suteikia griežtesnę formato kontrolę. Sąskaitos santraukoje galima prašyti tiekėjo, sąskaitos numerio, mokėjimo termino, valiutos ir eilučių, nuosekliai vaizduojant trūkstamas reikšmes. Išgautas reikšmes tikrinkite pagal dokumentą net tada, kai atsakymas atitinka prašytą struktūrą.\n\nNustatymai ir versijų skirtumai\n\nSisteminėse instrukcijose apibrėžkite vaidmenį, užduotį ir įrankių taisykles. Šiam kontroliniam taškui Mistral rekomenduoja mažesnę nei 0.1 temperatūrą gamybiniam ir kasdieniam naudojimui, o kūrybinėms užduotims galima nagrinėti didesnes reikšmes. Įvairių idėjų prašymą atskirkite nuo atkuriamo duomenų išgavimo: pirmajam suteikite erdvės alternatyvoms, antrajam – aiškius laukus ir šaltinio apribojimus.\n\nŠi instrukcijų versija yra atskira nuo Large 3 bazinio kontrolinio taško ir specializuotų samprotavimo modelių. Gamintojas įvardija griežtą samprotavimą ir specializuotą vaizdinį darbą kaip sritis, kuriose gali būti geresnis būtent joms sukurtas modelis. Sudėtingam skaičiavimui pateikite prielaidas bei vienetus, prašykite tarpinių patikrinimų ir patikrinkite rezultatą prieinamu skaičiavimo įrankiu. Tankiems vaizdiniams įrodymams paruoškite įskaitomas sritis ir prieš naudodami ataskaitoje palyginkite atsakymą su šaltiniu.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "a059c2a1e3caa49d10f1031f75ee393f7700eda587d441e7960cb50c9c4bf8c1", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "lt", "methods": [ { "html": "mistralai/mistral-large-2512:batchMistral Large 3 2512 – daugiakalbis teksto ir vaizdų modelis ilgiems dokumentams, įmonių žinioms, programavimui ir darbui su įrankiais. 256 tūkst. žetonų kontekstas, savasis funkcijų kvietimas ir struktūruota išvestis padeda pateiktus įrodymus paversti atsakymais, įrašais bei siūlomais veiksmais.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Mistral Large 3 2512 – pagal instrukcijas suderinta Mistral AI versija bendram pokalbiui, vaizdų supratimui ir įmonių darbui. Jos retintoje ekspertų mišinio architektūroje iš viso yra 675 mlrd. parametrų, iš jų 41 mlrd. aktyvių, ir 256 tūkst. žetonų konteksto langas. Tekstas bei vaizdai gali prisidėti prie tos pačios užduoties, o atsakymas yra tekstas, kodas ar struktūruotas rezultatas.
Galimybės ir įvesties paruošimas
Modelis sujungia kalbos komponentą su regos koduotuvu. Suteikite vaizdui aiškų vaidmenį: perskaityti puslapį, interpretuoti diagramą ar paaiškinti ekraną. Perkrautam ekranui pateikite iškarpą su aktualiais valdikliais ir išsaugokite jiems suprasti reikalingas aplinkines žymas. Mistral rekomenduoja vaizdo formas, artimas kvadratui; itin siaurą ar platų šaltinį skaidykite į naudingas sritis, užuot sumažinę svarbias detales iki neįskaitomos juostos.
Gamintojas nurodo daugiakalbį pokalbį dešimtimis kalbų, įskaitant anglų, prancūzų, ispanų, vokiečių, italų, portugalų, olandų, kinų, japonų, korėjiečių ir arabų. Nurodykite išvesties kalbą, numatytą skaitytoją ir išsaugotiną terminiją. Pagalbos straipsniui prašykite lokalizuoto paaiškinimo su nepakeistais produktų pavadinimais ir trumpo abejotinų vertimų sąrašo, kurį reikia išspręsti prieš publikavimą.
Ilgi dokumentai ir įmonių žinios
Kontekste sujunkite susijusią medžiagą: taisyklių tekstą, specifikaciją, esamus sprendimus ir klausimą, į kurį reikia atsakyti. Pažymėkite kiekvieną šaltinį ir jo versiją. Naudinga užklausa: „Palygink šias tris įvedimo į darbą tvarkas. Grąžink bendrų reikalavimų, prieštaravimų ir neatsakytų klausimų lentelę, kiekvienai išvadai nurodydamas šaltinio skyrių.“ Gautas artefaktas yra pateiktomis ištraukomis pagrįstas palyginimas, o ne bendrinė temos santrauka.
Klausimui apie dokumentą nurodykite pageidaujamą detalumą ir prašykite pagrindžiančios ištraukos šalia išvados. Mistral Document QnA procesas pirmiausia OCR išgauna tekstą bei dokumento struktūrą, tada kalbos modelis interpretuoja šią medžiagą. Ruošdami išgautą tekstą, išsaugokite puslapių numerius ir antraštes, kad atsakymas galėtų nurodyti originalą. Dokumento URL, išgautas tekstas ir vaizdiniai įrodymai turi skirtingus paruošimo reikalavimus; rinkitės naudojamos programos palaikomą įvesties formą.
Programavimas ir kasdienė pagalba
Mistral Large 3 skiria ir programavimo pagalbai, ir kasdieniam pokalbiui. Pateikite aktualias funkcijas, laukiamą veikimą ir stebimą klaidą. Pavyzdžiui: „Šis analizatorius praleidžia paskutinį lauką, kai įvestis baigiasi be naujos eilutės. Paaiškink nesėkmingą šaką, pasiūlyk mažiausią pakeitimą ir grąžink pataisytą funkciją su trimis tipiniais įvesties bei išvesties pavyzdžiais.“ Naudingas rezultatas – siūlomas pakeitimas, susietas su faktiniu kodu, ir atvejų rinkinys, kurį kūrėjas gali paleisti.
Verslo juodraščiui kartu pateikite faktus ir pageidaujamą artefaktą. Prašymas susitikimo užrašus paversti sprendimo pažyma turėtų įvardyti sprendimą, alternatyvas, neišspręstas prielaidas ir kitą veiksmą. Prašykite modelio atskirti šaltinio faktus nuo rekomendacijų ir trūkstamą informaciją pažymėti atitinkamame skyriuje. Tokią išvestį lengviau taisyti nei vientisą, nediferencijuotą pasakojimą.
Įrankiai ir struktūruoti rezultatai
Savasis funkcijų kvietimas leidžia modeliui parinkti pateiktą funkciją ir paruošti jos argumentus. Programa vykdo tą funkciją ir grąžina rezultatą; tada modelis atsakyme naudoja gautą informaciją. Įrankiai turi būti konkretūs, ir pateikite tik užduočiai reikalingus. Atsargų tikrinimo asistentas gali gauti prekės nuorodą, paprašyti atsargų paieškos ir paaiškinti grąžintą kiekį bei sandėlį. Prieš vykdydami užklausą, patikrinkite parinktą funkciją ir argumentus, o įrankio atsakymą išsaugokite kartu su galutiniu atsakymu.
Duomenims išgauti nurodykite laukus, tipus ir trūkstamų reikšmių tvarkymą. Mistral dokumentuoja JSON režimą ir pasirinktinę struktūruotą išvestį; JSON režimas reikalauja aiškios instrukcijos grąžinti JSON, o pasirinktinė schema suteikia griežtesnę formato kontrolę. Sąskaitos santraukoje galima prašyti tiekėjo, sąskaitos numerio, mokėjimo termino, valiutos ir eilučių, nuosekliai vaizduojant trūkstamas reikšmes. Išgautas reikšmes tikrinkite pagal dokumentą net tada, kai atsakymas atitinka prašytą struktūrą.
Nustatymai ir versijų skirtumai
Sisteminėse instrukcijose apibrėžkite vaidmenį, užduotį ir įrankių taisykles. Šiam kontroliniam taškui Mistral rekomenduoja mažesnę nei 0.1 temperatūrą gamybiniam ir kasdieniam naudojimui, o kūrybinėms užduotims galima nagrinėti didesnes reikšmes. Įvairių idėjų prašymą atskirkite nuo atkuriamo duomenų išgavimo: pirmajam suteikite erdvės alternatyvoms, antrajam – aiškius laukus ir šaltinio apribojimus.
Ši instrukcijų versija yra atskira nuo Large 3 bazinio kontrolinio taško ir specializuotų samprotavimo modelių. Gamintojas įvardija griežtą samprotavimą ir specializuotą vaizdinį darbą kaip sritis, kuriose gali būti geresnis būtent joms sukurtas modelis. Sudėtingam skaičiavimui pateikite prielaidas bei vienetus, prašykite tarpinių patikrinimų ir patikrinkite rezultatą prieinamu skaičiavimo įrankiu. Tankiems vaizdiniams įrodymams paruoškite įskaitomas sritis ir prieš naudodami ataskaitoje palyginkite atsakymą su šaltiniu.
POST /v1/batchestexttext| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasendpoint | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos /v1/chat/completions | Numatyta— |
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos mistralai/mistral-large-2512:batch | Numatyta— |
Laukasrequests | Tipasbatch_item[] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 | Numatyta— |
Laukasrequests[].custom_id | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasrequests[].body.messages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukascompletion_window | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos 24h | Numatyta— |
Laukasprovider | Tipasobject|null | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasrequests[].body.model | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos mistralai/mistral-large-2512:batch, mistralai/mistral-large-2512 | Numatyta— |
Laukasprovider.only | Tipasstring[] | ReikalavimasNeprivaloma | Reikšmės ir ribos mistral | Numatyta— |
Laukasprovider.allow_fallbacks | Tipasboolean|null | ReikalavimasNeprivaloma | Reikšmės ir ribos false, null | Numatyta— |
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijaendpoint, model, requests |
Parametrasmaterial_types | Specifikacijatext |
Parametrasrepresentation | Specifikacijatiesiogiai įterptas requests[] masyvas; kiekvienas elementas turi custom_id ir body laukus |
Parametrasrequest_endpoint_profile | Specifikacija/v1/chat/completions |
Parametrasfile_material | SpecifikacijaKlientas gali vietoje perskaityti faktinį UTF-8 JSONL turinį į requests[] masyvą. Įkėlimo purpose, input_file_id ar failo nuoroda nenaudojami. Jei kliento medžiagos nėra arba ji tuščia, parengimas sustabdomas prieš POST. |
Parametrasserialization_order | Specifikacijaendpoint, model, provider (jei pateiktas), completion_window (jei pateiktas), requests pateikite paskiausiai |
Parametrasoptional_controls | Specifikacijaprovider.only, provider.allow_fallbacks, completion_window |
Parametrasschema_scope | SpecifikacijaTekstinių Chat Completions užklausų turiniai dokumentuotoje Batch paketo struktūroje, pateikiamoje pačioje užklausoje. |
Gyvavimo ciklas: asynchronous
GET /v1/batches/{operation_id} · faktinė pradinės kūrimo užklausos atsakymo response.id reikšmė; tas pats naudotojas, raktas ir grupė
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
Kiekvieną mokestį susiekite su nurodytomis sąlygomis. Kiekvienam alternatyvių konfigūracijų rinkiniui taikykite vieną įkainį.
| Konfigūracija | Įkainių lentelė | Konteksto tokenų daugiau nei | Konteksto tokenų iki imtinai | Mokestis |
|---|---|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Konteksto tokenų daugiau nei— | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.0005 / 1K tokenų Išvestis · Išvesties tokenai $0.0015 / 1K tokenų Įvestis · Talpyklos skaitymas $0.00005 / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
| KonfigūracijaUžklausos ilgio pakopa 1 | Įkainių lentelė— | Konteksto tokenų daugiau nei0 | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.0005 / 1K tokenų Išvestis · Išvesties tokenai $0.0015 / 1K tokenų Įvestis · Talpyklos skaitymas $0.00005 / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-large-2512:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/mistral-large-2512:batch', 'mistralai/mistral-large-2512']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-large-2512:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\ntiesiogiai įterptas results[].response.body JSON
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nIšsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite visą pradinės būsenos JSON, kiekvieną rezultatą ir custom_id bei visą atsakymo arba klaidos turinį. Užbaigtus results[] išsaugokite JSONL formatu nieko nefiltruodami.
Išsaugokite pradinį operacijos ID. Atsakyme 503 result_pending_check pateikiama X-Should-Retry:false; niekada pakartotinai neteikite pradinio paketo, kurio baigtis nežinoma.
| Laukas | Tipas |
|---|---|
Laukasresults[].custom_id | Tipasstring |
Laukasresults[].response.body.choices[].message.content | Tipasstring|null |
Laukasresults[].error | Tipasobject|null |
Laukasusage | Tipasobject|null |
Laukasid | Tipasstring |
Laukasmodel | Tipasstring |
Laukasendpoint | Tipasstring |
Laukasstatus | Tipasstring |
Laukasrequest_counts | Tipasobject |
Laukasresults[].id | Tipasstring |
Laukasresults[].response.status_code | Tipasinteger |
Laukasresults[].response.request_id | Tipasstring |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNeteisinga dokumentuota tiesiogiai įterpto paketo struktūra, pasikartojantys raktai, netinkama elemento tapatybė arba konfliktas su sukonfigūruotomis modelio galimybėmis. | Kitas žingsnisPrieš bet kokį naują pateikimą pataisykite nurodytus laukus. |
Atsakymas401 · authentication_error | SąlygaNegaliojantis API raktas. | Kitas žingsnisNaudokite leistiną Ailoot raktą. |
Atsakymas403 · permission_error | SąlygaPaketinio apdorojimo grupė neprieinama. | Kitas žingsnisPatikrinkite rakto ir grupės prieigos teises. |
Atsakymas422 · invalid_request_error | SąlygaPaketinis apdorojimas apmokamas iš balanso; kūrimo užklausos su prenumeratos apmokėjimu atmetamos. | Kitas žingsnisNaudokite leistiną grupę, kurios užklausos apmokamos iš balanso. |
Atsakymas422 · price_unavailable | SąlygaNepavyksta apskaičiuoti paketinio apdorojimo įvesties kainos. | Kitas žingsnisIšsaugokite atsakymą; naudokite dokumentuotą šios API šeimos įvestį. |
Atsakymas402 · billing_error | SąlygaPaketiniam apdorojimui reikalingas rezervas neprieinamas. | Kitas žingsnisPrieš teikdami naują užklausą išspręskite užklausos priėmimo problemą. |
Atsakymas503 · price_unavailable | SąlygaPaketinio apdorojimo metodo kaina arba savieji sistemos įkainiai neprieinami. | Kitas žingsnisIšsaugokite atsakymą; nekeiskite kainų kitomis. |
Atsakymas503 · api_error | SąlygaKonkretus tiekėjo maršrutas neprieinamas. | Kitas žingsnisIšsaugokite atsakymą maršrutui pataisyti. |
Atsakymas503 · result_pending_check | SąlygaPradinį rezultatą reikia patikrinti; X-Should-Retry:false. | Kitas žingsnisIšsaugokite pradinę operation_id/id reikšmę ir tikrinkite operacijos būseną; niekada nekartokite pradinės POST užklausos. |
Atsakymas404 · not_found | SąlygaPaketinio apdorojimo būsenos operacijos nėra arba ji susieta su kita tapatybe. | Kitas žingsnisNaudokite tikslią pradinę id reikšmę ir tą patį naudotoją, raktą bei grupę. |
Ailoot Ultra mistralai/mistral-large-2512:batch
Naudokite aukščiau nurodytus metodų kelius.