Mistral Medium 3.5 – Mistral AI tankusis 128 mlrd. parametrų modelis, viename svorių rinkinyje sujungiantis instrukcijų vykdymą, samprotavimą ir programavimą. Jis priima tekstą bei vaizdus ir grąžina tekstą. Gamintojas jį skiria agentinėms ir programavimo užduotims, o tas pats kontrolinis taškas gali pateikti tiesioginį pokalbio atsakymą arba naudoti dokumentuotą samprotavimo režimą sudėtingesnei užduočiai.
Vieningas modelis ir vaizdinės galimybės
Išleisto modelio kortelėje nurodyta 128 mlrd. tankiojo modelio parametrų ir 256 tūkst. žetonų konteksto langas. Jo regos koduotuvas mokytas apdoroti skirtingų dydžių bei proporcijų vaizdus. Vaizdai gali suteikti įrodymų programavimo ar dokumento užduočiai: sąsajos ekrano kopija, reikalavimą lydinti diagrama ar puslapis su informacija, kurią modelis turi interpretuoti. Rezultatas gali būti rašytinis paaiškinimas, kodas ar struktūruoti laukai, o ne sugeneruotas vaizdas.
Gamintojas aprašo daugiakalbį palaikymą dešimtimis kalbų, įskaitant anglų, prancūzų, ispanų, vokiečių, italų, portugalų, olandų, kinų, japonų, korėjiečių ir arabų. Jis taip pat pabrėžia sisteminių užklausų laikymąsi ir savąjį funkcijų kvietimą su JSON išvestimi. Auditoriją, kalbą ir atsakymo taisykles nurodykite atskirai nuo nagrinėjamos medžiagos, kad šaltinio dokumento formuluotės liktų užduoties įrodymais.
Samprotavimo nustatymai
Kortelėje dokumentuotos dvi kiekvienos užklausos samprotavimo pastangų reikšmės. Reikšmė none pateikia instrukcinio tipo atsakymą be samprotavimo režimo; high įjungia samprotavimą ir rekomenduojama sudėtingoms užklausoms bei agentiniam programavimui. Tai režimo pasirinkimas tame pačiame Medium 3.5 kontroliniame taške, o ne kita modelio tapatybė.
Didelėms samprotavimo pastangoms gamintojas rekomenduoja temperatūrą 0.7 ir top-p 0.95. Režimui none jis dokumentuoja temperatūrą nuo 0.0 iki 0.7 pagal užduotį, o top-p palieka nenustatytą arba 1.0. Tai laidos rekomendacijos. Pirmiausia pasirinkite išvesties paskirtį: glaustą laukų išgavimą, kodo pakeitimą su paaiškinimu ar palyginimą, kuriam reikia kelių pagrįstų sprendimų.
Praktinė samprotavimo užduotis gali pateikti reikalavimą, įgyvendinimą ir neatitikimą atskleidžiančią įvestį. Prašykite modelio nustatyti aktualų kelią, paaiškinti skirtumą ir pasiūlyti mažiausią pakeitimą, išsaugantį viešąją sąsają. Pataisyto kodo prašykite atskirai nuo prielaidų bei pavyzdžių. Modelis generuoja pasiūlymą; jo kompiliavimui, vykdymui ir pritaikymui reikia prie agento prijungtos kūrimo aplinkos.
Įrankiai, dokumentai ir numatomi pakeitimai
Gamintojo paslaugos kortelėje taip pat nurodytos struktūruotos išvestys, numatomos išvestys, klausimai apie dokumentus, atsakymo prefiksai, paketinis apdorojimas ir agentų pokalbiai. Duomenims išgauti apibrėžkite laukų pavadinimus, tipus ir trūkstamų reikšmių tvarkymą. JSON režimas pateikia struktūruotą vaizdavimą, o pasirinktinė schema apibrėžia konkretesnę formą prijungtoje sąsajoje. Prašykite tik įrašo, kai jį analizuos programa, ir atskiro paaiškinimo, kai žmogui reikia patikrinti interpretaciją.
Atsakymas į klausimus apie dokumentus sujungia OCR paruoštą tekstą bei struktūrą su kalbos modelio supratimu. Palyginimui įvardykite dokumentus ir vertinamą sąlygą, tada prašykite kiekvienos išvados su jos vieta šaltinyje. Naudinga išvestis gali atskirti bendrus reikalavimus, nesutarimus ir atvirus klausimus. Tiesioginiai klausimai apie vaizdus gali būti skirti diagramos žymai ar sąsajos elementui; išsaugotos antraštės, vienetai ir vaizdų vaidmenys padeda susieti atsakymą su pateikta medžiaga.
Numatomos išvestys dokumentuotos užduotims, kuriose didelė pageidaujamo atsakymo dalis jau žinoma, pavyzdžiui, kodo failo ar dokumento pakartotiniam generavimui su ribotais pakeitimais. Pateikite esamą turinį ir įvardykite konkretų pakeitimą, išsaugodami dalis, kurios turi likti. Tai skiriasi nuo visiškai naujo artefakto prašymo ar tęsimo nuo žinomo atsakymo prefikso. Paslaugos funkcijos aprašo pateikimo ir formatavimo galimybes; jos nekeičia modelio teksto bei vaizdų įvesties ar tekstinės išvesties.
Įrankiais paremtame procese programa pateikia funkcijų aprašymus bei parametrus, modelis parenka funkciją ir paruošia argumentus, o programa ją vykdo ir grąžina rezultatą. Skaičiavimo įrankis gali gauti iš pateikto vaizdo nuskaitytas reikšmes, o paieškos įrankis – pateikti trūkstamą informaciją kitam atsakymui. Įrankio rezultatą išsaugokite susietą su jį sukūrusia operacija. Agentinis samprotavimas remiasi šia aplinka; vien teksto generavimas neatlieka išorinių veiksmų.
Ilgų sesijų paruošimas
256 tūkst. žetonų kontekstą naudokite susijusiam pirminiam kodui, dokumentams ir pokalbio istorijai, o faktinį tikslą išlaikykite aiškų. Programavimo sesija gali išsaugoti modulį, jo kvietėją bei reikalavimus ir prašyti vieno apibrėžto pakeitimo. Dokumento sesija gali laikyti aktualius skyrius kartu ir grąžinti trumpą lentelę ar pataisytą ištrauką. Konteksto talpa nenusako atskiro didžiausio atsakymo ilgio; kortelės 1 024 žetonų generavimo pavyzdys yra iliustracija, o ne ši riba.
Gamintojas pažymi, kad ankstesnėje paskelbtoje konfigūracijoje buvo ilgo konteksto klaida ir kad ji ištaisyta, taip pat nurodo jos svarbą išvestiniams kontroliniams taškams. Naudodami svorius ilgoms sesijoms, išsaugokite pataisytą laidos konfigūraciją. Medium 3.5 hibridiniai režimai ir 128 mlrd. parametrų architektūra neturi būti priskiriami Medium 3.1 ar atskirai įvardytam numatymo galvutės kontroliniam taškui vien dėl bendro šeimos pavadinimo.
", "aboutText": "Mistral Medium 3.5 – Mistral AI tankusis 128 mlrd. parametrų modelis, viename svorių rinkinyje sujungiantis instrukcijų vykdymą, samprotavimą ir programavimą. Jis priima tekstą bei vaizdus ir grąžina tekstą. Gamintojas jį skiria agentinėms ir programavimo užduotims, o tas pats kontrolinis taškas gali pateikti tiesioginį pokalbio atsakymą arba naudoti dokumentuotą samprotavimo režimą sudėtingesnei užduočiai.\n\nVieningas modelis ir vaizdinės galimybės\n\nIšleisto modelio kortelėje nurodyta 128 mlrd. tankiojo modelio parametrų ir 256 tūkst. žetonų konteksto langas. Jo regos koduotuvas mokytas apdoroti skirtingų dydžių bei proporcijų vaizdus. Vaizdai gali suteikti įrodymų programavimo ar dokumento užduočiai: sąsajos ekrano kopija, reikalavimą lydinti diagrama ar puslapis su informacija, kurią modelis turi interpretuoti. Rezultatas gali būti rašytinis paaiškinimas, kodas ar struktūruoti laukai, o ne sugeneruotas vaizdas.\n\nGamintojas aprašo daugiakalbį palaikymą dešimtimis kalbų, įskaitant anglų, prancūzų, ispanų, vokiečių, italų, portugalų, olandų, kinų, japonų, korėjiečių ir arabų. Jis taip pat pabrėžia sisteminių užklausų laikymąsi ir savąjį funkcijų kvietimą su JSON išvestimi. Auditoriją, kalbą ir atsakymo taisykles nurodykite atskirai nuo nagrinėjamos medžiagos, kad šaltinio dokumento formuluotės liktų užduoties įrodymais.\n\nSamprotavimo nustatymai\n\nKortelėje dokumentuotos dvi kiekvienos užklausos samprotavimo pastangų reikšmės. Reikšmė none pateikia instrukcinio tipo atsakymą be samprotavimo režimo; high įjungia samprotavimą ir rekomenduojama sudėtingoms užklausoms bei agentiniam programavimui. Tai režimo pasirinkimas tame pačiame Medium 3.5 kontroliniame taške, o ne kita modelio tapatybė.\n\nDidelėms samprotavimo pastangoms gamintojas rekomenduoja temperatūrą 0.7 ir top-p 0.95. Režimui none jis dokumentuoja temperatūrą nuo 0.0 iki 0.7 pagal užduotį, o top-p palieka nenustatytą arba 1.0. Tai laidos rekomendacijos. Pirmiausia pasirinkite išvesties paskirtį: glaustą laukų išgavimą, kodo pakeitimą su paaiškinimu ar palyginimą, kuriam reikia kelių pagrįstų sprendimų.\n\nPraktinė samprotavimo užduotis gali pateikti reikalavimą, įgyvendinimą ir neatitikimą atskleidžiančią įvestį. Prašykite modelio nustatyti aktualų kelią, paaiškinti skirtumą ir pasiūlyti mažiausią pakeitimą, išsaugantį viešąją sąsają. Pataisyto kodo prašykite atskirai nuo prielaidų bei pavyzdžių. Modelis generuoja pasiūlymą; jo kompiliavimui, vykdymui ir pritaikymui reikia prie agento prijungtos kūrimo aplinkos.\n\nĮrankiai, dokumentai ir numatomi pakeitimai\n\nGamintojo paslaugos kortelėje taip pat nurodytos struktūruotos išvestys, numatomos išvestys, klausimai apie dokumentus, atsakymo prefiksai, paketinis apdorojimas ir agentų pokalbiai. Duomenims išgauti apibrėžkite laukų pavadinimus, tipus ir trūkstamų reikšmių tvarkymą. JSON režimas pateikia struktūruotą vaizdavimą, o pasirinktinė schema apibrėžia konkretesnę formą prijungtoje sąsajoje. Prašykite tik įrašo, kai jį analizuos programa, ir atskiro paaiškinimo, kai žmogui reikia patikrinti interpretaciją.\n\nAtsakymas į klausimus apie dokumentus sujungia OCR paruoštą tekstą bei struktūrą su kalbos modelio supratimu. Palyginimui įvardykite dokumentus ir vertinamą sąlygą, tada prašykite kiekvienos išvados su jos vieta šaltinyje. Naudinga išvestis gali atskirti bendrus reikalavimus, nesutarimus ir atvirus klausimus. Tiesioginiai klausimai apie vaizdus gali būti skirti diagramos žymai ar sąsajos elementui; išsaugotos antraštės, vienetai ir vaizdų vaidmenys padeda susieti atsakymą su pateikta medžiaga.\n\nNumatomos išvestys dokumentuotos užduotims, kuriose didelė pageidaujamo atsakymo dalis jau žinoma, pavyzdžiui, kodo failo ar dokumento pakartotiniam generavimui su ribotais pakeitimais. Pateikite esamą turinį ir įvardykite konkretų pakeitimą, išsaugodami dalis, kurios turi likti. Tai skiriasi nuo visiškai naujo artefakto prašymo ar tęsimo nuo žinomo atsakymo prefikso. Paslaugos funkcijos aprašo pateikimo ir formatavimo galimybes; jos nekeičia modelio teksto bei vaizdų įvesties ar tekstinės išvesties.\n\nĮrankiais paremtame procese programa pateikia funkcijų aprašymus bei parametrus, modelis parenka funkciją ir paruošia argumentus, o programa ją vykdo ir grąžina rezultatą. Skaičiavimo įrankis gali gauti iš pateikto vaizdo nuskaitytas reikšmes, o paieškos įrankis – pateikti trūkstamą informaciją kitam atsakymui. Įrankio rezultatą išsaugokite susietą su jį sukūrusia operacija. Agentinis samprotavimas remiasi šia aplinka; vien teksto generavimas neatlieka išorinių veiksmų.\n\nIlgų sesijų paruošimas\n\n256 tūkst. žetonų kontekstą naudokite susijusiam pirminiam kodui, dokumentams ir pokalbio istorijai, o faktinį tikslą išlaikykite aiškų. Programavimo sesija gali išsaugoti modulį, jo kvietėją bei reikalavimus ir prašyti vieno apibrėžto pakeitimo. Dokumento sesija gali laikyti aktualius skyrius kartu ir grąžinti trumpą lentelę ar pataisytą ištrauką. Konteksto talpa nenusako atskiro didžiausio atsakymo ilgio; kortelės 1 024 žetonų generavimo pavyzdys yra iliustracija, o ne ši riba.\n\nGamintojas pažymi, kad ankstesnėje paskelbtoje konfigūracijoje buvo ilgo konteksto klaida ir kad ji ištaisyta, taip pat nurodo jos svarbą išvestiniams kontroliniams taškams. Naudodami svorius ilgoms sesijoms, išsaugokite pataisytą laidos konfigūraciją. Medium 3.5 hibridiniai režimai ir 128 mlrd. parametrų architektūra neturi būti priskiriami Medium 3.1 ar atskirai įvardytam numatymo galvutės kontroliniam taškui vien dėl bendro šeimos pavadinimo.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "dea11ea3539955db32119f2ffd8ef4d9a0b70566436b376965d794bb274adc72", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "lt", "methods": [ { "html": "mistralai/mistral-medium-3-5:batchMistral Medium 3.5 sujungia instrukcijų vykdymą, samprotavimą ir programavimą tankiajame 128 mlrd. parametrų teksto ir vaizdų modelyje. Jis turi gamintojo nurodytą 256 tūkst. žetonų kontekstą, kiekvienos užklausos samprotavimo nustatymus, savąjį funkcijų kvietimą ir struktūruotą išvestį dokumentų bei agentų darbo procesams.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Mistral Medium 3.5 – Mistral AI tankusis 128 mlrd. parametrų modelis, viename svorių rinkinyje sujungiantis instrukcijų vykdymą, samprotavimą ir programavimą. Jis priima tekstą bei vaizdus ir grąžina tekstą. Gamintojas jį skiria agentinėms ir programavimo užduotims, o tas pats kontrolinis taškas gali pateikti tiesioginį pokalbio atsakymą arba naudoti dokumentuotą samprotavimo režimą sudėtingesnei užduočiai.
Vieningas modelis ir vaizdinės galimybės
Išleisto modelio kortelėje nurodyta 128 mlrd. tankiojo modelio parametrų ir 256 tūkst. žetonų konteksto langas. Jo regos koduotuvas mokytas apdoroti skirtingų dydžių bei proporcijų vaizdus. Vaizdai gali suteikti įrodymų programavimo ar dokumento užduočiai: sąsajos ekrano kopija, reikalavimą lydinti diagrama ar puslapis su informacija, kurią modelis turi interpretuoti. Rezultatas gali būti rašytinis paaiškinimas, kodas ar struktūruoti laukai, o ne sugeneruotas vaizdas.
Gamintojas aprašo daugiakalbį palaikymą dešimtimis kalbų, įskaitant anglų, prancūzų, ispanų, vokiečių, italų, portugalų, olandų, kinų, japonų, korėjiečių ir arabų. Jis taip pat pabrėžia sisteminių užklausų laikymąsi ir savąjį funkcijų kvietimą su JSON išvestimi. Auditoriją, kalbą ir atsakymo taisykles nurodykite atskirai nuo nagrinėjamos medžiagos, kad šaltinio dokumento formuluotės liktų užduoties įrodymais.
Samprotavimo nustatymai
Kortelėje dokumentuotos dvi kiekvienos užklausos samprotavimo pastangų reikšmės. Reikšmė none pateikia instrukcinio tipo atsakymą be samprotavimo režimo; high įjungia samprotavimą ir rekomenduojama sudėtingoms užklausoms bei agentiniam programavimui. Tai režimo pasirinkimas tame pačiame Medium 3.5 kontroliniame taške, o ne kita modelio tapatybė.
Didelėms samprotavimo pastangoms gamintojas rekomenduoja temperatūrą 0.7 ir top-p 0.95. Režimui none jis dokumentuoja temperatūrą nuo 0.0 iki 0.7 pagal užduotį, o top-p palieka nenustatytą arba 1.0. Tai laidos rekomendacijos. Pirmiausia pasirinkite išvesties paskirtį: glaustą laukų išgavimą, kodo pakeitimą su paaiškinimu ar palyginimą, kuriam reikia kelių pagrįstų sprendimų.
Praktinė samprotavimo užduotis gali pateikti reikalavimą, įgyvendinimą ir neatitikimą atskleidžiančią įvestį. Prašykite modelio nustatyti aktualų kelią, paaiškinti skirtumą ir pasiūlyti mažiausią pakeitimą, išsaugantį viešąją sąsają. Pataisyto kodo prašykite atskirai nuo prielaidų bei pavyzdžių. Modelis generuoja pasiūlymą; jo kompiliavimui, vykdymui ir pritaikymui reikia prie agento prijungtos kūrimo aplinkos.
Įrankiai, dokumentai ir numatomi pakeitimai
Gamintojo paslaugos kortelėje taip pat nurodytos struktūruotos išvestys, numatomos išvestys, klausimai apie dokumentus, atsakymo prefiksai, paketinis apdorojimas ir agentų pokalbiai. Duomenims išgauti apibrėžkite laukų pavadinimus, tipus ir trūkstamų reikšmių tvarkymą. JSON režimas pateikia struktūruotą vaizdavimą, o pasirinktinė schema apibrėžia konkretesnę formą prijungtoje sąsajoje. Prašykite tik įrašo, kai jį analizuos programa, ir atskiro paaiškinimo, kai žmogui reikia patikrinti interpretaciją.
Atsakymas į klausimus apie dokumentus sujungia OCR paruoštą tekstą bei struktūrą su kalbos modelio supratimu. Palyginimui įvardykite dokumentus ir vertinamą sąlygą, tada prašykite kiekvienos išvados su jos vieta šaltinyje. Naudinga išvestis gali atskirti bendrus reikalavimus, nesutarimus ir atvirus klausimus. Tiesioginiai klausimai apie vaizdus gali būti skirti diagramos žymai ar sąsajos elementui; išsaugotos antraštės, vienetai ir vaizdų vaidmenys padeda susieti atsakymą su pateikta medžiaga.
Numatomos išvestys dokumentuotos užduotims, kuriose didelė pageidaujamo atsakymo dalis jau žinoma, pavyzdžiui, kodo failo ar dokumento pakartotiniam generavimui su ribotais pakeitimais. Pateikite esamą turinį ir įvardykite konkretų pakeitimą, išsaugodami dalis, kurios turi likti. Tai skiriasi nuo visiškai naujo artefakto prašymo ar tęsimo nuo žinomo atsakymo prefikso. Paslaugos funkcijos aprašo pateikimo ir formatavimo galimybes; jos nekeičia modelio teksto bei vaizdų įvesties ar tekstinės išvesties.
Įrankiais paremtame procese programa pateikia funkcijų aprašymus bei parametrus, modelis parenka funkciją ir paruošia argumentus, o programa ją vykdo ir grąžina rezultatą. Skaičiavimo įrankis gali gauti iš pateikto vaizdo nuskaitytas reikšmes, o paieškos įrankis – pateikti trūkstamą informaciją kitam atsakymui. Įrankio rezultatą išsaugokite susietą su jį sukūrusia operacija. Agentinis samprotavimas remiasi šia aplinka; vien teksto generavimas neatlieka išorinių veiksmų.
Ilgų sesijų paruošimas
256 tūkst. žetonų kontekstą naudokite susijusiam pirminiam kodui, dokumentams ir pokalbio istorijai, o faktinį tikslą išlaikykite aiškų. Programavimo sesija gali išsaugoti modulį, jo kvietėją bei reikalavimus ir prašyti vieno apibrėžto pakeitimo. Dokumento sesija gali laikyti aktualius skyrius kartu ir grąžinti trumpą lentelę ar pataisytą ištrauką. Konteksto talpa nenusako atskiro didžiausio atsakymo ilgio; kortelės 1 024 žetonų generavimo pavyzdys yra iliustracija, o ne ši riba.
Gamintojas pažymi, kad ankstesnėje paskelbtoje konfigūracijoje buvo ilgo konteksto klaida ir kad ji ištaisyta, taip pat nurodo jos svarbą išvestiniams kontroliniams taškams. Naudodami svorius ilgoms sesijoms, išsaugokite pataisytą laidos konfigūraciją. Medium 3.5 hibridiniai režimai ir 128 mlrd. parametrų architektūra neturi būti priskiriami Medium 3.1 ar atskirai įvardytam numatymo galvutės kontroliniam taškui vien dėl bendro šeimos pavadinimo.
POST /v1/batchestexttext| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasendpoint | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos /v1/chat/completions | Numatyta— |
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos mistralai/mistral-medium-3-5:batch | Numatyta— |
Laukasrequests | Tipasbatch_item[] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 | Numatyta— |
Laukasrequests[].custom_id | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasrequests[].body.messages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukascompletion_window | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos 24h | Numatyta— |
Laukasprovider | Tipasobject|null | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasrequests[].body.model | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos mistralai/mistral-medium-3-5:batch, mistralai/mistral-medium-3-5 | Numatyta— |
Laukasprovider.only | Tipasstring[] | ReikalavimasNeprivaloma | Reikšmės ir ribos mistral | Numatyta— |
Laukasprovider.allow_fallbacks | Tipasboolean|null | ReikalavimasNeprivaloma | Reikšmės ir ribos false, null | Numatyta— |
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijaendpoint, model, requests |
Parametrasmaterial_types | Specifikacijatext |
Parametrasrepresentation | Specifikacijatiesiogiai įterptas requests[] masyvas; kiekvienas elementas turi custom_id ir body laukus |
Parametrasrequest_endpoint_profile | Specifikacija/v1/chat/completions |
Parametrasfile_material | SpecifikacijaKlientas gali vietoje perskaityti faktinį UTF-8 JSONL turinį į requests[] masyvą. Įkėlimo purpose, input_file_id ar failo nuoroda nenaudojami. Jei kliento medžiagos nėra arba ji tuščia, parengimas sustabdomas prieš POST. |
Parametrasserialization_order | Specifikacijaendpoint, model, provider (jei pateiktas), completion_window (jei pateiktas), requests pateikite paskiausiai |
Parametrasoptional_controls | Specifikacijaprovider.only, provider.allow_fallbacks, completion_window |
Parametrasschema_scope | SpecifikacijaTekstinių Chat Completions užklausų turiniai dokumentuotoje Batch paketo struktūroje, pateikiamoje pačioje užklausoje. |
Gyvavimo ciklas: asynchronous
GET /v1/batches/{operation_id} · faktinė pradinės kūrimo užklausos atsakymo response.id reikšmė; tas pats naudotojas, raktas ir grupė
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
Kiekvieną mokestį susiekite su nurodytomis sąlygomis. Kiekvienam alternatyvių konfigūracijų rinkiniui taikykite vieną įkainį.
| Konfigūracija | Įkainių lentelė | Konteksto tokenų daugiau nei | Konteksto tokenų iki imtinai | Mokestis |
|---|---|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Konteksto tokenų daugiau nei— | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.0015 / 1K tokenų Išvestis · Išvesties tokenai $0.0075 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
| KonfigūracijaUžklausos ilgio pakopa 1 | Įkainių lentelė— | Konteksto tokenų daugiau nei0 | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.0015 / 1K tokenų Išvestis · Išvesties tokenai $0.0075 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-medium-3-5:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/mistral-medium-3-5:batch', 'mistralai/mistral-medium-3-5']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-medium-3-5:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\ntiesiogiai įterptas results[].response.body JSON
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nIšsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite visą pradinės būsenos JSON, kiekvieną rezultatą ir custom_id bei visą atsakymo arba klaidos turinį. Užbaigtus results[] išsaugokite JSONL formatu nieko nefiltruodami.
Išsaugokite pradinį operacijos ID. Atsakyme 503 result_pending_check pateikiama X-Should-Retry:false; niekada pakartotinai neteikite pradinio paketo, kurio baigtis nežinoma.
| Laukas | Tipas |
|---|---|
Laukasresults[].custom_id | Tipasstring |
Laukasresults[].response.body.choices[].message.content | Tipasstring|null |
Laukasresults[].error | Tipasobject|null |
Laukasusage | Tipasobject|null |
Laukasid | Tipasstring |
Laukasmodel | Tipasstring |
Laukasendpoint | Tipasstring |
Laukasstatus | Tipasstring |
Laukasrequest_counts | Tipasobject |
Laukasresults[].id | Tipasstring |
Laukasresults[].response.status_code | Tipasinteger |
Laukasresults[].response.request_id | Tipasstring |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNeteisinga dokumentuota tiesiogiai įterpto paketo struktūra, pasikartojantys raktai, netinkama elemento tapatybė arba konfliktas su sukonfigūruotomis modelio galimybėmis. | Kitas žingsnisPrieš bet kokį naują pateikimą pataisykite nurodytus laukus. |
Atsakymas401 · authentication_error | SąlygaNegaliojantis API raktas. | Kitas žingsnisNaudokite leistiną Ailoot raktą. |
Atsakymas403 · permission_error | SąlygaPaketinio apdorojimo grupė neprieinama. | Kitas žingsnisPatikrinkite rakto ir grupės prieigos teises. |
Atsakymas422 · invalid_request_error | SąlygaPaketinis apdorojimas apmokamas iš balanso; kūrimo užklausos su prenumeratos apmokėjimu atmetamos. | Kitas žingsnisNaudokite leistiną grupę, kurios užklausos apmokamos iš balanso. |
Atsakymas422 · price_unavailable | SąlygaNepavyksta apskaičiuoti paketinio apdorojimo įvesties kainos. | Kitas žingsnisIšsaugokite atsakymą; naudokite dokumentuotą šios API šeimos įvestį. |
Atsakymas402 · billing_error | SąlygaPaketiniam apdorojimui reikalingas rezervas neprieinamas. | Kitas žingsnisPrieš teikdami naują užklausą išspręskite užklausos priėmimo problemą. |
Atsakymas503 · price_unavailable | SąlygaPaketinio apdorojimo metodo kaina arba savieji sistemos įkainiai neprieinami. | Kitas žingsnisIšsaugokite atsakymą; nekeiskite kainų kitomis. |
Atsakymas503 · api_error | SąlygaKonkretus tiekėjo maršrutas neprieinamas. | Kitas žingsnisIšsaugokite atsakymą maršrutui pataisyti. |
Atsakymas503 · result_pending_check | SąlygaPradinį rezultatą reikia patikrinti; X-Should-Retry:false. | Kitas žingsnisIšsaugokite pradinę operation_id/id reikšmę ir tikrinkite operacijos būseną; niekada nekartokite pradinės POST užklausos. |
Atsakymas404 · not_found | SąlygaPaketinio apdorojimo būsenos operacijos nėra arba ji susieta su kita tapatybe. | Kitas žingsnisNaudokite tikslią pradinę id reikšmę ir tą patį naudotoją, raktą bei grupę. |
Ailoot Ultra mistralai/mistral-medium-3-5:batch
Naudokite aukščiau nurodytus metodų kelius.