Mistral Medium 3.1 – multimodalinė Mistral AI versija tekstui ir vaizdams suprasti. Gamintojas aprašo šią versiją kaip gerinančią toną bei veikimą Medium 3 linijoje. Ji priima tekstą bei vaizdus ir generuoja tekstą: paaiškinimą, atsakymą apie dokumentą, struktūruotą įrašą ar siūlomą funkcijos kvietimą. Gamintojo fiksuotas šios versijos identifikatorius – mistral-medium-2508.
Kontekstas ir konkreti versija
Modelio puslapyje dokumentuotas 128 tūkst. žetonų konteksto langas. Jame laikykite kartu susijusias šaltinių ištraukas, vaizdinius įrodymus, pokalbį ir naudotojo užduotį. Prieš pateikdami didelį rinkinį, įvardykite dokumentų vaidmenis ir klausimą, į kurį reikia atsakyti. Ilgas kontekstas gali palaikyti tikslinį palyginimą, o galutinis artefaktas likti trumpa lentele ar pataisytu skyriumi.
Medium 3.1 išlaiko savą specifikaciją. Medium 3.5 aprašyti 256 tūkst. žetonų kontekstas, tankioji 128 mlrd. parametrų architektūra ir konfigūruojami hibridinio samprotavimo režimai neturi būti priskiriami šiam įrašui. 3.1 puslapis nepateikia parametrų skaičiaus ar atskiro didžiausio atsakymo ilgio, kuriuos būtų galima saugiai perimti iš vėlesnio modelio.
Struktūruota išvestis ir funkcijos
Gamintojas tarp šios versijos funkcijų nurodo struktūruotas išvestis, funkcijų kvietimą ir numatomas išvestis. Struktūruoto išgavimo užduočiai apibrėžkite privalomus laukus, laukiamus tipus ir šaltinyje nesančios informacijos tvarkymą. Įraše gali būti dokumento identifikatorius, išgautas teiginys, jo šaltinio vieta ir likęs klausimas. Prašykite vien įrašo, kai jį analizuos programa, arba prozos paaiškinimą laikykite atskirai, kai žmogui reikia patikrinti interpretaciją.
Bendra Mistral struktūruotos išvesties dokumentacija skiria JSON režimą nuo pasirinktinės schemos. JSON režimui reikia aiškios instrukcijos apie pageidaujamą JSON formatą, o pasirinktinis kelias apibrėžia konkretesnę struktūrą. Tai tekstinio rezultato formatavimas, o ne naujas turinio modalumas ar išorinis veiksmas.
Funkcijoms programa apibrėžia prieinamą operaciją ir argumentus, modelis parenka tinkamą kvietimą ir paruošia reikšmes, o programa jį vykdo. Tada rezultatas tampa informacija kitam atsakymui. Dokumento asistentas gali naudoti paiešką trūkstamiems atskaitos duomenims gauti, bet tik jei aplinkinė programa suteikia tą paiešką ir grąžina faktinį rezultatą. Siūlomą kvietimą ir grąžintus duomenis laikykite susietus.
Numatomi pakeitimai ir atsakymo prefiksai
Numatomos išvestys naudingos, kai dauguma pageidaujamo rezultato jau žinoma, pavyzdžiui, dokumentui ar kodo failui, kuriam reikia riboto pakeitimo. Pateikite esamą turinį ir tiksliai aprašykite pakeitimą, įskaitant tai, kas turi likti nepakeista. Užklausa gali atnaujinti vieno skyriaus terminiją ar pakeisti vieną įgyvendinimo detalę, išsaugant likusį dokumentą. Numatymas apima laukiamą išvesties turinį, o ne jau įvykdytą failo pakeitimą.
Modelio puslapyje taip pat nurodytas atsakymo prefikso tęsimas. Gamintojo pokalbio dokumentacijoje prefiksas pateikia žinomą asistento atsakymo pradžią, po kurios generavimas tęsiasi. Žinoma pradžia ir numatomas turinys sprendžia skirtingas paruošimo problemas. Paketinis apdorojimas ir agento ar pokalbio sąsajos taip pat yra darbo proceso funkcijos, o ne atskiros Medium 3.1 vaizdų, garso ar samprotavimo versijos.
Klausimai apie dokumentus ir vaizdus
Nurodytas dokumentų QnA procesas sujungia OCR paruoštą tekstą, struktūrą bei formatavimą su kalbos modelio analize. Klauskite apie konkrečią užduočiai reikalingą sąlygą, ištrauką ar ryšį. Palyginimas gali įvardyti šaltinių dokumentus ir prašyti bendrų teiginių, prieštaravimų bei neišspręstų detalių, išlaikant šaltinio vietą prie kiekvienos išvados.
Gamintojo regos gidas aiškiai apima Medium 3.1. Tiesioginis vaizdinis klausimas gali pateikti įskaitomą diagramą, dokumento vaizdą ar ekrano kopiją ir klausti, kokie matomi įrodymai pagrindžia išvadą. Išsaugokite ašis, vienetus, žymas ir kontekstą aplink iškirptą lauką. Jei pateikiami keli vaizdai, įvardykite jų tvarką bei vaidmenį, užuot palikę modeliui numanyti, kuris yra originalas, pakeitimas ar atskaitos šaltinis.
Pavyzdžiui, susiekite rašytinį proceso reikalavimą su ekrano kopija ir prašykite matomų atitikčių, skirtumų bei klausimų, kuriems reikia daugiau informacijos, lentelės. Kita užduotis gali pateikti dvi dokumento versijas ir prašyti pataisytos ištraukos, kuri išsaugo bendras jų sąlygas bei išsprendžia įvardytą nenuoseklumą. Tai siūlomi dokumentuotų vaizdinių, dokumentų ir redagavimo galimybių taikymai, iš anksto apibrėžus reikiamą rezultatą.
Galutinio artefakto paruošimas
Suteikite asistentui aiškų vaidmenį, naudotiną šaltinių medžiagą ir atsakymo formą. Ilgalaikes atsakymo taisykles atskirkite nuo nagrinėjamo dokumento ir nurodykite galutinę kalbą bei terminiją. Naudingas atsakymas gali atskirti išgautą faktą, jo šaltinį ir interpretaciją, todėl jį lengviau patikrinti nei vieną sujungtą santrauką.
Dokumentuotas rezultatas lieka tekstas. Išoriniai įrankiai, failų pakeitimai ir tolesnis dokumentų apdorojimas priklauso prie pokalbio prijungtai programai. Išsaugokite įvardytą Medium 3.1 versiją ir jos 128 tūkst. žetonų kontekstą bei prašykite paaiškinimo, struktūruoto įrašo ar tikslinio pakeitimo, kurio iš tikrųjų reikia kitam žingsniui.
", "aboutText": "Mistral Medium 3.1 – multimodalinė Mistral AI versija tekstui ir vaizdams suprasti. Gamintojas aprašo šią versiją kaip gerinančią toną bei veikimą Medium 3 linijoje. Ji priima tekstą bei vaizdus ir generuoja tekstą: paaiškinimą, atsakymą apie dokumentą, struktūruotą įrašą ar siūlomą funkcijos kvietimą. Gamintojo fiksuotas šios versijos identifikatorius – mistral-medium-2508.\n\nKontekstas ir konkreti versija\n\nModelio puslapyje dokumentuotas 128 tūkst. žetonų konteksto langas. Jame laikykite kartu susijusias šaltinių ištraukas, vaizdinius įrodymus, pokalbį ir naudotojo užduotį. Prieš pateikdami didelį rinkinį, įvardykite dokumentų vaidmenis ir klausimą, į kurį reikia atsakyti. Ilgas kontekstas gali palaikyti tikslinį palyginimą, o galutinis artefaktas likti trumpa lentele ar pataisytu skyriumi.\n\nMedium 3.1 išlaiko savą specifikaciją. Medium 3.5 aprašyti 256 tūkst. žetonų kontekstas, tankioji 128 mlrd. parametrų architektūra ir konfigūruojami hibridinio samprotavimo režimai neturi būti priskiriami šiam įrašui. 3.1 puslapis nepateikia parametrų skaičiaus ar atskiro didžiausio atsakymo ilgio, kuriuos būtų galima saugiai perimti iš vėlesnio modelio.\n\nStruktūruota išvestis ir funkcijos\n\nGamintojas tarp šios versijos funkcijų nurodo struktūruotas išvestis, funkcijų kvietimą ir numatomas išvestis. Struktūruoto išgavimo užduočiai apibrėžkite privalomus laukus, laukiamus tipus ir šaltinyje nesančios informacijos tvarkymą. Įraše gali būti dokumento identifikatorius, išgautas teiginys, jo šaltinio vieta ir likęs klausimas. Prašykite vien įrašo, kai jį analizuos programa, arba prozos paaiškinimą laikykite atskirai, kai žmogui reikia patikrinti interpretaciją.\n\nBendra Mistral struktūruotos išvesties dokumentacija skiria JSON režimą nuo pasirinktinės schemos. JSON režimui reikia aiškios instrukcijos apie pageidaujamą JSON formatą, o pasirinktinis kelias apibrėžia konkretesnę struktūrą. Tai tekstinio rezultato formatavimas, o ne naujas turinio modalumas ar išorinis veiksmas.\n\nFunkcijoms programa apibrėžia prieinamą operaciją ir argumentus, modelis parenka tinkamą kvietimą ir paruošia reikšmes, o programa jį vykdo. Tada rezultatas tampa informacija kitam atsakymui. Dokumento asistentas gali naudoti paiešką trūkstamiems atskaitos duomenims gauti, bet tik jei aplinkinė programa suteikia tą paiešką ir grąžina faktinį rezultatą. Siūlomą kvietimą ir grąžintus duomenis laikykite susietus.\n\nNumatomi pakeitimai ir atsakymo prefiksai\n\nNumatomos išvestys naudingos, kai dauguma pageidaujamo rezultato jau žinoma, pavyzdžiui, dokumentui ar kodo failui, kuriam reikia riboto pakeitimo. Pateikite esamą turinį ir tiksliai aprašykite pakeitimą, įskaitant tai, kas turi likti nepakeista. Užklausa gali atnaujinti vieno skyriaus terminiją ar pakeisti vieną įgyvendinimo detalę, išsaugant likusį dokumentą. Numatymas apima laukiamą išvesties turinį, o ne jau įvykdytą failo pakeitimą.\n\nModelio puslapyje taip pat nurodytas atsakymo prefikso tęsimas. Gamintojo pokalbio dokumentacijoje prefiksas pateikia žinomą asistento atsakymo pradžią, po kurios generavimas tęsiasi. Žinoma pradžia ir numatomas turinys sprendžia skirtingas paruošimo problemas. Paketinis apdorojimas ir agento ar pokalbio sąsajos taip pat yra darbo proceso funkcijos, o ne atskiros Medium 3.1 vaizdų, garso ar samprotavimo versijos.\n\nKlausimai apie dokumentus ir vaizdus\n\nNurodytas dokumentų QnA procesas sujungia OCR paruoštą tekstą, struktūrą bei formatavimą su kalbos modelio analize. Klauskite apie konkrečią užduočiai reikalingą sąlygą, ištrauką ar ryšį. Palyginimas gali įvardyti šaltinių dokumentus ir prašyti bendrų teiginių, prieštaravimų bei neišspręstų detalių, išlaikant šaltinio vietą prie kiekvienos išvados.\n\nGamintojo regos gidas aiškiai apima Medium 3.1. Tiesioginis vaizdinis klausimas gali pateikti įskaitomą diagramą, dokumento vaizdą ar ekrano kopiją ir klausti, kokie matomi įrodymai pagrindžia išvadą. Išsaugokite ašis, vienetus, žymas ir kontekstą aplink iškirptą lauką. Jei pateikiami keli vaizdai, įvardykite jų tvarką bei vaidmenį, užuot palikę modeliui numanyti, kuris yra originalas, pakeitimas ar atskaitos šaltinis.\n\nPavyzdžiui, susiekite rašytinį proceso reikalavimą su ekrano kopija ir prašykite matomų atitikčių, skirtumų bei klausimų, kuriems reikia daugiau informacijos, lentelės. Kita užduotis gali pateikti dvi dokumento versijas ir prašyti pataisytos ištraukos, kuri išsaugo bendras jų sąlygas bei išsprendžia įvardytą nenuoseklumą. Tai siūlomi dokumentuotų vaizdinių, dokumentų ir redagavimo galimybių taikymai, iš anksto apibrėžus reikiamą rezultatą.\n\nGalutinio artefakto paruošimas\n\nSuteikite asistentui aiškų vaidmenį, naudotiną šaltinių medžiagą ir atsakymo formą. Ilgalaikes atsakymo taisykles atskirkite nuo nagrinėjamo dokumento ir nurodykite galutinę kalbą bei terminiją. Naudingas atsakymas gali atskirti išgautą faktą, jo šaltinį ir interpretaciją, todėl jį lengviau patikrinti nei vieną sujungtą santrauką.\n\nDokumentuotas rezultatas lieka tekstas. Išoriniai įrankiai, failų pakeitimai ir tolesnis dokumentų apdorojimas priklauso prie pokalbio prijungtai programai. Išsaugokite įvardytą Medium 3.1 versiją ir jos 128 tūkst. žetonų kontekstą bei prašykite paaiškinimo, struktūruoto įrašo ar tikslinio pakeitimo, kurio iš tikrųjų reikia kitam žingsniui.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "fcbf65d12b765c2c9182a7768ba19063089a87729e40220760ffafc1eebe4692", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "lt", "methods": [ { "html": "mistralai/mistral-medium-3.1:batchMistral Medium 3.1 – teksto ir vaizdų modelis pokalbio atsakymams, klausimams apie dokumentus ir struktūruotam duomenų išgavimui. Gamintojo nurodytas 128 tūkst. žetonų kontekstas ir išvardytos funkcijų kvietimo, numatomos išvesties bei prefikso funkcijos palaiko šaltiniais grįstus paaiškinimus ir tikslinio redagavimo procesus.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Mistral Medium 3.1 – multimodalinė Mistral AI versija tekstui ir vaizdams suprasti. Gamintojas aprašo šią versiją kaip gerinančią toną bei veikimą Medium 3 linijoje. Ji priima tekstą bei vaizdus ir generuoja tekstą: paaiškinimą, atsakymą apie dokumentą, struktūruotą įrašą ar siūlomą funkcijos kvietimą. Gamintojo fiksuotas šios versijos identifikatorius – mistral-medium-2508.
Kontekstas ir konkreti versija
Modelio puslapyje dokumentuotas 128 tūkst. žetonų konteksto langas. Jame laikykite kartu susijusias šaltinių ištraukas, vaizdinius įrodymus, pokalbį ir naudotojo užduotį. Prieš pateikdami didelį rinkinį, įvardykite dokumentų vaidmenis ir klausimą, į kurį reikia atsakyti. Ilgas kontekstas gali palaikyti tikslinį palyginimą, o galutinis artefaktas likti trumpa lentele ar pataisytu skyriumi.
Medium 3.1 išlaiko savą specifikaciją. Medium 3.5 aprašyti 256 tūkst. žetonų kontekstas, tankioji 128 mlrd. parametrų architektūra ir konfigūruojami hibridinio samprotavimo režimai neturi būti priskiriami šiam įrašui. 3.1 puslapis nepateikia parametrų skaičiaus ar atskiro didžiausio atsakymo ilgio, kuriuos būtų galima saugiai perimti iš vėlesnio modelio.
Struktūruota išvestis ir funkcijos
Gamintojas tarp šios versijos funkcijų nurodo struktūruotas išvestis, funkcijų kvietimą ir numatomas išvestis. Struktūruoto išgavimo užduočiai apibrėžkite privalomus laukus, laukiamus tipus ir šaltinyje nesančios informacijos tvarkymą. Įraše gali būti dokumento identifikatorius, išgautas teiginys, jo šaltinio vieta ir likęs klausimas. Prašykite vien įrašo, kai jį analizuos programa, arba prozos paaiškinimą laikykite atskirai, kai žmogui reikia patikrinti interpretaciją.
Bendra Mistral struktūruotos išvesties dokumentacija skiria JSON režimą nuo pasirinktinės schemos. JSON režimui reikia aiškios instrukcijos apie pageidaujamą JSON formatą, o pasirinktinis kelias apibrėžia konkretesnę struktūrą. Tai tekstinio rezultato formatavimas, o ne naujas turinio modalumas ar išorinis veiksmas.
Funkcijoms programa apibrėžia prieinamą operaciją ir argumentus, modelis parenka tinkamą kvietimą ir paruošia reikšmes, o programa jį vykdo. Tada rezultatas tampa informacija kitam atsakymui. Dokumento asistentas gali naudoti paiešką trūkstamiems atskaitos duomenims gauti, bet tik jei aplinkinė programa suteikia tą paiešką ir grąžina faktinį rezultatą. Siūlomą kvietimą ir grąžintus duomenis laikykite susietus.
Numatomi pakeitimai ir atsakymo prefiksai
Numatomos išvestys naudingos, kai dauguma pageidaujamo rezultato jau žinoma, pavyzdžiui, dokumentui ar kodo failui, kuriam reikia riboto pakeitimo. Pateikite esamą turinį ir tiksliai aprašykite pakeitimą, įskaitant tai, kas turi likti nepakeista. Užklausa gali atnaujinti vieno skyriaus terminiją ar pakeisti vieną įgyvendinimo detalę, išsaugant likusį dokumentą. Numatymas apima laukiamą išvesties turinį, o ne jau įvykdytą failo pakeitimą.
Modelio puslapyje taip pat nurodytas atsakymo prefikso tęsimas. Gamintojo pokalbio dokumentacijoje prefiksas pateikia žinomą asistento atsakymo pradžią, po kurios generavimas tęsiasi. Žinoma pradžia ir numatomas turinys sprendžia skirtingas paruošimo problemas. Paketinis apdorojimas ir agento ar pokalbio sąsajos taip pat yra darbo proceso funkcijos, o ne atskiros Medium 3.1 vaizdų, garso ar samprotavimo versijos.
Klausimai apie dokumentus ir vaizdus
Nurodytas dokumentų QnA procesas sujungia OCR paruoštą tekstą, struktūrą bei formatavimą su kalbos modelio analize. Klauskite apie konkrečią užduočiai reikalingą sąlygą, ištrauką ar ryšį. Palyginimas gali įvardyti šaltinių dokumentus ir prašyti bendrų teiginių, prieštaravimų bei neišspręstų detalių, išlaikant šaltinio vietą prie kiekvienos išvados.
Gamintojo regos gidas aiškiai apima Medium 3.1. Tiesioginis vaizdinis klausimas gali pateikti įskaitomą diagramą, dokumento vaizdą ar ekrano kopiją ir klausti, kokie matomi įrodymai pagrindžia išvadą. Išsaugokite ašis, vienetus, žymas ir kontekstą aplink iškirptą lauką. Jei pateikiami keli vaizdai, įvardykite jų tvarką bei vaidmenį, užuot palikę modeliui numanyti, kuris yra originalas, pakeitimas ar atskaitos šaltinis.
Pavyzdžiui, susiekite rašytinį proceso reikalavimą su ekrano kopija ir prašykite matomų atitikčių, skirtumų bei klausimų, kuriems reikia daugiau informacijos, lentelės. Kita užduotis gali pateikti dvi dokumento versijas ir prašyti pataisytos ištraukos, kuri išsaugo bendras jų sąlygas bei išsprendžia įvardytą nenuoseklumą. Tai siūlomi dokumentuotų vaizdinių, dokumentų ir redagavimo galimybių taikymai, iš anksto apibrėžus reikiamą rezultatą.
Galutinio artefakto paruošimas
Suteikite asistentui aiškų vaidmenį, naudotiną šaltinių medžiagą ir atsakymo formą. Ilgalaikes atsakymo taisykles atskirkite nuo nagrinėjamo dokumento ir nurodykite galutinę kalbą bei terminiją. Naudingas atsakymas gali atskirti išgautą faktą, jo šaltinį ir interpretaciją, todėl jį lengviau patikrinti nei vieną sujungtą santrauką.
Dokumentuotas rezultatas lieka tekstas. Išoriniai įrankiai, failų pakeitimai ir tolesnis dokumentų apdorojimas priklauso prie pokalbio prijungtai programai. Išsaugokite įvardytą Medium 3.1 versiją ir jos 128 tūkst. žetonų kontekstą bei prašykite paaiškinimo, struktūruoto įrašo ar tikslinio pakeitimo, kurio iš tikrųjų reikia kitam žingsniui.
POST /v1/batchestexttext| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasendpoint | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos /v1/chat/completions | Numatyta— |
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos mistralai/mistral-medium-3.1:batch | Numatyta— |
Laukasrequests | Tipasbatch_item[] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 | Numatyta— |
Laukasrequests[].custom_id | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasrequests[].body.messages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukascompletion_window | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos 24h | Numatyta— |
Laukasprovider | Tipasobject|null | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasrequests[].body.model | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos mistralai/mistral-medium-3.1:batch, mistralai/mistral-medium-3.1 | Numatyta— |
Laukasprovider.only | Tipasstring[] | ReikalavimasNeprivaloma | Reikšmės ir ribos mistral | Numatyta— |
Laukasprovider.allow_fallbacks | Tipasboolean|null | ReikalavimasNeprivaloma | Reikšmės ir ribos false, null | Numatyta— |
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijaendpoint, model, requests |
Parametrasmaterial_types | Specifikacijatext |
Parametrasrepresentation | Specifikacijatiesiogiai įterptas requests[] masyvas; kiekvienas elementas turi custom_id ir body laukus |
Parametrasrequest_endpoint_profile | Specifikacija/v1/chat/completions |
Parametrasfile_material | SpecifikacijaKlientas gali vietoje perskaityti faktinį UTF-8 JSONL turinį į requests[] masyvą. Įkėlimo purpose, input_file_id ar failo nuoroda nenaudojami. Jei kliento medžiagos nėra arba ji tuščia, parengimas sustabdomas prieš POST. |
Parametrasserialization_order | Specifikacijaendpoint, model, provider (jei pateiktas), completion_window (jei pateiktas), requests pateikite paskiausiai |
Parametrasoptional_controls | Specifikacijaprovider.only, provider.allow_fallbacks, completion_window |
Parametrasschema_scope | SpecifikacijaTekstinių Chat Completions užklausų turiniai dokumentuotoje Batch paketo struktūroje, pateikiamoje pačioje užklausoje. |
Gyvavimo ciklas: asynchronous
GET /v1/batches/{operation_id} · faktinė pradinės kūrimo užklausos atsakymo response.id reikšmė; tas pats naudotojas, raktas ir grupė
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
Kiekvieną mokestį susiekite su nurodytomis sąlygomis. Kiekvienam alternatyvių konfigūracijų rinkiniui taikykite vieną įkainį.
| Konfigūracija | Įkainių lentelė | Konteksto tokenų daugiau nei | Konteksto tokenų iki imtinai | Mokestis |
|---|---|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Konteksto tokenų daugiau nei— | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.0004 / 1K tokenų Išvestis · Išvesties tokenai $0.002 / 1K tokenų Įvestis · Talpyklos skaitymas $0.00004 / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
| KonfigūracijaUžklausos ilgio pakopa 1 | Įkainių lentelė— | Konteksto tokenų daugiau nei0 | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.0004 / 1K tokenų Išvestis · Išvesties tokenai $0.002 / 1K tokenų Įvestis · Talpyklos skaitymas $0.00004 / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-medium-3.1:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/mistral-medium-3.1:batch', 'mistralai/mistral-medium-3.1']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-medium-3.1:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\ntiesiogiai įterptas results[].response.body JSON
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nIšsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite visą pradinės būsenos JSON, kiekvieną rezultatą ir custom_id bei visą atsakymo arba klaidos turinį. Užbaigtus results[] išsaugokite JSONL formatu nieko nefiltruodami.
Išsaugokite pradinį operacijos ID. Atsakyme 503 result_pending_check pateikiama X-Should-Retry:false; niekada pakartotinai neteikite pradinio paketo, kurio baigtis nežinoma.
| Laukas | Tipas |
|---|---|
Laukasresults[].custom_id | Tipasstring |
Laukasresults[].response.body.choices[].message.content | Tipasstring|null |
Laukasresults[].error | Tipasobject|null |
Laukasusage | Tipasobject|null |
Laukasid | Tipasstring |
Laukasmodel | Tipasstring |
Laukasendpoint | Tipasstring |
Laukasstatus | Tipasstring |
Laukasrequest_counts | Tipasobject |
Laukasresults[].id | Tipasstring |
Laukasresults[].response.status_code | Tipasinteger |
Laukasresults[].response.request_id | Tipasstring |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNeteisinga dokumentuota tiesiogiai įterpto paketo struktūra, pasikartojantys raktai, netinkama elemento tapatybė arba konfliktas su sukonfigūruotomis modelio galimybėmis. | Kitas žingsnisPrieš bet kokį naują pateikimą pataisykite nurodytus laukus. |
Atsakymas401 · authentication_error | SąlygaNegaliojantis API raktas. | Kitas žingsnisNaudokite leistiną Ailoot raktą. |
Atsakymas403 · permission_error | SąlygaPaketinio apdorojimo grupė neprieinama. | Kitas žingsnisPatikrinkite rakto ir grupės prieigos teises. |
Atsakymas422 · invalid_request_error | SąlygaPaketinis apdorojimas apmokamas iš balanso; kūrimo užklausos su prenumeratos apmokėjimu atmetamos. | Kitas žingsnisNaudokite leistiną grupę, kurios užklausos apmokamos iš balanso. |
Atsakymas422 · price_unavailable | SąlygaNepavyksta apskaičiuoti paketinio apdorojimo įvesties kainos. | Kitas žingsnisIšsaugokite atsakymą; naudokite dokumentuotą šios API šeimos įvestį. |
Atsakymas402 · billing_error | SąlygaPaketiniam apdorojimui reikalingas rezervas neprieinamas. | Kitas žingsnisPrieš teikdami naują užklausą išspręskite užklausos priėmimo problemą. |
Atsakymas503 · price_unavailable | SąlygaPaketinio apdorojimo metodo kaina arba savieji sistemos įkainiai neprieinami. | Kitas žingsnisIšsaugokite atsakymą; nekeiskite kainų kitomis. |
Atsakymas503 · api_error | SąlygaKonkretus tiekėjo maršrutas neprieinamas. | Kitas žingsnisIšsaugokite atsakymą maršrutui pataisyti. |
Atsakymas503 · result_pending_check | SąlygaPradinį rezultatą reikia patikrinti; X-Should-Retry:false. | Kitas žingsnisIšsaugokite pradinę operation_id/id reikšmę ir tikrinkite operacijos būseną; niekada nekartokite pradinės POST užklausos. |
Atsakymas404 · not_found | SąlygaPaketinio apdorojimo būsenos operacijos nėra arba ji susieta su kita tapatybe. | Kitas žingsnisNaudokite tikslią pradinę id reikšmę ir tą patį naudotoją, raktą bei grupę. |
Ailoot Ultra mistralai/mistral-medium-3.1:batch
Naudokite aukščiau nurodytus metodų kelius.