Ministral 3 8B Instruct 2512 – vidutinio dydžio pagal instrukcijas suderintas Mistral AI šeimos Ministral 3 modelis. Išleistas kontrolinis taškas papildomai mokytas pokalbio ir instrukcijų užduotims FP8 tikslumu. Jis sujungia kalbos komponentą su regos koduotuvu, priima tekstą bei vaizdus ir grąžina tekstą, o ne vaizdo ar garso artefaktą.
Architektūra ir pagrindinės savybės
Gamintojas nurodo 8,4 mlrd. parametrų kalbos modelį ir 0,4 mlrd. parametrų regos koduotuvą. Jo konteksto langas apibūdinamas kaip 256 tūkst. žetonų, o paskelbtose naudojimo pastabose naudojamas numatytasis sukonfigūruotas ilgis 262 144. Tai aprašo šią 8B dydžio versiją; mažesnis 3B ir didesnis 14B šeimos nariai išlaiko savus komponentų dydžius bei konfigūracijas.
Rega išplečia modelio įvestį už rašytinio pokalbio ribų. Dokumento vaizdą galima susieti su klausimu apie pasirinktą lauką, pastraipą ar matomą ryšį. Ekrano kopiją galima susieti su naudotojo tikslu ir prašymu nustatyti aktualų valdiklį. Kai atsakymas priklauso nuo vaizdinės detalės, prašykite kiekvieną išvadą pagrindžiančio stebėjimo ir išsaugokite iškarpai interpretuoti reikalingas antraštes, žymas bei vienetus.
Kortelėje aprašomas daugiakalbis darbas dešimtimis kalbų, įskaitant anglų, prancūzų, ispanų, vokiečių, italų, portugalų, olandų, kinų, japonų, korėjiečių ir arabų. Taip pat nurodomas sisteminių instrukcijų laikymasis, savasis funkcijų kvietimas ir JSON išvestis. Aiškiai apibrėžkite galutinę kalbą, vaidmenį ir išvesties reikalavimus, užuot palikę modeliui numatyti reikiamą artefaktą iš didelės įvesties.
Dokumentų, pokalbio ir agentų užduotys
Gamintojo naudojimo atvejai apima pokalbių sąsajas, kasdienius asistentus, vaizdų ir dokumentų aprašymą, vertimą, turinio generavimą bei specializuotus agentus. Dokumento asistentui pateikite puslapį ir nurodykite grąžintiną informaciją. Išgavimo užklausa gali įvardyti laukų žymas, laukiamus tipus ir trūkstamų reikšmių tvarkymą. Naudingame atsakyme gali būti dokumento identifikatorius, išgauta reikšmė ir trumpas su matomu šaltiniu susietas paaiškinimas.
Tęstiniam pokalbiui išsaugokite aktualų ankstesnį atsakymą ir užduokite tikslinį papildomą klausimą. Naudotojas pirmiausia gali paprašyti dokumento santraukos, o tada paklausti, kuris teiginys pagrindžia vieną išvadą. Tai keičia reikiamą išvestį iš bendros apžvalgos į su šaltiniu susietą paaiškinimą, išsaugant pradinę medžiagą ir dialogo tikslą.
Daugiakalbiam redagavimui pateikite originalią ištrauką, numatytą skaitytoją ir terminų sąrašą. Prašykite pataisytos versijos, išsaugančios pavadinimus, sąlygas bei vienetus, o po jos – trumpo pakeitimų paaiškinimo, jei naudinga. Turinio generavimui nurodykite auditoriją ir faktus, kurie turi pasirodyti, prieš prašydami trumpo juodraščio ar alternatyvios formuluotės.
Agento užduotyje programa pateikia įrankius ir jų parametrus. Modelis gali parinkti funkciją ir paruošti argumentus, o programa ją vykdo ir grąžina rezultatą. Kortelės funkcijos pavyzdys sujungia klausimą apie vaizdą su skaičiavimo įrankiu. Įrankio rezultatą laikykite atskirai nuo siūlomo kvietimo, kad vėlesnis rašytinis atsakymas naudotų operacijos faktiškai grąžintą informaciją.
Rekomenduojamas paruošimas ir nustatymai
Gamintojas rekomenduoja sisteminę instrukciją, aprašančią aplinką, naudojimo atvejį ir įrankių naudojimą. Įrankių rinkinys turi būti aiškiai apibrėžtas ir apribotas užduočiai būtinu minimumu. Nedidelis paieškos procesas gali pateikti dabartiniam klausimui aktualias funkcijas su aiškiai įvardytais privalomais argumentais, užuot pateikęs didelį nesusijusių operacijų rinkinį.
Kasdieniam ir gamybiniam naudojimui kortelė rekomenduoja mažesnę nei 0.1 temperatūrą, o didesnes temperatūras – kūrybiniam tyrinėjimui. Tai laikykite instrukcijų darbo proceso rekomendacija, o ne atskiru samprotavimo režimo valdikliu. Šeima turi atskirus Base, Instruct ir Reasoning kontrolinius taškus; šis įrašas yra Instruct 2512 versija, o ne atskira tokio pat dydžio Reasoning laida.
Vaizdams gamintojas rekomenduoja proporcijas, artimas 1:1, ir vengti itin siaurų ar plačių įvesčių. Prireikus apkirpkite, išsaugodami klausimui reikalingas žymas ir kontekstą. Jei puslapyje yra kelios nesusijusios sritys, nurodykite nagrinėtiną dalį ir grąžintiną rezultatą. Įskaitomas, tikslingas vaizdas naudingesnis nei prašymas modeliui spėti, kuri maža detalė plačiame puslapyje svarbi.
Konteksto ir versijos ribos
Tekstą, vaizdus, pokalbį ir pageidaujamą atsakymą planuokite pagal sukonfigūruotą kontekstą. Naudojimo pastabose aiškiai leidžiama mažinti sukonfigūruotą modelio ilgį, kai reikia mažiau konteksto, todėl visas langas nėra instrukcija kiekvieną užklausą užpildyti visa prieinama medžiaga. Kortelės 512 žetonų generavimo pavyzdys yra tik pavyzdinis nustatymas, o skaityti šaltiniai nenustato atskiro griežto didžiausio atsakymo ilgio.
FP8 Instruct kontrolinis taškas, iš anksto apmokyta Base laida ir Reasoning laida yra atskiros versijos. Gamintojas taip pat aprašo specializavimą ir papildomą derinimą kaip naudojimo atvejus. Ruošdami pokalbį, išsaugokite įvardytą kontrolinį tašką bei jo žetonizatorių ir atskirkite teksto generavimą nuo prieigos prie repozitorijos, funkcijų vykdymo ar kitų aplinkinės programos teikiamų veiksmų.
", "aboutText": "Ministral 3 8B Instruct 2512 – vidutinio dydžio pagal instrukcijas suderintas Mistral AI šeimos Ministral 3 modelis. Išleistas kontrolinis taškas papildomai mokytas pokalbio ir instrukcijų užduotims FP8 tikslumu. Jis sujungia kalbos komponentą su regos koduotuvu, priima tekstą bei vaizdus ir grąžina tekstą, o ne vaizdo ar garso artefaktą.\n\nArchitektūra ir pagrindinės savybės\n\nGamintojas nurodo 8,4 mlrd. parametrų kalbos modelį ir 0,4 mlrd. parametrų regos koduotuvą. Jo konteksto langas apibūdinamas kaip 256 tūkst. žetonų, o paskelbtose naudojimo pastabose naudojamas numatytasis sukonfigūruotas ilgis 262 144. Tai aprašo šią 8B dydžio versiją; mažesnis 3B ir didesnis 14B šeimos nariai išlaiko savus komponentų dydžius bei konfigūracijas.\n\nRega išplečia modelio įvestį už rašytinio pokalbio ribų. Dokumento vaizdą galima susieti su klausimu apie pasirinktą lauką, pastraipą ar matomą ryšį. Ekrano kopiją galima susieti su naudotojo tikslu ir prašymu nustatyti aktualų valdiklį. Kai atsakymas priklauso nuo vaizdinės detalės, prašykite kiekvieną išvadą pagrindžiančio stebėjimo ir išsaugokite iškarpai interpretuoti reikalingas antraštes, žymas bei vienetus.\n\nKortelėje aprašomas daugiakalbis darbas dešimtimis kalbų, įskaitant anglų, prancūzų, ispanų, vokiečių, italų, portugalų, olandų, kinų, japonų, korėjiečių ir arabų. Taip pat nurodomas sisteminių instrukcijų laikymasis, savasis funkcijų kvietimas ir JSON išvestis. Aiškiai apibrėžkite galutinę kalbą, vaidmenį ir išvesties reikalavimus, užuot palikę modeliui numatyti reikiamą artefaktą iš didelės įvesties.\n\nDokumentų, pokalbio ir agentų užduotys\n\nGamintojo naudojimo atvejai apima pokalbių sąsajas, kasdienius asistentus, vaizdų ir dokumentų aprašymą, vertimą, turinio generavimą bei specializuotus agentus. Dokumento asistentui pateikite puslapį ir nurodykite grąžintiną informaciją. Išgavimo užklausa gali įvardyti laukų žymas, laukiamus tipus ir trūkstamų reikšmių tvarkymą. Naudingame atsakyme gali būti dokumento identifikatorius, išgauta reikšmė ir trumpas su matomu šaltiniu susietas paaiškinimas.\n\nTęstiniam pokalbiui išsaugokite aktualų ankstesnį atsakymą ir užduokite tikslinį papildomą klausimą. Naudotojas pirmiausia gali paprašyti dokumento santraukos, o tada paklausti, kuris teiginys pagrindžia vieną išvadą. Tai keičia reikiamą išvestį iš bendros apžvalgos į su šaltiniu susietą paaiškinimą, išsaugant pradinę medžiagą ir dialogo tikslą.\n\nDaugiakalbiam redagavimui pateikite originalią ištrauką, numatytą skaitytoją ir terminų sąrašą. Prašykite pataisytos versijos, išsaugančios pavadinimus, sąlygas bei vienetus, o po jos – trumpo pakeitimų paaiškinimo, jei naudinga. Turinio generavimui nurodykite auditoriją ir faktus, kurie turi pasirodyti, prieš prašydami trumpo juodraščio ar alternatyvios formuluotės.\n\nAgento užduotyje programa pateikia įrankius ir jų parametrus. Modelis gali parinkti funkciją ir paruošti argumentus, o programa ją vykdo ir grąžina rezultatą. Kortelės funkcijos pavyzdys sujungia klausimą apie vaizdą su skaičiavimo įrankiu. Įrankio rezultatą laikykite atskirai nuo siūlomo kvietimo, kad vėlesnis rašytinis atsakymas naudotų operacijos faktiškai grąžintą informaciją.\n\nRekomenduojamas paruošimas ir nustatymai\n\nGamintojas rekomenduoja sisteminę instrukciją, aprašančią aplinką, naudojimo atvejį ir įrankių naudojimą. Įrankių rinkinys turi būti aiškiai apibrėžtas ir apribotas užduočiai būtinu minimumu. Nedidelis paieškos procesas gali pateikti dabartiniam klausimui aktualias funkcijas su aiškiai įvardytais privalomais argumentais, užuot pateikęs didelį nesusijusių operacijų rinkinį.\n\nKasdieniam ir gamybiniam naudojimui kortelė rekomenduoja mažesnę nei 0.1 temperatūrą, o didesnes temperatūras – kūrybiniam tyrinėjimui. Tai laikykite instrukcijų darbo proceso rekomendacija, o ne atskiru samprotavimo režimo valdikliu. Šeima turi atskirus Base, Instruct ir Reasoning kontrolinius taškus; šis įrašas yra Instruct 2512 versija, o ne atskira tokio pat dydžio Reasoning laida.\n\nVaizdams gamintojas rekomenduoja proporcijas, artimas 1:1, ir vengti itin siaurų ar plačių įvesčių. Prireikus apkirpkite, išsaugodami klausimui reikalingas žymas ir kontekstą. Jei puslapyje yra kelios nesusijusios sritys, nurodykite nagrinėtiną dalį ir grąžintiną rezultatą. Įskaitomas, tikslingas vaizdas naudingesnis nei prašymas modeliui spėti, kuri maža detalė plačiame puslapyje svarbi.\n\nKonteksto ir versijos ribos\n\nTekstą, vaizdus, pokalbį ir pageidaujamą atsakymą planuokite pagal sukonfigūruotą kontekstą. Naudojimo pastabose aiškiai leidžiama mažinti sukonfigūruotą modelio ilgį, kai reikia mažiau konteksto, todėl visas langas nėra instrukcija kiekvieną užklausą užpildyti visa prieinama medžiaga. Kortelės 512 žetonų generavimo pavyzdys yra tik pavyzdinis nustatymas, o skaityti šaltiniai nenustato atskiro griežto didžiausio atsakymo ilgio.\n\nFP8 Instruct kontrolinis taškas, iš anksto apmokyta Base laida ir Reasoning laida yra atskiros versijos. Gamintojas taip pat aprašo specializavimą ir papildomą derinimą kaip naudojimo atvejus. Ruošdami pokalbį, išsaugokite įvardytą kontrolinį tašką bei jo žetonizatorių ir atskirkite teksto generavimą nuo prieigos prie repozitorijos, funkcijų vykdymo ar kitų aplinkinės programos teikiamų veiksmų.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "1c5a211e7fa595717c8009ae6ce5dc1cc69e008d0a9bf33203860d202fdd74ac", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "lt", "methods": [ { "html": "mistralai/ministral-8b-2512:batchMinistral 3 8B Instruct 2512 – daugiakalbis teksto ir vaizdų instrukcijų modelis su 8,4 mlrd. parametrų kalbos komponentu ir 0,4 mlrd. parametrų regos koduotuvu. Jis palaiko gamintojo nurodytą 256 tūkst. žetonų kontekstą, sistemines instrukcijas, JSON ir savąjį funkcijų kvietimą asistentų bei dokumentų darbo procesams.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Ministral 3 8B Instruct 2512 – vidutinio dydžio pagal instrukcijas suderintas Mistral AI šeimos Ministral 3 modelis. Išleistas kontrolinis taškas papildomai mokytas pokalbio ir instrukcijų užduotims FP8 tikslumu. Jis sujungia kalbos komponentą su regos koduotuvu, priima tekstą bei vaizdus ir grąžina tekstą, o ne vaizdo ar garso artefaktą.
Architektūra ir pagrindinės savybės
Gamintojas nurodo 8,4 mlrd. parametrų kalbos modelį ir 0,4 mlrd. parametrų regos koduotuvą. Jo konteksto langas apibūdinamas kaip 256 tūkst. žetonų, o paskelbtose naudojimo pastabose naudojamas numatytasis sukonfigūruotas ilgis 262 144. Tai aprašo šią 8B dydžio versiją; mažesnis 3B ir didesnis 14B šeimos nariai išlaiko savus komponentų dydžius bei konfigūracijas.
Rega išplečia modelio įvestį už rašytinio pokalbio ribų. Dokumento vaizdą galima susieti su klausimu apie pasirinktą lauką, pastraipą ar matomą ryšį. Ekrano kopiją galima susieti su naudotojo tikslu ir prašymu nustatyti aktualų valdiklį. Kai atsakymas priklauso nuo vaizdinės detalės, prašykite kiekvieną išvadą pagrindžiančio stebėjimo ir išsaugokite iškarpai interpretuoti reikalingas antraštes, žymas bei vienetus.
Kortelėje aprašomas daugiakalbis darbas dešimtimis kalbų, įskaitant anglų, prancūzų, ispanų, vokiečių, italų, portugalų, olandų, kinų, japonų, korėjiečių ir arabų. Taip pat nurodomas sisteminių instrukcijų laikymasis, savasis funkcijų kvietimas ir JSON išvestis. Aiškiai apibrėžkite galutinę kalbą, vaidmenį ir išvesties reikalavimus, užuot palikę modeliui numatyti reikiamą artefaktą iš didelės įvesties.
Dokumentų, pokalbio ir agentų užduotys
Gamintojo naudojimo atvejai apima pokalbių sąsajas, kasdienius asistentus, vaizdų ir dokumentų aprašymą, vertimą, turinio generavimą bei specializuotus agentus. Dokumento asistentui pateikite puslapį ir nurodykite grąžintiną informaciją. Išgavimo užklausa gali įvardyti laukų žymas, laukiamus tipus ir trūkstamų reikšmių tvarkymą. Naudingame atsakyme gali būti dokumento identifikatorius, išgauta reikšmė ir trumpas su matomu šaltiniu susietas paaiškinimas.
Tęstiniam pokalbiui išsaugokite aktualų ankstesnį atsakymą ir užduokite tikslinį papildomą klausimą. Naudotojas pirmiausia gali paprašyti dokumento santraukos, o tada paklausti, kuris teiginys pagrindžia vieną išvadą. Tai keičia reikiamą išvestį iš bendros apžvalgos į su šaltiniu susietą paaiškinimą, išsaugant pradinę medžiagą ir dialogo tikslą.
Daugiakalbiam redagavimui pateikite originalią ištrauką, numatytą skaitytoją ir terminų sąrašą. Prašykite pataisytos versijos, išsaugančios pavadinimus, sąlygas bei vienetus, o po jos – trumpo pakeitimų paaiškinimo, jei naudinga. Turinio generavimui nurodykite auditoriją ir faktus, kurie turi pasirodyti, prieš prašydami trumpo juodraščio ar alternatyvios formuluotės.
Agento užduotyje programa pateikia įrankius ir jų parametrus. Modelis gali parinkti funkciją ir paruošti argumentus, o programa ją vykdo ir grąžina rezultatą. Kortelės funkcijos pavyzdys sujungia klausimą apie vaizdą su skaičiavimo įrankiu. Įrankio rezultatą laikykite atskirai nuo siūlomo kvietimo, kad vėlesnis rašytinis atsakymas naudotų operacijos faktiškai grąžintą informaciją.
Rekomenduojamas paruošimas ir nustatymai
Gamintojas rekomenduoja sisteminę instrukciją, aprašančią aplinką, naudojimo atvejį ir įrankių naudojimą. Įrankių rinkinys turi būti aiškiai apibrėžtas ir apribotas užduočiai būtinu minimumu. Nedidelis paieškos procesas gali pateikti dabartiniam klausimui aktualias funkcijas su aiškiai įvardytais privalomais argumentais, užuot pateikęs didelį nesusijusių operacijų rinkinį.
Kasdieniam ir gamybiniam naudojimui kortelė rekomenduoja mažesnę nei 0.1 temperatūrą, o didesnes temperatūras – kūrybiniam tyrinėjimui. Tai laikykite instrukcijų darbo proceso rekomendacija, o ne atskiru samprotavimo režimo valdikliu. Šeima turi atskirus Base, Instruct ir Reasoning kontrolinius taškus; šis įrašas yra Instruct 2512 versija, o ne atskira tokio pat dydžio Reasoning laida.
Vaizdams gamintojas rekomenduoja proporcijas, artimas 1:1, ir vengti itin siaurų ar plačių įvesčių. Prireikus apkirpkite, išsaugodami klausimui reikalingas žymas ir kontekstą. Jei puslapyje yra kelios nesusijusios sritys, nurodykite nagrinėtiną dalį ir grąžintiną rezultatą. Įskaitomas, tikslingas vaizdas naudingesnis nei prašymas modeliui spėti, kuri maža detalė plačiame puslapyje svarbi.
Konteksto ir versijos ribos
Tekstą, vaizdus, pokalbį ir pageidaujamą atsakymą planuokite pagal sukonfigūruotą kontekstą. Naudojimo pastabose aiškiai leidžiama mažinti sukonfigūruotą modelio ilgį, kai reikia mažiau konteksto, todėl visas langas nėra instrukcija kiekvieną užklausą užpildyti visa prieinama medžiaga. Kortelės 512 žetonų generavimo pavyzdys yra tik pavyzdinis nustatymas, o skaityti šaltiniai nenustato atskiro griežto didžiausio atsakymo ilgio.
FP8 Instruct kontrolinis taškas, iš anksto apmokyta Base laida ir Reasoning laida yra atskiros versijos. Gamintojas taip pat aprašo specializavimą ir papildomą derinimą kaip naudojimo atvejus. Ruošdami pokalbį, išsaugokite įvardytą kontrolinį tašką bei jo žetonizatorių ir atskirkite teksto generavimą nuo prieigos prie repozitorijos, funkcijų vykdymo ar kitų aplinkinės programos teikiamų veiksmų.
POST /v1/batchestexttext| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasendpoint | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos /v1/chat/completions | Numatyta— |
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos mistralai/ministral-8b-2512:batch | Numatyta— |
Laukasrequests | Tipasbatch_item[] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 | Numatyta— |
Laukasrequests[].custom_id | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasrequests[].body.messages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukascompletion_window | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos 24h | Numatyta— |
Laukasprovider | Tipasobject|null | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasrequests[].body.model | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos mistralai/ministral-8b-2512:batch, mistralai/ministral-8b-2512 | Numatyta— |
Laukasprovider.only | Tipasstring[] | ReikalavimasNeprivaloma | Reikšmės ir ribos mistral | Numatyta— |
Laukasprovider.allow_fallbacks | Tipasboolean|null | ReikalavimasNeprivaloma | Reikšmės ir ribos false, null | Numatyta— |
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijaendpoint, model, requests |
Parametrasmaterial_types | Specifikacijatext |
Parametrasrepresentation | Specifikacijatiesiogiai įterptas requests[] masyvas; kiekvienas elementas turi custom_id ir body laukus |
Parametrasrequest_endpoint_profile | Specifikacija/v1/chat/completions |
Parametrasfile_material | SpecifikacijaKlientas gali vietoje perskaityti faktinį UTF-8 JSONL turinį į requests[] masyvą. Įkėlimo purpose, input_file_id ar failo nuoroda nenaudojami. Jei kliento medžiagos nėra arba ji tuščia, parengimas sustabdomas prieš POST. |
Parametrasserialization_order | Specifikacijaendpoint, model, provider (jei pateiktas), completion_window (jei pateiktas), requests pateikite paskiausiai |
Parametrasoptional_controls | Specifikacijaprovider.only, provider.allow_fallbacks, completion_window |
Parametrasschema_scope | SpecifikacijaTekstinių Chat Completions užklausų turiniai dokumentuotoje Batch paketo struktūroje, pateikiamoje pačioje užklausoje. |
Gyvavimo ciklas: asynchronous
GET /v1/batches/{operation_id} · faktinė pradinės kūrimo užklausos atsakymo response.id reikšmė; tas pats naudotojas, raktas ir grupė
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
Kiekvieną mokestį susiekite su nurodytomis sąlygomis. Kiekvienam alternatyvių konfigūracijų rinkiniui taikykite vieną įkainį.
| Konfigūracija | Įkainių lentelė | Konteksto tokenų daugiau nei | Konteksto tokenų iki imtinai | Mokestis |
|---|---|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Konteksto tokenų daugiau nei— | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.00015 / 1K tokenų Išvestis · Išvesties tokenai $0.00015 / 1K tokenų Įvestis · Talpyklos skaitymas $0.000015 / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
| KonfigūracijaUžklausos ilgio pakopa 1 | Įkainių lentelė— | Konteksto tokenų daugiau nei0 | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.00015 / 1K tokenų Išvestis · Išvesties tokenai $0.00015 / 1K tokenų Įvestis · Talpyklos skaitymas $0.000015 / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/ministral-8b-2512:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/ministral-8b-2512:batch', 'mistralai/ministral-8b-2512']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/ministral-8b-2512:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\ntiesiogiai įterptas results[].response.body JSON
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nIšsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite visą pradinės būsenos JSON, kiekvieną rezultatą ir custom_id bei visą atsakymo arba klaidos turinį. Užbaigtus results[] išsaugokite JSONL formatu nieko nefiltruodami.
Išsaugokite pradinį operacijos ID. Atsakyme 503 result_pending_check pateikiama X-Should-Retry:false; niekada pakartotinai neteikite pradinio paketo, kurio baigtis nežinoma.
| Laukas | Tipas |
|---|---|
Laukasresults[].custom_id | Tipasstring |
Laukasresults[].response.body.choices[].message.content | Tipasstring|null |
Laukasresults[].error | Tipasobject|null |
Laukasusage | Tipasobject|null |
Laukasid | Tipasstring |
Laukasmodel | Tipasstring |
Laukasendpoint | Tipasstring |
Laukasstatus | Tipasstring |
Laukasrequest_counts | Tipasobject |
Laukasresults[].id | Tipasstring |
Laukasresults[].response.status_code | Tipasinteger |
Laukasresults[].response.request_id | Tipasstring |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNeteisinga dokumentuota tiesiogiai įterpto paketo struktūra, pasikartojantys raktai, netinkama elemento tapatybė arba konfliktas su sukonfigūruotomis modelio galimybėmis. | Kitas žingsnisPrieš bet kokį naują pateikimą pataisykite nurodytus laukus. |
Atsakymas401 · authentication_error | SąlygaNegaliojantis API raktas. | Kitas žingsnisNaudokite leistiną Ailoot raktą. |
Atsakymas403 · permission_error | SąlygaPaketinio apdorojimo grupė neprieinama. | Kitas žingsnisPatikrinkite rakto ir grupės prieigos teises. |
Atsakymas422 · invalid_request_error | SąlygaPaketinis apdorojimas apmokamas iš balanso; kūrimo užklausos su prenumeratos apmokėjimu atmetamos. | Kitas žingsnisNaudokite leistiną grupę, kurios užklausos apmokamos iš balanso. |
Atsakymas422 · price_unavailable | SąlygaNepavyksta apskaičiuoti paketinio apdorojimo įvesties kainos. | Kitas žingsnisIšsaugokite atsakymą; naudokite dokumentuotą šios API šeimos įvestį. |
Atsakymas402 · billing_error | SąlygaPaketiniam apdorojimui reikalingas rezervas neprieinamas. | Kitas žingsnisPrieš teikdami naują užklausą išspręskite užklausos priėmimo problemą. |
Atsakymas503 · price_unavailable | SąlygaPaketinio apdorojimo metodo kaina arba savieji sistemos įkainiai neprieinami. | Kitas žingsnisIšsaugokite atsakymą; nekeiskite kainų kitomis. |
Atsakymas503 · api_error | SąlygaKonkretus tiekėjo maršrutas neprieinamas. | Kitas žingsnisIšsaugokite atsakymą maršrutui pataisyti. |
Atsakymas503 · result_pending_check | SąlygaPradinį rezultatą reikia patikrinti; X-Should-Retry:false. | Kitas žingsnisIšsaugokite pradinę operation_id/id reikšmę ir tikrinkite operacijos būseną; niekada nekartokite pradinės POST užklausos. |
Atsakymas404 · not_found | SąlygaPaketinio apdorojimo būsenos operacijos nėra arba ji susieta su kita tapatybe. | Kitas žingsnisNaudokite tikslią pradinę id reikšmę ir tą patį naudotoją, raktą bei grupę. |
Ailoot Ultra mistralai/ministral-8b-2512:batch
Naudokite aukščiau nurodytus metodų kelius.