Ministral 3 8B Instruct 2512 je stredne veľký model rodiny Ministral 3 od Mistral AI doladený na plnenie pokynov. Vydaný kontrolný bod je dotrénovaný na chat a úlohy s pokynmi v presnosti FP8. Spája jazykovú zložku s vizuálnym enkodérom, prijíma text a obrázky a vracia text namiesto obrazového alebo zvukového artefaktu.
Architektúra a hlavné funkcie
Výrobca uvádza jazykový model s 8,4 miliardy parametrov a vizuálny enkodér s 0,4 miliardy parametrov. Jeho kontextové okno je opísané ako 256k a zverejnené poznámky k používaniu používajú predvolenú nastavenú dĺžku 262 144. Tieto údaje opisujú túto edíciu veľkosti 8B; menší člen rodiny 3B a väčší 14B si zachovávajú vlastné veľkosti zložiek a konfigurácie.
Vizuálne schopnosti rozširujú vstup modelu za rámec písomnej konverzácie. Obrázok dokumentu možno spojiť s otázkou o vybranom poli, odseku alebo viditeľnom vzťahu. Snímku obrazovky možno spojiť s cieľom používateľa a požiadavkou na identifikáciu relevantného ovládacieho prvku. Ak odpoveď závisí od vizuálneho detailu, žiadajte pozorovanie podporujúce každý záver a zachovajte nadpisy, označenia a jednotky potrebné na interpretáciu výrezu.
Karta opisuje viacjazyčnú prácu v desiatkach jazykov vrátane angličtiny, francúzštiny, španielčiny, nemčiny, taliančiny, portugalčiny, holandčiny, čínštiny, japončiny, kórejčiny a arabčiny. Identifikuje aj dodržiavanie systémových pokynov, natívne volanie funkcií a výstup JSON. Cieľový jazyk, rolu a požiadavky na výstup definujte výslovne namiesto ponechania modelu, aby zamýšľaný artefakt odhadoval z rozsiahleho vstupu.
Dokumentové, konverzačné a agentové úlohy
Spôsoby použitia výrobcu zahŕňajú chatové rozhrania, každodenných asistentov, opisy obrázkov a dokumentov, preklady, generovanie obsahu a špecializovaných agentov. Pre dokumentového asistenta dodajte stránku a určite informácie, ktoré má vrátiť. Extrakčná požiadavka môže pomenovať označenia polí, očakávané typy a spracovanie chýbajúcich hodnôt. Užitočná odpoveď môže obsahovať identifikátor dokumentu, extrahovanú hodnotu a krátke vysvetlenie naviazané na viditeľný zdroj.
Pri prebiehajúcej konverzácii zachovajte relevantnú predchádzajúcu odpoveď a položte cielenú nadväzujúcu otázku. Používateľ môže najprv žiadať súhrn dokumentu a potom sa opýtať, ktoré tvrdenie podporuje jeden záver. Požadovaný výstup sa tým zmení zo všeobecného prehľadu na vysvetlenie prepojené so zdrojom pri zachovaní pôvodného materiálu a účelu dialógu.
Pri viacjazyčných úpravách dodajte pôvodnú pasáž, zamýšľaného čitateľa a zoznam terminológie. Žiadajte upravenú verziu zachovávajúcu názvy, podmienky a jednotky, po ktorej podľa potreby nasleduje krátke vysvetlenie zmien. Pri generovaní obsahu určite publikum a fakty, ktoré sa majú objaviť, skôr než požiadate o krátky návrh alebo alternatívne znenie.
Pri agentovej úlohe poskytuje nástroje a ich parametre aplikácia. Model môže vybrať funkciu a pripraviť argumenty, zatiaľ čo aplikácia ju vykoná a vráti výsledok. Príklad funkcie na karte spája otázku k obrázku s výpočtovým nástrojom. Výsledok nástroja zachovajte oddelene od navrhovaného volania, aby nasledujúca písomná odpoveď používala informácie, ktoré operácia skutočne vrátila.
Odporúčaná príprava a nastavenia
Výrobca odporúča systémový pokyn opisujúci prostredie, spôsob použitia a spôsob používania nástrojov. Sadu nástrojov udržiavajte jasne definovanú a obmedzenú na minimum potrebné pre úlohu. Malý vyhľadávací postup môže ponúkať funkcie relevantné pre aktuálnu otázku s jasne pomenovanými povinnými argumentmi namiesto veľkej zbierky nesúvisiacich operácií.
Pri každodennom a produkčnom použití karta odporúča teplotu pod 0.1, pričom vyššie teploty sú dostupné na tvorivé skúmanie. Berte to ako odporúčanie pre postup plnenia pokynov, nie ako samostatné riadenie režimu uvažovania. Rodina má odlišné kontrolné body Base, Instruct a Reasoning; táto položka je edícia Instruct 2512, nie samostatné vydanie Reasoning rovnakej veľkosti.
Pri obrázkoch výrobca odporúča pomery strán blízke 1:1 a vyhýbanie sa veľmi úzkym alebo širokým vstupom. Podľa potreby orežte obrázok pri zachovaní označení a kontextu potrebných pre otázku. Ak stránka obsahuje viacero nesúvisiacich oblastí, označte časť na preskúmanie a výsledok, ktorý treba vrátiť. Čitateľný, cielený obrázok je užitočnejší než žiadosť, aby model odhadoval, ktorý malý detail na rozsiahlej stránke je dôležitý.
Hranice kontextu a edície
Text, obrázky, konverzáciu a požadovanú odpoveď plánujte podľa nastaveného kontextu. Poznámky k používaniu výslovne umožňujú znížiť nastavenú dĺžku modelu, ak je potrebný menší kontext, takže celé okno nie je pokynom na naplnenie každej požiadavky všetkými dostupnými materiálmi. Príklad generovania s 512 tokenmi na karte je iba ukážkovým nastavením a prečítané zdroje nestanovujú samostatnú pevnú maximálnu dĺžku odpovede.
Kontrolný bod FP8 Instruct, predtrénované vydanie Base a vydanie Reasoning sú samostatné edície. Výrobca opisuje ako použitia aj špecializáciu a dolaďovanie. Pri príprave konverzácie zachovajte pomenovaný kontrolný bod a jeho tokenizér a odlíšte generovanie textu od prístupu k repozitáru, vykonávania funkcií alebo iných akcií poskytovaných okolitou aplikáciou.
", "aboutText": "Ministral 3 8B Instruct 2512 je stredne veľký model rodiny Ministral 3 od Mistral AI doladený na plnenie pokynov. Vydaný kontrolný bod je dotrénovaný na chat a úlohy s pokynmi v presnosti FP8. Spája jazykovú zložku s vizuálnym enkodérom, prijíma text a obrázky a vracia text namiesto obrazového alebo zvukového artefaktu.\n\nArchitektúra a hlavné funkcie\n\nVýrobca uvádza jazykový model s 8,4 miliardy parametrov a vizuálny enkodér s 0,4 miliardy parametrov. Jeho kontextové okno je opísané ako 256k a zverejnené poznámky k používaniu používajú predvolenú nastavenú dĺžku 262 144. Tieto údaje opisujú túto edíciu veľkosti 8B; menší člen rodiny 3B a väčší 14B si zachovávajú vlastné veľkosti zložiek a konfigurácie.\n\nVizuálne schopnosti rozširujú vstup modelu za rámec písomnej konverzácie. Obrázok dokumentu možno spojiť s otázkou o vybranom poli, odseku alebo viditeľnom vzťahu. Snímku obrazovky možno spojiť s cieľom používateľa a požiadavkou na identifikáciu relevantného ovládacieho prvku. Ak odpoveď závisí od vizuálneho detailu, žiadajte pozorovanie podporujúce každý záver a zachovajte nadpisy, označenia a jednotky potrebné na interpretáciu výrezu.\n\nKarta opisuje viacjazyčnú prácu v desiatkach jazykov vrátane angličtiny, francúzštiny, španielčiny, nemčiny, taliančiny, portugalčiny, holandčiny, čínštiny, japončiny, kórejčiny a arabčiny. Identifikuje aj dodržiavanie systémových pokynov, natívne volanie funkcií a výstup JSON. Cieľový jazyk, rolu a požiadavky na výstup definujte výslovne namiesto ponechania modelu, aby zamýšľaný artefakt odhadoval z rozsiahleho vstupu.\n\nDokumentové, konverzačné a agentové úlohy\n\nSpôsoby použitia výrobcu zahŕňajú chatové rozhrania, každodenných asistentov, opisy obrázkov a dokumentov, preklady, generovanie obsahu a špecializovaných agentov. Pre dokumentového asistenta dodajte stránku a určite informácie, ktoré má vrátiť. Extrakčná požiadavka môže pomenovať označenia polí, očakávané typy a spracovanie chýbajúcich hodnôt. Užitočná odpoveď môže obsahovať identifikátor dokumentu, extrahovanú hodnotu a krátke vysvetlenie naviazané na viditeľný zdroj.\n\nPri prebiehajúcej konverzácii zachovajte relevantnú predchádzajúcu odpoveď a položte cielenú nadväzujúcu otázku. Používateľ môže najprv žiadať súhrn dokumentu a potom sa opýtať, ktoré tvrdenie podporuje jeden záver. Požadovaný výstup sa tým zmení zo všeobecného prehľadu na vysvetlenie prepojené so zdrojom pri zachovaní pôvodného materiálu a účelu dialógu.\n\nPri viacjazyčných úpravách dodajte pôvodnú pasáž, zamýšľaného čitateľa a zoznam terminológie. Žiadajte upravenú verziu zachovávajúcu názvy, podmienky a jednotky, po ktorej podľa potreby nasleduje krátke vysvetlenie zmien. Pri generovaní obsahu určite publikum a fakty, ktoré sa majú objaviť, skôr než požiadate o krátky návrh alebo alternatívne znenie.\n\nPri agentovej úlohe poskytuje nástroje a ich parametre aplikácia. Model môže vybrať funkciu a pripraviť argumenty, zatiaľ čo aplikácia ju vykoná a vráti výsledok. Príklad funkcie na karte spája otázku k obrázku s výpočtovým nástrojom. Výsledok nástroja zachovajte oddelene od navrhovaného volania, aby nasledujúca písomná odpoveď používala informácie, ktoré operácia skutočne vrátila.\n\nOdporúčaná príprava a nastavenia\n\nVýrobca odporúča systémový pokyn opisujúci prostredie, spôsob použitia a spôsob používania nástrojov. Sadu nástrojov udržiavajte jasne definovanú a obmedzenú na minimum potrebné pre úlohu. Malý vyhľadávací postup môže ponúkať funkcie relevantné pre aktuálnu otázku s jasne pomenovanými povinnými argumentmi namiesto veľkej zbierky nesúvisiacich operácií.\n\nPri každodennom a produkčnom použití karta odporúča teplotu pod 0.1, pričom vyššie teploty sú dostupné na tvorivé skúmanie. Berte to ako odporúčanie pre postup plnenia pokynov, nie ako samostatné riadenie režimu uvažovania. Rodina má odlišné kontrolné body Base, Instruct a Reasoning; táto položka je edícia Instruct 2512, nie samostatné vydanie Reasoning rovnakej veľkosti.\n\nPri obrázkoch výrobca odporúča pomery strán blízke 1:1 a vyhýbanie sa veľmi úzkym alebo širokým vstupom. Podľa potreby orežte obrázok pri zachovaní označení a kontextu potrebných pre otázku. Ak stránka obsahuje viacero nesúvisiacich oblastí, označte časť na preskúmanie a výsledok, ktorý treba vrátiť. Čitateľný, cielený obrázok je užitočnejší než žiadosť, aby model odhadoval, ktorý malý detail na rozsiahlej stránke je dôležitý.\n\nHranice kontextu a edície\n\nText, obrázky, konverzáciu a požadovanú odpoveď plánujte podľa nastaveného kontextu. Poznámky k používaniu výslovne umožňujú znížiť nastavenú dĺžku modelu, ak je potrebný menší kontext, takže celé okno nie je pokynom na naplnenie každej požiadavky všetkými dostupnými materiálmi. Príklad generovania s 512 tokenmi na karte je iba ukážkovým nastavením a prečítané zdroje nestanovujú samostatnú pevnú maximálnu dĺžku odpovede.\n\nKontrolný bod FP8 Instruct, predtrénované vydanie Base a vydanie Reasoning sú samostatné edície. Výrobca opisuje ako použitia aj špecializáciu a dolaďovanie. Pri príprave konverzácie zachovajte pomenovaný kontrolný bod a jeho tokenizér a odlíšte generovanie textu od prístupu k repozitáru, vykonávania funkcií alebo iných akcií poskytovaných okolitou aplikáciou.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "2f0398899e263d7bece307d1620324629163c752b25c976cd8ac1da370966c6b", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "sk", "methods": [ { "html": "mistralai/ministral-8b-2512:batchMinistral 3 8B Instruct 2512 je viacjazyčný model na plnenie pokynov s textovým a obrazovým vstupom, jazykovou zložkou s 8,4 miliardy parametrov a vizuálnym enkodérom s 0,4 miliardy parametrov. Podporuje kontext 256k uvádzaný výrobcom, systémové pokyny, JSON a natívne volanie funkcií pre asistentov a dokumentové postupy.
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
Ministral 3 8B Instruct 2512 je stredne veľký model rodiny Ministral 3 od Mistral AI doladený na plnenie pokynov. Vydaný kontrolný bod je dotrénovaný na chat a úlohy s pokynmi v presnosti FP8. Spája jazykovú zložku s vizuálnym enkodérom, prijíma text a obrázky a vracia text namiesto obrazového alebo zvukového artefaktu.
Architektúra a hlavné funkcie
Výrobca uvádza jazykový model s 8,4 miliardy parametrov a vizuálny enkodér s 0,4 miliardy parametrov. Jeho kontextové okno je opísané ako 256k a zverejnené poznámky k používaniu používajú predvolenú nastavenú dĺžku 262 144. Tieto údaje opisujú túto edíciu veľkosti 8B; menší člen rodiny 3B a väčší 14B si zachovávajú vlastné veľkosti zložiek a konfigurácie.
Vizuálne schopnosti rozširujú vstup modelu za rámec písomnej konverzácie. Obrázok dokumentu možno spojiť s otázkou o vybranom poli, odseku alebo viditeľnom vzťahu. Snímku obrazovky možno spojiť s cieľom používateľa a požiadavkou na identifikáciu relevantného ovládacieho prvku. Ak odpoveď závisí od vizuálneho detailu, žiadajte pozorovanie podporujúce každý záver a zachovajte nadpisy, označenia a jednotky potrebné na interpretáciu výrezu.
Karta opisuje viacjazyčnú prácu v desiatkach jazykov vrátane angličtiny, francúzštiny, španielčiny, nemčiny, taliančiny, portugalčiny, holandčiny, čínštiny, japončiny, kórejčiny a arabčiny. Identifikuje aj dodržiavanie systémových pokynov, natívne volanie funkcií a výstup JSON. Cieľový jazyk, rolu a požiadavky na výstup definujte výslovne namiesto ponechania modelu, aby zamýšľaný artefakt odhadoval z rozsiahleho vstupu.
Dokumentové, konverzačné a agentové úlohy
Spôsoby použitia výrobcu zahŕňajú chatové rozhrania, každodenných asistentov, opisy obrázkov a dokumentov, preklady, generovanie obsahu a špecializovaných agentov. Pre dokumentového asistenta dodajte stránku a určite informácie, ktoré má vrátiť. Extrakčná požiadavka môže pomenovať označenia polí, očakávané typy a spracovanie chýbajúcich hodnôt. Užitočná odpoveď môže obsahovať identifikátor dokumentu, extrahovanú hodnotu a krátke vysvetlenie naviazané na viditeľný zdroj.
Pri prebiehajúcej konverzácii zachovajte relevantnú predchádzajúcu odpoveď a položte cielenú nadväzujúcu otázku. Používateľ môže najprv žiadať súhrn dokumentu a potom sa opýtať, ktoré tvrdenie podporuje jeden záver. Požadovaný výstup sa tým zmení zo všeobecného prehľadu na vysvetlenie prepojené so zdrojom pri zachovaní pôvodného materiálu a účelu dialógu.
Pri viacjazyčných úpravách dodajte pôvodnú pasáž, zamýšľaného čitateľa a zoznam terminológie. Žiadajte upravenú verziu zachovávajúcu názvy, podmienky a jednotky, po ktorej podľa potreby nasleduje krátke vysvetlenie zmien. Pri generovaní obsahu určite publikum a fakty, ktoré sa majú objaviť, skôr než požiadate o krátky návrh alebo alternatívne znenie.
Pri agentovej úlohe poskytuje nástroje a ich parametre aplikácia. Model môže vybrať funkciu a pripraviť argumenty, zatiaľ čo aplikácia ju vykoná a vráti výsledok. Príklad funkcie na karte spája otázku k obrázku s výpočtovým nástrojom. Výsledok nástroja zachovajte oddelene od navrhovaného volania, aby nasledujúca písomná odpoveď používala informácie, ktoré operácia skutočne vrátila.
Odporúčaná príprava a nastavenia
Výrobca odporúča systémový pokyn opisujúci prostredie, spôsob použitia a spôsob používania nástrojov. Sadu nástrojov udržiavajte jasne definovanú a obmedzenú na minimum potrebné pre úlohu. Malý vyhľadávací postup môže ponúkať funkcie relevantné pre aktuálnu otázku s jasne pomenovanými povinnými argumentmi namiesto veľkej zbierky nesúvisiacich operácií.
Pri každodennom a produkčnom použití karta odporúča teplotu pod 0.1, pričom vyššie teploty sú dostupné na tvorivé skúmanie. Berte to ako odporúčanie pre postup plnenia pokynov, nie ako samostatné riadenie režimu uvažovania. Rodina má odlišné kontrolné body Base, Instruct a Reasoning; táto položka je edícia Instruct 2512, nie samostatné vydanie Reasoning rovnakej veľkosti.
Pri obrázkoch výrobca odporúča pomery strán blízke 1:1 a vyhýbanie sa veľmi úzkym alebo širokým vstupom. Podľa potreby orežte obrázok pri zachovaní označení a kontextu potrebných pre otázku. Ak stránka obsahuje viacero nesúvisiacich oblastí, označte časť na preskúmanie a výsledok, ktorý treba vrátiť. Čitateľný, cielený obrázok je užitočnejší než žiadosť, aby model odhadoval, ktorý malý detail na rozsiahlej stránke je dôležitý.
Hranice kontextu a edície
Text, obrázky, konverzáciu a požadovanú odpoveď plánujte podľa nastaveného kontextu. Poznámky k používaniu výslovne umožňujú znížiť nastavenú dĺžku modelu, ak je potrebný menší kontext, takže celé okno nie je pokynom na naplnenie každej požiadavky všetkými dostupnými materiálmi. Príklad generovania s 512 tokenmi na karte je iba ukážkovým nastavením a prečítané zdroje nestanovujú samostatnú pevnú maximálnu dĺžku odpovede.
Kontrolný bod FP8 Instruct, predtrénované vydanie Base a vydanie Reasoning sú samostatné edície. Výrobca opisuje ako použitia aj špecializáciu a dolaďovanie. Pri príprave konverzácie zachovajte pomenovaný kontrolný bod a jeho tokenizér a odlíšte generovanie textu od prístupu k repozitáru, vykonávania funkcií alebo iných akcií poskytovaných okolitou aplikáciou.
POST /v1/batchestexttext| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Poleendpoint | Typstring | PožiadavkaPovinné | Hodnoty a limity /v1/chat/completions | Predvolené— |
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity mistralai/ministral-8b-2512:batch | Predvolené— |
Polerequests | Typbatch_item[] | PožiadavkaPovinné | Hodnoty a limity Minimálny počet položiek: 1 | Predvolené— |
Polerequests[].custom_id | Typstring | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polerequests[].body.messages | Typmessage[] | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polecompletion_window | Typstring | PožiadavkaVoliteľné | Hodnoty a limity 24h | Predvolené— |
Poleprovider | Typobject|null | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Polerequests[].body.model | Typstring | PožiadavkaVoliteľné | Hodnoty a limity mistralai/ministral-8b-2512:batch, mistralai/ministral-8b-2512 | Predvolené— |
Poleprovider.only | Typstring[] | PožiadavkaVoliteľné | Hodnoty a limity mistral | Predvolené— |
Poleprovider.allow_fallbacks | Typboolean|null | PožiadavkaVoliteľné | Hodnoty a limity false, null | Predvolené— |
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciaendpoint, model, requests |
Parametermaterial_types | Špecifikáciatext |
Parameterrepresentation | Špecifikáciapriamo vložené requests[]; každá položka obsahuje custom_id a body |
Parameterrequest_endpoint_profile | Špecifikácia/v1/chat/completions |
Parameterfile_material | ŠpecifikáciaVolajúci môže lokálne načítať skutočný súbor UTF-8 JSONL do requests[]. Nepoužíva sa účel nahrávania, input_file_id ani odkaz na súbor. Chýbajúce alebo prázdne podklady zákazníka zastavia prípravu pred POST. |
Parameterserialization_order | Špecifikáciaendpoint, model, provider (ak je zadaný), completion_window (ak je zadaný), requests na konci |
Parameteroptional_controls | Špecifikáciaprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | ŠpecifikáciaTelá textových požiadaviek Chat Completions v zdokumentovanom obale dávky s priamo vloženými požiadavkami. |
Životný cyklus: asynchronous
GET /v1/batches/{operation_id} · skutočná hodnota response.id z pôvodnej odpovede na vytvorenie; rovnaký používateľ/kľúč/skupina
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
Každý poplatok priraďte k zobrazeným podmienkam. Pre každú skupinu alternatívnych konfigurácií použite jednu sadzbu.
| Konfigurácia | Sadzobník | Počet tokenov kontextu väčší než | Tokeny kontextu, najviac (vrátane hranice) | Poplatok |
|---|---|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Počet tokenov kontextu väčší než— | Tokeny kontextu, najviac (vrátane hranice)Bez hornej hranice | Poplatok Vstup · Vstupné tokeny $0.00015 / 1K tokenov Výstup · Výstupné tokeny $0.00015 / 1K tokenov Vstup · Čítanie cache $0.000015 / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
| KonfiguráciaPásmo dĺžky požiadavky 1 | Sadzobník— | Počet tokenov kontextu väčší než0 | Tokeny kontextu, najviac (vrátane hranice)Bez hornej hranice | Poplatok Vstup · Vstupné tokeny $0.00015 / 1K tokenov Výstup · Výstupné tokeny $0.00015 / 1K tokenov Vstup · Čítanie cache $0.000015 / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/ministral-8b-2512:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/ministral-8b-2512:batch', 'mistralai/ministral-8b-2512']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/ministral-8b-2512:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\nJSON priamo vložený v results[].response.body
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nUložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Uchovajte úplný pôvodný stav vo formáte JSON, každý výsledok/custom_id a úplné telo odpovede alebo chyby. Dokončené results[] uložte ako JSONL bez filtrovania.
Uchovajte pôvodné ID operácie. Odpoveď 503 result_pending_check obsahuje X-Should-Retry:false; pôvodnú dávku s neznámym výsledkom nikdy znova neodosielajte.
| Pole | Typ |
|---|---|
Poleresults[].custom_id | Typstring |
Poleresults[].response.body.choices[].message.content | Typstring|null |
Poleresults[].error | Typobject|null |
Poleusage | Typobject|null |
Poleid | Typstring |
Polemodel | Typstring |
Poleendpoint | Typstring |
Polestatus | Typstring |
Polerequest_counts | Typobject |
Poleresults[].id | Typstring |
Poleresults[].response.status_code | Typinteger |
Poleresults[].response.request_id | Typstring |
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatný zdokumentovaný obal s priamo vloženými požiadavkami, duplicitné kľúče alebo konflikt identity položky či nastavených schopností modelu. | Ďalší krokPred akýmkoľvek novým odoslaním opravte označené polia. |
Odpoveď401 · authentication_error | PodmienkaNeplatný kľúč API. | Ďalší krokPoužite kľúč Ailoot, ktorý ste oprávnení používať. |
Odpoveď403 · permission_error | PodmienkaSkupina pre dávkové spracovanie nie je dostupná. | Ďalší krokSkontrolujte oprávnenie kľúča/skupiny. |
Odpoveď422 · invalid_request_error | PodmienkaDávkové spracovanie sa účtuje zo zostatku; vytvorenie cez predplatné sa odmieta. | Ďalší krokPoužite skupinu s účtovaním zo zostatku, ktorú ste oprávnení používať. |
Odpoveď422 · price_unavailable | PodmienkaPre vstup dávky nemožno vypočítať cenovú ponuku. | Ďalší krokUchovajte odpoveď; použite zdokumentovaný vstup pre danú rodinu metód. |
Odpoveď402 · billing_error | PodmienkaRezerva pre dávkové spracovanie nie je dostupná. | Ďalší krokPred novou požiadavkou vyriešte podmienky prijatia. |
Odpoveď503 · price_unavailable | PodmienkaCena metódy dávkového spracovania alebo natívne sadzby nie sú dostupné. | Ďalší krokUchovajte odpoveď; nenahrádzajte ceny inými. |
Odpoveď503 · api_error | PodmienkaPresná trasa k dodávateľovi nie je dostupná. | Ďalší krokUchovajte odpoveď na účely opravy smerovania. |
Odpoveď503 · result_pending_check | PodmienkaPôvodný výsledok je potrebné skontrolovať; X-Should-Retry:false. | Ďalší krokUchovajte pôvodné operation_id/id a čítajte jeho stav; pôvodný POST nikdy neopakujte. |
Odpoveď404 · not_found | PodmienkaOperácia na zisťovanie stavu dávky neexistuje alebo patrí inej identite. | Ďalší krokPoužite presné pôvodné id a rovnakého používateľa/kľúč/skupinu. |
Ailoot Ultra mistralai/ministral-8b-2512:batch
Použite cesty metód uvedené vyššie.