Ministral 3 8B Instruct 2512 je srednje velik model družine Ministral 3 podjetja Mistral AI, prilagojen sledenju navodilom. Objavljena kontrolna točka je naknadno naučena za klepet in naloge z navodili z natančnostjo FP8. Združuje jezikovno komponento z vidnim kodirnikom, sprejema besedilo in slike ter vrača besedilo, ne slikovnega ali zvočnega izdelka.
Arhitektura in ključne funkcije
Proizvajalec navaja jezikovni model z 8,4 milijarde parametrov in vidni kodirnik z 0,4 milijarde parametrov. Njegovo kontekstno okno je opisano kot 256k, objavljene opombe o uporabi pa uporabljajo privzeto nastavljeno dolžino 262.144. To opisuje to različico velikosti 8B; manjši član družine 3B in večji 14B ohranjata lastne velikosti komponent in konfiguracije.
Vid razširja vhod modela prek pisnega pogovora. Sliki dokumenta lahko priložite vprašanje o izbranem polju, odstavku ali vidnem razmerju. Posnetku zaslona lahko priložite uporabnikov cilj in zahtevo za prepoznavanje ustrezne kontrole. Kadar je odgovor odvisen od vizualne podrobnosti, zahtevajte opažanje, ki podpira vsak sklep, in ohranite naslove, oznake ter enote, potrebne za razlago izreza.
Kartica opisuje večjezično delo v več deset jezikih, vključno z angleščino, francoščino, španščino, nemščino, italijanščino, portugalščino, nizozemščino, kitajščino, japonščino, korejščino in arabščino. Navaja tudi upoštevanje sistemskih navodil, izvorno klicanje funkcij in izhod JSON. Končni jezik, vlogo in zahteve izhoda določite izrecno, namesto da bi modelu prepustili sklepanje o predvidenem izdelku iz velikega vhoda.
Naloge z dokumenti, pogovori in agenti
Proizvajalčevi primeri uporabe vključujejo vmesnike za klepet, vsakdanje pomočnike, opisovanje slik in dokumentov, prevajanje, ustvarjanje vsebin in specializirane agente. Pomočniku za dokumente podajte stran in določite podatke, ki jih mora vrniti. Zahteva za izluščevanje lahko navede oznake polj, pričakovane tipe in obravnavo manjkajočih vrednosti. Uporaben odgovor lahko vsebuje identifikator dokumenta, izluščeno vrednost in kratko razlago, vezano na vidni vir.
Pri tekočem pogovoru ohranite ustrezen prejšnji odgovor in postavite osredotočeno nadaljnje vprašanje. Uporabnik lahko najprej zahteva povzetek dokumenta, nato pa vpraša, katera izjava podpira določen sklep. To spremeni zahtevani izhod iz splošnega pregleda v razlago, povezano z virom, hkrati pa ohrani izvirno gradivo in namen dialoga.
Pri večjezičnem urejanju podajte izvirni odlomek, predvidenega bralca in terminološki seznam. Zahtevajte popravljeno različico, ki ohrani imena, pogoje in enote, nato pa po potrebi kratko razlago sprememb. Pri ustvarjanju vsebine določite občinstvo in dejstva, ki naj se pojavijo, preden zahtevate kratek osnutek ali alternativno ubeseditev.
Pri agentski nalogi aplikacija poda orodja in njihove parametre. Model lahko izbere funkcijo in pripravi argumente, aplikacija pa jo izvede in vrne rezultat. Primer funkcije v kartici združuje vprašanje o sliki z računskim orodjem. Rezultat orodja ohranite ločen od predlaganega klica, da nadaljnji pisni odgovor uporabi podatke, ki jih je operacija dejansko vrnila.
Priporočena priprava in nastavitve
Proizvajalec priporoča sistemsko navodilo, ki opiše okolje, primer uporabe in način uporabe orodij. Nabor orodij naj bo dobro opredeljen in omejen na najmanjše potrebno število za nalogo. Majhen postopek poizvedovanja lahko ponudi funkcije, pomembne za trenutno vprašanje, z jasno poimenovanimi zahtevanimi argumenti, namesto velike zbirke nepovezanih operacij.
Za vsakdanjo in produkcijsko uporabo kartica priporoča temperaturo pod 0.1, višje temperature pa so na voljo za ustvarjalno raziskovanje. To obravnavajte kot priporočilo za postopek sledenja navodilom, ne kot ločeno kontrolo načina sklepanja. Družina ima ločene kontrolne točke Base, Instruct in Reasoning; ta vnos je različica Instruct 2512, ne ločena izdaja Reasoning iste velikosti.
Pri slikah proizvajalec priporoča razmerja stranic blizu 1:1 in odsvetuje zelo ozke ali zelo široke vhode. Po potrebi jih obrežite ter ohranite oznake in kontekst, ki jih zahteva vprašanje. Če stran vsebuje več nepovezanih območij, določite del za pregled in rezultat, ki ga je treba vrniti. Razločna, osredotočena slika je uporabnejša kot zahteva, naj model ugane, katera majhna podrobnost na obsežni strani je pomembna.
Meje konteksta in različice
Besedilo, slike, pogovor in želeni odgovor načrtujte v okviru nastavljenega konteksta. Opombe o uporabi izrecno dovoljujejo zmanjšanje nastavljene dolžine modela, kadar je potrebnega manj konteksta, zato celotno okno ni navodilo za zapolnitev vsake zahteve z vsem razpoložljivim gradivom. Primer ustvarjanja s 512 žetoni v kartici je samo primer nastavitve, pregledani viri pa ne določajo ločene stroge največje dolžine odgovora.
Kontrolna točka FP8 Instruct, predhodno naučena izdaja Base in izdaja Reasoning so ločene različice. Proizvajalec kot primera uporabe opisuje tudi specializacijo in dodatno učenje. Pri pripravi pogovora ohranite poimenovano kontrolno točko in njen razčlenjevalnik žetonov ter ustvarjanje besedila ločite od dostopa do repozitorija, izvajanja funkcij ali drugih dejanj, ki jih zagotavlja okoliška aplikacija.
", "aboutText": "Ministral 3 8B Instruct 2512 je srednje velik model družine Ministral 3 podjetja Mistral AI, prilagojen sledenju navodilom. Objavljena kontrolna točka je naknadno naučena za klepet in naloge z navodili z natančnostjo FP8. Združuje jezikovno komponento z vidnim kodirnikom, sprejema besedilo in slike ter vrača besedilo, ne slikovnega ali zvočnega izdelka.\n\nArhitektura in ključne funkcije\n\nProizvajalec navaja jezikovni model z 8,4 milijarde parametrov in vidni kodirnik z 0,4 milijarde parametrov. Njegovo kontekstno okno je opisano kot 256k, objavljene opombe o uporabi pa uporabljajo privzeto nastavljeno dolžino 262.144. To opisuje to različico velikosti 8B; manjši član družine 3B in večji 14B ohranjata lastne velikosti komponent in konfiguracije.\n\nVid razširja vhod modela prek pisnega pogovora. Sliki dokumenta lahko priložite vprašanje o izbranem polju, odstavku ali vidnem razmerju. Posnetku zaslona lahko priložite uporabnikov cilj in zahtevo za prepoznavanje ustrezne kontrole. Kadar je odgovor odvisen od vizualne podrobnosti, zahtevajte opažanje, ki podpira vsak sklep, in ohranite naslove, oznake ter enote, potrebne za razlago izreza.\n\nKartica opisuje večjezično delo v več deset jezikih, vključno z angleščino, francoščino, španščino, nemščino, italijanščino, portugalščino, nizozemščino, kitajščino, japonščino, korejščino in arabščino. Navaja tudi upoštevanje sistemskih navodil, izvorno klicanje funkcij in izhod JSON. Končni jezik, vlogo in zahteve izhoda določite izrecno, namesto da bi modelu prepustili sklepanje o predvidenem izdelku iz velikega vhoda.\n\nNaloge z dokumenti, pogovori in agenti\n\nProizvajalčevi primeri uporabe vključujejo vmesnike za klepet, vsakdanje pomočnike, opisovanje slik in dokumentov, prevajanje, ustvarjanje vsebin in specializirane agente. Pomočniku za dokumente podajte stran in določite podatke, ki jih mora vrniti. Zahteva za izluščevanje lahko navede oznake polj, pričakovane tipe in obravnavo manjkajočih vrednosti. Uporaben odgovor lahko vsebuje identifikator dokumenta, izluščeno vrednost in kratko razlago, vezano na vidni vir.\n\nPri tekočem pogovoru ohranite ustrezen prejšnji odgovor in postavite osredotočeno nadaljnje vprašanje. Uporabnik lahko najprej zahteva povzetek dokumenta, nato pa vpraša, katera izjava podpira določen sklep. To spremeni zahtevani izhod iz splošnega pregleda v razlago, povezano z virom, hkrati pa ohrani izvirno gradivo in namen dialoga.\n\nPri večjezičnem urejanju podajte izvirni odlomek, predvidenega bralca in terminološki seznam. Zahtevajte popravljeno različico, ki ohrani imena, pogoje in enote, nato pa po potrebi kratko razlago sprememb. Pri ustvarjanju vsebine določite občinstvo in dejstva, ki naj se pojavijo, preden zahtevate kratek osnutek ali alternativno ubeseditev.\n\nPri agentski nalogi aplikacija poda orodja in njihove parametre. Model lahko izbere funkcijo in pripravi argumente, aplikacija pa jo izvede in vrne rezultat. Primer funkcije v kartici združuje vprašanje o sliki z računskim orodjem. Rezultat orodja ohranite ločen od predlaganega klica, da nadaljnji pisni odgovor uporabi podatke, ki jih je operacija dejansko vrnila.\n\nPriporočena priprava in nastavitve\n\nProizvajalec priporoča sistemsko navodilo, ki opiše okolje, primer uporabe in način uporabe orodij. Nabor orodij naj bo dobro opredeljen in omejen na najmanjše potrebno število za nalogo. Majhen postopek poizvedovanja lahko ponudi funkcije, pomembne za trenutno vprašanje, z jasno poimenovanimi zahtevanimi argumenti, namesto velike zbirke nepovezanih operacij.\n\nZa vsakdanjo in produkcijsko uporabo kartica priporoča temperaturo pod 0.1, višje temperature pa so na voljo za ustvarjalno raziskovanje. To obravnavajte kot priporočilo za postopek sledenja navodilom, ne kot ločeno kontrolo načina sklepanja. Družina ima ločene kontrolne točke Base, Instruct in Reasoning; ta vnos je različica Instruct 2512, ne ločena izdaja Reasoning iste velikosti.\n\nPri slikah proizvajalec priporoča razmerja stranic blizu 1:1 in odsvetuje zelo ozke ali zelo široke vhode. Po potrebi jih obrežite ter ohranite oznake in kontekst, ki jih zahteva vprašanje. Če stran vsebuje več nepovezanih območij, določite del za pregled in rezultat, ki ga je treba vrniti. Razločna, osredotočena slika je uporabnejša kot zahteva, naj model ugane, katera majhna podrobnost na obsežni strani je pomembna.\n\nMeje konteksta in različice\n\nBesedilo, slike, pogovor in želeni odgovor načrtujte v okviru nastavljenega konteksta. Opombe o uporabi izrecno dovoljujejo zmanjšanje nastavljene dolžine modela, kadar je potrebnega manj konteksta, zato celotno okno ni navodilo za zapolnitev vsake zahteve z vsem razpoložljivim gradivom. Primer ustvarjanja s 512 žetoni v kartici je samo primer nastavitve, pregledani viri pa ne določajo ločene stroge največje dolžine odgovora.\n\nKontrolna točka FP8 Instruct, predhodno naučena izdaja Base in izdaja Reasoning so ločene različice. Proizvajalec kot primera uporabe opisuje tudi specializacijo in dodatno učenje. Pri pripravi pogovora ohranite poimenovano kontrolno točko in njen razčlenjevalnik žetonov ter ustvarjanje besedila ločite od dostopa do repozitorija, izvajanja funkcij ali drugih dejanj, ki jih zagotavlja okoliška aplikacija.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "e188bb9038bf801d7b50f126b5f5f88dea7e42bda1b6bc610e8756fc597273f6", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "sl", "methods": [ { "html": "mistralai/ministral-8b-2512:batchMinistral 3 8B Instruct 2512 je večjezični model za besedilo in slike, ki sledi navodilom, z jezikovno komponento z 8,4 milijarde parametrov in vidnim kodirnikom z 0,4 milijarde parametrov. Podpira kontekst 256k po navedbah proizvajalca, sistemska navodila, JSON in izvorno klicanje funkcij za pomočnike in postopke z dokumenti.
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
Ministral 3 8B Instruct 2512 je srednje velik model družine Ministral 3 podjetja Mistral AI, prilagojen sledenju navodilom. Objavljena kontrolna točka je naknadno naučena za klepet in naloge z navodili z natančnostjo FP8. Združuje jezikovno komponento z vidnim kodirnikom, sprejema besedilo in slike ter vrača besedilo, ne slikovnega ali zvočnega izdelka.
Arhitektura in ključne funkcije
Proizvajalec navaja jezikovni model z 8,4 milijarde parametrov in vidni kodirnik z 0,4 milijarde parametrov. Njegovo kontekstno okno je opisano kot 256k, objavljene opombe o uporabi pa uporabljajo privzeto nastavljeno dolžino 262.144. To opisuje to različico velikosti 8B; manjši član družine 3B in večji 14B ohranjata lastne velikosti komponent in konfiguracije.
Vid razširja vhod modela prek pisnega pogovora. Sliki dokumenta lahko priložite vprašanje o izbranem polju, odstavku ali vidnem razmerju. Posnetku zaslona lahko priložite uporabnikov cilj in zahtevo za prepoznavanje ustrezne kontrole. Kadar je odgovor odvisen od vizualne podrobnosti, zahtevajte opažanje, ki podpira vsak sklep, in ohranite naslove, oznake ter enote, potrebne za razlago izreza.
Kartica opisuje večjezično delo v več deset jezikih, vključno z angleščino, francoščino, španščino, nemščino, italijanščino, portugalščino, nizozemščino, kitajščino, japonščino, korejščino in arabščino. Navaja tudi upoštevanje sistemskih navodil, izvorno klicanje funkcij in izhod JSON. Končni jezik, vlogo in zahteve izhoda določite izrecno, namesto da bi modelu prepustili sklepanje o predvidenem izdelku iz velikega vhoda.
Naloge z dokumenti, pogovori in agenti
Proizvajalčevi primeri uporabe vključujejo vmesnike za klepet, vsakdanje pomočnike, opisovanje slik in dokumentov, prevajanje, ustvarjanje vsebin in specializirane agente. Pomočniku za dokumente podajte stran in določite podatke, ki jih mora vrniti. Zahteva za izluščevanje lahko navede oznake polj, pričakovane tipe in obravnavo manjkajočih vrednosti. Uporaben odgovor lahko vsebuje identifikator dokumenta, izluščeno vrednost in kratko razlago, vezano na vidni vir.
Pri tekočem pogovoru ohranite ustrezen prejšnji odgovor in postavite osredotočeno nadaljnje vprašanje. Uporabnik lahko najprej zahteva povzetek dokumenta, nato pa vpraša, katera izjava podpira določen sklep. To spremeni zahtevani izhod iz splošnega pregleda v razlago, povezano z virom, hkrati pa ohrani izvirno gradivo in namen dialoga.
Pri večjezičnem urejanju podajte izvirni odlomek, predvidenega bralca in terminološki seznam. Zahtevajte popravljeno različico, ki ohrani imena, pogoje in enote, nato pa po potrebi kratko razlago sprememb. Pri ustvarjanju vsebine določite občinstvo in dejstva, ki naj se pojavijo, preden zahtevate kratek osnutek ali alternativno ubeseditev.
Pri agentski nalogi aplikacija poda orodja in njihove parametre. Model lahko izbere funkcijo in pripravi argumente, aplikacija pa jo izvede in vrne rezultat. Primer funkcije v kartici združuje vprašanje o sliki z računskim orodjem. Rezultat orodja ohranite ločen od predlaganega klica, da nadaljnji pisni odgovor uporabi podatke, ki jih je operacija dejansko vrnila.
Priporočena priprava in nastavitve
Proizvajalec priporoča sistemsko navodilo, ki opiše okolje, primer uporabe in način uporabe orodij. Nabor orodij naj bo dobro opredeljen in omejen na najmanjše potrebno število za nalogo. Majhen postopek poizvedovanja lahko ponudi funkcije, pomembne za trenutno vprašanje, z jasno poimenovanimi zahtevanimi argumenti, namesto velike zbirke nepovezanih operacij.
Za vsakdanjo in produkcijsko uporabo kartica priporoča temperaturo pod 0.1, višje temperature pa so na voljo za ustvarjalno raziskovanje. To obravnavajte kot priporočilo za postopek sledenja navodilom, ne kot ločeno kontrolo načina sklepanja. Družina ima ločene kontrolne točke Base, Instruct in Reasoning; ta vnos je različica Instruct 2512, ne ločena izdaja Reasoning iste velikosti.
Pri slikah proizvajalec priporoča razmerja stranic blizu 1:1 in odsvetuje zelo ozke ali zelo široke vhode. Po potrebi jih obrežite ter ohranite oznake in kontekst, ki jih zahteva vprašanje. Če stran vsebuje več nepovezanih območij, določite del za pregled in rezultat, ki ga je treba vrniti. Razločna, osredotočena slika je uporabnejša kot zahteva, naj model ugane, katera majhna podrobnost na obsežni strani je pomembna.
Meje konteksta in različice
Besedilo, slike, pogovor in želeni odgovor načrtujte v okviru nastavljenega konteksta. Opombe o uporabi izrecno dovoljujejo zmanjšanje nastavljene dolžine modela, kadar je potrebnega manj konteksta, zato celotno okno ni navodilo za zapolnitev vsake zahteve z vsem razpoložljivim gradivom. Primer ustvarjanja s 512 žetoni v kartici je samo primer nastavitve, pregledani viri pa ne določajo ločene stroge največje dolžine odgovora.
Kontrolna točka FP8 Instruct, predhodno naučena izdaja Base in izdaja Reasoning so ločene različice. Proizvajalec kot primera uporabe opisuje tudi specializacijo in dodatno učenje. Pri pripravi pogovora ohranite poimenovano kontrolno točko in njen razčlenjevalnik žetonov ter ustvarjanje besedila ločite od dostopa do repozitorija, izvajanja funkcij ali drugih dejanj, ki jih zagotavlja okoliška aplikacija.
POST /v1/batchestexttext| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljeendpoint | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve /v1/chat/completions | Privzeto— |
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve mistralai/ministral-8b-2512:batch | Privzeto— |
Poljerequests | Vrstabatch_item[] | ZahtevaObvezno | Vrednosti in omejitve Najmanjše število elementov: 1 | Privzeto— |
Poljerequests[].custom_id | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljerequests[].body.messages | Vrstamessage[] | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljecompletion_window | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve 24h | Privzeto— |
Poljeprovider | Vrstaobject|null | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljerequests[].body.model | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve mistralai/ministral-8b-2512:batch, mistralai/ministral-8b-2512 | Privzeto— |
Poljeprovider.only | Vrstastring[] | ZahtevaIzbirno | Vrednosti in omejitve mistral | Privzeto— |
Poljeprovider.allow_fallbacks | Vrstaboolean|null | ZahtevaIzbirno | Vrednosti in omejitve false, null | Privzeto— |
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijaendpoint, model, requests |
Parametermaterial_types | Specifikacijatext |
Parameterrepresentation | SpecifikacijaNeposredno vključene zahteve v requests[]; vsak element ima custom_id in body |
Parameterrequest_endpoint_profile | Specifikacija/v1/chat/completions |
Parameterfile_material | SpecifikacijaKlicatelj lahko dejansko datoteko JSONL v kodiranju UTF-8 lokalno prebere v requests[]. Namen nalaganja, input_file_id ali sklic na datoteko se ne uporablja. Če gradivo stranke manjka ali je prazno, se priprava ustavi pred POST. |
Parameterserialization_order | Specifikacijaendpoint, model, provider (če je podan), completion_window (če je podan), requests na koncu |
Parameteroptional_controls | Specifikacijaprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | SpecifikacijaTelesa besedilnih zahtev Chat Completions v dokumentiranem ovoju za paketno obdelavo, ki zahteve vsebuje neposredno. |
Življenjski cikel: asynchronous
GET /v1/batches/{operation_id} · Dejanski response.id iz izvirnega odgovora na zahtevo za ustvarjanje; isti uporabnik, isti ključ in ista skupina
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
Vsak strošek povežite s prikazanimi pogoji. Za vsak nabor alternativnih nastavitev uporabite eno ceno.
| Nastavitev | Cenovna lestvica | Žetonov konteksta več kot | Žetonov konteksta do vključno | Strošek |
|---|---|---|---|---|
| NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Žetonov konteksta več kot— | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni $0.00015 / 1K žetonov Izhod · Izhodni žetoni $0.00015 / 1K žetonov Vhod · Branje predpomnilnika $0.000015 / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
| NastavitevRazred 1 glede na dolžino zahteve | Cenovna lestvica— | Žetonov konteksta več kot0 | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni $0.00015 / 1K žetonov Izhod · Izhodni žetoni $0.00015 / 1K žetonov Vhod · Branje predpomnilnika $0.000015 / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/ministral-8b-2512:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/ministral-8b-2512:batch', 'mistralai/ministral-8b-2512']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/ministral-8b-2512:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\nNeposredno vključeni podatki JSON v results[].response.body
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nShranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Shranite celoten izvirni JSON s stanjem, vsak rezultat/custom_id in celotno telo odgovora ali napake. Dokončane rezultate iz results[] shranite kot JSONL brez filtriranja.
Shranite izvirni ID operacije. Odgovor 503 result_pending_check vsebuje X-Should-Retry:false; izvirnega paketa z neznanim izidom nikoli ne pošiljajte znova.
| Polje | Vrsta |
|---|---|
Poljeresults[].custom_id | Vrstastring |
Poljeresults[].response.body.choices[].message.content | Vrstastring|null |
Poljeresults[].error | Vrstaobject|null |
Poljeusage | Vrstaobject|null |
Poljeid | Vrstastring |
Poljemodel | Vrstastring |
Poljeendpoint | Vrstastring |
Poljestatus | Vrstastring |
Poljerequest_counts | Vrstaobject |
Poljeresults[].id | Vrstastring |
Poljeresults[].response.status_code | Vrstainteger |
Poljeresults[].response.request_id | Vrstastring |
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljaven dokumentirani ovoj z neposredno vključenimi zahtevami, podvojeni ključi, neveljavna identiteta elementa ali neskladje z nastavljenimi zmogljivostmi modela. | Naslednji korakPred vsakim novim pošiljanjem popravite navedena polja. |
Odgovor401 · authentication_error | PogojNeveljaven ključ API. | Naslednji korakUporabite odobreni ključ Ailoot. |
Odgovor403 · permission_error | PogojSkupina za paketno obdelavo ni na voljo. | Naslednji korakPreverite pravice ključa/skupine. |
Odgovor422 · invalid_request_error | PogojPaketna obdelava uporablja obračunavanje iz dobroimetja; ustvarjanje v okviru naročnine se zavrne. | Naslednji korakUporabite odobreno skupino z obračunavanjem iz dobroimetja. |
Odgovor422 · price_unavailable | PogojZa vhodne podatke paketa ni mogoče izračunati predračuna. | Naslednji korakShranite odgovor; uporabite dokumentirani vhod za to družino metod. |
Odgovor402 · billing_error | PogojRezervacija sredstev za paketno obdelavo ni na voljo. | Naslednji korakPred novo zahtevo uredite pogoje za njen sprejem. |
Odgovor503 · price_unavailable | PogojCena metode paketne obdelave oziroma izvorne tarife niso na voljo. | Naslednji korakShranite odgovor; cen ne nadomeščajte z drugimi. |
Odgovor503 · api_error | PogojTočno določena pot do dobavitelja ni na voljo. | Naslednji korakShranite odgovor za odpravo napake v usmerjanju. |
Odgovor503 · result_pending_check | PogojIzvirni rezultat je treba preveriti; X-Should-Retry:false. | Naslednji korakShranite izvirni operation_id/id in preberite njegovo stanje; izvirnega POST nikoli ne ponovite. |
Odgovor404 · not_found | PogojOperacija za preverjanje stanja paketa ne obstaja ali pripada drugi identiteti. | Naslednji korakUporabite natančen izvirni id ter istega uporabnika, isti ključ in isto skupino. |
Ailoot Ultra mistralai/ministral-8b-2512:batch
Uporabite zgoraj navedene poti metod.