Mistral Small 4 združuje splošno sledenje navodilom, sklepanje in programiranje v enem večmodalnem modelu. Proizvajalec ga opisuje kot združitev družin Instruct, Magistral za sklepanje in Devstral za programiranje. Sprejema besedilo in slike ter vrača besedilo, s klici funkcij in izhodom JSON za aplikacije, ki uporabljajo orodja.
Arhitektura in ključne funkcije
Izdaja ima skupno 119 milijard parametrov in aktivira 6,5 milijarde na žeton. Njena arhitektura mešanice ekspertov vsebuje 128 ekspertov, od katerih so 4 aktivni, proizvajalec pa dokumentira kontekstno okno 256k. Število aktivnih parametrov in ekspertov opisuje organizacijo modela; razlikuje se od količine besedilne ali slikovne vsebine, vključene v eno nalogo.
Model v isti kontrolni točki zagotavlja sledenje navodilom in sklepanje. Proizvajalec navaja tudi vid, upoštevanje sistemskega poziva in večjezično podporo za več deset jezikov, vključno z angleščino, francoščino, španščino, nemščino, italijanščino, portugalščino, nizozemščino, kitajščino, japonščino, korejščino in arabščino. Besedilno navodilo lahko zato vpraša o sliki ali združi pisno zahtevo z vidnimi dokazi, odgovor pa se vrne kot besedilo.
Vizualna naloga lahko poda stran dokumenta in zahteva vrednosti, pomembne za navedeni pogoj. Oznake in enote naj bodo razločne, navedite pa, ali naj rezultat ohrani izvirno besedilo, ga povzame ali primerja z drugim virom. Naloga z vmesnikom lahko združi posnetek zaslona z uporabnikovim ciljem ter zahteva ustrezno vidno kontrolo in dokaze, ki podpirajo predlagani naslednji korak.
Izbira načina navodil ali sklepanja
Objavljena kartica dokumentira intenzivnost sklepanja none za takojšen odgovor v slogu sledenja navodilom in high za sklepanje, pri čemer high priporoča za zahtevne pozive. Izbira se opravi za vsako zahtevo znotraj istega modela Small 4. Običajno razvrščanje ali kratko preoblikovanje lahko zahteva drugačen dogovor o odgovoru kot matematični, vizualni ali programski problem, ki potrebuje razvito razlago.
Proizvajalec za visoko intenzivnost sklepanja priporoča temperaturo 0.7. Za none določa temperature med 0.0 in 0.7 glede na nalogo. Te nastavitve opisujejo dokumentirane načine in intenzivnosti sklepanja ne spreminjajo v jamstvo pravilnega rezultata. Pred izbiro potrebnega obsega sklepanja opredelite predpostavke, obliko izhoda in ustrezno izvorno gradivo.
Pri reševanju problema podajte celoten pogoj ter zahtevajte pomembne utemeljene korake in nato končni izraz. Pri programski nalogi podajte zahtevo, prizadeto funkcijo in konkreten vhod; predlagano implementacijo zahtevajte ločeno od razlage in primerov. Proizvajalčeve predstavitve uporabe vključujejo sledenje navodilom, uporabo računskega orodja na sliki in vizualno sklepanje ter ponazarjajo, kako lahko besedilni in vizualni dokazi vstopajo v te različne naloge.
Programiranje, dokumenti in orodja
Model je namenjen raziskovanju kodnih baz in agentom za programsko inženirstvo, splošnim pomočnikom, razumevanju dokumentov in raziskovanju. Zahteva za programskega agenta lahko navede modul za spremembo, vmesnik, ki ga je treba ohraniti, in želeno vedenje. Podajte ustrezno izvorno kodo in dokaze o napaki. Model lahko predlaga naslednjo operacijo ali spremembo kode, aplikacija pa zagotovi dostop do repozitorija, izvajanje in povratne informacije.
Pri izluščevanju iz dokumentov določite zahtevana polja in način predstavitve manjkajočih podatkov. Uporaben zapis lahko loči identifikator dokumenta, izvorno izjavo, razloženo zahtevo in nerešeno vprašanje. Proizvajalčeva kartica storitve navaja strukturiran izhod po meri in odgovarjanje na vprašanja o dokumentih; slednje uporablja obdelavo dokumentov in OCR za pripravo besedila in strukture pred analizo jezikovnega modela. Neposredno vprašanje o sliki in postopek z dokumentom ob pomoči OCR naj ohranita vsak svojo pripravo vhoda.
Klicanje funkcij zahteva jasno opisana orodja. Model izbere funkcijo in ustvari argumente; aplikacija izvede operacijo in vrne njen rezultat za naslednji odgovor. Enaka logika velja za poizvedovanje, izračun ali programsko operacijo. Oblikovanje JSON ureja odgovor, klic orodja pa zahteva zunanje dejanje; obeh ne smemo obravnavati kot zamenljiva rezultata.
Kartica storitve navaja tudi predvidene izhode, predpone odgovorov, paketno obdelavo in agentske pogovore. Predvideni izhodi so uporabni, kadar je treba dokument ali datoteko s kodo ponovno ustvariti z omejeno spremembo, preostala vsebina pa je znana. Določite spremembo in gradivo, ki ga je treba ohraniti. Nadaljevanje predpone uporablja znan začetek odgovora, paketna obdelava pa zadeva oddajo dela in ni dodaten način sklepanja.
Meje konteksta in različice
Pisno nalogo, vizualno gradivo, pogovor in želeni odgovor načrtujte v okviru dokumentiranega konteksta 256k. Objavljeni primer uporabe nastavi kontekst 262.144 žetonov, njegov primer ustvarjanja z 1.024 žetoni pa ni ločena največja izhodna zmogljivost. Pregledani viri ne podajajo neodvisne stroge omejitve dolžine odgovora, ki bi nadomestila izbrano dolžino naloge.
Small 4 ima lastno arhitekturo mešanice ekspertov s 119 milijardami parametrov in hibridne načine. Ne sme podedovati goste arhitekture s 128 milijardami parametrov modela Medium 3.5 ali ločenih različic Instruct in Reasoning modela Ministral 3. Proizvajalec objavlja tudi ločene kvantizirane izdelke in izdelke za špekulativno dekodiranje; to so ločeni izdelki za namestitev, ne različne vsebinske modalnosti. Ohranite poimenovano izdajo Small 4 in način, zahtevan za dejansko razlago, strukturiran zapis ali rezultat s kodo.
", "aboutText": "Mistral Small 4 združuje splošno sledenje navodilom, sklepanje in programiranje v enem večmodalnem modelu. Proizvajalec ga opisuje kot združitev družin Instruct, Magistral za sklepanje in Devstral za programiranje. Sprejema besedilo in slike ter vrača besedilo, s klici funkcij in izhodom JSON za aplikacije, ki uporabljajo orodja.\n\nArhitektura in ključne funkcije\n\nIzdaja ima skupno 119 milijard parametrov in aktivira 6,5 milijarde na žeton. Njena arhitektura mešanice ekspertov vsebuje 128 ekspertov, od katerih so 4 aktivni, proizvajalec pa dokumentira kontekstno okno 256k. Število aktivnih parametrov in ekspertov opisuje organizacijo modela; razlikuje se od količine besedilne ali slikovne vsebine, vključene v eno nalogo.\n\nModel v isti kontrolni točki zagotavlja sledenje navodilom in sklepanje. Proizvajalec navaja tudi vid, upoštevanje sistemskega poziva in večjezično podporo za več deset jezikov, vključno z angleščino, francoščino, španščino, nemščino, italijanščino, portugalščino, nizozemščino, kitajščino, japonščino, korejščino in arabščino. Besedilno navodilo lahko zato vpraša o sliki ali združi pisno zahtevo z vidnimi dokazi, odgovor pa se vrne kot besedilo.\n\nVizualna naloga lahko poda stran dokumenta in zahteva vrednosti, pomembne za navedeni pogoj. Oznake in enote naj bodo razločne, navedite pa, ali naj rezultat ohrani izvirno besedilo, ga povzame ali primerja z drugim virom. Naloga z vmesnikom lahko združi posnetek zaslona z uporabnikovim ciljem ter zahteva ustrezno vidno kontrolo in dokaze, ki podpirajo predlagani naslednji korak.\n\nIzbira načina navodil ali sklepanja\n\nObjavljena kartica dokumentira intenzivnost sklepanja none za takojšen odgovor v slogu sledenja navodilom in high za sklepanje, pri čemer high priporoča za zahtevne pozive. Izbira se opravi za vsako zahtevo znotraj istega modela Small 4. Običajno razvrščanje ali kratko preoblikovanje lahko zahteva drugačen dogovor o odgovoru kot matematični, vizualni ali programski problem, ki potrebuje razvito razlago.\n\nProizvajalec za visoko intenzivnost sklepanja priporoča temperaturo 0.7. Za none določa temperature med 0.0 in 0.7 glede na nalogo. Te nastavitve opisujejo dokumentirane načine in intenzivnosti sklepanja ne spreminjajo v jamstvo pravilnega rezultata. Pred izbiro potrebnega obsega sklepanja opredelite predpostavke, obliko izhoda in ustrezno izvorno gradivo.\n\nPri reševanju problema podajte celoten pogoj ter zahtevajte pomembne utemeljene korake in nato končni izraz. Pri programski nalogi podajte zahtevo, prizadeto funkcijo in konkreten vhod; predlagano implementacijo zahtevajte ločeno od razlage in primerov. Proizvajalčeve predstavitve uporabe vključujejo sledenje navodilom, uporabo računskega orodja na sliki in vizualno sklepanje ter ponazarjajo, kako lahko besedilni in vizualni dokazi vstopajo v te različne naloge.\n\nProgramiranje, dokumenti in orodja\n\nModel je namenjen raziskovanju kodnih baz in agentom za programsko inženirstvo, splošnim pomočnikom, razumevanju dokumentov in raziskovanju. Zahteva za programskega agenta lahko navede modul za spremembo, vmesnik, ki ga je treba ohraniti, in želeno vedenje. Podajte ustrezno izvorno kodo in dokaze o napaki. Model lahko predlaga naslednjo operacijo ali spremembo kode, aplikacija pa zagotovi dostop do repozitorija, izvajanje in povratne informacije.\n\nPri izluščevanju iz dokumentov določite zahtevana polja in način predstavitve manjkajočih podatkov. Uporaben zapis lahko loči identifikator dokumenta, izvorno izjavo, razloženo zahtevo in nerešeno vprašanje. Proizvajalčeva kartica storitve navaja strukturiran izhod po meri in odgovarjanje na vprašanja o dokumentih; slednje uporablja obdelavo dokumentov in OCR za pripravo besedila in strukture pred analizo jezikovnega modela. Neposredno vprašanje o sliki in postopek z dokumentom ob pomoči OCR naj ohranita vsak svojo pripravo vhoda.\n\nKlicanje funkcij zahteva jasno opisana orodja. Model izbere funkcijo in ustvari argumente; aplikacija izvede operacijo in vrne njen rezultat za naslednji odgovor. Enaka logika velja za poizvedovanje, izračun ali programsko operacijo. Oblikovanje JSON ureja odgovor, klic orodja pa zahteva zunanje dejanje; obeh ne smemo obravnavati kot zamenljiva rezultata.\n\nKartica storitve navaja tudi predvidene izhode, predpone odgovorov, paketno obdelavo in agentske pogovore. Predvideni izhodi so uporabni, kadar je treba dokument ali datoteko s kodo ponovno ustvariti z omejeno spremembo, preostala vsebina pa je znana. Določite spremembo in gradivo, ki ga je treba ohraniti. Nadaljevanje predpone uporablja znan začetek odgovora, paketna obdelava pa zadeva oddajo dela in ni dodaten način sklepanja.\n\nMeje konteksta in različice\n\nPisno nalogo, vizualno gradivo, pogovor in želeni odgovor načrtujte v okviru dokumentiranega konteksta 256k. Objavljeni primer uporabe nastavi kontekst 262.144 žetonov, njegov primer ustvarjanja z 1.024 žetoni pa ni ločena največja izhodna zmogljivost. Pregledani viri ne podajajo neodvisne stroge omejitve dolžine odgovora, ki bi nadomestila izbrano dolžino naloge.\n\nSmall 4 ima lastno arhitekturo mešanice ekspertov s 119 milijardami parametrov in hibridne načine. Ne sme podedovati goste arhitekture s 128 milijardami parametrov modela Medium 3.5 ali ločenih različic Instruct in Reasoning modela Ministral 3. Proizvajalec objavlja tudi ločene kvantizirane izdelke in izdelke za špekulativno dekodiranje; to so ločeni izdelki za namestitev, ne različne vsebinske modalnosti. Ohranite poimenovano izdajo Small 4 in način, zahtevan za dejansko razlago, strukturiran zapis ali rezultat s kodo.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "9fb2264514c6116eb3d51ea12b5bcb01d20f016b68fa7351a504662a385c0e67", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "sl", "methods": [ { "html": "mistralai/mistral-small-2603:batchMistral Small 4 je hibridni model za besedilo in slike z zmogljivostmi sledenja navodilom, sklepanja in programiranja. Njegova izdaja mešanice ekspertov s 119 milijardami parametrov aktivira 6,5 milijarde parametrov na žeton ter podpira kontekst 256k po navedbah proizvajalca, izbirno intenzivnost sklepanja, JSON in klice funkcij.
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
Mistral Small 4 združuje splošno sledenje navodilom, sklepanje in programiranje v enem večmodalnem modelu. Proizvajalec ga opisuje kot združitev družin Instruct, Magistral za sklepanje in Devstral za programiranje. Sprejema besedilo in slike ter vrača besedilo, s klici funkcij in izhodom JSON za aplikacije, ki uporabljajo orodja.
Arhitektura in ključne funkcije
Izdaja ima skupno 119 milijard parametrov in aktivira 6,5 milijarde na žeton. Njena arhitektura mešanice ekspertov vsebuje 128 ekspertov, od katerih so 4 aktivni, proizvajalec pa dokumentira kontekstno okno 256k. Število aktivnih parametrov in ekspertov opisuje organizacijo modela; razlikuje se od količine besedilne ali slikovne vsebine, vključene v eno nalogo.
Model v isti kontrolni točki zagotavlja sledenje navodilom in sklepanje. Proizvajalec navaja tudi vid, upoštevanje sistemskega poziva in večjezično podporo za več deset jezikov, vključno z angleščino, francoščino, španščino, nemščino, italijanščino, portugalščino, nizozemščino, kitajščino, japonščino, korejščino in arabščino. Besedilno navodilo lahko zato vpraša o sliki ali združi pisno zahtevo z vidnimi dokazi, odgovor pa se vrne kot besedilo.
Vizualna naloga lahko poda stran dokumenta in zahteva vrednosti, pomembne za navedeni pogoj. Oznake in enote naj bodo razločne, navedite pa, ali naj rezultat ohrani izvirno besedilo, ga povzame ali primerja z drugim virom. Naloga z vmesnikom lahko združi posnetek zaslona z uporabnikovim ciljem ter zahteva ustrezno vidno kontrolo in dokaze, ki podpirajo predlagani naslednji korak.
Izbira načina navodil ali sklepanja
Objavljena kartica dokumentira intenzivnost sklepanja none za takojšen odgovor v slogu sledenja navodilom in high za sklepanje, pri čemer high priporoča za zahtevne pozive. Izbira se opravi za vsako zahtevo znotraj istega modela Small 4. Običajno razvrščanje ali kratko preoblikovanje lahko zahteva drugačen dogovor o odgovoru kot matematični, vizualni ali programski problem, ki potrebuje razvito razlago.
Proizvajalec za visoko intenzivnost sklepanja priporoča temperaturo 0.7. Za none določa temperature med 0.0 in 0.7 glede na nalogo. Te nastavitve opisujejo dokumentirane načine in intenzivnosti sklepanja ne spreminjajo v jamstvo pravilnega rezultata. Pred izbiro potrebnega obsega sklepanja opredelite predpostavke, obliko izhoda in ustrezno izvorno gradivo.
Pri reševanju problema podajte celoten pogoj ter zahtevajte pomembne utemeljene korake in nato končni izraz. Pri programski nalogi podajte zahtevo, prizadeto funkcijo in konkreten vhod; predlagano implementacijo zahtevajte ločeno od razlage in primerov. Proizvajalčeve predstavitve uporabe vključujejo sledenje navodilom, uporabo računskega orodja na sliki in vizualno sklepanje ter ponazarjajo, kako lahko besedilni in vizualni dokazi vstopajo v te različne naloge.
Programiranje, dokumenti in orodja
Model je namenjen raziskovanju kodnih baz in agentom za programsko inženirstvo, splošnim pomočnikom, razumevanju dokumentov in raziskovanju. Zahteva za programskega agenta lahko navede modul za spremembo, vmesnik, ki ga je treba ohraniti, in želeno vedenje. Podajte ustrezno izvorno kodo in dokaze o napaki. Model lahko predlaga naslednjo operacijo ali spremembo kode, aplikacija pa zagotovi dostop do repozitorija, izvajanje in povratne informacije.
Pri izluščevanju iz dokumentov določite zahtevana polja in način predstavitve manjkajočih podatkov. Uporaben zapis lahko loči identifikator dokumenta, izvorno izjavo, razloženo zahtevo in nerešeno vprašanje. Proizvajalčeva kartica storitve navaja strukturiran izhod po meri in odgovarjanje na vprašanja o dokumentih; slednje uporablja obdelavo dokumentov in OCR za pripravo besedila in strukture pred analizo jezikovnega modela. Neposredno vprašanje o sliki in postopek z dokumentom ob pomoči OCR naj ohranita vsak svojo pripravo vhoda.
Klicanje funkcij zahteva jasno opisana orodja. Model izbere funkcijo in ustvari argumente; aplikacija izvede operacijo in vrne njen rezultat za naslednji odgovor. Enaka logika velja za poizvedovanje, izračun ali programsko operacijo. Oblikovanje JSON ureja odgovor, klic orodja pa zahteva zunanje dejanje; obeh ne smemo obravnavati kot zamenljiva rezultata.
Kartica storitve navaja tudi predvidene izhode, predpone odgovorov, paketno obdelavo in agentske pogovore. Predvideni izhodi so uporabni, kadar je treba dokument ali datoteko s kodo ponovno ustvariti z omejeno spremembo, preostala vsebina pa je znana. Določite spremembo in gradivo, ki ga je treba ohraniti. Nadaljevanje predpone uporablja znan začetek odgovora, paketna obdelava pa zadeva oddajo dela in ni dodaten način sklepanja.
Meje konteksta in različice
Pisno nalogo, vizualno gradivo, pogovor in želeni odgovor načrtujte v okviru dokumentiranega konteksta 256k. Objavljeni primer uporabe nastavi kontekst 262.144 žetonov, njegov primer ustvarjanja z 1.024 žetoni pa ni ločena največja izhodna zmogljivost. Pregledani viri ne podajajo neodvisne stroge omejitve dolžine odgovora, ki bi nadomestila izbrano dolžino naloge.
Small 4 ima lastno arhitekturo mešanice ekspertov s 119 milijardami parametrov in hibridne načine. Ne sme podedovati goste arhitekture s 128 milijardami parametrov modela Medium 3.5 ali ločenih različic Instruct in Reasoning modela Ministral 3. Proizvajalec objavlja tudi ločene kvantizirane izdelke in izdelke za špekulativno dekodiranje; to so ločeni izdelki za namestitev, ne različne vsebinske modalnosti. Ohranite poimenovano izdajo Small 4 in način, zahtevan za dejansko razlago, strukturiran zapis ali rezultat s kodo.
POST /v1/batchestexttext| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljeendpoint | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve /v1/chat/completions | Privzeto— |
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve mistralai/mistral-small-2603:batch | Privzeto— |
Poljerequests | Vrstabatch_item[] | ZahtevaObvezno | Vrednosti in omejitve Najmanjše število elementov: 1 | Privzeto— |
Poljerequests[].custom_id | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljerequests[].body.messages | Vrstamessage[] | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljecompletion_window | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve 24h | Privzeto— |
Poljeprovider | Vrstaobject|null | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljerequests[].body.model | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve mistralai/mistral-small-2603:batch, mistralai/mistral-small-2603 | Privzeto— |
Poljeprovider.only | Vrstastring[] | ZahtevaIzbirno | Vrednosti in omejitve mistral | Privzeto— |
Poljeprovider.allow_fallbacks | Vrstaboolean|null | ZahtevaIzbirno | Vrednosti in omejitve false, null | Privzeto— |
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijaendpoint, model, requests |
Parametermaterial_types | Specifikacijatext |
Parameterrepresentation | SpecifikacijaNeposredno vključene zahteve v requests[]; vsak element ima custom_id in body |
Parameterrequest_endpoint_profile | Specifikacija/v1/chat/completions |
Parameterfile_material | SpecifikacijaKlicatelj lahko dejansko datoteko JSONL v kodiranju UTF-8 lokalno prebere v requests[]. Namen nalaganja, input_file_id ali sklic na datoteko se ne uporablja. Če gradivo stranke manjka ali je prazno, se priprava ustavi pred POST. |
Parameterserialization_order | Specifikacijaendpoint, model, provider (če je podan), completion_window (če je podan), requests na koncu |
Parameteroptional_controls | Specifikacijaprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | SpecifikacijaTelesa besedilnih zahtev Chat Completions v dokumentiranem ovoju za paketno obdelavo, ki zahteve vsebuje neposredno. |
Življenjski cikel: asynchronous
GET /v1/batches/{operation_id} · Dejanski response.id iz izvirnega odgovora na zahtevo za ustvarjanje; isti uporabnik, isti ključ in ista skupina
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
Vsak strošek povežite s prikazanimi pogoji. Za vsak nabor alternativnih nastavitev uporabite eno ceno.
| Nastavitev | Cenovna lestvica | Žetonov konteksta več kot | Žetonov konteksta do vključno | Strošek |
|---|---|---|---|---|
| NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Žetonov konteksta več kot— | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni $0.00015 / 1K žetonov Izhod · Izhodni žetoni $0.0006 / 1K žetonov Vhod · Branje predpomnilnika $0.000015 / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
| NastavitevRazred 1 glede na dolžino zahteve | Cenovna lestvica— | Žetonov konteksta več kot0 | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni $0.00015 / 1K žetonov Izhod · Izhodni žetoni $0.0006 / 1K žetonov Vhod · Branje predpomnilnika $0.000015 / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-small-2603:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/mistral-small-2603:batch', 'mistralai/mistral-small-2603']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-small-2603:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\nNeposredno vključeni podatki JSON v results[].response.body
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nShranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Shranite celoten izvirni JSON s stanjem, vsak rezultat/custom_id in celotno telo odgovora ali napake. Dokončane rezultate iz results[] shranite kot JSONL brez filtriranja.
Shranite izvirni ID operacije. Odgovor 503 result_pending_check vsebuje X-Should-Retry:false; izvirnega paketa z neznanim izidom nikoli ne pošiljajte znova.
| Polje | Vrsta |
|---|---|
Poljeresults[].custom_id | Vrstastring |
Poljeresults[].response.body.choices[].message.content | Vrstastring|null |
Poljeresults[].error | Vrstaobject|null |
Poljeusage | Vrstaobject|null |
Poljeid | Vrstastring |
Poljemodel | Vrstastring |
Poljeendpoint | Vrstastring |
Poljestatus | Vrstastring |
Poljerequest_counts | Vrstaobject |
Poljeresults[].id | Vrstastring |
Poljeresults[].response.status_code | Vrstainteger |
Poljeresults[].response.request_id | Vrstastring |
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljaven dokumentirani ovoj z neposredno vključenimi zahtevami, podvojeni ključi, neveljavna identiteta elementa ali neskladje z nastavljenimi zmogljivostmi modela. | Naslednji korakPred vsakim novim pošiljanjem popravite navedena polja. |
Odgovor401 · authentication_error | PogojNeveljaven ključ API. | Naslednji korakUporabite odobreni ključ Ailoot. |
Odgovor403 · permission_error | PogojSkupina za paketno obdelavo ni na voljo. | Naslednji korakPreverite pravice ključa/skupine. |
Odgovor422 · invalid_request_error | PogojPaketna obdelava uporablja obračunavanje iz dobroimetja; ustvarjanje v okviru naročnine se zavrne. | Naslednji korakUporabite odobreno skupino z obračunavanjem iz dobroimetja. |
Odgovor422 · price_unavailable | PogojZa vhodne podatke paketa ni mogoče izračunati predračuna. | Naslednji korakShranite odgovor; uporabite dokumentirani vhod za to družino metod. |
Odgovor402 · billing_error | PogojRezervacija sredstev za paketno obdelavo ni na voljo. | Naslednji korakPred novo zahtevo uredite pogoje za njen sprejem. |
Odgovor503 · price_unavailable | PogojCena metode paketne obdelave oziroma izvorne tarife niso na voljo. | Naslednji korakShranite odgovor; cen ne nadomeščajte z drugimi. |
Odgovor503 · api_error | PogojTočno določena pot do dobavitelja ni na voljo. | Naslednji korakShranite odgovor za odpravo napake v usmerjanju. |
Odgovor503 · result_pending_check | PogojIzvirni rezultat je treba preveriti; X-Should-Retry:false. | Naslednji korakShranite izvirni operation_id/id in preberite njegovo stanje; izvirnega POST nikoli ne ponovite. |
Odgovor404 · not_found | PogojOperacija za preverjanje stanja paketa ne obstaja ali pripada drugi identiteti. | Naslednji korakUporabite natančen izvirni id ter istega uporabnika, isti ključ in isto skupino. |
Ailoot Ultra mistralai/mistral-small-2603:batch
Uporabite zgoraj navedene poti metod.