Mistral: Mistral Small 4 (batch)

Mistral Small 4 je hibridni model za besedilo in slike z zmogljivostmi sledenja navodilom, sklepanja in programiranja. Njegova izdaja mešanice ekspertov s 119 milijardami parametrov aktivira 6,5 milijarde parametrov na žeton ter podpira kontekst 256k po navedbah proizvajalca, izbirno intenzivnost sklepanja, JSON in klice funkcij.

Ailoot Ultra · Paketna obdelava POST /v1/batches mistralai/mistral-small-2603:batch

O modelu

Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.

Mistral Small 4 združuje splošno sledenje navodilom, sklepanje in programiranje v enem večmodalnem modelu. Proizvajalec ga opisuje kot združitev družin Instruct, Magistral za sklepanje in Devstral za programiranje. Sprejema besedilo in slike ter vrača besedilo, s klici funkcij in izhodom JSON za aplikacije, ki uporabljajo orodja.

Arhitektura in ključne funkcije

Izdaja ima skupno 119 milijard parametrov in aktivira 6,5 milijarde na žeton. Njena arhitektura mešanice ekspertov vsebuje 128 ekspertov, od katerih so 4 aktivni, proizvajalec pa dokumentira kontekstno okno 256k. Število aktivnih parametrov in ekspertov opisuje organizacijo modela; razlikuje se od količine besedilne ali slikovne vsebine, vključene v eno nalogo.

Model v isti kontrolni točki zagotavlja sledenje navodilom in sklepanje. Proizvajalec navaja tudi vid, upoštevanje sistemskega poziva in večjezično podporo za več deset jezikov, vključno z angleščino, francoščino, španščino, nemščino, italijanščino, portugalščino, nizozemščino, kitajščino, japonščino, korejščino in arabščino. Besedilno navodilo lahko zato vpraša o sliki ali združi pisno zahtevo z vidnimi dokazi, odgovor pa se vrne kot besedilo.

Vizualna naloga lahko poda stran dokumenta in zahteva vrednosti, pomembne za navedeni pogoj. Oznake in enote naj bodo razločne, navedite pa, ali naj rezultat ohrani izvirno besedilo, ga povzame ali primerja z drugim virom. Naloga z vmesnikom lahko združi posnetek zaslona z uporabnikovim ciljem ter zahteva ustrezno vidno kontrolo in dokaze, ki podpirajo predlagani naslednji korak.

Izbira načina navodil ali sklepanja

Objavljena kartica dokumentira intenzivnost sklepanja none za takojšen odgovor v slogu sledenja navodilom in high za sklepanje, pri čemer high priporoča za zahtevne pozive. Izbira se opravi za vsako zahtevo znotraj istega modela Small 4. Običajno razvrščanje ali kratko preoblikovanje lahko zahteva drugačen dogovor o odgovoru kot matematični, vizualni ali programski problem, ki potrebuje razvito razlago.

Proizvajalec za visoko intenzivnost sklepanja priporoča temperaturo 0.7. Za none določa temperature med 0.0 in 0.7 glede na nalogo. Te nastavitve opisujejo dokumentirane načine in intenzivnosti sklepanja ne spreminjajo v jamstvo pravilnega rezultata. Pred izbiro potrebnega obsega sklepanja opredelite predpostavke, obliko izhoda in ustrezno izvorno gradivo.

Pri reševanju problema podajte celoten pogoj ter zahtevajte pomembne utemeljene korake in nato končni izraz. Pri programski nalogi podajte zahtevo, prizadeto funkcijo in konkreten vhod; predlagano implementacijo zahtevajte ločeno od razlage in primerov. Proizvajalčeve predstavitve uporabe vključujejo sledenje navodilom, uporabo računskega orodja na sliki in vizualno sklepanje ter ponazarjajo, kako lahko besedilni in vizualni dokazi vstopajo v te različne naloge.

Programiranje, dokumenti in orodja

Model je namenjen raziskovanju kodnih baz in agentom za programsko inženirstvo, splošnim pomočnikom, razumevanju dokumentov in raziskovanju. Zahteva za programskega agenta lahko navede modul za spremembo, vmesnik, ki ga je treba ohraniti, in želeno vedenje. Podajte ustrezno izvorno kodo in dokaze o napaki. Model lahko predlaga naslednjo operacijo ali spremembo kode, aplikacija pa zagotovi dostop do repozitorija, izvajanje in povratne informacije.

Pri izluščevanju iz dokumentov določite zahtevana polja in način predstavitve manjkajočih podatkov. Uporaben zapis lahko loči identifikator dokumenta, izvorno izjavo, razloženo zahtevo in nerešeno vprašanje. Proizvajalčeva kartica storitve navaja strukturiran izhod po meri in odgovarjanje na vprašanja o dokumentih; slednje uporablja obdelavo dokumentov in OCR za pripravo besedila in strukture pred analizo jezikovnega modela. Neposredno vprašanje o sliki in postopek z dokumentom ob pomoči OCR naj ohranita vsak svojo pripravo vhoda.

Klicanje funkcij zahteva jasno opisana orodja. Model izbere funkcijo in ustvari argumente; aplikacija izvede operacijo in vrne njen rezultat za naslednji odgovor. Enaka logika velja za poizvedovanje, izračun ali programsko operacijo. Oblikovanje JSON ureja odgovor, klic orodja pa zahteva zunanje dejanje; obeh ne smemo obravnavati kot zamenljiva rezultata.

Kartica storitve navaja tudi predvidene izhode, predpone odgovorov, paketno obdelavo in agentske pogovore. Predvideni izhodi so uporabni, kadar je treba dokument ali datoteko s kodo ponovno ustvariti z omejeno spremembo, preostala vsebina pa je znana. Določite spremembo in gradivo, ki ga je treba ohraniti. Nadaljevanje predpone uporablja znan začetek odgovora, paketna obdelava pa zadeva oddajo dela in ni dodaten način sklepanja.

Meje konteksta in različice

Pisno nalogo, vizualno gradivo, pogovor in želeni odgovor načrtujte v okviru dokumentiranega konteksta 256k. Objavljeni primer uporabe nastavi kontekst 262.144 žetonov, njegov primer ustvarjanja z 1.024 žetoni pa ni ločena največja izhodna zmogljivost. Pregledani viri ne podajajo neodvisne stroge omejitve dolžine odgovora, ki bi nadomestila izbrano dolžino naloge.

Small 4 ima lastno arhitekturo mešanice ekspertov s 119 milijardami parametrov in hibridne načine. Ne sme podedovati goste arhitekture s 128 milijardami parametrov modela Medium 3.5 ali ločenih različic Instruct in Reasoning modela Ministral 3. Proizvajalec objavlja tudi ločene kvantizirane izdelke in izdelke za špekulativno dekodiranje; to so ločeni izdelki za namestitev, ne različne vsebinske modalnosti. Ohranite poimenovano izdajo Small 4 in način, zahtevan za dejansko razlago, strukturiran zapis ali rezultat s kodo.

Ailoot Ultra · Paketna obdelava POST /v1/batches mistralai/mistral-small-2603:batch

mistralai/mistral-small-2603:batch

Mistral /mistralai/mistral-small-2603:batch

Začetek

Dovoljeni vhodi: Besedilo
Rezultati: Besedilo

Na voljo v Ailoot · vhodi in metode

Ailoot Ultra · Paketna obdelava POST /v1/batches

Vhod: text
Izhod: text
Izhodni format: Neposredno vključeni podatki JSON v results[].response.body

Polje	Vrsta	Zahteva	Vrednosti in omejitve	Privzeto
Polje`endpoint`	Vrsta`string`	ZahtevaObvezno	Vrednosti in omejitve /v1/chat/completions	Privzeto—
Polje`model`	Vrsta`string`	ZahtevaObvezno	Vrednosti in omejitve mistralai/mistral-small-2603:batch	Privzeto—
Polje`requests`	Vrsta`batch_item[]`	ZahtevaObvezno	Vrednosti in omejitve Najmanjše število elementov: 1	Privzeto—
Polje`requests[].custom_id`	Vrsta`string`	ZahtevaObvezno	Vrednosti in omejitve	Privzeto—
Polje`requests[].body.messages`	Vrsta`message[]`	ZahtevaObvezno	Vrednosti in omejitve	Privzeto—
Polje`completion_window`	Vrsta`string`	ZahtevaIzbirno	Vrednosti in omejitve 24h	Privzeto—
Polje`provider`	Vrsta`object\|null`	ZahtevaIzbirno	Vrednosti in omejitve	Privzeto—
Polje`requests[].body.model`	Vrsta`string`	ZahtevaIzbirno	Vrednosti in omejitve mistralai/mistral-small-2603:batch, mistralai/mistral-small-2603	Privzeto—
Polje`provider.only`	Vrsta`string[]`	ZahtevaIzbirno	Vrednosti in omejitve mistral	Privzeto—
Polje`provider.allow_fallbacks`	Vrsta`boolean\|null`	ZahtevaIzbirno	Vrednosti in omejitve false, null	Privzeto—

Parametri in življenjski cikel metode

Parameter	Specifikacija
Parameter`content_type`	Specifikacijaapplication/json
Parameter`required`	Specifikacijaendpoint, model, requests
Parameter`material_types`	Specifikacijatext
Parameter`representation`	SpecifikacijaNeposredno vključene zahteve v requests[]; vsak element ima custom_id in body
Parameter`request_endpoint_profile`	Specifikacija/v1/chat/completions
Parameter`file_material`	SpecifikacijaKlicatelj lahko dejansko datoteko JSONL v kodiranju UTF-8 lokalno prebere v requests[]. Namen nalaganja, input_file_id ali sklic na datoteko se ne uporablja. Če gradivo stranke manjka ali je prazno, se priprava ustavi pred POST.
Parameter`serialization_order`	Specifikacijaendpoint, model, provider (če je podan), completion_window (če je podan), requests na koncu
Parameter`optional_controls`	Specifikacijaprovider.only, provider.allow_fallbacks, completion_window
Parameter`schema_scope`	SpecifikacijaTelesa besedilnih zahtev Chat Completions v dokumentiranem ovoju za paketno obdelavo, ki zahteve vsebuje neposredno.

Življenjski cikel: asynchronous

GET /v1/batches/{operation_id} · Dejanski response.id iz izvirnega odgovora na zahtevo za ustvarjanje; isti uporabnik, isti ključ in ista skupina

Cenik

Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.

Hitri način: Ni navedeno Ko je izbran hitri način
Način flex: Ni navedeno Ko je izbran način flex
Najvišja raven razmišljanja: Ni navedeno Ko najvišja raven razmišljanja uporablja privzeto prilagoditev (default)
Cene izrecnega predpomnjenja: Ni omogočeno Ko je zahtevano eksplicitno predpomnjenje

Cene Ailoot

Cene po nastavitvah

Vsak strošek povežite s prikazanimi pogoji. Za vsak nabor alternativnih nastavitev uporabite eno ceno.

Nastavitev	Cenovna lestvica	Žetonov konteksta več kot	Žetonov konteksta do vključno	Strošek
NastavitevOsnovne cene za žetone	Cenovna lestvicaOsnovna cena	Žetonov konteksta več kot—	Žetonov konteksta do vključnoBrez zgornje meje	Strošek Vhod · Vhodni žetoni $0.00015 / 1K žetonov Izhod · Izhodni žetoni $0.0006 / 1K žetonov Vhod · Branje predpomnilnika $0.000015 / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov
NastavitevRazred 1 glede na dolžino zahteve	Cenovna lestvica—	Žetonov konteksta več kot0	Žetonov konteksta do vključnoBrez zgornje meje	Strošek Vhod · Vhodni žetoni $0.00015 / 1K žetonov Izhod · Izhodni žetoni $0.0006 / 1K žetonov Vhod · Branje predpomnilnika $0.000015 / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov

Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →

Primeri zahtev

Ailoot Ultra · Paketna obdelava

curl · ohranjeni referenčni primerPython HTTP · dejanski podatki stranke v JSONLPython · shranite vsak dokončan rezultat

set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-small-2603:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json

import json, os
from pathlib import Path
from urllib.request import Request, urlopen

def prepare_requests(customer_path):
    path = Path(customer_path)
    if not path.is_file(): raise ValueError("Customer JSONL file is missing")
    items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
    if not items: raise ValueError("Customer JSONL contains no requests")
    ids = set()
    for item in items:
        if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
        cid = item["custom_id"]
        if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
        ids.add(cid)
        if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
        supplied_model = item["body"].get("model")
        if supplied_model is not None and supplied_model not in ['mistralai/mistral-small-2603:batch', 'mistralai/mistral-small-2603']: raise ValueError("body.model must be an exact documented caller or wire ID")
    return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-small-2603:batch", "requests":items}

if __name__ == "__main__":
    material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
    if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
    body = prepare_requests(material)
    key = os.environ.get("AILOOT_API_KEY", "")
    if not key: raise SystemExit("Set AILOOT_API_KEY")
    request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
    with urlopen(request) as response:
        raw = response.read()
        Path("batch-create-response.json").write_bytes(raw)
        print(raw.decode("utf-8"))

import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
    raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
    raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.

Prejmi in shrani rezultate

Ailoot Ultra · Paketna obdelava

Neposredno vključeni podatki JSON v results[].response.body

GET /v1/batches/{operation_id}

Preveri stanje opravila

curl · stanje izvirne operacije

set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
  -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json

Ohrani vse dokončane rezultate

Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.

Shranite celoten izvirni JSON s stanjem, vsak rezultat/custom_id in celotno telo odgovora ali napake. Dokončane rezultate iz results[] shranite kot JSONL brez filtriranja.

Če je treba preveriti izvirni odgovor

Shranite izvirni ID operacije. Odgovor 503 result_pending_check vsebuje X-Should-Retry:false; izvirnega paketa z neznanim izidom nikoli ne pošiljajte znova.

Polja odgovora

Polje	Vrsta
Polje`results[].custom_id`	Vrstastring
Polje`results[].response.body.choices[].message.content`	Vrstastring\|null
Polje`results[].error`	Vrstaobject\|null
Polje`usage`	Vrstaobject\|null
Polje`id`	Vrstastring
Polje`model`	Vrstastring
Polje`endpoint`	Vrstastring
Polje`status`	Vrstastring
Polje`request_counts`	Vrstaobject
Polje`results[].id`	Vrstastring
Polje`results[].response.status_code`	Vrstainteger
Polje`results[].response.request_id`	Vrstastring

Napake in naslednji koraki

Odgovor	Pogoj	Naslednji korak
Odgovor400 · `invalid_request_error`	PogojNeveljaven dokumentirani ovoj z neposredno vključenimi zahtevami, podvojeni ključi, neveljavna identiteta elementa ali neskladje z nastavljenimi zmogljivostmi modela.	Naslednji korakPred vsakim novim pošiljanjem popravite navedena polja.
Odgovor401 · `authentication_error`	PogojNeveljaven ključ API.	Naslednji korakUporabite odobreni ključ Ailoot.
Odgovor403 · `permission_error`	PogojSkupina za paketno obdelavo ni na voljo.	Naslednji korakPreverite pravice ključa/skupine.
Odgovor422 · `invalid_request_error`	PogojPaketna obdelava uporablja obračunavanje iz dobroimetja; ustvarjanje v okviru naročnine se zavrne.	Naslednji korakUporabite odobreno skupino z obračunavanjem iz dobroimetja.
Odgovor422 · `price_unavailable`	PogojZa vhodne podatke paketa ni mogoče izračunati predračuna.	Naslednji korakShranite odgovor; uporabite dokumentirani vhod za to družino metod.
Odgovor402 · `billing_error`	PogojRezervacija sredstev za paketno obdelavo ni na voljo.	Naslednji korakPred novo zahtevo uredite pogoje za njen sprejem.
Odgovor503 · `price_unavailable`	PogojCena metode paketne obdelave oziroma izvorne tarife niso na voljo.	Naslednji korakShranite odgovor; cen ne nadomeščajte z drugimi.
Odgovor503 · `api_error`	PogojTočno določena pot do dobavitelja ni na voljo.	Naslednji korakShranite odgovor za odpravo napake v usmerjanju.
Odgovor503 · `result_pending_check`	PogojIzvirni rezultat je treba preveriti; X-Should-Retry:false.	Naslednji korakShranite izvirni operation_id/id in preberite njegovo stanje; izvirnega POST nikoli ne ponovite.
Odgovor404 · `not_found`	PogojOperacija za preverjanje stanja paketa ne obstaja ali pripada drugi identiteti.	Naslednji korakUporabite natančen izvirni id ter istega uporabnika, isti ključ in isto skupino.

Druga imena

Druga imena modelov

Ailoot Ultra mistralai/mistral-small-2603:batch

Druga imena poti metod

Uporabite zgoraj navedene poti metod.

Povezani ID-ji za klic

mistralai/mistral-small-2603:batch

FAQ · Mistral: Mistral Small 4 (batch)

Kateri vhodi in rezultati so na voljo?: POST /v1/batches · mistralai/mistral-small-2603:batch: text → text
Katera polja uporablja zahteva?: POST /v1/batches · mistralai/mistral-small-2603:batch: endpoint, model, requests, completion_window, provider
Katere omejitve veljajo?: POST /v1/batches · mistralai/mistral-small-2603:batch: requests.min_items: 1

Mistral: Mistral Small 4 (batch)