Mistral: Mistral Small 4 (batch)

Mistral Small 4 je hybridný model na prácu s textom a obrázkami so schopnosťami plnenia pokynov, uvažovania a programovania. Jeho vydanie zmesi expertov so 119 miliardami parametrov aktivuje 6,5 miliardy parametrov na token a podporuje kontext 256k uvádzaný výrobcom, voliteľnú intenzitu uvažovania, JSON a volania funkcií.

Ailoot Ultra · Dávkové spracovanie POST /v1/batches mistralai/mistral-small-2603:batch

O modeli

Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.

Mistral Small 4 spája všeobecné dodržiavanie pokynov, uvažovanie a programovanie v jedinom multimodálnom modeli. Výrobca ho opisuje ako zjednotenie rodín Instruct, Magistral na uvažovanie a Devstral na programovanie. Prijíma text a obrázky a vracia text, pričom pre aplikácie s nástrojmi sú dostupné volania funkcií a výstup JSON.

Architektúra a hlavné funkcie

Vydanie má celkovo 119 miliárd parametrov a aktivuje 6,5 miliardy na token. Jeho architektúra zmesi expertov obsahuje 128 expertov, z toho 4 aktívnych, a výrobca dokumentuje kontextové okno 256k. Počet aktívnych parametrov a počet expertov opisujú organizáciu modelu; odlišujú sa od množstva textového alebo obrazového obsahu zahrnutého v jednej úlohe.

Model poskytuje plnenie pokynov a uvažovanie v tom istom kontrolnom bode. Výrobca identifikuje aj vizuálne schopnosti, dodržiavanie systémového promptu a viacjazyčnú podporu desiatok jazykov vrátane angličtiny, francúzštiny, španielčiny, nemčiny, taliančiny, portugalčiny, holandčiny, čínštiny, japončiny, kórejčiny a arabčiny. Textový pokyn sa preto môže pýtať na obrázok alebo spájať písomnú požiadavku s viditeľnými dôkazmi, pričom odpoveď sa vráti ako text.

Vizuálna úloha môže dodať stránku dokumentu a žiadať hodnoty relevantné pre pomenovanú podmienku. Označenia a jednotky ponechajte čitateľné a uveďte, či má výsledok zachovať pôvodné znenie, zhrnúť ho alebo porovnať s iným zdrojom. Úloha s rozhraním môže spojiť snímku obrazovky s cieľom používateľa a žiadať relevantný viditeľný ovládací prvok a dôkazy podporujúce navrhovaný ďalší krok.

Výber režimu pokynov alebo uvažovania

Vydaná karta dokumentuje intenzitu uvažovania none pre okamžitú odpoveď v štýle plnenia pokynov a high pre uvažovanie, pričom high odporúča pre zložité prompty. Výber sa vykonáva pre každú požiadavku v rámci toho istého modelu Small 4. Bežná klasifikácia alebo krátke preformulovanie môže mať iné požiadavky na odpoveď než matematický, vizuálny alebo programovací problém, ktorý potrebuje rozvinuté vysvetlenie.

Výrobca odporúča temperature 0.7 pri vysokej intenzite uvažovania. Pri none určuje teploty od 0.0 do 0.7 podľa úlohy. Tieto nastavenia opisujú zdokumentované režimy a nemenia intenzitu uvažovania na záruku správneho výsledku. Pred výberom potrebnej miery uvažovania definujte predpoklady, podobu výstupu a relevantné zdrojové materiály.

Pri riešenom probléme dodajte úplné zadanie a žiadajte dôležité odôvodnené kroky nasledované konečným výrazom. Pri úlohe s kódom dodajte požiadavku, dotknutú funkciu a konkrétny vstup; navrhovanú implementáciu žiadajte oddelene od vysvetlenia a príkladov. Ukážky použitia výrobcu zahŕňajú dodržiavanie pokynov, výpočtový nástroj použitý na obrázok a vizuálne uvažovanie, čím ilustrujú, ako môžu textové a vizuálne dôkazy vstupovať do týchto rôznych úloh.

Programovanie, dokumenty a nástroje

Model je určený na skúmanie kódovej základne a agentov softvérového inžinierstva, všeobecných asistentov, porozumenie dokumentom a výskum. Požiadavka pre programovacieho agenta môže pomenovať modul na zmenu, rozhranie na zachovanie a správanie, ktoré má nastať. Dodajte relevantné zdroje a dôkazy zlyhania. Model môže navrhnúť ďalšiu operáciu alebo zmenu kódu, zatiaľ čo aplikácia poskytuje prístup k repozitáru, vykonávanie a spätnú väzbu.

Pri extrakcii z dokumentu identifikujte povinné polia a spôsob zápisu chýbajúcich informácií. Užitočný záznam môže oddeliť identifikátor dokumentu, zdrojové tvrdenie, interpretovanú požiadavku a nevyriešenú otázku. Karta služby výrobcu uvádza vlastný štruktúrovaný výstup a odpovedanie na otázky o dokumentoch; druhá funkcia používa spracovanie dokumentu a OCR na prípravu textu a štruktúry pred analýzou jazykovým modelom. Priama otázka k obrázku a dokumentový postup s pomocou OCR by si mali zachovať vlastnú prípravu vstupu.

Volanie funkcií vyžaduje jasne opísané nástroje. Model vyberie funkciu a vytvorí argumenty; aplikácia vykoná operáciu a vráti jej výsledok pre nasledujúcu odpoveď. Rovnaká logika platí pri vyhľadávaní, výpočte aj programovacej operácii. Formátovanie JSON usporadúva odpoveď, zatiaľ čo volanie nástroja žiada externú akciu; tieto dva výsledky nemožno považovať za zameniteľné.

Karta služby uvádza aj predikované výstupy, prefixy odpovedí, dávkovanie a agentové konverzácie. Predikované výstupy sú užitočné, keď treba dokument alebo súbor kódu znovu vygenerovať iba s obmedzenou zmenou a zvyšok obsahu je známy. Určite úpravu a materiál na zachovanie. Pokračovanie prefixu používa známy začiatok odpovede, zatiaľ čo dávkovanie sa týka odosielania práce, nie ďalšieho režimu uvažovania.

Hranice kontextu a edície

Písomnú úlohu, vizuálne materiály, konverzáciu a požadovanú odpoveď plánujte podľa zdokumentovaného kontextu 256k. Vydaný príklad použitia nastavuje kontext 262 144 tokenov, zatiaľ čo jeho príklad generovania s 1 024 tokenmi nie je samostatnou maximálnou kapacitou výstupu. Prečítané zdroje neposkytujú nezávislý pevný limit dĺžky odpovede, ktorým by sa nahradila zvolená dĺžka úlohy.

Small 4 má vlastnú architektúru zmesi expertov so 119 miliardami parametrov a hybridné režimy. Nemal by preberať hustú architektúru 128B modelu Medium 3.5 ani samostatné edície Instruct a Reasoning modelu Ministral 3. Výrobca vydáva aj samostatné kvantizované artefakty a artefakty špekulatívneho dekódovania; ide o samostatné artefakty nasadenia, nie odlišné modality obsahu. Zachovajte pomenované vydanie Small 4 a režim požadovaný pre skutočné vysvetlenie, štruktúrovaný záznam alebo výsledný kód.

Ailoot Ultra · Dávkové spracovanie POST /v1/batches mistralai/mistral-small-2603:batch

mistralai/mistral-small-2603:batch

Mistral /mistralai/mistral-small-2603:batch

Úvod

Povolené vstupy: Text
Výsledky: Text

Dostupné v Ailoot · vstupy a metódy

Ailoot Ultra · Dávkové spracovanie POST /v1/batches

Vstup: text
Výstup: text
Výstupný formát: JSON priamo vložený v results[].response.body

Pole	Typ	Požiadavka	Hodnoty a limity	Predvolené
Pole`endpoint`	Typ`string`	PožiadavkaPovinné	Hodnoty a limity /v1/chat/completions	Predvolené—
Pole`model`	Typ`string`	PožiadavkaPovinné	Hodnoty a limity mistralai/mistral-small-2603:batch	Predvolené—
Pole`requests`	Typ`batch_item[]`	PožiadavkaPovinné	Hodnoty a limity Minimálny počet položiek: 1	Predvolené—
Pole`requests[].custom_id`	Typ`string`	PožiadavkaPovinné	Hodnoty a limity	Predvolené—
Pole`requests[].body.messages`	Typ`message[]`	PožiadavkaPovinné	Hodnoty a limity	Predvolené—
Pole`completion_window`	Typ`string`	PožiadavkaVoliteľné	Hodnoty a limity 24h	Predvolené—
Pole`provider`	Typ`object\|null`	PožiadavkaVoliteľné	Hodnoty a limity	Predvolené—
Pole`requests[].body.model`	Typ`string`	PožiadavkaVoliteľné	Hodnoty a limity mistralai/mistral-small-2603:batch, mistralai/mistral-small-2603	Predvolené—
Pole`provider.only`	Typ`string[]`	PožiadavkaVoliteľné	Hodnoty a limity mistral	Predvolené—
Pole`provider.allow_fallbacks`	Typ`boolean\|null`	PožiadavkaVoliteľné	Hodnoty a limity false, null	Predvolené—

Parametre a životný cyklus metódy

Parameter	Špecifikácia
Parameter`content_type`	Špecifikáciaapplication/json
Parameter`required`	Špecifikáciaendpoint, model, requests
Parameter`material_types`	Špecifikáciatext
Parameter`representation`	Špecifikáciapriamo vložené requests[]; každá položka obsahuje custom_id a body
Parameter`request_endpoint_profile`	Špecifikácia/v1/chat/completions
Parameter`file_material`	ŠpecifikáciaVolajúci môže lokálne načítať skutočný súbor UTF-8 JSONL do requests[]. Nepoužíva sa účel nahrávania, input_file_id ani odkaz na súbor. Chýbajúce alebo prázdne podklady zákazníka zastavia prípravu pred POST.
Parameter`serialization_order`	Špecifikáciaendpoint, model, provider (ak je zadaný), completion_window (ak je zadaný), requests na konci
Parameter`optional_controls`	Špecifikáciaprovider.only, provider.allow_fallbacks, completion_window
Parameter`schema_scope`	ŠpecifikáciaTelá textových požiadaviek Chat Completions v zdokumentovanom obale dávky s priamo vloženými požiadavkami.

Životný cyklus: asynchronous

GET /v1/batches/{operation_id} · skutočná hodnota response.id z pôvodnej odpovede na vytvorenie; rovnaký používateľ/kľúč/skupina

Cenník

Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.

Rýchly režim: Neuvedené Keď je zvolený rýchly režim
Režim Flex: Neuvedené Keď je zvolený režim flex
Maximálna úroveň uvažovania: Neuvedené Keď sa pri maximálnej úrovni uvažovania používa predvolená úprava (default)
Ceny explicitnej cache: Nie je zapnuté Keď sa požaduje explicitná cache

Sadzby Ailoot

Ceny podľa konfigurácie

Každý poplatok priraďte k zobrazeným podmienkam. Pre každú skupinu alternatívnych konfigurácií použite jednu sadzbu.

Konfigurácia	Sadzobník	Počet tokenov kontextu väčší než	Tokeny kontextu, najviac (vrátane hranice)	Poplatok
KonfiguráciaZákladné sadzby za tokeny	SadzobníkZákladná sadzba	Počet tokenov kontextu väčší než—	Tokeny kontextu, najviac (vrátane hranice)Bez hornej hranice	Poplatok Vstup · Vstupné tokeny $0.00015 / 1K tokenov Výstup · Výstupné tokeny $0.0006 / 1K tokenov Vstup · Čítanie cache $0.000015 / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov
KonfiguráciaPásmo dĺžky požiadavky 1	Sadzobník—	Počet tokenov kontextu väčší než0	Tokeny kontextu, najviac (vrátane hranice)Bez hornej hranice	Poplatok Vstup · Vstupné tokeny $0.00015 / 1K tokenov Výstup · Výstupné tokeny $0.0006 / 1K tokenov Vstup · Čítanie cache $0.000015 / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov

Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →

Príklady požiadaviek

Ailoot Ultra · Dávkové spracovanie

curl · uložená vzorová požiadavkaPython HTTP · skutočné údaje zákazníka vo formáte JSONLPython · uložte každý hotový výsledok

set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-small-2603:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json

import json, os
from pathlib import Path
from urllib.request import Request, urlopen

def prepare_requests(customer_path):
    path = Path(customer_path)
    if not path.is_file(): raise ValueError("Customer JSONL file is missing")
    items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
    if not items: raise ValueError("Customer JSONL contains no requests")
    ids = set()
    for item in items:
        if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
        cid = item["custom_id"]
        if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
        ids.add(cid)
        if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
        supplied_model = item["body"].get("model")
        if supplied_model is not None and supplied_model not in ['mistralai/mistral-small-2603:batch', 'mistralai/mistral-small-2603']: raise ValueError("body.model must be an exact documented caller or wire ID")
    return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-small-2603:batch", "requests":items}

if __name__ == "__main__":
    material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
    if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
    body = prepare_requests(material)
    key = os.environ.get("AILOOT_API_KEY", "")
    if not key: raise SystemExit("Set AILOOT_API_KEY")
    request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
    with urlopen(request) as response:
        raw = response.read()
        Path("batch-create-response.json").write_bytes(raw)
        print(raw.decode("utf-8"))

import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
    raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
    raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.

Prijať a uložiť výsledky

Ailoot Ultra · Dávkové spracovanie

JSON priamo vložený v results[].response.body

GET /v1/batches/{operation_id}

Skontrolovať stav úlohy

curl · stav pôvodnej operácie

set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
  -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json

Uchovať všetky dokončené výsledky

Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.

Uchovajte úplný pôvodný stav vo formáte JSON, každý výsledok/custom_id a úplné telo odpovede alebo chyby. Dokončené results[] uložte ako JSONL bez filtrovania.

Ak treba overiť pôvodnú odpoveď

Uchovajte pôvodné ID operácie. Odpoveď 503 result_pending_check obsahuje X-Should-Retry:false; pôvodnú dávku s neznámym výsledkom nikdy znova neodosielajte.

Polia odpovede

Pole	Typ
Pole`results[].custom_id`	Typstring
Pole`results[].response.body.choices[].message.content`	Typstring\|null
Pole`results[].error`	Typobject\|null
Pole`usage`	Typobject\|null
Pole`id`	Typstring
Pole`model`	Typstring
Pole`endpoint`	Typstring
Pole`status`	Typstring
Pole`request_counts`	Typobject
Pole`results[].id`	Typstring
Pole`results[].response.status_code`	Typinteger
Pole`results[].response.request_id`	Typstring

Chyby a ďalšie kroky

Odpoveď	Podmienka	Ďalší krok
Odpoveď400 · `invalid_request_error`	PodmienkaNeplatný zdokumentovaný obal s priamo vloženými požiadavkami, duplicitné kľúče alebo konflikt identity položky či nastavených schopností modelu.	Ďalší krokPred akýmkoľvek novým odoslaním opravte označené polia.
Odpoveď401 · `authentication_error`	PodmienkaNeplatný kľúč API.	Ďalší krokPoužite kľúč Ailoot, ktorý ste oprávnení používať.
Odpoveď403 · `permission_error`	PodmienkaSkupina pre dávkové spracovanie nie je dostupná.	Ďalší krokSkontrolujte oprávnenie kľúča/skupiny.
Odpoveď422 · `invalid_request_error`	PodmienkaDávkové spracovanie sa účtuje zo zostatku; vytvorenie cez predplatné sa odmieta.	Ďalší krokPoužite skupinu s účtovaním zo zostatku, ktorú ste oprávnení používať.
Odpoveď422 · `price_unavailable`	PodmienkaPre vstup dávky nemožno vypočítať cenovú ponuku.	Ďalší krokUchovajte odpoveď; použite zdokumentovaný vstup pre danú rodinu metód.
Odpoveď402 · `billing_error`	PodmienkaRezerva pre dávkové spracovanie nie je dostupná.	Ďalší krokPred novou požiadavkou vyriešte podmienky prijatia.
Odpoveď503 · `price_unavailable`	PodmienkaCena metódy dávkového spracovania alebo natívne sadzby nie sú dostupné.	Ďalší krokUchovajte odpoveď; nenahrádzajte ceny inými.
Odpoveď503 · `api_error`	PodmienkaPresná trasa k dodávateľovi nie je dostupná.	Ďalší krokUchovajte odpoveď na účely opravy smerovania.
Odpoveď503 · `result_pending_check`	PodmienkaPôvodný výsledok je potrebné skontrolovať; X-Should-Retry:false.	Ďalší krokUchovajte pôvodné operation_id/id a čítajte jeho stav; pôvodný POST nikdy neopakujte.
Odpoveď404 · `not_found`	PodmienkaOperácia na zisťovanie stavu dávky neexistuje alebo patrí inej identite.	Ďalší krokPoužite presné pôvodné id a rovnakého používateľa/kľúč/skupinu.

Aliasy

Aliasy modelov

Ailoot Ultra mistralai/mistral-small-2603:batch

Aliasy ciest metód

Použite cesty metód uvedené vyššie.

Súvisiace ID na volanie

mistralai/mistral-small-2603:batch

FAQ · Mistral: Mistral Small 4 (batch)

Aké vstupy a výsledky sú dostupné?: POST /v1/batches · mistralai/mistral-small-2603:batch: text → text
Aké polia používa požiadavka?: POST /v1/batches · mistralai/mistral-small-2603:batch: endpoint, model, requests, completion_window, provider
Aké limity platia?: POST /v1/batches · mistralai/mistral-small-2603:batch: requests.min_items: 1

Mistral: Mistral Small 4 (batch)