Mistral: Mistral Small 4 (batch)

Mistral Small 4 je hybridní model pro textový a obrazový vstup se schopnostmi plnění pokynů, uvažování a programování. Jeho vydání mixture-of-experts se 119 miliardami parametrů aktivuje 6,5 miliardy parametrů na token a podporuje kontext 256 tisíc tokenů uváděný výrobcem, volitelnou intenzitu uvažování, JSON a volání funkcí.

Ailoot Ultra · Dávka POST /v1/batches mistralai/mistral-small-2603:batch

O modelu

Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.

Mistral Small 4 spojuje obecné plnění pokynů, uvažování a programování v jediném multimodálním modelu. Výrobce jej popisuje jako sjednocení rodin Instruct, Magistral pro uvažování a Devstral pro programování. Přijímá text a obrázky a vrací text, přičemž pro aplikace s podporou nástrojů jsou dostupná volání funkcí a výstup JSON.

Architektura a hlavní funkce

Vydání má celkem 119 miliard parametrů a aktivuje 6,5 miliardy na token. Jeho architektura mixture-of-experts obsahuje 128 expertů se 4 aktivními a výrobce dokumentuje kontextové okno 256 tisíc tokenů. Počet aktivních parametrů a expertů popisuje uspořádání modelu; liší se od množství textového nebo obrazového obsahu v jedné úloze.

Model poskytuje funkce plnění pokynů a uvažování ve stejném checkpointu. Výrobce uvádí také vizuální schopnosti, dodržování systémového promptu a vícejazyčnou podporu desítek jazyků, včetně angličtiny, francouzštiny, španělštiny, němčiny, italštiny, portugalštiny, nizozemštiny, čínštiny, japonštiny, korejštiny a arabštiny. Textový pokyn se tedy může ptát na obrázek nebo spojit písemný požadavek s viditelnými podklady a odpověď se vrátí jako text.

Vizuální úloha může dodat stránku dokumentu a požadovat hodnoty relevantní pro pojmenovanou podmínku. Označení a jednotky ponechte čitelné a uveďte, zda má výsledek zachovat původní znění, shrnout je nebo porovnat s jiným zdrojem. Úloha s rozhraním může spojit snímek obrazovky s cílem uživatele a požadovat příslušný viditelný ovládací prvek a podklady podporující navržený další krok.

Volba režimu plnění pokynů nebo uvažování

Vydaná karta dokumentuje intenzitu uvažování none pro okamžitou odpověď ve stylu plnění pokynů a high pro uvažování, přičemž high doporučuje pro složité prompty. Volba se provádí pro každý požadavek v rámci stejného modelu Small 4. Běžná klasifikace nebo krátký přepis mohou mít jiný kontrakt odpovědi než matematický, vizuální či programátorský problém vyžadující rozvinuté vysvětlení.

Výrobce doporučuje teplotu 0.7 pro vysokou intenzitu uvažování. Pro none specifikuje teploty mezi 0.0 a 0.7 podle úlohy. Tato nastavení popisují zdokumentované režimy a nemění intenzitu uvažování v záruku správného výsledku. Než zvolíte množství uvažování potřebné pro úlohu, definujte předpoklady, podobu výstupu a relevantní zdrojové materiály.

Pro řešený problém dodejte úplné zadání a požadujte důležité zdůvodněné kroky následované konečným výrazem. Pro úlohu s kódem dodejte požadavek, dotčenou funkci a konkrétní vstup; navrženou implementaci požadujte odděleně od vysvětlení a příkladů. Ukázky použití výrobce zahrnují plnění pokynů, výpočetní nástroj použitý na obrázek a vizuální uvažování a ilustrují, jak mohou do těchto různých úloh vstupovat textové a vizuální podklady.

Programování, dokumenty a nástroje

Model je určen pro průzkum kódové základny a softwarové inženýrské agenty, obecné asistenty, porozumění dokumentům a výzkum. Požadavek pro programátorského agenta může pojmenovat modul ke změně, rozhraní k zachování a výsledné chování. Dodejte relevantní zdroje a doklady o selhání. Model může navrhnout další operaci nebo změnu kódu, zatímco aplikace poskytuje přístup k repozitáři, provádění a zpětnou vazbu.

Pro extrakci dokumentů určete požadovaná pole a způsob vyjádření chybějících informací. Užitečný záznam může oddělit identifikátor dokumentu, zdrojové tvrzení, vyložený požadavek a nevyřešenou otázku. Karta služby výrobce uvádí vlastní strukturovaný výstup a odpovídání na otázky k dokumentům; druhá funkce používá zpracování dokumentu a OCR k přípravě textu a struktury před analýzou jazykovým modelem. Přímá otázka k obrázku a dokumentový postup s pomocí OCR si mají zachovat vlastní přípravu vstupu.

Volání funkcí vyžaduje jasně popsané nástroje. Model vybere funkci a vytvoří argumenty; aplikace operaci provede a vrátí její výsledek pro následnou odpověď. Stejná logika platí, ať je úlohou vyhledání, výpočet nebo programátorská operace. Formátování JSON uspořádává odpověď, zatímco volání nástroje žádá externí akci; oba výsledky nelze považovat za zaměnitelné.

Karta služby uvádí také předpovězené výstupy, prefixy odpovědí, dávkové zpracování a konverzace agentů. Předpovězené výstupy jsou užitečné, když se má dokument nebo soubor kódu znovu vygenerovat pouze s omezenou změnou a zbytek obsahu je známý. Určete úpravu a materiál k zachování. Pokračování od prefixu používá známý začátek odpovědi, zatímco dávkové zpracování se týká odesílání práce, nikoli dalšího režimu uvažování.

Vymezení kontextu a edice

Písemnou úlohu, vizuální materiály, konverzaci a požadovanou odpověď plánujte podle zdokumentovaného kontextu 256 tisíc tokenů. Vydaný příklad použití nastavuje kontext 262 144 tokenů, zatímco jeho příklad generování 1 024 tokenů není samostatnou maximální výstupní kapacitou. Přečtené zdroje neposkytují nezávislý pevný limit délky odpovědi, který by nahradil zvolenou délku úlohy.

Small 4 má vlastní architekturu mixture-of-experts se 119 miliardami parametrů a hybridní režimy. Nemá přebírat hustou architekturu se 128 miliardami parametrů Medium 3.5 ani samostatné edice Instruct a Reasoning Ministral 3. Výrobce vydává také odlišné kvantizované artefakty a artefakty pro spekulativní dekódování; jde o samostatné artefakty nasazení, nikoli různé obsahové modality. Zachovejte pojmenované vydání Small 4 a režim požadovaný pro skutečné vysvětlení, strukturovaný záznam nebo výsledek kódu.

Ailoot Ultra · Dávka POST /v1/batches mistralai/mistral-small-2603:batch

mistralai/mistral-small-2603:batch

Mistral /mistralai/mistral-small-2603:batch

Úvod

Přijímané vstupy: Text
Výsledky: Text

Dostupné v Ailoot · vstupy a metody

Ailoot Ultra · Dávka POST /v1/batches

Vstup: text
Výstup: text
Výstupní formát: vložený JSON v results[].response.body

Pole	Typ	Požadavek	Hodnoty a limity	Výchozí
Pole`endpoint`	Typ`string`	PožadavekPovinné	Hodnoty a limity /v1/chat/completions	Výchozí—
Pole`model`	Typ`string`	PožadavekPovinné	Hodnoty a limity mistralai/mistral-small-2603:batch	Výchozí—
Pole`requests`	Typ`batch_item[]`	PožadavekPovinné	Hodnoty a limity Minimální počet položek: 1	Výchozí—
Pole`requests[].custom_id`	Typ`string`	PožadavekPovinné	Hodnoty a limity	Výchozí—
Pole`requests[].body.messages`	Typ`message[]`	PožadavekPovinné	Hodnoty a limity	Výchozí—
Pole`completion_window`	Typ`string`	PožadavekVolitelné	Hodnoty a limity 24h	Výchozí—
Pole`provider`	Typ`object\|null`	PožadavekVolitelné	Hodnoty a limity	Výchozí—
Pole`requests[].body.model`	Typ`string`	PožadavekVolitelné	Hodnoty a limity mistralai/mistral-small-2603:batch, mistralai/mistral-small-2603	Výchozí—
Pole`provider.only`	Typ`string[]`	PožadavekVolitelné	Hodnoty a limity mistral	Výchozí—
Pole`provider.allow_fallbacks`	Typ`boolean\|null`	PožadavekVolitelné	Hodnoty a limity false, null	Výchozí—

Parametry a životní cyklus metody

Parametr	Kontrakt
Parametr`content_type`	Kontraktapplication/json
Parametr`required`	Kontraktendpoint, model, requests
Parametr`material_types`	Kontrakttext
Parametr`representation`	Kontraktvložené requests[]; každá položka obsahuje custom_id a body
Parametr`request_endpoint_profile`	Kontrakt/v1/chat/completions
Parametr`file_material`	KontraktVolající může lokálně načíst skutečný soubor JSONL v kódování UTF-8 do requests[]. Nepoužívá se účel nahrání, input_file_id ani odkaz na soubor. Chybějící nebo prázdné podklady zákazníka zastaví přípravu před POST.
Parametr`serialization_order`	Kontraktendpoint, model, provider (je-li uveden), completion_window (je-li uvedeno), requests nakonec
Parametr`optional_controls`	Kontraktprovider.only, provider.allow_fallbacks, completion_window
Parametr`schema_scope`	KontraktTěla požadavků Text Chat Completions v dokumentované obálce pro vložené dávkové požadavky Batch.

Životní cyklus: asynchronous

GET /v1/batches/{operation_id} · skutečné response.id z původní odpovědi na vytvoření; stejný uživatel, klíč a skupina

Tarify

Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.

Rychlý režim: Neuvedeno Při výběru rychlého režimu
Režim flex: Neuvedeno Při výběru režimu flex
Maximální intenzita uvažování: Neuvedeno Když se při maximální intenzitě uvažování použije výchozí úprava (default)
Ceny explicitní mezipaměti: Není zapnuto Při požadavku na explicitní mezipaměť

Sazby Ailoot

Ceny podle konfigurace

Přiřaďte každý poplatek k uvedeným podmínkám. Pro každou sadu alternativních konfigurací použijte jednu sazbu.

Konfigurace	Tabulka sazeb	Tokeny kontextu, více než	Tokeny kontextu, do uvedené hodnoty včetně	Poplatek
KonfiguraceZákladní sazby za tokeny	Tabulka sazebZákladní sazba	Tokeny kontextu, více než—	Tokeny kontextu, do uvedené hodnoty včetněBez horní meze	Poplatek Vstup · Vstupní tokeny $0.00015 / 1K tokenů Výstup · Výstupní tokeny $0.0006 / 1K tokenů Vstup · Čtení z mezipaměti $0.000015 / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů
KonfiguracePásmo délky požadavku 1	Tabulka sazeb—	Tokeny kontextu, více než0	Tokeny kontextu, do uvedené hodnoty včetněBez horní meze	Poplatek Vstup · Vstupní tokeny $0.00015 / 1K tokenů Výstup · Výstupní tokeny $0.0006 / 1K tokenů Vstup · Čtení z mezipaměti $0.000015 / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů

Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →

Příklady požadavků

Ailoot Ultra · Dávka

curl · uložená testovací dataPython HTTP · skutečná data zákazníka ve formátu JSONLPython · uložte každý dokončený výsledek

set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-small-2603:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json

import json, os
from pathlib import Path
from urllib.request import Request, urlopen

def prepare_requests(customer_path):
    path = Path(customer_path)
    if not path.is_file(): raise ValueError("Customer JSONL file is missing")
    items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
    if not items: raise ValueError("Customer JSONL contains no requests")
    ids = set()
    for item in items:
        if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
        cid = item["custom_id"]
        if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
        ids.add(cid)
        if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
        supplied_model = item["body"].get("model")
        if supplied_model is not None and supplied_model not in ['mistralai/mistral-small-2603:batch', 'mistralai/mistral-small-2603']: raise ValueError("body.model must be an exact documented caller or wire ID")
    return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-small-2603:batch", "requests":items}

if __name__ == "__main__":
    material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
    if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
    body = prepare_requests(material)
    key = os.environ.get("AILOOT_API_KEY", "")
    if not key: raise SystemExit("Set AILOOT_API_KEY")
    request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
    with urlopen(request) as response:
        raw = response.read()
        Path("batch-create-response.json").write_bytes(raw)
        print(raw.decode("utf-8"))

import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
    raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
    raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.

Přijímání a ukládání výsledků

Ailoot Ultra · Dávka

vložený JSON v results[].response.body

GET /v1/batches/{operation_id}

Ověřit stav úlohy

curl · stav původní operace

set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
  -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json

Uchovejte všechny dokončené výsledky

Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.

Uchovejte úplný původní JSON se stavem, každý výsledek a custom_id a úplné tělo odpovědi nebo chyby. Dokončené results[] uložte jako JSONL bez filtrování.

Pokud je nutné ověřit původní odpověď

Uchovejte původní ID operace. Odpověď 503 result_pending_check obsahuje X-Should-Retry:false; původní dávku s neznámým výsledkem nikdy znovu neodesílejte.

Pole odpovědi

Pole	Typ
Pole`results[].custom_id`	Typstring
Pole`results[].response.body.choices[].message.content`	Typstring\|null
Pole`results[].error`	Typobject\|null
Pole`usage`	Typobject\|null
Pole`id`	Typstring
Pole`model`	Typstring
Pole`endpoint`	Typstring
Pole`status`	Typstring
Pole`request_counts`	Typobject
Pole`results[].id`	Typstring
Pole`results[].response.status_code`	Typinteger
Pole`results[].response.request_id`	Typstring

Chyby a další kroky

Odpověď	Podmínka	Další krok
Odpověď400 · `invalid_request_error`	PodmínkaNeplatná dokumentovaná obálka vložených požadavků, duplicitní klíče, nesprávná identita položky nebo rozpor s nastavenými schopnostmi modelu.	Další krokPřed jakýmkoli novým odesláním opravte označená pole.
Odpověď401 · `authentication_error`	PodmínkaNeplatný klíč API.	Další krokPoužijte autorizovaný klíč Ailoot.
Odpověď403 · `permission_error`	PodmínkaSkupina pro dávkové požadavky není dostupná.	Další krokZkontrolujte oprávnění klíče a skupiny.
Odpověď422 · `invalid_request_error`	PodmínkaDávkové požadavky se účtují ze zůstatku; vytvoření v rámci předplatného se odmítá.	Další krokPoužijte autorizovanou skupinu s účtováním ze zůstatku.
Odpověď422 · `price_unavailable`	PodmínkaPro vstup dávky nelze vypočítat cenovou nabídku.	Další krokUchovejte odpověď; použijte dokumentovaný vstup pro danou rodinu API.
Odpověď402 · `billing_error`	PodmínkaRezerva pro dávku není dostupná.	Další krokPřed novým požadavkem vyřešte podmínky přijetí.
Odpověď503 · `price_unavailable`	PodmínkaCena dávkové metody nebo nativní sazby nejsou dostupné.	Další krokUchovejte odpověď; nenahrazujte ceny jinými.
Odpověď503 · `api_error`	PodmínkaPřesná trasa dodavatele není dostupná.	Další krokUchovejte odpověď pro opravu směrování.
Odpověď503 · `result_pending_check`	PodmínkaPůvodní výsledek vyžaduje kontrolu; X-Should-Retry:false.	Další krokUchovejte původní operation_id/id a načítejte jeho stav; původní POST nikdy neopakujte.
Odpověď404 · `not_found`	PodmínkaOperace pro kontrolu stavu dávky neexistuje nebo patří jiné identitě.	Další krokPoužijte přesné původní id a stejného uživatele, klíč a skupinu.

Aliasy

Aliasy modelu

Ailoot Ultra mistralai/mistral-small-2603:batch

Aliasy cest metod

Použijte cesty metod uvedené výše.

Související ID modelů

mistralai/mistral-small-2603:batch

FAQ · Mistral: Mistral Small 4 (batch)

Jaké vstupy a výsledky jsou dostupné?: POST /v1/batches · mistralai/mistral-small-2603:batch: text → text
Jaká pole požadavek používá?: POST /v1/batches · mistralai/mistral-small-2603:batch: endpoint, model, requests, completion_window, provider
Jaké limity platí?: POST /v1/batches · mistralai/mistral-small-2603:batch: requests.min_items: 1

Mistral: Mistral Small 4 (batch)