Mistral: Mistral Medium 3.5 (batch)
Mistral Medium 3.5 spojuje plnění pokynů, uvažování a programování v hustém modelu se 128 miliardami parametrů pro textový a obrazový vstup. Nabízí kontext 256 tisíc tokenů uváděný výrobcem, nastavení uvažování pro jednotlivé požadavky, nativní volání funkcí a strukturovaný výstup pro dokumentové a agentní postupy.
O modelu
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
Mistral Medium 3.5 je hustý model Mistral AI se 128 miliardami parametrů, který v jedné sadě vah spojuje plnění pokynů, uvažování a programování. Přijímá text a obrázky a vrací text. Výrobce jej určuje pro agentní a programátorské úlohy, přičemž stejný checkpoint může vytvořit přímou konverzační odpověď nebo využít zdokumentovaný režim uvažování pro náročnější úlohu.
Sjednocený model a vizuální schopnosti
Vydaná karta specifikuje 128 miliard hustých parametrů a kontextové okno 256 tisíc tokenů. Vizuální enkodér je trénován pro různé velikosti obrázků a poměry stran. Obrázky mohou poskytnout podklady pro programátorskou nebo dokumentovou úlohu: snímek rozhraní, diagram doprovázející požadavek nebo stránku s informacemi, které musí model vyložit. Výsledkem může být písemné vysvětlení, kód nebo strukturovaná pole místo vygenerovaného obrázku.
Výrobce popisuje vícejazyčnou podporu desítek jazyků, včetně angličtiny, francouzštiny, španělštiny, němčiny, italštiny, portugalštiny, nizozemštiny, čínštiny, japonštiny, korejštiny a arabštiny. Zdůrazňuje také dodržování systémového promptu a nativní volání funkcí s výstupem JSON. Publikum, jazyk a pravidla odpovědi nastavte odděleně od zkoumaných materiálů, aby znění zdrojového dokumentu zůstalo podkladem pro úlohu.
Nastavení uvažování
Karta dokumentuje dvě hodnoty intenzity uvažování pro každý požadavek. Hodnota none poskytuje odpověď ve stylu plnění pokynů bez režimu uvažování; high uvažování zapíná a doporučuje se pro složité prompty a agentní programování. Jde o volbu režimu v rámci stejného checkpointu Medium 3.5, nikoli o jinou identitu modelu.
Pro vysokou intenzitu uvažování výrobce doporučuje teplotu 0.7 a top-p 0.95. Pro none dokumentuje teploty mezi 0.0 a 0.7 podle úlohy a ponechává top-p nenastavené nebo na 1.0. Jde o doporučení pro toto vydání. Nejprve zvolte účel výstupu: stručnou extrakci polí, změnu kódu s vysvětlením nebo srovnání vyžadující několik zdůvodněných rozhodnutí.
Praktická úloha uvažování může dodat požadavek, implementaci a vstup odhalující nesoulad. Požádejte model, aby určil relevantní cestu, vysvětlil rozpor a navrhl nejmenší změnu zachovávající veřejné rozhraní. Upravený kód požadujte odděleně od předpokladů a příkladů. Model generuje návrh; jeho kompilace, spuštění a použití vyžadují vývojové prostředí připojené k agentovi.
Nástroje, dokumenty a předvídatelné úpravy
Karta služby výrobce uvádí také strukturované výstupy, předpovězené výstupy, otázky k dokumentům, prefixy odpovědí, dávkové zpracování a konverzace agentů. Pro extrakci definujte názvy polí, typy a zacházení s chybějícími hodnotami. Režim JSON poskytuje strukturovanou reprezentaci, zatímco vlastní schéma definuje konkrétnější podobu v připojeném rozhraní. Pokud jej bude parsovat program, požadujte pouze záznam; pokud člověk potřebuje zkontrolovat výklad, požadujte samostatné vysvětlení.
Odpovídání na otázky k dokumentům spojuje text a strukturu připravené pomocí OCR s porozuměním jazykového modelu. Pro srovnání určete dokumenty a podmínku k posouzení a poté požadujte každé zjištění s jeho zdrojovým umístěním. Užitečný výstup může oddělit společné požadavky, rozpory a otevřené otázky. Přímé otázky k obrázkům se mohou zaměřit na označení grafu nebo prvek rozhraní; zachování nadpisů, jednotek a rolí obrázků pomáhá propojit odpověď s dodanými podklady.
Předpovězené výstupy jsou zdokumentovány pro úlohy, kde je velká část požadované odpovědi již známa, například opětovné generování souboru kódu nebo dokumentu s omezenými úpravami. Dodejte existující obsah a určete konkrétní změnu, přičemž zachovejte části, které mají zůstat. To se liší od požadavku na zcela nový artefakt nebo pokračování od známého prefixu odpovědi. Funkce služby popisují možnosti odesílání a formátování; nemění textový a obrazový vstup ani textový výstup modelu.
V postupu s podporou nástrojů aplikace dodává popisy funkcí a parametry, model vybere funkci a připraví argumenty a aplikace ji provede a vrátí výsledek. Výpočetní nástroj může obdržet hodnoty přečtené z dodaného obrázku, zatímco vyhledávací nástroj může poskytnout chybějící informace pro další odpověď. Výsledek nástroje udržujte propojený s operací, která jej vytvořila. Agentní uvažování se opírá o toto prostředí; samotné generování textu neprovádí externí akce.
Příprava dlouhých relací
Kontext 256 tisíc tokenů využijte pro související zdrojový kód, dokumenty a historii konverzace a skutečný cíl ponechte výslovný. Programátorská relace může zachovat modul, jeho volajícího a požadavky a současně žádat jednu definovanou změnu. Dokumentová relace může držet relevantní sekce pohromadě a vrátit krátkou tabulku nebo upravenou pasáž. Kapacita kontextu neurčuje samostatnou maximální délku odpovědi; příklad generování 1 024 tokenů v kartě je ilustrací, nikoli tímto limitem.
Výrobce uvádí, že starší vydaná konfigurace obsahovala chybu pro dlouhý kontext a že byla opravena, včetně dopadu na odvozené checkpointy. Při použití vah pro dlouhé relace zachovejte opravenou konfiguraci vydání. Hybridní režimy a architekturu se 128 miliardami parametrů Medium 3.5 nelze přiřazovat Medium 3.1 nebo samostatně pojmenovanému checkpointu draft-head jen proto, že jejich názvy sdílejí rodinu.
Ailoot Ultra · Dávka POST /v1/batches mistralai/mistral-medium-3-5:batch
mistralai/mistral-medium-3-5:batch
mistralai/mistral-medium-3-5:batchÚvod
Mistral Medium 3.5 spojuje plnění pokynů, uvažování a programování v hustém modelu se 128 miliardami parametrů pro textový a obrazový vstup. Nabízí kontext 256 tisíc tokenů uváděný výrobcem, nastavení uvažování pro jednotlivé požadavky, nativní volání funkcí a strukturovaný výstup pro dokumentové a agentní postupy.
- Přijímané vstupy
- Text
- Výsledky
- Text
Dostupné v Ailoot · vstupy a metody
Ailoot Ultra · Dávka POST /v1/batches
- Vstup
text- Výstup
text- Výstupní formát
- vložený JSON v results[].response.body
| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Poleendpoint | Typstring | PožadavekPovinné | Hodnoty a limity /v1/chat/completions | Výchozí— |
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity mistralai/mistral-medium-3-5:batch | Výchozí— |
Polerequests | Typbatch_item[] | PožadavekPovinné | Hodnoty a limity Minimální počet položek: 1 | Výchozí— |
Polerequests[].custom_id | Typstring | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polerequests[].body.messages | Typmessage[] | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polecompletion_window | Typstring | PožadavekVolitelné | Hodnoty a limity 24h | Výchozí— |
Poleprovider | Typobject|null | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Polerequests[].body.model | Typstring | PožadavekVolitelné | Hodnoty a limity mistralai/mistral-medium-3-5:batch, mistralai/mistral-medium-3-5 | Výchozí— |
Poleprovider.only | Typstring[] | PožadavekVolitelné | Hodnoty a limity mistral | Výchozí— |
Poleprovider.allow_fallbacks | Typboolean|null | PožadavekVolitelné | Hodnoty a limity false, null | Výchozí— |
Parametry a životní cyklus metody
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktendpoint, model, requests |
Parametrmaterial_types | Kontrakttext |
Parametrrepresentation | Kontraktvložené requests[]; každá položka obsahuje custom_id a body |
Parametrrequest_endpoint_profile | Kontrakt/v1/chat/completions |
Parametrfile_material | KontraktVolající může lokálně načíst skutečný soubor JSONL v kódování UTF-8 do requests[]. Nepoužívá se účel nahrání, input_file_id ani odkaz na soubor. Chybějící nebo prázdné podklady zákazníka zastaví přípravu před POST. |
Parametrserialization_order | Kontraktendpoint, model, provider (je-li uveden), completion_window (je-li uvedeno), requests nakonec |
Parametroptional_controls | Kontraktprovider.only, provider.allow_fallbacks, completion_window |
Parametrschema_scope | KontraktTěla požadavků Text Chat Completions v dokumentované obálce pro vložené dávkové požadavky Batch. |
Životní cyklus: asynchronous
GET /v1/batches/{operation_id} · skutečné response.id z původní odpovědi na vytvoření; stejný uživatel, klíč a skupina
Tarify
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
- Rychlý režim
- Neuvedeno Při výběru rychlého režimu
- Režim flex
- Neuvedeno Při výběru režimu flex
- Maximální intenzita uvažování
- Neuvedeno Když se při maximální intenzitě uvažování použije výchozí úprava (default)
- Ceny explicitní mezipaměti
- Není zapnuto Při požadavku na explicitní mezipaměť
Sazby Ailoot
Ceny podle konfigurace
Přiřaďte každý poplatek k uvedeným podmínkám. Pro každou sadu alternativních konfigurací použijte jednu sazbu.
| Konfigurace | Tabulka sazeb | Tokeny kontextu, více než | Tokeny kontextu, do uvedené hodnoty včetně | Poplatek |
|---|---|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Tokeny kontextu, více než— | Tokeny kontextu, do uvedené hodnoty včetněBez horní meze | Poplatek Vstup · Vstupní tokeny $0.0015 / 1K tokenů Výstup · Výstupní tokeny $0.0075 / 1K tokenů Vstup · Čtení z mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
| KonfiguracePásmo délky požadavku 1 | Tabulka sazeb— | Tokeny kontextu, více než0 | Tokeny kontextu, do uvedené hodnoty včetněBez horní meze | Poplatek Vstup · Vstupní tokeny $0.0015 / 1K tokenů Výstup · Výstupní tokeny $0.0075 / 1K tokenů Vstup · Čtení z mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
Příklady požadavků
Ailoot Ultra · Dávka
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-medium-3-5:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['mistralai/mistral-medium-3-5:batch', 'mistralai/mistral-medium-3-5']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-medium-3-5:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Přijímání a ukládání výsledků
Ailoot Ultra · Dávka
vložený JSON v results[].response.body
GET /v1/batches/{operation_id}
Ověřit stav úlohy
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Uchovejte všechny dokončené výsledky
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Uchovejte úplný původní JSON se stavem, každý výsledek a custom_id a úplné tělo odpovědi nebo chyby. Dokončené results[] uložte jako JSONL bez filtrování.
Pokud je nutné ověřit původní odpověď
Uchovejte původní ID operace. Odpověď 503 result_pending_check obsahuje X-Should-Retry:false; původní dávku s neznámým výsledkem nikdy znovu neodesílejte.
Pole odpovědi
| Pole | Typ |
|---|---|
Poleresults[].custom_id | Typstring |
Poleresults[].response.body.choices[].message.content | Typstring|null |
Poleresults[].error | Typobject|null |
Poleusage | Typobject|null |
Poleid | Typstring |
Polemodel | Typstring |
Poleendpoint | Typstring |
Polestatus | Typstring |
Polerequest_counts | Typobject |
Poleresults[].id | Typstring |
Poleresults[].response.status_code | Typinteger |
Poleresults[].response.request_id | Typstring |
Chyby a další kroky
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná dokumentovaná obálka vložených požadavků, duplicitní klíče, nesprávná identita položky nebo rozpor s nastavenými schopnostmi modelu. | Další krokPřed jakýmkoli novým odesláním opravte označená pole. |
Odpověď401 · authentication_error | PodmínkaNeplatný klíč API. | Další krokPoužijte autorizovaný klíč Ailoot. |
Odpověď403 · permission_error | PodmínkaSkupina pro dávkové požadavky není dostupná. | Další krokZkontrolujte oprávnění klíče a skupiny. |
Odpověď422 · invalid_request_error | PodmínkaDávkové požadavky se účtují ze zůstatku; vytvoření v rámci předplatného se odmítá. | Další krokPoužijte autorizovanou skupinu s účtováním ze zůstatku. |
Odpověď422 · price_unavailable | PodmínkaPro vstup dávky nelze vypočítat cenovou nabídku. | Další krokUchovejte odpověď; použijte dokumentovaný vstup pro danou rodinu API. |
Odpověď402 · billing_error | PodmínkaRezerva pro dávku není dostupná. | Další krokPřed novým požadavkem vyřešte podmínky přijetí. |
Odpověď503 · price_unavailable | PodmínkaCena dávkové metody nebo nativní sazby nejsou dostupné. | Další krokUchovejte odpověď; nenahrazujte ceny jinými. |
Odpověď503 · api_error | PodmínkaPřesná trasa dodavatele není dostupná. | Další krokUchovejte odpověď pro opravu směrování. |
Odpověď503 · result_pending_check | PodmínkaPůvodní výsledek vyžaduje kontrolu; X-Should-Retry:false. | Další krokUchovejte původní operation_id/id a načítejte jeho stav; původní POST nikdy neopakujte. |
Odpověď404 · not_found | PodmínkaOperace pro kontrolu stavu dávky neexistuje nebo patří jiné identitě. | Další krokPoužijte přesné původní id a stejného uživatele, klíč a skupinu. |
Aliasy
Aliasy modelu
Ailoot Ultra mistralai/mistral-medium-3-5:batch
Aliasy cest metod
Použijte cesty metod uvedené výše.
Související ID modelů
FAQ · Mistral: Mistral Medium 3.5 (batch)
- Jaké vstupy a výsledky jsou dostupné?
POST /v1/batches·mistralai/mistral-medium-3-5:batch:text→text- Jaká pole požadavek používá?
POST /v1/batches·mistralai/mistral-medium-3-5:batch:endpoint,model,requests,completion_window,provider- Jaké limity platí?
POST /v1/batches·mistralai/mistral-medium-3-5:batch:requests.min_items:1