Mistral: Mistral Large 3 2512 (batch)
Mistral Large 3 2512 je viacjazyčný model na prácu s textom a obrázkami určený na dlhé dokumenty, podnikové znalosti, programovanie a prácu s pomocou nástrojov. Kontext 256k, natívne volanie funkcií a štruktúrovaný výstup pomáhajú premieňať dodané dôkazy na odpovede, záznamy a navrhované akcie.
O modeli
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
Mistral Large 3 2512 je edícia Mistral AI doladená na pokyny pre všeobecnú konverzáciu, vizuálne porozumenie a podnikovú prácu. Jej riedka architektúra zmesi expertov má celkovo 675 miliárd parametrov, z toho 41 miliárd aktívnych, a kontextové okno 256k. Text a obrázky môžu prispievať do rovnakej úlohy, pričom odpoveďou je text, kód alebo štruktúrovaný výsledok.
Schopnosti a príprava vstupov
Model spája jazykovú zložku s vizuálnym enkodérom. Priraďte obrázku jasnú úlohu: stránka na prečítanie, diagram na interpretáciu alebo obrazovka na vysvetlenie. Pri preplnenej obrazovke dodajte výrez s relevantnými ovládacími prvkami a zachovajte okolité označenia potrebné na ich pochopenie. Mistral odporúča tvary obrázkov blízke štvorcu; mimoriadne úzky alebo široký zdroj rozdeľte na užitočné oblasti namiesto zmenšenia dôležitých detailov na nečitateľný pás.
Výrobca uvádza viacjazyčnú konverzáciu v desiatkach jazykov vrátane angličtiny, francúzštiny, španielčiny, nemčiny, taliančiny, portugalčiny, holandčiny, čínštiny, japončiny, kórejčiny a arabčiny. Uveďte jazyk výstupu, zamýšľaného čitateľa a terminológiu, ktorú treba zachovať. Pri článku podpory žiadajte lokalizované vysvetlenie s nezmenenými názvami produktov a krátky zoznam neistých prekladov, ktoré treba vyriešiť pred publikovaním.
Dlhé dokumenty a podnikové znalosti
Kontext využite na spojenie súvisiacich materiálov: textu pravidiel, špecifikácie, existujúcich rozhodnutí a otázky, ktorá potrebuje odpoveď. Označte každý zdroj a jeho revíziu. Užitočná požiadavka znie: „Porovnajte tieto tri pravidlá zaškoľovania. Vráťte tabuľku spoločných požiadaviek, konfliktov a nezodpovedaných otázok so zdrojovou časťou pri každom zistení.“ Výsledný artefakt je porovnanie podložené dodanými pasážami, nie všeobecný súhrn témy.
Pri otázke k dokumentu určite požadovanú úroveň podrobností a pri závere žiadajte podpornú pasáž. Postup Mistral Document QnA najprv extrahuje text a štruktúru dokumentu pomocou OCR a potom použije jazykový model na interpretáciu tohto materiálu. Pri príprave extrahovaného textu zachovajte čísla strán a nadpisy, aby odpoveď mohla odkazovať na originál. URL dokumentu, extrahovaný text a obrazové dôkazy majú odlišné požiadavky na prípravu; zvoľte podobu vstupu podporovanú aplikáciou, ktorú používate.
Programovanie a každodenná asistencia
Mistral určuje Large 3 na pomoc pri programovaní aj každodennú konverzáciu. Dodajte relevantné funkcie, očakávané správanie a pozorované zlyhanie. Napríklad: „Tento parser vynechá posledné pole, keď vstup končí bez nového riadka. Vysvetlite zlyhávajúcu vetvu, navrhnite najmenšiu zmenu a vráťte opravenú funkciu s tromi reprezentatívnymi príkladmi vstupu a výstupu.“ Užitočným výsledkom je navrhovaná zmena naviazaná na skutočný kód a sada prípadov, ktoré môže vývojár spustiť.
Pri obchodnom návrhu dodajte fakty a požadovaný artefakt spolu. Požiadavka na premenu poznámok zo stretnutia na rozhodovací dokument by mala pomenovať rozhodnutie, alternatívy, nevyriešené predpoklady a ďalšiu akciu. Požiadajte model, aby zachoval zdrojové fakty oddelene od odporúčaní a označil chýbajúce informácie v príslušnej časti. Takýto výstup sa upravuje ľahšie než nerozčlenené rozprávanie.
Nástroje a štruktúrované výsledky
Natívne volanie funkcií umožňuje modelu vybrať dodanú funkciu a pripraviť jej argumenty. Aplikácia funkciu spustí a vráti jej výsledok; model potom použije vrátené informácie v odpovedi. Nástroje udržujte konkrétne a sprístupnite len tie, ktoré úloha potrebuje. Asistent kontroly zásob môže dostať referenciu produktu, požiadať o vyhľadanie zásob a vysvetliť vrátené množstvo a sklad. Pred vykonaním požiadavky overte zvolenú funkciu a argumenty a odpoveď nástroja zachovajte spolu s konečnou odpoveďou.
Pri extrakcii určite polia, typy a spracovanie chýbajúcich hodnôt. Mistral dokumentuje režim JSON a vlastný štruktúrovaný výstup; jeho režim JSON vyžaduje výslovný pokyn na vrátenie JSON, zatiaľ čo vlastná schéma poskytuje silnejšie riadenie formátu. Súhrn faktúry môže žiadať dodávateľa, číslo faktúry, dátum splatnosti, menu a položky s konzistentným zápisom chýbajúcich hodnôt. Extrahované hodnoty porovnajte s dokumentom, aj keď odpoveď zodpovedá požadovanej štruktúre.
Nastavenia a rozdiely edícií
V systémových pokynoch definujte rolu, úlohu a pravidlá nástrojov. Mistral odporúča teplotu pod 0.1 pri produkčnom a každodennom používaní tohto kontrolného bodu, pričom vyššie hodnoty možno skúšať pri tvorivých úlohách. Oddeľte žiadosť o rozmanité nápady od žiadosti o reprodukovateľnú extrakciu: prvej dajte priestor na alternatívy a druhej výslovné polia a obmedzenia zdrojov.
Táto edícia na plnenie pokynov je oddelená od základného kontrolného bodu Large 3 a od vyhradených modelov na uvažovanie. Výrobca označuje prísne uvažovanie a špecializovanú vizuálnu prácu za oblasti, v ktorých môže byť vhodnejší model navrhnutý osobitne na tieto úlohy. Pri náročnom výpočte dodajte predpoklady a jednotky, žiadajte priebežné kontroly a výsledok overte dostupným výpočtovým nástrojom. Pri hustých vizuálnych dôkazoch pripravte čitateľné oblasti a pred použitím v správe porovnajte odpoveď so zdrojom.
Ailoot Ultra · Dávkové spracovanie POST /v1/batches mistralai/mistral-large-2512:batch
mistralai/mistral-large-2512:batch
mistralai/mistral-large-2512:batchÚvod
Mistral Large 3 2512 je viacjazyčný model na prácu s textom a obrázkami určený na dlhé dokumenty, podnikové znalosti, programovanie a prácu s pomocou nástrojov. Kontext 256k, natívne volanie funkcií a štruktúrovaný výstup pomáhajú premieňať dodané dôkazy na odpovede, záznamy a navrhované akcie.
- Povolené vstupy
- Text
- Výsledky
- Text
Dostupné v Ailoot · vstupy a metódy
Ailoot Ultra · Dávkové spracovanie POST /v1/batches
- Vstup
text- Výstup
text- Výstupný formát
- JSON priamo vložený v results[].response.body
| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Poleendpoint | Typstring | PožiadavkaPovinné | Hodnoty a limity /v1/chat/completions | Predvolené— |
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity mistralai/mistral-large-2512:batch | Predvolené— |
Polerequests | Typbatch_item[] | PožiadavkaPovinné | Hodnoty a limity Minimálny počet položiek: 1 | Predvolené— |
Polerequests[].custom_id | Typstring | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polerequests[].body.messages | Typmessage[] | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polecompletion_window | Typstring | PožiadavkaVoliteľné | Hodnoty a limity 24h | Predvolené— |
Poleprovider | Typobject|null | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Polerequests[].body.model | Typstring | PožiadavkaVoliteľné | Hodnoty a limity mistralai/mistral-large-2512:batch, mistralai/mistral-large-2512 | Predvolené— |
Poleprovider.only | Typstring[] | PožiadavkaVoliteľné | Hodnoty a limity mistral | Predvolené— |
Poleprovider.allow_fallbacks | Typboolean|null | PožiadavkaVoliteľné | Hodnoty a limity false, null | Predvolené— |
Parametre a životný cyklus metódy
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciaendpoint, model, requests |
Parametermaterial_types | Špecifikáciatext |
Parameterrepresentation | Špecifikáciapriamo vložené requests[]; každá položka obsahuje custom_id a body |
Parameterrequest_endpoint_profile | Špecifikácia/v1/chat/completions |
Parameterfile_material | ŠpecifikáciaVolajúci môže lokálne načítať skutočný súbor UTF-8 JSONL do requests[]. Nepoužíva sa účel nahrávania, input_file_id ani odkaz na súbor. Chýbajúce alebo prázdne podklady zákazníka zastavia prípravu pred POST. |
Parameterserialization_order | Špecifikáciaendpoint, model, provider (ak je zadaný), completion_window (ak je zadaný), requests na konci |
Parameteroptional_controls | Špecifikáciaprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | ŠpecifikáciaTelá textových požiadaviek Chat Completions v zdokumentovanom obale dávky s priamo vloženými požiadavkami. |
Životný cyklus: asynchronous
GET /v1/batches/{operation_id} · skutočná hodnota response.id z pôvodnej odpovede na vytvorenie; rovnaký používateľ/kľúč/skupina
Cenník
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
- Rýchly režim
- Neuvedené Keď je zvolený rýchly režim
- Režim Flex
- Neuvedené Keď je zvolený režim flex
- Maximálna úroveň uvažovania
- Neuvedené Keď sa pri maximálnej úrovni uvažovania používa predvolená úprava (default)
- Ceny explicitnej cache
- Nie je zapnuté Keď sa požaduje explicitná cache
Sadzby Ailoot
Ceny podľa konfigurácie
Každý poplatok priraďte k zobrazeným podmienkam. Pre každú skupinu alternatívnych konfigurácií použite jednu sadzbu.
| Konfigurácia | Sadzobník | Počet tokenov kontextu väčší než | Tokeny kontextu, najviac (vrátane hranice) | Poplatok |
|---|---|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Počet tokenov kontextu väčší než— | Tokeny kontextu, najviac (vrátane hranice)Bez hornej hranice | Poplatok Vstup · Vstupné tokeny $0.0005 / 1K tokenov Výstup · Výstupné tokeny $0.0015 / 1K tokenov Vstup · Čítanie cache $0.00005 / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
| KonfiguráciaPásmo dĺžky požiadavky 1 | Sadzobník— | Počet tokenov kontextu väčší než0 | Tokeny kontextu, najviac (vrátane hranice)Bez hornej hranice | Poplatok Vstup · Vstupné tokeny $0.0005 / 1K tokenov Výstup · Výstupné tokeny $0.0015 / 1K tokenov Vstup · Čítanie cache $0.00005 / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
Príklady požiadaviek
Ailoot Ultra · Dávkové spracovanie
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-large-2512:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['mistralai/mistral-large-2512:batch', 'mistralai/mistral-large-2512']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-large-2512:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Prijať a uložiť výsledky
Ailoot Ultra · Dávkové spracovanie
JSON priamo vložený v results[].response.body
GET /v1/batches/{operation_id}
Skontrolovať stav úlohy
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Uchovať všetky dokončené výsledky
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Uchovajte úplný pôvodný stav vo formáte JSON, každý výsledok/custom_id a úplné telo odpovede alebo chyby. Dokončené results[] uložte ako JSONL bez filtrovania.
Ak treba overiť pôvodnú odpoveď
Uchovajte pôvodné ID operácie. Odpoveď 503 result_pending_check obsahuje X-Should-Retry:false; pôvodnú dávku s neznámym výsledkom nikdy znova neodosielajte.
Polia odpovede
| Pole | Typ |
|---|---|
Poleresults[].custom_id | Typstring |
Poleresults[].response.body.choices[].message.content | Typstring|null |
Poleresults[].error | Typobject|null |
Poleusage | Typobject|null |
Poleid | Typstring |
Polemodel | Typstring |
Poleendpoint | Typstring |
Polestatus | Typstring |
Polerequest_counts | Typobject |
Poleresults[].id | Typstring |
Poleresults[].response.status_code | Typinteger |
Poleresults[].response.request_id | Typstring |
Chyby a ďalšie kroky
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatný zdokumentovaný obal s priamo vloženými požiadavkami, duplicitné kľúče alebo konflikt identity položky či nastavených schopností modelu. | Ďalší krokPred akýmkoľvek novým odoslaním opravte označené polia. |
Odpoveď401 · authentication_error | PodmienkaNeplatný kľúč API. | Ďalší krokPoužite kľúč Ailoot, ktorý ste oprávnení používať. |
Odpoveď403 · permission_error | PodmienkaSkupina pre dávkové spracovanie nie je dostupná. | Ďalší krokSkontrolujte oprávnenie kľúča/skupiny. |
Odpoveď422 · invalid_request_error | PodmienkaDávkové spracovanie sa účtuje zo zostatku; vytvorenie cez predplatné sa odmieta. | Ďalší krokPoužite skupinu s účtovaním zo zostatku, ktorú ste oprávnení používať. |
Odpoveď422 · price_unavailable | PodmienkaPre vstup dávky nemožno vypočítať cenovú ponuku. | Ďalší krokUchovajte odpoveď; použite zdokumentovaný vstup pre danú rodinu metód. |
Odpoveď402 · billing_error | PodmienkaRezerva pre dávkové spracovanie nie je dostupná. | Ďalší krokPred novou požiadavkou vyriešte podmienky prijatia. |
Odpoveď503 · price_unavailable | PodmienkaCena metódy dávkového spracovania alebo natívne sadzby nie sú dostupné. | Ďalší krokUchovajte odpoveď; nenahrádzajte ceny inými. |
Odpoveď503 · api_error | PodmienkaPresná trasa k dodávateľovi nie je dostupná. | Ďalší krokUchovajte odpoveď na účely opravy smerovania. |
Odpoveď503 · result_pending_check | PodmienkaPôvodný výsledok je potrebné skontrolovať; X-Should-Retry:false. | Ďalší krokUchovajte pôvodné operation_id/id a čítajte jeho stav; pôvodný POST nikdy neopakujte. |
Odpoveď404 · not_found | PodmienkaOperácia na zisťovanie stavu dávky neexistuje alebo patrí inej identite. | Ďalší krokPoužite presné pôvodné id a rovnakého používateľa/kľúč/skupinu. |
Aliasy
Aliasy modelov
Ailoot Ultra mistralai/mistral-large-2512:batch
Aliasy ciest metód
Použite cesty metód uvedené vyššie.
Súvisiace ID na volanie
FAQ · Mistral: Mistral Large 3 2512 (batch)
- Aké vstupy a výsledky sú dostupné?
POST /v1/batches·mistralai/mistral-large-2512:batch:text→text- Aké polia používa požiadavka?
POST /v1/batches·mistralai/mistral-large-2512:batch:endpoint,model,requests,completion_window,provider- Aké limity platia?
POST /v1/batches·mistralai/mistral-large-2512:batch:requests.min_items:1