Mistral: Mistral Medium 3.5 (batch)
Mistral Medium 3.5 spája dodržiavanie pokynov, uvažovanie a programovanie v hustom modeli so 128 miliardami parametrov na prácu s textom a obrázkami. Má kontext 256k uvádzaný výrobcom, nastavenia uvažovania pre jednotlivé požiadavky, natívne volanie funkcií a štruktúrovaný výstup pre dokumentové a agentové postupy.
O modeli
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
Mistral Medium 3.5 je hustý model Mistral AI so 128 miliardami parametrov, ktorý spája dodržiavanie pokynov, uvažovanie a programovanie v jednej sade váh. Prijíma text a obrázky a vracia text. Výrobca ho určuje na agentové a programovacie úlohy, pričom ten istý kontrolný bod môže vytvoriť priamu konverzačnú odpoveď alebo na zložitejšiu úlohu použiť zdokumentovaný režim uvažovania.
Jednotný model a vizuálne schopnosti
Zverejnená karta uvádza 128 miliárd hustých parametrov a kontextové okno 256k. Jeho vizuálny enkodér je trénovaný na spracovanie rôznych veľkostí obrázkov a pomerov strán. Obrázky môžu prispievať dôkazmi do programovacej alebo dokumentovej úlohy: snímka rozhrania, diagram sprevádzajúci požiadavku alebo stránka s informáciami, ktoré model musí interpretovať. Výsledkom môže byť písomné vysvetlenie, kód alebo štruktúrované polia, nie generovaný obrázok.
Výrobca opisuje viacjazyčnú podporu desiatok jazykov vrátane angličtiny, francúzštiny, španielčiny, nemčiny, taliančiny, portugalčiny, holandčiny, čínštiny, japončiny, kórejčiny a arabčiny. Zdôrazňuje aj dodržiavanie systémového promptu a natívne volanie funkcií s výstupom JSON. Publikum, jazyk a pravidlá odpovede nastavte oddelene od skúmaného materiálu, aby znenie zdrojového dokumentu zostalo dôkazom pre úlohu.
Nastavenia uvažovania
Karta dokumentuje dve hodnoty intenzity uvažovania pre každú požiadavku. Hodnota none poskytne odpoveď v štýle plnenia pokynov bez režimu uvažovania; high zapne uvažovanie a odporúča sa pre zložité prompty a agentové programovanie. Ide o výber režimu v rámci toho istého kontrolného bodu Medium 3.5, nie o inú identitu modelu.
Pri vysokej intenzite uvažovania výrobca odporúča temperature 0.7 a top-p 0.95. Pri none dokumentuje teploty od 0.0 do 0.7 podľa úlohy a top-p necháva nenastavené alebo na 1.0. Ide o odporúčania vydania. Najprv zvoľte účel výstupu: stručnú extrakciu polí, zmenu kódu s vysvetlením alebo porovnanie vyžadujúce viacero odôvodnených rozhodnutí.
Praktická úloha na uvažovanie môže obsahovať požiadavku, implementáciu a vstup, ktorý odhaľuje nesúlad. Požiadajte model, aby identifikoval relevantnú vetvu, vysvetlil rozdiel a navrhol najmenšiu zmenu zachovávajúcu verejné rozhranie. Upravený kód žiadajte oddelene od predpokladov a príkladov. Model generuje návrh; jeho kompilácia, spustenie a použitie vyžadujú vývojové prostredie pripojené k agentovi.
Nástroje, dokumenty a predvídateľné úpravy
Karta služby výrobcu uvádza aj štruktúrované výstupy, predikované výstupy, otázky k dokumentom, prefixy odpovedí, dávkové spracovanie a agentové konverzácie. Pri extrakcii definujte názvy polí, typy a spracovanie chýbajúcich hodnôt. Režim JSON poskytuje štruktúrované vyjadrenie, zatiaľ čo vlastná schéma určuje konkrétnejšiu podobu v pripojenom rozhraní. Ak ho bude spracúvať program, žiadajte iba záznam, a ak človek potrebuje preskúmať interpretáciu, samostatné vysvetlenie.
Odpovedanie na otázky o dokumentoch spája text a štruktúru pripravené pomocou OCR s porozumením jazykového modelu. Pri porovnaní určite dokumenty a hodnotenú podmienku a potom žiadajte každé zistenie so zdrojovým umiestnením. Užitočný výstup môže oddeliť spoločné požiadavky, nezhody a otvorené otázky. Priame otázky k obrázkom sa môžu sústrediť na označenie v grafe alebo prvok rozhrania; zachovanie nadpisov, jednotiek a úloh obrázkov pomáha udržať odpoveď naviazanú na dodaný materiál.
Predikované výstupy sú zdokumentované pre úlohy, pri ktorých je veľká časť požadovanej odpovede už známa, napríklad opätovné generovanie súboru kódu alebo dokumentu s obmedzenými úpravami. Dodajte existujúci obsah a označte konkrétnu zmenu, pričom zachovajte časti, ktoré majú zostať. To sa líši od žiadosti o úplne nový artefakt alebo pokračovanie zo známeho prefixu odpovede. Funkcie služby opisujú možnosti odosielania a formátovania; nemenia vstup modelu v podobe textu a obrázkov ani jeho textový výstup.
V postupe s pomocou nástrojov aplikácia poskytuje opisy funkcií a parametre, model vyberie funkciu a pripraví argumenty a aplikácia ju vykoná a vráti výsledok. Výpočtový nástroj môže prijať hodnoty prečítané z dodaného obrázka, zatiaľ čo vyhľadávací nástroj môže dodať chýbajúce informácie pre ďalšiu odpoveď. Výsledok nástroja zachovajte prepojený s operáciou, ktorá ho vytvorila. Agentové uvažovanie sa opiera o toto prostredie; samotné generovanie textu externé akcie nevykonáva.
Príprava dlhých relácií
Kontext 256k používajte na súvisiaci zdrojový kód, dokumenty a históriu konverzácie a skutočný cieľ ponechajte výslovný. Programovacia relácia môže zachovať modul, jeho volajúceho a požiadavky a zároveň žiadať jednu definovanú zmenu. Dokumentová relácia môže udržať relevantné časti spolu a vrátiť krátku tabuľku alebo upravenú pasáž. Kapacita kontextu neurčuje samostatnú maximálnu dĺžku odpovede; príklad generovania s 1 024 tokenmi na karte je ukážka, nie tento limit.
Výrobca poznamenáva, že staršia vydaná konfigurácia obsahovala chybu dlhého kontextu, ktorá bola opravená, a uvádza aj jej význam pre odvodené kontrolné body. Pri používaní váh na dlhé relácie zachovajte opravenú konfiguráciu vydania. Hybridné režimy a architektúru 128B modelu Medium 3.5 nemožno pripisovať Medium 3.1 ani samostatne pomenovanému kontrolnému bodu draft-head iba preto, že ich názvy patria do rovnakej rodiny.
Ailoot Ultra · Dávkové spracovanie POST /v1/batches mistralai/mistral-medium-3-5:batch
mistralai/mistral-medium-3-5:batch
mistralai/mistral-medium-3-5:batchÚvod
Mistral Medium 3.5 spája dodržiavanie pokynov, uvažovanie a programovanie v hustom modeli so 128 miliardami parametrov na prácu s textom a obrázkami. Má kontext 256k uvádzaný výrobcom, nastavenia uvažovania pre jednotlivé požiadavky, natívne volanie funkcií a štruktúrovaný výstup pre dokumentové a agentové postupy.
- Povolené vstupy
- Text
- Výsledky
- Text
Dostupné v Ailoot · vstupy a metódy
Ailoot Ultra · Dávkové spracovanie POST /v1/batches
- Vstup
text- Výstup
text- Výstupný formát
- JSON priamo vložený v results[].response.body
| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Poleendpoint | Typstring | PožiadavkaPovinné | Hodnoty a limity /v1/chat/completions | Predvolené— |
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity mistralai/mistral-medium-3-5:batch | Predvolené— |
Polerequests | Typbatch_item[] | PožiadavkaPovinné | Hodnoty a limity Minimálny počet položiek: 1 | Predvolené— |
Polerequests[].custom_id | Typstring | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polerequests[].body.messages | Typmessage[] | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polecompletion_window | Typstring | PožiadavkaVoliteľné | Hodnoty a limity 24h | Predvolené— |
Poleprovider | Typobject|null | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Polerequests[].body.model | Typstring | PožiadavkaVoliteľné | Hodnoty a limity mistralai/mistral-medium-3-5:batch, mistralai/mistral-medium-3-5 | Predvolené— |
Poleprovider.only | Typstring[] | PožiadavkaVoliteľné | Hodnoty a limity mistral | Predvolené— |
Poleprovider.allow_fallbacks | Typboolean|null | PožiadavkaVoliteľné | Hodnoty a limity false, null | Predvolené— |
Parametre a životný cyklus metódy
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciaendpoint, model, requests |
Parametermaterial_types | Špecifikáciatext |
Parameterrepresentation | Špecifikáciapriamo vložené requests[]; každá položka obsahuje custom_id a body |
Parameterrequest_endpoint_profile | Špecifikácia/v1/chat/completions |
Parameterfile_material | ŠpecifikáciaVolajúci môže lokálne načítať skutočný súbor UTF-8 JSONL do requests[]. Nepoužíva sa účel nahrávania, input_file_id ani odkaz na súbor. Chýbajúce alebo prázdne podklady zákazníka zastavia prípravu pred POST. |
Parameterserialization_order | Špecifikáciaendpoint, model, provider (ak je zadaný), completion_window (ak je zadaný), requests na konci |
Parameteroptional_controls | Špecifikáciaprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | ŠpecifikáciaTelá textových požiadaviek Chat Completions v zdokumentovanom obale dávky s priamo vloženými požiadavkami. |
Životný cyklus: asynchronous
GET /v1/batches/{operation_id} · skutočná hodnota response.id z pôvodnej odpovede na vytvorenie; rovnaký používateľ/kľúč/skupina
Cenník
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
- Rýchly režim
- Neuvedené Keď je zvolený rýchly režim
- Režim Flex
- Neuvedené Keď je zvolený režim flex
- Maximálna úroveň uvažovania
- Neuvedené Keď sa pri maximálnej úrovni uvažovania používa predvolená úprava (default)
- Ceny explicitnej cache
- Nie je zapnuté Keď sa požaduje explicitná cache
Sadzby Ailoot
Ceny podľa konfigurácie
Každý poplatok priraďte k zobrazeným podmienkam. Pre každú skupinu alternatívnych konfigurácií použite jednu sadzbu.
| Konfigurácia | Sadzobník | Počet tokenov kontextu väčší než | Tokeny kontextu, najviac (vrátane hranice) | Poplatok |
|---|---|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Počet tokenov kontextu väčší než— | Tokeny kontextu, najviac (vrátane hranice)Bez hornej hranice | Poplatok Vstup · Vstupné tokeny $0.0015 / 1K tokenov Výstup · Výstupné tokeny $0.0075 / 1K tokenov Vstup · Čítanie cache — / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
| KonfiguráciaPásmo dĺžky požiadavky 1 | Sadzobník— | Počet tokenov kontextu väčší než0 | Tokeny kontextu, najviac (vrátane hranice)Bez hornej hranice | Poplatok Vstup · Vstupné tokeny $0.0015 / 1K tokenov Výstup · Výstupné tokeny $0.0075 / 1K tokenov Vstup · Čítanie cache — / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
Príklady požiadaviek
Ailoot Ultra · Dávkové spracovanie
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-medium-3-5:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['mistralai/mistral-medium-3-5:batch', 'mistralai/mistral-medium-3-5']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-medium-3-5:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Prijať a uložiť výsledky
Ailoot Ultra · Dávkové spracovanie
JSON priamo vložený v results[].response.body
GET /v1/batches/{operation_id}
Skontrolovať stav úlohy
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Uchovať všetky dokončené výsledky
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Uchovajte úplný pôvodný stav vo formáte JSON, každý výsledok/custom_id a úplné telo odpovede alebo chyby. Dokončené results[] uložte ako JSONL bez filtrovania.
Ak treba overiť pôvodnú odpoveď
Uchovajte pôvodné ID operácie. Odpoveď 503 result_pending_check obsahuje X-Should-Retry:false; pôvodnú dávku s neznámym výsledkom nikdy znova neodosielajte.
Polia odpovede
| Pole | Typ |
|---|---|
Poleresults[].custom_id | Typstring |
Poleresults[].response.body.choices[].message.content | Typstring|null |
Poleresults[].error | Typobject|null |
Poleusage | Typobject|null |
Poleid | Typstring |
Polemodel | Typstring |
Poleendpoint | Typstring |
Polestatus | Typstring |
Polerequest_counts | Typobject |
Poleresults[].id | Typstring |
Poleresults[].response.status_code | Typinteger |
Poleresults[].response.request_id | Typstring |
Chyby a ďalšie kroky
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatný zdokumentovaný obal s priamo vloženými požiadavkami, duplicitné kľúče alebo konflikt identity položky či nastavených schopností modelu. | Ďalší krokPred akýmkoľvek novým odoslaním opravte označené polia. |
Odpoveď401 · authentication_error | PodmienkaNeplatný kľúč API. | Ďalší krokPoužite kľúč Ailoot, ktorý ste oprávnení používať. |
Odpoveď403 · permission_error | PodmienkaSkupina pre dávkové spracovanie nie je dostupná. | Ďalší krokSkontrolujte oprávnenie kľúča/skupiny. |
Odpoveď422 · invalid_request_error | PodmienkaDávkové spracovanie sa účtuje zo zostatku; vytvorenie cez predplatné sa odmieta. | Ďalší krokPoužite skupinu s účtovaním zo zostatku, ktorú ste oprávnení používať. |
Odpoveď422 · price_unavailable | PodmienkaPre vstup dávky nemožno vypočítať cenovú ponuku. | Ďalší krokUchovajte odpoveď; použite zdokumentovaný vstup pre danú rodinu metód. |
Odpoveď402 · billing_error | PodmienkaRezerva pre dávkové spracovanie nie je dostupná. | Ďalší krokPred novou požiadavkou vyriešte podmienky prijatia. |
Odpoveď503 · price_unavailable | PodmienkaCena metódy dávkového spracovania alebo natívne sadzby nie sú dostupné. | Ďalší krokUchovajte odpoveď; nenahrádzajte ceny inými. |
Odpoveď503 · api_error | PodmienkaPresná trasa k dodávateľovi nie je dostupná. | Ďalší krokUchovajte odpoveď na účely opravy smerovania. |
Odpoveď503 · result_pending_check | PodmienkaPôvodný výsledok je potrebné skontrolovať; X-Should-Retry:false. | Ďalší krokUchovajte pôvodné operation_id/id a čítajte jeho stav; pôvodný POST nikdy neopakujte. |
Odpoveď404 · not_found | PodmienkaOperácia na zisťovanie stavu dávky neexistuje alebo patrí inej identite. | Ďalší krokPoužite presné pôvodné id a rovnakého používateľa/kľúč/skupinu. |
Aliasy
Aliasy modelov
Ailoot Ultra mistralai/mistral-medium-3-5:batch
Aliasy ciest metód
Použite cesty metód uvedené vyššie.
Súvisiace ID na volanie
FAQ · Mistral: Mistral Medium 3.5 (batch)
- Aké vstupy a výsledky sú dostupné?
POST /v1/batches·mistralai/mistral-medium-3-5:batch:text→text- Aké polia používa požiadavka?
POST /v1/batches·mistralai/mistral-medium-3-5:batch:endpoint,model,requests,completion_window,provider- Aké limity platia?
POST /v1/batches·mistralai/mistral-medium-3-5:batch:requests.min_items:1