Mistral: Mistral Medium 3.5 (batch)
Mistral Medium 3.5 combineert instructieopvolging, redeneren en programmeren in een dense tekst-en-beeldmodel met 128 miljard parameters. Het heeft een door de maker opgegeven context van 256k, redeneerinstellingen per verzoek, ingebouwde functieaanroepen en gestructureerde uitvoer voor document- en agentworkflows.
Over het model
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Mistral Medium 3.5 is het dense model van Mistral AI met 128 miljard parameters dat instructieopvolging, redeneren en programmeren in één set gewichten combineert. Het ontvangt tekst en beelden en retourneert tekst. De maker positioneert het voor agent- en programmeertaken, terwijl hetzelfde checkpoint een direct conversatieantwoord kan produceren of de gedocumenteerde redeneermodus kan gebruiken voor een ingewikkeldere taak.
Gecombineerd model en visuele mogelijkheden
De gepubliceerde modelkaart vermeldt 128 miljard dense parameters en een contextvenster van 256k. De beeldencoder is getraind voor verschillende beeldgroottes en beeldverhoudingen. Afbeeldingen kunnen bewijsmateriaal aan een code- of documenttaak bijdragen: een screenshot van een interface, een diagram bij een vereiste of een pagina met informatie die het model moet interpreteren. Het resultaat kan een schriftelijke uitleg, code of gestructureerde velden zijn, in plaats van een gegenereerde afbeelding.
De maker beschrijft meertalige ondersteuning voor tientallen talen, waaronder Engels, Frans, Spaans, Duits, Italiaans, Portugees, Nederlands, Chinees, Japans, Koreaans en Arabisch. Ook het volgen van systeemprompts en ingebouwde functieaanroepen met JSON-uitvoer worden benadrukt. Stel publiek, taal en antwoordregels afzonderlijk van het onderzochte materiaal in, zodat de formulering van een brondocument bewijsmateriaal voor de taak blijft.
Redeneerinstellingen
De modelkaart documenteert twee waarden voor redeneerinspanning per verzoek. De waarde none geeft een instructiegericht antwoord zonder redeneermodus; high schakelt redeneren in en wordt aanbevolen voor complexe prompts en programmeren met agents. Dat is een moduskeuze binnen hetzelfde Medium 3.5-checkpoint en geen andere modelidentiteit.
Bij hoge redeneerinspanning beveelt de maker temperature 0.7 en top-p 0.95 aan. Voor none documenteert de maker temperaturen tussen 0,0 en 0,7 afhankelijk van de taak, waarbij top-p niet wordt ingesteld of op 1.0 staat. Dat zijn aanbevelingen voor de release. Kies eerst het uitvoerdoel: beknopte veldextractie, een codewijziging met uitleg of een vergelijking waarvoor meerdere onderbouwde beslissingen nodig zijn.
Een praktische redeneertaak kan een vereiste, de implementatie en de invoer aanleveren die een afwijking blootlegt. Vraag het model het relevante pad te vinden, de afwijking uit te leggen en de kleinste wijziging voor te stellen die de publieke interface behoudt. Vraag de herziene code afzonderlijk van aannames en voorbeelden. Het model genereert een voorstel; compileren, uitvoeren en toepassen vereisen de ontwikkelomgeving die met de agent is verbonden.
Tools, documenten en voorspelbare wijzigingen
De servicekaart van de maker vermeldt ook gestructureerde uitvoer, voorspelde uitvoer, documentvragen, antwoordprefixen, batchverwerking en agentconversaties. Definieer voor extractie de veldnamen, types en behandeling van ontbrekende waarden. JSON-modus levert een gestructureerde weergave, terwijl een aangepast schema in de verbonden interface een specifiekere vorm bepaalt. Vraag alleen het record wanneer een programma het zal parsen, en een afzonderlijke uitleg wanneer een persoon de interpretatie moet beoordelen.
Vragen beantwoorden over documenten combineert met OCR voorbereide tekst en structuur met taalmodelbegrip. Identificeer voor een vergelijking de documenten en de te beoordelen voorwaarde en vraag bij elke bevinding de bronlocatie. Een nuttig resultaat kan gedeelde vereisten, meningsverschillen en openstaande vragen scheiden. Directe beeldvragen kunnen zich richten op een grafieklabel of interface-element; het behouden van koppen, eenheden en beeldrollen helpt het antwoord aan het aangeleverde materiaal te koppelen.
Voorspelde uitvoer is gedocumenteerd voor taken waarbij een groot deel van het gewenste antwoord al bekend is, zoals het opnieuw genereren van een codebestand of document met beperkte wijzigingen. Lever de bestaande inhoud aan en benoem de specifieke wijziging, met behoud van de delen die moeten blijven. Dat verschilt van een volledig nieuw artefact vragen of verdergaan vanaf een bekend antwoordprefix. De servicefuncties beschrijven indienings- en opmaakopties; ze veranderen niets aan de tekst-en-beeldinvoer of tekstuitvoer van het model.
In een workflow met tools levert de toepassing functiebeschrijvingen en parameters aan, kiest het model een functie en bereidt het argumenten voor, waarna de toepassing de functie uitvoert en het resultaat teruggeeft. Een rekentool kan waarden ontvangen die uit een aangeleverde afbeelding zijn gelezen, terwijl een opzoektool ontbrekende informatie voor het volgende antwoord kan aanleveren. Houd het toolresultaat verbonden met de bewerking die het heeft voortgebracht. Redeneren met agents steunt op die omgeving; tekstgeneratie alleen voert geen externe acties uit.
Lange sessies voorbereiden
Gebruik de context van 256k voor gerelateerde broncode, documenten en conversatiegeschiedenis en houd het eigenlijke doel expliciet. Een programmeersessie kan de module, haar aanroeper en de vereisten behouden en tegelijk één afgebakende wijziging vragen. Een documentsessie kan de relevante secties samenhouden en een korte tabel of herziene passage teruggeven. De contextcapaciteit bepaalt geen afzonderlijke maximale antwoordlengte; het generatievoorbeeld met 1.024 tokens op de kaart is een illustratie, niet die limiet.
De maker merkt op dat een eerder uitgebrachte configuratie een fout voor lange contexten bevatte die is gecorrigeerd, ook van belang voor afgeleide checkpoints. Behoud de gecorrigeerde releaseconfiguratie wanneer u de gewichten voor lange sessies gebruikt. De hybride modi en architectuur met 128 miljard parameters van Medium 3.5 mogen niet aan Medium 3.1 of een afzonderlijk benoemd draft-head-checkpoint worden toegeschreven alleen omdat hun namen dezelfde familie delen.
Ailoot Ultra · Batchverwerking POST /v1/batches mistralai/mistral-medium-3-5:batch
mistralai/mistral-medium-3-5:batch
mistralai/mistral-medium-3-5:batchAan de slag
Mistral Medium 3.5 combineert instructieopvolging, redeneren en programmeren in een dense tekst-en-beeldmodel met 128 miljard parameters. Het heeft een door de maker opgegeven context van 256k, redeneerinstellingen per verzoek, ingebouwde functieaanroepen en gestructureerde uitvoer voor document- en agentworkflows.
- Toegestane invoer
- Tekst
- Resultaten
- Tekst
Beschikbaar in Ailoot · invoer en methoden
Ailoot Ultra · Batchverwerking POST /v1/batches
- Invoer
text- Uitvoer
text- Uitvoerformaat
- inline JSON uit results[].response.body
| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldendpoint | Typestring | VereisteVereist | Waarden en limieten /v1/chat/completions | Standaard— |
Veldmodel | Typestring | VereisteVereist | Waarden en limieten mistralai/mistral-medium-3-5:batch | Standaard— |
Veldrequests | Typebatch_item[] | VereisteVereist | Waarden en limieten Minimumaantal items: 1 | Standaard— |
Veldrequests[].custom_id | Typestring | VereisteVereist | Waarden en limieten | Standaard— |
Veldrequests[].body.messages | Typemessage[] | VereisteVereist | Waarden en limieten | Standaard— |
Veldcompletion_window | Typestring | VereisteOptioneel | Waarden en limieten 24h | Standaard— |
Veldprovider | Typeobject|null | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldrequests[].body.model | Typestring | VereisteOptioneel | Waarden en limieten mistralai/mistral-medium-3-5:batch, mistralai/mistral-medium-3-5 | Standaard— |
Veldprovider.only | Typestring[] | VereisteOptioneel | Waarden en limieten mistral | Standaard— |
Veldprovider.allow_fallbacks | Typeboolean|null | VereisteOptioneel | Waarden en limieten false, null | Standaard— |
Methodeparameters en levenscyclus
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractendpoint, model, requests |
Parametermaterial_types | Contracttext |
Parameterrepresentation | Contractinline requests[]; elk item bevat custom_id en body |
Parameterrequest_endpoint_profile | Contract/v1/chat/completions |
Parameterfile_material | ContractDe aanroeper kan de daadwerkelijke UTF-8 JSONL lokaal in requests[] inlezen. Er wordt geen uploaddoel, input_file_id of bestandsverwijzing gebruikt. Ontbrekend of leeg klantmateriaal stopt de voorbereiding vóór POST. |
Parameterserialization_order | Contractendpoint, model, provider (indien opgegeven), completion_window (indien opgegeven), requests als laatste |
Parameteroptional_controls | Contractprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | ContractAanvraagbodies voor tekst via Chat Completions in de gedocumenteerde inline Batch-structuur. |
Levenscyclus: asynchronous
GET /v1/batches/{operation_id} · daadwerkelijke response.id uit de oorspronkelijke aanmaakrespons; dezelfde gebruiker/sleutel/groep
Tarieven
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
- Snelle modus
- Niet opgegeven Wanneer de snelle modus geselecteerd is
- Flex-modus
- Niet opgegeven Wanneer de flex-modus geselecteerd is
- Maximale redeneerinspanning
- Niet opgegeven Wanneer voor maximale redeneerinspanning de default-aanpassing wordt gebruikt
- Tarieven voor expliciete caching
- Niet ingeschakeld Wanneer expliciete caching wordt aangevraagd
Ailoot-tarieven
Prijzen per configuratie
Koppel elke kostenpost aan de getoonde voorwaarden. Gebruik één tarief voor elke groep alternatieve configuraties.
| Configuratie | Tariefstaffel | Contexttokens, meer dan | Contexttokens, tot en met | Kosten |
|---|---|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Contexttokens, meer dan— | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.0015 / 1K tokens Uitvoer · Uitvoertokens $0.0075 / 1K tokens Invoer · Cache lezen — / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
| ConfiguratieAanvraaglengte · niveau 1 | Tariefstaffel— | Contexttokens, meer dan0 | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.0015 / 1K tokens Uitvoer · Uitvoertokens $0.0075 / 1K tokens Invoer · Cache lezen — / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
Voorbeeldverzoeken
Ailoot Ultra · Batchverwerking
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-medium-3-5:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['mistralai/mistral-medium-3-5:batch', 'mistralai/mistral-medium-3-5']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-medium-3-5:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Resultaten ophalen en opslaan
Ailoot Ultra · Batchverwerking
inline JSON uit results[].response.body
GET /v1/batches/{operation_id}
Taakstatus controleren
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Alle voltooide resultaten bewaren
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar de volledige oorspronkelijke status-JSON, elk resultaat/custom_id en de volledige respons- of foutbody. Sla voltooide results[] op als JSONL, zonder te filteren.
Als het oorspronkelijke antwoord moet worden gecontroleerd
Bewaar de oorspronkelijke bewerkings-ID. 503 result_pending_check bevat X-Should-Retry:false; dien een oorspronkelijke batch met onbekende status nooit opnieuw in.
Antwoordvelden
| Veld | Type |
|---|---|
Veldresults[].custom_id | Typestring |
Veldresults[].response.body.choices[].message.content | Typestring|null |
Veldresults[].error | Typeobject|null |
Veldusage | Typeobject|null |
Veldid | Typestring |
Veldmodel | Typestring |
Veldendpoint | Typestring |
Veldstatus | Typestring |
Veldrequest_counts | Typeobject |
Veldresults[].id | Typestring |
Veldresults[].response.status_code | Typeinteger |
Veldresults[].response.request_id | Typestring |
Fouten en vervolgstappen
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeOngeldige gedocumenteerde inline structuur, dubbele sleutels, ongeldige itemidentiteit of conflict met de geconfigureerde modelmogelijkheden. | Volgende stapCorrigeer de aangegeven velden vóór elke nieuwe indiening. |
Antwoord401 · authentication_error | VoorwaardeOngeldige API-sleutel. | Volgende stapGebruik de geautoriseerde Ailoot-sleutel. |
Antwoord403 · permission_error | VoorwaardeBatch-groep niet beschikbaar. | Volgende stapControleer de toegangsrechten van de sleutel/groep. |
Antwoord422 · invalid_request_error | VoorwaardeBatch wordt via het saldo gefactureerd; aanmaken via een abonnement wordt geweigerd. | Volgende stapGebruik de geautoriseerde groep die via het saldo wordt gefactureerd. |
Antwoord422 · price_unavailable | VoorwaardeVoor de Batch-invoer kan geen prijsraming worden gemaakt. | Volgende stapBewaar de respons; gebruik de gedocumenteerde invoer voor deze familie. |
Antwoord402 · billing_error | VoorwaardeReservering voor Batch niet beschikbaar. | Volgende stapLos het toelatingsprobleem op vóór een nieuwe aanvraag. |
Antwoord503 · price_unavailable | VoorwaardePrijs voor de Batch-methode/native tarieven niet beschikbaar. | Volgende stapBewaar de respons; vervang de prijzen niet. |
Antwoord503 · api_error | VoorwaardeDe exacte leveranciersroute is niet beschikbaar. | Volgende stapBewaar de respons voor het herstel van de route. |
Antwoord503 · result_pending_check | VoorwaardeHet oorspronkelijke resultaat moet gecontroleerd worden; X-Should-Retry:false. | Volgende stapBewaar de oorspronkelijke operation_id/id en lees de status ervan uit; herhaal de oorspronkelijke POST nooit. |
Antwoord404 · not_found | VoorwaardeBewerking voor de Batch-status ontbreekt of behoort toe aan een andere identiteit. | Volgende stapGebruik de exacte oorspronkelijke id en dezelfde gebruiker/sleutel/groep. |
Aliasnamen
Modelaliasnamen
Ailoot Ultra mistralai/mistral-medium-3-5:batch
Aliasnamen voor methodepaden
Gebruik de hierboven getoonde methodepaden.
Gerelateerde aanroeper-ID’s
FAQ · Mistral: Mistral Medium 3.5 (batch)
- Welke invoer en resultaten zijn beschikbaar?
POST /v1/batches·mistralai/mistral-medium-3-5:batch:text→text- Welke velden gebruikt het verzoek?
POST /v1/batches·mistralai/mistral-medium-3-5:batch:endpoint,model,requests,completion_window,provider- Welke limieten gelden?
POST /v1/batches·mistralai/mistral-medium-3-5:batch:requests.min_items:1