Mistral: Mistral Medium 3.5 (batch)
Mistral Medium 3.5 kombinerar instruktionsföljning, resonemang och kodning i en tät modell för text och bilder med 128 miljarder parametrar. Den har en kontext på 256k token enligt tillverkaren, resonemangsinställningar per begäran, inbyggda funktionsanrop och strukturerade utdata för dokument- och agentflöden.
Om modellen
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Mistral Medium 3.5 är Mistral AI:s täta modell med 128 miljarder parametrar som kombinerar instruktionsföljning, resonemang och kodning i en och samma uppsättning vikter. Den tar emot text och bilder och returnerar text. Tillverkaren positionerar den för agent- och koduppgifter, samtidigt som samma modellversion kan ge ett direkt samtalssvar eller använda sitt dokumenterade resonemangsläge för en mer krävande uppgift.
En enhetlig modell och bildfunktioner
Det publicerade modellkortet anger 128 miljarder täta parametrar och ett kontextfönster på 256k token. Bildkodaren är tränad för att hantera olika bildstorlekar och bildförhållanden. Bilder kan bidra med underlag till en kod- eller dokumentuppgift: en skärmbild av ett gränssnitt, ett diagram som hör till ett krav eller en sida med information som modellen ska tolka. Resultatet kan vara en skriftlig förklaring, kod eller strukturerade fält snarare än en genererad bild.
Tillverkaren beskriver stöd för tiotals språk, däribland engelska, franska, spanska, tyska, italienska, portugisiska, nederländska, kinesiska, japanska, koreanska och arabiska. Tillverkaren framhåller också följsamhet till systemprompten och inbyggda funktionsanrop med JSON-utdata. Ange målgrupp, språk och svarsregler separat från materialet som granskas, så att källdokumentets ordalydelse förblir underlag för uppgiften.
Resonemangsinställningar
Modellkortet dokumenterar två värden för resonemangsinsats per begäran. Värdet none ger ett instruktionsbaserat svar utan resonemangsläge; high aktiverar resonemang och rekommenderas för komplexa prompter och agentbaserad kodning. Detta är ett lägesval inom samma modellversion av Medium 3.5, inte en annan modellidentitet.
För hög resonemangsinsats rekommenderar tillverkaren temperatur 0.7 och top-p 0.95. För none dokumenteras temperaturer mellan 0.0 och 0.7 beroende på uppgiften, och top-p lämnas utan värde eller sätts till 1.0. Detta är rekommendationer för utgåvan. Välj först syftet med utdata: en kortfattad fältextraktion, en kodändring med en förklaring eller en jämförelse som kräver flera motiverade beslut.
En praktisk resonemangsuppgift kan innehålla ett krav, implementationen och de indata som visar en avvikelse. Be modellen identifiera den relevanta exekveringsvägen, förklara avvikelsen och föreslå den minsta ändringen som bevarar det publika gränssnittet. Begär den reviderade koden separat från antagandena och exemplen. Modellen genererar ett förslag; att kompilera, köra och tillämpa det kräver utvecklingsmiljön som är ansluten till agenten.
Verktyg, dokument och förutsägbara ändringar
Tillverkarens tjänstekort listar också strukturerade utdata, förutsagda utdata, dokumentfrågor, svarsprefix, batchbearbetning och agentsamtal. För extraktion definierar du fältnamn, typer och hantering av saknade värden. JSON-läge ger en strukturerad representation, medan ett anpassat schema definierar en mer specifik form i det anslutna gränssnittet. Begär enbart posten när ett program ska tolka den och en separat förklaring när en person behöver granska tolkningen.
Frågor om dokument kombinerar OCR-förberedd text och struktur med språkmodellens förståelse. För en jämförelse identifierar du dokumenten och villkoret som ska bedömas och begär sedan varje slutsats med en källhänvisning. Användbara utdata kan skilja gemensamma krav, meningsskiljaktigheter och öppna frågor åt. Direkta bildfrågor kan fokusera på en diagrametikett eller ett gränssnittselement; bevarade rubriker, enheter och bildroller hjälper svaret att förbli knutet till det tillhandahållna materialet.
Förutsagda utdata dokumenteras för uppgifter där stora delar av det önskade svaret redan är kända, exempelvis att återskapa en kodfil eller ett dokument med begränsade ändringar. Tillhandahåll befintligt innehåll och identifiera den specifika ändringen, med bevarande av de delar som ska lämnas kvar. Detta skiljer sig från att begära en helt ny leverans eller fortsätta från ett känt svarsprefix. Tjänstefunktionerna beskriver alternativ för inskickning och formatering; de ändrar inte modellens text- och bildindata eller textutdata.
I ett arbetsflöde med verktygsstöd tillhandahåller applikationen funktionsbeskrivningar och parametrar, modellen väljer en funktion och förbereder argument, och applikationen kör den och returnerar resultatet. Ett beräkningsverktyg kan ta emot värden avlästa från en tillhandahållen bild, medan ett uppslagningsverktyg kan ge saknad information till nästa svar. Håll verktygsresultatet kopplat till operationen som skapade det. Agentbaserat resonemang bygger på den miljön och innebär inte att textgenerering ensam utför externa åtgärder.
Förberedelse för långa sessioner
Använd kontexten på 256k token för relaterad källkod, dokument och samtalshistorik och håll det faktiska målet tydligt. En kodsession kan behålla modulen, dess anropare och kraven samtidigt som den efterfrågar en definierad ändring. En dokumentsession kan hålla relevanta avsnitt samlade och returnera en kort tabell eller ett reviderat avsnitt. Kontextkapaciteten anger ingen separat maximal svarslängd; modellkortets genereringsexempel på 1 024 token är en illustration, inte den gränsen.
Tillverkaren påpekar att en äldre publicerad konfiguration innehöll ett fel för lång kontext och att det har rättats, inklusive dess betydelse för härledda modellversioner. Bevara den korrigerade utgåvekonfigurationen när vikterna används för långa sessioner. Medium 3.5:s hybridlägen och arkitektur med 128 miljarder parametrar ska inte tillskrivas Medium 3.1 eller en separat namngiven modellversion med draft-head bara för att namnen tillhör samma familj.
Ailoot Ultra · Batchkörning POST /v1/batches mistralai/mistral-medium-3-5:batch
mistralai/mistral-medium-3-5:batch
mistralai/mistral-medium-3-5:batchStart
Mistral Medium 3.5 kombinerar instruktionsföljning, resonemang och kodning i en tät modell för text och bilder med 128 miljarder parametrar. Den har en kontext på 256k token enligt tillverkaren, resonemangsinställningar per begäran, inbyggda funktionsanrop och strukturerade utdata för dokument- och agentflöden.
- Godkända indata
- Text
- Resultat
- Text
Tillgängligt i Ailoot · indata & metoder
Ailoot Ultra · Batchkörning POST /v1/batches
- Indatatyper
text- Utdatatyper
text- Utdataformat
- JSON i inbäddade results[].response.body
| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältendpoint | Typstring | KravObligatoriskt | Värden & gränser /v1/chat/completions | Standard— |
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser mistralai/mistral-medium-3-5:batch | Standard— |
Fältrequests | Typbatch_item[] | KravObligatoriskt | Värden & gränser Minsta antal objekt: 1 | Standard— |
Fältrequests[].custom_id | Typstring | KravObligatoriskt | Värden & gränser | Standard— |
Fältrequests[].body.messages | Typmessage[] | KravObligatoriskt | Värden & gränser | Standard— |
Fältcompletion_window | Typstring | KravValfritt | Värden & gränser 24h | Standard— |
Fältprovider | Typobject|null | KravValfritt | Värden & gränser | Standard— |
Fältrequests[].body.model | Typstring | KravValfritt | Värden & gränser mistralai/mistral-medium-3-5:batch, mistralai/mistral-medium-3-5 | Standard— |
Fältprovider.only | Typstring[] | KravValfritt | Värden & gränser mistral | Standard— |
Fältprovider.allow_fallbacks | Typboolean|null | KravValfritt | Värden & gränser false, null | Standard— |
Metodparametrar och livscykel
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalendpoint, model, requests |
Parametermaterial_types | Avtaltext |
Parameterrepresentation | AvtalInbäddade requests[]; varje objekt har custom_id och body |
Parameterrequest_endpoint_profile | Avtal/v1/chat/completions |
Parameterfile_material | AvtalDen anropande klienten kan läsa in faktiska UTF-8 JSONL-data lokalt i requests[]. Inget uppladdningssyfte, input_file_id eller någon filreferens används. Om kundmaterial saknas eller är tomt avbryts förberedelserna före POST. |
Parameterserialization_order | Avtalendpoint, model, provider (om angivet), completion_window (om angivet), requests sist |
Parameteroptional_controls | Avtalprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | AvtalFörfrågningskroppar för Text Chat Completions i det dokumenterade inbäddade Batch-formatet. |
Livscykel: asynchronous
GET /v1/batches/{operation_id} · Det faktiska response.id från det ursprungliga skapandesvaret; samma användare/nyckel/grupp
Priser
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
- Snabbt läge
- Ej angivet När snabbt läge är valt
- Flex-läge
- Ej angivet När läget flex är valt
- Högsta resonemangsnivå
- Ej angivet När den högsta resonemangsnivån använder standardjusteringen (default)
- Prissättning för explicit cache
- Inte aktiverat När explicit cache begärs
Ailoot-priser
Priser efter konfiguration
Matcha varje avgift mot de visade villkoren. Använd ett pris för varje uppsättning alternativa konfigurationer.
| Konfiguration | Prislista | Kontexttoken, fler än | Kontexttoken, upp till och med | Avgift |
|---|---|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Kontexttoken, fler än— | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.0015 / 1K token Utdata · Utdatatoken $0.0075 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
| KonfigurationNivå 1 för förfrågans längd | Prislista— | Kontexttoken, fler än0 | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.0015 / 1K token Utdata · Utdatatoken $0.0075 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
Exempelbegäranden
Ailoot Ultra · Batchkörning
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-medium-3-5:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['mistralai/mistral-medium-3-5:batch', 'mistralai/mistral-medium-3-5']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-medium-3-5:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Ta emot och spara resultat
Ailoot Ultra · Batchkörning
JSON i inbäddade results[].response.body
GET /v1/batches/{operation_id}
Kontrollera jobbstatus
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Behåll alla färdiga resultat
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Spara hela det ursprungliga statusobjektet i JSON, varje resultat/custom_id och hela svars- eller felkroppen. Spara slutförda results[] som JSONL utan filtrering.
Om det ursprungliga svaret behöver kontrolleras
Behåll det ursprungliga operations-ID:t. Vid 503 result_pending_check gäller X-Should-Retry:false; skicka aldrig om en ursprunglig batch med okänt utfall.
Svarsfält
| Fält | Typ |
|---|---|
Fältresults[].custom_id | Typstring |
Fältresults[].response.body.choices[].message.content | Typstring|null |
Fältresults[].error | Typobject|null |
Fältusage | Typobject|null |
Fältid | Typstring |
Fältmodel | Typstring |
Fältendpoint | Typstring |
Fältstatus | Typstring |
Fältrequest_counts | Typobject |
Fältresults[].id | Typstring |
Fältresults[].response.status_code | Typinteger |
Fältresults[].response.request_id | Typstring |
Fel och nästa steg
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorFörfrågan har ett ogiltigt inbäddat format enligt dokumentationen, duplicerade nycklar eller en felaktig objektidentitet, eller står i konflikt med modellens konfigurerade funktioner. | Nästa stegRätta de angivna fälten innan du skickar en ny förfrågan. |
Svar401 · authentication_error | VillkorOgiltig API-nyckel. | Nästa stegAnvänd den behöriga Ailoot-nyckeln. |
Svar403 · permission_error | VillkorGrupp för batchkörning är inte tillgänglig. | Nästa stegKontrollera nyckelns/gruppens behörighet. |
Svar422 · invalid_request_error | VillkorBatchkörning debiteras från saldot; skapande via abonnemang avvisas. | Nästa stegAnvänd den behöriga gruppen med saldodebitering. |
Svar422 · price_unavailable | VillkorKostnaden för batchindata kan inte beräknas i förväg. | Nästa stegSpara svaret; använd det dokumenterade indataformatet för API-familjen. |
Svar402 · billing_error | VillkorReservation för batchkörning är inte tillgänglig. | Nästa stegSe till att villkoren för att godta förfrågan är uppfyllda innan du skickar en ny. |
Svar503 · price_unavailable | VillkorPriset för batchmetoden eller de inbyggda priserna är inte tillgängliga. | Nästa stegSpara svaret; ersätt inte priserna med andra. |
Svar503 · api_error | VillkorDen exakta leverantörsrutten är inte tillgänglig. | Nästa stegSpara svaret för att kunna reparera routningen. |
Svar503 · result_pending_check | VillkorDet ursprungliga resultatet behöver kontrolleras; X-Should-Retry:false. | Nästa stegBehåll det ursprungliga värdet för operation_id/id och läs av operationens status; upprepa aldrig det ursprungliga POST-anropet. |
Svar404 · not_found | VillkorOperationen för batchstatus saknas eller tillhör en annan identitet. | Nästa stegAnvänd exakt det ursprungliga id-värdet och samma användare/nyckel/grupp. |
Alias
Modellalias
Ailoot Ultra mistralai/mistral-medium-3-5:batch
Alias för metodsökvägar
Använd metodsökvägarna som visas ovan.
Relaterade anropar-ID:n
FAQ · Mistral: Mistral Medium 3.5 (batch)
- Vilka indata och resultat finns?
POST /v1/batches·mistralai/mistral-medium-3-5:batch:text→text- Vilka fält använder begäran?
POST /v1/batches·mistralai/mistral-medium-3-5:batch:endpoint,model,requests,completion_window,provider- Vilka gränser gäller?
POST /v1/batches·mistralai/mistral-medium-3-5:batch:requests.min_items:1