Mistral: Mistral Large 3 2512 (batch)
Mistral Large 3 2512 er en flersproget tekst- og billedmodel til lange dokumenter, virksomhedsviden, kodning og værktøjsassisteret arbejde. Dens kontekst på 256k, indbyggede funktionskald og strukturerede output hjælper med at omsætte givet bevismateriale til svar, poster og foreslåede handlinger.
Om modellen
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Mistral Large 3 2512 er den instruktionsfinjusterede Mistral AI-udgave til generel samtale, visuel forståelse og virksomhedsarbejde. Dens sparsomme mixture-of-experts-arkitektur har i alt 675 milliarder parametre, hvoraf 41 milliarder er aktive, og et kontekstvindue på 256k. Tekst og billeder kan bidrage til samme opgave, mens svaret er tekst, kode eller et struktureret resultat.
Funktioner og inputforberedelse
Modellen kombinerer en sprogkomponent med en visuel encoder. Giv et billede en klar rolle: en side, der skal læses, et diagram, der skal fortolkes, eller en skærm, der skal forklares. Til en tæt pakket skærm skal du levere en beskæring med de relevante kontrolelementer og bevare de omgivende etiketter, der kræves for at forstå dem. Mistral anbefaler billedformer tæt på kvadratiske; opdel en usædvanligt smal eller bred kilde i nyttige områder i stedet for at formindske vigtige detaljer til en ulæselig stribe.
Producenten angiver flersproget samtale på snesevis af sprog, herunder engelsk, fransk, spansk, tysk, italiensk, portugisisk, nederlandsk, kinesisk, japansk, koreansk og arabisk. Angiv outputsproget, den tilsigtede læser og terminologien, der skal bevares. Til en supportartikel skal du bede om en lokaliseret forklaring med uændrede produktnavne og en kort liste over usikre oversættelser, der skal afklares før udgivelse.
Lange dokumenter og virksomhedsviden
Brug konteksten til at samle relateret materiale: politiktekst, en specifikation, eksisterende beslutninger og det spørgsmål, der kræver et svar. Mærk hver kilde og dens revision. En nyttig anmodning er: “Sammenlign disse tre onboardingpolitikker. Returner en tabel over fælles krav, konflikter og ubesvarede spørgsmål med kildeafsnittet for hvert fund.” Den resulterende artefakt er en sammenligning forankret i de givne passager frem for et generisk resumé af emnet.
Til et dokumentspørgsmål skal du identificere det ønskede detaljeniveau og bede om den understøttende passage ved siden af konklusionen. Mistrals Document QnA-arbejdsgang udtrækker først tekst og dokumentstruktur med OCR og bruger derefter en sprogmodel til at fortolke materialet. Bevar sidetal og overskrifter ved klargøring af udtrukket tekst, så svaret kan pege tilbage på originalen. En dokument-URL, udtrukket tekst og billedbaseret bevismateriale har forskellige forberedelseskrav; vælg den inputform, applikationen understøtter.
Kodning og daglig assistance
Mistral retter Large 3 mod kodeassistance såvel som daglig samtale. Lever de relevante funktioner, forventet adfærd og den observerede fejl. For eksempel: “Denne parser taber det sidste felt, når inputtet slutter uden et linjeskift. Forklar den fejlende gren, foreslå den mindste ændring, og returner den korrigerede funktion med tre repræsentative input-/outputeksempler.” Det nyttige resultat er en foreslået ændring knyttet til den faktiske kode og et sæt tilfælde, udvikleren kan køre.
Til et forretningsudkast skal du give fakta og den ønskede artefakt sammen. En anmodning om at omsætte mødenoter til et beslutningsnotat bør navngive beslutningen, alternativerne, uafklarede antagelser og næste handling. Bed modellen holde kildefakta adskilt fra anbefalinger og markere manglende oplysninger i det relevante afsnit. Det gør outputtet lettere at revidere end en uopdelt fortælling.
Værktøjer og strukturerede resultater
Indbygget funktionskald lader modellen vælge en angivet funktion og forberede dens argumenter. Applikationen kører funktionen og returnerer resultatet; modellen bruger derefter de returnerede oplysninger i svaret. Hold værktøjerne specifikke, og stil kun dem til rådighed, som opgaven kræver. En lagerassistent kan modtage en produktreference, anmode om et lageropslag og forklare den returnerede mængde og lagerlokation. Valider den valgte funktion og argumenterne før eksekvering af anmodningen, og bevar værktøjssvaret sammen med det endelige svar.
Til udtrækning skal du angive felter, typer og behandlingen af manglende værdier. Mistral dokumenterer JSON-tilstand og brugerdefineret struktureret output; JSON-tilstanden kræver en udtrykkelig instruktion om at returnere JSON, mens et brugerdefineret skema giver stærkere formatstyring. En fakturaoversigt kan bede om leverandør, fakturanummer, forfaldsdato, valuta og linjeposter med en konsekvent repræsentation af manglende værdier. Kontroller de udtrukne værdier mod dokumentet, selv når svaret matcher den ønskede struktur.
Indstillinger og udgaveforskelle
Definer rollen, opgaven og værktøjsreglerne i systeminstruktionerne. Mistral anbefaler en temperatur under 0,1 til produktion og daglig brug af dette checkpoint, mens højere værdier kan afprøves til kreative opgaver. Adskil en anmodning om varierede ideer fra en anmodning om reproducerbar udtrækning: giv den første plads til alternativer og den anden udtrykkelige felter og kildebegrænsninger.
Denne instruktionsudgave er adskilt fra Large 3-basischeckpointet og fra dedikerede ræsonnementsmodeller. Producenten identificerer stringent ræsonnement og specialiseret visuelt arbejde som områder, hvor en model udviklet specifikt til disse opgaver kan være at foretrække. Til en vanskelig beregning skal du give antagelser og enheder, bede om mellemkontroller og bruge et tilgængeligt beregningsværktøj til at verificere resultatet. Til tæt visuelt bevismateriale skal du klargøre læsbare områder og sammenligne svaret med kilden, før du bruger det i en rapport.
Ailoot Ultra · Batch POST /v1/batches mistralai/mistral-large-2512:batch
mistralai/mistral-large-2512:batch
mistralai/mistral-large-2512:batchStart
Mistral Large 3 2512 er en flersproget tekst- og billedmodel til lange dokumenter, virksomhedsviden, kodning og værktøjsassisteret arbejde. Dens kontekst på 256k, indbyggede funktionskald og strukturerede output hjælper med at omsætte givet bevismateriale til svar, poster og foreslåede handlinger.
- Accepterede input
- Tekst
- Resultater
- Tekst
Tilgængelig i Ailoot · input og metoder
Ailoot Ultra · Batch POST /v1/batches
- Inputtyper
text- Outputtyper
text- Outputformat
- JSON direkte i results[].response.body
| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltendpoint | Typestring | KravPåkrævet | Værdier og grænser /v1/chat/completions | Standard— |
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser mistralai/mistral-large-2512:batch | Standard— |
Feltrequests | Typebatch_item[] | KravPåkrævet | Værdier og grænser Minimumsantal elementer: 1 | Standard— |
Feltrequests[].custom_id | Typestring | KravPåkrævet | Værdier og grænser | Standard— |
Feltrequests[].body.messages | Typemessage[] | KravPåkrævet | Værdier og grænser | Standard— |
Feltcompletion_window | Typestring | KravValgfrit | Værdier og grænser 24h | Standard— |
Feltprovider | Typeobject|null | KravValgfrit | Værdier og grænser | Standard— |
Feltrequests[].body.model | Typestring | KravValgfrit | Værdier og grænser mistralai/mistral-large-2512:batch, mistralai/mistral-large-2512 | Standard— |
Feltprovider.only | Typestring[] | KravValgfrit | Værdier og grænser mistral | Standard— |
Feltprovider.allow_fallbacks | Typeboolean|null | KravValgfrit | Værdier og grænser false, null | Standard— |
Metodeparametre og livscyklus
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktendpoint, model, requests |
Parametermaterial_types | Kontrakttext |
Parameterrepresentation | Kontraktrequests[] direkte i anmodningen; hvert element har custom_id og body |
Parameterrequest_endpoint_profile | Kontrakt/v1/chat/completions |
Parameterfile_material | KontraktDen kaldende part kan læse det faktiske JSONL-indhold i UTF-8 lokalt ind i requests[]. Der angives hverken purpose til upload, input_file_id eller en filreference. Hvis kundematerialet mangler eller er tomt, stoppes forberedelsen før POST. |
Parameterserialization_order | Kontraktendpoint, model, provider (hvis angivet), completion_window (hvis angivet), requests til sidst |
Parameteroptional_controls | Kontraktprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | KontraktAnmodningsindhold for Chat Completions med tekst i den dokumenterede inline Batch-struktur. |
Livscyklus: asynchronous
GET /v1/batches/{operation_id} · det faktiske response.id fra den oprindelige oprettelse; samme bruger/nøgle/gruppe
Priser
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
- Hurtig tilstand
- Ikke angivet Når hurtig tilstand er valgt
- flex-tilstand
- Ikke angivet Når flex-tilstanden er valgt
- Maksimal ræsonneringsindsats
- Ikke angivet Når default-justeringen anvendes ved maksimal ræsonneringsindsats
- Priser for eksplicit caching
- Ikke aktiveret Når der anmodes om eksplicit caching
Ailoot-takster
Priser efter konfiguration
Knyt hver omkostning til de viste betingelser. Brug én takst for hver gruppe af alternative konfigurationer.
| Konfiguration | Takstplan | Konteksttokens, mere end | Konteksttokens, op til og med | Beløb |
|---|---|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Konteksttokens, mere end— | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.0005 / 1K tokens Output · Outputtokens $0.0015 / 1K tokens Input · Cachelæsning $0.00005 / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
| KonfigurationAnmodningslængde · niveau 1 | Takstplan— | Konteksttokens, mere end0 | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.0005 / 1K tokens Output · Outputtokens $0.0015 / 1K tokens Input · Cachelæsning $0.00005 / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
Eksempelanmodninger
Ailoot Ultra · Batch
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-large-2512:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['mistralai/mistral-large-2512:batch', 'mistralai/mistral-large-2512']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-large-2512:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Hent og gem resultater
Ailoot Ultra · Batch
JSON direkte i results[].response.body
GET /v1/batches/{operation_id}
Kontrollér opgavestatus
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Behold alle færdige resultater
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Gem hele den oprindelige status i JSON, hvert resultat/custom_id og det fulde svar- eller fejlindhold. Gem færdige results[] som JSONL uden filtrering.
Hvis det oprindelige svar skal kontrolleres
Gem det oprindelige operations-ID. 503 result_pending_check har X-Should-Retry:false; send aldrig en oprindelig batch igen, hvis dens udfald er ukendt.
Svarfelter
| Felt | Type |
|---|---|
Feltresults[].custom_id | Typestring |
Feltresults[].response.body.choices[].message.content | Typestring|null |
Feltresults[].error | Typeobject|null |
Feltusage | Typeobject|null |
Feltid | Typestring |
Feltmodel | Typestring |
Feltendpoint | Typestring |
Feltstatus | Typestring |
Feltrequest_counts | Typeobject |
Feltresults[].id | Typestring |
Feltresults[].response.status_code | Typeinteger |
Feltresults[].response.request_id | Typestring |
Fejl og næste trin
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldig dokumenteret inline-struktur, dublerede nøgler, ugyldig elementidentitet eller konflikt med modellens konfigurerede funktioner. | Næste trinRet de angivne felter, før du sender en ny anmodning. |
Svar401 · authentication_error | BetingelseUgyldig API-nøgle. | Næste trinBrug den godkendte Ailoot-nøgle. |
Svar403 · permission_error | BetingelseBatch-gruppen er ikke tilgængelig. | Næste trinKontrollér nøglens/gruppens adgangsrettigheder. |
Svar422 · invalid_request_error | BetingelseBatch afregnes via saldoen; oprettelse via et abonnement afvises. | Næste trinBrug den godkendte gruppe med saldoafregning. |
Svar422 · price_unavailable | BetingelseDer kan ikke beregnes en pris for Batch-inputtet. | Næste trinGem svaret; brug det dokumenterede input for API-familien. |
Svar402 · billing_error | BetingelseReservationen til Batch er ikke tilgængelig. | Næste trinAfklar adgangen, før du sender en ny anmodning. |
Svar503 · price_unavailable | BetingelsePrisen for Batch-metoden eller de native satser er ikke tilgængelige. | Næste trinGem svaret; erstat ikke priserne med andre priser. |
Svar503 · api_error | BetingelseDen præcise leverandørrute er ikke tilgængelig. | Næste trinGem svaret, så ruten kan repareres. |
Svar503 · result_pending_check | BetingelseDet oprindelige resultat skal kontrolleres; X-Should-Retry:false. | Næste trinGem det oprindelige operation_id/id, og læs dets status; gentag aldrig den oprindelige POST. |
Svar404 · not_found | BetingelseOperationen til Batch-status findes ikke eller tilhører en anden identitet. | Næste trinBrug det nøjagtige oprindelige id og samme bruger/nøgle/gruppe. |
Aliaser
Modelaliaser
Ailoot Ultra mistralai/mistral-large-2512:batch
Aliaser for metodestier
Brug metodestierne vist ovenfor.
Relaterede kalder-ID’er
FAQ · Mistral: Mistral Large 3 2512 (batch)
- Hvilke input og resultater er tilgængelige?
POST /v1/batches·mistralai/mistral-large-2512:batch:text→text- Hvilke felter bruger anmodningen?
POST /v1/batches·mistralai/mistral-large-2512:batch:endpoint,model,requests,completion_window,provider- Hvilke grænser gælder?
POST /v1/batches·mistralai/mistral-large-2512:batch:requests.min_items:1