Mistral: Mistral Large 3 2512 (batch)
Mistral Large 3 2512 er en flerspråklig tekst- og bildemodell for lange dokumenter, virksomhetskunnskap, programmering og verktøystøttet arbeid. Konteksten på 256k, innebygde funksjonskall og strukturerte utdata bidrar til å gjøre oppgitte bevis om til svar, dataposter og foreslåtte handlinger.
Om modellen
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Mistral Large 3 2512 er Mistral AIs instruksjonstilpassede utgave for generell samtale, visuell forståelse og virksomhetsarbeid. Den sparsomme mixture-of-experts-arkitekturen har totalt 675 milliarder parametere, hvorav 41 milliarder aktive, og et kontekstvindu på 256k. Tekst og bilder kan bidra til samme oppgave, mens svaret er tekst, kode eller et strukturert resultat.
Funksjoner og forberedelse av inndata
Modellen kombinerer en språkkomponent med en visuell koder. Gi et bilde en tydelig rolle: en side som skal leses, et diagram som skal tolkes, eller et skjermbilde som skal forklares. For et tettpakket skjermbilde gir du et utsnitt med de relevante kontrollene og bevarer de omkringliggende etikettene som trengs for å forstå dem. Mistral anbefaler bildeformer nær kvadratiske; del en usedvanlig smal eller bred kilde i nyttige områder fremfor å krympe viktige detaljer til en uleselig stripe.
Produsenten lister flerspråklig samtale på flere titalls språk, blant annet engelsk, fransk, spansk, tysk, italiensk, portugisisk, nederlandsk, kinesisk, japansk, koreansk og arabisk. Angi utdataspråket, den tiltenkte leseren og terminologien som skal bevares. For en kundestøtteartikkel ber du om en lokalisert forklaring med uendrede produktnavn og en kort liste over usikre oversettelser som skal avklares før publisering.
Lange dokumenter og virksomhetskunnskap
Bruk konteksten til å samle beslektet materiale: regelverk, en spesifikasjon, eksisterende beslutninger og spørsmålet som trenger et svar. Merk hver kilde og revisjonen. En nyttig forespørsel er: «Sammenlign disse tre retningslinjene for introduksjon av nye medarbeidere. Returner en tabell med felles krav, konflikter og ubesvarte spørsmål, med kildeavsnittet for hvert funn.» Det resulterende artefaktet er en sammenligning forankret i de oppgitte utdragene fremfor en generell oppsummering av temaet.
For et dokumentspørsmål identifiserer du ønsket detaljnivå og ber om det underbyggende utdraget ved siden av konklusjonen. Mistrals Document QnA-arbeidsflyt trekker først ut tekst og dokumentstruktur med OCR og bruker deretter en språkmodell til å tolke materialet. Bevar sidetall og overskrifter når du klargjør uttrukket tekst, slik at svaret kan vise tilbake til originalen. En dokument-URL, uttrukket tekst og bildebevis har forskjellige krav til forberedelse; velg inndataformen som støttes av applikasjonen du bruker.
Programmering og daglig assistanse
Mistral posisjonerer Large 3 for programmeringsassistanse så vel som daglig samtale. Gi de relevante funksjonene, forventet atferd og den observerte feilen. For eksempel: «Denne parseren mister det siste feltet når inndataene slutter uten linjeskift. Forklar grenen som feiler, foreslå den minste endringen og returner den korrigerte funksjonen med tre representative eksempler på inndata og utdata.» Det nyttige resultatet er en foreslått endring knyttet til den faktiske koden og et sett med tilfeller utvikleren kan kjøre.
For et forretningsutkast gir du faktaene og ønsket artefakt samlet. En forespørsel om å gjøre møtenotater om til et beslutningsnotat bør navngi beslutningen, alternativene, de uavklarte antakelsene og neste handling. Be modellen holde kildefakta atskilt fra anbefalinger og markere manglende informasjon i det relevante avsnittet. Dette gjør utdataene lettere å revidere enn en udifferensiert fortelling.
Verktøy og strukturerte resultater
Innebygde funksjonskall lar modellen velge en oppgitt funksjon og forberede argumentene. Applikasjonen kjører funksjonen og returnerer resultatet; modellen bruker deretter den returnerte informasjonen i svaret. Hold verktøyene spesifikke og gjør bare dem som trengs for oppgaven, tilgjengelige. En assistent for lagerkontroll kan motta en produktreferanse, be om et lageroppslag og forklare det returnerte antallet og lagerstedet. Valider den valgte funksjonen og argumentene før forespørselen utføres, og bevar verktøysvaret sammen med det endelige svaret.
For uttrekk angir du feltene, typene og behandlingen av manglende verdier. Mistral dokumenterer JSON-modus og tilpassede strukturerte utdata; JSON-modusen krever en eksplisitt instruksjon om å returnere JSON, mens et tilpasset skjema gir sterkere formatkontroll. En fakturaoppsummering kan be om leverandør, fakturanummer, forfallsdato, valuta og fakturalinjer, med konsekvent representasjon av manglende verdier. Undersøk de uttrukne verdiene mot dokumentet, selv når svaret samsvarer med den ønskede strukturen.
Innstillinger og forskjeller mellom utgaver
Definer rollen, oppgaven og verktøyreglene i systeminstruksjonene. Mistral anbefaler en temperatur under 0.1 for produksjon og daglig bruk av dette modellkontrollpunktet, mens høyere verdier kan prøves for kreative oppgaver. Skill en forespørsel om varierte ideer fra en forespørsel om et reproduserbart uttrekk: gi den første rom for alternativer og den andre eksplisitte felter og kildebegrensninger.
Denne instruksjonsutgaven er separat fra Large 3-basiskontrollpunktet og fra dedikerte resonneringsmodeller. Produsenten identifiserer streng resonnering og spesialisert visuelt arbeid som områder der en modell spesielt utviklet for disse oppgavene kan være å foretrekke. For en vanskelig beregning gir du antakelsene og enhetene, ber om mellomkontroller og bruker et tilgjengelig beregningsverktøy til å verifisere resultatet. For tettpakket visuelt bevismateriale klargjør du lesbare områder og sammenligner svaret med kilden før du bruker det i en rapport.
Ailoot Ultra · Batchbehandling POST /v1/batches mistralai/mistral-large-2512:batch
mistralai/mistral-large-2512:batch
mistralai/mistral-large-2512:batchStart
Mistral Large 3 2512 er en flerspråklig tekst- og bildemodell for lange dokumenter, virksomhetskunnskap, programmering og verktøystøttet arbeid. Konteksten på 256k, innebygde funksjonskall og strukturerte utdata bidrar til å gjøre oppgitte bevis om til svar, dataposter og foreslåtte handlinger.
- Godkjente inndata
- Tekst
- Resultater
- Tekst
Tilgjengelig i Ailoot · inndata & metoder
Ailoot Ultra · Batchbehandling POST /v1/batches
- Inndatatyper
text- Utdatatyper
text- Utdataformat
- JSON fra results[].response.body direkte i svaret
| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltendpoint | Typestring | KravPåkrevd | Verdier & grenser /v1/chat/completions | Standard— |
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser mistralai/mistral-large-2512:batch | Standard— |
Feltrequests | Typebatch_item[] | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 | Standard— |
Feltrequests[].custom_id | Typestring | KravPåkrevd | Verdier & grenser | Standard— |
Feltrequests[].body.messages | Typemessage[] | KravPåkrevd | Verdier & grenser | Standard— |
Feltcompletion_window | Typestring | KravValgfritt | Verdier & grenser 24h | Standard— |
Feltprovider | Typeobject|null | KravValgfritt | Verdier & grenser | Standard— |
Feltrequests[].body.model | Typestring | KravValgfritt | Verdier & grenser mistralai/mistral-large-2512:batch, mistralai/mistral-large-2512 | Standard— |
Feltprovider.only | Typestring[] | KravValgfritt | Verdier & grenser mistral | Standard— |
Feltprovider.allow_fallbacks | Typeboolean|null | KravValgfritt | Verdier & grenser false, null | Standard— |
Metodeparametere og livssyklus
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtaleendpoint, model, requests |
Parametermaterial_types | Avtaletext |
Parameterrepresentation | Avtalerequests[] direkte i forespørselen; hvert element har custom_id og body |
Parameterrequest_endpoint_profile | Avtale/v1/chat/completions |
Parameterfile_material | AvtaleKlienten kan lese det faktiske UTF-8-kodede JSONL-innholdet lokalt inn i requests[]. Feltet purpose for opplasting, input_file_id og filreferanser brukes ikke. Manglende eller tomt kundemateriale stopper klargjøringen før POST. |
Parameterserialization_order | Avtaleendpoint, model, provider (hvis angitt), completion_window (hvis angitt), requests til slutt |
Parameteroptional_controls | Avtaleprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | AvtaleForespørselsinnhold for tekstbasert Chat Completions lagt direkte inn i det dokumenterte Batch-formatet. |
Livssyklus: asynchronous
GET /v1/batches/{operation_id} · faktisk response.id fra den opprinnelige opprettelsen; samme bruker/nøkkel/gruppe
Priser
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
- Hurtigmodus
- Ikke angitt Når hurtigmodus er valgt
- Flex-modus
- Ikke angitt Når flex-modus er valgt
- Maksimal resonneringsinnsats
- Ikke angitt Når justeringen «default» brukes for maksimal resonneringsinnsats
- Priser for eksplisitt mellomlagring
- Ikke aktivert Når eksplisitt mellomlagring forespørres
Ailoot-satser
Priser etter konfigurasjon
Knytt hver kostnad til de viste vilkårene. Bruk én sats for hvert sett med alternative konfigurasjoner.
| Konfigurasjon | Prisplan | Konteksttokener, mer enn | Konteksttokener, opptil og med | Kostnad |
|---|---|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Konteksttokener, mer enn— | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.0005 / 1K tokener Utdata · Utgående tokener $0.0015 / 1K tokener Inndata · Lesing fra hurtigbuffer $0.00005 / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
| KonfigurasjonNivå 1 for forespørselslengde | Prisplan— | Konteksttokener, mer enn0 | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.0005 / 1K tokener Utdata · Utgående tokener $0.0015 / 1K tokener Inndata · Lesing fra hurtigbuffer $0.00005 / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
Eksempelforespørsler
Ailoot Ultra · Batchbehandling
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-large-2512:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['mistralai/mistral-large-2512:batch', 'mistralai/mistral-large-2512']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-large-2512:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Motta og lagre resultater
Ailoot Ultra · Batchbehandling
JSON fra results[].response.body direkte i svaret
GET /v1/batches/{operation_id}
Kontroller jobbstatus
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Behold alle ferdige resultater
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Bevar hele den opprinnelige statusresponsen i JSON, alle resultater og custom_id-verdier samt hele svar- eller feilinnholdet. Lagre fullførte results[] som JSONL uten filtrering.
Hvis det opprinnelige svaret må kontrolleres
Bevar den opprinnelige operasjons-ID-en. 503 result_pending_check har X-Should-Retry:false; send aldri den opprinnelige batchen på nytt når utfallet er ukjent.
Svarfelter
| Felt | Type |
|---|---|
Feltresults[].custom_id | Typestring |
Feltresults[].response.body.choices[].message.content | Typestring|null |
Feltresults[].error | Typeobject|null |
Feltusage | Typeobject|null |
Feltid | Typestring |
Feltmodel | Typestring |
Feltendpoint | Typestring |
Feltstatus | Typestring |
Feltrequest_counts | Typeobject |
Feltresults[].id | Typestring |
Feltresults[].response.status_code | Typeinteger |
Feltresults[].response.request_id | Typestring |
Feil og neste trinn
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldig struktur i det dokumenterte formatet med innebygde forespørsler, dupliserte nøkler, ugyldig elementidentitet eller konflikt med modellens konfigurerte funksjoner. | Neste trinnRett de angitte feltene før du sender en ny forespørsel. |
Svar401 · authentication_error | VilkårUgyldig API-nøkkel. | Neste trinnBruk den autoriserte Ailoot-nøkkelen. |
Svar403 · permission_error | VilkårGruppen for batchbehandling er ikke tilgjengelig. | Neste trinnKontroller tilgangsrettighetene til nøkkelen/gruppen. |
Svar422 · invalid_request_error | VilkårBatch belastes saldoen; opprettelse via abonnement avvises. | Neste trinnBruk den autoriserte gruppen som belastes saldoen. |
Svar422 · price_unavailable | VilkårDet kan ikke beregnes en pris for batchens inndata. | Neste trinnBevar svaret; bruk de dokumenterte inndataene for API-familien. |
Svar402 · billing_error | VilkårBeløpsreservasjon for batchbehandling er ikke tilgjengelig. | Neste trinnLøs problemet som hindrer forespørselen i å bli godkjent før du sender en ny forespørsel. |
Svar503 · price_unavailable | VilkårPris for Batch-metoden eller systemets innebygde satser er ikke tilgjengelige. | Neste trinnBevar svaret; ikke erstatt prisene. |
Svar503 · api_error | VilkårDen nøyaktige leverandørruten er ikke tilgjengelig. | Neste trinnBevar svaret slik at ruten kan repareres. |
Svar503 · result_pending_check | VilkårDet opprinnelige resultatet må kontrolleres; X-Should-Retry:false. | Neste trinnBevar opprinnelig operation_id/id og les statusen; gjenta aldri den opprinnelige POST-forespørselen. |
Svar404 · not_found | VilkårStatusoperasjonen for batchen finnes ikke eller tilhører en annen identitet. | Neste trinnBruk nøyaktig den opprinnelige id-verdien og samme bruker/nøkkel/gruppe. |
Aliaser
Modellaliaser
Ailoot Ultra mistralai/mistral-large-2512:batch
Aliaser for metodestier
Bruk metodestiene som vises ovenfor.
Tilknyttede anroper-ID-er
FAQ · Mistral: Mistral Large 3 2512 (batch)
- Hvilke inndata og resultater er tilgjengelige?
POST /v1/batches·mistralai/mistral-large-2512:batch:text→text- Hvilke felt bruker forespørselen?
POST /v1/batches·mistralai/mistral-large-2512:batch:endpoint,model,requests,completion_window,provider- Hvilke grenser gjelder?
POST /v1/batches·mistralai/mistral-large-2512:batch:requests.min_items:1