Mistral: Mistral Large 3 2512 (batch)
Mistral Large 3 2512 ist ein mehrsprachiges Text- und Bildmodell für lange Dokumente, Unternehmenswissen, Programmierung und werkzeuggestützte Arbeit. Sein Kontext von 256k, native Funktionsaufrufe und strukturierte Ausgaben helfen, bereitgestellte Belege in Antworten, Datensätze und vorgeschlagene Handlungen umzusetzen.
Über das Modell
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Mistral Large 3 2512 ist die auf Anweisungen abgestimmte Ausgabe von Mistral AI für allgemeine Dialoge, visuelles Verständnis und Unternehmensarbeit. Ihre dünn besetzte Mixture-of-Experts-Architektur hat insgesamt 675 Milliarden Parameter, davon 41 Milliarden aktive, und ein Kontextfenster von 256k. Text und Bilder können zur selben Aufgabe beitragen, während die Antwort als Text, Code oder strukturiertes Ergebnis vorliegt.
Fähigkeiten und Eingabevorbereitung
Das Modell verbindet eine Sprachkomponente mit einem Bildencoder. Gib einem Bild eine klare Rolle: eine zu lesende Seite, ein zu interpretierendes Diagramm oder eine zu erklärende Bildschirmansicht. Stelle bei einer überladenen Ansicht einen Ausschnitt mit den relevanten Bedienelementen bereit und bewahre die umgebenden Beschriftungen, die zu ihrem Verständnis nötig sind. Mistral empfiehlt annähernd quadratische Bildformen; teile eine außergewöhnlich schmale oder breite Quelle in nützliche Bereiche auf, statt wichtige Details zu einem unlesbaren Streifen zu verkleinern.
Der Hersteller nennt mehrsprachige Dialoge in Dutzenden Sprachen, darunter Englisch, Französisch, Spanisch, Deutsch, Italienisch, Portugiesisch, Niederländisch, Chinesisch, Japanisch, Koreanisch und Arabisch. Lege Ausgabesprache, vorgesehene Leser und zu bewahrende Terminologie fest. Fordere für einen Supportartikel eine lokalisierte Erklärung mit unveränderten Produktnamen und eine kurze Liste unsicherer Übersetzungen an, die vor der Veröffentlichung geklärt werden müssen.
Lange Dokumente und Unternehmenswissen
Nutze den Kontext, um zusammengehöriges Material zusammenzuführen: Richtlinientext, eine Spezifikation, bestehende Entscheidungen und die Frage, die eine Antwort benötigt. Kennzeichne jede Quelle und ihre Revision. Eine nützliche Anfrage lautet: „Vergleiche diese drei Onboarding-Richtlinien. Gib eine Tabelle mit gemeinsamen Anforderungen, Konflikten und unbeantworteten Fragen zurück, jeweils mit dem Quellabschnitt zum Befund.“ Das entstehende Artefakt ist ein in den bereitgestellten Passagen verankerter Vergleich statt einer allgemeinen Zusammenfassung des Themas.
Benenne für eine Dokumentfrage den gewünschten Detailgrad und fordere die stützende Passage neben der Schlussfolgerung an. Mistrals Ablauf Document QnA extrahiert zunächst Text und Dokumentstruktur mittels OCR und verwendet dann ein Sprachmodell zur Interpretation dieses Materials. Bewahre beim Aufbereiten extrahierten Texts Seitenzahlen und Überschriften, damit die Antwort auf das Original verweisen kann. Eine Dokument-URL, extrahierter Text und Bildbelege haben unterschiedliche Vorbereitungsanforderungen; wähle die Eingabeform, die die verwendete Anwendung unterstützt.
Programmierung und Alltagshilfe
Mistral positioniert Large 3 sowohl für Programmierunterstützung als auch für Alltagsdialoge. Stelle die relevanten Funktionen, das erwartete Verhalten und den beobachteten Fehler bereit. Beispielsweise: „Dieser Parser verwirft das letzte Feld, wenn die Eingabe ohne Zeilenumbruch endet. Erkläre den fehlschlagenden Zweig, schlage die kleinste Änderung vor und gib die korrigierte Funktion mit drei repräsentativen Ein-/Ausgabebeispielen zurück.“ Das nützliche Ergebnis ist eine Änderung mit Bezug zum tatsächlichen Code und eine Menge von Fällen, die der Entwickler ausführen kann.
Stelle für einen geschäftlichen Entwurf die Fakten und das gewünschte Artefakt gemeinsam bereit. Eine Anfrage, Besprechungsnotizen in eine Entscheidungsvorlage umzuwandeln, sollte Entscheidung, Alternativen, ungeklärte Annahmen und nächste Handlung benennen. Bitte das Modell, Quellenfakten von Empfehlungen getrennt zu halten und fehlende Informationen im passenden Abschnitt zu kennzeichnen. Dies erleichtert die Überarbeitung der Ausgabe gegenüber einer undifferenzierten Erzählung.
Werkzeuge und strukturierte Ergebnisse
Native Funktionsaufrufe ermöglichen dem Modell, eine bereitgestellte Funktion auszuwählen und ihre Argumente vorzubereiten. Die Anwendung führt diese Funktion aus und gibt ihr Ergebnis zurück; das Modell verwendet die zurückgegebenen Informationen anschließend in der Antwort. Halte Werkzeuge spezifisch und stelle nur die für die Aufgabe nötigen bereit. Ein Assistent zur Bestandsprüfung kann eine Produktreferenz erhalten, eine Bestandsabfrage anfordern und die zurückgegebene Menge samt Lager erklären. Validiere die gewählte Funktion und ihre Argumente vor der Ausführung der Anfrage und bewahre die Werkzeugantwort neben der endgültigen Antwort.
Gib für eine Extraktion die Felder, Typen und den Umgang mit fehlenden Werten vor. Mistral dokumentiert JSON-Modus und benutzerdefinierte strukturierte Ausgabe; sein JSON-Modus verlangt eine ausdrückliche Anweisung, JSON zurückzugeben, während ein benutzerdefiniertes Schema stärkere Formatkontrolle liefert. Eine Rechnungszusammenfassung kann Lieferant, Rechnungsnummer, Fälligkeitsdatum, Währung und Rechnungspositionen anfordern, mit einheitlicher Darstellung fehlender Werte. Prüfe die extrahierten Werte anhand des Dokuments, auch wenn die Antwort der gewünschten Struktur entspricht.
Einstellungen und Unterschiede zwischen Ausgaben
Definiere Rolle, Aufgabe und Werkzeugregeln in den Systemanweisungen. Mistral empfiehlt für produktive und alltägliche Nutzung dieses Checkpoints eine Temperatur unter 0,1; höhere Werte können für kreative Aufgaben erprobt werden. Trenne eine Anfrage nach vielfältigen Ideen von einer Anfrage nach reproduzierbarer Extraktion: Gib der ersten Raum für Alternativen und der zweiten ausdrückliche Felder und Quellenbedingungen.
Diese Anweisungsausgabe ist vom Basischeckpoint Large 3 und von speziellen Reasoning-Modellen getrennt. Der Hersteller nennt strenges Schlussfolgern und spezialisierte visuelle Arbeit als Bereiche, in denen ein eigens dafür entworfenes Modell vorzuziehen sein kann. Stelle für eine schwierige Berechnung Annahmen und Einheiten bereit, fordere Zwischenprüfungen an und nutze ein verfügbares Berechnungswerkzeug zur Verifikation des Ergebnisses. Bereite bei dichten visuellen Belegen lesbare Bereiche vor und vergleiche die Antwort mit der Quelle, bevor du sie in einem Bericht verwendest.
Ailoot Ultra · Stapelverarbeitung POST /v1/batches mistralai/mistral-large-2512:batch
mistralai/mistral-large-2512:batch
mistralai/mistral-large-2512:batchStart
Mistral Large 3 2512 ist ein mehrsprachiges Text- und Bildmodell für lange Dokumente, Unternehmenswissen, Programmierung und werkzeuggestützte Arbeit. Sein Kontext von 256k, native Funktionsaufrufe und strukturierte Ausgaben helfen, bereitgestellte Belege in Antworten, Datensätze und vorgeschlagene Handlungen umzusetzen.
- Zulässige Eingaben
- Text
- Ergebnisse
- Text
In Ailoot verfügbar · Eingaben und Methoden
Ailoot Ultra · Stapelverarbeitung POST /v1/batches
- Eingabetypen
text- Ausgabetypen
text- Ausgabeformat
- eingebettetes JSON unter results[].response.body
| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldendpoint | Typstring | AnforderungErforderlich | Werte und Limits /v1/chat/completions | Standard— |
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits mistralai/mistral-large-2512:batch | Standard— |
Feldrequests | Typbatch_item[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldrequests[].custom_id | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldrequests[].body.messages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldcompletion_window | Typstring | AnforderungOptional | Werte und Limits 24h | Standard— |
Feldprovider | Typobject|null | AnforderungOptional | Werte und Limits | Standard— |
Feldrequests[].body.model | Typstring | AnforderungOptional | Werte und Limits mistralai/mistral-large-2512:batch, mistralai/mistral-large-2512 | Standard— |
Feldprovider.only | Typstring[] | AnforderungOptional | Werte und Limits mistral | Standard— |
Feldprovider.allow_fallbacks | Typboolean|null | AnforderungOptional | Werte und Limits false, null | Standard— |
Methodenparameter und Lebenszyklus
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragendpoint, model, requests |
Parametermaterial_types | Vertragtext |
Parameterrepresentation | Vertrageingebettete requests[]; jedes Element enthält custom_id und body |
Parameterrequest_endpoint_profile | Vertrag/v1/chat/completions |
Parameterfile_material | VertragDer Aufrufer kann tatsächliches UTF-8-JSONL lokal in requests[] einlesen. Es werden weder ein Upload-Zweck noch input_file_id oder eine Dateireferenz verwendet. Fehlendes oder leeres Kundenmaterial stoppt die Vorbereitung vor POST. |
Parameterserialization_order | Vertragendpoint, model, provider (falls angegeben), completion_window (falls angegeben), requests als letztes Feld |
Parameteroptional_controls | Vertragprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | VertragAnfragekörper für Text Chat Completions in der dokumentierten Inline-Batch-Struktur. |
Lebenszyklus: asynchronous
GET /v1/batches/{operation_id} · die tatsächliche response.id der ursprünglichen Erstellungsantwort; derselbe Nutzer/Schlüssel/dieselbe Gruppe
Tarife
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
- Schnellmodus
- Nicht angegeben Wenn der Schnellmodus ausgewählt ist
- Flex-Modus
- Nicht angegeben Wenn der Modus flex ausgewählt ist
- Maximaler Denkaufwand
- Nicht angegeben Wenn beim maximalen Denkaufwand die Standardanpassung (default) verwendet wird
- Preise für explizites Caching
- Nicht aktiviert Wenn explizites Caching angefordert wird
Ailoot-Tarife
Preise nach Konfiguration
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0005 / 1K Token Ausgabe · Ausgabetoken $0.0015 / 1K Token Eingabe · Cache-Lesen $0.00005 / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0005 / 1K Token Ausgabe · Ausgabetoken $0.0015 / 1K Token Eingabe · Cache-Lesen $0.00005 / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
Beispielanfragen
Ailoot Ultra · Stapelverarbeitung
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-large-2512:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['mistralai/mistral-large-2512:batch', 'mistralai/mistral-large-2512']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-large-2512:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Ergebnisse abrufen und speichern
Ailoot Ultra · Stapelverarbeitung
eingebettetes JSON unter results[].response.body
GET /v1/batches/{operation_id}
Auftragsstatus prüfen
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Alle fertiggestellten Ergebnisse aufbewahren
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Das vollständige ursprüngliche Status-JSON, jedes Ergebnis/jede custom_id und den vollständigen Antwort- oder Fehlerkörper aufbewahren. Abgeschlossene results[] ohne Filterung als JSONL speichern.
Wenn die ursprüngliche Antwort geprüft werden muss
Die ursprüngliche Vorgangs-ID beibehalten. Bei 503 result_pending_check gilt X-Should-Retry:false; einen ursprünglichen Batch mit unbekanntem Ausgang niemals erneut einreichen.
Antwortfelder
| Feld | Typ |
|---|---|
Feldresults[].custom_id | Typstring |
Feldresults[].response.body.choices[].message.content | Typstring|null |
Feldresults[].error | Typobject|null |
Feldusage | Typobject|null |
Feldid | Typstring |
Feldmodel | Typstring |
Feldendpoint | Typstring |
Feldstatus | Typstring |
Feldrequest_counts | Typobject |
Feldresults[].id | Typstring |
Feldresults[].response.status_code | Typinteger |
Feldresults[].response.request_id | Typstring |
Fehler und nächste Schritte
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungUngültige Struktur der dokumentierten Inline-Einbettung, doppelte Schlüssel, ungültige Identitätsangaben zu einem Element oder ein Konflikt mit den konfigurierten Modellfähigkeiten. | Nächster SchrittDie angegebenen Felder vor jeder neuen Einreichung korrigieren. |
Antwort401 · authentication_error | BedingungUngültiger API-Schlüssel. | Nächster SchrittDen autorisierten Ailoot-Schlüssel verwenden. |
Antwort403 · permission_error | BedingungGruppe für Stapelverarbeitung nicht verfügbar. | Nächster SchrittDie Berechtigung des Schlüssels bzw. der Gruppe prüfen. |
Antwort422 · invalid_request_error | BedingungStapelverarbeitung wird über das Guthaben abgerechnet; die Erstellung über ein Abonnement wird abgelehnt. | Nächster SchrittDie autorisierte Gruppe mit Guthabenabrechnung verwenden. |
Antwort422 · price_unavailable | BedingungFür die Batch-Eingabe kann kein Preisangebot erstellt werden. | Nächster SchrittAntwort aufbewahren; die dokumentierte Eingabe der API-Familie verwenden. |
Antwort402 · billing_error | BedingungReservierung für Stapelverarbeitung nicht verfügbar. | Nächster SchrittDie Zulassung klären, bevor eine neue Anfrage gestellt wird. |
Antwort503 · price_unavailable | BedingungMethodenpreis bzw. native Tarife für Stapelverarbeitung nicht verfügbar. | Nächster SchrittAntwort aufbewahren; keine anderen Preise einsetzen. |
Antwort503 · api_error | BedingungDie genaue Anbieterroute ist nicht verfügbar. | Nächster SchrittAntwort zur Reparatur der Route aufbewahren. |
Antwort503 · result_pending_check | BedingungDas ursprüngliche Ergebnis muss geprüft werden; X-Should-Retry:false. | Nächster SchrittDie ursprüngliche operation_id/id beibehalten und ihren Status lesen; den ursprünglichen POST niemals wiederholen. |
Antwort404 · not_found | BedingungDer Batch-Vorgang, dessen Status abgefragt wird, ist nicht vorhanden oder gehört einer anderen Identität. | Nächster SchrittDie genaue ursprüngliche id und denselben Nutzer/Schlüssel/dieselbe Gruppe verwenden. |
Aliasnamen
Modellaliasnamen
Ailoot Ultra mistralai/mistral-large-2512:batch
Aliasnamen für Methodenpfade
Verwenden Sie die oben angezeigten Methodenpfade.
Zugehörige Aufrufer-IDs
FAQ · Mistral: Mistral Large 3 2512 (batch)
- Welche Eingaben und Ergebnisse sind verfügbar?
POST /v1/batches·mistralai/mistral-large-2512:batch:text→text- Welche Felder verwendet die Anfrage?
POST /v1/batches·mistralai/mistral-large-2512:batch:endpoint,model,requests,completion_window,provider- Welche Grenzen gelten?
POST /v1/batches·mistralai/mistral-large-2512:batch:requests.min_items:1