Mistral Large 3 2512 ist die auf Anweisungen abgestimmte Ausgabe von Mistral AI für allgemeine Gespräche, visuelles Verständnis und Unternehmensarbeit. Ihre Sparse-Mixture-of-Experts-Architektur hat insgesamt 675 Milliarden Parameter, davon 41 Milliarden aktiv, und ein Kontextfenster von 256k. Text und Bilder können zur selben Aufgabe beitragen; die Antwort besteht aus Text, Code oder einem strukturierten Ergebnis.
Fähigkeiten und Eingabevorbereitung
Das Modell verbindet eine Sprachkomponente mit einem Bildencoder. Geben Sie einem Bild eine klare Rolle: eine zu lesende Seite, ein zu interpretierendes Diagramm oder einen zu erklärenden Bildschirm. Stellen Sie bei einem dicht belegten Bildschirm einen Ausschnitt mit den relevanten Bedienelementen bereit und bewahren Sie die zum Verständnis nötigen umgebenden Beschriftungen. Mistral empfiehlt annähernd quadratische Bildformen; teilen Sie eine aussergewöhnlich schmale oder breite Quelle in nützliche Bereiche, statt wichtige Details zu einem unlesbaren Streifen zu verkleinern.
Der Hersteller nennt mehrsprachige Gespräche in Dutzenden Sprachen, darunter Englisch, Französisch, Spanisch, Deutsch, Italienisch, Portugiesisch, Niederländisch, Chinesisch, Japanisch, Koreanisch und Arabisch. Geben Sie Ausgabesprache, Zielpublikum und zu bewahrende Terminologie an. Fordern Sie für einen Supportartikel eine lokalisierte Erklärung mit unveränderten Produktnamen und eine kurze Liste unklarer Übersetzungen an, die vor Veröffentlichung zu klären sind.
Lange Dokumente und Unternehmenswissen
Nutzen Sie den Kontext, um zusammengehöriges Material zu verbinden: Richtlinientext, eine Spezifikation, bestehende Entscheidungen und die zu beantwortende Frage. Kennzeichnen Sie jede Quelle und ihre Revision. Eine nützliche Anfrage lautet: «Vergleichen Sie diese drei Onboarding-Richtlinien. Geben Sie eine Tabelle gemeinsamer Anforderungen, Konflikte und unbeantworteter Fragen mit dem Quellabschnitt für jede Erkenntnis zurück.» Das entstehende Artefakt ist ein auf den bereitgestellten Passagen beruhender Vergleich statt einer allgemeinen Themenzusammenfassung.
Benennen Sie bei einer Dokumentfrage den gewünschten Detailgrad und fordern Sie die stützende Passage neben der Schlussfolgerung an. Mistrals Document-QnA-Ablauf extrahiert zunächst Text und Dokumentstruktur per OCR und verwendet anschliessend ein Sprachmodell zur Interpretation dieses Materials. Bewahren Sie bei der Vorbereitung extrahierten Texts Seitenzahlen und Überschriften, damit die Antwort auf das Original verweisen kann. Eine Dokument-URL, extrahierter Text und Bildbelege haben unterschiedliche Vorbereitungsanforderungen; wählen Sie die Eingabeform, die Ihre Anwendung unterstützt.
Programmierung und alltägliche Assistenz
Mistral positioniert Large 3 für Programmierassistenz ebenso wie für tägliche Gespräche. Stellen Sie relevante Funktionen, das erwartete Verhalten und den beobachteten Fehler bereit. Zum Beispiel: «Dieser Parser verwirft das letzte Feld, wenn die Eingabe ohne Zeilenumbruch endet. Erklären Sie den fehlerhaften Zweig, schlagen Sie die kleinste Änderung vor und geben Sie die korrigierte Funktion mit drei repräsentativen Ein-/Ausgabebeispielen zurück.» Das nützliche Ergebnis ist ein mit dem tatsächlichen Code verbundener Änderungsvorschlag samt Fällen, die die Entwicklerin oder der Entwickler ausführen kann.
Stellen Sie für einen geschäftlichen Entwurf die Fakten zusammen mit dem gewünschten Artefakt bereit. Eine Anfrage, Besprechungsnotizen in eine Entscheidungsnotiz umzuwandeln, sollte Entscheidung, Alternativen, ungeklärte Annahmen und nächste Handlung benennen. Bitten Sie das Modell, Quellfakten von Empfehlungen zu trennen und fehlende Informationen im passenden Abschnitt zu markieren. Dadurch lässt sich die Ausgabe leichter überarbeiten als ein undifferenzierter Fliesstext.
Werkzeuge und strukturierte Ergebnisse
Native Funktionsaufrufe erlauben dem Modell, eine bereitgestellte Funktion auszuwählen und ihre Argumente vorzubereiten. Die Anwendung führt diese Funktion aus und gibt ihr Ergebnis zurück; das Modell verwendet die zurückgegebenen Informationen anschliessend in der Antwort. Halten Sie Werkzeuge spezifisch und stellen Sie nur die für die Aufgabe nötigen bereit. Ein Assistent zur Bestandsprüfung kann eine Produktreferenz erhalten, eine Bestandsabfrage anfordern und die zurückgegebene Menge samt Lager erklären. Validieren Sie die ausgewählte Funktion und die Argumente vor der Ausführung und bewahren Sie die Werkzeugantwort neben der abschliessenden Antwort auf.
Geben Sie für eine Extraktion Felder, Typen und den Umgang mit fehlenden Werten an. Mistral dokumentiert den JSON-Modus und benutzerdefinierte strukturierte Ausgaben; sein JSON-Modus erfordert eine ausdrückliche Anweisung, JSON zurückzugeben, während ein benutzerdefiniertes Schema eine stärkere Formatsteuerung bietet. Eine Rechnungszusammenfassung kann Lieferant, Rechnungsnummer, Fälligkeitsdatum, Währung und Positionen verlangen, mit konsistent dargestellten fehlenden Werten. Prüfen Sie extrahierte Werte anhand des Dokuments, selbst wenn die Antwort der gewünschten Struktur entspricht.
Einstellungen und Unterschiede zwischen Ausgaben
Definieren Sie Rolle, Aufgabe und Werkzeugregeln in den Systemanweisungen. Mistral empfiehlt für Produktions- und Alltagsnutzung dieses Checkpoints eine Temperatur unter 0,1; für kreative Aufgaben können höhere Werte erprobt werden. Trennen Sie eine Anfrage nach abwechslungsreichen Ideen von einer reproduzierbaren Extraktion: Geben Sie ersterer Raum für Alternativen und letzterer ausdrückliche Felder und Quellenbedingungen.
Diese Anweisungsausgabe ist vom Large-3-Basischeckpoint und von spezialisierten Denkmodellen getrennt. Der Hersteller nennt strenges Schlussfolgern und spezialisierte visuelle Arbeit als Bereiche, in denen ein eigens dafür entwickeltes Modell vorzuziehen sein kann. Stellen Sie für eine schwierige Berechnung Annahmen und Einheiten bereit, fordern Sie Zwischenprüfungen an und nutzen Sie ein verfügbares Rechenwerkzeug zur Ergebnisprüfung. Bereiten Sie für dichte visuelle Belege lesbare Bereiche vor und vergleichen Sie die Antwort mit der Quelle, bevor Sie sie in einem Bericht verwenden.
", "aboutText": "Mistral Large 3 2512 ist die auf Anweisungen abgestimmte Ausgabe von Mistral AI für allgemeine Gespräche, visuelles Verständnis und Unternehmensarbeit. Ihre Sparse-Mixture-of-Experts-Architektur hat insgesamt 675 Milliarden Parameter, davon 41 Milliarden aktiv, und ein Kontextfenster von 256k. Text und Bilder können zur selben Aufgabe beitragen; die Antwort besteht aus Text, Code oder einem strukturierten Ergebnis.\n\nFähigkeiten und Eingabevorbereitung\n\nDas Modell verbindet eine Sprachkomponente mit einem Bildencoder. Geben Sie einem Bild eine klare Rolle: eine zu lesende Seite, ein zu interpretierendes Diagramm oder einen zu erklärenden Bildschirm. Stellen Sie bei einem dicht belegten Bildschirm einen Ausschnitt mit den relevanten Bedienelementen bereit und bewahren Sie die zum Verständnis nötigen umgebenden Beschriftungen. Mistral empfiehlt annähernd quadratische Bildformen; teilen Sie eine aussergewöhnlich schmale oder breite Quelle in nützliche Bereiche, statt wichtige Details zu einem unlesbaren Streifen zu verkleinern.\n\nDer Hersteller nennt mehrsprachige Gespräche in Dutzenden Sprachen, darunter Englisch, Französisch, Spanisch, Deutsch, Italienisch, Portugiesisch, Niederländisch, Chinesisch, Japanisch, Koreanisch und Arabisch. Geben Sie Ausgabesprache, Zielpublikum und zu bewahrende Terminologie an. Fordern Sie für einen Supportartikel eine lokalisierte Erklärung mit unveränderten Produktnamen und eine kurze Liste unklarer Übersetzungen an, die vor Veröffentlichung zu klären sind.\n\nLange Dokumente und Unternehmenswissen\n\nNutzen Sie den Kontext, um zusammengehöriges Material zu verbinden: Richtlinientext, eine Spezifikation, bestehende Entscheidungen und die zu beantwortende Frage. Kennzeichnen Sie jede Quelle und ihre Revision. Eine nützliche Anfrage lautet: «Vergleichen Sie diese drei Onboarding-Richtlinien. Geben Sie eine Tabelle gemeinsamer Anforderungen, Konflikte und unbeantworteter Fragen mit dem Quellabschnitt für jede Erkenntnis zurück.» Das entstehende Artefakt ist ein auf den bereitgestellten Passagen beruhender Vergleich statt einer allgemeinen Themenzusammenfassung.\n\nBenennen Sie bei einer Dokumentfrage den gewünschten Detailgrad und fordern Sie die stützende Passage neben der Schlussfolgerung an. Mistrals Document-QnA-Ablauf extrahiert zunächst Text und Dokumentstruktur per OCR und verwendet anschliessend ein Sprachmodell zur Interpretation dieses Materials. Bewahren Sie bei der Vorbereitung extrahierten Texts Seitenzahlen und Überschriften, damit die Antwort auf das Original verweisen kann. Eine Dokument-URL, extrahierter Text und Bildbelege haben unterschiedliche Vorbereitungsanforderungen; wählen Sie die Eingabeform, die Ihre Anwendung unterstützt.\n\nProgrammierung und alltägliche Assistenz\n\nMistral positioniert Large 3 für Programmierassistenz ebenso wie für tägliche Gespräche. Stellen Sie relevante Funktionen, das erwartete Verhalten und den beobachteten Fehler bereit. Zum Beispiel: «Dieser Parser verwirft das letzte Feld, wenn die Eingabe ohne Zeilenumbruch endet. Erklären Sie den fehlerhaften Zweig, schlagen Sie die kleinste Änderung vor und geben Sie die korrigierte Funktion mit drei repräsentativen Ein-/Ausgabebeispielen zurück.» Das nützliche Ergebnis ist ein mit dem tatsächlichen Code verbundener Änderungsvorschlag samt Fällen, die die Entwicklerin oder der Entwickler ausführen kann.\n\nStellen Sie für einen geschäftlichen Entwurf die Fakten zusammen mit dem gewünschten Artefakt bereit. Eine Anfrage, Besprechungsnotizen in eine Entscheidungsnotiz umzuwandeln, sollte Entscheidung, Alternativen, ungeklärte Annahmen und nächste Handlung benennen. Bitten Sie das Modell, Quellfakten von Empfehlungen zu trennen und fehlende Informationen im passenden Abschnitt zu markieren. Dadurch lässt sich die Ausgabe leichter überarbeiten als ein undifferenzierter Fliesstext.\n\nWerkzeuge und strukturierte Ergebnisse\n\nNative Funktionsaufrufe erlauben dem Modell, eine bereitgestellte Funktion auszuwählen und ihre Argumente vorzubereiten. Die Anwendung führt diese Funktion aus und gibt ihr Ergebnis zurück; das Modell verwendet die zurückgegebenen Informationen anschliessend in der Antwort. Halten Sie Werkzeuge spezifisch und stellen Sie nur die für die Aufgabe nötigen bereit. Ein Assistent zur Bestandsprüfung kann eine Produktreferenz erhalten, eine Bestandsabfrage anfordern und die zurückgegebene Menge samt Lager erklären. Validieren Sie die ausgewählte Funktion und die Argumente vor der Ausführung und bewahren Sie die Werkzeugantwort neben der abschliessenden Antwort auf.\n\nGeben Sie für eine Extraktion Felder, Typen und den Umgang mit fehlenden Werten an. Mistral dokumentiert den JSON-Modus und benutzerdefinierte strukturierte Ausgaben; sein JSON-Modus erfordert eine ausdrückliche Anweisung, JSON zurückzugeben, während ein benutzerdefiniertes Schema eine stärkere Formatsteuerung bietet. Eine Rechnungszusammenfassung kann Lieferant, Rechnungsnummer, Fälligkeitsdatum, Währung und Positionen verlangen, mit konsistent dargestellten fehlenden Werten. Prüfen Sie extrahierte Werte anhand des Dokuments, selbst wenn die Antwort der gewünschten Struktur entspricht.\n\nEinstellungen und Unterschiede zwischen Ausgaben\n\nDefinieren Sie Rolle, Aufgabe und Werkzeugregeln in den Systemanweisungen. Mistral empfiehlt für Produktions- und Alltagsnutzung dieses Checkpoints eine Temperatur unter 0,1; für kreative Aufgaben können höhere Werte erprobt werden. Trennen Sie eine Anfrage nach abwechslungsreichen Ideen von einer reproduzierbaren Extraktion: Geben Sie ersterer Raum für Alternativen und letzterer ausdrückliche Felder und Quellenbedingungen.\n\nDiese Anweisungsausgabe ist vom Large-3-Basischeckpoint und von spezialisierten Denkmodellen getrennt. Der Hersteller nennt strenges Schlussfolgern und spezialisierte visuelle Arbeit als Bereiche, in denen ein eigens dafür entwickeltes Modell vorzuziehen sein kann. Stellen Sie für eine schwierige Berechnung Annahmen und Einheiten bereit, fordern Sie Zwischenprüfungen an und nutzen Sie ein verfügbares Rechenwerkzeug zur Ergebnisprüfung. Bereiten Sie für dichte visuelle Belege lesbare Bereiche vor und vergleichen Sie die Antwort mit der Quelle, bevor Sie sie in einem Bericht verwenden.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "9ba6fc1c6cd43ee4c7491f1d565c71f9ace00e9823aca8b7a21558fe9fa18814", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "de-ch", "methods": [ { "html": "mistralai/mistral-large-2512:batchMistral Large 3 2512 ist ein mehrsprachiges Text- und Bildmodell für lange Dokumente, Unternehmenswissen, Programmierung und werkzeuggestützte Arbeit. Sein Kontext von 256k, native Funktionsaufrufe und strukturierte Ausgaben helfen, bereitgestellte Belege in Antworten, Datensätze und vorgeschlagene Handlungen umzusetzen.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Mistral Large 3 2512 ist die auf Anweisungen abgestimmte Ausgabe von Mistral AI für allgemeine Gespräche, visuelles Verständnis und Unternehmensarbeit. Ihre Sparse-Mixture-of-Experts-Architektur hat insgesamt 675 Milliarden Parameter, davon 41 Milliarden aktiv, und ein Kontextfenster von 256k. Text und Bilder können zur selben Aufgabe beitragen; die Antwort besteht aus Text, Code oder einem strukturierten Ergebnis.
Fähigkeiten und Eingabevorbereitung
Das Modell verbindet eine Sprachkomponente mit einem Bildencoder. Geben Sie einem Bild eine klare Rolle: eine zu lesende Seite, ein zu interpretierendes Diagramm oder einen zu erklärenden Bildschirm. Stellen Sie bei einem dicht belegten Bildschirm einen Ausschnitt mit den relevanten Bedienelementen bereit und bewahren Sie die zum Verständnis nötigen umgebenden Beschriftungen. Mistral empfiehlt annähernd quadratische Bildformen; teilen Sie eine aussergewöhnlich schmale oder breite Quelle in nützliche Bereiche, statt wichtige Details zu einem unlesbaren Streifen zu verkleinern.
Der Hersteller nennt mehrsprachige Gespräche in Dutzenden Sprachen, darunter Englisch, Französisch, Spanisch, Deutsch, Italienisch, Portugiesisch, Niederländisch, Chinesisch, Japanisch, Koreanisch und Arabisch. Geben Sie Ausgabesprache, Zielpublikum und zu bewahrende Terminologie an. Fordern Sie für einen Supportartikel eine lokalisierte Erklärung mit unveränderten Produktnamen und eine kurze Liste unklarer Übersetzungen an, die vor Veröffentlichung zu klären sind.
Lange Dokumente und Unternehmenswissen
Nutzen Sie den Kontext, um zusammengehöriges Material zu verbinden: Richtlinientext, eine Spezifikation, bestehende Entscheidungen und die zu beantwortende Frage. Kennzeichnen Sie jede Quelle und ihre Revision. Eine nützliche Anfrage lautet: «Vergleichen Sie diese drei Onboarding-Richtlinien. Geben Sie eine Tabelle gemeinsamer Anforderungen, Konflikte und unbeantworteter Fragen mit dem Quellabschnitt für jede Erkenntnis zurück.» Das entstehende Artefakt ist ein auf den bereitgestellten Passagen beruhender Vergleich statt einer allgemeinen Themenzusammenfassung.
Benennen Sie bei einer Dokumentfrage den gewünschten Detailgrad und fordern Sie die stützende Passage neben der Schlussfolgerung an. Mistrals Document-QnA-Ablauf extrahiert zunächst Text und Dokumentstruktur per OCR und verwendet anschliessend ein Sprachmodell zur Interpretation dieses Materials. Bewahren Sie bei der Vorbereitung extrahierten Texts Seitenzahlen und Überschriften, damit die Antwort auf das Original verweisen kann. Eine Dokument-URL, extrahierter Text und Bildbelege haben unterschiedliche Vorbereitungsanforderungen; wählen Sie die Eingabeform, die Ihre Anwendung unterstützt.
Programmierung und alltägliche Assistenz
Mistral positioniert Large 3 für Programmierassistenz ebenso wie für tägliche Gespräche. Stellen Sie relevante Funktionen, das erwartete Verhalten und den beobachteten Fehler bereit. Zum Beispiel: «Dieser Parser verwirft das letzte Feld, wenn die Eingabe ohne Zeilenumbruch endet. Erklären Sie den fehlerhaften Zweig, schlagen Sie die kleinste Änderung vor und geben Sie die korrigierte Funktion mit drei repräsentativen Ein-/Ausgabebeispielen zurück.» Das nützliche Ergebnis ist ein mit dem tatsächlichen Code verbundener Änderungsvorschlag samt Fällen, die die Entwicklerin oder der Entwickler ausführen kann.
Stellen Sie für einen geschäftlichen Entwurf die Fakten zusammen mit dem gewünschten Artefakt bereit. Eine Anfrage, Besprechungsnotizen in eine Entscheidungsnotiz umzuwandeln, sollte Entscheidung, Alternativen, ungeklärte Annahmen und nächste Handlung benennen. Bitten Sie das Modell, Quellfakten von Empfehlungen zu trennen und fehlende Informationen im passenden Abschnitt zu markieren. Dadurch lässt sich die Ausgabe leichter überarbeiten als ein undifferenzierter Fliesstext.
Werkzeuge und strukturierte Ergebnisse
Native Funktionsaufrufe erlauben dem Modell, eine bereitgestellte Funktion auszuwählen und ihre Argumente vorzubereiten. Die Anwendung führt diese Funktion aus und gibt ihr Ergebnis zurück; das Modell verwendet die zurückgegebenen Informationen anschliessend in der Antwort. Halten Sie Werkzeuge spezifisch und stellen Sie nur die für die Aufgabe nötigen bereit. Ein Assistent zur Bestandsprüfung kann eine Produktreferenz erhalten, eine Bestandsabfrage anfordern und die zurückgegebene Menge samt Lager erklären. Validieren Sie die ausgewählte Funktion und die Argumente vor der Ausführung und bewahren Sie die Werkzeugantwort neben der abschliessenden Antwort auf.
Geben Sie für eine Extraktion Felder, Typen und den Umgang mit fehlenden Werten an. Mistral dokumentiert den JSON-Modus und benutzerdefinierte strukturierte Ausgaben; sein JSON-Modus erfordert eine ausdrückliche Anweisung, JSON zurückzugeben, während ein benutzerdefiniertes Schema eine stärkere Formatsteuerung bietet. Eine Rechnungszusammenfassung kann Lieferant, Rechnungsnummer, Fälligkeitsdatum, Währung und Positionen verlangen, mit konsistent dargestellten fehlenden Werten. Prüfen Sie extrahierte Werte anhand des Dokuments, selbst wenn die Antwort der gewünschten Struktur entspricht.
Einstellungen und Unterschiede zwischen Ausgaben
Definieren Sie Rolle, Aufgabe und Werkzeugregeln in den Systemanweisungen. Mistral empfiehlt für Produktions- und Alltagsnutzung dieses Checkpoints eine Temperatur unter 0,1; für kreative Aufgaben können höhere Werte erprobt werden. Trennen Sie eine Anfrage nach abwechslungsreichen Ideen von einer reproduzierbaren Extraktion: Geben Sie ersterer Raum für Alternativen und letzterer ausdrückliche Felder und Quellenbedingungen.
Diese Anweisungsausgabe ist vom Large-3-Basischeckpoint und von spezialisierten Denkmodellen getrennt. Der Hersteller nennt strenges Schlussfolgern und spezialisierte visuelle Arbeit als Bereiche, in denen ein eigens dafür entwickeltes Modell vorzuziehen sein kann. Stellen Sie für eine schwierige Berechnung Annahmen und Einheiten bereit, fordern Sie Zwischenprüfungen an und nutzen Sie ein verfügbares Rechenwerkzeug zur Ergebnisprüfung. Bereiten Sie für dichte visuelle Belege lesbare Bereiche vor und vergleichen Sie die Antwort mit der Quelle, bevor Sie sie in einem Bericht verwenden.
POST /v1/batchestexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldendpoint | Typstring | AnforderungErforderlich | Werte und Limits /v1/chat/completions | Standard— |
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits mistralai/mistral-large-2512:batch | Standard— |
Feldrequests | Typbatch_item[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldrequests[].custom_id | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldrequests[].body.messages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldcompletion_window | Typstring | AnforderungOptional | Werte und Limits 24h | Standard— |
Feldprovider | Typobject|null | AnforderungOptional | Werte und Limits | Standard— |
Feldrequests[].body.model | Typstring | AnforderungOptional | Werte und Limits mistralai/mistral-large-2512:batch, mistralai/mistral-large-2512 | Standard— |
Feldprovider.only | Typstring[] | AnforderungOptional | Werte und Limits mistral | Standard— |
Feldprovider.allow_fallbacks | Typboolean|null | AnforderungOptional | Werte und Limits false, null | Standard— |
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragendpoint, model, requests |
Parametermaterial_types | Vertragtext |
Parameterrepresentation | Vertrageingebettete requests[]; jedes Element enthält custom_id und body |
Parameterrequest_endpoint_profile | Vertrag/v1/chat/completions |
Parameterfile_material | VertragDer Aufrufer kann tatsächliches UTF-8-JSONL lokal in requests[] einlesen. Es werden weder ein Upload-Zweck noch input_file_id oder eine Dateireferenz verwendet. Fehlendes oder leeres Kundenmaterial stoppt die Vorbereitung vor POST. |
Parameterserialization_order | Vertragendpoint, model, provider (falls angegeben), completion_window (falls angegeben), requests als letztes Feld |
Parameteroptional_controls | Vertragprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | VertragAnfragekörper für Text Chat Completions in der dokumentierten Inline-Batch-Struktur. |
Lebenszyklus: asynchronous
GET /v1/batches/{operation_id} · die tatsächliche response.id der ursprünglichen Erstellungsantwort; derselbe Nutzer/Schlüssel/dieselbe Gruppe
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschliesslich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0005 / 1K Tokens Ausgabe · Ausgabetoken $0.0015 / 1K Tokens Eingabe · Cache lesen $0.00005 / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0005 / 1K Tokens Ausgabe · Ausgabetoken $0.0015 / 1K Tokens Eingabe · Cache lesen $0.00005 / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschliessenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-large-2512:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/mistral-large-2512:batch', 'mistralai/mistral-large-2512']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-large-2512:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\neingebettetes JSON unter results[].response.body
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nBewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Das vollständige ursprüngliche Status-JSON, jedes Ergebnis/jede custom_id und den vollständigen Antwort- oder Fehlerkörper aufbewahren. Abgeschlossene results[] ohne Filterung als JSONL speichern.
Die ursprüngliche Vorgangs-ID beibehalten. Bei 503 result_pending_check gilt X-Should-Retry:false; einen ursprünglichen Batch mit unbekanntem Ausgang niemals erneut einreichen.
| Feld | Typ |
|---|---|
Feldresults[].custom_id | Typstring |
Feldresults[].response.body.choices[].message.content | Typstring|null |
Feldresults[].error | Typobject|null |
Feldusage | Typobject|null |
Feldid | Typstring |
Feldmodel | Typstring |
Feldendpoint | Typstring |
Feldstatus | Typstring |
Feldrequest_counts | Typobject |
Feldresults[].id | Typstring |
Feldresults[].response.status_code | Typinteger |
Feldresults[].response.request_id | Typstring |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungUngültige Struktur der dokumentierten Inline-Einbettung, doppelte Schlüssel, ungültige Identitätsangaben zu einem Element oder ein Konflikt mit den konfigurierten Modellfähigkeiten. | Nächster SchrittDie angegebenen Felder vor jeder neuen Einreichung korrigieren. |
Antwort401 · authentication_error | BedingungUngültiger API-Schlüssel. | Nächster SchrittDen autorisierten Ailoot-Schlüssel verwenden. |
Antwort403 · permission_error | BedingungGruppe für Stapelverarbeitung nicht verfügbar. | Nächster SchrittDie Berechtigung des Schlüssels bzw. der Gruppe prüfen. |
Antwort422 · invalid_request_error | BedingungStapelverarbeitung wird über das Guthaben abgerechnet; die Erstellung über ein Abonnement wird abgelehnt. | Nächster SchrittDie autorisierte Gruppe mit Guthabenabrechnung verwenden. |
Antwort422 · price_unavailable | BedingungFür die Batch-Eingabe kann kein Preisangebot erstellt werden. | Nächster SchrittAntwort aufbewahren; die dokumentierte Eingabe der API-Familie verwenden. |
Antwort402 · billing_error | BedingungReservierung für Stapelverarbeitung nicht verfügbar. | Nächster SchrittDie Zulassung klären, bevor eine neue Anfrage gestellt wird. |
Antwort503 · price_unavailable | BedingungMethodenpreis bzw. native Tarife für Stapelverarbeitung nicht verfügbar. | Nächster SchrittAntwort aufbewahren; keine anderen Preise einsetzen. |
Antwort503 · api_error | BedingungDie genaue Anbieterroute ist nicht verfügbar. | Nächster SchrittAntwort zur Reparatur der Route aufbewahren. |
Antwort503 · result_pending_check | BedingungDas ursprüngliche Ergebnis muss geprüft werden; X-Should-Retry:false. | Nächster SchrittDie ursprüngliche operation_id/id beibehalten und ihren Status lesen; den ursprünglichen POST niemals wiederholen. |
Antwort404 · not_found | BedingungDer Batch-Vorgang, dessen Status abgefragt wird, ist nicht vorhanden oder gehört einer anderen Identität. | Nächster SchrittDie genaue ursprüngliche id und denselben Nutzer/Schlüssel/dieselbe Gruppe verwenden. |
Ailoot Ultra mistralai/mistral-large-2512:batch
Verwenden Sie die oben angezeigten Methodenpfade.