Ministral 3 8B Instruct 2512 ist das mittelgroße, auf Anweisungen abgestimmte Modell der Ministral-3-Familie von Mistral AI. Der veröffentlichte Modellstand ist für Chat- und Anweisungsaufgaben in FP8-Präzision nachtrainiert. Er verbindet eine Sprachkomponente mit einem Vision-Encoder, nimmt Text und Bilder entgegen und gibt Text statt eines Bild- oder Audioartefakts zurück.
Architektur und zentrale Funktionen
Der Hersteller nennt ein Sprachmodell mit 8,4 Milliarden Parametern und einen Vision-Encoder mit 0,4 Milliarden Parametern. Sein Kontextfenster wird mit 256k beschrieben, und die veröffentlichten Nutzungshinweise verwenden eine standardmäßig konfigurierte Länge von 262.144. Diese Angaben beschreiben diese Ausgabe der Größe 8B; die kleineren 3B- und größeren 14B-Familienmitglieder behalten ihre eigenen Komponentengrößen und Konfigurationen.
Vision erweitert die Modelleingabe über ein schriftliches Gespräch hinaus. Ein Dokumentbild kann mit einer Frage zu einem ausgewählten Feld, Absatz oder sichtbaren Zusammenhang verbunden werden. Ein Screenshot kann mit dem Ziel des Nutzers und einer Aufforderung zur Identifikation des relevanten Bedienelements kombiniert werden. Verlangen Sie für jede Schlussfolgerung die stützende Beobachtung, wenn die Antwort von visuellen Details abhängt, und bewahren Sie Überschriften, Beschriftungen und Einheiten, die zur Interpretation eines Ausschnitts nötig sind.
Die Modellkarte beschreibt mehrsprachige Arbeit in Dutzenden Sprachen, darunter Englisch, Französisch, Spanisch, Deutsch, Italienisch, Portugiesisch, Niederländisch, Chinesisch, Japanisch, Koreanisch und Arabisch. Sie nennt außerdem die Einhaltung von Systemanweisungen, native Funktionsaufrufe und JSON-Ausgaben. Definieren Sie Zielsprache, Rolle und Ausgabeanforderungen ausdrücklich, statt das Modell das beabsichtigte Artefakt aus einer großen Eingabe erschließen zu lassen.
Dokument-, Gesprächs- und Agentenaufgaben
Zu den Anwendungsfällen des Herstellers zählen Chatschnittstellen, Alltagsassistenten, Bild- und Dokumentbeschreibungen, Übersetzung, Inhaltserzeugung und spezialisierte Agenten. Stellen Sie für einen Dokumentassistenten die Seite bereit und geben Sie die zurückzugebenden Informationen an. Eine Extraktionsanfrage kann Feldbezeichnungen, erwartete Typen und den Umgang mit fehlenden Werten benennen. Eine nützliche Antwort könnte die Dokumentkennung, den extrahierten Wert und eine kurze, auf die sichtbare Quelle bezogene Erklärung enthalten.
Bewahren Sie für ein laufendes Gespräch die relevante vorherige Antwort und stellen Sie eine gezielte Folgefrage. Ein Nutzer kann zuerst eine Dokumentzusammenfassung verlangen und danach fragen, welche Aussage eine bestimmte Schlussfolgerung stützt. Dadurch ändert sich die geforderte Ausgabe von einem allgemeinen Überblick zu einer quellenbezogenen Erklärung, während das ursprüngliche Material und der Gesprächszweck erhalten bleiben.
Stellen Sie für mehrsprachige Bearbeitung die ursprüngliche Passage, die Zielgruppe und eine Terminologieliste bereit. Verlangen Sie eine überarbeitete Version, die Namen, Bedingungen und Einheiten bewahrt, gegebenenfalls gefolgt von einer kurzen Erklärung der Änderungen. Geben Sie für die Inhaltserzeugung die Zielgruppe und die einzufügenden Fakten an, bevor Sie einen kurzen Entwurf oder alternative Formulierungen verlangen.
Bei einer Agentenaufgabe stellt die Anwendung die Werkzeuge und ihre Parameter bereit. Das Modell kann eine Funktion wählen und Argumente vorbereiten, während die Anwendung sie ausführt und das Ergebnis zurückliefert. Das Funktionsbeispiel der Modellkarte verbindet eine Bildfrage mit einem Berechnungswerkzeug. Halten Sie das Werkzeugergebnis vom vorgeschlagenen Aufruf getrennt, damit die anschließende schriftliche Antwort die tatsächlich von der Operation zurückgegebenen Informationen verwendet.
Empfohlene Vorbereitung und Einstellungen
Der Hersteller empfiehlt eine Systemanweisung, die Umgebung, Anwendungsfall und die vorgesehene Werkzeugnutzung beschreibt. Halten Sie die Werkzeugmenge klar definiert und auf das für die Aufgabe erforderliche Minimum begrenzt. Ein kleiner Abfrageablauf kann die für die aktuelle Frage relevanten Funktionen mit klar benannten Pflichtargumenten anbieten, statt eine große Sammlung nicht zusammenhängender Operationen zu präsentieren.
Für alltägliche und produktionsnahe Nutzung empfiehlt die Modellkarte eine Temperatur unter 0.1; höhere Temperaturen stehen für kreative Erkundung zur Verfügung. Behandeln Sie dies als Empfehlung für den Anweisungsablauf und nicht als gesonderte Reasoning-Modus-Steuerung. Die Familie hat eigene Modellstände als Base, Instruct und Reasoning; dieser Eintrag bezeichnet die Ausgabe Instruct 2512 und nicht die gesonderte Reasoning-Veröffentlichung derselben Größe.
Für Bilder empfiehlt der Hersteller Seitenverhältnisse nahe 1:1 und rät von sehr schmalen oder sehr breiten Eingaben ab. Schneiden Sie bei Bedarf zu und bewahren Sie dabei Beschriftungen und Kontext, die die Frage erfordert. Enthält eine Seite mehrere nicht zusammengehörige Bereiche, benennen Sie den zu prüfenden Teil und das zurückzugebende Ergebnis. Ein lesbares, fokussiertes Bild ist nützlicher als die Aufforderung an das Modell, zu erraten, welches kleine Detail auf einer umfassenden Seite wichtig ist.
Kontext und Grenzen der Ausgabe
Planen Sie Text, Bilder, Gespräch und gewünschte Antwort im Rahmen des konfigurierten Kontexts. Die Nutzungshinweise erlauben ausdrücklich eine Verringerung der konfigurierten Modelllänge, wenn weniger Kontext benötigt wird; das volle Fenster ist daher keine Aufforderung, jede Anfrage mit allem verfügbaren Material zu füllen. Das Generierungsbeispiel mit 512 Tokens in der Modellkarte ist nur eine Beispieleinstellung, und die gelesenen Quellen belegen keine gesonderte harte maximale Antwortlänge.
Der FP8-Instruct-Modellstand, die vortrainierte Base-Veröffentlichung und die Reasoning-Veröffentlichung sind getrennte Ausgaben. Der Hersteller nennt auch Spezialisierung und Feinabstimmung als Anwendungsfälle. Bewahren Sie bei der Vorbereitung des Gesprächs den benannten Modellstand und seinen Tokenizer und trennen Sie Textgenerierung von Repository-Zugriff, Funktionsausführung oder anderen Aktionen, die die umgebende Anwendung bereitstellt.
", "aboutText": "Ministral 3 8B Instruct 2512 ist das mittelgroße, auf Anweisungen abgestimmte Modell der Ministral-3-Familie von Mistral AI. Der veröffentlichte Modellstand ist für Chat- und Anweisungsaufgaben in FP8-Präzision nachtrainiert. Er verbindet eine Sprachkomponente mit einem Vision-Encoder, nimmt Text und Bilder entgegen und gibt Text statt eines Bild- oder Audioartefakts zurück.\n\nArchitektur und zentrale Funktionen\n\nDer Hersteller nennt ein Sprachmodell mit 8,4 Milliarden Parametern und einen Vision-Encoder mit 0,4 Milliarden Parametern. Sein Kontextfenster wird mit 256k beschrieben, und die veröffentlichten Nutzungshinweise verwenden eine standardmäßig konfigurierte Länge von 262.144. Diese Angaben beschreiben diese Ausgabe der Größe 8B; die kleineren 3B- und größeren 14B-Familienmitglieder behalten ihre eigenen Komponentengrößen und Konfigurationen.\n\nVision erweitert die Modelleingabe über ein schriftliches Gespräch hinaus. Ein Dokumentbild kann mit einer Frage zu einem ausgewählten Feld, Absatz oder sichtbaren Zusammenhang verbunden werden. Ein Screenshot kann mit dem Ziel des Nutzers und einer Aufforderung zur Identifikation des relevanten Bedienelements kombiniert werden. Verlangen Sie für jede Schlussfolgerung die stützende Beobachtung, wenn die Antwort von visuellen Details abhängt, und bewahren Sie Überschriften, Beschriftungen und Einheiten, die zur Interpretation eines Ausschnitts nötig sind.\n\nDie Modellkarte beschreibt mehrsprachige Arbeit in Dutzenden Sprachen, darunter Englisch, Französisch, Spanisch, Deutsch, Italienisch, Portugiesisch, Niederländisch, Chinesisch, Japanisch, Koreanisch und Arabisch. Sie nennt außerdem die Einhaltung von Systemanweisungen, native Funktionsaufrufe und JSON-Ausgaben. Definieren Sie Zielsprache, Rolle und Ausgabeanforderungen ausdrücklich, statt das Modell das beabsichtigte Artefakt aus einer großen Eingabe erschließen zu lassen.\n\nDokument-, Gesprächs- und Agentenaufgaben\n\nZu den Anwendungsfällen des Herstellers zählen Chatschnittstellen, Alltagsassistenten, Bild- und Dokumentbeschreibungen, Übersetzung, Inhaltserzeugung und spezialisierte Agenten. Stellen Sie für einen Dokumentassistenten die Seite bereit und geben Sie die zurückzugebenden Informationen an. Eine Extraktionsanfrage kann Feldbezeichnungen, erwartete Typen und den Umgang mit fehlenden Werten benennen. Eine nützliche Antwort könnte die Dokumentkennung, den extrahierten Wert und eine kurze, auf die sichtbare Quelle bezogene Erklärung enthalten.\n\nBewahren Sie für ein laufendes Gespräch die relevante vorherige Antwort und stellen Sie eine gezielte Folgefrage. Ein Nutzer kann zuerst eine Dokumentzusammenfassung verlangen und danach fragen, welche Aussage eine bestimmte Schlussfolgerung stützt. Dadurch ändert sich die geforderte Ausgabe von einem allgemeinen Überblick zu einer quellenbezogenen Erklärung, während das ursprüngliche Material und der Gesprächszweck erhalten bleiben.\n\nStellen Sie für mehrsprachige Bearbeitung die ursprüngliche Passage, die Zielgruppe und eine Terminologieliste bereit. Verlangen Sie eine überarbeitete Version, die Namen, Bedingungen und Einheiten bewahrt, gegebenenfalls gefolgt von einer kurzen Erklärung der Änderungen. Geben Sie für die Inhaltserzeugung die Zielgruppe und die einzufügenden Fakten an, bevor Sie einen kurzen Entwurf oder alternative Formulierungen verlangen.\n\nBei einer Agentenaufgabe stellt die Anwendung die Werkzeuge und ihre Parameter bereit. Das Modell kann eine Funktion wählen und Argumente vorbereiten, während die Anwendung sie ausführt und das Ergebnis zurückliefert. Das Funktionsbeispiel der Modellkarte verbindet eine Bildfrage mit einem Berechnungswerkzeug. Halten Sie das Werkzeugergebnis vom vorgeschlagenen Aufruf getrennt, damit die anschließende schriftliche Antwort die tatsächlich von der Operation zurückgegebenen Informationen verwendet.\n\nEmpfohlene Vorbereitung und Einstellungen\n\nDer Hersteller empfiehlt eine Systemanweisung, die Umgebung, Anwendungsfall und die vorgesehene Werkzeugnutzung beschreibt. Halten Sie die Werkzeugmenge klar definiert und auf das für die Aufgabe erforderliche Minimum begrenzt. Ein kleiner Abfrageablauf kann die für die aktuelle Frage relevanten Funktionen mit klar benannten Pflichtargumenten anbieten, statt eine große Sammlung nicht zusammenhängender Operationen zu präsentieren.\n\nFür alltägliche und produktionsnahe Nutzung empfiehlt die Modellkarte eine Temperatur unter 0.1; höhere Temperaturen stehen für kreative Erkundung zur Verfügung. Behandeln Sie dies als Empfehlung für den Anweisungsablauf und nicht als gesonderte Reasoning-Modus-Steuerung. Die Familie hat eigene Modellstände als Base, Instruct und Reasoning; dieser Eintrag bezeichnet die Ausgabe Instruct 2512 und nicht die gesonderte Reasoning-Veröffentlichung derselben Größe.\n\nFür Bilder empfiehlt der Hersteller Seitenverhältnisse nahe 1:1 und rät von sehr schmalen oder sehr breiten Eingaben ab. Schneiden Sie bei Bedarf zu und bewahren Sie dabei Beschriftungen und Kontext, die die Frage erfordert. Enthält eine Seite mehrere nicht zusammengehörige Bereiche, benennen Sie den zu prüfenden Teil und das zurückzugebende Ergebnis. Ein lesbares, fokussiertes Bild ist nützlicher als die Aufforderung an das Modell, zu erraten, welches kleine Detail auf einer umfassenden Seite wichtig ist.\n\nKontext und Grenzen der Ausgabe\n\nPlanen Sie Text, Bilder, Gespräch und gewünschte Antwort im Rahmen des konfigurierten Kontexts. Die Nutzungshinweise erlauben ausdrücklich eine Verringerung der konfigurierten Modelllänge, wenn weniger Kontext benötigt wird; das volle Fenster ist daher keine Aufforderung, jede Anfrage mit allem verfügbaren Material zu füllen. Das Generierungsbeispiel mit 512 Tokens in der Modellkarte ist nur eine Beispieleinstellung, und die gelesenen Quellen belegen keine gesonderte harte maximale Antwortlänge.\n\nDer FP8-Instruct-Modellstand, die vortrainierte Base-Veröffentlichung und die Reasoning-Veröffentlichung sind getrennte Ausgaben. Der Hersteller nennt auch Spezialisierung und Feinabstimmung als Anwendungsfälle. Bewahren Sie bei der Vorbereitung des Gesprächs den benannten Modellstand und seinen Tokenizer und trennen Sie Textgenerierung von Repository-Zugriff, Funktionsausführung oder anderen Aktionen, die die umgebende Anwendung bereitstellt.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "137b3c3f7661f376589fbe53e16ffb62380f050686cdcc4ee7f01391638fa5c3", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "de-at", "methods": [ { "html": "mistralai/ministral-8b-2512:batchMinistral 3 8B Instruct 2512 ist ein mehrsprachiges Text- und Bild-Anweisungsmodell mit einer Sprachkomponente von 8,4 Milliarden Parametern und einem Vision-Encoder von 0,4 Milliarden Parametern. Es unterstützt einen vom Hersteller angegebenen Kontext von 256k, Systemanweisungen, JSON und native Funktionsaufrufe für Assistenten und Dokumentabläufe.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Ministral 3 8B Instruct 2512 ist das mittelgroße, auf Anweisungen abgestimmte Modell der Ministral-3-Familie von Mistral AI. Der veröffentlichte Modellstand ist für Chat- und Anweisungsaufgaben in FP8-Präzision nachtrainiert. Er verbindet eine Sprachkomponente mit einem Vision-Encoder, nimmt Text und Bilder entgegen und gibt Text statt eines Bild- oder Audioartefakts zurück.
Architektur und zentrale Funktionen
Der Hersteller nennt ein Sprachmodell mit 8,4 Milliarden Parametern und einen Vision-Encoder mit 0,4 Milliarden Parametern. Sein Kontextfenster wird mit 256k beschrieben, und die veröffentlichten Nutzungshinweise verwenden eine standardmäßig konfigurierte Länge von 262.144. Diese Angaben beschreiben diese Ausgabe der Größe 8B; die kleineren 3B- und größeren 14B-Familienmitglieder behalten ihre eigenen Komponentengrößen und Konfigurationen.
Vision erweitert die Modelleingabe über ein schriftliches Gespräch hinaus. Ein Dokumentbild kann mit einer Frage zu einem ausgewählten Feld, Absatz oder sichtbaren Zusammenhang verbunden werden. Ein Screenshot kann mit dem Ziel des Nutzers und einer Aufforderung zur Identifikation des relevanten Bedienelements kombiniert werden. Verlangen Sie für jede Schlussfolgerung die stützende Beobachtung, wenn die Antwort von visuellen Details abhängt, und bewahren Sie Überschriften, Beschriftungen und Einheiten, die zur Interpretation eines Ausschnitts nötig sind.
Die Modellkarte beschreibt mehrsprachige Arbeit in Dutzenden Sprachen, darunter Englisch, Französisch, Spanisch, Deutsch, Italienisch, Portugiesisch, Niederländisch, Chinesisch, Japanisch, Koreanisch und Arabisch. Sie nennt außerdem die Einhaltung von Systemanweisungen, native Funktionsaufrufe und JSON-Ausgaben. Definieren Sie Zielsprache, Rolle und Ausgabeanforderungen ausdrücklich, statt das Modell das beabsichtigte Artefakt aus einer großen Eingabe erschließen zu lassen.
Dokument-, Gesprächs- und Agentenaufgaben
Zu den Anwendungsfällen des Herstellers zählen Chatschnittstellen, Alltagsassistenten, Bild- und Dokumentbeschreibungen, Übersetzung, Inhaltserzeugung und spezialisierte Agenten. Stellen Sie für einen Dokumentassistenten die Seite bereit und geben Sie die zurückzugebenden Informationen an. Eine Extraktionsanfrage kann Feldbezeichnungen, erwartete Typen und den Umgang mit fehlenden Werten benennen. Eine nützliche Antwort könnte die Dokumentkennung, den extrahierten Wert und eine kurze, auf die sichtbare Quelle bezogene Erklärung enthalten.
Bewahren Sie für ein laufendes Gespräch die relevante vorherige Antwort und stellen Sie eine gezielte Folgefrage. Ein Nutzer kann zuerst eine Dokumentzusammenfassung verlangen und danach fragen, welche Aussage eine bestimmte Schlussfolgerung stützt. Dadurch ändert sich die geforderte Ausgabe von einem allgemeinen Überblick zu einer quellenbezogenen Erklärung, während das ursprüngliche Material und der Gesprächszweck erhalten bleiben.
Stellen Sie für mehrsprachige Bearbeitung die ursprüngliche Passage, die Zielgruppe und eine Terminologieliste bereit. Verlangen Sie eine überarbeitete Version, die Namen, Bedingungen und Einheiten bewahrt, gegebenenfalls gefolgt von einer kurzen Erklärung der Änderungen. Geben Sie für die Inhaltserzeugung die Zielgruppe und die einzufügenden Fakten an, bevor Sie einen kurzen Entwurf oder alternative Formulierungen verlangen.
Bei einer Agentenaufgabe stellt die Anwendung die Werkzeuge und ihre Parameter bereit. Das Modell kann eine Funktion wählen und Argumente vorbereiten, während die Anwendung sie ausführt und das Ergebnis zurückliefert. Das Funktionsbeispiel der Modellkarte verbindet eine Bildfrage mit einem Berechnungswerkzeug. Halten Sie das Werkzeugergebnis vom vorgeschlagenen Aufruf getrennt, damit die anschließende schriftliche Antwort die tatsächlich von der Operation zurückgegebenen Informationen verwendet.
Empfohlene Vorbereitung und Einstellungen
Der Hersteller empfiehlt eine Systemanweisung, die Umgebung, Anwendungsfall und die vorgesehene Werkzeugnutzung beschreibt. Halten Sie die Werkzeugmenge klar definiert und auf das für die Aufgabe erforderliche Minimum begrenzt. Ein kleiner Abfrageablauf kann die für die aktuelle Frage relevanten Funktionen mit klar benannten Pflichtargumenten anbieten, statt eine große Sammlung nicht zusammenhängender Operationen zu präsentieren.
Für alltägliche und produktionsnahe Nutzung empfiehlt die Modellkarte eine Temperatur unter 0.1; höhere Temperaturen stehen für kreative Erkundung zur Verfügung. Behandeln Sie dies als Empfehlung für den Anweisungsablauf und nicht als gesonderte Reasoning-Modus-Steuerung. Die Familie hat eigene Modellstände als Base, Instruct und Reasoning; dieser Eintrag bezeichnet die Ausgabe Instruct 2512 und nicht die gesonderte Reasoning-Veröffentlichung derselben Größe.
Für Bilder empfiehlt der Hersteller Seitenverhältnisse nahe 1:1 und rät von sehr schmalen oder sehr breiten Eingaben ab. Schneiden Sie bei Bedarf zu und bewahren Sie dabei Beschriftungen und Kontext, die die Frage erfordert. Enthält eine Seite mehrere nicht zusammengehörige Bereiche, benennen Sie den zu prüfenden Teil und das zurückzugebende Ergebnis. Ein lesbares, fokussiertes Bild ist nützlicher als die Aufforderung an das Modell, zu erraten, welches kleine Detail auf einer umfassenden Seite wichtig ist.
Kontext und Grenzen der Ausgabe
Planen Sie Text, Bilder, Gespräch und gewünschte Antwort im Rahmen des konfigurierten Kontexts. Die Nutzungshinweise erlauben ausdrücklich eine Verringerung der konfigurierten Modelllänge, wenn weniger Kontext benötigt wird; das volle Fenster ist daher keine Aufforderung, jede Anfrage mit allem verfügbaren Material zu füllen. Das Generierungsbeispiel mit 512 Tokens in der Modellkarte ist nur eine Beispieleinstellung, und die gelesenen Quellen belegen keine gesonderte harte maximale Antwortlänge.
Der FP8-Instruct-Modellstand, die vortrainierte Base-Veröffentlichung und die Reasoning-Veröffentlichung sind getrennte Ausgaben. Der Hersteller nennt auch Spezialisierung und Feinabstimmung als Anwendungsfälle. Bewahren Sie bei der Vorbereitung des Gesprächs den benannten Modellstand und seinen Tokenizer und trennen Sie Textgenerierung von Repository-Zugriff, Funktionsausführung oder anderen Aktionen, die die umgebende Anwendung bereitstellt.
POST /v1/batchestexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldendpoint | Typstring | AnforderungErforderlich | Werte und Limits /v1/chat/completions | Standard— |
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits mistralai/ministral-8b-2512:batch | Standard— |
Feldrequests | Typbatch_item[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldrequests[].custom_id | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldrequests[].body.messages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldcompletion_window | Typstring | AnforderungOptional | Werte und Limits 24h | Standard— |
Feldprovider | Typobject|null | AnforderungOptional | Werte und Limits | Standard— |
Feldrequests[].body.model | Typstring | AnforderungOptional | Werte und Limits mistralai/ministral-8b-2512:batch, mistralai/ministral-8b-2512 | Standard— |
Feldprovider.only | Typstring[] | AnforderungOptional | Werte und Limits mistral | Standard— |
Feldprovider.allow_fallbacks | Typboolean|null | AnforderungOptional | Werte und Limits false, null | Standard— |
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragendpoint, model, requests |
Parametermaterial_types | Vertragtext |
Parameterrepresentation | Vertrageingebettete requests[]; jedes Element enthält custom_id und body |
Parameterrequest_endpoint_profile | Vertrag/v1/chat/completions |
Parameterfile_material | VertragDer Aufrufer kann tatsächliches UTF-8-JSONL lokal in requests[] einlesen. Es werden weder ein Upload-Zweck noch input_file_id oder eine Dateireferenz verwendet. Fehlendes oder leeres Kundenmaterial stoppt die Vorbereitung vor POST. |
Parameterserialization_order | Vertragendpoint, model, provider (falls angegeben), completion_window (falls angegeben), requests als letztes Feld |
Parameteroptional_controls | Vertragprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | VertragAnfragekörper für Text Chat Completions in der dokumentierten Inline-Batch-Struktur. |
Lebenszyklus: asynchronous
GET /v1/batches/{operation_id} · die tatsächliche response.id der ursprünglichen Erstellungsantwort; derselbe Nutzer/Schlüssel/dieselbe Gruppe
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00015 / 1K Tokens Ausgabe · Ausgabetoken $0.00015 / 1K Tokens Eingabe · Cache lesen $0.000015 / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00015 / 1K Tokens Ausgabe · Ausgabetoken $0.00015 / 1K Tokens Eingabe · Cache lesen $0.000015 / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/ministral-8b-2512:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/ministral-8b-2512:batch', 'mistralai/ministral-8b-2512']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/ministral-8b-2512:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\neingebettetes JSON unter results[].response.body
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nBewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Das vollständige ursprüngliche Status-JSON, jedes Ergebnis/jede custom_id und den vollständigen Antwort- oder Fehlerkörper aufbewahren. Abgeschlossene results[] ohne Filterung als JSONL speichern.
Die ursprüngliche Vorgangs-ID beibehalten. Bei 503 result_pending_check gilt X-Should-Retry:false; einen ursprünglichen Batch mit unbekanntem Ausgang niemals erneut einreichen.
| Feld | Typ |
|---|---|
Feldresults[].custom_id | Typstring |
Feldresults[].response.body.choices[].message.content | Typstring|null |
Feldresults[].error | Typobject|null |
Feldusage | Typobject|null |
Feldid | Typstring |
Feldmodel | Typstring |
Feldendpoint | Typstring |
Feldstatus | Typstring |
Feldrequest_counts | Typobject |
Feldresults[].id | Typstring |
Feldresults[].response.status_code | Typinteger |
Feldresults[].response.request_id | Typstring |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungUngültige Struktur der dokumentierten Inline-Einbettung, doppelte Schlüssel, ungültige Identitätsangaben zu einem Element oder ein Konflikt mit den konfigurierten Modellfähigkeiten. | Nächster SchrittDie angegebenen Felder vor jeder neuen Einreichung korrigieren. |
Antwort401 · authentication_error | BedingungUngültiger API-Schlüssel. | Nächster SchrittDen autorisierten Ailoot-Schlüssel verwenden. |
Antwort403 · permission_error | BedingungGruppe für Stapelverarbeitung nicht verfügbar. | Nächster SchrittDie Berechtigung des Schlüssels bzw. der Gruppe prüfen. |
Antwort422 · invalid_request_error | BedingungStapelverarbeitung wird über das Guthaben abgerechnet; die Erstellung über ein Abonnement wird abgelehnt. | Nächster SchrittDie autorisierte Gruppe mit Guthabenabrechnung verwenden. |
Antwort422 · price_unavailable | BedingungFür die Batch-Eingabe kann kein Preisangebot erstellt werden. | Nächster SchrittAntwort aufbewahren; die dokumentierte Eingabe der API-Familie verwenden. |
Antwort402 · billing_error | BedingungReservierung für Stapelverarbeitung nicht verfügbar. | Nächster SchrittDie Zulassung klären, bevor eine neue Anfrage gestellt wird. |
Antwort503 · price_unavailable | BedingungMethodenpreis bzw. native Tarife für Stapelverarbeitung nicht verfügbar. | Nächster SchrittAntwort aufbewahren; keine anderen Preise einsetzen. |
Antwort503 · api_error | BedingungDie genaue Anbieterroute ist nicht verfügbar. | Nächster SchrittAntwort zur Reparatur der Route aufbewahren. |
Antwort503 · result_pending_check | BedingungDas ursprüngliche Ergebnis muss geprüft werden; X-Should-Retry:false. | Nächster SchrittDie ursprüngliche operation_id/id beibehalten und ihren Status lesen; den ursprünglichen POST niemals wiederholen. |
Antwort404 · not_found | BedingungDer Batch-Vorgang, dessen Status abgefragt wird, ist nicht vorhanden oder gehört einer anderen Identität. | Nächster SchrittDie genaue ursprüngliche id und denselben Nutzer/Schlüssel/dieselbe Gruppe verwenden. |
Ailoot Ultra mistralai/ministral-8b-2512:batch
Verwenden Sie die oben angezeigten Methodenpfade.