Mistral Medium 3.5 ist das dichte Modell von Mistral AI mit 128 Milliarden Parametern, das Anweisungsbefolgung, Schlussfolgern und Programmierung in einem einzigen Satz von Gewichten verbindet. Es verarbeitet Text und Bilder und gibt Text zurück. Der Hersteller positioniert es für Agenten- und Programmieraufgaben, während derselbe Checkpoint eine direkte Dialogantwort erzeugen oder seinen dokumentierten Reasoning-Modus für eine anspruchsvollere Aufgabe nutzen kann.
Vereinheitlichtes Modell und visuelle Fähigkeiten
Die veröffentlichte Modellkarte nennt 128 Milliarden dichte Parameter und ein Kontextfenster von 256k. Ihr Bildencoder ist für unterschiedliche Bildgrößen und Seitenverhältnisse trainiert. Bilder können Belege für eine Programmier- oder Dokumentaufgabe liefern: einen Screenshot einer Benutzeroberfläche, ein Diagramm zu einer Anforderung oder eine Seite mit Informationen, die das Modell interpretieren muss. Das Ergebnis kann eine schriftliche Erklärung, Code oder strukturierte Felder statt eines erzeugten Bildes sein.
Der Hersteller beschreibt mehrsprachige Unterstützung für Dutzende Sprachen, darunter Englisch, Französisch, Spanisch, Deutsch, Italienisch, Portugiesisch, Niederländisch, Chinesisch, Japanisch, Koreanisch und Arabisch. Er hebt außerdem die Befolgung von Systemprompts und native Funktionsaufrufe mit JSON-Ausgabe hervor. Lege Zielgruppe, Sprache und Antwortregeln getrennt vom untersuchten Material fest, damit die Formulierungen eines Quelldokuments Belege für die Aufgabe bleiben.
Reasoning-Einstellungen
Die Modellkarte dokumentiert zwei Werte für den Reasoning-Aufwand pro Anfrage. Der Wert none liefert eine anweisungsbasierte Antwort ohne Reasoning-Modus; high aktiviert das Schlussfolgern und wird für komplexe Prompts und agentengestützte Programmierung empfohlen. Dies ist eine Moduswahl innerhalb desselben Checkpoints Medium 3.5 und keine andere Modellidentität.
Bei hohem Reasoning-Aufwand empfiehlt der Hersteller temperature 0.7 und top-p 0.95. Für none dokumentiert er je nach Aufgabe Temperaturen zwischen 0.0 und 0.7 und lässt top-p ungesetzt oder auf 1.0. Dies sind Empfehlungen für diese Veröffentlichung. Wähle zuerst den Zweck der Ausgabe: eine knappe Feldextraktion, eine Codeänderung mit Erklärung oder einen Vergleich, der mehrere begründete Entscheidungen verlangt.
Eine praktische Reasoning-Aufgabe kann eine Anforderung, die Implementierung und die Eingabe bereitstellen, die eine Abweichung sichtbar macht. Bitte das Modell, den relevanten Pfad zu identifizieren, die Abweichung zu erklären und die kleinste Änderung vorzuschlagen, die die öffentliche Schnittstelle bewahrt. Fordere den überarbeiteten Code getrennt von Annahmen und Beispielen an. Das Modell erzeugt einen Vorschlag; Kompilieren, Ausführen und Anwenden benötigen die mit dem Agenten verbundene Entwicklungsumgebung.
Werkzeuge, Dokumente und vorhersehbare Änderungen
Die Dienstkarte des Herstellers nennt außerdem strukturierte Ausgaben, vorhergesagte Ausgaben, Fragen zu Dokumenten, Antwortpräfixe, Stapelverarbeitung und Agentendialoge. Definiere für eine Extraktion die Feldnamen, Typen und den Umgang mit fehlenden Werten. Der JSON-Modus liefert eine strukturierte Darstellung, während ein benutzerdefiniertes Schema eine konkretere Form in der verbundenen Schnittstelle festlegt. Fordere nur den Datensatz an, wenn ein Programm ihn einlesen wird, und eine separate Erklärung, wenn eine Person die Interpretation prüfen muss.
Fragen zu Dokumenten verbinden mittels OCR vorbereiteten Text und Struktur mit dem Verständnis des Sprachmodells. Benenne für einen Vergleich die Dokumente und die zu bewertende Bedingung und fordere anschließend jeden Befund mit seiner Quellstelle an. Eine nützliche Ausgabe kann gemeinsame Anforderungen, Widersprüche und offene Fragen trennen. Direkte Bildfragen können sich auf eine Diagrammbeschriftung oder ein Oberflächenelement konzentrieren; das Bewahren von Überschriften, Einheiten und Bildrollen hilft, die Antwort mit dem bereitgestellten Material zu verbinden.
Vorhergesagte Ausgaben sind für Aufgaben dokumentiert, bei denen große Teile der gewünschten Antwort bereits bekannt sind, etwa die Neugenerierung einer Codedatei oder eines Dokuments mit begrenzten Änderungen. Stelle den bestehenden Inhalt bereit und benenne die konkrete Änderung unter Beibehaltung der Teile, die erhalten bleiben sollen. Dies unterscheidet sich von der Anforderung eines vollständig neuen Artefakts oder einer Fortsetzung ab einem bekannten Antwortpräfix. Die Dienstfunktionen beschreiben Einreichungs- und Formatoptionen; sie ändern weder die Text- und Bildeingabe noch die Textausgabe des Modells.
In einem werkzeuggestützten Ablauf liefert die Anwendung Funktionsbeschreibungen und Parameter, das Modell wählt eine Funktion und bereitet Argumente vor, und die Anwendung führt sie aus und gibt das Ergebnis zurück. Ein Berechnungswerkzeug kann Werte erhalten, die aus einem bereitgestellten Bild gelesen wurden, während ein Abfragewerkzeug fehlende Informationen für die nächste Antwort liefern kann. Bewahre das Werkzeugergebnis zusammen mit der Operation, die es erzeugt hat. Agentengestütztes Schlussfolgern stützt sich auf diese Umgebung; Texterzeugung allein führt keine externen Handlungen aus.
Lange Sitzungen vorbereiten
Nutze den Kontext von 256k für zusammengehörigen Quellcode, Dokumente und Dialogverlauf und halte das eigentliche Ziel ausdrücklich fest. Eine Programmiersitzung kann das Modul, seinen Aufrufer und die Anforderungen bewahren und zugleich eine definierte Änderung verlangen. Eine Dokumentsitzung kann die relevanten Abschnitte zusammenhalten und dabei eine kurze Tabelle oder überarbeitete Passage zurückgeben. Die Kontextkapazität legt keine separate maximale Antwortlänge fest; das Generierungsbeispiel mit 1.024 Tokens in der Modellkarte ist eine Veranschaulichung und keine solche Grenze.
Der Hersteller weist darauf hin, dass eine ältere veröffentlichte Konfiguration einen Fehler für lange Kontexte enthielt und dass dieser korrigiert wurde, auch hinsichtlich seiner Bedeutung für abgeleitete Checkpoints. Bewahre die korrigierte Veröffentlichungskonfiguration, wenn du die Gewichte für lange Sitzungen verwendest. Die hybriden Modi und die Architektur mit 128 Milliarden Parametern von Medium 3.5 sollten weder Medium 3.1 noch einem separat benannten Draft-Head-Checkpoint zugeschrieben werden, nur weil ihre Namen derselben Familie angehören.
", "aboutText": "Mistral Medium 3.5 ist das dichte Modell von Mistral AI mit 128 Milliarden Parametern, das Anweisungsbefolgung, Schlussfolgern und Programmierung in einem einzigen Satz von Gewichten verbindet. Es verarbeitet Text und Bilder und gibt Text zurück. Der Hersteller positioniert es für Agenten- und Programmieraufgaben, während derselbe Checkpoint eine direkte Dialogantwort erzeugen oder seinen dokumentierten Reasoning-Modus für eine anspruchsvollere Aufgabe nutzen kann.\n\nVereinheitlichtes Modell und visuelle Fähigkeiten\n\nDie veröffentlichte Modellkarte nennt 128 Milliarden dichte Parameter und ein Kontextfenster von 256k. Ihr Bildencoder ist für unterschiedliche Bildgrößen und Seitenverhältnisse trainiert. Bilder können Belege für eine Programmier- oder Dokumentaufgabe liefern: einen Screenshot einer Benutzeroberfläche, ein Diagramm zu einer Anforderung oder eine Seite mit Informationen, die das Modell interpretieren muss. Das Ergebnis kann eine schriftliche Erklärung, Code oder strukturierte Felder statt eines erzeugten Bildes sein.\n\nDer Hersteller beschreibt mehrsprachige Unterstützung für Dutzende Sprachen, darunter Englisch, Französisch, Spanisch, Deutsch, Italienisch, Portugiesisch, Niederländisch, Chinesisch, Japanisch, Koreanisch und Arabisch. Er hebt außerdem die Befolgung von Systemprompts und native Funktionsaufrufe mit JSON-Ausgabe hervor. Lege Zielgruppe, Sprache und Antwortregeln getrennt vom untersuchten Material fest, damit die Formulierungen eines Quelldokuments Belege für die Aufgabe bleiben.\n\nReasoning-Einstellungen\n\nDie Modellkarte dokumentiert zwei Werte für den Reasoning-Aufwand pro Anfrage. Der Wert none liefert eine anweisungsbasierte Antwort ohne Reasoning-Modus; high aktiviert das Schlussfolgern und wird für komplexe Prompts und agentengestützte Programmierung empfohlen. Dies ist eine Moduswahl innerhalb desselben Checkpoints Medium 3.5 und keine andere Modellidentität.\n\nBei hohem Reasoning-Aufwand empfiehlt der Hersteller temperature 0.7 und top-p 0.95. Für none dokumentiert er je nach Aufgabe Temperaturen zwischen 0.0 und 0.7 und lässt top-p ungesetzt oder auf 1.0. Dies sind Empfehlungen für diese Veröffentlichung. Wähle zuerst den Zweck der Ausgabe: eine knappe Feldextraktion, eine Codeänderung mit Erklärung oder einen Vergleich, der mehrere begründete Entscheidungen verlangt.\n\nEine praktische Reasoning-Aufgabe kann eine Anforderung, die Implementierung und die Eingabe bereitstellen, die eine Abweichung sichtbar macht. Bitte das Modell, den relevanten Pfad zu identifizieren, die Abweichung zu erklären und die kleinste Änderung vorzuschlagen, die die öffentliche Schnittstelle bewahrt. Fordere den überarbeiteten Code getrennt von Annahmen und Beispielen an. Das Modell erzeugt einen Vorschlag; Kompilieren, Ausführen und Anwenden benötigen die mit dem Agenten verbundene Entwicklungsumgebung.\n\nWerkzeuge, Dokumente und vorhersehbare Änderungen\n\nDie Dienstkarte des Herstellers nennt außerdem strukturierte Ausgaben, vorhergesagte Ausgaben, Fragen zu Dokumenten, Antwortpräfixe, Stapelverarbeitung und Agentendialoge. Definiere für eine Extraktion die Feldnamen, Typen und den Umgang mit fehlenden Werten. Der JSON-Modus liefert eine strukturierte Darstellung, während ein benutzerdefiniertes Schema eine konkretere Form in der verbundenen Schnittstelle festlegt. Fordere nur den Datensatz an, wenn ein Programm ihn einlesen wird, und eine separate Erklärung, wenn eine Person die Interpretation prüfen muss.\n\nFragen zu Dokumenten verbinden mittels OCR vorbereiteten Text und Struktur mit dem Verständnis des Sprachmodells. Benenne für einen Vergleich die Dokumente und die zu bewertende Bedingung und fordere anschließend jeden Befund mit seiner Quellstelle an. Eine nützliche Ausgabe kann gemeinsame Anforderungen, Widersprüche und offene Fragen trennen. Direkte Bildfragen können sich auf eine Diagrammbeschriftung oder ein Oberflächenelement konzentrieren; das Bewahren von Überschriften, Einheiten und Bildrollen hilft, die Antwort mit dem bereitgestellten Material zu verbinden.\n\nVorhergesagte Ausgaben sind für Aufgaben dokumentiert, bei denen große Teile der gewünschten Antwort bereits bekannt sind, etwa die Neugenerierung einer Codedatei oder eines Dokuments mit begrenzten Änderungen. Stelle den bestehenden Inhalt bereit und benenne die konkrete Änderung unter Beibehaltung der Teile, die erhalten bleiben sollen. Dies unterscheidet sich von der Anforderung eines vollständig neuen Artefakts oder einer Fortsetzung ab einem bekannten Antwortpräfix. Die Dienstfunktionen beschreiben Einreichungs- und Formatoptionen; sie ändern weder die Text- und Bildeingabe noch die Textausgabe des Modells.\n\nIn einem werkzeuggestützten Ablauf liefert die Anwendung Funktionsbeschreibungen und Parameter, das Modell wählt eine Funktion und bereitet Argumente vor, und die Anwendung führt sie aus und gibt das Ergebnis zurück. Ein Berechnungswerkzeug kann Werte erhalten, die aus einem bereitgestellten Bild gelesen wurden, während ein Abfragewerkzeug fehlende Informationen für die nächste Antwort liefern kann. Bewahre das Werkzeugergebnis zusammen mit der Operation, die es erzeugt hat. Agentengestütztes Schlussfolgern stützt sich auf diese Umgebung; Texterzeugung allein führt keine externen Handlungen aus.\n\nLange Sitzungen vorbereiten\n\nNutze den Kontext von 256k für zusammengehörigen Quellcode, Dokumente und Dialogverlauf und halte das eigentliche Ziel ausdrücklich fest. Eine Programmiersitzung kann das Modul, seinen Aufrufer und die Anforderungen bewahren und zugleich eine definierte Änderung verlangen. Eine Dokumentsitzung kann die relevanten Abschnitte zusammenhalten und dabei eine kurze Tabelle oder überarbeitete Passage zurückgeben. Die Kontextkapazität legt keine separate maximale Antwortlänge fest; das Generierungsbeispiel mit 1.024 Tokens in der Modellkarte ist eine Veranschaulichung und keine solche Grenze.\n\nDer Hersteller weist darauf hin, dass eine ältere veröffentlichte Konfiguration einen Fehler für lange Kontexte enthielt und dass dieser korrigiert wurde, auch hinsichtlich seiner Bedeutung für abgeleitete Checkpoints. Bewahre die korrigierte Veröffentlichungskonfiguration, wenn du die Gewichte für lange Sitzungen verwendest. Die hybriden Modi und die Architektur mit 128 Milliarden Parametern von Medium 3.5 sollten weder Medium 3.1 noch einem separat benannten Draft-Head-Checkpoint zugeschrieben werden, nur weil ihre Namen derselben Familie angehören.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "de044a45b166a738f1825f0ee66c956734430d58f94589cb5f11821e9200a04d", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "de", "methods": [ { "html": "mistralai/mistral-medium-3-5:batchMistral Medium 3.5 verbindet Anweisungsbefolgung, Schlussfolgern und Programmierung in einem dichten Text- und Bildmodell mit 128 Milliarden Parametern. Es bietet einen vom Hersteller angegebenen Kontext von 256k, Reasoning-Einstellungen pro Anfrage, native Funktionsaufrufe und strukturierte Ausgaben für Dokument- und Agentenabläufe.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Mistral Medium 3.5 ist das dichte Modell von Mistral AI mit 128 Milliarden Parametern, das Anweisungsbefolgung, Schlussfolgern und Programmierung in einem einzigen Satz von Gewichten verbindet. Es verarbeitet Text und Bilder und gibt Text zurück. Der Hersteller positioniert es für Agenten- und Programmieraufgaben, während derselbe Checkpoint eine direkte Dialogantwort erzeugen oder seinen dokumentierten Reasoning-Modus für eine anspruchsvollere Aufgabe nutzen kann.
Vereinheitlichtes Modell und visuelle Fähigkeiten
Die veröffentlichte Modellkarte nennt 128 Milliarden dichte Parameter und ein Kontextfenster von 256k. Ihr Bildencoder ist für unterschiedliche Bildgrößen und Seitenverhältnisse trainiert. Bilder können Belege für eine Programmier- oder Dokumentaufgabe liefern: einen Screenshot einer Benutzeroberfläche, ein Diagramm zu einer Anforderung oder eine Seite mit Informationen, die das Modell interpretieren muss. Das Ergebnis kann eine schriftliche Erklärung, Code oder strukturierte Felder statt eines erzeugten Bildes sein.
Der Hersteller beschreibt mehrsprachige Unterstützung für Dutzende Sprachen, darunter Englisch, Französisch, Spanisch, Deutsch, Italienisch, Portugiesisch, Niederländisch, Chinesisch, Japanisch, Koreanisch und Arabisch. Er hebt außerdem die Befolgung von Systemprompts und native Funktionsaufrufe mit JSON-Ausgabe hervor. Lege Zielgruppe, Sprache und Antwortregeln getrennt vom untersuchten Material fest, damit die Formulierungen eines Quelldokuments Belege für die Aufgabe bleiben.
Reasoning-Einstellungen
Die Modellkarte dokumentiert zwei Werte für den Reasoning-Aufwand pro Anfrage. Der Wert none liefert eine anweisungsbasierte Antwort ohne Reasoning-Modus; high aktiviert das Schlussfolgern und wird für komplexe Prompts und agentengestützte Programmierung empfohlen. Dies ist eine Moduswahl innerhalb desselben Checkpoints Medium 3.5 und keine andere Modellidentität.
Bei hohem Reasoning-Aufwand empfiehlt der Hersteller temperature 0.7 und top-p 0.95. Für none dokumentiert er je nach Aufgabe Temperaturen zwischen 0.0 und 0.7 und lässt top-p ungesetzt oder auf 1.0. Dies sind Empfehlungen für diese Veröffentlichung. Wähle zuerst den Zweck der Ausgabe: eine knappe Feldextraktion, eine Codeänderung mit Erklärung oder einen Vergleich, der mehrere begründete Entscheidungen verlangt.
Eine praktische Reasoning-Aufgabe kann eine Anforderung, die Implementierung und die Eingabe bereitstellen, die eine Abweichung sichtbar macht. Bitte das Modell, den relevanten Pfad zu identifizieren, die Abweichung zu erklären und die kleinste Änderung vorzuschlagen, die die öffentliche Schnittstelle bewahrt. Fordere den überarbeiteten Code getrennt von Annahmen und Beispielen an. Das Modell erzeugt einen Vorschlag; Kompilieren, Ausführen und Anwenden benötigen die mit dem Agenten verbundene Entwicklungsumgebung.
Werkzeuge, Dokumente und vorhersehbare Änderungen
Die Dienstkarte des Herstellers nennt außerdem strukturierte Ausgaben, vorhergesagte Ausgaben, Fragen zu Dokumenten, Antwortpräfixe, Stapelverarbeitung und Agentendialoge. Definiere für eine Extraktion die Feldnamen, Typen und den Umgang mit fehlenden Werten. Der JSON-Modus liefert eine strukturierte Darstellung, während ein benutzerdefiniertes Schema eine konkretere Form in der verbundenen Schnittstelle festlegt. Fordere nur den Datensatz an, wenn ein Programm ihn einlesen wird, und eine separate Erklärung, wenn eine Person die Interpretation prüfen muss.
Fragen zu Dokumenten verbinden mittels OCR vorbereiteten Text und Struktur mit dem Verständnis des Sprachmodells. Benenne für einen Vergleich die Dokumente und die zu bewertende Bedingung und fordere anschließend jeden Befund mit seiner Quellstelle an. Eine nützliche Ausgabe kann gemeinsame Anforderungen, Widersprüche und offene Fragen trennen. Direkte Bildfragen können sich auf eine Diagrammbeschriftung oder ein Oberflächenelement konzentrieren; das Bewahren von Überschriften, Einheiten und Bildrollen hilft, die Antwort mit dem bereitgestellten Material zu verbinden.
Vorhergesagte Ausgaben sind für Aufgaben dokumentiert, bei denen große Teile der gewünschten Antwort bereits bekannt sind, etwa die Neugenerierung einer Codedatei oder eines Dokuments mit begrenzten Änderungen. Stelle den bestehenden Inhalt bereit und benenne die konkrete Änderung unter Beibehaltung der Teile, die erhalten bleiben sollen. Dies unterscheidet sich von der Anforderung eines vollständig neuen Artefakts oder einer Fortsetzung ab einem bekannten Antwortpräfix. Die Dienstfunktionen beschreiben Einreichungs- und Formatoptionen; sie ändern weder die Text- und Bildeingabe noch die Textausgabe des Modells.
In einem werkzeuggestützten Ablauf liefert die Anwendung Funktionsbeschreibungen und Parameter, das Modell wählt eine Funktion und bereitet Argumente vor, und die Anwendung führt sie aus und gibt das Ergebnis zurück. Ein Berechnungswerkzeug kann Werte erhalten, die aus einem bereitgestellten Bild gelesen wurden, während ein Abfragewerkzeug fehlende Informationen für die nächste Antwort liefern kann. Bewahre das Werkzeugergebnis zusammen mit der Operation, die es erzeugt hat. Agentengestütztes Schlussfolgern stützt sich auf diese Umgebung; Texterzeugung allein führt keine externen Handlungen aus.
Lange Sitzungen vorbereiten
Nutze den Kontext von 256k für zusammengehörigen Quellcode, Dokumente und Dialogverlauf und halte das eigentliche Ziel ausdrücklich fest. Eine Programmiersitzung kann das Modul, seinen Aufrufer und die Anforderungen bewahren und zugleich eine definierte Änderung verlangen. Eine Dokumentsitzung kann die relevanten Abschnitte zusammenhalten und dabei eine kurze Tabelle oder überarbeitete Passage zurückgeben. Die Kontextkapazität legt keine separate maximale Antwortlänge fest; das Generierungsbeispiel mit 1.024 Tokens in der Modellkarte ist eine Veranschaulichung und keine solche Grenze.
Der Hersteller weist darauf hin, dass eine ältere veröffentlichte Konfiguration einen Fehler für lange Kontexte enthielt und dass dieser korrigiert wurde, auch hinsichtlich seiner Bedeutung für abgeleitete Checkpoints. Bewahre die korrigierte Veröffentlichungskonfiguration, wenn du die Gewichte für lange Sitzungen verwendest. Die hybriden Modi und die Architektur mit 128 Milliarden Parametern von Medium 3.5 sollten weder Medium 3.1 noch einem separat benannten Draft-Head-Checkpoint zugeschrieben werden, nur weil ihre Namen derselben Familie angehören.
POST /v1/batchestexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldendpoint | Typstring | AnforderungErforderlich | Werte und Limits /v1/chat/completions | Standard— |
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits mistralai/mistral-medium-3-5:batch | Standard— |
Feldrequests | Typbatch_item[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldrequests[].custom_id | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldrequests[].body.messages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldcompletion_window | Typstring | AnforderungOptional | Werte und Limits 24h | Standard— |
Feldprovider | Typobject|null | AnforderungOptional | Werte und Limits | Standard— |
Feldrequests[].body.model | Typstring | AnforderungOptional | Werte und Limits mistralai/mistral-medium-3-5:batch, mistralai/mistral-medium-3-5 | Standard— |
Feldprovider.only | Typstring[] | AnforderungOptional | Werte und Limits mistral | Standard— |
Feldprovider.allow_fallbacks | Typboolean|null | AnforderungOptional | Werte und Limits false, null | Standard— |
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragendpoint, model, requests |
Parametermaterial_types | Vertragtext |
Parameterrepresentation | Vertrageingebettete requests[]; jedes Element enthält custom_id und body |
Parameterrequest_endpoint_profile | Vertrag/v1/chat/completions |
Parameterfile_material | VertragDer Aufrufer kann tatsächliches UTF-8-JSONL lokal in requests[] einlesen. Es werden weder ein Upload-Zweck noch input_file_id oder eine Dateireferenz verwendet. Fehlendes oder leeres Kundenmaterial stoppt die Vorbereitung vor POST. |
Parameterserialization_order | Vertragendpoint, model, provider (falls angegeben), completion_window (falls angegeben), requests als letztes Feld |
Parameteroptional_controls | Vertragprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | VertragAnfragekörper für Text Chat Completions in der dokumentierten Inline-Batch-Struktur. |
Lebenszyklus: asynchronous
GET /v1/batches/{operation_id} · die tatsächliche response.id der ursprünglichen Erstellungsantwort; derselbe Nutzer/Schlüssel/dieselbe Gruppe
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0015 / 1K Token Ausgabe · Ausgabetoken $0.0075 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0015 / 1K Token Ausgabe · Ausgabetoken $0.0075 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-medium-3-5:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/mistral-medium-3-5:batch', 'mistralai/mistral-medium-3-5']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-medium-3-5:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\neingebettetes JSON unter results[].response.body
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nBewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Das vollständige ursprüngliche Status-JSON, jedes Ergebnis/jede custom_id und den vollständigen Antwort- oder Fehlerkörper aufbewahren. Abgeschlossene results[] ohne Filterung als JSONL speichern.
Die ursprüngliche Vorgangs-ID beibehalten. Bei 503 result_pending_check gilt X-Should-Retry:false; einen ursprünglichen Batch mit unbekanntem Ausgang niemals erneut einreichen.
| Feld | Typ |
|---|---|
Feldresults[].custom_id | Typstring |
Feldresults[].response.body.choices[].message.content | Typstring|null |
Feldresults[].error | Typobject|null |
Feldusage | Typobject|null |
Feldid | Typstring |
Feldmodel | Typstring |
Feldendpoint | Typstring |
Feldstatus | Typstring |
Feldrequest_counts | Typobject |
Feldresults[].id | Typstring |
Feldresults[].response.status_code | Typinteger |
Feldresults[].response.request_id | Typstring |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungUngültige Struktur der dokumentierten Inline-Einbettung, doppelte Schlüssel, ungültige Identitätsangaben zu einem Element oder ein Konflikt mit den konfigurierten Modellfähigkeiten. | Nächster SchrittDie angegebenen Felder vor jeder neuen Einreichung korrigieren. |
Antwort401 · authentication_error | BedingungUngültiger API-Schlüssel. | Nächster SchrittDen autorisierten Ailoot-Schlüssel verwenden. |
Antwort403 · permission_error | BedingungGruppe für Stapelverarbeitung nicht verfügbar. | Nächster SchrittDie Berechtigung des Schlüssels bzw. der Gruppe prüfen. |
Antwort422 · invalid_request_error | BedingungStapelverarbeitung wird über das Guthaben abgerechnet; die Erstellung über ein Abonnement wird abgelehnt. | Nächster SchrittDie autorisierte Gruppe mit Guthabenabrechnung verwenden. |
Antwort422 · price_unavailable | BedingungFür die Batch-Eingabe kann kein Preisangebot erstellt werden. | Nächster SchrittAntwort aufbewahren; die dokumentierte Eingabe der API-Familie verwenden. |
Antwort402 · billing_error | BedingungReservierung für Stapelverarbeitung nicht verfügbar. | Nächster SchrittDie Zulassung klären, bevor eine neue Anfrage gestellt wird. |
Antwort503 · price_unavailable | BedingungMethodenpreis bzw. native Tarife für Stapelverarbeitung nicht verfügbar. | Nächster SchrittAntwort aufbewahren; keine anderen Preise einsetzen. |
Antwort503 · api_error | BedingungDie genaue Anbieterroute ist nicht verfügbar. | Nächster SchrittAntwort zur Reparatur der Route aufbewahren. |
Antwort503 · result_pending_check | BedingungDas ursprüngliche Ergebnis muss geprüft werden; X-Should-Retry:false. | Nächster SchrittDie ursprüngliche operation_id/id beibehalten und ihren Status lesen; den ursprünglichen POST niemals wiederholen. |
Antwort404 · not_found | BedingungDer Batch-Vorgang, dessen Status abgefragt wird, ist nicht vorhanden oder gehört einer anderen Identität. | Nächster SchrittDie genaue ursprüngliche id und denselben Nutzer/Schlüssel/dieselbe Gruppe verwenden. |
Ailoot Ultra mistralai/mistral-medium-3-5:batch
Verwenden Sie die oben angezeigten Methodenpfade.