Codestral 2508 ist das Programmiermodell von Mistral AI für häufige Vervollständigungs- und Generierungsaufgaben mit hohen Anforderungen an geringe Latenz. Es erhält Quellcode und textliche Anforderungen und gibt Text zurück, der eine Implementierung, Ergänzung, Korrektur oder Erklärung enthalten kann. Die benannte Ausgabe 2508 konzentriert sich auf den aktuellen Bearbeitungskontext der entwickelnden Person; sie ist weder ein Embedding-Modell noch für sich allein ein vollständiger Repository-Agent.
Codevervollständigung und das Update 2508
Der Hersteller positioniert Codestral für Fill-in-the-Middle-Vervollständigung und mehrzeilige Bearbeitung. Die Veröffentlichung beschreibt Verbesserungen am Vervollständigungsverhalten, darunter die Verringerung unkontrolliert weiterlaufender Generierung, sowie Verbesserungen beim Befolgen von Anweisungen und bei Codeaufgaben im Chatmodus. Das sind Änderungen an dieser Codestral-Ausgabe; die Such- und autonomen Agentenfunktionen des umgebenden Programmier-Stacks gehören zu gesondert benannten Komponenten.
Halten Sie bei einer Vervollständigungsaufgabe die relevante Funktionssignatur, Deklarationen und den Aufrufkontext zusammen mit der Cursorposition bereit. Geben Sie an, ob das gewünschte Ergebnis nur der fehlende Code oder eine vollständig überarbeitete Funktion ist. Eine editorbezogene Anfrage könnte einen Schleifenrumpf verlangen, der den bestehenden Rückgabetyp beibehält, doppelte Werte bewahrt und die Eingabe des Aufrufers nicht verändert. Damit hat das Ergebnis eine konkrete Einfügestelle und ein definiertes Verhalten.
Vorbereitung für Fill-in-the-Middle
In der FIM-Schnittstelle des Herstellers liefert der Prompt den zu vervollständigenden Text oder Code; ein optionales Suffix liefert das Material nach der Lücke. Sind beide angegeben, füllt das Modell den Zwischenraum. Ohne Suffix setzt es den Prompt fort. Das unterscheidet sich von einer gewöhnlichen Gesprächsanfrage, die eine Codeänderung samt Erklärung verlangt; jede Vorbereitungsform definiert einen anderen Ausgabevertrag.
Eine nützliche Eingabe für die Lückenvervollständigung enthält den Funktionsanfang, den Code, der auf die Einfügung folgen muss, sowie relevante Typ- oder Hilfsdefinitionen. Bewahren Sie Einrückungen und Begrenzungszeichen, damit der zurückgegebene Text in das vorhandene Fragment passt. Benötigt die Aufgabe nur den fehlenden Rumpf, verlangen Sie diesen statt einer Neufassung der ganzen Datei. Eine gesonderte Chatfrage kann erklären lassen, warum das ergänzte Fragment die Anforderung erfüllt.
Die offizielle FIM-Dokumentation erlaubt ein Budget für Ausgabetokens und verlangt, dass der Prompt zusammen mit diesem Budget innerhalb des Modellkontexts bleibt. Sie dokumentiert außerdem Stoppsequenzen und das Streaming erzeugter Inhalte. Wählen Sie einen Vervollständigungsablauf, wenn das Ergebnis in eine Codelücke passen muss, und einen Gesprächsablauf, wenn die Aufgabe Code samt Erklärung verlangt.
Kontext und ergänzende Funktionen
Die Modellseite nennt ein Kontextfenster von 128k. Nutzen Sie den Kontext für die Quellen und Deklarationen, die die beabsichtigte Änderung bestimmen, und formulieren Sie die eigentliche Bearbeitungsaufgabe ausdrücklich. Geben Sie bei einer Fehlerbehebung die betroffene Funktion, eine konkrete fehlschlagende Eingabe, das erwartete Ergebnis und den Fehler oder das beobachtete Verhalten an. Verlangen Sie die vorgeschlagene Korrektur getrennt von Erklärung und Beispielen.
Die Seite nennt neben Chat- und FIM-Fähigkeiten auch strukturierte Ausgaben, Funktionsaufrufe, vorhergesagte Ausgaben, Fragen zu Dokumenten, Antwortpräfixe und Stapelverarbeitung. Definieren Sie für ein strukturiertes Codeprüfergebnis Felder wie das betroffene Symbol, die beobachtete Abweichung, die vorgeschlagene Änderung und die noch zu klärende Annahme. Mistrals Anleitung für strukturierte Ausgaben unterscheidet zwischen JSON-Modus und benutzerdefiniertem Schema; das gewünschte JSON-Format wird im Prompt angegeben.
Vorhergesagte Ausgaben sind für Inhalte gedacht, bei denen große Teile der Antwort bereits bekannt sind. Sie können verwendet werden, wenn ein Dokument oder eine Codedatei mit einer begrenzten Änderung neu erzeugt und der übrige Inhalt bewahrt werden soll. Geben Sie die genaue Änderung und das zu erhaltende Material an. Ein Antwortpräfix liefert dagegen einen bekannten Anfang, von dem aus die Generierung fortgesetzt wird; es unterscheidet sich sowohl von einem bekannten vollständigen Inhalt als auch von einem FIM-Suffix.
Eine Dokumentationsfrage kann den Dokumentverarbeitungsablauf des Herstellers nutzen, um vor der Analyse durch das Sprachmodell Text und Struktur mittels OCR aufzubereiten. Stellen Sie bei bereits als Text vorhandenem Programmiermaterial die relevanten Dokumentationsabschnitte bereit und fragen Sie, welche Bedingung für die Implementierung maßgeblich ist. Ordnen Sie jede extrahierte Anforderung ihrem Quellabschnitt zu, damit der erzeugte Code oder die Erklärung mit der gelieferten Spezifikation verbunden bleibt.
Werkzeuge und praktische Ergebnisse
Bei Funktionsaufrufen stellt die Anwendung beschriebene Operationen und ihre Parameter bereit. Das Modell bereitet einen Aufruf vor, die Anwendung führt ihn aus, und das zurückgegebene Ergebnis wird zum Kontext für die nächste Antwort. Ein Programmierassistent kann über diesen Zyklus ein Abfrage- oder Berechnungsergebnis erhalten; das Kompilieren, Testen oder Anwenden einer vorgeschlagenen Änderung erfordert jedoch weiterhin die umgebende Entwicklungsumgebung.
Definieren Sie für eine praktische Korrektur die öffentliche Schnittstelle, die kompatibel bleiben muss, und verlangen Sie das überarbeitete Fragment, eine knappe Erklärung und Beispieleingaben mit erwarteten Ausgaben. Geben Sie für eine zu generierende Funktion die akzeptierten Typen und Randbedingungen an. Stellen Sie für eine Erklärung die nachzuverfolgende Eingabe bereit, damit die Antwort einen konkreten Ausführungspfad mit dem zurückgegebenen Wert verbindet.
Codestral erzeugt Text. Es übernimmt weder Codesuchvektoren von Codestral Embed noch Repository-Automatisierung von Devstral oder Bilderzeugung von einem visuellen Modell. Die genaue Modellseite für 2508 veröffentlicht weder eine Parameterzahl noch eine unabhängige maximale Antwortlänge, die von einer anderen Veröffentlichung übernommen werden könnte. Bewahren Sie die benannte Ausgabe, den Programmierkontext und das verlangte Artefakt, wenn Sie einen wiederholbaren Editor- oder Chatablauf vorbereiten.
", "aboutText": "Codestral 2508 ist das Programmiermodell von Mistral AI für häufige Vervollständigungs- und Generierungsaufgaben mit hohen Anforderungen an geringe Latenz. Es erhält Quellcode und textliche Anforderungen und gibt Text zurück, der eine Implementierung, Ergänzung, Korrektur oder Erklärung enthalten kann. Die benannte Ausgabe 2508 konzentriert sich auf den aktuellen Bearbeitungskontext der entwickelnden Person; sie ist weder ein Embedding-Modell noch für sich allein ein vollständiger Repository-Agent.\n\nCodevervollständigung und das Update 2508\n\nDer Hersteller positioniert Codestral für Fill-in-the-Middle-Vervollständigung und mehrzeilige Bearbeitung. Die Veröffentlichung beschreibt Verbesserungen am Vervollständigungsverhalten, darunter die Verringerung unkontrolliert weiterlaufender Generierung, sowie Verbesserungen beim Befolgen von Anweisungen und bei Codeaufgaben im Chatmodus. Das sind Änderungen an dieser Codestral-Ausgabe; die Such- und autonomen Agentenfunktionen des umgebenden Programmier-Stacks gehören zu gesondert benannten Komponenten.\n\nHalten Sie bei einer Vervollständigungsaufgabe die relevante Funktionssignatur, Deklarationen und den Aufrufkontext zusammen mit der Cursorposition bereit. Geben Sie an, ob das gewünschte Ergebnis nur der fehlende Code oder eine vollständig überarbeitete Funktion ist. Eine editorbezogene Anfrage könnte einen Schleifenrumpf verlangen, der den bestehenden Rückgabetyp beibehält, doppelte Werte bewahrt und die Eingabe des Aufrufers nicht verändert. Damit hat das Ergebnis eine konkrete Einfügestelle und ein definiertes Verhalten.\n\nVorbereitung für Fill-in-the-Middle\n\nIn der FIM-Schnittstelle des Herstellers liefert der Prompt den zu vervollständigenden Text oder Code; ein optionales Suffix liefert das Material nach der Lücke. Sind beide angegeben, füllt das Modell den Zwischenraum. Ohne Suffix setzt es den Prompt fort. Das unterscheidet sich von einer gewöhnlichen Gesprächsanfrage, die eine Codeänderung samt Erklärung verlangt; jede Vorbereitungsform definiert einen anderen Ausgabevertrag.\n\nEine nützliche Eingabe für die Lückenvervollständigung enthält den Funktionsanfang, den Code, der auf die Einfügung folgen muss, sowie relevante Typ- oder Hilfsdefinitionen. Bewahren Sie Einrückungen und Begrenzungszeichen, damit der zurückgegebene Text in das vorhandene Fragment passt. Benötigt die Aufgabe nur den fehlenden Rumpf, verlangen Sie diesen statt einer Neufassung der ganzen Datei. Eine gesonderte Chatfrage kann erklären lassen, warum das ergänzte Fragment die Anforderung erfüllt.\n\nDie offizielle FIM-Dokumentation erlaubt ein Budget für Ausgabetokens und verlangt, dass der Prompt zusammen mit diesem Budget innerhalb des Modellkontexts bleibt. Sie dokumentiert außerdem Stoppsequenzen und das Streaming erzeugter Inhalte. Wählen Sie einen Vervollständigungsablauf, wenn das Ergebnis in eine Codelücke passen muss, und einen Gesprächsablauf, wenn die Aufgabe Code samt Erklärung verlangt.\n\nKontext und ergänzende Funktionen\n\nDie Modellseite nennt ein Kontextfenster von 128k. Nutzen Sie den Kontext für die Quellen und Deklarationen, die die beabsichtigte Änderung bestimmen, und formulieren Sie die eigentliche Bearbeitungsaufgabe ausdrücklich. Geben Sie bei einer Fehlerbehebung die betroffene Funktion, eine konkrete fehlschlagende Eingabe, das erwartete Ergebnis und den Fehler oder das beobachtete Verhalten an. Verlangen Sie die vorgeschlagene Korrektur getrennt von Erklärung und Beispielen.\n\nDie Seite nennt neben Chat- und FIM-Fähigkeiten auch strukturierte Ausgaben, Funktionsaufrufe, vorhergesagte Ausgaben, Fragen zu Dokumenten, Antwortpräfixe und Stapelverarbeitung. Definieren Sie für ein strukturiertes Codeprüfergebnis Felder wie das betroffene Symbol, die beobachtete Abweichung, die vorgeschlagene Änderung und die noch zu klärende Annahme. Mistrals Anleitung für strukturierte Ausgaben unterscheidet zwischen JSON-Modus und benutzerdefiniertem Schema; das gewünschte JSON-Format wird im Prompt angegeben.\n\nVorhergesagte Ausgaben sind für Inhalte gedacht, bei denen große Teile der Antwort bereits bekannt sind. Sie können verwendet werden, wenn ein Dokument oder eine Codedatei mit einer begrenzten Änderung neu erzeugt und der übrige Inhalt bewahrt werden soll. Geben Sie die genaue Änderung und das zu erhaltende Material an. Ein Antwortpräfix liefert dagegen einen bekannten Anfang, von dem aus die Generierung fortgesetzt wird; es unterscheidet sich sowohl von einem bekannten vollständigen Inhalt als auch von einem FIM-Suffix.\n\nEine Dokumentationsfrage kann den Dokumentverarbeitungsablauf des Herstellers nutzen, um vor der Analyse durch das Sprachmodell Text und Struktur mittels OCR aufzubereiten. Stellen Sie bei bereits als Text vorhandenem Programmiermaterial die relevanten Dokumentationsabschnitte bereit und fragen Sie, welche Bedingung für die Implementierung maßgeblich ist. Ordnen Sie jede extrahierte Anforderung ihrem Quellabschnitt zu, damit der erzeugte Code oder die Erklärung mit der gelieferten Spezifikation verbunden bleibt.\n\nWerkzeuge und praktische Ergebnisse\n\nBei Funktionsaufrufen stellt die Anwendung beschriebene Operationen und ihre Parameter bereit. Das Modell bereitet einen Aufruf vor, die Anwendung führt ihn aus, und das zurückgegebene Ergebnis wird zum Kontext für die nächste Antwort. Ein Programmierassistent kann über diesen Zyklus ein Abfrage- oder Berechnungsergebnis erhalten; das Kompilieren, Testen oder Anwenden einer vorgeschlagenen Änderung erfordert jedoch weiterhin die umgebende Entwicklungsumgebung.\n\nDefinieren Sie für eine praktische Korrektur die öffentliche Schnittstelle, die kompatibel bleiben muss, und verlangen Sie das überarbeitete Fragment, eine knappe Erklärung und Beispieleingaben mit erwarteten Ausgaben. Geben Sie für eine zu generierende Funktion die akzeptierten Typen und Randbedingungen an. Stellen Sie für eine Erklärung die nachzuverfolgende Eingabe bereit, damit die Antwort einen konkreten Ausführungspfad mit dem zurückgegebenen Wert verbindet.\n\nCodestral erzeugt Text. Es übernimmt weder Codesuchvektoren von Codestral Embed noch Repository-Automatisierung von Devstral oder Bilderzeugung von einem visuellen Modell. Die genaue Modellseite für 2508 veröffentlicht weder eine Parameterzahl noch eine unabhängige maximale Antwortlänge, die von einer anderen Veröffentlichung übernommen werden könnte. Bewahren Sie die benannte Ausgabe, den Programmierkontext und das verlangte Artefakt, wenn Sie einen wiederholbaren Editor- oder Chatablauf vorbereiten.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "c44b6b0784aba9fd424b945488811a9bb70fff785ff9a674a8c0be64e35ef241", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "de-at", "methods": [ { "html": "mistralai/codestral-2508:batchCodestral 2508 ist das Textmodell von Mistral AI für Codegenerierung und kontextbezogene Vervollständigung. Es ist für häufige Editoraufgaben optimiert, darunter Fill-in-the-Middle und mehrzeilige Änderungen, mit einem vom Hersteller angegebenen Kontext von 128k sowie dokumentierten Funktionen für Chat, strukturierte Ausgaben und Werkzeuge.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Codestral 2508 ist das Programmiermodell von Mistral AI für häufige Vervollständigungs- und Generierungsaufgaben mit hohen Anforderungen an geringe Latenz. Es erhält Quellcode und textliche Anforderungen und gibt Text zurück, der eine Implementierung, Ergänzung, Korrektur oder Erklärung enthalten kann. Die benannte Ausgabe 2508 konzentriert sich auf den aktuellen Bearbeitungskontext der entwickelnden Person; sie ist weder ein Embedding-Modell noch für sich allein ein vollständiger Repository-Agent.
Codevervollständigung und das Update 2508
Der Hersteller positioniert Codestral für Fill-in-the-Middle-Vervollständigung und mehrzeilige Bearbeitung. Die Veröffentlichung beschreibt Verbesserungen am Vervollständigungsverhalten, darunter die Verringerung unkontrolliert weiterlaufender Generierung, sowie Verbesserungen beim Befolgen von Anweisungen und bei Codeaufgaben im Chatmodus. Das sind Änderungen an dieser Codestral-Ausgabe; die Such- und autonomen Agentenfunktionen des umgebenden Programmier-Stacks gehören zu gesondert benannten Komponenten.
Halten Sie bei einer Vervollständigungsaufgabe die relevante Funktionssignatur, Deklarationen und den Aufrufkontext zusammen mit der Cursorposition bereit. Geben Sie an, ob das gewünschte Ergebnis nur der fehlende Code oder eine vollständig überarbeitete Funktion ist. Eine editorbezogene Anfrage könnte einen Schleifenrumpf verlangen, der den bestehenden Rückgabetyp beibehält, doppelte Werte bewahrt und die Eingabe des Aufrufers nicht verändert. Damit hat das Ergebnis eine konkrete Einfügestelle und ein definiertes Verhalten.
Vorbereitung für Fill-in-the-Middle
In der FIM-Schnittstelle des Herstellers liefert der Prompt den zu vervollständigenden Text oder Code; ein optionales Suffix liefert das Material nach der Lücke. Sind beide angegeben, füllt das Modell den Zwischenraum. Ohne Suffix setzt es den Prompt fort. Das unterscheidet sich von einer gewöhnlichen Gesprächsanfrage, die eine Codeänderung samt Erklärung verlangt; jede Vorbereitungsform definiert einen anderen Ausgabevertrag.
Eine nützliche Eingabe für die Lückenvervollständigung enthält den Funktionsanfang, den Code, der auf die Einfügung folgen muss, sowie relevante Typ- oder Hilfsdefinitionen. Bewahren Sie Einrückungen und Begrenzungszeichen, damit der zurückgegebene Text in das vorhandene Fragment passt. Benötigt die Aufgabe nur den fehlenden Rumpf, verlangen Sie diesen statt einer Neufassung der ganzen Datei. Eine gesonderte Chatfrage kann erklären lassen, warum das ergänzte Fragment die Anforderung erfüllt.
Die offizielle FIM-Dokumentation erlaubt ein Budget für Ausgabetokens und verlangt, dass der Prompt zusammen mit diesem Budget innerhalb des Modellkontexts bleibt. Sie dokumentiert außerdem Stoppsequenzen und das Streaming erzeugter Inhalte. Wählen Sie einen Vervollständigungsablauf, wenn das Ergebnis in eine Codelücke passen muss, und einen Gesprächsablauf, wenn die Aufgabe Code samt Erklärung verlangt.
Kontext und ergänzende Funktionen
Die Modellseite nennt ein Kontextfenster von 128k. Nutzen Sie den Kontext für die Quellen und Deklarationen, die die beabsichtigte Änderung bestimmen, und formulieren Sie die eigentliche Bearbeitungsaufgabe ausdrücklich. Geben Sie bei einer Fehlerbehebung die betroffene Funktion, eine konkrete fehlschlagende Eingabe, das erwartete Ergebnis und den Fehler oder das beobachtete Verhalten an. Verlangen Sie die vorgeschlagene Korrektur getrennt von Erklärung und Beispielen.
Die Seite nennt neben Chat- und FIM-Fähigkeiten auch strukturierte Ausgaben, Funktionsaufrufe, vorhergesagte Ausgaben, Fragen zu Dokumenten, Antwortpräfixe und Stapelverarbeitung. Definieren Sie für ein strukturiertes Codeprüfergebnis Felder wie das betroffene Symbol, die beobachtete Abweichung, die vorgeschlagene Änderung und die noch zu klärende Annahme. Mistrals Anleitung für strukturierte Ausgaben unterscheidet zwischen JSON-Modus und benutzerdefiniertem Schema; das gewünschte JSON-Format wird im Prompt angegeben.
Vorhergesagte Ausgaben sind für Inhalte gedacht, bei denen große Teile der Antwort bereits bekannt sind. Sie können verwendet werden, wenn ein Dokument oder eine Codedatei mit einer begrenzten Änderung neu erzeugt und der übrige Inhalt bewahrt werden soll. Geben Sie die genaue Änderung und das zu erhaltende Material an. Ein Antwortpräfix liefert dagegen einen bekannten Anfang, von dem aus die Generierung fortgesetzt wird; es unterscheidet sich sowohl von einem bekannten vollständigen Inhalt als auch von einem FIM-Suffix.
Eine Dokumentationsfrage kann den Dokumentverarbeitungsablauf des Herstellers nutzen, um vor der Analyse durch das Sprachmodell Text und Struktur mittels OCR aufzubereiten. Stellen Sie bei bereits als Text vorhandenem Programmiermaterial die relevanten Dokumentationsabschnitte bereit und fragen Sie, welche Bedingung für die Implementierung maßgeblich ist. Ordnen Sie jede extrahierte Anforderung ihrem Quellabschnitt zu, damit der erzeugte Code oder die Erklärung mit der gelieferten Spezifikation verbunden bleibt.
Werkzeuge und praktische Ergebnisse
Bei Funktionsaufrufen stellt die Anwendung beschriebene Operationen und ihre Parameter bereit. Das Modell bereitet einen Aufruf vor, die Anwendung führt ihn aus, und das zurückgegebene Ergebnis wird zum Kontext für die nächste Antwort. Ein Programmierassistent kann über diesen Zyklus ein Abfrage- oder Berechnungsergebnis erhalten; das Kompilieren, Testen oder Anwenden einer vorgeschlagenen Änderung erfordert jedoch weiterhin die umgebende Entwicklungsumgebung.
Definieren Sie für eine praktische Korrektur die öffentliche Schnittstelle, die kompatibel bleiben muss, und verlangen Sie das überarbeitete Fragment, eine knappe Erklärung und Beispieleingaben mit erwarteten Ausgaben. Geben Sie für eine zu generierende Funktion die akzeptierten Typen und Randbedingungen an. Stellen Sie für eine Erklärung die nachzuverfolgende Eingabe bereit, damit die Antwort einen konkreten Ausführungspfad mit dem zurückgegebenen Wert verbindet.
Codestral erzeugt Text. Es übernimmt weder Codesuchvektoren von Codestral Embed noch Repository-Automatisierung von Devstral oder Bilderzeugung von einem visuellen Modell. Die genaue Modellseite für 2508 veröffentlicht weder eine Parameterzahl noch eine unabhängige maximale Antwortlänge, die von einer anderen Veröffentlichung übernommen werden könnte. Bewahren Sie die benannte Ausgabe, den Programmierkontext und das verlangte Artefakt, wenn Sie einen wiederholbaren Editor- oder Chatablauf vorbereiten.
POST /v1/batchestexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldendpoint | Typstring | AnforderungErforderlich | Werte und Limits /v1/chat/completions | Standard— |
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits mistralai/codestral-2508:batch | Standard— |
Feldrequests | Typbatch_item[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldrequests[].custom_id | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldrequests[].body.messages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldcompletion_window | Typstring | AnforderungOptional | Werte und Limits 24h | Standard— |
Feldprovider | Typobject|null | AnforderungOptional | Werte und Limits | Standard— |
Feldrequests[].body.model | Typstring | AnforderungOptional | Werte und Limits mistralai/codestral-2508:batch, mistralai/codestral-2508 | Standard— |
Feldprovider.only | Typstring[] | AnforderungOptional | Werte und Limits mistral | Standard— |
Feldprovider.allow_fallbacks | Typboolean|null | AnforderungOptional | Werte und Limits false, null | Standard— |
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragendpoint, model, requests |
Parametermaterial_types | Vertragtext |
Parameterrepresentation | Vertrageingebettete requests[]; jedes Element enthält custom_id und body |
Parameterrequest_endpoint_profile | Vertrag/v1/chat/completions |
Parameterfile_material | VertragDer Aufrufer kann tatsächliches UTF-8-JSONL lokal in requests[] einlesen. Es werden weder ein Upload-Zweck noch input_file_id oder eine Dateireferenz verwendet. Fehlendes oder leeres Kundenmaterial stoppt die Vorbereitung vor POST. |
Parameterserialization_order | Vertragendpoint, model, provider (falls angegeben), completion_window (falls angegeben), requests als letztes Feld |
Parameteroptional_controls | Vertragprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | VertragAnfragekörper für Text Chat Completions in der dokumentierten Inline-Batch-Struktur. |
Lebenszyklus: asynchronous
GET /v1/batches/{operation_id} · die tatsächliche response.id der ursprünglichen Erstellungsantwort; derselbe Nutzer/Schlüssel/dieselbe Gruppe
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0003 / 1K Tokens Ausgabe · Ausgabetoken $0.0009 / 1K Tokens Eingabe · Cache lesen $0.00003 / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0003 / 1K Tokens Ausgabe · Ausgabetoken $0.0009 / 1K Tokens Eingabe · Cache lesen $0.00003 / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/codestral-2508:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/codestral-2508:batch', 'mistralai/codestral-2508']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/codestral-2508:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\neingebettetes JSON unter results[].response.body
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nBewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Das vollständige ursprüngliche Status-JSON, jedes Ergebnis/jede custom_id und den vollständigen Antwort- oder Fehlerkörper aufbewahren. Abgeschlossene results[] ohne Filterung als JSONL speichern.
Die ursprüngliche Vorgangs-ID beibehalten. Bei 503 result_pending_check gilt X-Should-Retry:false; einen ursprünglichen Batch mit unbekanntem Ausgang niemals erneut einreichen.
| Feld | Typ |
|---|---|
Feldresults[].custom_id | Typstring |
Feldresults[].response.body.choices[].message.content | Typstring|null |
Feldresults[].error | Typobject|null |
Feldusage | Typobject|null |
Feldid | Typstring |
Feldmodel | Typstring |
Feldendpoint | Typstring |
Feldstatus | Typstring |
Feldrequest_counts | Typobject |
Feldresults[].id | Typstring |
Feldresults[].response.status_code | Typinteger |
Feldresults[].response.request_id | Typstring |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungUngültige Struktur der dokumentierten Inline-Einbettung, doppelte Schlüssel, ungültige Identitätsangaben zu einem Element oder ein Konflikt mit den konfigurierten Modellfähigkeiten. | Nächster SchrittDie angegebenen Felder vor jeder neuen Einreichung korrigieren. |
Antwort401 · authentication_error | BedingungUngültiger API-Schlüssel. | Nächster SchrittDen autorisierten Ailoot-Schlüssel verwenden. |
Antwort403 · permission_error | BedingungGruppe für Stapelverarbeitung nicht verfügbar. | Nächster SchrittDie Berechtigung des Schlüssels bzw. der Gruppe prüfen. |
Antwort422 · invalid_request_error | BedingungStapelverarbeitung wird über das Guthaben abgerechnet; die Erstellung über ein Abonnement wird abgelehnt. | Nächster SchrittDie autorisierte Gruppe mit Guthabenabrechnung verwenden. |
Antwort422 · price_unavailable | BedingungFür die Batch-Eingabe kann kein Preisangebot erstellt werden. | Nächster SchrittAntwort aufbewahren; die dokumentierte Eingabe der API-Familie verwenden. |
Antwort402 · billing_error | BedingungReservierung für Stapelverarbeitung nicht verfügbar. | Nächster SchrittDie Zulassung klären, bevor eine neue Anfrage gestellt wird. |
Antwort503 · price_unavailable | BedingungMethodenpreis bzw. native Tarife für Stapelverarbeitung nicht verfügbar. | Nächster SchrittAntwort aufbewahren; keine anderen Preise einsetzen. |
Antwort503 · api_error | BedingungDie genaue Anbieterroute ist nicht verfügbar. | Nächster SchrittAntwort zur Reparatur der Route aufbewahren. |
Antwort503 · result_pending_check | BedingungDas ursprüngliche Ergebnis muss geprüft werden; X-Should-Retry:false. | Nächster SchrittDie ursprüngliche operation_id/id beibehalten und ihren Status lesen; den ursprünglichen POST niemals wiederholen. |
Antwort404 · not_found | BedingungDer Batch-Vorgang, dessen Status abgefragt wird, ist nicht vorhanden oder gehört einer anderen Identität. | Nächster SchrittDie genaue ursprüngliche id und denselben Nutzer/Schlüssel/dieselbe Gruppe verwenden. |
Ailoot Ultra mistralai/codestral-2508:batch
Verwenden Sie die oben angezeigten Methodenpfade.