Codestral 2508 ist das Programmiermodell von Mistral AI für häufige Vervollständigungs- und Generierungsaufgaben, bei denen geringe Latenz wichtig ist. Es erhält Quellcode und textliche Anforderungen und liefert Text zurück, der eine Implementierung, Ergänzung, Korrektur oder Erklärung enthalten kann. Die benannte Ausgabe 2508 konzentriert sich auf den aktuellen Bearbeitungskontext der Entwicklerin oder des Entwicklers; sie ist weder ein Embedding-Modell noch für sich allein ein vollständiger Repository-Agent.
Codevervollständigung und die Aktualisierung 2508
Der Hersteller positioniert Codestral für das Ausfüllen von Codelücken und mehrzeilige Bearbeitungen. Die Veröffentlichung beschreibt Verbesserungen des Vervollständigungsverhaltens, darunter weniger unkontrolliert weiterlaufende Generierung, sowie Verbesserungen bei der Anweisungsbefolgung und bei Codeaufgaben im Chatmodus. Diese Änderungen betreffen diese Codestral-Ausgabe; Abruf- und autonome Agentenfunktionen der umgebenden Programmierumgebung gehören zu separat benannten Komponenten.
Halten Sie bei einer Vervollständigungsaufgabe die relevante Funktionssignatur, Deklarationen und den Aufrufkontext zusammen mit der Cursorposition bereit. Geben Sie an, ob nur der fehlende Code oder eine vollständig überarbeitete Funktion gewünscht ist. Eine editorbezogene Anfrage könnte einen Schleifenrumpf verlangen, der den bestehenden Rückgabetyp bewahrt, doppelte Werte beibehält und die Eingabe des Aufrufers nicht verändert. Das Ergebnis hat dann eine konkrete Einfügestelle und ein definiertes Verhalten.
Vorbereitung für Fill-in-the-Middle
In der FIM-Schnittstelle des Herstellers liefert der Prompt den zu vervollständigenden Text oder Code, während ein optionales Suffix das Material nach der Lücke bereitstellt. Sind beide angegeben, füllt das Modell den Raum dazwischen. Ohne Suffix setzt es den Prompt fort. Dies unterscheidet sich von einer gewöhnlichen Gesprächsanfrage nach einer Codeänderung mit Erklärung; jede Vorbereitungsart legt einen anderen Ausgabevertrag fest.
Eine nützliche Eingabe zum Ausfüllen einer Lücke enthält den Funktionsanfang, den Code, der auf die Einfügung folgen muss, und relevante Typ- oder Hilfsdefinitionen. Bewahren Sie Einrückungen und Begrenzungszeichen, damit der zurückgegebene Text in das vorhandene Fragment passt. Benötigt die Aufgabe nur den fehlenden Rumpf, fordern Sie diesen statt einer Neufassung der gesamten Datei an. Eine separate Chatfrage kann erklären, warum das vervollständigte Fragment die Anforderung erfüllt.
Die offizielle FIM-Dokumentation erlaubt ein Budget für Ausgabetokens und verlangt, dass Prompt und dieses Budget zusammen innerhalb des Modellkontexts bleiben. Sie dokumentiert auch Stoppsequenzen und das Streaming erzeugter Inhalte. Wählen Sie einen Vervollständigungsablauf, wenn das Ergebnis in die Codelücke passen muss, und einen Gesprächsablauf, wenn Code zusammen mit einer Erklärung verlangt wird.
Kontext und unterstützende Funktionen
Die Modellseite nennt ein Kontextfenster von 128k. Nutzen Sie den Kontext für den Quellcode und die Deklarationen, die die beabsichtigte Änderung bestimmen, und halten Sie die eigentliche Bearbeitungsaufgabe ausdrücklich fest. Geben Sie für eine Fehlerbehebung die betroffene Funktion, eine konkrete fehlerauslösende Eingabe, das erwartete Ergebnis sowie den Fehler oder das beobachtete Verhalten an. Fordern Sie die vorgeschlagene Korrektur getrennt von ihrer Erklärung und ihren Beispielen an.
Die Seite nennt neben Chat und FIM auch strukturierte Ausgaben, Funktionsaufrufe, vorhergesagte Ausgaben, Dokumentfragen, Antwortpräfixe und Stapelverarbeitung. Definieren Sie für eine strukturierte Codeprüfung Felder wie das betroffene Symbol, die beobachtete Abweichung, die vorgeschlagene Änderung und die noch zu klärende Annahme. Mistrals Anleitung für strukturierte Ausgaben unterscheidet den JSON-Modus von einem benutzerdefinierten Schema; das gewünschte JSON-Format wird dabei im Prompt angegeben.
Vorhergesagte Ausgaben sind für Inhalte gedacht, bei denen grosse Teile der Antwort bereits bekannt sind. Sie lassen sich bei der Neugenerierung eines Dokuments oder einer Codedatei mit einer begrenzten Änderung einsetzen, während der übrige Inhalt erhalten bleibt. Geben Sie die genaue Änderung und das zu bewahrende Material an. Ein Antwortpräfix liefert dagegen einen bekannten Anfang, von dem aus die Generierung fortgesetzt wird; es unterscheidet sich sowohl von einem bekannten vollständigen Inhalt als auch von einem FIM-Suffix.
Eine Dokumentationsfrage kann den Dokumentverarbeitungsablauf des Herstellers nutzen, um Text und Struktur per OCR vor der Sprachmodellanalyse aufzubereiten. Stellen Sie bereits als Text verfügbares Programmiermaterial in Form der relevanten Dokumentationspassagen bereit und fragen Sie, welche Bedingung die Implementierung bestimmt. Halten Sie jede extrahierte Anforderung mit ihrem Quellabschnitt verknüpft, damit erzeugter Code oder Erklärung mit der bereitgestellten Spezifikation verbunden bleibt.
Werkzeuge und praktische Ergebnisse
Funktionsaufrufe erlauben der Anwendung, beschriebene Vorgänge und ihre Parameter bereitzustellen. Das Modell bereitet einen Aufruf vor, die Anwendung führt ihn aus, und das zurückgegebene Ergebnis wird zum Kontext für die nächste Antwort. Ein Programmierassistent kann durch diesen Zyklus ein Abfrage- oder Rechenergebnis erhalten; das Kompilieren, Testen oder Anwenden einer vorgeschlagenen Änderung erfordert jedoch weiterhin die umgebende Entwicklungsumgebung.
Definieren Sie für eine praktische Korrektur die öffentliche Schnittstelle, die kompatibel bleiben muss, und fordern Sie das überarbeitete Fragment, eine knappe Erklärung sowie Beispieleingaben mit erwarteten Ausgaben an. Geben Sie für eine generierte Funktion die zulässigen Typen und Randbedingungen an. Stellen Sie für eine Erklärung die nachzuverfolgende Eingabe bereit, damit die Antwort einen konkreten Ausführungspfad mit dem zurückgegebenen Wert verbindet.
Codestral erzeugt Text. Es übernimmt weder Codesuchvektoren von Codestral Embed noch Repository-Automatisierung von Devstral oder Bilderzeugung von einem visuellen Modell. Die konkrete Modellseite zu 2508 veröffentlicht weder eine Parameterzahl noch eine eigenständige maximale Antwortlänge, die aus einer anderen Veröffentlichung übernommen werden könnte. Bewahren Sie die benannte Ausgabe, den Programmierkontext und das erforderliche Artefakt, wenn Sie einen wiederholbaren Editor- oder Chatablauf vorbereiten.
", "aboutText": "Codestral 2508 ist das Programmiermodell von Mistral AI für häufige Vervollständigungs- und Generierungsaufgaben, bei denen geringe Latenz wichtig ist. Es erhält Quellcode und textliche Anforderungen und liefert Text zurück, der eine Implementierung, Ergänzung, Korrektur oder Erklärung enthalten kann. Die benannte Ausgabe 2508 konzentriert sich auf den aktuellen Bearbeitungskontext der Entwicklerin oder des Entwicklers; sie ist weder ein Embedding-Modell noch für sich allein ein vollständiger Repository-Agent.\n\nCodevervollständigung und die Aktualisierung 2508\n\nDer Hersteller positioniert Codestral für das Ausfüllen von Codelücken und mehrzeilige Bearbeitungen. Die Veröffentlichung beschreibt Verbesserungen des Vervollständigungsverhaltens, darunter weniger unkontrolliert weiterlaufende Generierung, sowie Verbesserungen bei der Anweisungsbefolgung und bei Codeaufgaben im Chatmodus. Diese Änderungen betreffen diese Codestral-Ausgabe; Abruf- und autonome Agentenfunktionen der umgebenden Programmierumgebung gehören zu separat benannten Komponenten.\n\nHalten Sie bei einer Vervollständigungsaufgabe die relevante Funktionssignatur, Deklarationen und den Aufrufkontext zusammen mit der Cursorposition bereit. Geben Sie an, ob nur der fehlende Code oder eine vollständig überarbeitete Funktion gewünscht ist. Eine editorbezogene Anfrage könnte einen Schleifenrumpf verlangen, der den bestehenden Rückgabetyp bewahrt, doppelte Werte beibehält und die Eingabe des Aufrufers nicht verändert. Das Ergebnis hat dann eine konkrete Einfügestelle und ein definiertes Verhalten.\n\nVorbereitung für Fill-in-the-Middle\n\nIn der FIM-Schnittstelle des Herstellers liefert der Prompt den zu vervollständigenden Text oder Code, während ein optionales Suffix das Material nach der Lücke bereitstellt. Sind beide angegeben, füllt das Modell den Raum dazwischen. Ohne Suffix setzt es den Prompt fort. Dies unterscheidet sich von einer gewöhnlichen Gesprächsanfrage nach einer Codeänderung mit Erklärung; jede Vorbereitungsart legt einen anderen Ausgabevertrag fest.\n\nEine nützliche Eingabe zum Ausfüllen einer Lücke enthält den Funktionsanfang, den Code, der auf die Einfügung folgen muss, und relevante Typ- oder Hilfsdefinitionen. Bewahren Sie Einrückungen und Begrenzungszeichen, damit der zurückgegebene Text in das vorhandene Fragment passt. Benötigt die Aufgabe nur den fehlenden Rumpf, fordern Sie diesen statt einer Neufassung der gesamten Datei an. Eine separate Chatfrage kann erklären, warum das vervollständigte Fragment die Anforderung erfüllt.\n\nDie offizielle FIM-Dokumentation erlaubt ein Budget für Ausgabetokens und verlangt, dass Prompt und dieses Budget zusammen innerhalb des Modellkontexts bleiben. Sie dokumentiert auch Stoppsequenzen und das Streaming erzeugter Inhalte. Wählen Sie einen Vervollständigungsablauf, wenn das Ergebnis in die Codelücke passen muss, und einen Gesprächsablauf, wenn Code zusammen mit einer Erklärung verlangt wird.\n\nKontext und unterstützende Funktionen\n\nDie Modellseite nennt ein Kontextfenster von 128k. Nutzen Sie den Kontext für den Quellcode und die Deklarationen, die die beabsichtigte Änderung bestimmen, und halten Sie die eigentliche Bearbeitungsaufgabe ausdrücklich fest. Geben Sie für eine Fehlerbehebung die betroffene Funktion, eine konkrete fehlerauslösende Eingabe, das erwartete Ergebnis sowie den Fehler oder das beobachtete Verhalten an. Fordern Sie die vorgeschlagene Korrektur getrennt von ihrer Erklärung und ihren Beispielen an.\n\nDie Seite nennt neben Chat und FIM auch strukturierte Ausgaben, Funktionsaufrufe, vorhergesagte Ausgaben, Dokumentfragen, Antwortpräfixe und Stapelverarbeitung. Definieren Sie für eine strukturierte Codeprüfung Felder wie das betroffene Symbol, die beobachtete Abweichung, die vorgeschlagene Änderung und die noch zu klärende Annahme. Mistrals Anleitung für strukturierte Ausgaben unterscheidet den JSON-Modus von einem benutzerdefinierten Schema; das gewünschte JSON-Format wird dabei im Prompt angegeben.\n\nVorhergesagte Ausgaben sind für Inhalte gedacht, bei denen grosse Teile der Antwort bereits bekannt sind. Sie lassen sich bei der Neugenerierung eines Dokuments oder einer Codedatei mit einer begrenzten Änderung einsetzen, während der übrige Inhalt erhalten bleibt. Geben Sie die genaue Änderung und das zu bewahrende Material an. Ein Antwortpräfix liefert dagegen einen bekannten Anfang, von dem aus die Generierung fortgesetzt wird; es unterscheidet sich sowohl von einem bekannten vollständigen Inhalt als auch von einem FIM-Suffix.\n\nEine Dokumentationsfrage kann den Dokumentverarbeitungsablauf des Herstellers nutzen, um Text und Struktur per OCR vor der Sprachmodellanalyse aufzubereiten. Stellen Sie bereits als Text verfügbares Programmiermaterial in Form der relevanten Dokumentationspassagen bereit und fragen Sie, welche Bedingung die Implementierung bestimmt. Halten Sie jede extrahierte Anforderung mit ihrem Quellabschnitt verknüpft, damit erzeugter Code oder Erklärung mit der bereitgestellten Spezifikation verbunden bleibt.\n\nWerkzeuge und praktische Ergebnisse\n\nFunktionsaufrufe erlauben der Anwendung, beschriebene Vorgänge und ihre Parameter bereitzustellen. Das Modell bereitet einen Aufruf vor, die Anwendung führt ihn aus, und das zurückgegebene Ergebnis wird zum Kontext für die nächste Antwort. Ein Programmierassistent kann durch diesen Zyklus ein Abfrage- oder Rechenergebnis erhalten; das Kompilieren, Testen oder Anwenden einer vorgeschlagenen Änderung erfordert jedoch weiterhin die umgebende Entwicklungsumgebung.\n\nDefinieren Sie für eine praktische Korrektur die öffentliche Schnittstelle, die kompatibel bleiben muss, und fordern Sie das überarbeitete Fragment, eine knappe Erklärung sowie Beispieleingaben mit erwarteten Ausgaben an. Geben Sie für eine generierte Funktion die zulässigen Typen und Randbedingungen an. Stellen Sie für eine Erklärung die nachzuverfolgende Eingabe bereit, damit die Antwort einen konkreten Ausführungspfad mit dem zurückgegebenen Wert verbindet.\n\nCodestral erzeugt Text. Es übernimmt weder Codesuchvektoren von Codestral Embed noch Repository-Automatisierung von Devstral oder Bilderzeugung von einem visuellen Modell. Die konkrete Modellseite zu 2508 veröffentlicht weder eine Parameterzahl noch eine eigenständige maximale Antwortlänge, die aus einer anderen Veröffentlichung übernommen werden könnte. Bewahren Sie die benannte Ausgabe, den Programmierkontext und das erforderliche Artefakt, wenn Sie einen wiederholbaren Editor- oder Chatablauf vorbereiten.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "f1f49bd82031566b98639cbb1bd93d35e2d43705d326b18b240b85f6e7423e03", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "de-ch", "methods": [ { "html": "mistralai/codestral-2508:batchCodestral 2508 ist das Textmodell von Mistral AI für Codegenerierung und kontextbezogene Vervollständigung. Es ist für häufige Editoraufgaben wie das Ausfüllen von Codelücken und mehrzeilige Änderungen optimiert, mit einem Herstellerkontext von 128k und dokumentierten Chat-, Strukturierungs- und Werkzeugfunktionen.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Codestral 2508 ist das Programmiermodell von Mistral AI für häufige Vervollständigungs- und Generierungsaufgaben, bei denen geringe Latenz wichtig ist. Es erhält Quellcode und textliche Anforderungen und liefert Text zurück, der eine Implementierung, Ergänzung, Korrektur oder Erklärung enthalten kann. Die benannte Ausgabe 2508 konzentriert sich auf den aktuellen Bearbeitungskontext der Entwicklerin oder des Entwicklers; sie ist weder ein Embedding-Modell noch für sich allein ein vollständiger Repository-Agent.
Codevervollständigung und die Aktualisierung 2508
Der Hersteller positioniert Codestral für das Ausfüllen von Codelücken und mehrzeilige Bearbeitungen. Die Veröffentlichung beschreibt Verbesserungen des Vervollständigungsverhaltens, darunter weniger unkontrolliert weiterlaufende Generierung, sowie Verbesserungen bei der Anweisungsbefolgung und bei Codeaufgaben im Chatmodus. Diese Änderungen betreffen diese Codestral-Ausgabe; Abruf- und autonome Agentenfunktionen der umgebenden Programmierumgebung gehören zu separat benannten Komponenten.
Halten Sie bei einer Vervollständigungsaufgabe die relevante Funktionssignatur, Deklarationen und den Aufrufkontext zusammen mit der Cursorposition bereit. Geben Sie an, ob nur der fehlende Code oder eine vollständig überarbeitete Funktion gewünscht ist. Eine editorbezogene Anfrage könnte einen Schleifenrumpf verlangen, der den bestehenden Rückgabetyp bewahrt, doppelte Werte beibehält und die Eingabe des Aufrufers nicht verändert. Das Ergebnis hat dann eine konkrete Einfügestelle und ein definiertes Verhalten.
Vorbereitung für Fill-in-the-Middle
In der FIM-Schnittstelle des Herstellers liefert der Prompt den zu vervollständigenden Text oder Code, während ein optionales Suffix das Material nach der Lücke bereitstellt. Sind beide angegeben, füllt das Modell den Raum dazwischen. Ohne Suffix setzt es den Prompt fort. Dies unterscheidet sich von einer gewöhnlichen Gesprächsanfrage nach einer Codeänderung mit Erklärung; jede Vorbereitungsart legt einen anderen Ausgabevertrag fest.
Eine nützliche Eingabe zum Ausfüllen einer Lücke enthält den Funktionsanfang, den Code, der auf die Einfügung folgen muss, und relevante Typ- oder Hilfsdefinitionen. Bewahren Sie Einrückungen und Begrenzungszeichen, damit der zurückgegebene Text in das vorhandene Fragment passt. Benötigt die Aufgabe nur den fehlenden Rumpf, fordern Sie diesen statt einer Neufassung der gesamten Datei an. Eine separate Chatfrage kann erklären, warum das vervollständigte Fragment die Anforderung erfüllt.
Die offizielle FIM-Dokumentation erlaubt ein Budget für Ausgabetokens und verlangt, dass Prompt und dieses Budget zusammen innerhalb des Modellkontexts bleiben. Sie dokumentiert auch Stoppsequenzen und das Streaming erzeugter Inhalte. Wählen Sie einen Vervollständigungsablauf, wenn das Ergebnis in die Codelücke passen muss, und einen Gesprächsablauf, wenn Code zusammen mit einer Erklärung verlangt wird.
Kontext und unterstützende Funktionen
Die Modellseite nennt ein Kontextfenster von 128k. Nutzen Sie den Kontext für den Quellcode und die Deklarationen, die die beabsichtigte Änderung bestimmen, und halten Sie die eigentliche Bearbeitungsaufgabe ausdrücklich fest. Geben Sie für eine Fehlerbehebung die betroffene Funktion, eine konkrete fehlerauslösende Eingabe, das erwartete Ergebnis sowie den Fehler oder das beobachtete Verhalten an. Fordern Sie die vorgeschlagene Korrektur getrennt von ihrer Erklärung und ihren Beispielen an.
Die Seite nennt neben Chat und FIM auch strukturierte Ausgaben, Funktionsaufrufe, vorhergesagte Ausgaben, Dokumentfragen, Antwortpräfixe und Stapelverarbeitung. Definieren Sie für eine strukturierte Codeprüfung Felder wie das betroffene Symbol, die beobachtete Abweichung, die vorgeschlagene Änderung und die noch zu klärende Annahme. Mistrals Anleitung für strukturierte Ausgaben unterscheidet den JSON-Modus von einem benutzerdefinierten Schema; das gewünschte JSON-Format wird dabei im Prompt angegeben.
Vorhergesagte Ausgaben sind für Inhalte gedacht, bei denen grosse Teile der Antwort bereits bekannt sind. Sie lassen sich bei der Neugenerierung eines Dokuments oder einer Codedatei mit einer begrenzten Änderung einsetzen, während der übrige Inhalt erhalten bleibt. Geben Sie die genaue Änderung und das zu bewahrende Material an. Ein Antwortpräfix liefert dagegen einen bekannten Anfang, von dem aus die Generierung fortgesetzt wird; es unterscheidet sich sowohl von einem bekannten vollständigen Inhalt als auch von einem FIM-Suffix.
Eine Dokumentationsfrage kann den Dokumentverarbeitungsablauf des Herstellers nutzen, um Text und Struktur per OCR vor der Sprachmodellanalyse aufzubereiten. Stellen Sie bereits als Text verfügbares Programmiermaterial in Form der relevanten Dokumentationspassagen bereit und fragen Sie, welche Bedingung die Implementierung bestimmt. Halten Sie jede extrahierte Anforderung mit ihrem Quellabschnitt verknüpft, damit erzeugter Code oder Erklärung mit der bereitgestellten Spezifikation verbunden bleibt.
Werkzeuge und praktische Ergebnisse
Funktionsaufrufe erlauben der Anwendung, beschriebene Vorgänge und ihre Parameter bereitzustellen. Das Modell bereitet einen Aufruf vor, die Anwendung führt ihn aus, und das zurückgegebene Ergebnis wird zum Kontext für die nächste Antwort. Ein Programmierassistent kann durch diesen Zyklus ein Abfrage- oder Rechenergebnis erhalten; das Kompilieren, Testen oder Anwenden einer vorgeschlagenen Änderung erfordert jedoch weiterhin die umgebende Entwicklungsumgebung.
Definieren Sie für eine praktische Korrektur die öffentliche Schnittstelle, die kompatibel bleiben muss, und fordern Sie das überarbeitete Fragment, eine knappe Erklärung sowie Beispieleingaben mit erwarteten Ausgaben an. Geben Sie für eine generierte Funktion die zulässigen Typen und Randbedingungen an. Stellen Sie für eine Erklärung die nachzuverfolgende Eingabe bereit, damit die Antwort einen konkreten Ausführungspfad mit dem zurückgegebenen Wert verbindet.
Codestral erzeugt Text. Es übernimmt weder Codesuchvektoren von Codestral Embed noch Repository-Automatisierung von Devstral oder Bilderzeugung von einem visuellen Modell. Die konkrete Modellseite zu 2508 veröffentlicht weder eine Parameterzahl noch eine eigenständige maximale Antwortlänge, die aus einer anderen Veröffentlichung übernommen werden könnte. Bewahren Sie die benannte Ausgabe, den Programmierkontext und das erforderliche Artefakt, wenn Sie einen wiederholbaren Editor- oder Chatablauf vorbereiten.
POST /v1/batchestexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldendpoint | Typstring | AnforderungErforderlich | Werte und Limits /v1/chat/completions | Standard— |
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits mistralai/codestral-2508:batch | Standard— |
Feldrequests | Typbatch_item[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldrequests[].custom_id | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldrequests[].body.messages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldcompletion_window | Typstring | AnforderungOptional | Werte und Limits 24h | Standard— |
Feldprovider | Typobject|null | AnforderungOptional | Werte und Limits | Standard— |
Feldrequests[].body.model | Typstring | AnforderungOptional | Werte und Limits mistralai/codestral-2508:batch, mistralai/codestral-2508 | Standard— |
Feldprovider.only | Typstring[] | AnforderungOptional | Werte und Limits mistral | Standard— |
Feldprovider.allow_fallbacks | Typboolean|null | AnforderungOptional | Werte und Limits false, null | Standard— |
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragendpoint, model, requests |
Parametermaterial_types | Vertragtext |
Parameterrepresentation | Vertrageingebettete requests[]; jedes Element enthält custom_id und body |
Parameterrequest_endpoint_profile | Vertrag/v1/chat/completions |
Parameterfile_material | VertragDer Aufrufer kann tatsächliches UTF-8-JSONL lokal in requests[] einlesen. Es werden weder ein Upload-Zweck noch input_file_id oder eine Dateireferenz verwendet. Fehlendes oder leeres Kundenmaterial stoppt die Vorbereitung vor POST. |
Parameterserialization_order | Vertragendpoint, model, provider (falls angegeben), completion_window (falls angegeben), requests als letztes Feld |
Parameteroptional_controls | Vertragprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | VertragAnfragekörper für Text Chat Completions in der dokumentierten Inline-Batch-Struktur. |
Lebenszyklus: asynchronous
GET /v1/batches/{operation_id} · die tatsächliche response.id der ursprünglichen Erstellungsantwort; derselbe Nutzer/Schlüssel/dieselbe Gruppe
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschliesslich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0003 / 1K Tokens Ausgabe · Ausgabetoken $0.0009 / 1K Tokens Eingabe · Cache lesen $0.00003 / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0003 / 1K Tokens Ausgabe · Ausgabetoken $0.0009 / 1K Tokens Eingabe · Cache lesen $0.00003 / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschliessenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/codestral-2508:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/codestral-2508:batch', 'mistralai/codestral-2508']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/codestral-2508:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\neingebettetes JSON unter results[].response.body
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nBewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Das vollständige ursprüngliche Status-JSON, jedes Ergebnis/jede custom_id und den vollständigen Antwort- oder Fehlerkörper aufbewahren. Abgeschlossene results[] ohne Filterung als JSONL speichern.
Die ursprüngliche Vorgangs-ID beibehalten. Bei 503 result_pending_check gilt X-Should-Retry:false; einen ursprünglichen Batch mit unbekanntem Ausgang niemals erneut einreichen.
| Feld | Typ |
|---|---|
Feldresults[].custom_id | Typstring |
Feldresults[].response.body.choices[].message.content | Typstring|null |
Feldresults[].error | Typobject|null |
Feldusage | Typobject|null |
Feldid | Typstring |
Feldmodel | Typstring |
Feldendpoint | Typstring |
Feldstatus | Typstring |
Feldrequest_counts | Typobject |
Feldresults[].id | Typstring |
Feldresults[].response.status_code | Typinteger |
Feldresults[].response.request_id | Typstring |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungUngültige Struktur der dokumentierten Inline-Einbettung, doppelte Schlüssel, ungültige Identitätsangaben zu einem Element oder ein Konflikt mit den konfigurierten Modellfähigkeiten. | Nächster SchrittDie angegebenen Felder vor jeder neuen Einreichung korrigieren. |
Antwort401 · authentication_error | BedingungUngültiger API-Schlüssel. | Nächster SchrittDen autorisierten Ailoot-Schlüssel verwenden. |
Antwort403 · permission_error | BedingungGruppe für Stapelverarbeitung nicht verfügbar. | Nächster SchrittDie Berechtigung des Schlüssels bzw. der Gruppe prüfen. |
Antwort422 · invalid_request_error | BedingungStapelverarbeitung wird über das Guthaben abgerechnet; die Erstellung über ein Abonnement wird abgelehnt. | Nächster SchrittDie autorisierte Gruppe mit Guthabenabrechnung verwenden. |
Antwort422 · price_unavailable | BedingungFür die Batch-Eingabe kann kein Preisangebot erstellt werden. | Nächster SchrittAntwort aufbewahren; die dokumentierte Eingabe der API-Familie verwenden. |
Antwort402 · billing_error | BedingungReservierung für Stapelverarbeitung nicht verfügbar. | Nächster SchrittDie Zulassung klären, bevor eine neue Anfrage gestellt wird. |
Antwort503 · price_unavailable | BedingungMethodenpreis bzw. native Tarife für Stapelverarbeitung nicht verfügbar. | Nächster SchrittAntwort aufbewahren; keine anderen Preise einsetzen. |
Antwort503 · api_error | BedingungDie genaue Anbieterroute ist nicht verfügbar. | Nächster SchrittAntwort zur Reparatur der Route aufbewahren. |
Antwort503 · result_pending_check | BedingungDas ursprüngliche Ergebnis muss geprüft werden; X-Should-Retry:false. | Nächster SchrittDie ursprüngliche operation_id/id beibehalten und ihren Status lesen; den ursprünglichen POST niemals wiederholen. |
Antwort404 · not_found | BedingungDer Batch-Vorgang, dessen Status abgefragt wird, ist nicht vorhanden oder gehört einer anderen Identität. | Nächster SchrittDie genaue ursprüngliche id und denselben Nutzer/Schlüssel/dieselbe Gruppe verwenden. |
Ailoot Ultra mistralai/codestral-2508:batch
Verwenden Sie die oben angezeigten Methodenpfade.