Mistral Small 4 verbindet allgemeine Anweisungsbefolgung, schlussfolgerndes Denken und Programmierung in einem einzigen multimodalen Modell. Der Hersteller beschreibt es als Zusammenführung der Familien Instruct, Magistral für Reasoning und Devstral für Programmierung. Es nimmt Text und Bilder entgegen und gibt Text zurück; Funktionsaufrufe und JSON-Ausgaben stehen für werkzeuggestützte Anwendungen zur Verfügung.
Architektur und zentrale Funktionen
Die Veröffentlichung hat insgesamt 119 Milliarden Parameter und aktiviert 6,5 Milliarden pro Token. Ihre Mixture-of-Experts-Architektur enthält 128 Experten, davon 4 aktive, und der Hersteller dokumentiert ein Kontextfenster von 256k. Die aktive Parameterzahl und die Zahl der Experten beschreiben die Organisation des Modells; sie unterscheiden sich von der Menge an Text- oder Bildinhalt in einer Aufgabe.
Das Modell bietet Anweisungs- und Reasoning-Funktionalität im selben Modellstand. Der Hersteller nennt außerdem Vision, die Einhaltung von Systemprompts und mehrsprachige Unterstützung für Dutzende Sprachen, darunter Englisch, Französisch, Spanisch, Deutsch, Italienisch, Portugiesisch, Niederländisch, Chinesisch, Japanisch, Koreanisch und Arabisch. Eine Textanweisung kann daher nach einem Bild fragen oder eine schriftliche Anforderung mit sichtbaren Belegen verbinden, wobei die Antwort als Text zurückgegeben wird.
Eine visuelle Aufgabe kann eine Dokumentseite bereitstellen und nach den für eine benannte Bedingung relevanten Werten fragen. Halten Sie Beschriftungen und Einheiten lesbar und geben Sie an, ob das Ergebnis den ursprünglichen Wortlaut bewahren, zusammenfassen oder mit einer anderen Quelle vergleichen soll. Eine Oberflächenaufgabe kann einen Screenshot mit dem Ziel des Nutzers verbinden und das relevante sichtbare Bedienelement sowie die Belege für einen vorgeschlagenen nächsten Schritt verlangen.
Anweisungs- oder Reasoning-Modus wählen
Die veröffentlichte Modellkarte dokumentiert den Reasoning-Aufwand none für eine sofortige anweisungsbezogene Antwort und high für Reasoning; high wird für komplexe Prompts empfohlen. Die Auswahl erfolgt pro Anfrage innerhalb desselben Modells Small 4. Eine gewöhnliche Klassifikation oder kurze Überarbeitung kann einen anderen Antwortvertrag haben als ein mathematisches, visuelles oder Programmierproblem, das eine ausgearbeitete Erklärung benötigt.
Der Hersteller empfiehlt temperature 0.7 für hohen Reasoning-Aufwand. Für none gibt er je nach Aufgabe Temperaturen zwischen 0.0 und 0.7 an. Diese Einstellungen beschreiben die dokumentierten Modi und machen den Reasoning-Aufwand nicht zu einer Garantie für ein korrektes Ergebnis. Definieren Sie Annahmen, Ausgabeform und relevantes Quellenmaterial, bevor Sie wählen, wie viel Reasoning die Aufgabe erfordert.
Stellen Sie für eine ausgearbeitete Problemlösung die vollständige Bedingung bereit und verlangen Sie die wichtigen begründeten Schritte, gefolgt vom abschließenden Ausdruck. Geben Sie für eine Codeaufgabe die Anforderung, die betroffene Funktion und eine konkrete Eingabe an; verlangen Sie die vorgeschlagene Implementierung getrennt von Erklärung und Beispielen. Die Nutzungsdemonstrationen des Herstellers umfassen Anweisungsbefolgung, ein auf ein Bild angewendetes Berechnungswerkzeug und visuelles Reasoning und zeigen damit, wie Text und visuelle Belege in diese unterschiedlichen Aufgaben einfließen können.
Programmierung, Dokumente und Werkzeuge
Das Modell ist für Codebasis-Erkundung und Softwareentwicklungsagenten, allgemeine Assistenten, Dokumentverständnis und Recherche positioniert. Eine Anfrage an einen Programmieragenten kann das zu ändernde Modul, die zu bewahrende Schnittstelle und das gewünschte Verhalten benennen. Stellen Sie die relevanten Quellen und Fehlerbelege bereit. Das Modell kann die nächste Operation oder eine Codeänderung vorschlagen, während die Anwendung Repository-Zugriff, Ausführung und Rückmeldung bereitstellt.
Benennen Sie für Dokumentextraktion die erforderlichen Felder und die Darstellung fehlender Informationen. Ein nützlicher Datensatz kann Dokumentkennung, Quellaussage, interpretierte Anforderung und offene Frage trennen. Die Dienstbeschreibung des Herstellers nennt benutzerdefinierte strukturierte Ausgaben und die Beantwortung von Dokumentfragen; Letztere verwendet Dokumentverarbeitung und OCR, um Text und Struktur vor der Analyse durch das Sprachmodell aufzubereiten. Eine direkte Bildfrage und ein OCR-gestützter Dokumentablauf sollten ihre jeweils eigene Eingabevorbereitung bewahren.
Funktionsaufrufe benötigen klar beschriebene Werkzeuge. Das Modell wählt eine Funktion und erstellt Argumente; die Anwendung führt die Operation aus und liefert ihr Ergebnis für die nachfolgende Antwort zurück. Dieselbe Logik gilt für eine Abfrage, Berechnung oder Programmieroperation. JSON-Formatierung ordnet eine Antwort, während ein Werkzeugaufruf eine externe Aktion anfordert; beides sollte nicht als austauschbares Ergebnis behandelt werden.
Die Dienstbeschreibung nennt außerdem vorhergesagte Ausgaben, Antwortpräfixe, Stapelverarbeitung und Agentengespräche. Vorhergesagte Ausgaben sind nützlich, wenn ein Dokument oder eine Codedatei mit nur einer begrenzten Änderung neu erzeugt werden muss und der übrige Inhalt bekannt ist. Geben Sie die Änderung und das zu bewahrende Material an. Die Präfixfortsetzung verwendet einen bekannten Antwortanfang, während Stapelverarbeitung die Übermittlung von Arbeit betrifft und keinen zusätzlichen Reasoning-Modus.
Kontext und Grenzen der Ausgabe
Planen Sie schriftliche Aufgabe, visuelles Material, Gespräch und gewünschte Antwort im Rahmen des dokumentierten Kontexts von 256k. Das veröffentlichte Nutzungsbeispiel konfiguriert einen Kontext von 262.144 Tokens, während sein Generierungsbeispiel mit 1.024 Tokens keine gesonderte maximale Ausgabekapazität ist. Die gelesenen Quellen nennen keine unabhängige harte Antwortlängengrenze, die an die Stelle der gewählten Aufgabenlänge treten könnte.
Small 4 hat seine eigene Mixture-of-Experts-Architektur mit 119 Milliarden Parametern und hybride Modi. Es sollte weder die dichte Architektur mit 128 Milliarden Parametern von Medium 3.5 noch die getrennten Instruct- und Reasoning-Ausgaben von Ministral 3 übernehmen. Der Hersteller veröffentlicht außerdem eigene quantisierte Artefakte und Artefakte für spekulatives Dekodieren; das sind gesonderte Bereitstellungsartefakte und keine unterschiedlichen Inhaltsmodalitäten. Bewahren Sie die benannte Veröffentlichung Small 4 und den Modus, der für die tatsächliche Erklärung, den strukturierten Datensatz oder das Codeergebnis verlangt wird.
", "aboutText": "Mistral Small 4 verbindet allgemeine Anweisungsbefolgung, schlussfolgerndes Denken und Programmierung in einem einzigen multimodalen Modell. Der Hersteller beschreibt es als Zusammenführung der Familien Instruct, Magistral für Reasoning und Devstral für Programmierung. Es nimmt Text und Bilder entgegen und gibt Text zurück; Funktionsaufrufe und JSON-Ausgaben stehen für werkzeuggestützte Anwendungen zur Verfügung.\n\nArchitektur und zentrale Funktionen\n\nDie Veröffentlichung hat insgesamt 119 Milliarden Parameter und aktiviert 6,5 Milliarden pro Token. Ihre Mixture-of-Experts-Architektur enthält 128 Experten, davon 4 aktive, und der Hersteller dokumentiert ein Kontextfenster von 256k. Die aktive Parameterzahl und die Zahl der Experten beschreiben die Organisation des Modells; sie unterscheiden sich von der Menge an Text- oder Bildinhalt in einer Aufgabe.\n\nDas Modell bietet Anweisungs- und Reasoning-Funktionalität im selben Modellstand. Der Hersteller nennt außerdem Vision, die Einhaltung von Systemprompts und mehrsprachige Unterstützung für Dutzende Sprachen, darunter Englisch, Französisch, Spanisch, Deutsch, Italienisch, Portugiesisch, Niederländisch, Chinesisch, Japanisch, Koreanisch und Arabisch. Eine Textanweisung kann daher nach einem Bild fragen oder eine schriftliche Anforderung mit sichtbaren Belegen verbinden, wobei die Antwort als Text zurückgegeben wird.\n\nEine visuelle Aufgabe kann eine Dokumentseite bereitstellen und nach den für eine benannte Bedingung relevanten Werten fragen. Halten Sie Beschriftungen und Einheiten lesbar und geben Sie an, ob das Ergebnis den ursprünglichen Wortlaut bewahren, zusammenfassen oder mit einer anderen Quelle vergleichen soll. Eine Oberflächenaufgabe kann einen Screenshot mit dem Ziel des Nutzers verbinden und das relevante sichtbare Bedienelement sowie die Belege für einen vorgeschlagenen nächsten Schritt verlangen.\n\nAnweisungs- oder Reasoning-Modus wählen\n\nDie veröffentlichte Modellkarte dokumentiert den Reasoning-Aufwand none für eine sofortige anweisungsbezogene Antwort und high für Reasoning; high wird für komplexe Prompts empfohlen. Die Auswahl erfolgt pro Anfrage innerhalb desselben Modells Small 4. Eine gewöhnliche Klassifikation oder kurze Überarbeitung kann einen anderen Antwortvertrag haben als ein mathematisches, visuelles oder Programmierproblem, das eine ausgearbeitete Erklärung benötigt.\n\nDer Hersteller empfiehlt temperature 0.7 für hohen Reasoning-Aufwand. Für none gibt er je nach Aufgabe Temperaturen zwischen 0.0 und 0.7 an. Diese Einstellungen beschreiben die dokumentierten Modi und machen den Reasoning-Aufwand nicht zu einer Garantie für ein korrektes Ergebnis. Definieren Sie Annahmen, Ausgabeform und relevantes Quellenmaterial, bevor Sie wählen, wie viel Reasoning die Aufgabe erfordert.\n\nStellen Sie für eine ausgearbeitete Problemlösung die vollständige Bedingung bereit und verlangen Sie die wichtigen begründeten Schritte, gefolgt vom abschließenden Ausdruck. Geben Sie für eine Codeaufgabe die Anforderung, die betroffene Funktion und eine konkrete Eingabe an; verlangen Sie die vorgeschlagene Implementierung getrennt von Erklärung und Beispielen. Die Nutzungsdemonstrationen des Herstellers umfassen Anweisungsbefolgung, ein auf ein Bild angewendetes Berechnungswerkzeug und visuelles Reasoning und zeigen damit, wie Text und visuelle Belege in diese unterschiedlichen Aufgaben einfließen können.\n\nProgrammierung, Dokumente und Werkzeuge\n\nDas Modell ist für Codebasis-Erkundung und Softwareentwicklungsagenten, allgemeine Assistenten, Dokumentverständnis und Recherche positioniert. Eine Anfrage an einen Programmieragenten kann das zu ändernde Modul, die zu bewahrende Schnittstelle und das gewünschte Verhalten benennen. Stellen Sie die relevanten Quellen und Fehlerbelege bereit. Das Modell kann die nächste Operation oder eine Codeänderung vorschlagen, während die Anwendung Repository-Zugriff, Ausführung und Rückmeldung bereitstellt.\n\nBenennen Sie für Dokumentextraktion die erforderlichen Felder und die Darstellung fehlender Informationen. Ein nützlicher Datensatz kann Dokumentkennung, Quellaussage, interpretierte Anforderung und offene Frage trennen. Die Dienstbeschreibung des Herstellers nennt benutzerdefinierte strukturierte Ausgaben und die Beantwortung von Dokumentfragen; Letztere verwendet Dokumentverarbeitung und OCR, um Text und Struktur vor der Analyse durch das Sprachmodell aufzubereiten. Eine direkte Bildfrage und ein OCR-gestützter Dokumentablauf sollten ihre jeweils eigene Eingabevorbereitung bewahren.\n\nFunktionsaufrufe benötigen klar beschriebene Werkzeuge. Das Modell wählt eine Funktion und erstellt Argumente; die Anwendung führt die Operation aus und liefert ihr Ergebnis für die nachfolgende Antwort zurück. Dieselbe Logik gilt für eine Abfrage, Berechnung oder Programmieroperation. JSON-Formatierung ordnet eine Antwort, während ein Werkzeugaufruf eine externe Aktion anfordert; beides sollte nicht als austauschbares Ergebnis behandelt werden.\n\nDie Dienstbeschreibung nennt außerdem vorhergesagte Ausgaben, Antwortpräfixe, Stapelverarbeitung und Agentengespräche. Vorhergesagte Ausgaben sind nützlich, wenn ein Dokument oder eine Codedatei mit nur einer begrenzten Änderung neu erzeugt werden muss und der übrige Inhalt bekannt ist. Geben Sie die Änderung und das zu bewahrende Material an. Die Präfixfortsetzung verwendet einen bekannten Antwortanfang, während Stapelverarbeitung die Übermittlung von Arbeit betrifft und keinen zusätzlichen Reasoning-Modus.\n\nKontext und Grenzen der Ausgabe\n\nPlanen Sie schriftliche Aufgabe, visuelles Material, Gespräch und gewünschte Antwort im Rahmen des dokumentierten Kontexts von 256k. Das veröffentlichte Nutzungsbeispiel konfiguriert einen Kontext von 262.144 Tokens, während sein Generierungsbeispiel mit 1.024 Tokens keine gesonderte maximale Ausgabekapazität ist. Die gelesenen Quellen nennen keine unabhängige harte Antwortlängengrenze, die an die Stelle der gewählten Aufgabenlänge treten könnte.\n\nSmall 4 hat seine eigene Mixture-of-Experts-Architektur mit 119 Milliarden Parametern und hybride Modi. Es sollte weder die dichte Architektur mit 128 Milliarden Parametern von Medium 3.5 noch die getrennten Instruct- und Reasoning-Ausgaben von Ministral 3 übernehmen. Der Hersteller veröffentlicht außerdem eigene quantisierte Artefakte und Artefakte für spekulatives Dekodieren; das sind gesonderte Bereitstellungsartefakte und keine unterschiedlichen Inhaltsmodalitäten. Bewahren Sie die benannte Veröffentlichung Small 4 und den Modus, der für die tatsächliche Erklärung, den strukturierten Datensatz oder das Codeergebnis verlangt wird.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "efa30d0c113a0920153b48fb1158f21e6a90610f2b33e0b1954a3e1c2da2e1f9", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "de-at", "methods": [ { "html": "mistralai/mistral-small-2603:batchMistral Small 4 ist ein hybrides Text- und Bildmodell mit Fähigkeiten für Anweisungen, schlussfolgerndes Denken und Programmierung. Seine Mixture-of-Experts-Veröffentlichung mit 119 Milliarden Parametern aktiviert 6,5 Milliarden Parameter pro Token und unterstützt einen vom Hersteller angegebenen Kontext von 256k, wählbaren Reasoning-Aufwand, JSON und Funktionsaufrufe.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Mistral Small 4 verbindet allgemeine Anweisungsbefolgung, schlussfolgerndes Denken und Programmierung in einem einzigen multimodalen Modell. Der Hersteller beschreibt es als Zusammenführung der Familien Instruct, Magistral für Reasoning und Devstral für Programmierung. Es nimmt Text und Bilder entgegen und gibt Text zurück; Funktionsaufrufe und JSON-Ausgaben stehen für werkzeuggestützte Anwendungen zur Verfügung.
Architektur und zentrale Funktionen
Die Veröffentlichung hat insgesamt 119 Milliarden Parameter und aktiviert 6,5 Milliarden pro Token. Ihre Mixture-of-Experts-Architektur enthält 128 Experten, davon 4 aktive, und der Hersteller dokumentiert ein Kontextfenster von 256k. Die aktive Parameterzahl und die Zahl der Experten beschreiben die Organisation des Modells; sie unterscheiden sich von der Menge an Text- oder Bildinhalt in einer Aufgabe.
Das Modell bietet Anweisungs- und Reasoning-Funktionalität im selben Modellstand. Der Hersteller nennt außerdem Vision, die Einhaltung von Systemprompts und mehrsprachige Unterstützung für Dutzende Sprachen, darunter Englisch, Französisch, Spanisch, Deutsch, Italienisch, Portugiesisch, Niederländisch, Chinesisch, Japanisch, Koreanisch und Arabisch. Eine Textanweisung kann daher nach einem Bild fragen oder eine schriftliche Anforderung mit sichtbaren Belegen verbinden, wobei die Antwort als Text zurückgegeben wird.
Eine visuelle Aufgabe kann eine Dokumentseite bereitstellen und nach den für eine benannte Bedingung relevanten Werten fragen. Halten Sie Beschriftungen und Einheiten lesbar und geben Sie an, ob das Ergebnis den ursprünglichen Wortlaut bewahren, zusammenfassen oder mit einer anderen Quelle vergleichen soll. Eine Oberflächenaufgabe kann einen Screenshot mit dem Ziel des Nutzers verbinden und das relevante sichtbare Bedienelement sowie die Belege für einen vorgeschlagenen nächsten Schritt verlangen.
Anweisungs- oder Reasoning-Modus wählen
Die veröffentlichte Modellkarte dokumentiert den Reasoning-Aufwand none für eine sofortige anweisungsbezogene Antwort und high für Reasoning; high wird für komplexe Prompts empfohlen. Die Auswahl erfolgt pro Anfrage innerhalb desselben Modells Small 4. Eine gewöhnliche Klassifikation oder kurze Überarbeitung kann einen anderen Antwortvertrag haben als ein mathematisches, visuelles oder Programmierproblem, das eine ausgearbeitete Erklärung benötigt.
Der Hersteller empfiehlt temperature 0.7 für hohen Reasoning-Aufwand. Für none gibt er je nach Aufgabe Temperaturen zwischen 0.0 und 0.7 an. Diese Einstellungen beschreiben die dokumentierten Modi und machen den Reasoning-Aufwand nicht zu einer Garantie für ein korrektes Ergebnis. Definieren Sie Annahmen, Ausgabeform und relevantes Quellenmaterial, bevor Sie wählen, wie viel Reasoning die Aufgabe erfordert.
Stellen Sie für eine ausgearbeitete Problemlösung die vollständige Bedingung bereit und verlangen Sie die wichtigen begründeten Schritte, gefolgt vom abschließenden Ausdruck. Geben Sie für eine Codeaufgabe die Anforderung, die betroffene Funktion und eine konkrete Eingabe an; verlangen Sie die vorgeschlagene Implementierung getrennt von Erklärung und Beispielen. Die Nutzungsdemonstrationen des Herstellers umfassen Anweisungsbefolgung, ein auf ein Bild angewendetes Berechnungswerkzeug und visuelles Reasoning und zeigen damit, wie Text und visuelle Belege in diese unterschiedlichen Aufgaben einfließen können.
Programmierung, Dokumente und Werkzeuge
Das Modell ist für Codebasis-Erkundung und Softwareentwicklungsagenten, allgemeine Assistenten, Dokumentverständnis und Recherche positioniert. Eine Anfrage an einen Programmieragenten kann das zu ändernde Modul, die zu bewahrende Schnittstelle und das gewünschte Verhalten benennen. Stellen Sie die relevanten Quellen und Fehlerbelege bereit. Das Modell kann die nächste Operation oder eine Codeänderung vorschlagen, während die Anwendung Repository-Zugriff, Ausführung und Rückmeldung bereitstellt.
Benennen Sie für Dokumentextraktion die erforderlichen Felder und die Darstellung fehlender Informationen. Ein nützlicher Datensatz kann Dokumentkennung, Quellaussage, interpretierte Anforderung und offene Frage trennen. Die Dienstbeschreibung des Herstellers nennt benutzerdefinierte strukturierte Ausgaben und die Beantwortung von Dokumentfragen; Letztere verwendet Dokumentverarbeitung und OCR, um Text und Struktur vor der Analyse durch das Sprachmodell aufzubereiten. Eine direkte Bildfrage und ein OCR-gestützter Dokumentablauf sollten ihre jeweils eigene Eingabevorbereitung bewahren.
Funktionsaufrufe benötigen klar beschriebene Werkzeuge. Das Modell wählt eine Funktion und erstellt Argumente; die Anwendung führt die Operation aus und liefert ihr Ergebnis für die nachfolgende Antwort zurück. Dieselbe Logik gilt für eine Abfrage, Berechnung oder Programmieroperation. JSON-Formatierung ordnet eine Antwort, während ein Werkzeugaufruf eine externe Aktion anfordert; beides sollte nicht als austauschbares Ergebnis behandelt werden.
Die Dienstbeschreibung nennt außerdem vorhergesagte Ausgaben, Antwortpräfixe, Stapelverarbeitung und Agentengespräche. Vorhergesagte Ausgaben sind nützlich, wenn ein Dokument oder eine Codedatei mit nur einer begrenzten Änderung neu erzeugt werden muss und der übrige Inhalt bekannt ist. Geben Sie die Änderung und das zu bewahrende Material an. Die Präfixfortsetzung verwendet einen bekannten Antwortanfang, während Stapelverarbeitung die Übermittlung von Arbeit betrifft und keinen zusätzlichen Reasoning-Modus.
Kontext und Grenzen der Ausgabe
Planen Sie schriftliche Aufgabe, visuelles Material, Gespräch und gewünschte Antwort im Rahmen des dokumentierten Kontexts von 256k. Das veröffentlichte Nutzungsbeispiel konfiguriert einen Kontext von 262.144 Tokens, während sein Generierungsbeispiel mit 1.024 Tokens keine gesonderte maximale Ausgabekapazität ist. Die gelesenen Quellen nennen keine unabhängige harte Antwortlängengrenze, die an die Stelle der gewählten Aufgabenlänge treten könnte.
Small 4 hat seine eigene Mixture-of-Experts-Architektur mit 119 Milliarden Parametern und hybride Modi. Es sollte weder die dichte Architektur mit 128 Milliarden Parametern von Medium 3.5 noch die getrennten Instruct- und Reasoning-Ausgaben von Ministral 3 übernehmen. Der Hersteller veröffentlicht außerdem eigene quantisierte Artefakte und Artefakte für spekulatives Dekodieren; das sind gesonderte Bereitstellungsartefakte und keine unterschiedlichen Inhaltsmodalitäten. Bewahren Sie die benannte Veröffentlichung Small 4 und den Modus, der für die tatsächliche Erklärung, den strukturierten Datensatz oder das Codeergebnis verlangt wird.
POST /v1/batchestexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldendpoint | Typstring | AnforderungErforderlich | Werte und Limits /v1/chat/completions | Standard— |
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits mistralai/mistral-small-2603:batch | Standard— |
Feldrequests | Typbatch_item[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldrequests[].custom_id | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldrequests[].body.messages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldcompletion_window | Typstring | AnforderungOptional | Werte und Limits 24h | Standard— |
Feldprovider | Typobject|null | AnforderungOptional | Werte und Limits | Standard— |
Feldrequests[].body.model | Typstring | AnforderungOptional | Werte und Limits mistralai/mistral-small-2603:batch, mistralai/mistral-small-2603 | Standard— |
Feldprovider.only | Typstring[] | AnforderungOptional | Werte und Limits mistral | Standard— |
Feldprovider.allow_fallbacks | Typboolean|null | AnforderungOptional | Werte und Limits false, null | Standard— |
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragendpoint, model, requests |
Parametermaterial_types | Vertragtext |
Parameterrepresentation | Vertrageingebettete requests[]; jedes Element enthält custom_id und body |
Parameterrequest_endpoint_profile | Vertrag/v1/chat/completions |
Parameterfile_material | VertragDer Aufrufer kann tatsächliches UTF-8-JSONL lokal in requests[] einlesen. Es werden weder ein Upload-Zweck noch input_file_id oder eine Dateireferenz verwendet. Fehlendes oder leeres Kundenmaterial stoppt die Vorbereitung vor POST. |
Parameterserialization_order | Vertragendpoint, model, provider (falls angegeben), completion_window (falls angegeben), requests als letztes Feld |
Parameteroptional_controls | Vertragprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | VertragAnfragekörper für Text Chat Completions in der dokumentierten Inline-Batch-Struktur. |
Lebenszyklus: asynchronous
GET /v1/batches/{operation_id} · die tatsächliche response.id der ursprünglichen Erstellungsantwort; derselbe Nutzer/Schlüssel/dieselbe Gruppe
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00015 / 1K Tokens Ausgabe · Ausgabetoken $0.0006 / 1K Tokens Eingabe · Cache lesen $0.000015 / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00015 / 1K Tokens Ausgabe · Ausgabetoken $0.0006 / 1K Tokens Eingabe · Cache lesen $0.000015 / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-small-2603:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/mistral-small-2603:batch', 'mistralai/mistral-small-2603']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-small-2603:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\neingebettetes JSON unter results[].response.body
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nBewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Das vollständige ursprüngliche Status-JSON, jedes Ergebnis/jede custom_id und den vollständigen Antwort- oder Fehlerkörper aufbewahren. Abgeschlossene results[] ohne Filterung als JSONL speichern.
Die ursprüngliche Vorgangs-ID beibehalten. Bei 503 result_pending_check gilt X-Should-Retry:false; einen ursprünglichen Batch mit unbekanntem Ausgang niemals erneut einreichen.
| Feld | Typ |
|---|---|
Feldresults[].custom_id | Typstring |
Feldresults[].response.body.choices[].message.content | Typstring|null |
Feldresults[].error | Typobject|null |
Feldusage | Typobject|null |
Feldid | Typstring |
Feldmodel | Typstring |
Feldendpoint | Typstring |
Feldstatus | Typstring |
Feldrequest_counts | Typobject |
Feldresults[].id | Typstring |
Feldresults[].response.status_code | Typinteger |
Feldresults[].response.request_id | Typstring |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungUngültige Struktur der dokumentierten Inline-Einbettung, doppelte Schlüssel, ungültige Identitätsangaben zu einem Element oder ein Konflikt mit den konfigurierten Modellfähigkeiten. | Nächster SchrittDie angegebenen Felder vor jeder neuen Einreichung korrigieren. |
Antwort401 · authentication_error | BedingungUngültiger API-Schlüssel. | Nächster SchrittDen autorisierten Ailoot-Schlüssel verwenden. |
Antwort403 · permission_error | BedingungGruppe für Stapelverarbeitung nicht verfügbar. | Nächster SchrittDie Berechtigung des Schlüssels bzw. der Gruppe prüfen. |
Antwort422 · invalid_request_error | BedingungStapelverarbeitung wird über das Guthaben abgerechnet; die Erstellung über ein Abonnement wird abgelehnt. | Nächster SchrittDie autorisierte Gruppe mit Guthabenabrechnung verwenden. |
Antwort422 · price_unavailable | BedingungFür die Batch-Eingabe kann kein Preisangebot erstellt werden. | Nächster SchrittAntwort aufbewahren; die dokumentierte Eingabe der API-Familie verwenden. |
Antwort402 · billing_error | BedingungReservierung für Stapelverarbeitung nicht verfügbar. | Nächster SchrittDie Zulassung klären, bevor eine neue Anfrage gestellt wird. |
Antwort503 · price_unavailable | BedingungMethodenpreis bzw. native Tarife für Stapelverarbeitung nicht verfügbar. | Nächster SchrittAntwort aufbewahren; keine anderen Preise einsetzen. |
Antwort503 · api_error | BedingungDie genaue Anbieterroute ist nicht verfügbar. | Nächster SchrittAntwort zur Reparatur der Route aufbewahren. |
Antwort503 · result_pending_check | BedingungDas ursprüngliche Ergebnis muss geprüft werden; X-Should-Retry:false. | Nächster SchrittDie ursprüngliche operation_id/id beibehalten und ihren Status lesen; den ursprünglichen POST niemals wiederholen. |
Antwort404 · not_found | BedingungDer Batch-Vorgang, dessen Status abgefragt wird, ist nicht vorhanden oder gehört einer anderen Identität. | Nächster SchrittDie genaue ursprüngliche id und denselben Nutzer/Schlüssel/dieselbe Gruppe verwenden. |
Ailoot Ultra mistralai/mistral-small-2603:batch
Verwenden Sie die oben angezeigten Methodenpfade.