Source: https://ailoot.ai/models/de-at/mistralai-mistral-small-2603/ Canonical: https://ailoot.ai/models/de-at/mistralai-mistral-small-2603/ Language: de-at # Mistral: Mistral Small 4 [Markdown](https://ailoot.ai/models/de-at/mistralai-mistral-small-2603/index.md) · [JSON](https://ailoot.ai/models/de-at/mistralai-mistral-small-2603/facts.json) ## [Mistral: Mistral Small 4](https://ailoot.ai/models/de-at/mistralai-mistral-small-2603/) Mistral Small 4 ist ein hybrides Text- und Bildmodell mit Fähigkeiten für Anweisungen, schlussfolgerndes Denken und Programmierung. Seine Mixture-of-Experts-Veröffentlichung mit 119 Milliarden Parametern aktiviert 6,5 Milliarden Parameter pro Token und unterstützt einen vom Hersteller angegebenen Kontext von 256k, wählbaren Reasoning-Aufwand, JSON und Funktionsaufrufe. - [**Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` `mistralai/mistral-small-2603`](https://ailoot.ai/models/de-at/mistralai-mistral-small-2603/#method-0) - [**Ailoot Ultra · Anthropic Messages** `POST /v1/messages` `mistralai/mistral-small-2603`](https://ailoot.ai/models/de-at/mistralai-mistral-small-2603/#method-1) Über das Modell Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt. Mistral Small 4 verbindet allgemeine Anweisungsbefolgung, schlussfolgerndes Denken und Programmierung in einem einzigen multimodalen Modell. Der Hersteller beschreibt es als Zusammenführung der Familien Instruct, Magistral für Reasoning und Devstral für Programmierung. Es nimmt Text und Bilder entgegen und gibt Text zurück; Funktionsaufrufe und JSON-Ausgaben stehen für werkzeuggestützte Anwendungen zur Verfügung. Architektur und zentrale Funktionen Die Veröffentlichung hat insgesamt 119 Milliarden Parameter und aktiviert 6,5 Milliarden pro Token. Ihre Mixture-of-Experts-Architektur enthält 128 Experten, davon 4 aktive, und der Hersteller dokumentiert ein Kontextfenster von 256k. Die aktive Parameterzahl und die Zahl der Experten beschreiben die Organisation des Modells; sie unterscheiden sich von der Menge an Text- oder Bildinhalt in einer Aufgabe. Das Modell bietet Anweisungs- und Reasoning-Funktionalität im selben Modellstand. Der Hersteller nennt außerdem Vision, die Einhaltung von Systemprompts und mehrsprachige Unterstützung für Dutzende Sprachen, darunter Englisch, Französisch, Spanisch, Deutsch, Italienisch, Portugiesisch, Niederländisch, Chinesisch, Japanisch, Koreanisch und Arabisch. Eine Textanweisung kann daher nach einem Bild fragen oder eine schriftliche Anforderung mit sichtbaren Belegen verbinden, wobei die Antwort als Text zurückgegeben wird. Eine visuelle Aufgabe kann eine Dokumentseite bereitstellen und nach den für eine benannte Bedingung relevanten Werten fragen. Halten Sie Beschriftungen und Einheiten lesbar und geben Sie an, ob das Ergebnis den ursprünglichen Wortlaut bewahren, zusammenfassen oder mit einer anderen Quelle vergleichen soll. Eine Oberflächenaufgabe kann einen Screenshot mit dem Ziel des Nutzers verbinden und das relevante sichtbare Bedienelement sowie die Belege für einen vorgeschlagenen nächsten Schritt verlangen. Anweisungs- oder Reasoning-Modus wählen Die veröffentlichte Modellkarte dokumentiert den Reasoning-Aufwand none für eine sofortige anweisungsbezogene Antwort und high für Reasoning; high wird für komplexe Prompts empfohlen. Die Auswahl erfolgt pro Anfrage innerhalb desselben Modells Small 4. Eine gewöhnliche Klassifikation oder kurze Überarbeitung kann einen anderen Antwortvertrag haben als ein mathematisches, visuelles oder Programmierproblem, das eine ausgearbeitete Erklärung benötigt. Der Hersteller empfiehlt temperature 0.7 für hohen Reasoning-Aufwand. Für none gibt er je nach Aufgabe Temperaturen zwischen 0.0 und 0.7 an. Diese Einstellungen beschreiben die dokumentierten Modi und machen den Reasoning-Aufwand nicht zu einer Garantie für ein korrektes Ergebnis. Definieren Sie Annahmen, Ausgabeform und relevantes Quellenmaterial, bevor Sie wählen, wie viel Reasoning die Aufgabe erfordert. Stellen Sie für eine ausgearbeitete Problemlösung die vollständige Bedingung bereit und verlangen Sie die wichtigen begründeten Schritte, gefolgt vom abschließenden Ausdruck. Geben Sie für eine Codeaufgabe die Anforderung, die betroffene Funktion und eine konkrete Eingabe an; verlangen Sie die vorgeschlagene Implementierung getrennt von Erklärung und Beispielen. Die Nutzungsdemonstrationen des Herstellers umfassen Anweisungsbefolgung, ein auf ein Bild angewendetes Berechnungswerkzeug und visuelles Reasoning und zeigen damit, wie Text und visuelle Belege in diese unterschiedlichen Aufgaben einfließen können. Programmierung, Dokumente und Werkzeuge Das Modell ist für Codebasis-Erkundung und Softwareentwicklungsagenten, allgemeine Assistenten, Dokumentverständnis und Recherche positioniert. Eine Anfrage an einen Programmieragenten kann das zu ändernde Modul, die zu bewahrende Schnittstelle und das gewünschte Verhalten benennen. Stellen Sie die relevanten Quellen und Fehlerbelege bereit. Das Modell kann die nächste Operation oder eine Codeänderung vorschlagen, während die Anwendung Repository-Zugriff, Ausführung und Rückmeldung bereitstellt. Benennen Sie für Dokumentextraktion die erforderlichen Felder und die Darstellung fehlender Informationen. Ein nützlicher Datensatz kann Dokumentkennung, Quellaussage, interpretierte Anforderung und offene Frage trennen. Die Dienstbeschreibung des Herstellers nennt benutzerdefinierte strukturierte Ausgaben und die Beantwortung von Dokumentfragen; Letztere verwendet Dokumentverarbeitung und OCR, um Text und Struktur vor der Analyse durch das Sprachmodell aufzubereiten. Eine direkte Bildfrage und ein OCR-gestützter Dokumentablauf sollten ihre jeweils eigene Eingabevorbereitung bewahren. Funktionsaufrufe benötigen klar beschriebene Werkzeuge. Das Modell wählt eine Funktion und erstellt Argumente; die Anwendung führt die Operation aus und liefert ihr Ergebnis für die nachfolgende Antwort zurück. Dieselbe Logik gilt für eine Abfrage, Berechnung oder Programmieroperation. JSON-Formatierung ordnet eine Antwort, während ein Werkzeugaufruf eine externe Aktion anfordert; beides sollte nicht als austauschbares Ergebnis behandelt werden. Die Dienstbeschreibung nennt außerdem vorhergesagte Ausgaben, Antwortpräfixe, Stapelverarbeitung und Agentengespräche. Vorhergesagte Ausgaben sind nützlich, wenn ein Dokument oder eine Codedatei mit nur einer begrenzten Änderung neu erzeugt werden muss und der übrige Inhalt bekannt ist. Geben Sie die Änderung und das zu bewahrende Material an. Die Präfixfortsetzung verwendet einen bekannten Antwortanfang, während Stapelverarbeitung die Übermittlung von Arbeit betrifft und keinen zusätzlichen Reasoning-Modus. Kontext und Grenzen der Ausgabe Planen Sie schriftliche Aufgabe, visuelles Material, Gespräch und gewünschte Antwort im Rahmen des dokumentierten Kontexts von 256k. Das veröffentlichte Nutzungsbeispiel konfiguriert einen Kontext von 262.144 Tokens, während sein Generierungsbeispiel mit 1.024 Tokens keine gesonderte maximale Ausgabekapazität ist. Die gelesenen Quellen nennen keine unabhängige harte Antwortlängengrenze, die an die Stelle der gewählten Aufgabenlänge treten könnte. Small 4 hat seine eigene Mixture-of-Experts-Architektur mit 119 Milliarden Parametern und hybride Modi. Es sollte weder die dichte Architektur mit 128 Milliarden Parametern von Medium 3.5 noch die getrennten Instruct- und Reasoning-Ausgaben von Ministral 3 übernehmen. Der Hersteller veröffentlicht außerdem eigene quantisierte Artefakte und Artefakte für spekulatives Dekodieren; das sind gesonderte Bereitstellungsartefakte und keine unterschiedlichen Inhaltsmodalitäten. Bewahren Sie die benannte Veröffentlichung Small 4 und den Modus, der für die tatsächliche Erklärung, den strukturierten Datensatz oder das Codeergebnis verlangt wird. Praktische Aufgabe ### Praktische Aufgabe Technisches Beispiel auf Englisch ``` Repair a last-line parser This Python parser loses a final line without a trailing newline: def lines(text): return text.split("\n")[:-1] Return a corrected function that preserves nonempty final lines, avoids an artificial last empty line when text ends in a newline and returns [] for empty text. Include tests for all three cases. ``` #### Erwartetes Ergebnis ``` A corrected Python function, a short explanation and tests for newline, no-newline and empty input. ``` #### Ergebnis prüfen ``` Check that the last real line is retained and that only a trailing separator’s artificial empty entry is removed. ``` **Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` `mistralai/mistral-small-2603` [`mistralai/mistral-small-2603`](https://ailoot.ai/models/de-at/#m=mistralai%2Fmistral-small-2603&route=Ultra&caller=mistralai%2Fmistral-small-2603&fmt=chat) Mistral /`mistralai/mistral-small-2603` ### Einstieg Mistral Small 4 ist ein hybrides Text- und Bildmodell mit Fähigkeiten für Anweisungen, schlussfolgerndes Denken und Programmierung. Seine Mixture-of-Experts-Veröffentlichung mit 119 Milliarden Parametern aktiviert 6,5 Milliarden Parameter pro Token und unterstützt einen vom Hersteller angegebenen Kontext von 256k, wählbaren Reasoning-Aufwand, JSON und Funktionsaufrufe. Zulässige Eingaben Text Ergebnisse Text ### In Ailoot verfügbar · Eingaben und Methoden **Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` Eingabe `text` Ausgabe `text` Ausgabeformat json oder SSE | Feld | Typ | Anforderung | Werte und Limits | Standard | | --- | --- | --- | --- | --- | | Feld`model` | Typ`string` | AnforderungErforderlich | Werte und Limits mistralai/mistral-small-2603 | Standard— | | Feld`messages` | Typ`message[]` | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— | | Feld`messages[].role` | Typ`string` | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— | | Feld`messages[].content` | Typ`string\|content_part[]\|null` | AnforderungOptional | Werte und Limits | Standard— | | Feld`messages[].tool_calls` | Typ`tool_call[]` | AnforderungOptional | Werte und Limits | Standard— | | Feld`messages[].tool_call_id` | Typ`string` | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— | | Feld`messages[].name` | Typ`string` | AnforderungOptional | Werte und Limits | Standard— | | Feld`messages[].reasoning_content` | Typ`string` | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— | | Feld`messages[].reasoning_details` | Typ`object\|array` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`max_tokens` | Typ`integer` | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— | | Feld`max_completion_tokens` | Typ`integer` | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— | | Feld`stream` | Typ`boolean` | AnforderungOptional | Werte und Limits | Standardfalse | | Feld`stream_options.include_usage` | Typ`boolean` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`temperature` | Typ`number` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`top_p` | Typ`number` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`stop` | Typ`string\|string[]` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`tools` | Typ`function_tool[]` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`tools[].type` | Typ`string` | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— | | Feld`tools[].function.name` | Typ`string` | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— | | Feld`tools[].function.description` | Typ`string` | AnforderungOptional | Werte und Limits | Standard— | | Feld`tools[].function.parameters` | Typ`JSON_schema` | AnforderungOptional | Werte und Limits | Standard— | | Feld`tool_choice` | Typ`string\|object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`parallel_tool_calls` | Typ`boolean` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`response_format` | Typ`object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`reasoning_effort` | Typ`string` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`reasoning` | Typ`object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`service_tier` | Typ`string` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`instructions` | Typ`string` | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— | | Feld`functions` | Typ`function[]` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`function_call` | Typ`string\|object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`prompt_cache_options` | Typ`object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`modalities` | Typ`string[]` | AnforderungOptional | Werte und Limits text | Standard— | | Feld`provider` | Typ`object` | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— | | Feld`cache_control.ttl` | Typ`string` | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— | Kombinationen von Eingabematerialien **Text** · UTF8-Text `messages[].content` Methodenparameter und Lebenszyklus | Parameter | Vertrag | | --- | --- | | Parameter`content_type` | Vertragapplication/json | | Parameter`required` | Vertragmodel, messages | | Parameter`material_types` | Vertragtext | | Parameter`messages` | VertragNachrichtenarray mit role/content-Struktur | | Parameter`file_material` | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet | | Parameter`optional_controls` | Vertragstream, temperature, top\_p, stop, max\_tokens, max\_completion\_tokens, reasoning, response\_format, tools, tool\_choice | | Parameter`control_scope` | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen | | Parameter`output_modalities` | Vertragtext | | Parameter`hosted_operations` | Vertragfalse | | Parameter`multimodal_input_binding` | Vertragnull | Lebenszyklus: `synchronous_or_streamed` Die genaue Modell-ID zusammen mit messages senden. Die Kontextlänge ist keine Ausgabeobergrenze. Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung. ### Tarife Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode. Schnellmodus Standardtarif Wenn der Schnellmodus ausgewählt ist Flex-Modus Standardtarif Wenn der Modus flex ausgewählt ist Maximaler Denkaufwand Standardtarif Wenn beim maximalen Denkaufwand die Standardanpassung (default) verwendet wird Denkaufwand · hoch Standardtarif Wenn der Denkaufwand hoch ist Denkaufwand · keiner Standardtarif Wenn kein Denkaufwand verwendet wird #### Ailoot-Tarife #### Preise nach Konfiguration Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif. | Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr | | --- | --- | --- | --- | --- | | KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken **$0.0003** / 1K Tokens Ausgabe · Ausgabetoken **$0.0012** / 1K Tokens Eingabe · Cache lesen **$0.00003** / 1K Tokens Eingabe · In Cache schreiben **—** / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde **—** / 1K Tokens | | KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken **$0.0003** / 1K Tokens Ausgabe · Ausgabetoken **$0.0012** / 1K Tokens Eingabe · Cache lesen **$0.00003** / 1K Tokens Eingabe · In Cache schreiben **—** / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde **—** / 1K Tokens | Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. [So funktionieren Reservierung und Abrechnung →](https://ailoot.ai/docs/de-at/billing/reserve/) ### Beispielanfragen #### Ailoot Ultra · OpenAI Chat curlPython SDKPython-Stream ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "mistralai/mistral-small-2603", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}') Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path r=json.loads(Path("result.json").read_text()) for x in r.get("choices",[]): if x.get("message",{}).get("content"): print(x["message"]["content"]) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) result=client.chat.completions.create(model='mistralai/mistral-small-2603',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(result.to_dict(mode="json")) ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='mistralai/mistral-small-2603',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Ergebnisse abrufen und speichern #### Ailoot Ultra · OpenAI Chat json oder SSE ##### Alle fertiggestellten Ergebnisse aufbewahren Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf. Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten. ##### Wenn die ursprüngliche Antwort geprüft werden muss Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben. Antwortfelder | Feld | Typ | | --- | --- | | Feld`choices[].index` | Typinteger | | Feld`choices[].message.content` | Typstring\|null | | Feld`choices[].message.tool_calls` | Typtool\_call\[\] | | Feld`choices[].message.reasoning_content` | Typstring | | Feld`choices[].message.reasoning_details` | Typobject\|array | | Feld`choices[].finish_reason` | Typstring\|null | | Feld`usage` | Typobject | Fehler und nächste Schritte | Antwort | Bedingung | Nächster Schritt | | --- | --- | --- | | Antwort400 · `invalid_request_error` | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. | ### Aliasnamen #### Modellaliasnamen **Ailoot Ultra** [`mistralai/mistral-small-2603`](https://ailoot.ai/models/de-at/#m=mistralai%2Fmistral-small-2603&route=Ultra&caller=mistralai%2Fmistral-small-2603&fmt=chat) #### Aliasnamen für Methodenpfade Verwenden Sie die oben angezeigten Methodenpfade. #### Zugehörige Aufrufer-IDs [`mistralai/mistral-small-2603`](https://ailoot.ai/models/de-at/#m=mistralai%2Fmistral-small-2603&route=Ultra&caller=mistralai%2Fmistral-small-2603&fmt=chat) **Ailoot Ultra · Anthropic Messages** `POST /v1/messages` `mistralai/mistral-small-2603` [`mistralai/mistral-small-2603`](https://ailoot.ai/models/de-at/#m=mistralai%2Fmistral-small-2603&route=Ultra&caller=mistralai%2Fmistral-small-2603&fmt=messages) Mistral /`mistralai/mistral-small-2603` ### Einstieg Mistral Small 4 ist ein hybrides Text- und Bildmodell mit Fähigkeiten für Anweisungen, schlussfolgerndes Denken und Programmierung. Seine Mixture-of-Experts-Veröffentlichung mit 119 Milliarden Parametern aktiviert 6,5 Milliarden Parameter pro Token und unterstützt einen vom Hersteller angegebenen Kontext von 256k, wählbaren Reasoning-Aufwand, JSON und Funktionsaufrufe. Zulässige Eingaben Text Ergebnisse json · sse ### In Ailoot verfügbar · Eingaben und Methoden **Ailoot Ultra · Anthropic Messages** `POST /v1/messages` Eingabe `text` Ausgabe `json`, `sse` Ausgabeformat JSON oder SSE | Feld | Typ | Anforderung | Werte und Limits | Standard | | --- | --- | --- | --- | --- | | Feld`model` | Typ`string` | AnforderungErforderlich | Werte und Limits mistralai/mistral-small-2603 | Standard— | | Feld`messages` | Typ`message[]` | AnforderungErforderlich | Werte und Limits | Standard— | | Feld`messages[].role` | Typ`string` | AnforderungErforderlich | Werte und Limits user, assistant | Standard— | | Feld`messages[].content` | Typ`string` | AnforderungErforderlich | Werte und Limits | Standard— | | Feld`max_tokens` | Typ`integer` | AnforderungErforderlich | Werte und Limits | Standard— | | Feld`stream` | Typ`boolean` | AnforderungOptional | Werte und Limits | Standardfalse | Kombinationen von Eingabematerialien **Text** · UTF-8-Text `Zeichenfolge messages[].content` Methodenparameter und Lebenszyklus | Parameter | Vertrag | | --- | --- | | Parameter`content_type` | Vertragapplication/json | | Parameter`required` | Vertragmodel, messages, max\_tokens | | Parameter`optional_controls` | Vertragstream | | Parameter`material_types` | Vertragtext | | Parameter`text_file_material` | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. | Lebenszyklus: `synchronous_or_streamed` ### Tarife Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode. Schnellmodus Standardtarif Wenn der Schnellmodus ausgewählt ist Flex-Modus Standardtarif Wenn der Modus flex ausgewählt ist Maximaler Denkaufwand Standardtarif Wenn beim maximalen Denkaufwand die Standardanpassung (default) verwendet wird Denkaufwand · hoch Standardtarif Wenn der Denkaufwand hoch ist Denkaufwand · keiner Standardtarif Wenn kein Denkaufwand verwendet wird #### Ailoot-Tarife #### Preise nach Konfiguration Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif. | Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr | | --- | --- | --- | --- | --- | | KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken **$0.0003** / 1K Tokens Ausgabe · Ausgabetoken **$0.0012** / 1K Tokens Eingabe · Cache lesen **$0.00003** / 1K Tokens Eingabe · In Cache schreiben **—** / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde **—** / 1K Tokens | | KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken **$0.0003** / 1K Tokens Ausgabe · Ausgabetoken **$0.0012** / 1K Tokens Eingabe · Cache lesen **$0.00003** / 1K Tokens Eingabe · In Cache schreiben **—** / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde **—** / 1K Tokens | Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. [So funktionieren Reservierung und Abrechnung →](https://ailoot.ai/docs/de-at/billing/reserve/) ### Beispielanfragen #### Ailoot Ultra · Anthropic Messages Vollständiger minimaler JSON-Bodycurl · eigenes UTF-8-Dokument verwendenPython · das vollständige Ergebnis speichern ```json { "model": "mistralai/mistral-small-2603", "max_tokens": 128, "messages": [ { "role": "user", "content": "Summarize the incident report." } ], "stream": false } ``` ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'mistralai/mistral-small-2603', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8') PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \ -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) PY_RESULT ``` ```python import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'mistralai/mistral-small-2603', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text from urllib.request import Request, urlopen from urllib.error import HTTPError api_key = os.environ['AILOOT_API_KEY'] if not api_key.strip(): raise SystemExit('Set AILOOT_API_KEY before making a request') headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'} headers['x-api-key'] = api_key request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST') try: with urlopen(request, timeout=120) as response: raw = response.read() Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8') except HTTPError as error: Path('result.json').write_bytes(error.read()) Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8') raise Path('result.json').write_bytes(raw) import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) ``` ### Ergebnisse abrufen und speichern #### Ailoot Ultra · Anthropic Messages JSON oder SSE ##### Alle fertiggestellten Ergebnisse aufbewahren Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf. Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe. ##### Wenn die ursprüngliche Antwort geprüft werden muss Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben. Antwortfelder | Feld | Typ | | --- | --- | | Feld`id` | Typstring | | Feld`model` | Typstring | | Feld`content[]` | Typtext\|thinking\|tool\_use\|other content block | | Feld`stop_reason` | Typstring\|null | | Feld`usage` | Typobject | Fehler und nächste Schritte | Antwort | Bedingung | Nächster Schritt | | --- | --- | --- | | Antwort400 · `invalid_request_error` | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. | ### Aliasnamen #### Modellaliasnamen **Ailoot Ultra** [`mistralai/mistral-small-2603`](https://ailoot.ai/models/de-at/#m=mistralai%2Fmistral-small-2603&route=Ultra&caller=mistralai%2Fmistral-small-2603&fmt=messages) #### Aliasnamen für Methodenpfade Verwenden Sie die oben angezeigten Methodenpfade. #### Zugehörige Aufrufer-IDs [`mistralai/mistral-small-2603`](https://ailoot.ai/models/de-at/#m=mistralai%2Fmistral-small-2603&route=Ultra&caller=mistralai%2Fmistral-small-2603&fmt=messages) FAQ · Mistral: Mistral Small 4 Welche Eingaben und Ergebnisse sind verfügbar? `POST /v1/chat/completions` · `mistralai/mistral-small-2603`: `text` → `text` `POST /v1/messages` · `mistralai/mistral-small-2603`: `text` → `json`, `sse` Welche Felder verwendet die Anfrage? `POST /v1/chat/completions` · `mistralai/mistral-small-2603`: `model`, `messages`, `stream`, `modalities`, `provider` `POST /v1/messages` · `mistralai/mistral-small-2603`: `model`, `messages`, `max_tokens`, `stream` Welche Grenzen gelten? `POST /v1/chat/completions` · `mistralai/mistral-small-2603`: `messages.min_items`: `1` Verbinden Sie Ailoot mit Claude Code, OpenCode, Hermes oder Ihrer eigenen Anwendung. ## Das Unternehmen und sein Projektportfolio Das Unternehmen und sein Projektportfolio: Millionen von Kunden; monatliche Umsätze in Milliardenhöhe. ## Tokens mit Rabatt kaufen. Aborabatt für regelmäßige Arbeit. Aktionscodes bieten bis 50% beim Tokenkauf. Abo Wählen Sie einen Tarif mit Rabatt für Ihre regelmäßigen Anfragen. Aktionscode bis 50% Geben Sie den Code beim Kauf ein. Der Preis wird nach den gültigen Aktionsbedingungen berechnet. Ausgaben in der Historie Modell, Tokens und Betrag werden für jede Anfrage gespeichert. [Abo wählen](https://ailoot.ai/docs/de-at/billing/subscriptions/) · [Modellpreise ansehen](https://ailoot.ai/models/de-at/) ## Verbinden Sie die API mit dem Produkt, das Sie verkaufen. SaaS, Anwendungen und Bots nach dem offiziellen Angebot und Lizenzvertrag von Ailoot. Fordern Sie für den Weiterverkauf eine Reseller-Lizenz an. Kommerzielle Anwendung Integrieren Sie Text-, Bild-, Video- und Audioerzeugung in kostenpflichtige Funktionen Ihres Dienstes. Reseller-Lizenz Senden Sie Projektbeschreibung und Zugangsmodell. Fordern Sie schriftliche Nutzungs- und Weiterverkaufsbedingungen an. Dokumente auf der Website Offizielles Angebot, Lizenzvertrag und Datenschutzerklärung sind vor der Verbindung zugänglich. [Reseller-Lizenz anfordern](mailto:support@ailoot.ai) · [Offizielles Angebot und Lizenzvertrag](https://ailoot.ai/legal/offer?lang=de-at) ## Ailoot · Das Unternehmen und sein Projektportfolio Ailoot baut auf bewährte Betriebserfahrung, einen großen Kundenstamm, stabilen Service und kontinuierliche KPI-Kontrolle. Das Unternehmen und sein Projektportfolio: Millionen von Kunden; monatliche Umsätze in Milliardenhöhe. Ailoot nutzt diese Betriebserfahrung für den API-Zugang zu KI-Funktionen in Kundenprodukten, Agenten, Anwendungen und Automatisierungen.