Source: https://ailoot.ai/models/de-at/mistralai-mistral-nemo/ Canonical: https://ailoot.ai/models/de-at/mistralai-mistral-nemo/ Language: de-at # Mistral: Mistral Nemo [Markdown](https://ailoot.ai/models/de-at/mistralai-mistral-nemo/index.md) · [JSON](https://ailoot.ai/models/de-at/mistralai-mistral-nemo/facts.json) ## [Mistral: Mistral Nemo](https://ailoot.ai/models/de-at/mistralai-mistral-nemo/) Mistral Nemo Instruct 2407 ist ein mehrsprachiges Textmodell mit 12 Milliarden Parametern für präzise Anweisungen, Gespräche über mehrere Runden und Code. Es hat einen vom Hersteller angegebenen Kontext von 128k, einen Tekken-Tokenizer, dokumentierte Funktionsaufrufe und einen eigenen, auf Anweisungen abgestimmten Modellstand mit eigenen Sampling-Empfehlungen. - [**Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` `mistralai/mistral-nemo`](https://ailoot.ai/models/de-at/mistralai-mistral-nemo/#method-0) - [**Ailoot Ultra · Anthropic Messages** `POST /v1/messages` `mistralai/mistral-nemo`](https://ailoot.ai/models/de-at/mistralai-mistral-nemo/#method-1) Über das Modell Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt. Mistral Nemo Instruct 2407 ist die auf Anweisungen abgestimmte Edition des Sprachmodells Mistral Nemo mit 12B Parametern. Sie wurde aus dem separat benannten Checkpoint Nemo Base 2407 feinabgestimmt. Der Hersteller beschreibt ein Training mit einem hohen Anteil mehrsprachiger Texte und Code sowie ein Kontextfenster von 128k Token für schriftliche Anweisungen, Gespräche und Programmieraufgaben. Wesentliche Merkmale und Architektur Die Veröffentlichung bietet getrennte vortrainierte und auf Anweisungen abgestimmte Versionen. Dieser Eintrag betrifft den Instruct-Checkpoint: Eine Textanfrage kann eine Erklärung, ein überarbeitetes Dokument, Programmcode oder einen vorgeschlagenen Funktionsaufruf verlangen. Die Abstimmung auf Anweisungen wird als Verbesserung des präzisen Befolgens von Anweisungen, des Schlussfolgerns, von Dialogen über mehrere Gesprächsrunden und der Codegenerierung gegenüber der vorausgehenden Mistral-7B-Reihe beschrieben. Das Modell hat 40 Transformer-Schichten mit einer Modellbreite von 5.120. Es verwendet SwiGLU, 32 Attention-Köpfe und 8 Schlüssel/Wert-Köpfe in der Grouped-Query Attention, eine Kopfdimension von 128 und eine verborgene Dimension von 14.336. Rotations-Embeddings verwenden einen Theta-Wert von einer Million. Das veröffentlichte Vokabular umfasst 2 hoch 17 Einträge, also 131.072; diese Vokabulargröße ist von der Angabe 128k für den Aufgabenkontext zu unterscheiden. Die Ankündigung des Herstellers beschreibt außerdem quantisierungsbewusstes Training und FP8-Inferenz. Dies sind Merkmale der Veröffentlichung und ihrer Rechengenauigkeit, keine zusätzlichen Inhaltsmodalitäten. Behalten Sie den genauen Checkpoint und den passenden Tokenizer bei, statt ein anderes 12B-Modell oder ein anderes Modell der Mistral-Familie als dieselbe Edition zu behandeln. Mehrsprachiger Text und Tekken Die Veröffentlichung hebt Englisch, Französisch, Deutsch, Spanisch, Italienisch, Portugiesisch, Chinesisch, Japanisch, Koreanisch, Arabisch und Hindi hervor; Russisch ist außerdem in den Sprachmetadaten der Modellkarte enthalten. Legen Sie endgültige Sprache, Zielgruppe und Fachbegriffe fest, bevor Sie ein Ergebnis verlangen. Lassen Sie bei mehrsprachigen Dokumentaufgaben Namen, Kennungen und Einheiten unverändert und passen Sie die umgebende Prosa an. Nemo verwendet den Tokenizer Tekken, der auf mehr als 100 Sprachen trainiert und für eine effiziente Darstellung natürlicher Sprache und von Quellcode entwickelt wurde. Der Tokenizer beeinflusst, wie das Quellmaterial den Kontext belegt; eine Zeichenzahl entspricht daher nicht von sich aus einer Tokenzahl. Verwenden Sie den passenden Tokenizer und halten Sie das relevante Material der Aufgabe zusammen, statt den Kontext allein anhand der sichtbaren Länge einer Textpassage zu schätzen. Anweisungen und Code vorbereiten Geben Sie für eine Dokumenterklärung die Quellpassage vor und benennen Sie die zu erklärende Bedingung oder den Begriff. Verlangen Sie die Erklärung in der Sprache des Lesers und bewahren Sie die ursprünglichen Namen sowie die Quellaussage, auf der die Antwort beruht. Legen Sie für die Bearbeitung fest, welche Bedeutung und Bedingungen nach dem Umschreiben erhalten bleiben müssen und ob das Ergebnis nur die überarbeitete Passage oder zusätzlich eine Erklärung enthalten soll. Benennen Sie für eine Programmieraufgabe Sprache, Eingabetypen, erwartete Ausgabe und vorhandene Schnittstelle. Fügen Sie die Funktion oder Deklarationen bei, die die Änderung bestimmen. Ein hilfreiches Ergebnis kann die Implementierung, ihre Annahmen und Beispieleingaben mit erwarteten Ausgaben enthalten. Eine separate Frage kann das Modell auffordern, eine Eingabe durch den bereitgestellten Code zu verfolgen, damit sich die Erklärung auf einen konkreten Ablauf statt auf ein nicht näher bestimmtes Programm bezieht. Bewahren Sie bei einem Gespräch über mehrere Runden die relevante frühere Antwort auf und stellen Sie eine gezielte Anschlussfrage oder geben Sie neues Material hinzu, das die Aufgabe verändert. Legen Sie fest, ob die nächste Antwort das frühere Artefakt überarbeiten, eine Entscheidung erklären oder dieselben Quellenfakten anders darstellen soll. Dadurch wird die Fortsetzung des Gesprächs ausdrücklich bestimmt. Funktionsaufrufe und Sampling Der Hersteller dokumentiert Funktionsaufrufe im passenden Gesprächsformat. Das Modell erzeugt den vorgeschlagenen Vorgang und seine Argumente; die Anwendung führt die Funktion aus und fügt ihr Ergebnis vor der nächsten Generierung dem Gespräch hinzu. Die Modellkarte weist ausdrücklich darauf hin, dass ein verkürztes Codebeispiel nicht den vollständigen Zyklus zeigt; die darin fehlenden Ausführungs- und Ergebnisschritte bleiben deshalb notwendige Teile einer werkzeuggestützten Anwendung. In diesem veröffentlichten Werkzeugformat bestehen Aufruf-IDs und die zugehörigen Ergebnis-IDs aus genau neun alphanumerischen Zeichen. Bewahren Sie beim Vorbereiten des Gesprächs im nativen Format die Zuordnung zwischen Vorgang und Ergebnis. Eine umgebende Schnittstelle kann das Gespräch anders darstellen; die Anforderung der Veröffentlichung beschreibt das Modellformat des Herstellers und keine erfundene universelle Clientkennung. Der Hersteller empfiehlt temperature 0.3 und merkt an, dass Nemo niedrigere Temperaturen als frühere Mistral-Modelle verwendet. Die verschiedenen Einstellungen mit 64, 128, 256 und 1.000 Token in den Beispielen sind Generierungsentscheidungen für diese Demonstrationen und keine unabhängig veröffentlichten maximalen Antwortkapazitäten. Inhaltliche Grenzen Die Instruct-Modellkarte beschreibt diesen Checkpoint als Demonstration der Feinabstimmung des Basismodells und erklärt ausdrücklich, dass er keinen Moderationsmechanismus enthält. Anwendungen, die moderiertes Verhalten benötigen, müssen es im umgebenden System bereitstellen. Dies ist eine Eigenschaft des veröffentlichten Checkpoints und keine Aussage über jeden Dienst, der ein Nemo-Modell hostet. Die hier dokumentierte Aufgabe von Nemo ist Textgenerierung mit einem eigenen Kontext von 128k und einem eigenen Gesprächsformat. Bildverständnis, Sprachtranskription und hybride Reasoning-Steuerungen späterer Mistral-Familien dürfen dieser Edition nicht zugeordnet werden. Geben Sie die vollständige schriftliche Bedingung, relevantes Quellmaterial und das erforderliche Endergebnis vor, damit das Resultat als Erklärung, überarbeiteter Text oder vorgeschlagene Implementierung nutzbar bleibt. Praktische Aufgabe ### Praktische Aufgabe Technisches Beispiel auf Englisch ``` Trace and repair a loop boundary Trace this Python function for n=3, then correct it to sum integers from 1 through n inclusively: def total(n): return sum(range(1, n)). Inputs are nonnegative integers. Preserve the total(n) interface. Return the corrected function and examples for n=0, n=1 and n=3, with expected outputs. ``` #### Erwartetes Ergebnis ``` A concise trace, a corrected function and three input/output examples. ``` #### Ergebnis prüfen ``` Check that n=0 remains zero and that the upper endpoint n is included for positive inputs. ``` **Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` `mistralai/mistral-nemo` [`mistralai/mistral-nemo`](https://ailoot.ai/models/de-at/#m=mistralai%2Fmistral-nemo&route=Ultra&caller=mistralai%2Fmistral-nemo&fmt=chat) Mistral /`mistralai/mistral-nemo` ### Einstieg Mistral Nemo Instruct 2407 ist ein mehrsprachiges Textmodell mit 12 Milliarden Parametern für präzise Anweisungen, Gespräche über mehrere Runden und Code. Es hat einen vom Hersteller angegebenen Kontext von 128k, einen Tekken-Tokenizer, dokumentierte Funktionsaufrufe und einen eigenen, auf Anweisungen abgestimmten Modellstand mit eigenen Sampling-Empfehlungen. Zulässige Eingaben Text Ergebnisse Text ### In Ailoot verfügbar · Eingaben und Methoden **Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` Eingabe `text` Ausgabe `text` Ausgabeformat json oder SSE | Feld | Typ | Anforderung | Werte und Limits | Standard | | --- | --- | --- | --- | --- | | Feld`model` | Typ`string` | AnforderungErforderlich | Werte und Limits mistralai/mistral-nemo | Standard— | | Feld`messages` | Typ`message[]` | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— | | Feld`messages[].role` | Typ`string` | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— | | Feld`messages[].content` | Typ`string\|content_part[]\|null` | AnforderungOptional | Werte und Limits | Standard— | | Feld`messages[].tool_calls` | Typ`tool_call[]` | AnforderungOptional | Werte und Limits | Standard— | | Feld`messages[].tool_call_id` | Typ`string` | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— | | Feld`messages[].name` | Typ`string` | AnforderungOptional | Werte und Limits | Standard— | | Feld`messages[].reasoning_content` | Typ`string` | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— | | Feld`messages[].reasoning_details` | Typ`object\|array` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`max_tokens` | Typ`integer` | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— | | Feld`max_completion_tokens` | Typ`integer` | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— | | Feld`stream` | Typ`boolean` | AnforderungOptional | Werte und Limits | Standardfalse | | Feld`stream_options.include_usage` | Typ`boolean` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`temperature` | Typ`number` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`top_p` | Typ`number` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`stop` | Typ`string\|string[]` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`tools` | Typ`function_tool[]` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`tools[].type` | Typ`string` | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— | | Feld`tools[].function.name` | Typ`string` | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— | | Feld`tools[].function.description` | Typ`string` | AnforderungOptional | Werte und Limits | Standard— | | Feld`tools[].function.parameters` | Typ`JSON_schema` | AnforderungOptional | Werte und Limits | Standard— | | Feld`tool_choice` | Typ`string\|object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`parallel_tool_calls` | Typ`boolean` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`response_format` | Typ`object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`reasoning_effort` | Typ`string` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`reasoning` | Typ`object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`service_tier` | Typ`string` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`instructions` | Typ`string` | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— | | Feld`functions` | Typ`function[]` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`function_call` | Typ`string\|object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`prompt_cache_options` | Typ`object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`modalities` | Typ`string[]` | AnforderungOptional | Werte und Limits text | Standard— | | Feld`provider` | Typ`object` | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— | | Feld`cache_control.ttl` | Typ`string` | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— | Kombinationen von Eingabematerialien **Text** · UTF8-Text `messages[].content` Methodenparameter und Lebenszyklus | Parameter | Vertrag | | --- | --- | | Parameter`content_type` | Vertragapplication/json | | Parameter`required` | Vertragmodel, messages | | Parameter`material_types` | Vertragtext | | Parameter`messages` | VertragNachrichtenarray mit role/content-Struktur | | Parameter`file_material` | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet | | Parameter`optional_controls` | Vertragstream, temperature, top\_p, stop, max\_tokens, max\_completion\_tokens, reasoning, response\_format, tools, tool\_choice | | Parameter`control_scope` | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen | | Parameter`output_modalities` | Vertragtext | | Parameter`hosted_operations` | Vertragfalse | | Parameter`multimodal_input_binding` | Vertragnull | Lebenszyklus: `synchronous_or_streamed` Die genaue Modell-ID zusammen mit messages senden. Die Kontextlänge ist keine Ausgabeobergrenze. Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung. ### Tarife Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode. Schnellmodus Standardtarif Wenn der Schnellmodus ausgewählt ist Flex-Modus Standardtarif Wenn der Modus flex ausgewählt ist Maximaler Denkaufwand Standardtarif Wenn beim maximalen Denkaufwand die Standardanpassung (default) verwendet wird #### Ailoot-Tarife #### Preise nach Konfiguration Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif. | Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr | | --- | --- | --- | --- | --- | | KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken **$0.0003** / 1K Tokens Ausgabe · Ausgabetoken **$0.0003** / 1K Tokens Eingabe · Cache lesen **$0.00003** / 1K Tokens Eingabe · In Cache schreiben **—** / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde **—** / 1K Tokens | | KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken **$0.0003** / 1K Tokens Ausgabe · Ausgabetoken **$0.0003** / 1K Tokens Eingabe · Cache lesen **$0.00003** / 1K Tokens Eingabe · In Cache schreiben **—** / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde **—** / 1K Tokens | Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. [So funktionieren Reservierung und Abrechnung →](https://ailoot.ai/docs/de-at/billing/reserve/) ### Beispielanfragen #### Ailoot Ultra · OpenAI Chat curlPython SDKPython-Stream ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "mistralai/mistral-nemo", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}') Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path r=json.loads(Path("result.json").read_text()) for x in r.get("choices",[]): if x.get("message",{}).get("content"): print(x["message"]["content"]) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) result=client.chat.completions.create(model='mistralai/mistral-nemo',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(result.to_dict(mode="json")) ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='mistralai/mistral-nemo',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Ergebnisse abrufen und speichern #### Ailoot Ultra · OpenAI Chat json oder SSE ##### Alle fertiggestellten Ergebnisse aufbewahren Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf. Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten. ##### Wenn die ursprüngliche Antwort geprüft werden muss Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben. Antwortfelder | Feld | Typ | | --- | --- | | Feld`choices[].index` | Typinteger | | Feld`choices[].message.content` | Typstring\|null | | Feld`choices[].message.tool_calls` | Typtool\_call\[\] | | Feld`choices[].message.reasoning_content` | Typstring | | Feld`choices[].message.reasoning_details` | Typobject\|array | | Feld`choices[].finish_reason` | Typstring\|null | | Feld`usage` | Typobject | Fehler und nächste Schritte | Antwort | Bedingung | Nächster Schritt | | --- | --- | --- | | Antwort400 · `invalid_request_error` | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. | ### Aliasnamen #### Modellaliasnamen **Ailoot Ultra** [`mistralai/mistral-nemo`](https://ailoot.ai/models/de-at/#m=mistralai%2Fmistral-nemo&route=Ultra&caller=mistralai%2Fmistral-nemo&fmt=chat) #### Aliasnamen für Methodenpfade Verwenden Sie die oben angezeigten Methodenpfade. #### Zugehörige Aufrufer-IDs [`mistralai/mistral-nemo`](https://ailoot.ai/models/de-at/#m=mistralai%2Fmistral-nemo&route=Ultra&caller=mistralai%2Fmistral-nemo&fmt=chat) **Ailoot Ultra · Anthropic Messages** `POST /v1/messages` `mistralai/mistral-nemo` [`mistralai/mistral-nemo`](https://ailoot.ai/models/de-at/#m=mistralai%2Fmistral-nemo&route=Ultra&caller=mistralai%2Fmistral-nemo&fmt=messages) Mistral /`mistralai/mistral-nemo` ### Einstieg Mistral Nemo Instruct 2407 ist ein mehrsprachiges Textmodell mit 12 Milliarden Parametern für präzise Anweisungen, Gespräche über mehrere Runden und Code. Es hat einen vom Hersteller angegebenen Kontext von 128k, einen Tekken-Tokenizer, dokumentierte Funktionsaufrufe und einen eigenen, auf Anweisungen abgestimmten Modellstand mit eigenen Sampling-Empfehlungen. Zulässige Eingaben Text Ergebnisse json · sse ### In Ailoot verfügbar · Eingaben und Methoden **Ailoot Ultra · Anthropic Messages** `POST /v1/messages` Eingabe `text` Ausgabe `json`, `sse` Ausgabeformat JSON oder SSE | Feld | Typ | Anforderung | Werte und Limits | Standard | | --- | --- | --- | --- | --- | | Feld`model` | Typ`string` | AnforderungErforderlich | Werte und Limits mistralai/mistral-nemo | Standard— | | Feld`messages` | Typ`message[]` | AnforderungErforderlich | Werte und Limits | Standard— | | Feld`messages[].role` | Typ`string` | AnforderungErforderlich | Werte und Limits user, assistant | Standard— | | Feld`messages[].content` | Typ`string` | AnforderungErforderlich | Werte und Limits | Standard— | | Feld`max_tokens` | Typ`integer` | AnforderungErforderlich | Werte und Limits | Standard— | | Feld`stream` | Typ`boolean` | AnforderungOptional | Werte und Limits | Standardfalse | Kombinationen von Eingabematerialien **Text** · UTF-8-Text `Zeichenfolge messages[].content` Methodenparameter und Lebenszyklus | Parameter | Vertrag | | --- | --- | | Parameter`content_type` | Vertragapplication/json | | Parameter`required` | Vertragmodel, messages, max\_tokens | | Parameter`optional_controls` | Vertragstream | | Parameter`material_types` | Vertragtext | | Parameter`text_file_material` | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. | Lebenszyklus: `synchronous_or_streamed` ### Tarife Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode. Schnellmodus Standardtarif Wenn der Schnellmodus ausgewählt ist Flex-Modus Standardtarif Wenn der Modus flex ausgewählt ist Maximaler Denkaufwand Standardtarif Wenn beim maximalen Denkaufwand die Standardanpassung (default) verwendet wird #### Ailoot-Tarife #### Preise nach Konfiguration Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif. | Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr | | --- | --- | --- | --- | --- | | KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken **$0.0003** / 1K Tokens Ausgabe · Ausgabetoken **$0.0003** / 1K Tokens Eingabe · Cache lesen **$0.00003** / 1K Tokens Eingabe · In Cache schreiben **—** / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde **—** / 1K Tokens | | KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken **$0.0003** / 1K Tokens Ausgabe · Ausgabetoken **$0.0003** / 1K Tokens Eingabe · Cache lesen **$0.00003** / 1K Tokens Eingabe · In Cache schreiben **—** / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde **—** / 1K Tokens | Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. [So funktionieren Reservierung und Abrechnung →](https://ailoot.ai/docs/de-at/billing/reserve/) ### Beispielanfragen #### Ailoot Ultra · Anthropic Messages Vollständiger minimaler JSON-Bodycurl · eigenes UTF-8-Dokument verwendenPython · das vollständige Ergebnis speichern ```json { "model": "mistralai/mistral-nemo", "max_tokens": 128, "messages": [ { "role": "user", "content": "Summarize the incident report." } ], "stream": false } ``` ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'mistralai/mistral-nemo', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8') PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \ -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) PY_RESULT ``` ```python import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'mistralai/mistral-nemo', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text from urllib.request import Request, urlopen from urllib.error import HTTPError api_key = os.environ['AILOOT_API_KEY'] if not api_key.strip(): raise SystemExit('Set AILOOT_API_KEY before making a request') headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'} headers['x-api-key'] = api_key request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST') try: with urlopen(request, timeout=120) as response: raw = response.read() Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8') except HTTPError as error: Path('result.json').write_bytes(error.read()) Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8') raise Path('result.json').write_bytes(raw) import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) ``` ### Ergebnisse abrufen und speichern #### Ailoot Ultra · Anthropic Messages JSON oder SSE ##### Alle fertiggestellten Ergebnisse aufbewahren Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf. Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe. ##### Wenn die ursprüngliche Antwort geprüft werden muss Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben. Antwortfelder | Feld | Typ | | --- | --- | | Feld`id` | Typstring | | Feld`model` | Typstring | | Feld`content[]` | Typtext\|thinking\|tool\_use\|other content block | | Feld`stop_reason` | Typstring\|null | | Feld`usage` | Typobject | Fehler und nächste Schritte | Antwort | Bedingung | Nächster Schritt | | --- | --- | --- | | Antwort400 · `invalid_request_error` | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. | ### Aliasnamen #### Modellaliasnamen **Ailoot Ultra** [`mistralai/mistral-nemo`](https://ailoot.ai/models/de-at/#m=mistralai%2Fmistral-nemo&route=Ultra&caller=mistralai%2Fmistral-nemo&fmt=messages) #### Aliasnamen für Methodenpfade Verwenden Sie die oben angezeigten Methodenpfade. #### Zugehörige Aufrufer-IDs [`mistralai/mistral-nemo`](https://ailoot.ai/models/de-at/#m=mistralai%2Fmistral-nemo&route=Ultra&caller=mistralai%2Fmistral-nemo&fmt=messages) FAQ · Mistral: Mistral Nemo Welche Eingaben und Ergebnisse sind verfügbar? `POST /v1/chat/completions` · `mistralai/mistral-nemo`: `text` → `text` `POST /v1/messages` · `mistralai/mistral-nemo`: `text` → `json`, `sse` Welche Felder verwendet die Anfrage? `POST /v1/chat/completions` · `mistralai/mistral-nemo`: `model`, `messages`, `stream`, `modalities`, `provider` `POST /v1/messages` · `mistralai/mistral-nemo`: `model`, `messages`, `max_tokens`, `stream` Welche Grenzen gelten? `POST /v1/chat/completions` · `mistralai/mistral-nemo`: `messages.min_items`: `1` Verbinden Sie Ailoot mit Claude Code, OpenCode, Hermes oder Ihrer eigenen Anwendung. ## Das Unternehmen und sein Projektportfolio Das Unternehmen und sein Projektportfolio: Millionen von Kunden; monatliche Umsätze in Milliardenhöhe. ## Tokens mit Rabatt kaufen. Aborabatt für regelmäßige Arbeit. Aktionscodes bieten bis 50% beim Tokenkauf. Abo Wählen Sie einen Tarif mit Rabatt für Ihre regelmäßigen Anfragen. Aktionscode bis 50% Geben Sie den Code beim Kauf ein. Der Preis wird nach den gültigen Aktionsbedingungen berechnet. Ausgaben in der Historie Modell, Tokens und Betrag werden für jede Anfrage gespeichert. [Abo wählen](https://ailoot.ai/docs/de-at/billing/subscriptions/) · [Modellpreise ansehen](https://ailoot.ai/models/de-at/) ## Verbinden Sie die API mit dem Produkt, das Sie verkaufen. SaaS, Anwendungen und Bots nach dem offiziellen Angebot und Lizenzvertrag von Ailoot. Fordern Sie für den Weiterverkauf eine Reseller-Lizenz an. Kommerzielle Anwendung Integrieren Sie Text-, Bild-, Video- und Audioerzeugung in kostenpflichtige Funktionen Ihres Dienstes. Reseller-Lizenz Senden Sie Projektbeschreibung und Zugangsmodell. Fordern Sie schriftliche Nutzungs- und Weiterverkaufsbedingungen an. Dokumente auf der Website Offizielles Angebot, Lizenzvertrag und Datenschutzerklärung sind vor der Verbindung zugänglich. [Reseller-Lizenz anfordern](mailto:support@ailoot.ai) · [Offizielles Angebot und Lizenzvertrag](https://ailoot.ai/legal/offer?lang=de-at) ## Ailoot · Das Unternehmen und sein Projektportfolio Ailoot baut auf bewährte Betriebserfahrung, einen großen Kundenstamm, stabilen Service und kontinuierliche KPI-Kontrolle. Das Unternehmen und sein Projektportfolio: Millionen von Kunden; monatliche Umsätze in Milliardenhöhe. Ailoot nutzt diese Betriebserfahrung für den API-Zugang zu KI-Funktionen in Kundenprodukten, Agenten, Anwendungen und Automatisierungen.