Source: https://ailoot.ai/models/de-at/mistralai-mixtral-8x22b-instruct/ Canonical: https://ailoot.ai/models/de-at/mistralai-mixtral-8x22b-instruct/ Language: de-at # Mistral: Mixtral 8x22B Instruct [Markdown](https://ailoot.ai/models/de-at/mistralai-mixtral-8x22b-instruct/index.md) · [JSON](https://ailoot.ai/models/de-at/mistralai-mixtral-8x22b-instruct/facts.json) ## [Mistral: Mixtral 8x22B Instruct](https://ailoot.ai/models/de-at/mistralai-mixtral-8x22b-instruct/) Mixtral 8x22B Instruct v0.1 ist ein mehrsprachiges Textmodell für Gespräche, Mathematik, Code und Funktionsaufrufe. Seine dünn besetzte Mixture-of-Experts-Architektur verwendet 39 Milliarden aktive von insgesamt 141 Milliarden Parametern, mit einem vom Hersteller angegebenen Kontext von 64K und einem eigenen v3-Anweisungsformat. - [**Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` `mistralai/mixtral-8x22b-instruct`](https://ailoot.ai/models/de-at/mistralai-mixtral-8x22b-instruct/#method-0) - [**Ailoot Ultra · Anthropic Messages** `POST /v1/messages` `mistralai/mixtral-8x22b-instruct`](https://ailoot.ai/models/de-at/mistralai-mixtral-8x22b-instruct/#method-1) Über das Modell Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt. Mixtral 8x22B Instruct v0.1 ist die auf Anweisungen abgestimmte Version von Mistral AI des gesondert benannten Basismodells Mixtral 8x22B v0.1. Es erhält ein Textgespräch und erzeugt Text, darunter Erklärungen, Code und vorgeschlagene Funktionsaufrufe. Die Familienveröffentlichung hebt Englisch, Französisch, Italienisch, Deutsch und Spanisch zusammen mit mathematischen und Programmierfähigkeiten hervor. Dünn besetzte Experten und Kontext Der Hersteller beschreibt ein dünn besetztes Mixture-of-Experts-Modell mit insgesamt 141 Milliarden Parametern und 39 Milliarden aktiven Parametern. Die veröffentlichte Instruct-Konfiguration enthält 8 Experten mit 2 ausgewählten Experten pro Token, 56 Schichten, 48 Query-Attention-Heads und 8 Key/Value-Heads. Die gesamte Parameterzahl und die ausgewählten Experten beschreiben die Modellstruktur und nicht die Länge einer Antwort. Die Familienveröffentlichung dokumentiert einen Kontext von 64K, und die genaue Instruct-Konfiguration legt die maximale Positionszahl auf 65.536 fest. Nutzen Sie diesen Platz, um Quellpassagen, Gespräch und gewünschte Antwort zusammenzuhalten. Eine Frage zu einem großen Dokument kann eine einzelne Bedingung über mehrere Abschnitte hinweg abfragen und dabei eine knappe Tabelle mit jeder Quellstelle zurückgeben. Fügen Sie das Material bei, das das Ergebnis bestimmt, statt das Fenster mit sachfremdem Inhalt zu füllen. Das Anweisungsgespräch kodieren Die Modellkarte beginnt mit dem v3-Anweisungstokenizer des Herstellers und zeigt anschließend, wie Nachrichten mit der passenden Chatvorlage formatiert werden. Das veröffentlichte Vokabular hat 32.768 Einträge. Der native Tokenizer und ein kompatibler Tokenizer sollten übereinstimmende Nachrichtendarstellungen erzeugen; die Modellkarte behandelt ausdrücklich den Vergleich ihrer Kodierungen. Das unterscheidet sich von der Annahme, das von späteren Mistral-Modellen verwendete Tekken-Format sei mit dieser Veröffentlichung austauschbar. Unterscheiden Sie in einem Gespräch zwischen Nutzerfrage, vorheriger Assistentenantwort und einem etwaigen Werkzeugergebnis. Bewahren Sie bei einer Folgefrage die relevante frühere Antwort. Eine Aufgabe kann zunächst eine Erklärung einer Quellpassage und dann einen spezifischeren Vergleich verlangen, während Quellinhalt und Gesprächszweck erhalten bleiben. Benennen Sie für mehrsprachige Bearbeitung die Ausgangssprache, Zielsprache und die unverändert zu bewahrende Terminologie. Verlangen Sie eine überarbeitete Passage, die Namen, Bedingungen und Einheiten beibehält. Definieren Sie für ein mathematisches Problem die Variablen und Annahmen und geben Sie an, ob das Endergebnis ein exakter Ausdruck, eine numerische Näherung oder ein Beweis sein soll. Fügen Sie für Programmierung die Funktionssignatur, relevante Deklarationen und das erwartete Verhalten bei, bevor Sie eine Implementierung oder Erklärung verlangen. Funktionsaufrufe und ihre Ergebnisse Die Modellkarte dokumentiert native Funktionsaufrufe mit Werkzeugbeschreibungen und Parameterschemas. Die Anwendung stellt die Operationen bereit, das Modell bereitet die Argumente der gewählten Funktion vor, und die Anwendung führt sie aus. Das zurückgegebene Ergebnis muss anschließend dem Gespräch hinzugefügt werden, damit das Modell es in der nächsten Antwort verwenden kann. Die Modellkarte warnt davor, dass ein verkürztes Codebeispiel diesen vollständigen Zyklus nicht zeigt. Eine Abfrageaufgabe sollte benennen, welche Informationen fehlen und welche bereitgestellte Funktion sie zurückgeben kann. Fügen Sie die erforderlichen Werte bei oder fragen Sie nach den fehlenden Informationen, bevor die Anwendung die Operation ausführt. Halten Sie den vorgeschlagenen Aufruf von den tatsächlich zurückgegebenen Daten getrennt; die abschließende Erklärung kann dann auf das erhaltene Ergebnis verweisen statt auf eines, das aus dem Werkzeugnamen erschlossen wurde. Im nativen Gesprächsformat des Herstellers verwenden Werkzeugaufrufe und zugehörige Ergebnisse Kennungen aus genau neun alphanumerischen Zeichen. Der Tokenizer enthält außerdem spezielle Markierungen für verfügbare Werkzeuge, Werkzeugaufrufe und Werkzeugergebnisse. Bewahren Sie bei der Vorbereitung eines Gesprächs im nativen Format die passende Darstellung; die sichtbare Darstellung eines Wrappers ist eine gesonderte Schnittstellenentscheidung. Praktische Code- und Dokumentartefakte Stellen Sie für eine Codekorrektur die betroffene Funktion, eine Eingabe, die das Problem offenlegt, und das erwartete Ergebnis bereit. Verlangen Sie das überarbeitete Fragment, die Ursache der Abweichung und Beispieleingaben, die das beabsichtigte Verhalten unterscheiden. Das Erzeugen von Code ist ein Textartefakt; Kompilieren, Ausführen oder Anwenden auf ein Repository erfordert die verbundene Entwicklungsumgebung. Verlangen Sie für eine Dokumenterklärung die Aussage, die die Frage beantwortet, und den stützenden Abschnitt. Ein Vergleich kann gemeinsame Bedingungen, Unterschiede und ungeklärte Details trennen. Definieren Sie für einen eingeschränkten Textdatensatz die Feldnamen und den Umgang mit fehlenden Werten. Die ursprüngliche Familienankündigung beschreibt Funktionsaufrufe zusammen mit eingeschränkter Ausgabe im verbundenen Dienst des Herstellers; diese Formatierungsfunktionen bleiben von der Ausführung einer externen Operation getrennt. Ausgabe und Generierungsgrenzen Die Modellkarte zeigt Generierungsbudgets wie 64 und 1.000 Tokens für bestimmte Beispiele. Das sind Demonstrationseinstellungen und keine unabhängigen maximalen Antwortkapazitäten. Halten Sie Prompt und gewünschte Antwort innerhalb des tatsächlich konfigurierten Kontexts und verlangen Sie eine zur Aufgabe passende Länge. Dieser Eintrag bezeichnet den textbasierten Modellstand Instruct v0.1 mit seinem v3-Anweisungsformat. Vision, Funktionen für gesprochene Sprache und hybride Reasoning-Steuerungen, die in späteren Mistral-Familien eingeführt wurden, sollten ihm nicht zugeordnet werden. Bewahren Sie die genaue Ausgabe und das Quellenmaterial, wenn Sie die Erklärung, den Codevorschlag oder die werkzeuggestützte Antwort vorbereiten, die der nächste Schritt benötigt. Praktische Aufgabe ### Praktische Aufgabe Technisches Beispiel auf Englisch ``` Repair integer average division Fix this Python function for nonempty numeric lists: def average(values): return sum(values) // len(values). Input [1, 2] must produce 1.5. Return the corrected function and assertions for [1, 2] and [2, 4]. State the nonempty-input assumption rather than inventing an empty-list policy. ``` #### Erwartetes Ergebnis ``` A focused function correction, two assertions and the retained input assumption. ``` #### Ergebnis prüfen ``` The function must preserve a fractional average and leave the unspecified empty-list behavior undecided. ``` **Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` `mistralai/mixtral-8x22b-instruct` [`mistralai/mixtral-8x22b-instruct`](https://ailoot.ai/models/de-at/#m=mistralai%2Fmixtral-8x22b-instruct&route=Ultra&caller=mistralai%2Fmixtral-8x22b-instruct&fmt=chat) Mistral /`mistralai/mixtral-8x22b-instruct` ### Einstieg Mixtral 8x22B Instruct v0.1 ist ein mehrsprachiges Textmodell für Gespräche, Mathematik, Code und Funktionsaufrufe. Seine dünn besetzte Mixture-of-Experts-Architektur verwendet 39 Milliarden aktive von insgesamt 141 Milliarden Parametern, mit einem vom Hersteller angegebenen Kontext von 64K und einem eigenen v3-Anweisungsformat. Zulässige Eingaben Text Ergebnisse Text ### In Ailoot verfügbar · Eingaben und Methoden **Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` Eingabe `text` Ausgabe `text` Ausgabeformat json oder SSE | Feld | Typ | Anforderung | Werte und Limits | Standard | | --- | --- | --- | --- | --- | | Feld`model` | Typ`string` | AnforderungErforderlich | Werte und Limits mistralai/mixtral-8x22b-instruct | Standard— | | Feld`messages` | Typ`message[]` | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— | | Feld`messages[].role` | Typ`string` | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— | | Feld`messages[].content` | Typ`string\|content_part[]\|null` | AnforderungOptional | Werte und Limits | Standard— | | Feld`messages[].tool_calls` | Typ`tool_call[]` | AnforderungOptional | Werte und Limits | Standard— | | Feld`messages[].tool_call_id` | Typ`string` | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— | | Feld`messages[].name` | Typ`string` | AnforderungOptional | Werte und Limits | Standard— | | Feld`messages[].reasoning_content` | Typ`string` | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— | | Feld`messages[].reasoning_details` | Typ`object\|array` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`max_tokens` | Typ`integer` | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— | | Feld`max_completion_tokens` | Typ`integer` | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— | | Feld`stream` | Typ`boolean` | AnforderungOptional | Werte und Limits | Standardfalse | | Feld`stream_options.include_usage` | Typ`boolean` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`temperature` | Typ`number` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`top_p` | Typ`number` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`stop` | Typ`string\|string[]` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`tools` | Typ`function_tool[]` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`tools[].type` | Typ`string` | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— | | Feld`tools[].function.name` | Typ`string` | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— | | Feld`tools[].function.description` | Typ`string` | AnforderungOptional | Werte und Limits | Standard— | | Feld`tools[].function.parameters` | Typ`JSON_schema` | AnforderungOptional | Werte und Limits | Standard— | | Feld`tool_choice` | Typ`string\|object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`parallel_tool_calls` | Typ`boolean` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`response_format` | Typ`object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`reasoning_effort` | Typ`string` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`reasoning` | Typ`object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`service_tier` | Typ`string` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`instructions` | Typ`string` | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— | | Feld`functions` | Typ`function[]` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`function_call` | Typ`string\|object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`prompt_cache_options` | Typ`object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`modalities` | Typ`string[]` | AnforderungOptional | Werte und Limits text | Standard— | | Feld`provider` | Typ`object` | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— | | Feld`cache_control.ttl` | Typ`string` | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— | Kombinationen von Eingabematerialien **Text** · UTF8-Text `messages[].content` Methodenparameter und Lebenszyklus | Parameter | Vertrag | | --- | --- | | Parameter`content_type` | Vertragapplication/json | | Parameter`required` | Vertragmodel, messages | | Parameter`material_types` | Vertragtext | | Parameter`messages` | VertragNachrichtenarray mit role/content-Struktur | | Parameter`file_material` | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet | | Parameter`optional_controls` | Vertragstream, temperature, top\_p, stop, max\_tokens, max\_completion\_tokens, reasoning, response\_format, tools, tool\_choice | | Parameter`control_scope` | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen | | Parameter`output_modalities` | Vertragtext | | Parameter`hosted_operations` | Vertragfalse | | Parameter`multimodal_input_binding` | Vertragnull | Lebenszyklus: `synchronous_or_streamed` Die genaue Modell-ID zusammen mit messages senden. Die Kontextlänge ist keine Ausgabeobergrenze. Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung. ### Tarife Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode. Schnellmodus Standardtarif Wenn der Schnellmodus ausgewählt ist Flex-Modus Standardtarif Wenn der Modus flex ausgewählt ist Maximaler Denkaufwand Standardtarif Wenn beim maximalen Denkaufwand die Standardanpassung (default) verwendet wird #### Ailoot-Tarife #### Preise nach Konfiguration Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif. | Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr | | --- | --- | --- | --- | --- | | KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken **$0.004** / 1K Tokens Ausgabe · Ausgabetoken **$0.012** / 1K Tokens Eingabe · Cache lesen **$0.0004** / 1K Tokens Eingabe · In Cache schreiben **—** / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde **—** / 1K Tokens | | KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken **$0.004** / 1K Tokens Ausgabe · Ausgabetoken **$0.012** / 1K Tokens Eingabe · Cache lesen **$0.0004** / 1K Tokens Eingabe · In Cache schreiben **—** / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde **—** / 1K Tokens | Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. [So funktionieren Reservierung und Abrechnung →](https://ailoot.ai/docs/de-at/billing/reserve/) ### Beispielanfragen #### Ailoot Ultra · OpenAI Chat curlPython SDKPython-Stream ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "mistralai/mixtral-8x22b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}') Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path r=json.loads(Path("result.json").read_text()) for x in r.get("choices",[]): if x.get("message",{}).get("content"): print(x["message"]["content"]) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) result=client.chat.completions.create(model='mistralai/mixtral-8x22b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(result.to_dict(mode="json")) ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='mistralai/mixtral-8x22b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Ergebnisse abrufen und speichern #### Ailoot Ultra · OpenAI Chat json oder SSE ##### Alle fertiggestellten Ergebnisse aufbewahren Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf. Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten. ##### Wenn die ursprüngliche Antwort geprüft werden muss Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben. Antwortfelder | Feld | Typ | | --- | --- | | Feld`choices[].index` | Typinteger | | Feld`choices[].message.content` | Typstring\|null | | Feld`choices[].message.tool_calls` | Typtool\_call\[\] | | Feld`choices[].message.reasoning_content` | Typstring | | Feld`choices[].message.reasoning_details` | Typobject\|array | | Feld`choices[].finish_reason` | Typstring\|null | | Feld`usage` | Typobject | Fehler und nächste Schritte | Antwort | Bedingung | Nächster Schritt | | --- | --- | --- | | Antwort400 · `invalid_request_error` | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. | ### Aliasnamen #### Modellaliasnamen **Ailoot Ultra** [`mistralai/mixtral-8x22b-instruct`](https://ailoot.ai/models/de-at/#m=mistralai%2Fmixtral-8x22b-instruct&route=Ultra&caller=mistralai%2Fmixtral-8x22b-instruct&fmt=chat) #### Aliasnamen für Methodenpfade Verwenden Sie die oben angezeigten Methodenpfade. #### Zugehörige Aufrufer-IDs [`mistralai/mixtral-8x22b-instruct`](https://ailoot.ai/models/de-at/#m=mistralai%2Fmixtral-8x22b-instruct&route=Ultra&caller=mistralai%2Fmixtral-8x22b-instruct&fmt=chat) **Ailoot Ultra · Anthropic Messages** `POST /v1/messages` `mistralai/mixtral-8x22b-instruct` [`mistralai/mixtral-8x22b-instruct`](https://ailoot.ai/models/de-at/#m=mistralai%2Fmixtral-8x22b-instruct&route=Ultra&caller=mistralai%2Fmixtral-8x22b-instruct&fmt=messages) Mistral /`mistralai/mixtral-8x22b-instruct` ### Einstieg Mixtral 8x22B Instruct v0.1 ist ein mehrsprachiges Textmodell für Gespräche, Mathematik, Code und Funktionsaufrufe. Seine dünn besetzte Mixture-of-Experts-Architektur verwendet 39 Milliarden aktive von insgesamt 141 Milliarden Parametern, mit einem vom Hersteller angegebenen Kontext von 64K und einem eigenen v3-Anweisungsformat. Zulässige Eingaben Text Ergebnisse json · sse ### In Ailoot verfügbar · Eingaben und Methoden **Ailoot Ultra · Anthropic Messages** `POST /v1/messages` Eingabe `text` Ausgabe `json`, `sse` Ausgabeformat JSON oder SSE | Feld | Typ | Anforderung | Werte und Limits | Standard | | --- | --- | --- | --- | --- | | Feld`model` | Typ`string` | AnforderungErforderlich | Werte und Limits mistralai/mixtral-8x22b-instruct | Standard— | | Feld`messages` | Typ`message[]` | AnforderungErforderlich | Werte und Limits | Standard— | | Feld`messages[].role` | Typ`string` | AnforderungErforderlich | Werte und Limits user, assistant | Standard— | | Feld`messages[].content` | Typ`string` | AnforderungErforderlich | Werte und Limits | Standard— | | Feld`max_tokens` | Typ`integer` | AnforderungErforderlich | Werte und Limits | Standard— | | Feld`stream` | Typ`boolean` | AnforderungOptional | Werte und Limits | Standardfalse | Kombinationen von Eingabematerialien **Text** · UTF-8-Text `Zeichenfolge messages[].content` Methodenparameter und Lebenszyklus | Parameter | Vertrag | | --- | --- | | Parameter`content_type` | Vertragapplication/json | | Parameter`required` | Vertragmodel, messages, max\_tokens | | Parameter`optional_controls` | Vertragstream | | Parameter`material_types` | Vertragtext | | Parameter`text_file_material` | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. | Lebenszyklus: `synchronous_or_streamed` ### Tarife Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode. Schnellmodus Standardtarif Wenn der Schnellmodus ausgewählt ist Flex-Modus Standardtarif Wenn der Modus flex ausgewählt ist Maximaler Denkaufwand Standardtarif Wenn beim maximalen Denkaufwand die Standardanpassung (default) verwendet wird #### Ailoot-Tarife #### Preise nach Konfiguration Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif. | Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr | | --- | --- | --- | --- | --- | | KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken **$0.004** / 1K Tokens Ausgabe · Ausgabetoken **$0.012** / 1K Tokens Eingabe · Cache lesen **$0.0004** / 1K Tokens Eingabe · In Cache schreiben **—** / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde **—** / 1K Tokens | | KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken **$0.004** / 1K Tokens Ausgabe · Ausgabetoken **$0.012** / 1K Tokens Eingabe · Cache lesen **$0.0004** / 1K Tokens Eingabe · In Cache schreiben **—** / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde **—** / 1K Tokens | Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. [So funktionieren Reservierung und Abrechnung →](https://ailoot.ai/docs/de-at/billing/reserve/) ### Beispielanfragen #### Ailoot Ultra · Anthropic Messages Vollständiger minimaler JSON-Bodycurl · eigenes UTF-8-Dokument verwendenPython · das vollständige Ergebnis speichern ```json { "model": "mistralai/mixtral-8x22b-instruct", "max_tokens": 128, "messages": [ { "role": "user", "content": "Summarize the incident report." } ], "stream": false } ``` ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'mistralai/mixtral-8x22b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8') PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \ -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) PY_RESULT ``` ```python import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'mistralai/mixtral-8x22b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text from urllib.request import Request, urlopen from urllib.error import HTTPError api_key = os.environ['AILOOT_API_KEY'] if not api_key.strip(): raise SystemExit('Set AILOOT_API_KEY before making a request') headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'} headers['x-api-key'] = api_key request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST') try: with urlopen(request, timeout=120) as response: raw = response.read() Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8') except HTTPError as error: Path('result.json').write_bytes(error.read()) Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8') raise Path('result.json').write_bytes(raw) import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) ``` ### Ergebnisse abrufen und speichern #### Ailoot Ultra · Anthropic Messages JSON oder SSE ##### Alle fertiggestellten Ergebnisse aufbewahren Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf. Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe. ##### Wenn die ursprüngliche Antwort geprüft werden muss Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben. Antwortfelder | Feld | Typ | | --- | --- | | Feld`id` | Typstring | | Feld`model` | Typstring | | Feld`content[]` | Typtext\|thinking\|tool\_use\|other content block | | Feld`stop_reason` | Typstring\|null | | Feld`usage` | Typobject | Fehler und nächste Schritte | Antwort | Bedingung | Nächster Schritt | | --- | --- | --- | | Antwort400 · `invalid_request_error` | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. | ### Aliasnamen #### Modellaliasnamen **Ailoot Ultra** [`mistralai/mixtral-8x22b-instruct`](https://ailoot.ai/models/de-at/#m=mistralai%2Fmixtral-8x22b-instruct&route=Ultra&caller=mistralai%2Fmixtral-8x22b-instruct&fmt=messages) #### Aliasnamen für Methodenpfade Verwenden Sie die oben angezeigten Methodenpfade. #### Zugehörige Aufrufer-IDs [`mistralai/mixtral-8x22b-instruct`](https://ailoot.ai/models/de-at/#m=mistralai%2Fmixtral-8x22b-instruct&route=Ultra&caller=mistralai%2Fmixtral-8x22b-instruct&fmt=messages) FAQ · Mistral: Mixtral 8x22B Instruct Welche Eingaben und Ergebnisse sind verfügbar? `POST /v1/chat/completions` · `mistralai/mixtral-8x22b-instruct`: `text` → `text` `POST /v1/messages` · `mistralai/mixtral-8x22b-instruct`: `text` → `json`, `sse` Welche Felder verwendet die Anfrage? `POST /v1/chat/completions` · `mistralai/mixtral-8x22b-instruct`: `model`, `messages`, `stream`, `modalities`, `provider` `POST /v1/messages` · `mistralai/mixtral-8x22b-instruct`: `model`, `messages`, `max_tokens`, `stream` Welche Grenzen gelten? `POST /v1/chat/completions` · `mistralai/mixtral-8x22b-instruct`: `messages.min_items`: `1` Verbinden Sie Ailoot mit Claude Code, OpenCode, Hermes oder Ihrer eigenen Anwendung. ## Das Unternehmen und sein Projektportfolio Das Unternehmen und sein Projektportfolio: Millionen von Kunden; monatliche Umsätze in Milliardenhöhe. ## Tokens mit Rabatt kaufen. Aborabatt für regelmäßige Arbeit. Aktionscodes bieten bis 50% beim Tokenkauf. Abo Wählen Sie einen Tarif mit Rabatt für Ihre regelmäßigen Anfragen. Aktionscode bis 50% Geben Sie den Code beim Kauf ein. Der Preis wird nach den gültigen Aktionsbedingungen berechnet. Ausgaben in der Historie Modell, Tokens und Betrag werden für jede Anfrage gespeichert. [Abo wählen](https://ailoot.ai/docs/de-at/billing/subscriptions/) · [Modellpreise ansehen](https://ailoot.ai/models/de-at/) ## Verbinden Sie die API mit dem Produkt, das Sie verkaufen. SaaS, Anwendungen und Bots nach dem offiziellen Angebot und Lizenzvertrag von Ailoot. Fordern Sie für den Weiterverkauf eine Reseller-Lizenz an. Kommerzielle Anwendung Integrieren Sie Text-, Bild-, Video- und Audioerzeugung in kostenpflichtige Funktionen Ihres Dienstes. Reseller-Lizenz Senden Sie Projektbeschreibung und Zugangsmodell. Fordern Sie schriftliche Nutzungs- und Weiterverkaufsbedingungen an. Dokumente auf der Website Offizielles Angebot, Lizenzvertrag und Datenschutzerklärung sind vor der Verbindung zugänglich. [Reseller-Lizenz anfordern](mailto:support@ailoot.ai) · [Offizielles Angebot und Lizenzvertrag](https://ailoot.ai/legal/offer?lang=de-at) ## Ailoot · Das Unternehmen und sein Projektportfolio Ailoot baut auf bewährte Betriebserfahrung, einen großen Kundenstamm, stabilen Service und kontinuierliche KPI-Kontrolle. Das Unternehmen und sein Projektportfolio: Millionen von Kunden; monatliche Umsätze in Milliardenhöhe. Ailoot nutzt diese Betriebserfahrung für den API-Zugang zu KI-Funktionen in Kundenprodukten, Agenten, Anwendungen und Automatisierungen.