Source: https://ailoot.ai/models/de-at/qwen-qwen3-32b-fp8/ Canonical: https://ailoot.ai/models/de-at/qwen-qwen3-32b-fp8/ Language: de-at # Qwen3 32B FP8 [Markdown](https://ailoot.ai/models/de-at/qwen-qwen3-32b-fp8/index.md) · [JSON](https://ailoot.ai/models/de-at/qwen-qwen3-32b-fp8/facts.json) ## [Qwen3 32B FP8](https://ailoot.ai/models/de-at/qwen-qwen3-32b-fp8/) Qwen3-32B-FP8 ist die fein granulare FP8-Edition von Qwen3s dichtem Textmodell mit 32,8 Milliarden Parametern. Sie verbindet direkte und Thinking-Antworten für mehrsprachiges Schreiben, Code und Analyse mit eigenen Checkpoint- und Kompatibilitätsdetails. - [**Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` `qwen/qwen3-32b-fp8`](https://ailoot.ai/models/de-at/qwen-qwen3-32b-fp8/#method-0) - [**Ailoot Ultra · Anthropic Messages** `POST /v1/messages` `qwen/qwen3-32b-fp8`](https://ailoot.ai/models/de-at/qwen-qwen3-32b-fp8/#method-1) Über das Modell Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt. Qwen3-32B-FP8 ist der offizielle FP8-Checkpoint des dichten Sprachmodells Qwen3-32B. Der Hersteller beschreibt Mathematik, logisches Schlussfolgern, Codegenerierung, kreatives Schreiben, rollenbasierte Gespräche und Anweisungsbefolgung über mehrere Gesprächsrunden. Die Familie unterstützt mehr als 100 Sprachen und Dialekte. Eingabe und Ausgabe sind Text, und dieselbe Veröffentlichung bietet sowohl Thinking- als auch Direktantwortverhalten. Dieses Modell hat 32,8 Milliarden Parameter, darunter 31,2 Milliarden außerhalb der Embeddings, und 64 Schichten. Seine Grouped-Query Attention umfasst 64 Query-Köpfe und acht Key/Value-Köpfe. Es ist eine dichte Architektur, getrennt von Qwen3s Mixture-of-Experts-Veröffentlichungen mit gesamten und aktivierten Parameterzahlen. FP8 gehört ebenfalls zur genauen Editionskennung. Geben Sie einem Entwicklungsassistenten eine Funktion, Spezifikation und mehrere Eingaben vor und verlangen Sie anschließend eine Erklärung des aktuellen Verhaltens und eine überarbeitete Implementierung, die die vereinbarte Schnittstelle bewahrt. Geben Sie für einen Redaktionsauftrag tatsächliche Quelle, vorgesehenen Leser und Terminologie vor, statt sich auf unbestimmten Hintergrund zu verlassen. Der Schnellstart des Herstellers verwendet die vorgesehene Chatvorlage. Trennen Sie Aufgabe und geliefertes Material und legen Sie die endgültige Form fest. Eine nützliche Analyseanfrage könnte zwei Datenvalidierungsansätze mit denselben Feldregeln vergleichen, die von jedem akzeptierten Fälle benennen und eine vorgeschlagene Validierungsfunktion liefern. Geben Sie Regeln für fehlende Werte, repräsentative Daten und erforderliche Fehlermeldungen vor. Liefern Sie für mehrsprachige Inhalte ein Glossar und verlangen Sie eine Übersetzung sowie eine Liste überprüfungsbedürftiger Begriffe. Solche Vorbereitung macht das erzeugte Ergebnis anhand einer konkreten Eingabe überprüfbar. Die veröffentlichte Integration setzt eine Qwen3-fähige Laufzeitumgebung voraus; die Modellkarte warnt, dass Transformers-Versionen unter 4.51.0 die benötigte Architektur nicht erkennen. Die FP8-Anmerkung beschreibt fein granulare Quantisierung mit Blockgröße 128. Die Checkpointkonfiguration benennt ebenfalls ihre FP8-Quantisierungseinstellung. Der Hersteller nennt Transformers, SGLang und vLLM für Inferenz, weist aber auf ein Problem verteilter Inferenz mit fein granularem FP8 in Transformers hin und merkt an, dass die Nutzung mehrerer Geräte CUDA\_LAUNCH\_BLOCKING=1 erfordern kann. Halten Sie diesen Kompatibilitätshinweis von den Textfähigkeiten getrennt. Die quantisierte Identität belegt nicht selbst eine gemessene Latenz, Hardwareeinsparung oder Gleichwertigkeit der Antworten mit dem ursprünglichen Checkpoint. Thinking ist in der gelieferten Vorlage standardmäßig aktiviert. Eine feste Non-Thinking-Einstellung unterdrückt den Schlussfolgerungsabschnitt. Wenn Thinking aktiviert bleibt, sind /think und /no\_think textuelle Steuerungen für aufeinanderfolgende Gesprächsrunden; die neueste Anweisung gilt. Sie überschreiben keine feste Deaktivierung. Verlangen Sie Schlussfolgern, wenn das Modell widersprüchliche Bedingungen untersuchen muss, und verwenden Sie anschließend eine direkte Folgeanfrage, um das akzeptierte Ergebnis knapp darzustellen. Halten Sie die endgültige Antwort getrennt und verwenden Sie für spätere Gesprächsrunden diese statt früherer Schlussfolgerungen als Verlauf. Bei aktiviertem Thinking behält auch eine textuelle Non-Thinking-Anforderung einen Schlussfolgerungsblock; dessen Inhalt kann leer sein. Die feste Deaktivierung entfernt diesen Block. Die Modellkarte umfasst Agentennutzung und empfiehlt Qwen-Agent für Werkzeugformatierung und Parsing. Eine Anwendung liefert Werkzeugdefinitionen, prüft Aufrufe, führt sie aus und gibt Ergebnisse zurück. Im Validierungsbeispiel könnte ein kontrollierter Testausführer vorgeschlagenen Code anhand der gelieferten Fälle bewerten. Lassen Sie das Modell tatsächliche Erfolgs- und Fehlerergebnisse zusammenfassen und eine benannte fehlerhafte Bedingung überarbeiten. Seine Ausgabe sollte einen vorgeschlagenen Aufruf nicht als Ausführungsbeleg behandeln. Legen Sie den zulässigen Werkzeugumfang und die Ausgabefelder fest, bevor dieser Ablauf beginnt. Der Qwen3-Leitfaden beschreibt auch parallele und mehrschrittige Werkzeugaufrufe mit als Objekten dargestellten Argumenten und ins Gespräch zurückgegebenen Ergebnissen. Die genaue Modellkarte nennt 32.768 native Kontexttokens und 131.072 mit YaRN. Die Erweiterung hängt von der Konfiguration ab; statische Skalierung kann kürzere Texte beeinflussen. Eingabe und erzeugtes Ergebnis belegen beide das Sequenzbudget. Kennzeichnen Sie lange Quellabschnitte und weisen Sie ausreichend Platz für erforderlichen Code und Erklärung zu. Die veröffentlichten Ausgabebeispiele und empfohlenen Längen belegen keine universelle harte Ausgabegrenze. Beurteilen Sie bei längerer Generierung, ob das Ergebnis zusammenhängend bleibt und die Aufgabe erfüllt. Die Qwen3-Dokumentation behandelt in ihrer Erklärung der Trainingslänge Assistentennachrichten mit 38.912 Tokens im Thinking-Modus und 16.384 im Non-Thinking-Modus und empfiehlt die Beurteilung der Qualität längerer Generierung. Diese Zahlen unterscheiden sich vom gesamten Kontextfenster und sind keine endpunktspezifische feste Grenze. Die Modellkarte erklärt auch die standardmäßige Positionszuweisung von 40.960 Tokens als 8.192 für typische Prompts plus 32.768 für Ausgabe; das ist Konfigurationsanleitung des Herstellers, getrennt vom nativen Trainingskontext und jeder Endpunktgrenze. Die empfohlenen Sampling-Einstellungen sind temperature 0,6, top-p 0,95, top-k 20 und min-p 0 für Thinking sowie 0,7, 0,8, 20 und 0 für den Direktmodus. Der Hersteller warnt wegen Wiederholungen vor Greedy Decoding beim Schlussfolgern; hohe Presence Penalties können gelegentlich Sprachen mischen. Verlangen Sie eine überprüfbare endgültige Antwort, etwa eine Entscheidungstabelle, die vollständige Funktion und eine Fallliste. Validieren Sie zurückgegebene strukturierte Felder, prüfen Sie Berechnungen anhand der Quelle und führen Sie Code in der vorgesehenen Umgebung aus. Bewahren Sie bei der Ergebnisaufzeichnung diese genaue FP8-Kennung. Praktische Aufgabe ### Praktische Aufgabe Technisches Beispiel auf Englisch ``` Compare missing-value validators Compare two Python validators for an optional quantity: A uses if not value: return None; B uses if value is None: return None. Requirement: None means omitted, integer zero is valid, and negative quantities are invalid. Explain each validator's behavior for None, 0 and -1, then propose a complete function with explicit validation errors. ``` #### Erwartetes Ergebnis ``` A three-input comparison table and a proposed function implementing the supplied rules. ``` #### Ergebnis prüfen ``` Check zero is preserved rather than treated as missing, and negatives are rejected explicitly. ``` **Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` `qwen/qwen3-32b-fp8` [`qwen/qwen3-32b-fp8`](https://ailoot.ai/models/de-at/#m=qwen%2Fqwen3-32b-fp8&route=Ultra&caller=qwen%2Fqwen3-32b-fp8&fmt=chat) Alibaba /`qwen/qwen3-32b-fp8` ### Einstieg Qwen3-32B-FP8 ist die fein granulare FP8-Edition von Qwen3s dichtem Textmodell mit 32,8 Milliarden Parametern. Sie verbindet direkte und Thinking-Antworten für mehrsprachiges Schreiben, Code und Analyse mit eigenen Checkpoint- und Kompatibilitätsdetails. Zulässige Eingaben Text Ergebnisse Text ### In Ailoot verfügbar · Eingaben und Methoden **Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` Eingabe `text` Ausgabe `text` Ausgabeformat json oder SSE | Feld | Typ | Anforderung | Werte und Limits | Standard | | --- | --- | --- | --- | --- | | Feld`model` | Typ`string` | AnforderungErforderlich | Werte und Limits qwen/qwen3-32b-fp8 | Standard— | | Feld`messages` | Typ`message[]` | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— | | Feld`messages[].role` | Typ`string` | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— | | Feld`messages[].content` | Typ`string\|content_part[]\|null` | AnforderungOptional | Werte und Limits | Standard— | | Feld`messages[].tool_calls` | Typ`tool_call[]` | AnforderungOptional | Werte und Limits | Standard— | | Feld`messages[].tool_call_id` | Typ`string` | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— | | Feld`messages[].name` | Typ`string` | AnforderungOptional | Werte und Limits | Standard— | | Feld`messages[].reasoning_content` | Typ`string` | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— | | Feld`messages[].reasoning_details` | Typ`object\|array` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`max_tokens` | Typ`integer` | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— | | Feld`max_completion_tokens` | Typ`integer` | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— | | Feld`stream` | Typ`boolean` | AnforderungOptional | Werte und Limits | Standardfalse | | Feld`stream_options.include_usage` | Typ`boolean` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`temperature` | Typ`number` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`top_p` | Typ`number` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`stop` | Typ`string\|string[]` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`tools` | Typ`function_tool[]` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`tools[].type` | Typ`string` | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— | | Feld`tools[].function.name` | Typ`string` | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— | | Feld`tools[].function.description` | Typ`string` | AnforderungOptional | Werte und Limits | Standard— | | Feld`tools[].function.parameters` | Typ`JSON_schema` | AnforderungOptional | Werte und Limits | Standard— | | Feld`tool_choice` | Typ`string\|object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`parallel_tool_calls` | Typ`boolean` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`response_format` | Typ`object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`reasoning_effort` | Typ`string` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`reasoning` | Typ`object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`service_tier` | Typ`string` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`instructions` | Typ`string` | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— | | Feld`functions` | Typ`function[]` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`function_call` | Typ`string\|object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`prompt_cache_options` | Typ`object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`modalities` | Typ`string[]` | AnforderungOptional | Werte und Limits text | Standard— | | Feld`provider` | Typ`object` | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— | | Feld`cache_control.ttl` | Typ`string` | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— | Kombinationen von Eingabematerialien **Text** · UTF8-Text `messages[].content` Methodenparameter und Lebenszyklus | Parameter | Vertrag | | --- | --- | | Parameter`content_type` | Vertragapplication/json | | Parameter`required` | Vertragmodel, messages | | Parameter`material_types` | Vertragtext | | Parameter`messages` | VertragNachrichtenarray mit role/content-Struktur | | Parameter`file_material` | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet | | Parameter`optional_controls` | Vertragstream, temperature, top\_p, stop, max\_tokens, max\_completion\_tokens, reasoning, response\_format, tools, tool\_choice | | Parameter`control_scope` | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen | | Parameter`output_modalities` | Vertragtext | | Parameter`hosted_operations` | Vertragfalse | | Parameter`multimodal_input_binding` | Vertragnull | Lebenszyklus: `synchronous_or_streamed` Die genaue Modell-ID zusammen mit messages senden. Die Kontextlänge ist keine Ausgabeobergrenze. Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung. ### Tarife Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode. Schnellmodus Nicht angegeben Wenn der Schnellmodus ausgewählt ist Flex-Modus Nicht angegeben Wenn der Modus flex ausgewählt ist Maximaler Denkaufwand Nicht angegeben Wenn beim maximalen Denkaufwand die Standardanpassung (default) verwendet wird #### Ailoot-Tarife #### Preise nach Konfiguration | Konfiguration | Tarifstaffel | Gebühr | | --- | --- | --- | | KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken **$0.0002** / 1K Tokens Ausgabe · Ausgabetoken **$0.001** / 1K Tokens Eingabe · Cache lesen **$0** / 1K Tokens Eingabe · In Cache schreiben **$0** / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde **—** / 1K Tokens | Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. [So funktionieren Reservierung und Abrechnung →](https://ailoot.ai/docs/de-at/billing/reserve/) ### Beispielanfragen #### Ailoot Ultra · OpenAI Chat curlPython SDKPython-Stream ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "qwen/qwen3-32b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}') Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path r=json.loads(Path("result.json").read_text()) for x in r.get("choices",[]): if x.get("message",{}).get("content"): print(x["message"]["content"]) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) result=client.chat.completions.create(model='qwen/qwen3-32b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(result.to_dict(mode="json")) ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='qwen/qwen3-32b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Ergebnisse abrufen und speichern #### Ailoot Ultra · OpenAI Chat json oder SSE ##### Alle fertiggestellten Ergebnisse aufbewahren Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf. Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten. ##### Wenn die ursprüngliche Antwort geprüft werden muss Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben. Antwortfelder | Feld | Typ | | --- | --- | | Feld`choices[].index` | Typinteger | | Feld`choices[].message.content` | Typstring\|null | | Feld`choices[].message.tool_calls` | Typtool\_call\[\] | | Feld`choices[].message.reasoning_content` | Typstring | | Feld`choices[].message.reasoning_details` | Typobject\|array | | Feld`choices[].finish_reason` | Typstring\|null | | Feld`usage` | Typobject | Fehler und nächste Schritte | Antwort | Bedingung | Nächster Schritt | | --- | --- | --- | | Antwort400 · `invalid_request_error` | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. | ### Aliasnamen #### Modellaliasnamen **Ailoot Ultra** [`qwen/qwen3-32b-fp8`](https://ailoot.ai/models/de-at/#m=qwen%2Fqwen3-32b-fp8&route=Ultra&caller=qwen%2Fqwen3-32b-fp8&fmt=chat) #### Aliasnamen für Methodenpfade Verwenden Sie die oben angezeigten Methodenpfade. #### Zugehörige Aufrufer-IDs [`qwen/qwen3-32b-fp8`](https://ailoot.ai/models/de-at/#m=qwen%2Fqwen3-32b-fp8&route=Ultra&caller=qwen%2Fqwen3-32b-fp8&fmt=chat) **Ailoot Ultra · Anthropic Messages** `POST /v1/messages` `qwen/qwen3-32b-fp8` [`qwen/qwen3-32b-fp8`](https://ailoot.ai/models/de-at/#m=qwen%2Fqwen3-32b-fp8&route=Ultra&caller=qwen%2Fqwen3-32b-fp8&fmt=messages) Alibaba /`qwen/qwen3-32b-fp8` ### Einstieg Qwen3-32B-FP8 ist die fein granulare FP8-Edition von Qwen3s dichtem Textmodell mit 32,8 Milliarden Parametern. Sie verbindet direkte und Thinking-Antworten für mehrsprachiges Schreiben, Code und Analyse mit eigenen Checkpoint- und Kompatibilitätsdetails. Zulässige Eingaben Text Ergebnisse json · sse ### In Ailoot verfügbar · Eingaben und Methoden **Ailoot Ultra · Anthropic Messages** `POST /v1/messages` Eingabe `text` Ausgabe `json`, `sse` Ausgabeformat JSON oder SSE | Feld | Typ | Anforderung | Werte und Limits | Standard | | --- | --- | --- | --- | --- | | Feld`model` | Typ`string` | AnforderungErforderlich | Werte und Limits qwen/qwen3-32b-fp8 | Standard— | | Feld`messages` | Typ`message[]` | AnforderungErforderlich | Werte und Limits | Standard— | | Feld`messages[].role` | Typ`string` | AnforderungErforderlich | Werte und Limits user, assistant | Standard— | | Feld`messages[].content` | Typ`string` | AnforderungErforderlich | Werte und Limits | Standard— | | Feld`max_tokens` | Typ`integer` | AnforderungErforderlich | Werte und Limits | Standard— | | Feld`stream` | Typ`boolean` | AnforderungOptional | Werte und Limits | Standardfalse | Kombinationen von Eingabematerialien **Text** · UTF-8-Text `Zeichenfolge messages[].content` Methodenparameter und Lebenszyklus | Parameter | Vertrag | | --- | --- | | Parameter`content_type` | Vertragapplication/json | | Parameter`required` | Vertragmodel, messages, max\_tokens | | Parameter`optional_controls` | Vertragstream | | Parameter`material_types` | Vertragtext | | Parameter`text_file_material` | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. | Lebenszyklus: `synchronous_or_streamed` ### Tarife Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode. Schnellmodus Nicht angegeben Wenn der Schnellmodus ausgewählt ist Flex-Modus Nicht angegeben Wenn der Modus flex ausgewählt ist Maximaler Denkaufwand Nicht angegeben Wenn beim maximalen Denkaufwand die Standardanpassung (default) verwendet wird #### Ailoot-Tarife #### Preise nach Konfiguration | Konfiguration | Tarifstaffel | Gebühr | | --- | --- | --- | | KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken **$0.0002** / 1K Tokens Ausgabe · Ausgabetoken **$0.001** / 1K Tokens Eingabe · Cache lesen **$0** / 1K Tokens Eingabe · In Cache schreiben **$0** / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde **—** / 1K Tokens | Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. [So funktionieren Reservierung und Abrechnung →](https://ailoot.ai/docs/de-at/billing/reserve/) ### Beispielanfragen #### Ailoot Ultra · Anthropic Messages Vollständiger minimaler JSON-Bodycurl · eigenes UTF-8-Dokument verwendenPython · das vollständige Ergebnis speichern ```json { "model": "qwen/qwen3-32b-fp8", "max_tokens": 128, "messages": [ { "role": "user", "content": "Summarize the incident report." } ], "stream": false } ``` ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'qwen/qwen3-32b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8') PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \ -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) PY_RESULT ``` ```python import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'qwen/qwen3-32b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text from urllib.request import Request, urlopen from urllib.error import HTTPError api_key = os.environ['AILOOT_API_KEY'] if not api_key.strip(): raise SystemExit('Set AILOOT_API_KEY before making a request') headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'} headers['x-api-key'] = api_key request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST') try: with urlopen(request, timeout=120) as response: raw = response.read() Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8') except HTTPError as error: Path('result.json').write_bytes(error.read()) Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8') raise Path('result.json').write_bytes(raw) import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) ``` ### Ergebnisse abrufen und speichern #### Ailoot Ultra · Anthropic Messages JSON oder SSE ##### Alle fertiggestellten Ergebnisse aufbewahren Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf. Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe. ##### Wenn die ursprüngliche Antwort geprüft werden muss Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben. Antwortfelder | Feld | Typ | | --- | --- | | Feld`id` | Typstring | | Feld`model` | Typstring | | Feld`content[]` | Typtext\|thinking\|tool\_use\|other content block | | Feld`stop_reason` | Typstring\|null | | Feld`usage` | Typobject | Fehler und nächste Schritte | Antwort | Bedingung | Nächster Schritt | | --- | --- | --- | | Antwort400 · `invalid_request_error` | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. | ### Aliasnamen #### Modellaliasnamen **Ailoot Ultra** [`qwen/qwen3-32b-fp8`](https://ailoot.ai/models/de-at/#m=qwen%2Fqwen3-32b-fp8&route=Ultra&caller=qwen%2Fqwen3-32b-fp8&fmt=messages) #### Aliasnamen für Methodenpfade Verwenden Sie die oben angezeigten Methodenpfade. #### Zugehörige Aufrufer-IDs [`qwen/qwen3-32b-fp8`](https://ailoot.ai/models/de-at/#m=qwen%2Fqwen3-32b-fp8&route=Ultra&caller=qwen%2Fqwen3-32b-fp8&fmt=messages) FAQ · qwen/qwen3-32b-fp8 Welche Eingaben und Ergebnisse sind verfügbar? `POST /v1/chat/completions` · `qwen/qwen3-32b-fp8`: `text` → `text` `POST /v1/messages` · `qwen/qwen3-32b-fp8`: `text` → `json`, `sse` Welche Felder verwendet die Anfrage? `POST /v1/chat/completions` · `qwen/qwen3-32b-fp8`: `model`, `messages`, `stream`, `modalities`, `provider` `POST /v1/messages` · `qwen/qwen3-32b-fp8`: `model`, `messages`, `max_tokens`, `stream` Welche Grenzen gelten? `POST /v1/chat/completions` · `qwen/qwen3-32b-fp8`: `messages.min_items`: `1` Verbinden Sie Ailoot mit Claude Code, OpenCode, Hermes oder Ihrer eigenen Anwendung. ## Das Unternehmen und sein Projektportfolio Das Unternehmen und sein Projektportfolio: Millionen von Kunden; monatliche Umsätze in Milliardenhöhe. ## Tokens mit Rabatt kaufen. Aborabatt für regelmäßige Arbeit. Aktionscodes bieten bis 50% beim Tokenkauf. Abo Wählen Sie einen Tarif mit Rabatt für Ihre regelmäßigen Anfragen. Aktionscode bis 50% Geben Sie den Code beim Kauf ein. Der Preis wird nach den gültigen Aktionsbedingungen berechnet. Ausgaben in der Historie Modell, Tokens und Betrag werden für jede Anfrage gespeichert. [Abo wählen](https://ailoot.ai/docs/de-at/billing/subscriptions/) · [Modellpreise ansehen](https://ailoot.ai/models/de-at/) ## Verbinden Sie die API mit dem Produkt, das Sie verkaufen. SaaS, Anwendungen und Bots nach dem offiziellen Angebot und Lizenzvertrag von Ailoot. Fordern Sie für den Weiterverkauf eine Reseller-Lizenz an. Kommerzielle Anwendung Integrieren Sie Text-, Bild-, Video- und Audioerzeugung in kostenpflichtige Funktionen Ihres Dienstes. Reseller-Lizenz Senden Sie Projektbeschreibung und Zugangsmodell. Fordern Sie schriftliche Nutzungs- und Weiterverkaufsbedingungen an. Dokumente auf der Website Offizielles Angebot, Lizenzvertrag und Datenschutzerklärung sind vor der Verbindung zugänglich. [Reseller-Lizenz anfordern](mailto:support@ailoot.ai) · [Offizielles Angebot und Lizenzvertrag](https://ailoot.ai/legal/offer?lang=de-at) ## Ailoot · Das Unternehmen und sein Projektportfolio Ailoot baut auf bewährte Betriebserfahrung, einen großen Kundenstamm, stabilen Service und kontinuierliche KPI-Kontrolle. Das Unternehmen und sein Projektportfolio: Millionen von Kunden; monatliche Umsätze in Milliardenhöhe. Ailoot nutzt diese Betriebserfahrung für den API-Zugang zu KI-Funktionen in Kundenprodukten, Agenten, Anwendungen und Automatisierungen.