Qwen3-32B-FP8 ist der offizielle FP8-Checkpoint des dichten Qwen3-32B-Sprachmodells. Der Hersteller beschreibt Mathematik, logisches Schlussfolgern, Codegenerierung, kreatives Schreiben, rollenbasierte Dialoge und Anweisungsbefolgung über mehrere Gesprächsrunden. Die Familie unterstützt über 100 Sprachen und Dialekte. Ein- und Ausgabe sind Text; derselbe Release bietet Thinking- und Direktantwortverhalten (Non-Thinking).
Das Modell hat 32,8 Milliarden Parameter, davon 31,2 außerhalb von Embeddings, und 64 Schichten. Grouped-Query Attention umfasst 64 Query-Köpfe und acht Key/Value-Köpfe. Dies ist eine dichte Architektur, getrennt von Qwen3s Expertenmodellen mit Gesamt- und Aktivzahlen. FP8 gehört zur genauen Identität. Geben Sie einem Entwicklungsassistenten Funktion, Spezifikation und Eingaben und verlangen Sie Verhaltenserklärung und Überarbeitung unter erhaltener Schnittstelle. Für Redaktion liefern Sie Quelle, Leser und Terminologie statt unbestimmten Hintergrunds.
Der Schnellstart verwendet die vorgesehene Chatvorlage. Trennen Sie Aufgabe und Materialien und definieren Sie den Abschluss. Eine Analyse kann zwei Validierungsansätze nach denselben Feldregeln vergleichen, akzeptierte Fälle nennen und eine Funktion vorschlagen. Geben Sie Regeln fehlender Werte, repräsentative Daten und Fehlermeldungen vor. Für mehrsprachige Inhalte liefern Sie Glossar und verlangen Sie Übersetzung samt prüfbedürftigen Begriffen. Das macht Ergebnisse anhand konkreter Eingabe prüfbar. Die Integration erwartet Qwen3-Unterstützung; Transformers unter 4.51.0 erkennt die Architektur laut Karte nicht.
Der FP8-Hinweis beschreibt feingranulare Quantisierung mit Blockgröße 128. Die Konfiguration identifiziert das FP8-Setup. Der Hersteller nennt Transformers, SGLang und vLLM, warnt aber vor verteilter feingranularer FP8-Inferenz in Transformers; Mehrgerätebetrieb kann CUDA_LAUNCH_BLOCKING=1 benötigen. Trennen Sie Kompatibilität von Sprachfähigkeiten. Quantisierte Identität belegt allein weder Latenz noch Hardwareersparnis noch Antwortgleichheit zum Original.
Der Thinking-Modus ist in der Vorlage standardmäßig aktiv. Eine harte Non-Thinking-Einstellung unterdrückt den Denkabschnitt. Bei aktivem Denken sind /think und /no_think weiche Rundenschalter mit Vorrang der letzten Anweisung; eine harte Deaktivierung können sie nicht aufheben. Verlangen Sie Denken bei Widersprüchen und danach eine direkte kompakte Darstellung des akzeptierten Ergebnisses. Nutzen Sie den getrennten Abschluss statt früheren Denkens als spätere Historie. Bei aktiviertem Thinking bleibt auch bei einer textuellen Non-Thinking-Anforderung ein möglicherweise leerer Thinking-Block. Eine harte Deaktivierung entfernt ihn.
Die Karte empfiehlt Qwen-Agent für Werkzeugformatierung und Parsing. Die Anwendung definiert und prüft Aufrufe, führt sie aus und liefert Ergebnisse. Ein kontrollierter Testrunner kann im Validierungsbeispiel vorgeschlagenen Code an den Fällen prüfen. Lassen Sie tatsächliche Erfolge und Fehler zusammenfassen und eine benannte Fehlerbedingung korrigieren. Ein vorgeschlagener Aufruf sollte nicht als Ausführungsbeleg behandelt werden. Bestimmen Sie vorher erlaubten Umfang und Ergebnisfelder. Qwen3 beschreibt auch parallele und mehrstufige Aufrufe mit Objektargumenten und Ergebnissen im Gespräch.
Die genaue Karte nennt 32.768 native und 131.072 YaRN-Kontexttokens. Erweiterung hängt von Konfiguration ab; statische Skalierung kann kurze Texte beeinflussen. Ein- und Ausgabe beanspruchen das Sequenzbudget. Benennen Sie lange Quellen und reservieren Sie Platz für Code und Erklärung. Beispiele und Empfehlungen begründen kein universelles hartes Ausgabelimit. Prüfen Sie bei langer Generierung Kohärenz und Aufgabenerfüllung. Die Erklärung der Trainingslängen in Qwen3 nennt 38.912 Assistant-Tokens mit Denken und 16.384 ohne und empfiehlt Qualitätsprüfung längerer Generierung. Diese Größen sind vom Kontextfenster getrennt und keine Endpunktobergrenze. Die Karte erklärt 40.960 Standardpositionen als 8.192 für typische Prompts plus 32.768 für Ausgabe: ein Konfigurationshinweis des Herstellers, getrennt vom nativen Trainingskontext und jedem Endpunktlimit.
Die empfohlenen Einstellungen sind temperature 0,6, top-p 0,95, top-k 20 und min-p 0 mit Denken und 0,7, 0,8, 20 und 0 direkt. Der Hersteller warnt wegen Wiederholung vor greedy reasoning; hohe presence penalties können Sprachen mischen. Verlangen Sie einen prüfbaren Abschluss, etwa Entscheidungstabelle, fertige Funktion und Fälle. Prüfen Sie strukturierte Felder und Berechnungen anhand der Quelle und führen Sie Code in der vorgesehenen Umgebung aus, mit erhaltener FP8-Identität im Ergebnisprotokoll.
", "aboutText": "Qwen3-32B-FP8 ist der offizielle FP8-Checkpoint des dichten Qwen3-32B-Sprachmodells. Der Hersteller beschreibt Mathematik, logisches Schlussfolgern, Codegenerierung, kreatives Schreiben, rollenbasierte Dialoge und Anweisungsbefolgung über mehrere Gesprächsrunden. Die Familie unterstützt über 100 Sprachen und Dialekte. Ein- und Ausgabe sind Text; derselbe Release bietet Thinking- und Direktantwortverhalten (Non-Thinking).\n\nDas Modell hat 32,8 Milliarden Parameter, davon 31,2 außerhalb von Embeddings, und 64 Schichten. Grouped-Query Attention umfasst 64 Query-Köpfe und acht Key/Value-Köpfe. Dies ist eine dichte Architektur, getrennt von Qwen3s Expertenmodellen mit Gesamt- und Aktivzahlen. FP8 gehört zur genauen Identität. Geben Sie einem Entwicklungsassistenten Funktion, Spezifikation und Eingaben und verlangen Sie Verhaltenserklärung und Überarbeitung unter erhaltener Schnittstelle. Für Redaktion liefern Sie Quelle, Leser und Terminologie statt unbestimmten Hintergrunds.\n\nDer Schnellstart verwendet die vorgesehene Chatvorlage. Trennen Sie Aufgabe und Materialien und definieren Sie den Abschluss. Eine Analyse kann zwei Validierungsansätze nach denselben Feldregeln vergleichen, akzeptierte Fälle nennen und eine Funktion vorschlagen. Geben Sie Regeln fehlender Werte, repräsentative Daten und Fehlermeldungen vor. Für mehrsprachige Inhalte liefern Sie Glossar und verlangen Sie Übersetzung samt prüfbedürftigen Begriffen. Das macht Ergebnisse anhand konkreter Eingabe prüfbar. Die Integration erwartet Qwen3-Unterstützung; Transformers unter 4.51.0 erkennt die Architektur laut Karte nicht.\n\nDer FP8-Hinweis beschreibt feingranulare Quantisierung mit Blockgröße 128. Die Konfiguration identifiziert das FP8-Setup. Der Hersteller nennt Transformers, SGLang und vLLM, warnt aber vor verteilter feingranularer FP8-Inferenz in Transformers; Mehrgerätebetrieb kann CUDA_LAUNCH_BLOCKING=1 benötigen. Trennen Sie Kompatibilität von Sprachfähigkeiten. Quantisierte Identität belegt allein weder Latenz noch Hardwareersparnis noch Antwortgleichheit zum Original.\n\nDer Thinking-Modus ist in der Vorlage standardmäßig aktiv. Eine harte Non-Thinking-Einstellung unterdrückt den Denkabschnitt. Bei aktivem Denken sind /think und /no_think weiche Rundenschalter mit Vorrang der letzten Anweisung; eine harte Deaktivierung können sie nicht aufheben. Verlangen Sie Denken bei Widersprüchen und danach eine direkte kompakte Darstellung des akzeptierten Ergebnisses. Nutzen Sie den getrennten Abschluss statt früheren Denkens als spätere Historie. Bei aktiviertem Thinking bleibt auch bei einer textuellen Non-Thinking-Anforderung ein möglicherweise leerer Thinking-Block. Eine harte Deaktivierung entfernt ihn.\n\nDie Karte empfiehlt Qwen-Agent für Werkzeugformatierung und Parsing. Die Anwendung definiert und prüft Aufrufe, führt sie aus und liefert Ergebnisse. Ein kontrollierter Testrunner kann im Validierungsbeispiel vorgeschlagenen Code an den Fällen prüfen. Lassen Sie tatsächliche Erfolge und Fehler zusammenfassen und eine benannte Fehlerbedingung korrigieren. Ein vorgeschlagener Aufruf sollte nicht als Ausführungsbeleg behandelt werden. Bestimmen Sie vorher erlaubten Umfang und Ergebnisfelder. Qwen3 beschreibt auch parallele und mehrstufige Aufrufe mit Objektargumenten und Ergebnissen im Gespräch.\n\nDie genaue Karte nennt 32.768 native und 131.072 YaRN-Kontexttokens. Erweiterung hängt von Konfiguration ab; statische Skalierung kann kurze Texte beeinflussen. Ein- und Ausgabe beanspruchen das Sequenzbudget. Benennen Sie lange Quellen und reservieren Sie Platz für Code und Erklärung. Beispiele und Empfehlungen begründen kein universelles hartes Ausgabelimit. Prüfen Sie bei langer Generierung Kohärenz und Aufgabenerfüllung. Die Erklärung der Trainingslängen in Qwen3 nennt 38.912 Assistant-Tokens mit Denken und 16.384 ohne und empfiehlt Qualitätsprüfung längerer Generierung. Diese Größen sind vom Kontextfenster getrennt und keine Endpunktobergrenze. Die Karte erklärt 40.960 Standardpositionen als 8.192 für typische Prompts plus 32.768 für Ausgabe: ein Konfigurationshinweis des Herstellers, getrennt vom nativen Trainingskontext und jedem Endpunktlimit.\n\nDie empfohlenen Einstellungen sind temperature 0,6, top-p 0,95, top-k 20 und min-p 0 mit Denken und 0,7, 0,8, 20 und 0 direkt. Der Hersteller warnt wegen Wiederholung vor greedy reasoning; hohe presence penalties können Sprachen mischen. Verlangen Sie einen prüfbaren Abschluss, etwa Entscheidungstabelle, fertige Funktion und Fälle. Prüfen Sie strukturierte Felder und Berechnungen anhand der Quelle und führen Sie Code in der vorgesehenen Umgebung aus, mit erhaltener FP8-Identität im Ergebnisprotokoll.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
Compare missing-value validators\n\nCompare two Python validators for an optional quantity: A uses if not value: return None; B uses if value is None: return None. Requirement: None means omitted, integer zero is valid, and negative quantities are invalid. Explain each validator's behavior for None, 0 and -1, then propose a complete function with explicit validation errors.A three-input comparison table and a proposed function implementing the supplied rules.Check zero is preserved rather than treated as missing, and negatives are rejected explicitly.qwen/qwen3-32b-fp8Qwen3-32B-FP8 ist die feingranulare FP8-Edition von Qwen3s dichtem Textmodell mit 32,8 Milliarden Parametern. Sie verbindet direkte Antworten und Thinking-Antworten für mehrsprachiges Schreiben, Code und Analyse mit separaten Checkpoint- und Kompatibilitätsdetails.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Qwen3-32B-FP8 ist der offizielle FP8-Checkpoint des dichten Qwen3-32B-Sprachmodells. Der Hersteller beschreibt Mathematik, logisches Schlussfolgern, Codegenerierung, kreatives Schreiben, rollenbasierte Dialoge und Anweisungsbefolgung über mehrere Gesprächsrunden. Die Familie unterstützt über 100 Sprachen und Dialekte. Ein- und Ausgabe sind Text; derselbe Release bietet Thinking- und Direktantwortverhalten (Non-Thinking).
Das Modell hat 32,8 Milliarden Parameter, davon 31,2 außerhalb von Embeddings, und 64 Schichten. Grouped-Query Attention umfasst 64 Query-Köpfe und acht Key/Value-Köpfe. Dies ist eine dichte Architektur, getrennt von Qwen3s Expertenmodellen mit Gesamt- und Aktivzahlen. FP8 gehört zur genauen Identität. Geben Sie einem Entwicklungsassistenten Funktion, Spezifikation und Eingaben und verlangen Sie Verhaltenserklärung und Überarbeitung unter erhaltener Schnittstelle. Für Redaktion liefern Sie Quelle, Leser und Terminologie statt unbestimmten Hintergrunds.
Der Schnellstart verwendet die vorgesehene Chatvorlage. Trennen Sie Aufgabe und Materialien und definieren Sie den Abschluss. Eine Analyse kann zwei Validierungsansätze nach denselben Feldregeln vergleichen, akzeptierte Fälle nennen und eine Funktion vorschlagen. Geben Sie Regeln fehlender Werte, repräsentative Daten und Fehlermeldungen vor. Für mehrsprachige Inhalte liefern Sie Glossar und verlangen Sie Übersetzung samt prüfbedürftigen Begriffen. Das macht Ergebnisse anhand konkreter Eingabe prüfbar. Die Integration erwartet Qwen3-Unterstützung; Transformers unter 4.51.0 erkennt die Architektur laut Karte nicht.
Der FP8-Hinweis beschreibt feingranulare Quantisierung mit Blockgröße 128. Die Konfiguration identifiziert das FP8-Setup. Der Hersteller nennt Transformers, SGLang und vLLM, warnt aber vor verteilter feingranularer FP8-Inferenz in Transformers; Mehrgerätebetrieb kann CUDA_LAUNCH_BLOCKING=1 benötigen. Trennen Sie Kompatibilität von Sprachfähigkeiten. Quantisierte Identität belegt allein weder Latenz noch Hardwareersparnis noch Antwortgleichheit zum Original.
Der Thinking-Modus ist in der Vorlage standardmäßig aktiv. Eine harte Non-Thinking-Einstellung unterdrückt den Denkabschnitt. Bei aktivem Denken sind /think und /no_think weiche Rundenschalter mit Vorrang der letzten Anweisung; eine harte Deaktivierung können sie nicht aufheben. Verlangen Sie Denken bei Widersprüchen und danach eine direkte kompakte Darstellung des akzeptierten Ergebnisses. Nutzen Sie den getrennten Abschluss statt früheren Denkens als spätere Historie. Bei aktiviertem Thinking bleibt auch bei einer textuellen Non-Thinking-Anforderung ein möglicherweise leerer Thinking-Block. Eine harte Deaktivierung entfernt ihn.
Die Karte empfiehlt Qwen-Agent für Werkzeugformatierung und Parsing. Die Anwendung definiert und prüft Aufrufe, führt sie aus und liefert Ergebnisse. Ein kontrollierter Testrunner kann im Validierungsbeispiel vorgeschlagenen Code an den Fällen prüfen. Lassen Sie tatsächliche Erfolge und Fehler zusammenfassen und eine benannte Fehlerbedingung korrigieren. Ein vorgeschlagener Aufruf sollte nicht als Ausführungsbeleg behandelt werden. Bestimmen Sie vorher erlaubten Umfang und Ergebnisfelder. Qwen3 beschreibt auch parallele und mehrstufige Aufrufe mit Objektargumenten und Ergebnissen im Gespräch.
Die genaue Karte nennt 32.768 native und 131.072 YaRN-Kontexttokens. Erweiterung hängt von Konfiguration ab; statische Skalierung kann kurze Texte beeinflussen. Ein- und Ausgabe beanspruchen das Sequenzbudget. Benennen Sie lange Quellen und reservieren Sie Platz für Code und Erklärung. Beispiele und Empfehlungen begründen kein universelles hartes Ausgabelimit. Prüfen Sie bei langer Generierung Kohärenz und Aufgabenerfüllung. Die Erklärung der Trainingslängen in Qwen3 nennt 38.912 Assistant-Tokens mit Denken und 16.384 ohne und empfiehlt Qualitätsprüfung längerer Generierung. Diese Größen sind vom Kontextfenster getrennt und keine Endpunktobergrenze. Die Karte erklärt 40.960 Standardpositionen als 8.192 für typische Prompts plus 32.768 für Ausgabe: ein Konfigurationshinweis des Herstellers, getrennt vom nativen Trainingskontext und jedem Endpunktlimit.
Die empfohlenen Einstellungen sind temperature 0,6, top-p 0,95, top-k 20 und min-p 0 mit Denken und 0,7, 0,8, 20 und 0 direkt. Der Hersteller warnt wegen Wiederholung vor greedy reasoning; hohe presence penalties können Sprachen mischen. Verlangen Sie einen prüfbaren Abschluss, etwa Entscheidungstabelle, fertige Funktion und Fälle. Prüfen Sie strukturierte Felder und Berechnungen anhand der Quelle und führen Sie Code in der vorgesehenen Umgebung aus, mit erhaltener FP8-Identität im Ergebnisprotokoll.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits qwen/qwen3-32b-fp8 | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
| Konfiguration | Tarifstaffel | Gebühr |
|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken $0.0002 / 1K Token Ausgabe · Ausgabetoken $0.001 / 1K Token Eingabe · Cache-Lesen $0 / 1K Token Eingabe · Cache-Schreiben $0 / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen3-32b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen3-32b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen3-32b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra qwen/qwen3-32b-fp8
Verwenden Sie die oben angezeigten Methodenpfade.
qwen/qwen3-32b-fp8Qwen3-32B-FP8 ist die feingranulare FP8-Edition von Qwen3s dichtem Textmodell mit 32,8 Milliarden Parametern. Sie verbindet direkte Antworten und Thinking-Antworten für mehrsprachiges Schreiben, Code und Analyse mit separaten Checkpoint- und Kompatibilitätsdetails.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Qwen3-32B-FP8 ist der offizielle FP8-Checkpoint des dichten Qwen3-32B-Sprachmodells. Der Hersteller beschreibt Mathematik, logisches Schlussfolgern, Codegenerierung, kreatives Schreiben, rollenbasierte Dialoge und Anweisungsbefolgung über mehrere Gesprächsrunden. Die Familie unterstützt über 100 Sprachen und Dialekte. Ein- und Ausgabe sind Text; derselbe Release bietet Thinking- und Direktantwortverhalten (Non-Thinking).
Das Modell hat 32,8 Milliarden Parameter, davon 31,2 außerhalb von Embeddings, und 64 Schichten. Grouped-Query Attention umfasst 64 Query-Köpfe und acht Key/Value-Köpfe. Dies ist eine dichte Architektur, getrennt von Qwen3s Expertenmodellen mit Gesamt- und Aktivzahlen. FP8 gehört zur genauen Identität. Geben Sie einem Entwicklungsassistenten Funktion, Spezifikation und Eingaben und verlangen Sie Verhaltenserklärung und Überarbeitung unter erhaltener Schnittstelle. Für Redaktion liefern Sie Quelle, Leser und Terminologie statt unbestimmten Hintergrunds.
Der Schnellstart verwendet die vorgesehene Chatvorlage. Trennen Sie Aufgabe und Materialien und definieren Sie den Abschluss. Eine Analyse kann zwei Validierungsansätze nach denselben Feldregeln vergleichen, akzeptierte Fälle nennen und eine Funktion vorschlagen. Geben Sie Regeln fehlender Werte, repräsentative Daten und Fehlermeldungen vor. Für mehrsprachige Inhalte liefern Sie Glossar und verlangen Sie Übersetzung samt prüfbedürftigen Begriffen. Das macht Ergebnisse anhand konkreter Eingabe prüfbar. Die Integration erwartet Qwen3-Unterstützung; Transformers unter 4.51.0 erkennt die Architektur laut Karte nicht.
Der FP8-Hinweis beschreibt feingranulare Quantisierung mit Blockgröße 128. Die Konfiguration identifiziert das FP8-Setup. Der Hersteller nennt Transformers, SGLang und vLLM, warnt aber vor verteilter feingranularer FP8-Inferenz in Transformers; Mehrgerätebetrieb kann CUDA_LAUNCH_BLOCKING=1 benötigen. Trennen Sie Kompatibilität von Sprachfähigkeiten. Quantisierte Identität belegt allein weder Latenz noch Hardwareersparnis noch Antwortgleichheit zum Original.
Der Thinking-Modus ist in der Vorlage standardmäßig aktiv. Eine harte Non-Thinking-Einstellung unterdrückt den Denkabschnitt. Bei aktivem Denken sind /think und /no_think weiche Rundenschalter mit Vorrang der letzten Anweisung; eine harte Deaktivierung können sie nicht aufheben. Verlangen Sie Denken bei Widersprüchen und danach eine direkte kompakte Darstellung des akzeptierten Ergebnisses. Nutzen Sie den getrennten Abschluss statt früheren Denkens als spätere Historie. Bei aktiviertem Thinking bleibt auch bei einer textuellen Non-Thinking-Anforderung ein möglicherweise leerer Thinking-Block. Eine harte Deaktivierung entfernt ihn.
Die Karte empfiehlt Qwen-Agent für Werkzeugformatierung und Parsing. Die Anwendung definiert und prüft Aufrufe, führt sie aus und liefert Ergebnisse. Ein kontrollierter Testrunner kann im Validierungsbeispiel vorgeschlagenen Code an den Fällen prüfen. Lassen Sie tatsächliche Erfolge und Fehler zusammenfassen und eine benannte Fehlerbedingung korrigieren. Ein vorgeschlagener Aufruf sollte nicht als Ausführungsbeleg behandelt werden. Bestimmen Sie vorher erlaubten Umfang und Ergebnisfelder. Qwen3 beschreibt auch parallele und mehrstufige Aufrufe mit Objektargumenten und Ergebnissen im Gespräch.
Die genaue Karte nennt 32.768 native und 131.072 YaRN-Kontexttokens. Erweiterung hängt von Konfiguration ab; statische Skalierung kann kurze Texte beeinflussen. Ein- und Ausgabe beanspruchen das Sequenzbudget. Benennen Sie lange Quellen und reservieren Sie Platz für Code und Erklärung. Beispiele und Empfehlungen begründen kein universelles hartes Ausgabelimit. Prüfen Sie bei langer Generierung Kohärenz und Aufgabenerfüllung. Die Erklärung der Trainingslängen in Qwen3 nennt 38.912 Assistant-Tokens mit Denken und 16.384 ohne und empfiehlt Qualitätsprüfung längerer Generierung. Diese Größen sind vom Kontextfenster getrennt und keine Endpunktobergrenze. Die Karte erklärt 40.960 Standardpositionen als 8.192 für typische Prompts plus 32.768 für Ausgabe: ein Konfigurationshinweis des Herstellers, getrennt vom nativen Trainingskontext und jedem Endpunktlimit.
Die empfohlenen Einstellungen sind temperature 0,6, top-p 0,95, top-k 20 und min-p 0 mit Denken und 0,7, 0,8, 20 und 0 direkt. Der Hersteller warnt wegen Wiederholung vor greedy reasoning; hohe presence penalties können Sprachen mischen. Verlangen Sie einen prüfbaren Abschluss, etwa Entscheidungstabelle, fertige Funktion und Fälle. Prüfen Sie strukturierte Felder und Berechnungen anhand der Quelle und führen Sie Code in der vorgesehenen Umgebung aus, mit erhaltener FP8-Identität im Ergebnisprotokoll.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits qwen/qwen3-32b-fp8 | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
| Konfiguration | Tarifstaffel | Gebühr |
|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken $0.0002 / 1K Token Ausgabe · Ausgabetoken $0.001 / 1K Token Eingabe · Cache-Lesen $0 / 1K Token Eingabe · Cache-Schreiben $0 / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "qwen/qwen3-32b-fp8",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-32b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-32b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra qwen/qwen3-32b-fp8
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
Compare missing-value validators\n\nCompare two Python validators for an optional quantity: A uses if not value: return None; B uses if value is None: return None. Requirement: None means omitted, integer zero is valid, and negative quantities are invalid. Explain each validator's behavior for None, 0 and -1, then propose a complete function with explicit validation errors.A three-input comparison table and a proposed function implementing the supplied rules.Check zero is preserved rather than treated as missing, and negatives are rejected explicitly.