Qwen3-235B-A22B-FP8 ist die offizielle FP8-Edition von Qwen3-235B-A22B. Beworbene Textfähigkeiten umfassen mathematisches und logisches Schlussfolgern, Codegenerierung, kreatives Schreiben, Rollendialoge und Anweisungsbefolgung über mehrere Runden in mehr als 100 Sprachen und Dialekten. Sie verbindet Denken und direkte Antwort. Nutzen Sie sie für mehrere zusammenhängende Bedingungen, etwa zwei Implementierungen anhand derselben Spezifikation zu vergleichen und daraus einen konkreten Änderungsvorschlag zu erstellen.
Die Architektur ist Mixture-of-Experts: 235 Milliarden Parameter insgesamt, 22 Milliarden bei der Verarbeitung aktiv, 94 Schichten und 128 Experten mit acht pro Token ausgewählten. Grouped-Query Attention verwendet 64 Query-Köpfe und vier Key/Value-Köpfe. FP8 bezeichnet einen separat veröffentlichten Checkpoint, keine zusätzliche Antwortmodalität oder andere Parameterzahl. Das Modell nimmt Text entgegen und generiert Text. Geben Sie einem Codeprüfungsassistenten Spezifikation, Quellen und erwartetes Verhalten und verlangen Sie Entscheidungstabelle, gewählte Änderung und Beispiele des gewünschten Ergebnisses.
Der Herstellerablauf formatiert Quellen und Anweisungen als Gespräch. Kennzeichnen Sie beim Dokumentvergleich Versionen, Autorität jeder Quelle und unveränderte Anforderungen. Geben Sie bei Mathematik vollständige Aufgabe und finales Antwortformat, bei Implementierung Sprache, tatsächliche Eingabeform, Fehlerfall und zu bewahrende Schnittstellen vor. Benennen Sie das Artefakt ausdrücklich, damit eine lange Antwort den ursprünglichen Auftrag löst. Die Integration erwartet eine Qwen3-fähige Laufzeit; Transformers-Versionen unter 4.51.0 erkennen laut Karte die benötigte Architektur nicht.
Diese Edition hat einen eigenen FP8-Hinweis. Sie nutzt feingranulare FP8-Quantisierung mit Blockgröße 128; das veröffentlichte Schema ist in der Konfiguration verzeichnet. Der Hersteller nennt Transformers, SGLang und vLLM als Inferenzoptionen und warnt vor Problemen mit feingranularem FP8 bei verteilter Transformers-Inferenz. Mehrgerätenutzung kann CUDA_LAUNCH_BLOCKING=1 erfordern. Das ist editionsspezifische Kompatibilität, kein Grund für identische Geschwindigkeit, Speicherbelegung oder Qualität über Laufzeiten hinweg. Bewahren Sie den vollständigen FP8-Namen bei Vergleichen und Aufzeichnungen und prüfen Sie den tatsächlichen Checkpoint in der vorgesehenen Umgebung.
Denken ist Standard in der Chatvorlage; ein harter Schalter kann es deaktivieren. Bei aktivem Denken steuern /think und /no_think einzelne Runden, mit Vorrang der letzten Anweisung. Weiche Schalter überschreiben kein hartes Deaktivieren. Trennen Sie finale Antwort und Denkabschnitt und übernehmen Sie die finale Antwort in spätere Historie. Detaillierte Widerspruchsanalyse kann Denken verlangen, die Umformatierung einer akzeptierten Schlussfolgerung eine direkte Antwort. Bei aktivem Denken enthält selbst eine weiche Nichtdenkanfrage einen Denkblock, der leer sein kann. Hartes Deaktivieren entfernt ihn.
Die Karte empfiehlt Qwen-Agent für Aufrufvorlagen und Parsing. Eine technische Anwendung könnte Testausführung oder schreibgeschützte Quellsuche bereitstellen, den akzeptierten Aufruf ausführen und Belege für die nächste Antwort zurückgeben. Definieren Sie Eingaben, Berechtigungen und Ergebnisfelder. Verlangen Sie den Bezug vorgeschlagener Änderungen zum Ergebnis und die Unterscheidung zwischen angefordertem und tatsächlich abgeschlossenem Test. Werkzeugfähigkeiten hängen vom umgebenden Ablauf ab. Die Qwen3-Anleitung beschreibt auch parallele und mehrstufige Aufrufe mit objektförmigen Argumenten und ins Gespräch zurückgegebenen Ergebnissen.
Der native Kontext beträgt 32.768 Tokens, mit 131.072 über YaRN. Eingabe und Ausgabe teilen das Sequenzbudget. Größerer Kontext erfordert die Konfiguration; statisches YaRN kann kurze Eingaben beeinflussen. Ordnen Sie lange Quellen nach Datei oder Abschnitt und reservieren Sie Platz für Vergleich oder Code. Schnellstartlängen und Empfehlungen steuern Generierung, belegen aber kein unabhängiges dienstweites Ausgabemaximum. Die Qwen3-Dokumentation nennt in ihrer Erklärung der Trainingslängen 38.912 Assistant-Tokens im Denkmodus und 16.384 ohne Denken und empfiehlt Qualitätsprüfung längerer Generierung. Das sind andere Größen als das Kontextfenster und keine endpunktspezifische harte Grenze. Die Karte erklärt außerdem 40.960 standardmäßig zugewiesene Positionen als 8.192 für typische Prompts plus 32.768 für Ausgabe: Herstellerkonfigurationshinweis, getrennt vom nativen Trainingskontext und einer Endpunktgrenze.
Für Denken werden temperature 0,6, top-p 0,95, top-k 20 und min-p 0 empfohlen; direkt gelten 0,7, 0,8, 20 und 0. Greedy-Decoding kann im Denkmodus Wiederholungen, ein stärkerer presence penalty Sprachmischung verursachen. Verlangen Sie eine prüfbare Struktur, etwa Ergebnistabelle, geänderte Funktion und relevante Fälle. Prüfen Sie Zahlen, führen Sie Code in der Zielumgebung aus und prüfen Sie Werkzeugergebnisse vor der Änderung. Identität und Laufzeitvorbehalte des FP8-Checkpoints sollten in dieser Beurteilung erhalten bleiben.
", "aboutText": "Qwen3-235B-A22B-FP8 ist die offizielle FP8-Edition von Qwen3-235B-A22B. Beworbene Textfähigkeiten umfassen mathematisches und logisches Schlussfolgern, Codegenerierung, kreatives Schreiben, Rollendialoge und Anweisungsbefolgung über mehrere Runden in mehr als 100 Sprachen und Dialekten. Sie verbindet Denken und direkte Antwort. Nutzen Sie sie für mehrere zusammenhängende Bedingungen, etwa zwei Implementierungen anhand derselben Spezifikation zu vergleichen und daraus einen konkreten Änderungsvorschlag zu erstellen.\n\nDie Architektur ist Mixture-of-Experts: 235 Milliarden Parameter insgesamt, 22 Milliarden bei der Verarbeitung aktiv, 94 Schichten und 128 Experten mit acht pro Token ausgewählten. Grouped-Query Attention verwendet 64 Query-Köpfe und vier Key/Value-Köpfe. FP8 bezeichnet einen separat veröffentlichten Checkpoint, keine zusätzliche Antwortmodalität oder andere Parameterzahl. Das Modell nimmt Text entgegen und generiert Text. Geben Sie einem Codeprüfungsassistenten Spezifikation, Quellen und erwartetes Verhalten und verlangen Sie Entscheidungstabelle, gewählte Änderung und Beispiele des gewünschten Ergebnisses.\n\nDer Herstellerablauf formatiert Quellen und Anweisungen als Gespräch. Kennzeichnen Sie beim Dokumentvergleich Versionen, Autorität jeder Quelle und unveränderte Anforderungen. Geben Sie bei Mathematik vollständige Aufgabe und finales Antwortformat, bei Implementierung Sprache, tatsächliche Eingabeform, Fehlerfall und zu bewahrende Schnittstellen vor. Benennen Sie das Artefakt ausdrücklich, damit eine lange Antwort den ursprünglichen Auftrag löst. Die Integration erwartet eine Qwen3-fähige Laufzeit; Transformers-Versionen unter 4.51.0 erkennen laut Karte die benötigte Architektur nicht.\n\nDiese Edition hat einen eigenen FP8-Hinweis. Sie nutzt feingranulare FP8-Quantisierung mit Blockgröße 128; das veröffentlichte Schema ist in der Konfiguration verzeichnet. Der Hersteller nennt Transformers, SGLang und vLLM als Inferenzoptionen und warnt vor Problemen mit feingranularem FP8 bei verteilter Transformers-Inferenz. Mehrgerätenutzung kann CUDA_LAUNCH_BLOCKING=1 erfordern. Das ist editionsspezifische Kompatibilität, kein Grund für identische Geschwindigkeit, Speicherbelegung oder Qualität über Laufzeiten hinweg. Bewahren Sie den vollständigen FP8-Namen bei Vergleichen und Aufzeichnungen und prüfen Sie den tatsächlichen Checkpoint in der vorgesehenen Umgebung.\n\nDenken ist Standard in der Chatvorlage; ein harter Schalter kann es deaktivieren. Bei aktivem Denken steuern /think und /no_think einzelne Runden, mit Vorrang der letzten Anweisung. Weiche Schalter überschreiben kein hartes Deaktivieren. Trennen Sie finale Antwort und Denkabschnitt und übernehmen Sie die finale Antwort in spätere Historie. Detaillierte Widerspruchsanalyse kann Denken verlangen, die Umformatierung einer akzeptierten Schlussfolgerung eine direkte Antwort. Bei aktivem Denken enthält selbst eine weiche Nichtdenkanfrage einen Denkblock, der leer sein kann. Hartes Deaktivieren entfernt ihn.\n\nDie Karte empfiehlt Qwen-Agent für Aufrufvorlagen und Parsing. Eine technische Anwendung könnte Testausführung oder schreibgeschützte Quellsuche bereitstellen, den akzeptierten Aufruf ausführen und Belege für die nächste Antwort zurückgeben. Definieren Sie Eingaben, Berechtigungen und Ergebnisfelder. Verlangen Sie den Bezug vorgeschlagener Änderungen zum Ergebnis und die Unterscheidung zwischen angefordertem und tatsächlich abgeschlossenem Test. Werkzeugfähigkeiten hängen vom umgebenden Ablauf ab. Die Qwen3-Anleitung beschreibt auch parallele und mehrstufige Aufrufe mit objektförmigen Argumenten und ins Gespräch zurückgegebenen Ergebnissen.\n\nDer native Kontext beträgt 32.768 Tokens, mit 131.072 über YaRN. Eingabe und Ausgabe teilen das Sequenzbudget. Größerer Kontext erfordert die Konfiguration; statisches YaRN kann kurze Eingaben beeinflussen. Ordnen Sie lange Quellen nach Datei oder Abschnitt und reservieren Sie Platz für Vergleich oder Code. Schnellstartlängen und Empfehlungen steuern Generierung, belegen aber kein unabhängiges dienstweites Ausgabemaximum. Die Qwen3-Dokumentation nennt in ihrer Erklärung der Trainingslängen 38.912 Assistant-Tokens im Denkmodus und 16.384 ohne Denken und empfiehlt Qualitätsprüfung längerer Generierung. Das sind andere Größen als das Kontextfenster und keine endpunktspezifische harte Grenze. Die Karte erklärt außerdem 40.960 standardmäßig zugewiesene Positionen als 8.192 für typische Prompts plus 32.768 für Ausgabe: Herstellerkonfigurationshinweis, getrennt vom nativen Trainingskontext und einer Endpunktgrenze.\n\nFür Denken werden temperature 0,6, top-p 0,95, top-k 20 und min-p 0 empfohlen; direkt gelten 0,7, 0,8, 20 und 0. Greedy-Decoding kann im Denkmodus Wiederholungen, ein stärkerer presence penalty Sprachmischung verursachen. Verlangen Sie eine prüfbare Struktur, etwa Ergebnistabelle, geänderte Funktion und relevante Fälle. Prüfen Sie Zahlen, führen Sie Code in der Zielumgebung aus und prüfen Sie Werkzeugergebnisse vor der Änderung. Identität und Laufzeitvorbehalte des FP8-Checkpoints sollten in dieser Beurteilung erhalten bleiben.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
Compare two normalizers to a contract\n\nThe contract requires unique case-sensitive tags in first-occurrence order. Compare Python A: return sorted(set(tags)) with B: return list(dict.fromkeys(tags)). Input: ["red", "Blue", "red", "blue"]. Give a criterion table, select the compliant implementation and provide tests for order and case preservation. Do not alter the contract to fit either implementation.A two-implementation decision table, a selected implementation and two contract-focused tests.Check that sorting is recognized as an order violation and Blue remains distinct from blue.qwen/qwen3-235b-a22b-fp8Qwen3-235B-A22B-FP8 ist der offizielle feingranular quantisierte FP8-Checkpoint von Qwen3s großem Mixture-of-Experts-Modell. Er behält hybrides Textdenken und Dialogfähigkeiten mit eigener Quantisierungsidentität und Laufzeitbedingungen.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Qwen3-235B-A22B-FP8 ist die offizielle FP8-Edition von Qwen3-235B-A22B. Beworbene Textfähigkeiten umfassen mathematisches und logisches Schlussfolgern, Codegenerierung, kreatives Schreiben, Rollendialoge und Anweisungsbefolgung über mehrere Runden in mehr als 100 Sprachen und Dialekten. Sie verbindet Denken und direkte Antwort. Nutzen Sie sie für mehrere zusammenhängende Bedingungen, etwa zwei Implementierungen anhand derselben Spezifikation zu vergleichen und daraus einen konkreten Änderungsvorschlag zu erstellen.
Die Architektur ist Mixture-of-Experts: 235 Milliarden Parameter insgesamt, 22 Milliarden bei der Verarbeitung aktiv, 94 Schichten und 128 Experten mit acht pro Token ausgewählten. Grouped-Query Attention verwendet 64 Query-Köpfe und vier Key/Value-Köpfe. FP8 bezeichnet einen separat veröffentlichten Checkpoint, keine zusätzliche Antwortmodalität oder andere Parameterzahl. Das Modell nimmt Text entgegen und generiert Text. Geben Sie einem Codeprüfungsassistenten Spezifikation, Quellen und erwartetes Verhalten und verlangen Sie Entscheidungstabelle, gewählte Änderung und Beispiele des gewünschten Ergebnisses.
Der Herstellerablauf formatiert Quellen und Anweisungen als Gespräch. Kennzeichnen Sie beim Dokumentvergleich Versionen, Autorität jeder Quelle und unveränderte Anforderungen. Geben Sie bei Mathematik vollständige Aufgabe und finales Antwortformat, bei Implementierung Sprache, tatsächliche Eingabeform, Fehlerfall und zu bewahrende Schnittstellen vor. Benennen Sie das Artefakt ausdrücklich, damit eine lange Antwort den ursprünglichen Auftrag löst. Die Integration erwartet eine Qwen3-fähige Laufzeit; Transformers-Versionen unter 4.51.0 erkennen laut Karte die benötigte Architektur nicht.
Diese Edition hat einen eigenen FP8-Hinweis. Sie nutzt feingranulare FP8-Quantisierung mit Blockgröße 128; das veröffentlichte Schema ist in der Konfiguration verzeichnet. Der Hersteller nennt Transformers, SGLang und vLLM als Inferenzoptionen und warnt vor Problemen mit feingranularem FP8 bei verteilter Transformers-Inferenz. Mehrgerätenutzung kann CUDA_LAUNCH_BLOCKING=1 erfordern. Das ist editionsspezifische Kompatibilität, kein Grund für identische Geschwindigkeit, Speicherbelegung oder Qualität über Laufzeiten hinweg. Bewahren Sie den vollständigen FP8-Namen bei Vergleichen und Aufzeichnungen und prüfen Sie den tatsächlichen Checkpoint in der vorgesehenen Umgebung.
Denken ist Standard in der Chatvorlage; ein harter Schalter kann es deaktivieren. Bei aktivem Denken steuern /think und /no_think einzelne Runden, mit Vorrang der letzten Anweisung. Weiche Schalter überschreiben kein hartes Deaktivieren. Trennen Sie finale Antwort und Denkabschnitt und übernehmen Sie die finale Antwort in spätere Historie. Detaillierte Widerspruchsanalyse kann Denken verlangen, die Umformatierung einer akzeptierten Schlussfolgerung eine direkte Antwort. Bei aktivem Denken enthält selbst eine weiche Nichtdenkanfrage einen Denkblock, der leer sein kann. Hartes Deaktivieren entfernt ihn.
Die Karte empfiehlt Qwen-Agent für Aufrufvorlagen und Parsing. Eine technische Anwendung könnte Testausführung oder schreibgeschützte Quellsuche bereitstellen, den akzeptierten Aufruf ausführen und Belege für die nächste Antwort zurückgeben. Definieren Sie Eingaben, Berechtigungen und Ergebnisfelder. Verlangen Sie den Bezug vorgeschlagener Änderungen zum Ergebnis und die Unterscheidung zwischen angefordertem und tatsächlich abgeschlossenem Test. Werkzeugfähigkeiten hängen vom umgebenden Ablauf ab. Die Qwen3-Anleitung beschreibt auch parallele und mehrstufige Aufrufe mit objektförmigen Argumenten und ins Gespräch zurückgegebenen Ergebnissen.
Der native Kontext beträgt 32.768 Tokens, mit 131.072 über YaRN. Eingabe und Ausgabe teilen das Sequenzbudget. Größerer Kontext erfordert die Konfiguration; statisches YaRN kann kurze Eingaben beeinflussen. Ordnen Sie lange Quellen nach Datei oder Abschnitt und reservieren Sie Platz für Vergleich oder Code. Schnellstartlängen und Empfehlungen steuern Generierung, belegen aber kein unabhängiges dienstweites Ausgabemaximum. Die Qwen3-Dokumentation nennt in ihrer Erklärung der Trainingslängen 38.912 Assistant-Tokens im Denkmodus und 16.384 ohne Denken und empfiehlt Qualitätsprüfung längerer Generierung. Das sind andere Größen als das Kontextfenster und keine endpunktspezifische harte Grenze. Die Karte erklärt außerdem 40.960 standardmäßig zugewiesene Positionen als 8.192 für typische Prompts plus 32.768 für Ausgabe: Herstellerkonfigurationshinweis, getrennt vom nativen Trainingskontext und einer Endpunktgrenze.
Für Denken werden temperature 0,6, top-p 0,95, top-k 20 und min-p 0 empfohlen; direkt gelten 0,7, 0,8, 20 und 0. Greedy-Decoding kann im Denkmodus Wiederholungen, ein stärkerer presence penalty Sprachmischung verursachen. Verlangen Sie eine prüfbare Struktur, etwa Ergebnistabelle, geänderte Funktion und relevante Fälle. Prüfen Sie Zahlen, führen Sie Code in der Zielumgebung aus und prüfen Sie Werkzeugergebnisse vor der Änderung. Identität und Laufzeitvorbehalte des FP8-Checkpoints sollten in dieser Beurteilung erhalten bleiben.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits qwen/qwen3-235b-a22b-fp8 | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
| Konfiguration | Tarifstaffel | Gebühr |
|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken $0.0004 / 1K Token Ausgabe · Ausgabetoken $0.0016 / 1K Token Eingabe · Cache-Lesen $0 / 1K Token Eingabe · Cache-Schreiben $0 / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen3-235b-a22b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen3-235b-a22b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen3-235b-a22b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra qwen/qwen3-235b-a22b-fp8
Verwenden Sie die oben angezeigten Methodenpfade.
qwen/qwen3-235b-a22b-fp8Qwen3-235B-A22B-FP8 ist der offizielle feingranular quantisierte FP8-Checkpoint von Qwen3s großem Mixture-of-Experts-Modell. Er behält hybrides Textdenken und Dialogfähigkeiten mit eigener Quantisierungsidentität und Laufzeitbedingungen.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Qwen3-235B-A22B-FP8 ist die offizielle FP8-Edition von Qwen3-235B-A22B. Beworbene Textfähigkeiten umfassen mathematisches und logisches Schlussfolgern, Codegenerierung, kreatives Schreiben, Rollendialoge und Anweisungsbefolgung über mehrere Runden in mehr als 100 Sprachen und Dialekten. Sie verbindet Denken und direkte Antwort. Nutzen Sie sie für mehrere zusammenhängende Bedingungen, etwa zwei Implementierungen anhand derselben Spezifikation zu vergleichen und daraus einen konkreten Änderungsvorschlag zu erstellen.
Die Architektur ist Mixture-of-Experts: 235 Milliarden Parameter insgesamt, 22 Milliarden bei der Verarbeitung aktiv, 94 Schichten und 128 Experten mit acht pro Token ausgewählten. Grouped-Query Attention verwendet 64 Query-Köpfe und vier Key/Value-Köpfe. FP8 bezeichnet einen separat veröffentlichten Checkpoint, keine zusätzliche Antwortmodalität oder andere Parameterzahl. Das Modell nimmt Text entgegen und generiert Text. Geben Sie einem Codeprüfungsassistenten Spezifikation, Quellen und erwartetes Verhalten und verlangen Sie Entscheidungstabelle, gewählte Änderung und Beispiele des gewünschten Ergebnisses.
Der Herstellerablauf formatiert Quellen und Anweisungen als Gespräch. Kennzeichnen Sie beim Dokumentvergleich Versionen, Autorität jeder Quelle und unveränderte Anforderungen. Geben Sie bei Mathematik vollständige Aufgabe und finales Antwortformat, bei Implementierung Sprache, tatsächliche Eingabeform, Fehlerfall und zu bewahrende Schnittstellen vor. Benennen Sie das Artefakt ausdrücklich, damit eine lange Antwort den ursprünglichen Auftrag löst. Die Integration erwartet eine Qwen3-fähige Laufzeit; Transformers-Versionen unter 4.51.0 erkennen laut Karte die benötigte Architektur nicht.
Diese Edition hat einen eigenen FP8-Hinweis. Sie nutzt feingranulare FP8-Quantisierung mit Blockgröße 128; das veröffentlichte Schema ist in der Konfiguration verzeichnet. Der Hersteller nennt Transformers, SGLang und vLLM als Inferenzoptionen und warnt vor Problemen mit feingranularem FP8 bei verteilter Transformers-Inferenz. Mehrgerätenutzung kann CUDA_LAUNCH_BLOCKING=1 erfordern. Das ist editionsspezifische Kompatibilität, kein Grund für identische Geschwindigkeit, Speicherbelegung oder Qualität über Laufzeiten hinweg. Bewahren Sie den vollständigen FP8-Namen bei Vergleichen und Aufzeichnungen und prüfen Sie den tatsächlichen Checkpoint in der vorgesehenen Umgebung.
Denken ist Standard in der Chatvorlage; ein harter Schalter kann es deaktivieren. Bei aktivem Denken steuern /think und /no_think einzelne Runden, mit Vorrang der letzten Anweisung. Weiche Schalter überschreiben kein hartes Deaktivieren. Trennen Sie finale Antwort und Denkabschnitt und übernehmen Sie die finale Antwort in spätere Historie. Detaillierte Widerspruchsanalyse kann Denken verlangen, die Umformatierung einer akzeptierten Schlussfolgerung eine direkte Antwort. Bei aktivem Denken enthält selbst eine weiche Nichtdenkanfrage einen Denkblock, der leer sein kann. Hartes Deaktivieren entfernt ihn.
Die Karte empfiehlt Qwen-Agent für Aufrufvorlagen und Parsing. Eine technische Anwendung könnte Testausführung oder schreibgeschützte Quellsuche bereitstellen, den akzeptierten Aufruf ausführen und Belege für die nächste Antwort zurückgeben. Definieren Sie Eingaben, Berechtigungen und Ergebnisfelder. Verlangen Sie den Bezug vorgeschlagener Änderungen zum Ergebnis und die Unterscheidung zwischen angefordertem und tatsächlich abgeschlossenem Test. Werkzeugfähigkeiten hängen vom umgebenden Ablauf ab. Die Qwen3-Anleitung beschreibt auch parallele und mehrstufige Aufrufe mit objektförmigen Argumenten und ins Gespräch zurückgegebenen Ergebnissen.
Der native Kontext beträgt 32.768 Tokens, mit 131.072 über YaRN. Eingabe und Ausgabe teilen das Sequenzbudget. Größerer Kontext erfordert die Konfiguration; statisches YaRN kann kurze Eingaben beeinflussen. Ordnen Sie lange Quellen nach Datei oder Abschnitt und reservieren Sie Platz für Vergleich oder Code. Schnellstartlängen und Empfehlungen steuern Generierung, belegen aber kein unabhängiges dienstweites Ausgabemaximum. Die Qwen3-Dokumentation nennt in ihrer Erklärung der Trainingslängen 38.912 Assistant-Tokens im Denkmodus und 16.384 ohne Denken und empfiehlt Qualitätsprüfung längerer Generierung. Das sind andere Größen als das Kontextfenster und keine endpunktspezifische harte Grenze. Die Karte erklärt außerdem 40.960 standardmäßig zugewiesene Positionen als 8.192 für typische Prompts plus 32.768 für Ausgabe: Herstellerkonfigurationshinweis, getrennt vom nativen Trainingskontext und einer Endpunktgrenze.
Für Denken werden temperature 0,6, top-p 0,95, top-k 20 und min-p 0 empfohlen; direkt gelten 0,7, 0,8, 20 und 0. Greedy-Decoding kann im Denkmodus Wiederholungen, ein stärkerer presence penalty Sprachmischung verursachen. Verlangen Sie eine prüfbare Struktur, etwa Ergebnistabelle, geänderte Funktion und relevante Fälle. Prüfen Sie Zahlen, führen Sie Code in der Zielumgebung aus und prüfen Sie Werkzeugergebnisse vor der Änderung. Identität und Laufzeitvorbehalte des FP8-Checkpoints sollten in dieser Beurteilung erhalten bleiben.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits qwen/qwen3-235b-a22b-fp8 | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
| Konfiguration | Tarifstaffel | Gebühr |
|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken $0.0004 / 1K Token Ausgabe · Ausgabetoken $0.0016 / 1K Token Eingabe · Cache-Lesen $0 / 1K Token Eingabe · Cache-Schreiben $0 / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "qwen/qwen3-235b-a22b-fp8",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-235b-a22b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-235b-a22b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra qwen/qwen3-235b-a22b-fp8
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
Compare two normalizers to a contract\n\nThe contract requires unique case-sensitive tags in first-occurrence order. Compare Python A: return sorted(set(tags)) with B: return list(dict.fromkeys(tags)). Input: ["red", "Blue", "red", "blue"]. Give a criterion table, select the compliant implementation and provide tests for order and case preservation. Do not alter the contract to fit either implementation.A two-implementation decision table, a selected implementation and two contract-focused tests.Check that sorting is recognized as an order violation and Blue remains distinct from blue.