Qwen3-Fähigkeiten
Qwen3-30B-A3B-FP8 bringt Qwens hybrides Textmodell in einen feingranularen FP8-Checkpoint. Es nimmt Textgespräche entgegen und erzeugt Erklärungen, Code, Übersetzungen, kreative Texte und Antworten über mehrere Runden. Die Familie unterstützt 119 Sprachen und Dialekte mit mehrsprachigen Anweisungen. Zwei Modi reservieren ausdrückliches Denken für Mathematik, Programmierung und Logik und direkte Antworten für einfaches Überarbeiten oder Dialog. Sprachabdeckung bedeutet keine gleiche Zuverlässigkeit in jeder Sprache oder Fachdomäne.
Modellüberblick
Das Modell hat insgesamt 30,5 Milliarden Parameter und aktiviert 3,3 Milliarden pro Token. Seine Mixture-of-Experts-Architektur verwendet 128 Experten, wählt acht pro Token und umfasst 48 Schichten. Das sind Architekturwerte; die kleinere aktive Zahl bedeutet nicht, dass der gesamte Checkpoint nur 3,3 Milliarden Parameter enthält. Dies ist die FP8-Edition von Qwen3-30B-A3B, getrennt vom ursprünglichen Präzisionscheckpoint und späteren Thinking-2507- und Instruct-2507-Veröffentlichungen.
Nutzung der Textschnittstelle
Bereiten Sie Aufgabe, relevante Quelle und Antwortformat zusammen vor. Geben Sie zum Debugging fehlerhafte Funktion, Fehler, Zielverhalten und minimale Eingabe an und verlangen Sie Erklärung, Patch und vorgeschlagene Prüfungen. Nennen Sie für mehrsprachige Redaktion Sprache, Zielgruppe und unveränderte Begriffe. Fordern Sie einen kompakten Abschluss, wenn eine lange Erklärung das Ergebnis verdeckt. Das sind praktische dokumentierte Sprach- und Codeanwendungen, keine Ausführungsgarantie.
FP8-Edition
Qwen nennt feingranulares FP8 mit 128-mal-128-Gewichtsblöcken. Die Konfiguration lässt ausgewählte Komponenten außerhalb der Konvertierung und verwendet dynamische Aktivierungsquantisierung. FP8 beschreibt Zahlenrepräsentation, keinen neuen Gesprächsmodus oder zugesagte Antwortzeit. Kompatibilität zählt: Die Karte dokumentiert einen Vorbehalt für verteilte Mehrgeräte-Inferenz. Bewahren Sie deshalb die genaue Edition statt stillschweigender Übernahme von Aussagen über einen anderen Build.
Thinking- und Direktantwortmodi (Non-Thinking)
Die Hersteller-Chatvorlage aktiviert den Thinking-Modus standardmäßig; ein Denkblock steht vor der finalen Antwort. enable_thinking=False unterdrückt ihn hart. Bei aktivem Denken steuern /think und /no_think einzelne Runden nach der jüngsten Anweisung; weiches Ausschalten kann einen leeren Block hinterlassen. Die Marker können eine harte Deaktivierung nicht aufheben. Das sind Herstellerkontrollen; ihre Verfügbarkeit in einer Anwendung hängt von der Schnittstelle ab.
Agentennutzung
Qwen dokumentiert Werkzeugaufrufe in beiden Modi und empfiehlt Qwen-Agent für Vorlagen und Parsing. Geben Sie klare Werkzeugbeschreibung, zulässige Eingaben und ein Artefakt vor, etwa Datenprüfung vor dem Bericht. Das Modell beteiligt sich am Ablauf; Suche, Codeausführung und externe Handlungen kommen von verbundenen Anwendungswerkzeugen. Werkzeugfähigkeit allein gibt keinen Datei- oder aktuellen Informationszugriff.
Langer Text
Qwen nennt 32.768 native Kontexttokens und validiert YaRN bis 131.072. Eingabe, Historie, Denken und Antwort konkurrieren um Raum. Die mitgelieferte Positionskonfiguration beträgt 40.960, laut Qwen eine Zuweisung für typische Prompts und verlängerte Generierung statt Ersatz des nativen Kontexts. Statisches YaRN kann kurze Eingaben verschlechtern; Erweiterung hängt daher von Konfiguration und Bedarf ab. Kennzeichnen Sie Dokumentabschnitte und verlangen Sie die Belegpassagen für jeden Schluss.
Generierung und Grenzen
Qwen empfiehlt temperature 0,6, top_p 0,95, top_k 20 und min_p 0 für Denken und 0,7, 0,8, 20 und 0 direkt. Greedy-Decoding kann Denken verschlechtern oder Text wiederholen. Empfohlen sind 32.768 Tokens für die meisten Anfragen und 38.912 für ungewöhnlich komplexe Probleme; keine separat festgelegte harte Ausgabegrenze. Höhere presence penalties können Wiederholung verringern, aber Sprachen mischen oder Qualität senken. Bewahren Sie nur finale Antworten in der Historie. Definieren Sie das Schema und prüfen Sie Mathematik, Fakten und Patches vor der Nutzung anhand der Belege.
", "aboutText": "Qwen3-Fähigkeiten\n\nQwen3-30B-A3B-FP8 bringt Qwens hybrides Textmodell in einen feingranularen FP8-Checkpoint. Es nimmt Textgespräche entgegen und erzeugt Erklärungen, Code, Übersetzungen, kreative Texte und Antworten über mehrere Runden. Die Familie unterstützt 119 Sprachen und Dialekte mit mehrsprachigen Anweisungen. Zwei Modi reservieren ausdrückliches Denken für Mathematik, Programmierung und Logik und direkte Antworten für einfaches Überarbeiten oder Dialog. Sprachabdeckung bedeutet keine gleiche Zuverlässigkeit in jeder Sprache oder Fachdomäne.\n\nModellüberblick\n\nDas Modell hat insgesamt 30,5 Milliarden Parameter und aktiviert 3,3 Milliarden pro Token. Seine Mixture-of-Experts-Architektur verwendet 128 Experten, wählt acht pro Token und umfasst 48 Schichten. Das sind Architekturwerte; die kleinere aktive Zahl bedeutet nicht, dass der gesamte Checkpoint nur 3,3 Milliarden Parameter enthält. Dies ist die FP8-Edition von Qwen3-30B-A3B, getrennt vom ursprünglichen Präzisionscheckpoint und späteren Thinking-2507- und Instruct-2507-Veröffentlichungen.\n\nNutzung der Textschnittstelle\n\nBereiten Sie Aufgabe, relevante Quelle und Antwortformat zusammen vor. Geben Sie zum Debugging fehlerhafte Funktion, Fehler, Zielverhalten und minimale Eingabe an und verlangen Sie Erklärung, Patch und vorgeschlagene Prüfungen. Nennen Sie für mehrsprachige Redaktion Sprache, Zielgruppe und unveränderte Begriffe. Fordern Sie einen kompakten Abschluss, wenn eine lange Erklärung das Ergebnis verdeckt. Das sind praktische dokumentierte Sprach- und Codeanwendungen, keine Ausführungsgarantie.\n\nFP8-Edition\n\nQwen nennt feingranulares FP8 mit 128-mal-128-Gewichtsblöcken. Die Konfiguration lässt ausgewählte Komponenten außerhalb der Konvertierung und verwendet dynamische Aktivierungsquantisierung. FP8 beschreibt Zahlenrepräsentation, keinen neuen Gesprächsmodus oder zugesagte Antwortzeit. Kompatibilität zählt: Die Karte dokumentiert einen Vorbehalt für verteilte Mehrgeräte-Inferenz. Bewahren Sie deshalb die genaue Edition statt stillschweigender Übernahme von Aussagen über einen anderen Build.\n\nThinking- und Direktantwortmodi (Non-Thinking)\n\nDie Hersteller-Chatvorlage aktiviert den Thinking-Modus standardmäßig; ein Denkblock steht vor der finalen Antwort. enable_thinking=False unterdrückt ihn hart. Bei aktivem Denken steuern /think und /no_think einzelne Runden nach der jüngsten Anweisung; weiches Ausschalten kann einen leeren Block hinterlassen. Die Marker können eine harte Deaktivierung nicht aufheben. Das sind Herstellerkontrollen; ihre Verfügbarkeit in einer Anwendung hängt von der Schnittstelle ab.\n\nAgentennutzung\n\nQwen dokumentiert Werkzeugaufrufe in beiden Modi und empfiehlt Qwen-Agent für Vorlagen und Parsing. Geben Sie klare Werkzeugbeschreibung, zulässige Eingaben und ein Artefakt vor, etwa Datenprüfung vor dem Bericht. Das Modell beteiligt sich am Ablauf; Suche, Codeausführung und externe Handlungen kommen von verbundenen Anwendungswerkzeugen. Werkzeugfähigkeit allein gibt keinen Datei- oder aktuellen Informationszugriff.\n\nLanger Text\n\nQwen nennt 32.768 native Kontexttokens und validiert YaRN bis 131.072. Eingabe, Historie, Denken und Antwort konkurrieren um Raum. Die mitgelieferte Positionskonfiguration beträgt 40.960, laut Qwen eine Zuweisung für typische Prompts und verlängerte Generierung statt Ersatz des nativen Kontexts. Statisches YaRN kann kurze Eingaben verschlechtern; Erweiterung hängt daher von Konfiguration und Bedarf ab. Kennzeichnen Sie Dokumentabschnitte und verlangen Sie die Belegpassagen für jeden Schluss.\n\nGenerierung und Grenzen\n\nQwen empfiehlt temperature 0,6, top_p 0,95, top_k 20 und min_p 0 für Denken und 0,7, 0,8, 20 und 0 direkt. Greedy-Decoding kann Denken verschlechtern oder Text wiederholen. Empfohlen sind 32.768 Tokens für die meisten Anfragen und 38.912 für ungewöhnlich komplexe Probleme; keine separat festgelegte harte Ausgabegrenze. Höhere presence penalties können Wiederholung verringern, aber Sprachen mischen oder Qualität senken. Bewahren Sie nur finale Antworten in der Historie. Definieren Sie das Schema und prüfen Sie Mathematik, Fakten und Patches vor der Nutzung anhand der Belege.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
Edit a multilingual service message\n\nTranslate into German for an office administrator: “The Atlas Link update is available, but installing it will restart the device. Save your work before starting.” Keep Atlas Link unchanged, preserve the restart warning and use a polite, concise tone. Return only the translated notice without adding a duration or maintenance window.A concise German notice retaining the product name, restart warning and save-work instruction.Check that the translation keeps the restart as a consequence of installation and does not add an unprovided downtime estimate.qwen/qwen3-30b-a3b-fp8Qwen3-30B-A3B-FP8 ist Qwens FP8-quantisiertes Mixture-of-Experts-Textmodell mit wählbaren Thinking- und Direktantwortmodi (Non-Thinking). Nutzen Sie es für Mathematik, Code, mehrsprachiges Schreiben und werkzeuggestützte Abläufe und bewahren Sie genaue FP8-Edition und Kontextkonfiguration.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Qwen3-Fähigkeiten
Qwen3-30B-A3B-FP8 bringt Qwens hybrides Textmodell in einen feingranularen FP8-Checkpoint. Es nimmt Textgespräche entgegen und erzeugt Erklärungen, Code, Übersetzungen, kreative Texte und Antworten über mehrere Runden. Die Familie unterstützt 119 Sprachen und Dialekte mit mehrsprachigen Anweisungen. Zwei Modi reservieren ausdrückliches Denken für Mathematik, Programmierung und Logik und direkte Antworten für einfaches Überarbeiten oder Dialog. Sprachabdeckung bedeutet keine gleiche Zuverlässigkeit in jeder Sprache oder Fachdomäne.
Modellüberblick
Das Modell hat insgesamt 30,5 Milliarden Parameter und aktiviert 3,3 Milliarden pro Token. Seine Mixture-of-Experts-Architektur verwendet 128 Experten, wählt acht pro Token und umfasst 48 Schichten. Das sind Architekturwerte; die kleinere aktive Zahl bedeutet nicht, dass der gesamte Checkpoint nur 3,3 Milliarden Parameter enthält. Dies ist die FP8-Edition von Qwen3-30B-A3B, getrennt vom ursprünglichen Präzisionscheckpoint und späteren Thinking-2507- und Instruct-2507-Veröffentlichungen.
Nutzung der Textschnittstelle
Bereiten Sie Aufgabe, relevante Quelle und Antwortformat zusammen vor. Geben Sie zum Debugging fehlerhafte Funktion, Fehler, Zielverhalten und minimale Eingabe an und verlangen Sie Erklärung, Patch und vorgeschlagene Prüfungen. Nennen Sie für mehrsprachige Redaktion Sprache, Zielgruppe und unveränderte Begriffe. Fordern Sie einen kompakten Abschluss, wenn eine lange Erklärung das Ergebnis verdeckt. Das sind praktische dokumentierte Sprach- und Codeanwendungen, keine Ausführungsgarantie.
FP8-Edition
Qwen nennt feingranulares FP8 mit 128-mal-128-Gewichtsblöcken. Die Konfiguration lässt ausgewählte Komponenten außerhalb der Konvertierung und verwendet dynamische Aktivierungsquantisierung. FP8 beschreibt Zahlenrepräsentation, keinen neuen Gesprächsmodus oder zugesagte Antwortzeit. Kompatibilität zählt: Die Karte dokumentiert einen Vorbehalt für verteilte Mehrgeräte-Inferenz. Bewahren Sie deshalb die genaue Edition statt stillschweigender Übernahme von Aussagen über einen anderen Build.
Thinking- und Direktantwortmodi (Non-Thinking)
Die Hersteller-Chatvorlage aktiviert den Thinking-Modus standardmäßig; ein Denkblock steht vor der finalen Antwort. enable_thinking=False unterdrückt ihn hart. Bei aktivem Denken steuern /think und /no_think einzelne Runden nach der jüngsten Anweisung; weiches Ausschalten kann einen leeren Block hinterlassen. Die Marker können eine harte Deaktivierung nicht aufheben. Das sind Herstellerkontrollen; ihre Verfügbarkeit in einer Anwendung hängt von der Schnittstelle ab.
Agentennutzung
Qwen dokumentiert Werkzeugaufrufe in beiden Modi und empfiehlt Qwen-Agent für Vorlagen und Parsing. Geben Sie klare Werkzeugbeschreibung, zulässige Eingaben und ein Artefakt vor, etwa Datenprüfung vor dem Bericht. Das Modell beteiligt sich am Ablauf; Suche, Codeausführung und externe Handlungen kommen von verbundenen Anwendungswerkzeugen. Werkzeugfähigkeit allein gibt keinen Datei- oder aktuellen Informationszugriff.
Langer Text
Qwen nennt 32.768 native Kontexttokens und validiert YaRN bis 131.072. Eingabe, Historie, Denken und Antwort konkurrieren um Raum. Die mitgelieferte Positionskonfiguration beträgt 40.960, laut Qwen eine Zuweisung für typische Prompts und verlängerte Generierung statt Ersatz des nativen Kontexts. Statisches YaRN kann kurze Eingaben verschlechtern; Erweiterung hängt daher von Konfiguration und Bedarf ab. Kennzeichnen Sie Dokumentabschnitte und verlangen Sie die Belegpassagen für jeden Schluss.
Generierung und Grenzen
Qwen empfiehlt temperature 0,6, top_p 0,95, top_k 20 und min_p 0 für Denken und 0,7, 0,8, 20 und 0 direkt. Greedy-Decoding kann Denken verschlechtern oder Text wiederholen. Empfohlen sind 32.768 Tokens für die meisten Anfragen und 38.912 für ungewöhnlich komplexe Probleme; keine separat festgelegte harte Ausgabegrenze. Höhere presence penalties können Wiederholung verringern, aber Sprachen mischen oder Qualität senken. Bewahren Sie nur finale Antworten in der Historie. Definieren Sie das Schema und prüfen Sie Mathematik, Fakten und Patches vor der Nutzung anhand der Belege.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits qwen/qwen3-30b-a3b-fp8 | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
| Konfiguration | Tarifstaffel | Gebühr |
|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken $0.0002 / 1K Token Ausgabe · Ausgabetoken $0.001 / 1K Token Eingabe · Cache-Lesen $0 / 1K Token Eingabe · Cache-Schreiben $0 / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen3-30b-a3b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen3-30b-a3b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen3-30b-a3b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra qwen/qwen3-30b-a3b-fp8
Verwenden Sie die oben angezeigten Methodenpfade.
qwen/qwen3-30b-a3b-fp8Qwen3-30B-A3B-FP8 ist Qwens FP8-quantisiertes Mixture-of-Experts-Textmodell mit wählbaren Thinking- und Direktantwortmodi (Non-Thinking). Nutzen Sie es für Mathematik, Code, mehrsprachiges Schreiben und werkzeuggestützte Abläufe und bewahren Sie genaue FP8-Edition und Kontextkonfiguration.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Qwen3-Fähigkeiten
Qwen3-30B-A3B-FP8 bringt Qwens hybrides Textmodell in einen feingranularen FP8-Checkpoint. Es nimmt Textgespräche entgegen und erzeugt Erklärungen, Code, Übersetzungen, kreative Texte und Antworten über mehrere Runden. Die Familie unterstützt 119 Sprachen und Dialekte mit mehrsprachigen Anweisungen. Zwei Modi reservieren ausdrückliches Denken für Mathematik, Programmierung und Logik und direkte Antworten für einfaches Überarbeiten oder Dialog. Sprachabdeckung bedeutet keine gleiche Zuverlässigkeit in jeder Sprache oder Fachdomäne.
Modellüberblick
Das Modell hat insgesamt 30,5 Milliarden Parameter und aktiviert 3,3 Milliarden pro Token. Seine Mixture-of-Experts-Architektur verwendet 128 Experten, wählt acht pro Token und umfasst 48 Schichten. Das sind Architekturwerte; die kleinere aktive Zahl bedeutet nicht, dass der gesamte Checkpoint nur 3,3 Milliarden Parameter enthält. Dies ist die FP8-Edition von Qwen3-30B-A3B, getrennt vom ursprünglichen Präzisionscheckpoint und späteren Thinking-2507- und Instruct-2507-Veröffentlichungen.
Nutzung der Textschnittstelle
Bereiten Sie Aufgabe, relevante Quelle und Antwortformat zusammen vor. Geben Sie zum Debugging fehlerhafte Funktion, Fehler, Zielverhalten und minimale Eingabe an und verlangen Sie Erklärung, Patch und vorgeschlagene Prüfungen. Nennen Sie für mehrsprachige Redaktion Sprache, Zielgruppe und unveränderte Begriffe. Fordern Sie einen kompakten Abschluss, wenn eine lange Erklärung das Ergebnis verdeckt. Das sind praktische dokumentierte Sprach- und Codeanwendungen, keine Ausführungsgarantie.
FP8-Edition
Qwen nennt feingranulares FP8 mit 128-mal-128-Gewichtsblöcken. Die Konfiguration lässt ausgewählte Komponenten außerhalb der Konvertierung und verwendet dynamische Aktivierungsquantisierung. FP8 beschreibt Zahlenrepräsentation, keinen neuen Gesprächsmodus oder zugesagte Antwortzeit. Kompatibilität zählt: Die Karte dokumentiert einen Vorbehalt für verteilte Mehrgeräte-Inferenz. Bewahren Sie deshalb die genaue Edition statt stillschweigender Übernahme von Aussagen über einen anderen Build.
Thinking- und Direktantwortmodi (Non-Thinking)
Die Hersteller-Chatvorlage aktiviert den Thinking-Modus standardmäßig; ein Denkblock steht vor der finalen Antwort. enable_thinking=False unterdrückt ihn hart. Bei aktivem Denken steuern /think und /no_think einzelne Runden nach der jüngsten Anweisung; weiches Ausschalten kann einen leeren Block hinterlassen. Die Marker können eine harte Deaktivierung nicht aufheben. Das sind Herstellerkontrollen; ihre Verfügbarkeit in einer Anwendung hängt von der Schnittstelle ab.
Agentennutzung
Qwen dokumentiert Werkzeugaufrufe in beiden Modi und empfiehlt Qwen-Agent für Vorlagen und Parsing. Geben Sie klare Werkzeugbeschreibung, zulässige Eingaben und ein Artefakt vor, etwa Datenprüfung vor dem Bericht. Das Modell beteiligt sich am Ablauf; Suche, Codeausführung und externe Handlungen kommen von verbundenen Anwendungswerkzeugen. Werkzeugfähigkeit allein gibt keinen Datei- oder aktuellen Informationszugriff.
Langer Text
Qwen nennt 32.768 native Kontexttokens und validiert YaRN bis 131.072. Eingabe, Historie, Denken und Antwort konkurrieren um Raum. Die mitgelieferte Positionskonfiguration beträgt 40.960, laut Qwen eine Zuweisung für typische Prompts und verlängerte Generierung statt Ersatz des nativen Kontexts. Statisches YaRN kann kurze Eingaben verschlechtern; Erweiterung hängt daher von Konfiguration und Bedarf ab. Kennzeichnen Sie Dokumentabschnitte und verlangen Sie die Belegpassagen für jeden Schluss.
Generierung und Grenzen
Qwen empfiehlt temperature 0,6, top_p 0,95, top_k 20 und min_p 0 für Denken und 0,7, 0,8, 20 und 0 direkt. Greedy-Decoding kann Denken verschlechtern oder Text wiederholen. Empfohlen sind 32.768 Tokens für die meisten Anfragen und 38.912 für ungewöhnlich komplexe Probleme; keine separat festgelegte harte Ausgabegrenze. Höhere presence penalties können Wiederholung verringern, aber Sprachen mischen oder Qualität senken. Bewahren Sie nur finale Antworten in der Historie. Definieren Sie das Schema und prüfen Sie Mathematik, Fakten und Patches vor der Nutzung anhand der Belege.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits qwen/qwen3-30b-a3b-fp8 | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
| Konfiguration | Tarifstaffel | Gebühr |
|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken $0.0002 / 1K Token Ausgabe · Ausgabetoken $0.001 / 1K Token Eingabe · Cache-Lesen $0 / 1K Token Eingabe · Cache-Schreiben $0 / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "qwen/qwen3-30b-a3b-fp8",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-30b-a3b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-30b-a3b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra qwen/qwen3-30b-a3b-fp8
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
Edit a multilingual service message\n\nTranslate into German for an office administrator: “The Atlas Link update is available, but installing it will restart the device. Save your work before starting.” Keep Atlas Link unchanged, preserve the restart warning and use a polite, concise tone. Return only the translated notice without adding a duration or maintenance window.A concise German notice retaining the product name, restart warning and save-work instruction.Check that the translation keeps the restart as a consequence of installation and does not add an unprovided downtime estimate.