Mogelijkheden van Qwen3
Qwen3-30B-A3B-FP8 brengt het hybride tekstgeneratiemodel van Qwen naar een fijnmazig FP8-checkpoint. Het accepteert tekstgesprekken en produceert tekst: uitleg, code, vertalingen, creatieve teksten en antwoorden over meerdere beurten. De Qwen3-familie ondersteunt 119 talen en dialecten, waaronder meertalige instructies. Dankzij de twee antwoordmodi kan een proces expliciet redeneren reserveren voor wiskunde, programmeren en logische problemen en daarna directe antwoorden gebruiken voor eenvoudige herschrijving of dialoog. Taaldekking betekent niet dezelfde betrouwbaarheid voor elke taal of specialistisch domein.
Modeloverzicht
Het model heeft in totaal 30,5 miljard parameters en activeert er 3,3 miljard voor een token. De mixture-of-experts-architectuur gebruikt 128 experts, waarvan er acht per token worden geselecteerd, over 48 lagen. Dit zijn modelarchitectuurcijfers; het kleinere actieve aantal betekent niet dat het volledige checkpoint slechts 3,3 miljard parameters bevat. Dit is de FP8-editie van Qwen3-30B-A3B, onderscheiden van het oorspronkelijke checkpoint met een andere numerieke precisie en van de latere Thinking-2507- en Instruct-2507-releases.
De tekstinterface gebruiken
Bereid de taak, relevante brontekst en het verwachte antwoordformaat samen voor. Lever bij debugging de falende functie, waargenomen fout, bedoeld gedrag en een minimale invoer en vraag vervolgens om uitleg gevolgd door een patch en voorgestelde controles. Benoem voor meertalige redactie de doeltaal, doelgroep en termen die ongewijzigd moeten blijven. Vraag een compact eindresultaat als een lange uitleg het resultaat zou verhullen. Dit zijn praktische manieren om de gedocumenteerde tekst- en programmeermogelijkheden te gebruiken, geen garanties dat gegenereerde code is uitgevoerd.
FP8-editie
Qwen specificeert fijnmazige FP8-kwantisatie met gewichtsblokken van 128 × 128. De checkpointconfiguratie houdt geselecteerde componenten buiten de conversie en gebruikt dynamische kwantisatie van activaties. FP8 beschrijft numerieke representatie, geen nieuwe gespreksmodus of beloofde antwoordtijd. Compatibiliteit is van belang: de kaart van Qwen vermeldt een aandachtspunt voor gedistribueerde inferentie op meerdere apparaten met deze kwantisatiemethode. Een gekwantiseerd checkpoint hoort daarom de exacte editienaam te behouden in plaats van stilzwijgend claims over een andere build over te nemen.
Thinking en directe antwoorden
Het chatsjabloon van de ontwikkelaar schakelt Thinking standaard in. In die modus gaat een redeneerblok aan het eindantwoord vooraf. Een harde enable_thinking=False-instelling onderdrukt het blok. Als Thinking is ingeschakeld, geven /think en /no_think aanwijzingen per beurt volgens de nieuwste instructie; bij tekstueel uitschakelen kan nog een leeg redeneerblok verschijnen. Die promptmarkeringen kunnen de harde uitschakeling niet overrulen. Dit zijn gedocumenteerde instellingen van de ontwikkelaar; of een toepassing ze beschikbaar stelt hangt van de interface af.
Gebruik met agents
Qwen documenteert toolaanroepen in beide modi en raadt Qwen-Agent aan voor de vereiste sjablonen en parsing. Geef een agent een duidelijke toolbeschrijving, toegestane invoer en een specifiek resultaat, zoals aangeleverde gegevens controleren voordat het een rapport opstelt. Het model kan aan een toolproces deelnemen; zoeken, code uitvoeren en externe acties komen van de door de toepassing aangesloten tools. Toolmogelijkheden alleen geven het model geen toegang tot bestanden of actuele informatie.
Lange tekst
Qwen beschrijft een native context van 32.768 tokens en valideert uitbreiding naar 131.072 met YaRN. Invoer, gespreksgeschiedenis, redeneren en antwoord concurreren om contextruimte. De meegeleverde positieconfiguratie is 40.960; Qwen legt die uit als toewijzing voor gebruikelijke prompts en uitgebreide generatie, niet als vervanging van de opgegeven native context. Statisch YaRN kan de kwaliteit bij kortere invoer verminderen, dus uitbreiding is afhankelijk van configuratie en behoefte. Label bij documentwerk de onderdelen en vraag dat het antwoord de passages aanwijst die elke conclusie ondersteunen.
Generatie en beperkingen
Qwen raadt temperature 0,6, top_p 0,95, top_k 20 en min_p 0 aan voor Thinking en 0,7, 0,8, 20 en 0 voor directe antwoorden. Greedy decoding kan tot slechter redeneren of herhaalde tekst leiden. Het advies beveelt een generatiebudget van 32.768 tokens aan voor de meeste vragen en 38.912 voor ongewoon complexe problemen; dit zijn aanbevelingen, geen afzonderlijk vastgestelde harde uitvoergrens. Hogere presence penalties kunnen herhaling verminderen maar talen mengen of de kwaliteit verlagen. Houd alleen eindantwoorden in de gespreksgeschiedenis. Benoem het vereiste antwoordschema expliciet en toets wiskundige resultaten, feitelijke conclusies en gegenereerde patches aan het aangeleverde bewijs voordat u ze gebruikt.
", "aboutText": "Mogelijkheden van Qwen3\n\nQwen3-30B-A3B-FP8 brengt het hybride tekstgeneratiemodel van Qwen naar een fijnmazig FP8-checkpoint. Het accepteert tekstgesprekken en produceert tekst: uitleg, code, vertalingen, creatieve teksten en antwoorden over meerdere beurten. De Qwen3-familie ondersteunt 119 talen en dialecten, waaronder meertalige instructies. Dankzij de twee antwoordmodi kan een proces expliciet redeneren reserveren voor wiskunde, programmeren en logische problemen en daarna directe antwoorden gebruiken voor eenvoudige herschrijving of dialoog. Taaldekking betekent niet dezelfde betrouwbaarheid voor elke taal of specialistisch domein.\n\nModeloverzicht\n\nHet model heeft in totaal 30,5 miljard parameters en activeert er 3,3 miljard voor een token. De mixture-of-experts-architectuur gebruikt 128 experts, waarvan er acht per token worden geselecteerd, over 48 lagen. Dit zijn modelarchitectuurcijfers; het kleinere actieve aantal betekent niet dat het volledige checkpoint slechts 3,3 miljard parameters bevat. Dit is de FP8-editie van Qwen3-30B-A3B, onderscheiden van het oorspronkelijke checkpoint met een andere numerieke precisie en van de latere Thinking-2507- en Instruct-2507-releases.\n\nDe tekstinterface gebruiken\n\nBereid de taak, relevante brontekst en het verwachte antwoordformaat samen voor. Lever bij debugging de falende functie, waargenomen fout, bedoeld gedrag en een minimale invoer en vraag vervolgens om uitleg gevolgd door een patch en voorgestelde controles. Benoem voor meertalige redactie de doeltaal, doelgroep en termen die ongewijzigd moeten blijven. Vraag een compact eindresultaat als een lange uitleg het resultaat zou verhullen. Dit zijn praktische manieren om de gedocumenteerde tekst- en programmeermogelijkheden te gebruiken, geen garanties dat gegenereerde code is uitgevoerd.\n\nFP8-editie\n\nQwen specificeert fijnmazige FP8-kwantisatie met gewichtsblokken van 128 × 128. De checkpointconfiguratie houdt geselecteerde componenten buiten de conversie en gebruikt dynamische kwantisatie van activaties. FP8 beschrijft numerieke representatie, geen nieuwe gespreksmodus of beloofde antwoordtijd. Compatibiliteit is van belang: de kaart van Qwen vermeldt een aandachtspunt voor gedistribueerde inferentie op meerdere apparaten met deze kwantisatiemethode. Een gekwantiseerd checkpoint hoort daarom de exacte editienaam te behouden in plaats van stilzwijgend claims over een andere build over te nemen.\n\nThinking en directe antwoorden\n\nHet chatsjabloon van de ontwikkelaar schakelt Thinking standaard in. In die modus gaat een redeneerblok aan het eindantwoord vooraf. Een harde enable_thinking=False-instelling onderdrukt het blok. Als Thinking is ingeschakeld, geven /think en /no_think aanwijzingen per beurt volgens de nieuwste instructie; bij tekstueel uitschakelen kan nog een leeg redeneerblok verschijnen. Die promptmarkeringen kunnen de harde uitschakeling niet overrulen. Dit zijn gedocumenteerde instellingen van de ontwikkelaar; of een toepassing ze beschikbaar stelt hangt van de interface af.\n\nGebruik met agents\n\nQwen documenteert toolaanroepen in beide modi en raadt Qwen-Agent aan voor de vereiste sjablonen en parsing. Geef een agent een duidelijke toolbeschrijving, toegestane invoer en een specifiek resultaat, zoals aangeleverde gegevens controleren voordat het een rapport opstelt. Het model kan aan een toolproces deelnemen; zoeken, code uitvoeren en externe acties komen van de door de toepassing aangesloten tools. Toolmogelijkheden alleen geven het model geen toegang tot bestanden of actuele informatie.\n\nLange tekst\n\nQwen beschrijft een native context van 32.768 tokens en valideert uitbreiding naar 131.072 met YaRN. Invoer, gespreksgeschiedenis, redeneren en antwoord concurreren om contextruimte. De meegeleverde positieconfiguratie is 40.960; Qwen legt die uit als toewijzing voor gebruikelijke prompts en uitgebreide generatie, niet als vervanging van de opgegeven native context. Statisch YaRN kan de kwaliteit bij kortere invoer verminderen, dus uitbreiding is afhankelijk van configuratie en behoefte. Label bij documentwerk de onderdelen en vraag dat het antwoord de passages aanwijst die elke conclusie ondersteunen.\n\nGeneratie en beperkingen\n\nQwen raadt temperature 0,6, top_p 0,95, top_k 20 en min_p 0 aan voor Thinking en 0,7, 0,8, 20 en 0 voor directe antwoorden. Greedy decoding kan tot slechter redeneren of herhaalde tekst leiden. Het advies beveelt een generatiebudget van 32.768 tokens aan voor de meeste vragen en 38.912 voor ongewoon complexe problemen; dit zijn aanbevelingen, geen afzonderlijk vastgestelde harde uitvoergrens. Hogere presence penalties kunnen herhaling verminderen maar talen mengen of de kwaliteit verlagen. Houd alleen eindantwoorden in de gespreksgeschiedenis. Benoem het vereiste antwoordschema expliciet en toets wiskundige resultaten, feitelijke conclusies en gegenereerde patches aan het aangeleverde bewijs voordat u ze gebruikt.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisch voorbeeld in het Engels
Edit a multilingual service message\n\nTranslate into German for an office administrator: “The Atlas Link update is available, but installing it will restart the device. Save your work before starting.” Keep Atlas Link unchanged, preserve the restart warning and use a polite, concise tone. Return only the translated notice without adding a duration or maintenance window.A concise German notice retaining the product name, restart warning and save-work instruction.Check that the translation keeps the restart as a consequence of installation and does not add an unprovided downtime estimate.qwen/qwen3-30b-a3b-fp8Qwen3-30B-A3B-FP8 is het FP8-gekwantiseerde mixture-of-experts-tekstmodel van Qwen met selecteerbare modi voor Thinking en directe antwoorden. Gebruik het voor wiskundig redeneren, programmeren, meertalig schrijven en taken met tools, met behoud van de exacte FP8-editie en contextconfiguratie.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Mogelijkheden van Qwen3
Qwen3-30B-A3B-FP8 brengt het hybride tekstgeneratiemodel van Qwen naar een fijnmazig FP8-checkpoint. Het accepteert tekstgesprekken en produceert tekst: uitleg, code, vertalingen, creatieve teksten en antwoorden over meerdere beurten. De Qwen3-familie ondersteunt 119 talen en dialecten, waaronder meertalige instructies. Dankzij de twee antwoordmodi kan een proces expliciet redeneren reserveren voor wiskunde, programmeren en logische problemen en daarna directe antwoorden gebruiken voor eenvoudige herschrijving of dialoog. Taaldekking betekent niet dezelfde betrouwbaarheid voor elke taal of specialistisch domein.
Modeloverzicht
Het model heeft in totaal 30,5 miljard parameters en activeert er 3,3 miljard voor een token. De mixture-of-experts-architectuur gebruikt 128 experts, waarvan er acht per token worden geselecteerd, over 48 lagen. Dit zijn modelarchitectuurcijfers; het kleinere actieve aantal betekent niet dat het volledige checkpoint slechts 3,3 miljard parameters bevat. Dit is de FP8-editie van Qwen3-30B-A3B, onderscheiden van het oorspronkelijke checkpoint met een andere numerieke precisie en van de latere Thinking-2507- en Instruct-2507-releases.
De tekstinterface gebruiken
Bereid de taak, relevante brontekst en het verwachte antwoordformaat samen voor. Lever bij debugging de falende functie, waargenomen fout, bedoeld gedrag en een minimale invoer en vraag vervolgens om uitleg gevolgd door een patch en voorgestelde controles. Benoem voor meertalige redactie de doeltaal, doelgroep en termen die ongewijzigd moeten blijven. Vraag een compact eindresultaat als een lange uitleg het resultaat zou verhullen. Dit zijn praktische manieren om de gedocumenteerde tekst- en programmeermogelijkheden te gebruiken, geen garanties dat gegenereerde code is uitgevoerd.
FP8-editie
Qwen specificeert fijnmazige FP8-kwantisatie met gewichtsblokken van 128 × 128. De checkpointconfiguratie houdt geselecteerde componenten buiten de conversie en gebruikt dynamische kwantisatie van activaties. FP8 beschrijft numerieke representatie, geen nieuwe gespreksmodus of beloofde antwoordtijd. Compatibiliteit is van belang: de kaart van Qwen vermeldt een aandachtspunt voor gedistribueerde inferentie op meerdere apparaten met deze kwantisatiemethode. Een gekwantiseerd checkpoint hoort daarom de exacte editienaam te behouden in plaats van stilzwijgend claims over een andere build over te nemen.
Thinking en directe antwoorden
Het chatsjabloon van de ontwikkelaar schakelt Thinking standaard in. In die modus gaat een redeneerblok aan het eindantwoord vooraf. Een harde enable_thinking=False-instelling onderdrukt het blok. Als Thinking is ingeschakeld, geven /think en /no_think aanwijzingen per beurt volgens de nieuwste instructie; bij tekstueel uitschakelen kan nog een leeg redeneerblok verschijnen. Die promptmarkeringen kunnen de harde uitschakeling niet overrulen. Dit zijn gedocumenteerde instellingen van de ontwikkelaar; of een toepassing ze beschikbaar stelt hangt van de interface af.
Gebruik met agents
Qwen documenteert toolaanroepen in beide modi en raadt Qwen-Agent aan voor de vereiste sjablonen en parsing. Geef een agent een duidelijke toolbeschrijving, toegestane invoer en een specifiek resultaat, zoals aangeleverde gegevens controleren voordat het een rapport opstelt. Het model kan aan een toolproces deelnemen; zoeken, code uitvoeren en externe acties komen van de door de toepassing aangesloten tools. Toolmogelijkheden alleen geven het model geen toegang tot bestanden of actuele informatie.
Lange tekst
Qwen beschrijft een native context van 32.768 tokens en valideert uitbreiding naar 131.072 met YaRN. Invoer, gespreksgeschiedenis, redeneren en antwoord concurreren om contextruimte. De meegeleverde positieconfiguratie is 40.960; Qwen legt die uit als toewijzing voor gebruikelijke prompts en uitgebreide generatie, niet als vervanging van de opgegeven native context. Statisch YaRN kan de kwaliteit bij kortere invoer verminderen, dus uitbreiding is afhankelijk van configuratie en behoefte. Label bij documentwerk de onderdelen en vraag dat het antwoord de passages aanwijst die elke conclusie ondersteunen.
Generatie en beperkingen
Qwen raadt temperature 0,6, top_p 0,95, top_k 20 en min_p 0 aan voor Thinking en 0,7, 0,8, 20 en 0 voor directe antwoorden. Greedy decoding kan tot slechter redeneren of herhaalde tekst leiden. Het advies beveelt een generatiebudget van 32.768 tokens aan voor de meeste vragen en 38.912 voor ongewoon complexe problemen; dit zijn aanbevelingen, geen afzonderlijk vastgestelde harde uitvoergrens. Hogere presence penalties kunnen herhaling verminderen maar talen mengen of de kwaliteit verlagen. Houd alleen eindantwoorden in de gespreksgeschiedenis. Benoem het vereiste antwoordschema expliciet en toets wiskundige resultaten, feitelijke conclusies en gegenereerde patches aan het aangeleverde bewijs voordat u ze gebruikt.
POST /v1/chat/completionstexttext| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten qwen/qwen3-30b-a3b-fp8 | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten Minimumaantal items: 1 | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten Voorbeelden: system, user, assistant, tool, function Voorwaarden: Deze rollen worden expliciet weergegeven door compatibiliteitstypen in de broncode; de exacte rollenverzameling van het model blijft modelspecifiek. Afhankelijk van het model | Standaard— |
Veldmessages[].content | Typestring|content_part[]|null | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_calls | Typetool_call[] | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_call_id | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: role=tool; gebruik het werkelijk teruggegeven ID | Standaard— |
Veldmessages[].name | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].reasoning_content | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: Stuur de werkelijk teruggegeven redeneringen terug wanneer dit model ze gebruikt | Standaard— |
Veldmessages[].reasoning_details | Typeobject|array | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmax_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldmax_completion_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Veldstream_options.include_usage | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtemperature | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtop_p | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldstop | Typestring|string[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools | Typefunction_tool[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools[].type | Typestring | VereisteOptioneel | Waarden en limieten function Afhankelijk van het model | Standaard— |
Veldtools[].function.name | Typestring | VereisteVereist | Waarden en limieten Geldt wanneer: functietool opgegeven | Standaard— |
Veldtools[].function.description | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtools[].function.parameters | TypeJSON_schema | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtool_choice | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldparallel_tool_calls | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldresponse_format | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning_effort | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldservice_tier | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldinstructions | Typestring | VereisteOptioneel | Waarden en limieten Compatibiliteitsveld | Standaard— |
Veldfunctions | Typefunction[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldfunction_call | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldprompt_cache_options | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmodalities | Typestring[] | VereisteOptioneel | Waarden en limieten text | Standaard— |
Veldprovider | Typeobject | VereisteOptioneel | Waarden en limieten Voorwaarden: provider.options wordt op deze Ultra-tekstroute geweigerd | Standaard— |
Veldcache_control.ttl | Typestring | VereisteOptioneel | Waarden en limieten Voorwaarden: 1h wordt op de daadwerkelijke locaties voor promptcaching geweigerd | Standaard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages |
Parametermaterial_types | Contracttext |
Parametermessages | Contractberichtenarray met de structuur role/content |
Parameterfile_material | Contractwerkelijk UTF-8-document ingevoegd als letterlijke tekst; er wordt geen bestands-ID afgeleid |
Parameteroptional_controls | Contractstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Contractmodelspecifiek; functietools van de gebruiker verschillen van gehoste tools |
Parameteroutput_modalities | Contracttext |
Parameterhosted_operations | Contractfalse |
Parametermultimodal_input_binding | Contractnull |
Levenscyclus: synchronous_or_streamed
Stuur het exacte model-ID mee met messages.
Contextlengte is geen uitvoerlimiet.
Een tekstbestand kan letterlijke tekst aanleveren; beeld-, audio- en bestandsobjectinvoer vereisen een exacte koppeling.
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0.0002 / 1K tokens Uitvoer · Uitvoertokens $0.001 / 1K tokens Invoer · Cache lezen $0 / 1K tokens Invoer · Cache schrijven $0 / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen3-30b-a3b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen3-30b-a3b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen3-30b-a3b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar elke keuze en de bijbehorende inhoud, toolaanroepen en redeneringen. Voeg in SSE delta’s samen per keuze-/toolindex en bewaar de uiteindelijke reden van beëindiging en de verbruiksgegevens.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldchoices[].index | Typeinteger |
Veldchoices[].message.content | Typestring|null |
Veldchoices[].message.tool_calls | Typetool_call[] |
Veldchoices[].message.reasoning_content | Typestring |
Veldchoices[].message.reasoning_details | Typeobject|array |
Veldchoices[].finish_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra qwen/qwen3-30b-a3b-fp8
Gebruik de hierboven getoonde methodepaden.
qwen/qwen3-30b-a3b-fp8Qwen3-30B-A3B-FP8 is het FP8-gekwantiseerde mixture-of-experts-tekstmodel van Qwen met selecteerbare modi voor Thinking en directe antwoorden. Gebruik het voor wiskundig redeneren, programmeren, meertalig schrijven en taken met tools, met behoud van de exacte FP8-editie en contextconfiguratie.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Mogelijkheden van Qwen3
Qwen3-30B-A3B-FP8 brengt het hybride tekstgeneratiemodel van Qwen naar een fijnmazig FP8-checkpoint. Het accepteert tekstgesprekken en produceert tekst: uitleg, code, vertalingen, creatieve teksten en antwoorden over meerdere beurten. De Qwen3-familie ondersteunt 119 talen en dialecten, waaronder meertalige instructies. Dankzij de twee antwoordmodi kan een proces expliciet redeneren reserveren voor wiskunde, programmeren en logische problemen en daarna directe antwoorden gebruiken voor eenvoudige herschrijving of dialoog. Taaldekking betekent niet dezelfde betrouwbaarheid voor elke taal of specialistisch domein.
Modeloverzicht
Het model heeft in totaal 30,5 miljard parameters en activeert er 3,3 miljard voor een token. De mixture-of-experts-architectuur gebruikt 128 experts, waarvan er acht per token worden geselecteerd, over 48 lagen. Dit zijn modelarchitectuurcijfers; het kleinere actieve aantal betekent niet dat het volledige checkpoint slechts 3,3 miljard parameters bevat. Dit is de FP8-editie van Qwen3-30B-A3B, onderscheiden van het oorspronkelijke checkpoint met een andere numerieke precisie en van de latere Thinking-2507- en Instruct-2507-releases.
De tekstinterface gebruiken
Bereid de taak, relevante brontekst en het verwachte antwoordformaat samen voor. Lever bij debugging de falende functie, waargenomen fout, bedoeld gedrag en een minimale invoer en vraag vervolgens om uitleg gevolgd door een patch en voorgestelde controles. Benoem voor meertalige redactie de doeltaal, doelgroep en termen die ongewijzigd moeten blijven. Vraag een compact eindresultaat als een lange uitleg het resultaat zou verhullen. Dit zijn praktische manieren om de gedocumenteerde tekst- en programmeermogelijkheden te gebruiken, geen garanties dat gegenereerde code is uitgevoerd.
FP8-editie
Qwen specificeert fijnmazige FP8-kwantisatie met gewichtsblokken van 128 × 128. De checkpointconfiguratie houdt geselecteerde componenten buiten de conversie en gebruikt dynamische kwantisatie van activaties. FP8 beschrijft numerieke representatie, geen nieuwe gespreksmodus of beloofde antwoordtijd. Compatibiliteit is van belang: de kaart van Qwen vermeldt een aandachtspunt voor gedistribueerde inferentie op meerdere apparaten met deze kwantisatiemethode. Een gekwantiseerd checkpoint hoort daarom de exacte editienaam te behouden in plaats van stilzwijgend claims over een andere build over te nemen.
Thinking en directe antwoorden
Het chatsjabloon van de ontwikkelaar schakelt Thinking standaard in. In die modus gaat een redeneerblok aan het eindantwoord vooraf. Een harde enable_thinking=False-instelling onderdrukt het blok. Als Thinking is ingeschakeld, geven /think en /no_think aanwijzingen per beurt volgens de nieuwste instructie; bij tekstueel uitschakelen kan nog een leeg redeneerblok verschijnen. Die promptmarkeringen kunnen de harde uitschakeling niet overrulen. Dit zijn gedocumenteerde instellingen van de ontwikkelaar; of een toepassing ze beschikbaar stelt hangt van de interface af.
Gebruik met agents
Qwen documenteert toolaanroepen in beide modi en raadt Qwen-Agent aan voor de vereiste sjablonen en parsing. Geef een agent een duidelijke toolbeschrijving, toegestane invoer en een specifiek resultaat, zoals aangeleverde gegevens controleren voordat het een rapport opstelt. Het model kan aan een toolproces deelnemen; zoeken, code uitvoeren en externe acties komen van de door de toepassing aangesloten tools. Toolmogelijkheden alleen geven het model geen toegang tot bestanden of actuele informatie.
Lange tekst
Qwen beschrijft een native context van 32.768 tokens en valideert uitbreiding naar 131.072 met YaRN. Invoer, gespreksgeschiedenis, redeneren en antwoord concurreren om contextruimte. De meegeleverde positieconfiguratie is 40.960; Qwen legt die uit als toewijzing voor gebruikelijke prompts en uitgebreide generatie, niet als vervanging van de opgegeven native context. Statisch YaRN kan de kwaliteit bij kortere invoer verminderen, dus uitbreiding is afhankelijk van configuratie en behoefte. Label bij documentwerk de onderdelen en vraag dat het antwoord de passages aanwijst die elke conclusie ondersteunen.
Generatie en beperkingen
Qwen raadt temperature 0,6, top_p 0,95, top_k 20 en min_p 0 aan voor Thinking en 0,7, 0,8, 20 en 0 voor directe antwoorden. Greedy decoding kan tot slechter redeneren of herhaalde tekst leiden. Het advies beveelt een generatiebudget van 32.768 tokens aan voor de meeste vragen en 38.912 voor ongewoon complexe problemen; dit zijn aanbevelingen, geen afzonderlijk vastgestelde harde uitvoergrens. Hogere presence penalties kunnen herhaling verminderen maar talen mengen of de kwaliteit verlagen. Houd alleen eindantwoorden in de gespreksgeschiedenis. Benoem het vereiste antwoordschema expliciet en toets wiskundige resultaten, feitelijke conclusies en gegenereerde patches aan het aangeleverde bewijs voordat u ze gebruikt.
POST /v1/messagestextjson, sse| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten qwen/qwen3-30b-a3b-fp8 | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten user, assistant | Standaard— |
Veldmessages[].content | Typestring | VereisteVereist | Waarden en limieten | Standaard— |
Veldmax_tokens | Typeinteger | VereisteVereist | Waarden en limieten | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Tekst · UTF-8-tekst
messages[].content als tekenreeks
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages, max_tokens |
Parameteroptional_controls | Contractstream |
Parametermaterial_types | Contracttext |
Parametertext_file_material | ContractLees het werkelijke UTF-8-document en plaats de tekst ervan in de aangegeven invoer of in de inhoudstekenreeks van een bericht. |
Levenscyclus: synchronous_or_streamed
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0.0002 / 1K tokens Uitvoer · Uitvoertokens $0.001 / 1K tokens Invoer · Cache lezen $0 / 1K tokens Invoer · Cache schrijven $0 / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
{\n "model": "qwen/qwen3-30b-a3b-fp8",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-30b-a3b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-30b-a3b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar alle inhoudsblokken, handtekeningen van redeneringen en werkelijke toolgebruik-ID’s. Voeg alle SSE-blokdelta’s samen; het eerste tekstblok is niet de volledige uitvoer.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldid | Typestring |
Veldmodel | Typestring |
Veldcontent[] | Typetext|thinking|tool_use|other content block |
Veldstop_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra qwen/qwen3-30b-a3b-fp8
Gebruik de hierboven getoonde methodepaden.
Technisch voorbeeld in het Engels
Edit a multilingual service message\n\nTranslate into German for an office administrator: “The Atlas Link update is available, but installing it will restart the device. Save your work before starting.” Keep Atlas Link unchanged, preserve the restart warning and use a polite, concise tone. Return only the translated notice without adding a duration or maintenance window.A concise German notice retaining the product name, restart warning and save-work instruction.Check that the translation keeps the restart as a consequence of installation and does not add an unprovided downtime estimate.