Qwen3-egenskaber
Qwen3-30B-A3B-FP8 leverer Qwens hybride tekstgenereringsmodel som et checkpoint med finkornet FP8. Den modtager tekstsamtaler og producerer tekst: forklaringer, kode, oversættelser, kreativ skrivning og svar over flere ture. Qwen3-familien understøtter 119 sprog og dialekter, herunder flersprogede instruktioner. De to svartilstande lader et forløb reservere eksplicit ræsonnering til matematik, programmering og logiske problemer og derefter bruge direkte svar til enkel omskrivning eller dialog. Sprogdækning indebærer ikke samme pålidelighed for alle sprog eller specialistområder.
Modeloversigt
Modellen har i alt 30,5 milliarder parametre og aktiverer 3,3 milliarder for en token. Dens mixture-of-experts-arkitektur bruger 128 eksperter og vælger otte pr. token på tværs af 48 lag. Dette er tal for modelarkitekturen; det mindre aktiverede antal betyder ikke, at hele checkpointet kun indeholder 3,3 milliarder parametre. Dette er FP8-udgaven af Qwen3-30B-A3B, særskilt fra dens oprindelige checkpoint med anden numerisk præcision og fra de senere Thinking-2507- og Instruct-2507-udgivelser.
Brug af tekstgrænsefladen
Forbered opgaven, relevant kildetekst og forventet svarformat samlet. Til en fejlfindingsanmodning skal du angive funktionen, der fejler, den observerede fejl, den tilsigtede adfærd og et minimalt input og derefter bede om en forklaring efterfulgt af en rettelse og foreslåede kontroller. Til flersproget redigering skal du angive målsprog, målgruppe og termer, som skal forblive uændrede. Bed om et kompakt slutprodukt, når en lang forklaring ville skjule resultatet. Dette er praktiske måder at bruge de dokumenterede tekst- og programmeringsevner på, ikke garantier for, at genereret kode er blevet kørt.
FP8-udgave
Qwen specificerer finkornet FP8-kvantisering med vægtblokke på 128 gange 128. Checkpointkonfigurationen holder udvalgte komponenter uden for konverteringen og bruger dynamisk aktiveringskvantisering. FP8 beskriver en numerisk repræsentation, ikke en ny samtaletilstand eller en lovet svartid. Kompatibilitet er vigtig: Qwens kort registrerer et forbehold for distribueret inferens på flere enheder med denne kvantiseringsmetode. Et kvantiseret checkpoint bør derfor bevare sit præcise udgavenavn frem for ubemærket at overtage påstande om en anden udgave.
Tænkende tilstand og direkte svar
Producentens chatskabelon aktiverer tænkning som standard. I den tilstand kommer en ræsonneringsblok før det endelige svar. En hård enable_thinking=False-indstilling undertrykker blokken. Med tænkning aktiveret giver /think og /no_think vejledning pr. tur efter den seneste instruktion; en tom ræsonneringsblok kan stadig forekomme med den bløde fra-omskifter. Promptmarkørerne kan ikke tilsidesætte den hårde fra-indstilling. Dette er dokumenterede producentkontroller; om en applikation stiller dem til rådighed, afhænger af dens grænseflade.
Agentbrug
Qwen dokumenterer værktøjskald i begge tilstande og anbefaler Qwen-Agent til de nødvendige skabeloner og parsing. Giv en agent en tydelig værktøjsbeskrivelse, tilladte input og et specifikt produkt, såsom at kontrollere angivne data før et rapportudkast. Modellen kan deltage i et værktøjsforløb; søgning, kodekørsel og eksterne handlinger kommer fra de værktøjer, applikationen forbinder. Værktøjsevne alene giver ikke modellen adgang til filer eller aktuelle oplysninger.
Lang tekst
Qwen beskriver en nativ kontekst på 32.768 tokens og validerer udvidelse til 131.072 med YaRN. Input, samtalehistorik, ræsonnering og svar konkurrerer om kontekstplads. Den leverede positionskonfiguration er 40.960; Qwen forklarer den som en allokering til typiske prompter og udvidet generering frem for en erstatning for den angivne native kontekst. Statisk YaRN kan reducere kvaliteten ved kortere input, så udvidelsen afhænger af konfiguration og behov. Til dokumentarbejde skal du mærke afsnit og bede svaret identificere de passager, der understøtter hver konklusion.
Generering og begrænsninger
Qwen anbefaler temperature 0.6, top_p 0.95, top_k 20 og min_p 0 til tænkning og 0.7, 0.8, 20 og 0 til direkte svar. Greedy decoding kan producere forringet ræsonnering eller gentaget tekst. Vejledningen anbefaler et genereringsbudget på 32.768 tokens til de fleste forespørgsler og 38.912 til usædvanligt komplekse problemer; dette er anbefalinger, ikke et særskilt fastlagt hårdt outputloft. Større presence penalties kan reducere gentagelser, men kan blande sprog eller sænke kvaliteten. Bevar kun endelige svar i samtalehistorikken. Angiv det påkrævede svarskema eksplicit, og kontrollér matematiske resultater, faktuelle konklusioner og genererede kodeændringer mod det angivne grundlag, før de bruges.
", "aboutText": "Qwen3-egenskaber\n\nQwen3-30B-A3B-FP8 leverer Qwens hybride tekstgenereringsmodel som et checkpoint med finkornet FP8. Den modtager tekstsamtaler og producerer tekst: forklaringer, kode, oversættelser, kreativ skrivning og svar over flere ture. Qwen3-familien understøtter 119 sprog og dialekter, herunder flersprogede instruktioner. De to svartilstande lader et forløb reservere eksplicit ræsonnering til matematik, programmering og logiske problemer og derefter bruge direkte svar til enkel omskrivning eller dialog. Sprogdækning indebærer ikke samme pålidelighed for alle sprog eller specialistområder.\n\nModeloversigt\n\nModellen har i alt 30,5 milliarder parametre og aktiverer 3,3 milliarder for en token. Dens mixture-of-experts-arkitektur bruger 128 eksperter og vælger otte pr. token på tværs af 48 lag. Dette er tal for modelarkitekturen; det mindre aktiverede antal betyder ikke, at hele checkpointet kun indeholder 3,3 milliarder parametre. Dette er FP8-udgaven af Qwen3-30B-A3B, særskilt fra dens oprindelige checkpoint med anden numerisk præcision og fra de senere Thinking-2507- og Instruct-2507-udgivelser.\n\nBrug af tekstgrænsefladen\n\nForbered opgaven, relevant kildetekst og forventet svarformat samlet. Til en fejlfindingsanmodning skal du angive funktionen, der fejler, den observerede fejl, den tilsigtede adfærd og et minimalt input og derefter bede om en forklaring efterfulgt af en rettelse og foreslåede kontroller. Til flersproget redigering skal du angive målsprog, målgruppe og termer, som skal forblive uændrede. Bed om et kompakt slutprodukt, når en lang forklaring ville skjule resultatet. Dette er praktiske måder at bruge de dokumenterede tekst- og programmeringsevner på, ikke garantier for, at genereret kode er blevet kørt.\n\nFP8-udgave\n\nQwen specificerer finkornet FP8-kvantisering med vægtblokke på 128 gange 128. Checkpointkonfigurationen holder udvalgte komponenter uden for konverteringen og bruger dynamisk aktiveringskvantisering. FP8 beskriver en numerisk repræsentation, ikke en ny samtaletilstand eller en lovet svartid. Kompatibilitet er vigtig: Qwens kort registrerer et forbehold for distribueret inferens på flere enheder med denne kvantiseringsmetode. Et kvantiseret checkpoint bør derfor bevare sit præcise udgavenavn frem for ubemærket at overtage påstande om en anden udgave.\n\nTænkende tilstand og direkte svar\n\nProducentens chatskabelon aktiverer tænkning som standard. I den tilstand kommer en ræsonneringsblok før det endelige svar. En hård enable_thinking=False-indstilling undertrykker blokken. Med tænkning aktiveret giver /think og /no_think vejledning pr. tur efter den seneste instruktion; en tom ræsonneringsblok kan stadig forekomme med den bløde fra-omskifter. Promptmarkørerne kan ikke tilsidesætte den hårde fra-indstilling. Dette er dokumenterede producentkontroller; om en applikation stiller dem til rådighed, afhænger af dens grænseflade.\n\nAgentbrug\n\nQwen dokumenterer værktøjskald i begge tilstande og anbefaler Qwen-Agent til de nødvendige skabeloner og parsing. Giv en agent en tydelig værktøjsbeskrivelse, tilladte input og et specifikt produkt, såsom at kontrollere angivne data før et rapportudkast. Modellen kan deltage i et værktøjsforløb; søgning, kodekørsel og eksterne handlinger kommer fra de værktøjer, applikationen forbinder. Værktøjsevne alene giver ikke modellen adgang til filer eller aktuelle oplysninger.\n\nLang tekst\n\nQwen beskriver en nativ kontekst på 32.768 tokens og validerer udvidelse til 131.072 med YaRN. Input, samtalehistorik, ræsonnering og svar konkurrerer om kontekstplads. Den leverede positionskonfiguration er 40.960; Qwen forklarer den som en allokering til typiske prompter og udvidet generering frem for en erstatning for den angivne native kontekst. Statisk YaRN kan reducere kvaliteten ved kortere input, så udvidelsen afhænger af konfiguration og behov. Til dokumentarbejde skal du mærke afsnit og bede svaret identificere de passager, der understøtter hver konklusion.\n\nGenerering og begrænsninger\n\nQwen anbefaler temperature 0.6, top_p 0.95, top_k 20 og min_p 0 til tænkning og 0.7, 0.8, 20 og 0 til direkte svar. Greedy decoding kan producere forringet ræsonnering eller gentaget tekst. Vejledningen anbefaler et genereringsbudget på 32.768 tokens til de fleste forespørgsler og 38.912 til usædvanligt komplekse problemer; dette er anbefalinger, ikke et særskilt fastlagt hårdt outputloft. Større presence penalties kan reducere gentagelser, men kan blande sprog eller sænke kvaliteten. Bevar kun endelige svar i samtalehistorikken. Angiv det påkrævede svarskema eksplicit, og kontrollér matematiske resultater, faktuelle konklusioner og genererede kodeændringer mod det angivne grundlag, før de bruges.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Edit a multilingual service message\n\nTranslate into German for an office administrator: “The Atlas Link update is available, but installing it will restart the device. Save your work before starting.” Keep Atlas Link unchanged, preserve the restart warning and use a polite, concise tone. Return only the translated notice without adding a duration or maintenance window.A concise German notice retaining the product name, restart warning and save-work instruction.Check that the translation keeps the restart as a consequence of installation and does not add an unprovided downtime estimate.qwen/qwen3-30b-a3b-fp8Qwen3-30B-A3B-FP8 er Qwens FP8-kvantiserede mixture-of-experts-tekstmodel med valgbare tilstande til tænkning og direkte svar. Brug den til matematisk ræsonnering, programmering, flersproget skrivning og værktøjsunderstøttede forløb, og bevar den præcise FP8-udgave og dens kontekstkonfiguration.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Qwen3-egenskaber
Qwen3-30B-A3B-FP8 leverer Qwens hybride tekstgenereringsmodel som et checkpoint med finkornet FP8. Den modtager tekstsamtaler og producerer tekst: forklaringer, kode, oversættelser, kreativ skrivning og svar over flere ture. Qwen3-familien understøtter 119 sprog og dialekter, herunder flersprogede instruktioner. De to svartilstande lader et forløb reservere eksplicit ræsonnering til matematik, programmering og logiske problemer og derefter bruge direkte svar til enkel omskrivning eller dialog. Sprogdækning indebærer ikke samme pålidelighed for alle sprog eller specialistområder.
Modeloversigt
Modellen har i alt 30,5 milliarder parametre og aktiverer 3,3 milliarder for en token. Dens mixture-of-experts-arkitektur bruger 128 eksperter og vælger otte pr. token på tværs af 48 lag. Dette er tal for modelarkitekturen; det mindre aktiverede antal betyder ikke, at hele checkpointet kun indeholder 3,3 milliarder parametre. Dette er FP8-udgaven af Qwen3-30B-A3B, særskilt fra dens oprindelige checkpoint med anden numerisk præcision og fra de senere Thinking-2507- og Instruct-2507-udgivelser.
Brug af tekstgrænsefladen
Forbered opgaven, relevant kildetekst og forventet svarformat samlet. Til en fejlfindingsanmodning skal du angive funktionen, der fejler, den observerede fejl, den tilsigtede adfærd og et minimalt input og derefter bede om en forklaring efterfulgt af en rettelse og foreslåede kontroller. Til flersproget redigering skal du angive målsprog, målgruppe og termer, som skal forblive uændrede. Bed om et kompakt slutprodukt, når en lang forklaring ville skjule resultatet. Dette er praktiske måder at bruge de dokumenterede tekst- og programmeringsevner på, ikke garantier for, at genereret kode er blevet kørt.
FP8-udgave
Qwen specificerer finkornet FP8-kvantisering med vægtblokke på 128 gange 128. Checkpointkonfigurationen holder udvalgte komponenter uden for konverteringen og bruger dynamisk aktiveringskvantisering. FP8 beskriver en numerisk repræsentation, ikke en ny samtaletilstand eller en lovet svartid. Kompatibilitet er vigtig: Qwens kort registrerer et forbehold for distribueret inferens på flere enheder med denne kvantiseringsmetode. Et kvantiseret checkpoint bør derfor bevare sit præcise udgavenavn frem for ubemærket at overtage påstande om en anden udgave.
Tænkende tilstand og direkte svar
Producentens chatskabelon aktiverer tænkning som standard. I den tilstand kommer en ræsonneringsblok før det endelige svar. En hård enable_thinking=False-indstilling undertrykker blokken. Med tænkning aktiveret giver /think og /no_think vejledning pr. tur efter den seneste instruktion; en tom ræsonneringsblok kan stadig forekomme med den bløde fra-omskifter. Promptmarkørerne kan ikke tilsidesætte den hårde fra-indstilling. Dette er dokumenterede producentkontroller; om en applikation stiller dem til rådighed, afhænger af dens grænseflade.
Agentbrug
Qwen dokumenterer værktøjskald i begge tilstande og anbefaler Qwen-Agent til de nødvendige skabeloner og parsing. Giv en agent en tydelig værktøjsbeskrivelse, tilladte input og et specifikt produkt, såsom at kontrollere angivne data før et rapportudkast. Modellen kan deltage i et værktøjsforløb; søgning, kodekørsel og eksterne handlinger kommer fra de værktøjer, applikationen forbinder. Værktøjsevne alene giver ikke modellen adgang til filer eller aktuelle oplysninger.
Lang tekst
Qwen beskriver en nativ kontekst på 32.768 tokens og validerer udvidelse til 131.072 med YaRN. Input, samtalehistorik, ræsonnering og svar konkurrerer om kontekstplads. Den leverede positionskonfiguration er 40.960; Qwen forklarer den som en allokering til typiske prompter og udvidet generering frem for en erstatning for den angivne native kontekst. Statisk YaRN kan reducere kvaliteten ved kortere input, så udvidelsen afhænger af konfiguration og behov. Til dokumentarbejde skal du mærke afsnit og bede svaret identificere de passager, der understøtter hver konklusion.
Generering og begrænsninger
Qwen anbefaler temperature 0.6, top_p 0.95, top_k 20 og min_p 0 til tænkning og 0.7, 0.8, 20 og 0 til direkte svar. Greedy decoding kan producere forringet ræsonnering eller gentaget tekst. Vejledningen anbefaler et genereringsbudget på 32.768 tokens til de fleste forespørgsler og 38.912 til usædvanligt komplekse problemer; dette er anbefalinger, ikke et særskilt fastlagt hårdt outputloft. Større presence penalties kan reducere gentagelser, men kan blande sprog eller sænke kvaliteten. Bevar kun endelige svar i samtalehistorikken. Angiv det påkrævede svarskema eksplicit, og kontrollér matematiske resultater, faktuelle konklusioner og genererede kodeændringer mod det angivne grundlag, før de bruges.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser qwen/qwen3-30b-a3b-fp8 | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser Minimumsantal elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser Eksempler: system, user, assistant, tool, function Betingelser: Disse roller er eksplicit repræsenteret i kildekodens kompatibilitetstyper; modellens præcise rollesæt er fortsat modelspecifikt. Afhænger af modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfrit | Værdier og grænser Gælder når: role=tool; brug det faktisk returnerede ID | Standard— |
Feltmessages[].name | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfrit | Værdier og grænser Gælder når: Send det faktisk returnerede ræsonnement tilbage, når modellen bruger det | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttemperature | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttop_p | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools[].type | Typestring | KravValgfrit | Værdier og grænser function Afhænger af modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrævet | Værdier og grænser Gælder når: funktionsværktøj angivet | Standard— |
Felttools[].function.description | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfrit | Værdier og grænser | Standard— |
Felttool_choice | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltservice_tier | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltinstructions | Typestring | KravValgfrit | Værdier og grænser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfrit | Værdier og grænser text | Standard— |
Feltprovider | Typeobject | KravValgfrit | Værdier og grænser Betingelser: provider.options afvises på denne Ultra-tekstrute | Standard— |
Feltcache_control.ttl | Typestring | KravValgfrit | Værdier og grænser Betingelser: 1h afvises på de faktiske placeringer for promptcaching | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages |
Parametermaterial_types | Kontrakttext |
Parametermessages | Kontraktbeskedarray med strukturen role/content |
Parameterfile_material | Kontraktfaktisk UTF-8-dokument indsat som bogstavelig tekst; intet fil-ID udledes |
Parameteroptional_controls | Kontraktstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontraktmodelspecifikt; brugerens funktionsværktøjer er forskellige fra hostede værktøjer |
Parameteroutput_modalities | Kontrakttext |
Parameterhosted_operations | Kontraktfalse |
Parametermultimodal_input_binding | Kontraktnull |
Livscyklus: synchronous_or_streamed
Send det præcise model-ID med messages.
Kontekstlængde er ikke et outputloft.
En tekstfil kan levere bogstavelig tekst; billed-, lyd- og filobjektinput kræver en præcis binding.
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
| Konfiguration | Takstplan | Beløb |
|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Beløb Input · Inputtokens $0.0002 / 1K tokens Output · Outputtokens $0.001 / 1K tokens Input · Cachelæsning $0 / 1K tokens Input · Cacheskrivning $0 / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen3-30b-a3b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen3-30b-a3b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen3-30b-a3b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar hvert valg og dets indhold, værktøjskald og ræsonnement. Saml i SSE deltaer efter valg-/værktøjsindeks, og bevar den endelige afslutningsårsag og forbrugsoplysningerne.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra qwen/qwen3-30b-a3b-fp8
Brug metodestierne vist ovenfor.
qwen/qwen3-30b-a3b-fp8Qwen3-30B-A3B-FP8 er Qwens FP8-kvantiserede mixture-of-experts-tekstmodel med valgbare tilstande til tænkning og direkte svar. Brug den til matematisk ræsonnering, programmering, flersproget skrivning og værktøjsunderstøttede forløb, og bevar den præcise FP8-udgave og dens kontekstkonfiguration.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Qwen3-egenskaber
Qwen3-30B-A3B-FP8 leverer Qwens hybride tekstgenereringsmodel som et checkpoint med finkornet FP8. Den modtager tekstsamtaler og producerer tekst: forklaringer, kode, oversættelser, kreativ skrivning og svar over flere ture. Qwen3-familien understøtter 119 sprog og dialekter, herunder flersprogede instruktioner. De to svartilstande lader et forløb reservere eksplicit ræsonnering til matematik, programmering og logiske problemer og derefter bruge direkte svar til enkel omskrivning eller dialog. Sprogdækning indebærer ikke samme pålidelighed for alle sprog eller specialistområder.
Modeloversigt
Modellen har i alt 30,5 milliarder parametre og aktiverer 3,3 milliarder for en token. Dens mixture-of-experts-arkitektur bruger 128 eksperter og vælger otte pr. token på tværs af 48 lag. Dette er tal for modelarkitekturen; det mindre aktiverede antal betyder ikke, at hele checkpointet kun indeholder 3,3 milliarder parametre. Dette er FP8-udgaven af Qwen3-30B-A3B, særskilt fra dens oprindelige checkpoint med anden numerisk præcision og fra de senere Thinking-2507- og Instruct-2507-udgivelser.
Brug af tekstgrænsefladen
Forbered opgaven, relevant kildetekst og forventet svarformat samlet. Til en fejlfindingsanmodning skal du angive funktionen, der fejler, den observerede fejl, den tilsigtede adfærd og et minimalt input og derefter bede om en forklaring efterfulgt af en rettelse og foreslåede kontroller. Til flersproget redigering skal du angive målsprog, målgruppe og termer, som skal forblive uændrede. Bed om et kompakt slutprodukt, når en lang forklaring ville skjule resultatet. Dette er praktiske måder at bruge de dokumenterede tekst- og programmeringsevner på, ikke garantier for, at genereret kode er blevet kørt.
FP8-udgave
Qwen specificerer finkornet FP8-kvantisering med vægtblokke på 128 gange 128. Checkpointkonfigurationen holder udvalgte komponenter uden for konverteringen og bruger dynamisk aktiveringskvantisering. FP8 beskriver en numerisk repræsentation, ikke en ny samtaletilstand eller en lovet svartid. Kompatibilitet er vigtig: Qwens kort registrerer et forbehold for distribueret inferens på flere enheder med denne kvantiseringsmetode. Et kvantiseret checkpoint bør derfor bevare sit præcise udgavenavn frem for ubemærket at overtage påstande om en anden udgave.
Tænkende tilstand og direkte svar
Producentens chatskabelon aktiverer tænkning som standard. I den tilstand kommer en ræsonneringsblok før det endelige svar. En hård enable_thinking=False-indstilling undertrykker blokken. Med tænkning aktiveret giver /think og /no_think vejledning pr. tur efter den seneste instruktion; en tom ræsonneringsblok kan stadig forekomme med den bløde fra-omskifter. Promptmarkørerne kan ikke tilsidesætte den hårde fra-indstilling. Dette er dokumenterede producentkontroller; om en applikation stiller dem til rådighed, afhænger af dens grænseflade.
Agentbrug
Qwen dokumenterer værktøjskald i begge tilstande og anbefaler Qwen-Agent til de nødvendige skabeloner og parsing. Giv en agent en tydelig værktøjsbeskrivelse, tilladte input og et specifikt produkt, såsom at kontrollere angivne data før et rapportudkast. Modellen kan deltage i et værktøjsforløb; søgning, kodekørsel og eksterne handlinger kommer fra de værktøjer, applikationen forbinder. Værktøjsevne alene giver ikke modellen adgang til filer eller aktuelle oplysninger.
Lang tekst
Qwen beskriver en nativ kontekst på 32.768 tokens og validerer udvidelse til 131.072 med YaRN. Input, samtalehistorik, ræsonnering og svar konkurrerer om kontekstplads. Den leverede positionskonfiguration er 40.960; Qwen forklarer den som en allokering til typiske prompter og udvidet generering frem for en erstatning for den angivne native kontekst. Statisk YaRN kan reducere kvaliteten ved kortere input, så udvidelsen afhænger af konfiguration og behov. Til dokumentarbejde skal du mærke afsnit og bede svaret identificere de passager, der understøtter hver konklusion.
Generering og begrænsninger
Qwen anbefaler temperature 0.6, top_p 0.95, top_k 20 og min_p 0 til tænkning og 0.7, 0.8, 20 og 0 til direkte svar. Greedy decoding kan producere forringet ræsonnering eller gentaget tekst. Vejledningen anbefaler et genereringsbudget på 32.768 tokens til de fleste forespørgsler og 38.912 til usædvanligt komplekse problemer; dette er anbefalinger, ikke et særskilt fastlagt hårdt outputloft. Større presence penalties kan reducere gentagelser, men kan blande sprog eller sænke kvaliteten. Bevar kun endelige svar i samtalehistorikken. Angiv det påkrævede svarskema eksplicit, og kontrollér matematiske resultater, faktuelle konklusioner og genererede kodeændringer mod det angivne grundlag, før de bruges.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser qwen/qwen3-30b-a3b-fp8 | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrævet | Værdier og grænser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrævet | Værdier og grænser | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content som streng
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages, max_tokens |
Parameteroptional_controls | Kontraktstream |
Parametermaterial_types | Kontrakttext |
Parametertext_file_material | KontraktLæs det faktiske UTF-8-dokument, og indsæt teksten i det angivne input eller beskedens indholdsstreng. |
Livscyklus: synchronous_or_streamed
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
| Konfiguration | Takstplan | Beløb |
|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Beløb Input · Inputtokens $0.0002 / 1K tokens Output · Outputtokens $0.001 / 1K tokens Input · Cachelæsning $0 / 1K tokens Input · Cacheskrivning $0 / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
{\n "model": "qwen/qwen3-30b-a3b-fp8",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-30b-a3b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-30b-a3b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar alle indholdsblokke, ræsonnementssignaturer og faktiske værktøjsbrugs-ID’er. Saml alle SSE-blokdeltaer; den første tekstblok er ikke hele outputtet.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra qwen/qwen3-30b-a3b-fp8
Brug metodestierne vist ovenfor.
Teknisk eksempel på engelsk
Edit a multilingual service message\n\nTranslate into German for an office administrator: “The Atlas Link update is available, but installing it will restart the device. Save your work before starting.” Keep Atlas Link unchanged, preserve the restart warning and use a polite, concise tone. Return only the translated notice without adding a duration or maintenance window.A concise German notice retaining the product name, restart warning and save-work instruction.Check that the translation keeps the restart as a consequence of installation and does not add an unprovided downtime estimate.