Qwen3-32B-FP8 är den officiella FP8-kontrollpunkten för den täta språkmodellen Qwen3-32B. Tillverkaren beskriver matematik, logiskt resonemang, kodgenerering, kreativt skrivande, rollbaserad dialog och instruktionsföljning över flera turer. Familjen stöder över 100 språk och dialekter. Indata och utdata är text, och denna utgåva erbjuder både tänkande och direkta svar.
Modellen har 32,8 miljarder parametrar, varav 31,2 miljarder utanför inbäddningar, och 64 lager. Dess grouped-query attention innehåller 64 frågehuvuden och åtta nyckel/värde-huvuden. Det är en tät arkitektur, skild från Qwen3:s mixture-of-experts-utgåvor med totala och aktiverade parameterantal. FP8 ingår också i den exakta utgåveidentiteten. Ge en utvecklingsassistent en funktion, en specifikation och flera indata och begär sedan en förklaring av nuvarande beteende och en reviderad implementering som bevarar det överenskomna gränssnittet. För en redaktionell uppgift bör du ge den faktiska källan, den avsedda läsaren och terminologin i stället för att förlita dig på en ospecificerad bakgrund.
Tillverkarens snabbstart använder den avsedda chattmallen. Skilj uppgiften från det angivna materialet och specificera slutformen. En användbar analysbegäran kan jämföra två datavalideringsmetoder utifrån samma fältregler, identifiera de fall varje metod accepterar och returnera ett förslag på en valideringsfunktion. Ta med regler för saknade värden, representativa data och de felmeddelanden som krävs. För flerspråkigt innehåll bör du ge en ordlista och be om en översättning samt en lista över termer som behöver granskas. Denna förberedelse gör det genererade resultatet möjligt att kontrollera mot konkreta indata. Den publicerade integrationen förutsätter en Qwen3-kompatibel körmiljö; kortet varnar för att Transformers-versioner under 4.51.0 inte känner igen den arkitektur som krävs.
FP8-noteringen beskriver finkornig kvantisering med blockstorlek 128. Kontrollpunktens konfiguration identifierar också dess FP8-kvantiseringsinställningar. Tillverkaren anger Transformers, SGLang och vLLM för inferens men påpekar ett problem med distribuerad inferens med finkornig FP8 i Transformers och noterar att användning på flera enheter kan kräva CUDA_LAUNCH_BLOCKING=1. Håll detta kompatibilitetsförbehåll skilt från textförmågorna. Den kvantiserade identiteten fastställer inte i sig uppmätt latens, hårdvarubesparingar eller likvärdiga svar jämfört med den ursprungliga kontrollpunkten.
Tänkande är aktiverat som standard i den angivna mallen. En hård icke-tänkande inställning undertrycker resonemangsavsnittet. När tänkande förblir aktiverat är /think och /no_think mjuka kontroller för efterföljande turer enligt den senaste instruktionen; de kan inte åsidosätta en hård avstängning. Be om resonemang när modellen måste undersöka motstridiga villkor och använd sedan en direkt följdfråga för att presentera det accepterade resultatet kortfattat. Håll slutsvaret separat och använd slutsvaret, snarare än tidigare resonemang, som historik för senare turer. Med tänkande aktiverat behåller även en mjuk begäran om icke-tänkande ett resonemangsblock; innehållet kan vara tomt. Hård avstängning tar bort blocket.
Kortet omfattar agentanvändning och rekommenderar Qwen-Agent för verktygsformatering och parsning. En applikation ger verktygsdefinitionerna, kontrollerar anrop, utför dem och returnerar resultat. I valideringsexemplet kan en kontrollerad testkörning utvärdera föreslagen kod mot de angivna fallen. Be modellen sammanfatta faktiska godkända och underkända resultat och revidera ett namngivet villkor som misslyckas. Dess utdata bör inte behandla ett föreslaget anrop som belägg för körning. Bestäm verktygets tillåtna omfattning och utdatasfält innan arbetsflödet börjar. Qwen3-guiden beskriver även parallella verktygsanrop och anrop i flera steg, med argument representerade som objekt och resultat återförda till samtalet.
Det exakta kortet anger 32 768 token inbyggd kontext och 131 072 med YaRN. Utökning beror på konfigurationen; statisk skalning kan påverka kortare texter. Både indata och det genererade resultatet upptar sekvensbudgeten. Märk långa källavsnitt och tilldela tillräckligt med utrymme för den kod och förklaring som krävs. De publicerade utdatasexemplen och rekommenderade längderna fastställer inget universellt hårt utdatatak. Vid längre generering bör du utvärdera om resultatet förblir sammanhängande och uppfyller uppgiftens krav. Qwen3-dokumentationen diskuterar assistentmeddelanden på 38 912 token i tänkandeläge och 16 384 i icke-tänkande läge i sin förklaring av träningslängder och rekommenderar att kvaliteten vid längre generering utvärderas. Dessa siffror är skilda från det totala kontextfönstret och är inte ett hårt tak för en viss ändpunkt. Kortet förklarar också sin standardfördelning av positioner på 40 960 token som 8 192 för typiska prompter plus 32 768 för utdata; detta är tillverkarens konfigurationsvägledning, skild från den inbyggda träningskontexten och eventuella ändpunktsgränser.
De rekommenderade samplingsinställningarna är temperature 0.6, top-p 0.95, top-k 20 och min-p 0 för tänkande och 0.7, 0.8, 20 och 0 för direktläge. Tillverkaren varnar för girigt resonemang på grund av upprepning; hög presence penalty kan ibland blanda språk. Kräv ett slutsvar som kan granskas, exempelvis en beslutstabell, den färdiga funktionen och en lista över fall. Validera returnerade strukturerade fält, kontrollera beräkningar mot källan och kör kod i den avsedda miljön. Bevara den exakta FP8-identiteten när resultaten registreras.
", "aboutText": "Qwen3-32B-FP8 är den officiella FP8-kontrollpunkten för den täta språkmodellen Qwen3-32B. Tillverkaren beskriver matematik, logiskt resonemang, kodgenerering, kreativt skrivande, rollbaserad dialog och instruktionsföljning över flera turer. Familjen stöder över 100 språk och dialekter. Indata och utdata är text, och denna utgåva erbjuder både tänkande och direkta svar.\n\nModellen har 32,8 miljarder parametrar, varav 31,2 miljarder utanför inbäddningar, och 64 lager. Dess grouped-query attention innehåller 64 frågehuvuden och åtta nyckel/värde-huvuden. Det är en tät arkitektur, skild från Qwen3:s mixture-of-experts-utgåvor med totala och aktiverade parameterantal. FP8 ingår också i den exakta utgåveidentiteten. Ge en utvecklingsassistent en funktion, en specifikation och flera indata och begär sedan en förklaring av nuvarande beteende och en reviderad implementering som bevarar det överenskomna gränssnittet. För en redaktionell uppgift bör du ge den faktiska källan, den avsedda läsaren och terminologin i stället för att förlita dig på en ospecificerad bakgrund.\n\nTillverkarens snabbstart använder den avsedda chattmallen. Skilj uppgiften från det angivna materialet och specificera slutformen. En användbar analysbegäran kan jämföra två datavalideringsmetoder utifrån samma fältregler, identifiera de fall varje metod accepterar och returnera ett förslag på en valideringsfunktion. Ta med regler för saknade värden, representativa data och de felmeddelanden som krävs. För flerspråkigt innehåll bör du ge en ordlista och be om en översättning samt en lista över termer som behöver granskas. Denna förberedelse gör det genererade resultatet möjligt att kontrollera mot konkreta indata. Den publicerade integrationen förutsätter en Qwen3-kompatibel körmiljö; kortet varnar för att Transformers-versioner under 4.51.0 inte känner igen den arkitektur som krävs.\n\nFP8-noteringen beskriver finkornig kvantisering med blockstorlek 128. Kontrollpunktens konfiguration identifierar också dess FP8-kvantiseringsinställningar. Tillverkaren anger Transformers, SGLang och vLLM för inferens men påpekar ett problem med distribuerad inferens med finkornig FP8 i Transformers och noterar att användning på flera enheter kan kräva CUDA_LAUNCH_BLOCKING=1. Håll detta kompatibilitetsförbehåll skilt från textförmågorna. Den kvantiserade identiteten fastställer inte i sig uppmätt latens, hårdvarubesparingar eller likvärdiga svar jämfört med den ursprungliga kontrollpunkten.\n\nTänkande är aktiverat som standard i den angivna mallen. En hård icke-tänkande inställning undertrycker resonemangsavsnittet. När tänkande förblir aktiverat är /think och /no_think mjuka kontroller för efterföljande turer enligt den senaste instruktionen; de kan inte åsidosätta en hård avstängning. Be om resonemang när modellen måste undersöka motstridiga villkor och använd sedan en direkt följdfråga för att presentera det accepterade resultatet kortfattat. Håll slutsvaret separat och använd slutsvaret, snarare än tidigare resonemang, som historik för senare turer. Med tänkande aktiverat behåller även en mjuk begäran om icke-tänkande ett resonemangsblock; innehållet kan vara tomt. Hård avstängning tar bort blocket.\n\nKortet omfattar agentanvändning och rekommenderar Qwen-Agent för verktygsformatering och parsning. En applikation ger verktygsdefinitionerna, kontrollerar anrop, utför dem och returnerar resultat. I valideringsexemplet kan en kontrollerad testkörning utvärdera föreslagen kod mot de angivna fallen. Be modellen sammanfatta faktiska godkända och underkända resultat och revidera ett namngivet villkor som misslyckas. Dess utdata bör inte behandla ett föreslaget anrop som belägg för körning. Bestäm verktygets tillåtna omfattning och utdatasfält innan arbetsflödet börjar. Qwen3-guiden beskriver även parallella verktygsanrop och anrop i flera steg, med argument representerade som objekt och resultat återförda till samtalet.\n\nDet exakta kortet anger 32 768 token inbyggd kontext och 131 072 med YaRN. Utökning beror på konfigurationen; statisk skalning kan påverka kortare texter. Både indata och det genererade resultatet upptar sekvensbudgeten. Märk långa källavsnitt och tilldela tillräckligt med utrymme för den kod och förklaring som krävs. De publicerade utdatasexemplen och rekommenderade längderna fastställer inget universellt hårt utdatatak. Vid längre generering bör du utvärdera om resultatet förblir sammanhängande och uppfyller uppgiftens krav. Qwen3-dokumentationen diskuterar assistentmeddelanden på 38 912 token i tänkandeläge och 16 384 i icke-tänkande läge i sin förklaring av träningslängder och rekommenderar att kvaliteten vid längre generering utvärderas. Dessa siffror är skilda från det totala kontextfönstret och är inte ett hårt tak för en viss ändpunkt. Kortet förklarar också sin standardfördelning av positioner på 40 960 token som 8 192 för typiska prompter plus 32 768 för utdata; detta är tillverkarens konfigurationsvägledning, skild från den inbyggda träningskontexten och eventuella ändpunktsgränser.\n\nDe rekommenderade samplingsinställningarna är temperature 0.6, top-p 0.95, top-k 20 och min-p 0 för tänkande och 0.7, 0.8, 20 och 0 för direktläge. Tillverkaren varnar för girigt resonemang på grund av upprepning; hög presence penalty kan ibland blanda språk. Kräv ett slutsvar som kan granskas, exempelvis en beslutstabell, den färdiga funktionen och en lista över fall. Validera returnerade strukturerade fält, kontrollera beräkningar mot källan och kör kod i den avsedda miljön. Bevara den exakta FP8-identiteten när resultaten registreras.", "editorialOverlay": { "copy_fields": { "practical_html": "Tekniskt exempel på engelska
Compare missing-value validators\n\nCompare two Python validators for an optional quantity: A uses if not value: return None; B uses if value is None: return None. Requirement: None means omitted, integer zero is valid, and negative quantities are invalid. Explain each validator's behavior for None, 0 and -1, then propose a complete function with explicit validation errors.A three-input comparison table and a proposed function implementing the supplied rules.Check zero is preserved rather than treated as missing, and negatives are rejected explicitly.qwen/qwen3-32b-fp8Qwen3-32B-FP8 är den finkorniga FP8-utgåvan av Qwen3:s täta textmodell med 32,8 miljarder parametrar. Den kombinerar direkta och tänkande svar för flerspråkigt skrivande, kod och analys, med separata uppgifter om kontrollpunkt och kompatibilitet.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Qwen3-32B-FP8 är den officiella FP8-kontrollpunkten för den täta språkmodellen Qwen3-32B. Tillverkaren beskriver matematik, logiskt resonemang, kodgenerering, kreativt skrivande, rollbaserad dialog och instruktionsföljning över flera turer. Familjen stöder över 100 språk och dialekter. Indata och utdata är text, och denna utgåva erbjuder både tänkande och direkta svar.
Modellen har 32,8 miljarder parametrar, varav 31,2 miljarder utanför inbäddningar, och 64 lager. Dess grouped-query attention innehåller 64 frågehuvuden och åtta nyckel/värde-huvuden. Det är en tät arkitektur, skild från Qwen3:s mixture-of-experts-utgåvor med totala och aktiverade parameterantal. FP8 ingår också i den exakta utgåveidentiteten. Ge en utvecklingsassistent en funktion, en specifikation och flera indata och begär sedan en förklaring av nuvarande beteende och en reviderad implementering som bevarar det överenskomna gränssnittet. För en redaktionell uppgift bör du ge den faktiska källan, den avsedda läsaren och terminologin i stället för att förlita dig på en ospecificerad bakgrund.
Tillverkarens snabbstart använder den avsedda chattmallen. Skilj uppgiften från det angivna materialet och specificera slutformen. En användbar analysbegäran kan jämföra två datavalideringsmetoder utifrån samma fältregler, identifiera de fall varje metod accepterar och returnera ett förslag på en valideringsfunktion. Ta med regler för saknade värden, representativa data och de felmeddelanden som krävs. För flerspråkigt innehåll bör du ge en ordlista och be om en översättning samt en lista över termer som behöver granskas. Denna förberedelse gör det genererade resultatet möjligt att kontrollera mot konkreta indata. Den publicerade integrationen förutsätter en Qwen3-kompatibel körmiljö; kortet varnar för att Transformers-versioner under 4.51.0 inte känner igen den arkitektur som krävs.
FP8-noteringen beskriver finkornig kvantisering med blockstorlek 128. Kontrollpunktens konfiguration identifierar också dess FP8-kvantiseringsinställningar. Tillverkaren anger Transformers, SGLang och vLLM för inferens men påpekar ett problem med distribuerad inferens med finkornig FP8 i Transformers och noterar att användning på flera enheter kan kräva CUDA_LAUNCH_BLOCKING=1. Håll detta kompatibilitetsförbehåll skilt från textförmågorna. Den kvantiserade identiteten fastställer inte i sig uppmätt latens, hårdvarubesparingar eller likvärdiga svar jämfört med den ursprungliga kontrollpunkten.
Tänkande är aktiverat som standard i den angivna mallen. En hård icke-tänkande inställning undertrycker resonemangsavsnittet. När tänkande förblir aktiverat är /think och /no_think mjuka kontroller för efterföljande turer enligt den senaste instruktionen; de kan inte åsidosätta en hård avstängning. Be om resonemang när modellen måste undersöka motstridiga villkor och använd sedan en direkt följdfråga för att presentera det accepterade resultatet kortfattat. Håll slutsvaret separat och använd slutsvaret, snarare än tidigare resonemang, som historik för senare turer. Med tänkande aktiverat behåller även en mjuk begäran om icke-tänkande ett resonemangsblock; innehållet kan vara tomt. Hård avstängning tar bort blocket.
Kortet omfattar agentanvändning och rekommenderar Qwen-Agent för verktygsformatering och parsning. En applikation ger verktygsdefinitionerna, kontrollerar anrop, utför dem och returnerar resultat. I valideringsexemplet kan en kontrollerad testkörning utvärdera föreslagen kod mot de angivna fallen. Be modellen sammanfatta faktiska godkända och underkända resultat och revidera ett namngivet villkor som misslyckas. Dess utdata bör inte behandla ett föreslaget anrop som belägg för körning. Bestäm verktygets tillåtna omfattning och utdatasfält innan arbetsflödet börjar. Qwen3-guiden beskriver även parallella verktygsanrop och anrop i flera steg, med argument representerade som objekt och resultat återförda till samtalet.
Det exakta kortet anger 32 768 token inbyggd kontext och 131 072 med YaRN. Utökning beror på konfigurationen; statisk skalning kan påverka kortare texter. Både indata och det genererade resultatet upptar sekvensbudgeten. Märk långa källavsnitt och tilldela tillräckligt med utrymme för den kod och förklaring som krävs. De publicerade utdatasexemplen och rekommenderade längderna fastställer inget universellt hårt utdatatak. Vid längre generering bör du utvärdera om resultatet förblir sammanhängande och uppfyller uppgiftens krav. Qwen3-dokumentationen diskuterar assistentmeddelanden på 38 912 token i tänkandeläge och 16 384 i icke-tänkande läge i sin förklaring av träningslängder och rekommenderar att kvaliteten vid längre generering utvärderas. Dessa siffror är skilda från det totala kontextfönstret och är inte ett hårt tak för en viss ändpunkt. Kortet förklarar också sin standardfördelning av positioner på 40 960 token som 8 192 för typiska prompter plus 32 768 för utdata; detta är tillverkarens konfigurationsvägledning, skild från den inbyggda träningskontexten och eventuella ändpunktsgränser.
De rekommenderade samplingsinställningarna är temperature 0.6, top-p 0.95, top-k 20 och min-p 0 för tänkande och 0.7, 0.8, 20 och 0 för direktläge. Tillverkaren varnar för girigt resonemang på grund av upprepning; hög presence penalty kan ibland blanda språk. Kräv ett slutsvar som kan granskas, exempelvis en beslutstabell, den färdiga funktionen och en lista över fall. Validera returnerade strukturerade fält, kontrollera beräkningar mot källan och kör kod i den avsedda miljön. Bevara den exakta FP8-identiteten när resultaten registreras.
POST /v1/chat/completionstexttext| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser qwen/qwen3-32b-fp8 | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser Minsta antal objekt: 1 | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser Exempel: system, user, assistant, tool, function Villkor: Dessa roller representeras uttryckligen av källkodens kompatibilitetstyper; den exakta rolluppsättningen är fortfarande modellspecifik. Beror på modellen | Standard— |
Fältmessages[].content | Typstring|content_part[]|null | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_calls | Typtool_call[] | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_call_id | Typstring | KravValfritt | Värden & gränser Gäller när: role=tool; använd det faktiska returnerade ID:t | Standard— |
Fältmessages[].name | Typstring | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].reasoning_content | Typstring | KravValfritt | Värden & gränser Gäller när: Skicka tillbaka det faktiska returnerade resonemanget när modellen använder det | Standard— |
Fältmessages[].reasoning_details | Typobject|array | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmax_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältmax_completion_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Fältstream_options.include_usage | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttemperature | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttop_p | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältstop | Typstring|string[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools | Typfunction_tool[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools[].type | Typstring | KravValfritt | Värden & gränser function Beror på modellen | Standard— |
Fälttools[].function.name | Typstring | KravObligatoriskt | Värden & gränser Gäller när: verktyg av typen funktion har tillhandahållits | Standard— |
Fälttools[].function.description | Typstring | KravValfritt | Värden & gränser | Standard— |
Fälttools[].function.parameters | TypJSON_schema | KravValfritt | Värden & gränser | Standard— |
Fälttool_choice | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältparallel_tool_calls | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältresponse_format | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning_effort | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältservice_tier | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältinstructions | Typstring | KravValfritt | Värden & gränser Kompatibilitetsfält | Standard— |
Fältfunctions | Typfunction[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältfunction_call | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältprompt_cache_options | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmodalities | Typstring[] | KravValfritt | Värden & gränser text | Standard— |
Fältprovider | Typobject | KravValfritt | Värden & gränser Villkor: provider.options avvisas på denna Ultra-textrutt | Standard— |
Fältcache_control.ttl | Typstring | KravValfritt | Värden & gränser Villkor: 1h avvisas på de faktiska platserna för promptcache | Standard— |
Text · UTF8-text
messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages |
Parametermaterial_types | Avtaltext |
Parametermessages | Avtalmeddelandearray med strukturen role/content |
Parameterfile_material | Avtaldet faktiska UTF-8-dokumentet infogat som bokstavlig text; inget fil-ID härleds |
Parameteroptional_controls | Avtalstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalmodellspecifikt; användarens funktionsverktyg skiljer sig från värdbaserade verktyg |
Parameteroutput_modalities | Avtaltext |
Parameterhosted_operations | Avtalfalse |
Parametermultimodal_input_binding | Avtalnull |
Livscykel: synchronous_or_streamed
Skicka det exakta modell-ID:t tillsammans med messages.
Kontextlängden är inte en utdatagräns.
En textfil kan tillhandahålla bokstavlig text; bild-/ljud-/filobjektsindata kräver exakt bindning.
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
| Konfiguration | Prislista | Avgift |
|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Avgift Indata · Indatatoken $0.0002 / 1K token Utdata · Utdatatoken $0.001 / 1K token Indata · Cacheläsning $0 / 1K token Indata · Skrivning till cache $0 / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen3-32b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen3-32b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen3-32b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll varje svarsalternativ och dess innehåll/verktygsanrop/resonemang. Sätt i SSE samman deltauppdateringar efter svarsalternativets/verktygets index och behåll den slutliga avslutsorsaken och användningsuppgifterna.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältchoices[].index | Typinteger |
Fältchoices[].message.content | Typstring|null |
Fältchoices[].message.tool_calls | Typtool_call[] |
Fältchoices[].message.reasoning_content | Typstring |
Fältchoices[].message.reasoning_details | Typobject|array |
Fältchoices[].finish_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra qwen/qwen3-32b-fp8
Använd metodsökvägarna som visas ovan.
qwen/qwen3-32b-fp8Qwen3-32B-FP8 är den finkorniga FP8-utgåvan av Qwen3:s täta textmodell med 32,8 miljarder parametrar. Den kombinerar direkta och tänkande svar för flerspråkigt skrivande, kod och analys, med separata uppgifter om kontrollpunkt och kompatibilitet.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Qwen3-32B-FP8 är den officiella FP8-kontrollpunkten för den täta språkmodellen Qwen3-32B. Tillverkaren beskriver matematik, logiskt resonemang, kodgenerering, kreativt skrivande, rollbaserad dialog och instruktionsföljning över flera turer. Familjen stöder över 100 språk och dialekter. Indata och utdata är text, och denna utgåva erbjuder både tänkande och direkta svar.
Modellen har 32,8 miljarder parametrar, varav 31,2 miljarder utanför inbäddningar, och 64 lager. Dess grouped-query attention innehåller 64 frågehuvuden och åtta nyckel/värde-huvuden. Det är en tät arkitektur, skild från Qwen3:s mixture-of-experts-utgåvor med totala och aktiverade parameterantal. FP8 ingår också i den exakta utgåveidentiteten. Ge en utvecklingsassistent en funktion, en specifikation och flera indata och begär sedan en förklaring av nuvarande beteende och en reviderad implementering som bevarar det överenskomna gränssnittet. För en redaktionell uppgift bör du ge den faktiska källan, den avsedda läsaren och terminologin i stället för att förlita dig på en ospecificerad bakgrund.
Tillverkarens snabbstart använder den avsedda chattmallen. Skilj uppgiften från det angivna materialet och specificera slutformen. En användbar analysbegäran kan jämföra två datavalideringsmetoder utifrån samma fältregler, identifiera de fall varje metod accepterar och returnera ett förslag på en valideringsfunktion. Ta med regler för saknade värden, representativa data och de felmeddelanden som krävs. För flerspråkigt innehåll bör du ge en ordlista och be om en översättning samt en lista över termer som behöver granskas. Denna förberedelse gör det genererade resultatet möjligt att kontrollera mot konkreta indata. Den publicerade integrationen förutsätter en Qwen3-kompatibel körmiljö; kortet varnar för att Transformers-versioner under 4.51.0 inte känner igen den arkitektur som krävs.
FP8-noteringen beskriver finkornig kvantisering med blockstorlek 128. Kontrollpunktens konfiguration identifierar också dess FP8-kvantiseringsinställningar. Tillverkaren anger Transformers, SGLang och vLLM för inferens men påpekar ett problem med distribuerad inferens med finkornig FP8 i Transformers och noterar att användning på flera enheter kan kräva CUDA_LAUNCH_BLOCKING=1. Håll detta kompatibilitetsförbehåll skilt från textförmågorna. Den kvantiserade identiteten fastställer inte i sig uppmätt latens, hårdvarubesparingar eller likvärdiga svar jämfört med den ursprungliga kontrollpunkten.
Tänkande är aktiverat som standard i den angivna mallen. En hård icke-tänkande inställning undertrycker resonemangsavsnittet. När tänkande förblir aktiverat är /think och /no_think mjuka kontroller för efterföljande turer enligt den senaste instruktionen; de kan inte åsidosätta en hård avstängning. Be om resonemang när modellen måste undersöka motstridiga villkor och använd sedan en direkt följdfråga för att presentera det accepterade resultatet kortfattat. Håll slutsvaret separat och använd slutsvaret, snarare än tidigare resonemang, som historik för senare turer. Med tänkande aktiverat behåller även en mjuk begäran om icke-tänkande ett resonemangsblock; innehållet kan vara tomt. Hård avstängning tar bort blocket.
Kortet omfattar agentanvändning och rekommenderar Qwen-Agent för verktygsformatering och parsning. En applikation ger verktygsdefinitionerna, kontrollerar anrop, utför dem och returnerar resultat. I valideringsexemplet kan en kontrollerad testkörning utvärdera föreslagen kod mot de angivna fallen. Be modellen sammanfatta faktiska godkända och underkända resultat och revidera ett namngivet villkor som misslyckas. Dess utdata bör inte behandla ett föreslaget anrop som belägg för körning. Bestäm verktygets tillåtna omfattning och utdatasfält innan arbetsflödet börjar. Qwen3-guiden beskriver även parallella verktygsanrop och anrop i flera steg, med argument representerade som objekt och resultat återförda till samtalet.
Det exakta kortet anger 32 768 token inbyggd kontext och 131 072 med YaRN. Utökning beror på konfigurationen; statisk skalning kan påverka kortare texter. Både indata och det genererade resultatet upptar sekvensbudgeten. Märk långa källavsnitt och tilldela tillräckligt med utrymme för den kod och förklaring som krävs. De publicerade utdatasexemplen och rekommenderade längderna fastställer inget universellt hårt utdatatak. Vid längre generering bör du utvärdera om resultatet förblir sammanhängande och uppfyller uppgiftens krav. Qwen3-dokumentationen diskuterar assistentmeddelanden på 38 912 token i tänkandeläge och 16 384 i icke-tänkande läge i sin förklaring av träningslängder och rekommenderar att kvaliteten vid längre generering utvärderas. Dessa siffror är skilda från det totala kontextfönstret och är inte ett hårt tak för en viss ändpunkt. Kortet förklarar också sin standardfördelning av positioner på 40 960 token som 8 192 för typiska prompter plus 32 768 för utdata; detta är tillverkarens konfigurationsvägledning, skild från den inbyggda träningskontexten och eventuella ändpunktsgränser.
De rekommenderade samplingsinställningarna är temperature 0.6, top-p 0.95, top-k 20 och min-p 0 för tänkande och 0.7, 0.8, 20 och 0 för direktläge. Tillverkaren varnar för girigt resonemang på grund av upprepning; hög presence penalty kan ibland blanda språk. Kräv ett slutsvar som kan granskas, exempelvis en beslutstabell, den färdiga funktionen och en lista över fall. Validera returnerade strukturerade fält, kontrollera beräkningar mot källan och kör kod i den avsedda miljön. Bevara den exakta FP8-identiteten när resultaten registreras.
POST /v1/messagestextjson, sse| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser qwen/qwen3-32b-fp8 | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser user, assistant | Standard— |
Fältmessages[].content | Typstring | KravObligatoriskt | Värden & gränser | Standard— |
Fältmax_tokens | Typinteger | KravObligatoriskt | Värden & gränser | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Text · UTF-8-text
sträng i messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages, max_tokens |
Parameteroptional_controls | Avtalstream |
Parametermaterial_types | Avtaltext |
Parametertext_file_material | AvtalLäs det faktiska UTF-8-dokumentet och placera texten i det angivna input-fältet eller i strängen för meddelandets innehåll. |
Livscykel: synchronous_or_streamed
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
| Konfiguration | Prislista | Avgift |
|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Avgift Indata · Indatatoken $0.0002 / 1K token Utdata · Utdatatoken $0.001 / 1K token Indata · Cacheläsning $0 / 1K token Indata · Skrivning till cache $0 / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
{\n "model": "qwen/qwen3-32b-fp8",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-32b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-32b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll alla innehållsblock, resonemangssignaturer och faktiska ID:n för verktygsanvändning. Sätt samman alla SSE-deltauppdateringar för blocken; ett första textblock är inte hela utdata.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältid | Typstring |
Fältmodel | Typstring |
Fältcontent[] | Typtext|thinking|tool_use|other content block |
Fältstop_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra qwen/qwen3-32b-fp8
Använd metodsökvägarna som visas ovan.
Tekniskt exempel på engelska
Compare missing-value validators\n\nCompare two Python validators for an optional quantity: A uses if not value: return None; B uses if value is None: return None. Requirement: None means omitted, integer zero is valid, and negative quantities are invalid. Explain each validator's behavior for None, 0 and -1, then propose a complete function with explicit validation errors.A three-input comparison table and a proposed function implementing the supplied rules.Check zero is preserved rather than treated as missing, and negatives are rejected explicitly.