Qwen3-32B-FP8 er det offisielle FP8-sjekkpunktet for den tette språkmodellen Qwen3-32B. Produsenten beskriver matematikk, logisk resonnering, kodegenerering, kreativ skriving, rollebasert dialog og instruksjonsfølging over flere samtalerunder. Familien støtter mer enn 100 språk og dialekter. Inndata og utdata er tekst, og denne samme utgivelsen tilbyr både thinking og direkte svar.
Denne modellen har 32,8 milliarder parametere, inkludert 31,2 milliarder utenom embeddings, og 64 lag. Dens grouped-query attention har 64 spørringshoder og åtte nøkkel-/verdihoder. Arkitekturen er tett, og skiller seg fra Qwen3s mixture-of-experts-utgivelser med egne tall for totale og aktiverte parametere. FP8 inngår også i den aktuelle utgavens identitet. For en utviklingsassistent bør du gi en funksjon, en spesifikasjon og flere inndata, og deretter be om en forklaring av den nåværende oppførselen og en revidert implementering som bevarer det avtalte grensesnittet. For en redaksjonell oppgave bør du oppgi den faktiske kilden, den tiltenkte leseren og terminologien fremfor å basere deg på en uspesifisert bakgrunn.
Produsentens hurtigstart bruker den angitte samtalemalen. Skill oppgaven fra materialet som legges ved, og spesifiser sluttformatet. En nyttig analyseforespørsel kan sammenligne to tilnærminger til datavalidering med de samme feltreglene, identifisere tilfellene hver tilnærming godtar, og returnere et forslag til en valideringsfunksjon. Ta med regler for manglende verdier, representative data og de nødvendige feilmeldingene. For flerspråklig innhold bør du gi en ordliste og be om en oversettelse samt en liste over begreper som trenger gjennomgang. Slik forberedelse gjør det mulig å kontrollere det genererte resultatet mot konkrete inndata. Den publiserte integrasjonen forutsetter et kjøremiljø som kjenner Qwen3; modellkortet advarer om at Transformers-versjoner under 4.51.0 ikke gjenkjenner den nødvendige arkitekturen.
FP8-merknaden beskriver finkornet kvantisering med blokkstørrelse 128. Sjekkpunktets konfigurasjon angir også oppsettet for FP8-kvantisering. Produsenten oppgir Transformers, SGLang og vLLM som alternativer for inferens, men peker på et problem med distribuert inferens og finkornet FP8 i Transformers og påpeker at bruk av flere enheter kan kreve CUDA_LAUNCH_BLOCKING=1. Hold dette kompatibilitetsforbeholdet atskilt fra tekstegenskapene. Den kvantiserte identiteten fastslår ikke i seg selv målt latenstid, maskinvarebesparelser eller at svarene er likeverdige med dem fra det opprinnelige sjekkpunktet.
Thinking er aktivert som standard i den medfølgende malen. En hard non-thinking-innstilling undertrykker resonneringsdelen. Når thinking fortsatt er aktivert, er /think og /no_think myke kontroller for påfølgende samtalerunder, der den siste instruksjonen gjelder; de kan ikke overstyre en hard deaktivering. Be om resonnering når modellen må undersøke motstridende betingelser, og bruk deretter en direkte oppfølgingsforespørsel for å presentere det aksepterte resultatet i et kortfattet format. Hold sluttsvaret separat, og bruk sluttsvaret, fremfor tidligere resonnering, som historikk for senere samtalerunder. Når thinking er aktivert, beholder selv en myk non-thinking-forespørsel en resonneringsblokk; innholdet kan være tomt. Hard deaktivering fjerner denne blokken.
Modellkortet omfatter bruk som agent og anbefaler Qwen-Agent for formatering og tolking av verktøykall. En applikasjon leverer verktøydefinisjonene, kontrollerer kallene, utfører dem og returnerer resultater. I valideringseksemplet kan en kontrollert testkjører evaluere foreslått kode mot de oppgitte tilfellene. Be modellen oppsummere de faktiske resultatene for bestått/ikke bestått og revidere en navngitt betingelse som ikke ble oppfylt. Utdataene bør ikke behandle en foreslått verktøyinvokasjon som bevis på utførelse. Bestem verktøyets tillatte omfang og utdatafelter før du starter arbeidsflyten. Qwen3-veiledningen beskriver også parallelle verktøykall og verktøykall i flere steg, med argumenter representert som objekter og resultater ført tilbake til samtalen.
Det aktuelle modellkortet oppgir 32 768 native konteksttokener og 131 072 med YaRN. Utvidelsen avhenger av konfigurasjonen; statisk skalering kan påvirke kortere tekster. Både inndata og det genererte resultatet bruker av sekvensbudsjettet. Merk lange kildedeler, og sett av nok plass til den nødvendige koden og forklaringen. De publiserte utdataeksemplene og anbefalte lengdene fastslår ingen universell absolutt grense for utdata. Ved lengre generering bør du evaluere om resultatet fortsatt er sammenhengende og oppfyller oppgavens krav. Qwen3-dokumentasjonen omtaler assistentmeldinger på 38 912 tokener i thinking-modus og 16 384 i non-thinking-modus i forklaringen av treningslengde, og anbefaler å evaluere kvaliteten ved lengre generering. Disse tallene er forskjellige fra det samlede kontekstvinduet og er ikke en absolutt grense for et bestemt endepunkt. Modellkortet forklarer også standardfordelingen på 40 960 tokenposisjoner som 8 192 til typiske prompter pluss 32 768 til utdata; dette er produsentens konfigurasjonsveiledning, atskilt fra den native treningskonteksten og eventuelle endepunktgrenser.
De anbefalte samplingsinnstillingene er temperature 0,6, top-p 0,95, top-k 20 og min-p 0 for thinking, og 0,7, 0,8, 20 og 0 for direkte modus. Produsenten advarer mot greedy-dekoding ved resonnering på grunn av gjentakelser; høye presence penalties kan noen ganger føre til språkblanding. Krev et sluttsvar som kan kontrolleres, for eksempel en beslutningstabell, den ferdige funksjonen og en liste over tilfeller. Valider strukturerte felt som returneres, kontroller beregninger mot kilden og kjør kode i det tiltenkte miljøet. Behold denne nøyaktige FP8-identiteten når du registrerer resultatene.
", "aboutText": "Qwen3-32B-FP8 er det offisielle FP8-sjekkpunktet for den tette språkmodellen Qwen3-32B. Produsenten beskriver matematikk, logisk resonnering, kodegenerering, kreativ skriving, rollebasert dialog og instruksjonsfølging over flere samtalerunder. Familien støtter mer enn 100 språk og dialekter. Inndata og utdata er tekst, og denne samme utgivelsen tilbyr både thinking og direkte svar.\n\nDenne modellen har 32,8 milliarder parametere, inkludert 31,2 milliarder utenom embeddings, og 64 lag. Dens grouped-query attention har 64 spørringshoder og åtte nøkkel-/verdihoder. Arkitekturen er tett, og skiller seg fra Qwen3s mixture-of-experts-utgivelser med egne tall for totale og aktiverte parametere. FP8 inngår også i den aktuelle utgavens identitet. For en utviklingsassistent bør du gi en funksjon, en spesifikasjon og flere inndata, og deretter be om en forklaring av den nåværende oppførselen og en revidert implementering som bevarer det avtalte grensesnittet. For en redaksjonell oppgave bør du oppgi den faktiske kilden, den tiltenkte leseren og terminologien fremfor å basere deg på en uspesifisert bakgrunn.\n\nProdusentens hurtigstart bruker den angitte samtalemalen. Skill oppgaven fra materialet som legges ved, og spesifiser sluttformatet. En nyttig analyseforespørsel kan sammenligne to tilnærminger til datavalidering med de samme feltreglene, identifisere tilfellene hver tilnærming godtar, og returnere et forslag til en valideringsfunksjon. Ta med regler for manglende verdier, representative data og de nødvendige feilmeldingene. For flerspråklig innhold bør du gi en ordliste og be om en oversettelse samt en liste over begreper som trenger gjennomgang. Slik forberedelse gjør det mulig å kontrollere det genererte resultatet mot konkrete inndata. Den publiserte integrasjonen forutsetter et kjøremiljø som kjenner Qwen3; modellkortet advarer om at Transformers-versjoner under 4.51.0 ikke gjenkjenner den nødvendige arkitekturen.\n\nFP8-merknaden beskriver finkornet kvantisering med blokkstørrelse 128. Sjekkpunktets konfigurasjon angir også oppsettet for FP8-kvantisering. Produsenten oppgir Transformers, SGLang og vLLM som alternativer for inferens, men peker på et problem med distribuert inferens og finkornet FP8 i Transformers og påpeker at bruk av flere enheter kan kreve CUDA_LAUNCH_BLOCKING=1. Hold dette kompatibilitetsforbeholdet atskilt fra tekstegenskapene. Den kvantiserte identiteten fastslår ikke i seg selv målt latenstid, maskinvarebesparelser eller at svarene er likeverdige med dem fra det opprinnelige sjekkpunktet.\n\nThinking er aktivert som standard i den medfølgende malen. En hard non-thinking-innstilling undertrykker resonneringsdelen. Når thinking fortsatt er aktivert, er /think og /no_think myke kontroller for påfølgende samtalerunder, der den siste instruksjonen gjelder; de kan ikke overstyre en hard deaktivering. Be om resonnering når modellen må undersøke motstridende betingelser, og bruk deretter en direkte oppfølgingsforespørsel for å presentere det aksepterte resultatet i et kortfattet format. Hold sluttsvaret separat, og bruk sluttsvaret, fremfor tidligere resonnering, som historikk for senere samtalerunder. Når thinking er aktivert, beholder selv en myk non-thinking-forespørsel en resonneringsblokk; innholdet kan være tomt. Hard deaktivering fjerner denne blokken.\n\nModellkortet omfatter bruk som agent og anbefaler Qwen-Agent for formatering og tolking av verktøykall. En applikasjon leverer verktøydefinisjonene, kontrollerer kallene, utfører dem og returnerer resultater. I valideringseksemplet kan en kontrollert testkjører evaluere foreslått kode mot de oppgitte tilfellene. Be modellen oppsummere de faktiske resultatene for bestått/ikke bestått og revidere en navngitt betingelse som ikke ble oppfylt. Utdataene bør ikke behandle en foreslått verktøyinvokasjon som bevis på utførelse. Bestem verktøyets tillatte omfang og utdatafelter før du starter arbeidsflyten. Qwen3-veiledningen beskriver også parallelle verktøykall og verktøykall i flere steg, med argumenter representert som objekter og resultater ført tilbake til samtalen.\n\nDet aktuelle modellkortet oppgir 32 768 native konteksttokener og 131 072 med YaRN. Utvidelsen avhenger av konfigurasjonen; statisk skalering kan påvirke kortere tekster. Både inndata og det genererte resultatet bruker av sekvensbudsjettet. Merk lange kildedeler, og sett av nok plass til den nødvendige koden og forklaringen. De publiserte utdataeksemplene og anbefalte lengdene fastslår ingen universell absolutt grense for utdata. Ved lengre generering bør du evaluere om resultatet fortsatt er sammenhengende og oppfyller oppgavens krav. Qwen3-dokumentasjonen omtaler assistentmeldinger på 38 912 tokener i thinking-modus og 16 384 i non-thinking-modus i forklaringen av treningslengde, og anbefaler å evaluere kvaliteten ved lengre generering. Disse tallene er forskjellige fra det samlede kontekstvinduet og er ikke en absolutt grense for et bestemt endepunkt. Modellkortet forklarer også standardfordelingen på 40 960 tokenposisjoner som 8 192 til typiske prompter pluss 32 768 til utdata; dette er produsentens konfigurasjonsveiledning, atskilt fra den native treningskonteksten og eventuelle endepunktgrenser.\n\nDe anbefalte samplingsinnstillingene er temperature 0,6, top-p 0,95, top-k 20 og min-p 0 for thinking, og 0,7, 0,8, 20 og 0 for direkte modus. Produsenten advarer mot greedy-dekoding ved resonnering på grunn av gjentakelser; høye presence penalties kan noen ganger føre til språkblanding. Krev et sluttsvar som kan kontrolleres, for eksempel en beslutningstabell, den ferdige funksjonen og en liste over tilfeller. Valider strukturerte felt som returneres, kontroller beregninger mot kilden og kjør kode i det tiltenkte miljøet. Behold denne nøyaktige FP8-identiteten når du registrerer resultatene.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Compare missing-value validators\n\nCompare two Python validators for an optional quantity: A uses if not value: return None; B uses if value is None: return None. Requirement: None means omitted, integer zero is valid, and negative quantities are invalid. Explain each validator's behavior for None, 0 and -1, then propose a complete function with explicit validation errors.A three-input comparison table and a proposed function implementing the supplied rules.Check zero is preserved rather than treated as missing, and negatives are rejected explicitly.qwen/qwen3-32b-fp8Qwen3-32B-FP8 er den finkornede FP8-utgaven av Qwen3s tette tekstmodell med 32,8 milliarder parametere. Den kombinerer direkte svar og thinking-svar for flerspråklig skriving, kode og analyse, med egne detaljer om sjekkpunkt og kompatibilitet.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Qwen3-32B-FP8 er det offisielle FP8-sjekkpunktet for den tette språkmodellen Qwen3-32B. Produsenten beskriver matematikk, logisk resonnering, kodegenerering, kreativ skriving, rollebasert dialog og instruksjonsfølging over flere samtalerunder. Familien støtter mer enn 100 språk og dialekter. Inndata og utdata er tekst, og denne samme utgivelsen tilbyr både thinking og direkte svar.
Denne modellen har 32,8 milliarder parametere, inkludert 31,2 milliarder utenom embeddings, og 64 lag. Dens grouped-query attention har 64 spørringshoder og åtte nøkkel-/verdihoder. Arkitekturen er tett, og skiller seg fra Qwen3s mixture-of-experts-utgivelser med egne tall for totale og aktiverte parametere. FP8 inngår også i den aktuelle utgavens identitet. For en utviklingsassistent bør du gi en funksjon, en spesifikasjon og flere inndata, og deretter be om en forklaring av den nåværende oppførselen og en revidert implementering som bevarer det avtalte grensesnittet. For en redaksjonell oppgave bør du oppgi den faktiske kilden, den tiltenkte leseren og terminologien fremfor å basere deg på en uspesifisert bakgrunn.
Produsentens hurtigstart bruker den angitte samtalemalen. Skill oppgaven fra materialet som legges ved, og spesifiser sluttformatet. En nyttig analyseforespørsel kan sammenligne to tilnærminger til datavalidering med de samme feltreglene, identifisere tilfellene hver tilnærming godtar, og returnere et forslag til en valideringsfunksjon. Ta med regler for manglende verdier, representative data og de nødvendige feilmeldingene. For flerspråklig innhold bør du gi en ordliste og be om en oversettelse samt en liste over begreper som trenger gjennomgang. Slik forberedelse gjør det mulig å kontrollere det genererte resultatet mot konkrete inndata. Den publiserte integrasjonen forutsetter et kjøremiljø som kjenner Qwen3; modellkortet advarer om at Transformers-versjoner under 4.51.0 ikke gjenkjenner den nødvendige arkitekturen.
FP8-merknaden beskriver finkornet kvantisering med blokkstørrelse 128. Sjekkpunktets konfigurasjon angir også oppsettet for FP8-kvantisering. Produsenten oppgir Transformers, SGLang og vLLM som alternativer for inferens, men peker på et problem med distribuert inferens og finkornet FP8 i Transformers og påpeker at bruk av flere enheter kan kreve CUDA_LAUNCH_BLOCKING=1. Hold dette kompatibilitetsforbeholdet atskilt fra tekstegenskapene. Den kvantiserte identiteten fastslår ikke i seg selv målt latenstid, maskinvarebesparelser eller at svarene er likeverdige med dem fra det opprinnelige sjekkpunktet.
Thinking er aktivert som standard i den medfølgende malen. En hard non-thinking-innstilling undertrykker resonneringsdelen. Når thinking fortsatt er aktivert, er /think og /no_think myke kontroller for påfølgende samtalerunder, der den siste instruksjonen gjelder; de kan ikke overstyre en hard deaktivering. Be om resonnering når modellen må undersøke motstridende betingelser, og bruk deretter en direkte oppfølgingsforespørsel for å presentere det aksepterte resultatet i et kortfattet format. Hold sluttsvaret separat, og bruk sluttsvaret, fremfor tidligere resonnering, som historikk for senere samtalerunder. Når thinking er aktivert, beholder selv en myk non-thinking-forespørsel en resonneringsblokk; innholdet kan være tomt. Hard deaktivering fjerner denne blokken.
Modellkortet omfatter bruk som agent og anbefaler Qwen-Agent for formatering og tolking av verktøykall. En applikasjon leverer verktøydefinisjonene, kontrollerer kallene, utfører dem og returnerer resultater. I valideringseksemplet kan en kontrollert testkjører evaluere foreslått kode mot de oppgitte tilfellene. Be modellen oppsummere de faktiske resultatene for bestått/ikke bestått og revidere en navngitt betingelse som ikke ble oppfylt. Utdataene bør ikke behandle en foreslått verktøyinvokasjon som bevis på utførelse. Bestem verktøyets tillatte omfang og utdatafelter før du starter arbeidsflyten. Qwen3-veiledningen beskriver også parallelle verktøykall og verktøykall i flere steg, med argumenter representert som objekter og resultater ført tilbake til samtalen.
Det aktuelle modellkortet oppgir 32 768 native konteksttokener og 131 072 med YaRN. Utvidelsen avhenger av konfigurasjonen; statisk skalering kan påvirke kortere tekster. Både inndata og det genererte resultatet bruker av sekvensbudsjettet. Merk lange kildedeler, og sett av nok plass til den nødvendige koden og forklaringen. De publiserte utdataeksemplene og anbefalte lengdene fastslår ingen universell absolutt grense for utdata. Ved lengre generering bør du evaluere om resultatet fortsatt er sammenhengende og oppfyller oppgavens krav. Qwen3-dokumentasjonen omtaler assistentmeldinger på 38 912 tokener i thinking-modus og 16 384 i non-thinking-modus i forklaringen av treningslengde, og anbefaler å evaluere kvaliteten ved lengre generering. Disse tallene er forskjellige fra det samlede kontekstvinduet og er ikke en absolutt grense for et bestemt endepunkt. Modellkortet forklarer også standardfordelingen på 40 960 tokenposisjoner som 8 192 til typiske prompter pluss 32 768 til utdata; dette er produsentens konfigurasjonsveiledning, atskilt fra den native treningskonteksten og eventuelle endepunktgrenser.
De anbefalte samplingsinnstillingene er temperature 0,6, top-p 0,95, top-k 20 og min-p 0 for thinking, og 0,7, 0,8, 20 og 0 for direkte modus. Produsenten advarer mot greedy-dekoding ved resonnering på grunn av gjentakelser; høye presence penalties kan noen ganger føre til språkblanding. Krev et sluttsvar som kan kontrolleres, for eksempel en beslutningstabell, den ferdige funksjonen og en liste over tilfeller. Valider strukturerte felt som returneres, kontroller beregninger mot kilden og kjør kode i det tiltenkte miljøet. Behold denne nøyaktige FP8-identiteten når du registrerer resultatene.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser qwen/qwen3-32b-fp8 | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser Eksempler: system, user, assistant, tool, function Vilkår: Disse rollene representeres eksplisitt av kompatibilitetstyper i kildekoden; det eksakte rollesettet for modellen er fortsatt modellspesifikt. Avhenger av modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfritt | Verdier & grenser Gjelder når: role=tool; bruk faktisk returnert ID | Standard— |
Feltmessages[].name | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfritt | Verdier & grenser Gjelder når: Send den faktisk returnerte resonneringen tilbake der denne modellen bruker den | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttemperature | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttop_p | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools[].type | Typestring | KravValgfritt | Verdier & grenser function Avhenger av modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrevd | Verdier & grenser Gjelder når: funksjonsverktøy oppgitt | Standard— |
Felttools[].function.description | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfritt | Verdier & grenser | Standard— |
Felttool_choice | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltservice_tier | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltinstructions | Typestring | KravValgfritt | Verdier & grenser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfritt | Verdier & grenser text | Standard— |
Feltprovider | Typeobject | KravValgfritt | Verdier & grenser Vilkår: provider.options avvises på denne Ultra-tekstruten | Standard— |
Feltcache_control.ttl | Typestring | KravValgfritt | Verdier & grenser Vilkår: 1h avvises på faktiske steder for mellomlagring av ledetekster | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages |
Parametermaterial_types | Avtaletext |
Parametermessages | Avtalemeldingstabell med role/content-struktur |
Parameterfile_material | Avtalefaktisk UTF-8-dokument satt inn som bokstavelig tekst; ingen fil-ID utledes |
Parameteroptional_controls | Avtalestream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalemodellspesifikt; brukerens funksjonsverktøy skiller seg fra driftede verktøy |
Parameteroutput_modalities | Avtaletext |
Parameterhosted_operations | Avtalefalse |
Parametermultimodal_input_binding | Avtalenull |
Livssyklus: synchronous_or_streamed
Send eksakt modell-ID sammen med messages.
Kontekstlengde er ikke en outputgrense.
En tekstfil kan levere bokstavelig tekst; bilde-, lyd- og filobjektinput trenger eksakt binding.
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
| Konfigurasjon | Prisplan | Kostnad |
|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Kostnad Inndata · Inngående tokener $0.0002 / 1K tokener Utdata · Utgående tokener $0.001 / 1K tokener Inndata · Lesing fra hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen3-32b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen3-32b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen3-32b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold hvert svaralternativ med innhold, verktøykall og resonnering. Sett sammen endringer i SSE etter svaralternativets/verktøyets indeks, og behold endelig avslutningsgrunn og bruksdata.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra qwen/qwen3-32b-fp8
Bruk metodestiene som vises ovenfor.
qwen/qwen3-32b-fp8Qwen3-32B-FP8 er den finkornede FP8-utgaven av Qwen3s tette tekstmodell med 32,8 milliarder parametere. Den kombinerer direkte svar og thinking-svar for flerspråklig skriving, kode og analyse, med egne detaljer om sjekkpunkt og kompatibilitet.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Qwen3-32B-FP8 er det offisielle FP8-sjekkpunktet for den tette språkmodellen Qwen3-32B. Produsenten beskriver matematikk, logisk resonnering, kodegenerering, kreativ skriving, rollebasert dialog og instruksjonsfølging over flere samtalerunder. Familien støtter mer enn 100 språk og dialekter. Inndata og utdata er tekst, og denne samme utgivelsen tilbyr både thinking og direkte svar.
Denne modellen har 32,8 milliarder parametere, inkludert 31,2 milliarder utenom embeddings, og 64 lag. Dens grouped-query attention har 64 spørringshoder og åtte nøkkel-/verdihoder. Arkitekturen er tett, og skiller seg fra Qwen3s mixture-of-experts-utgivelser med egne tall for totale og aktiverte parametere. FP8 inngår også i den aktuelle utgavens identitet. For en utviklingsassistent bør du gi en funksjon, en spesifikasjon og flere inndata, og deretter be om en forklaring av den nåværende oppførselen og en revidert implementering som bevarer det avtalte grensesnittet. For en redaksjonell oppgave bør du oppgi den faktiske kilden, den tiltenkte leseren og terminologien fremfor å basere deg på en uspesifisert bakgrunn.
Produsentens hurtigstart bruker den angitte samtalemalen. Skill oppgaven fra materialet som legges ved, og spesifiser sluttformatet. En nyttig analyseforespørsel kan sammenligne to tilnærminger til datavalidering med de samme feltreglene, identifisere tilfellene hver tilnærming godtar, og returnere et forslag til en valideringsfunksjon. Ta med regler for manglende verdier, representative data og de nødvendige feilmeldingene. For flerspråklig innhold bør du gi en ordliste og be om en oversettelse samt en liste over begreper som trenger gjennomgang. Slik forberedelse gjør det mulig å kontrollere det genererte resultatet mot konkrete inndata. Den publiserte integrasjonen forutsetter et kjøremiljø som kjenner Qwen3; modellkortet advarer om at Transformers-versjoner under 4.51.0 ikke gjenkjenner den nødvendige arkitekturen.
FP8-merknaden beskriver finkornet kvantisering med blokkstørrelse 128. Sjekkpunktets konfigurasjon angir også oppsettet for FP8-kvantisering. Produsenten oppgir Transformers, SGLang og vLLM som alternativer for inferens, men peker på et problem med distribuert inferens og finkornet FP8 i Transformers og påpeker at bruk av flere enheter kan kreve CUDA_LAUNCH_BLOCKING=1. Hold dette kompatibilitetsforbeholdet atskilt fra tekstegenskapene. Den kvantiserte identiteten fastslår ikke i seg selv målt latenstid, maskinvarebesparelser eller at svarene er likeverdige med dem fra det opprinnelige sjekkpunktet.
Thinking er aktivert som standard i den medfølgende malen. En hard non-thinking-innstilling undertrykker resonneringsdelen. Når thinking fortsatt er aktivert, er /think og /no_think myke kontroller for påfølgende samtalerunder, der den siste instruksjonen gjelder; de kan ikke overstyre en hard deaktivering. Be om resonnering når modellen må undersøke motstridende betingelser, og bruk deretter en direkte oppfølgingsforespørsel for å presentere det aksepterte resultatet i et kortfattet format. Hold sluttsvaret separat, og bruk sluttsvaret, fremfor tidligere resonnering, som historikk for senere samtalerunder. Når thinking er aktivert, beholder selv en myk non-thinking-forespørsel en resonneringsblokk; innholdet kan være tomt. Hard deaktivering fjerner denne blokken.
Modellkortet omfatter bruk som agent og anbefaler Qwen-Agent for formatering og tolking av verktøykall. En applikasjon leverer verktøydefinisjonene, kontrollerer kallene, utfører dem og returnerer resultater. I valideringseksemplet kan en kontrollert testkjører evaluere foreslått kode mot de oppgitte tilfellene. Be modellen oppsummere de faktiske resultatene for bestått/ikke bestått og revidere en navngitt betingelse som ikke ble oppfylt. Utdataene bør ikke behandle en foreslått verktøyinvokasjon som bevis på utførelse. Bestem verktøyets tillatte omfang og utdatafelter før du starter arbeidsflyten. Qwen3-veiledningen beskriver også parallelle verktøykall og verktøykall i flere steg, med argumenter representert som objekter og resultater ført tilbake til samtalen.
Det aktuelle modellkortet oppgir 32 768 native konteksttokener og 131 072 med YaRN. Utvidelsen avhenger av konfigurasjonen; statisk skalering kan påvirke kortere tekster. Både inndata og det genererte resultatet bruker av sekvensbudsjettet. Merk lange kildedeler, og sett av nok plass til den nødvendige koden og forklaringen. De publiserte utdataeksemplene og anbefalte lengdene fastslår ingen universell absolutt grense for utdata. Ved lengre generering bør du evaluere om resultatet fortsatt er sammenhengende og oppfyller oppgavens krav. Qwen3-dokumentasjonen omtaler assistentmeldinger på 38 912 tokener i thinking-modus og 16 384 i non-thinking-modus i forklaringen av treningslengde, og anbefaler å evaluere kvaliteten ved lengre generering. Disse tallene er forskjellige fra det samlede kontekstvinduet og er ikke en absolutt grense for et bestemt endepunkt. Modellkortet forklarer også standardfordelingen på 40 960 tokenposisjoner som 8 192 til typiske prompter pluss 32 768 til utdata; dette er produsentens konfigurasjonsveiledning, atskilt fra den native treningskonteksten og eventuelle endepunktgrenser.
De anbefalte samplingsinnstillingene er temperature 0,6, top-p 0,95, top-k 20 og min-p 0 for thinking, og 0,7, 0,8, 20 og 0 for direkte modus. Produsenten advarer mot greedy-dekoding ved resonnering på grunn av gjentakelser; høye presence penalties kan noen ganger føre til språkblanding. Krev et sluttsvar som kan kontrolleres, for eksempel en beslutningstabell, den ferdige funksjonen og en liste over tilfeller. Valider strukturerte felt som returneres, kontroller beregninger mot kilden og kjør kode i det tiltenkte miljøet. Behold denne nøyaktige FP8-identiteten når du registrerer resultatene.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser qwen/qwen3-32b-fp8 | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrevd | Verdier & grenser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrevd | Verdier & grenser | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content-streng
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages, max_tokens |
Parameteroptional_controls | Avtalestream |
Parametermaterial_types | Avtaletext |
Parametertext_file_material | AvtaleLes det faktiske UTF-8-dokumentet og legg teksten i den angitte input- eller meldingsinnholdsstrengen. |
Livssyklus: synchronous_or_streamed
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
| Konfigurasjon | Prisplan | Kostnad |
|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Kostnad Inndata · Inngående tokener $0.0002 / 1K tokener Utdata · Utgående tokener $0.001 / 1K tokener Inndata · Lesing fra hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
{\n "model": "qwen/qwen3-32b-fp8",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-32b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-32b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold alle innholdsblokker, resonneringssignaturer og faktiske ID-er for verktøybruk. Sett sammen alle SSE-blokkendringer; den første tekstblokken er ikke hele resultatet.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra qwen/qwen3-32b-fp8
Bruk metodestiene som vises ovenfor.
Teknisk eksempel på engelsk
Compare missing-value validators\n\nCompare two Python validators for an optional quantity: A uses if not value: return None; B uses if value is None: return None. Requirement: None means omitted, integer zero is valid, and negative quantities are invalid. Explain each validator's behavior for None, 0 and -1, then propose a complete function with explicit validation errors.A three-input comparison table and a proposed function implementing the supplied rules.Check zero is preserved rather than treated as missing, and negatives are rejected explicitly.