Qwen3-235B-A22B-FP8 er den officielle FP8-udgave af Qwen3-235B-A22B. Dens beskrevne tekstegenskaber omfatter matematisk og logisk ræsonnering, kodegenerering, kreativ skrivning, rollebaseret dialog og instruktionsfølgning over flere ture på mere end 100 sprog og dialekter. Den kombinerer tænkning og direkte svar. Brug den til en opgave, der samler flere begrænsninger, såsom at sammenligne to implementeringer med den samme specifikation og omsætte sammenligningen til et konkret ændringsforslag.
Den underliggende arkitektur er mixture-of-experts: i alt 235 milliarder parametre, 22 milliarder aktive under behandling, 94 lag og 128 eksperter, hvoraf otte vælges pr. token. Grouped-query attention bruger 64 query-hoveder og fire key/value-hoveder. FP8-suffikset identificerer et særskilt udgivet checkpoint, ikke en ekstra svarmodalitet eller et andet parameterantal. Modellen modtager tekst og genererer tekst. Giv en kodegennemgangsassistent specifikationen, de relevante kildefiler og den forventede adfærd; bed om en beslutningstabel, den valgte ændring og eksempler, der viser det tilsigtede resultat.
Producentens indledende forløb formaterer kilde og instruktioner som en samtale. Til en dokumentsammenligning skal du mærke versionerne, angive hver kildes autoritet og identificere de krav, der skal forblive uændrede. Til et matematisk spørgsmål skal du angive hele opgaveteksten og den ønskede form for det endelige svar. Til en implementeringsopgave skal du specificere sproget, den faktiske inputstruktur, fejltilfældet og de grænseflader, der skal bevares. Gør det endelige produkt eksplicit, så et langt svar stadig løser den oprindelige anmodning. Den offentliggjorte integration forventer et Qwen3-kompatibelt kørselsmiljø; kortet advarer om, at Transformers-versioner under 4.51.0 ikke genkender den krævede arkitektur.
Denne udgave har en særskilt FP8-note. Checkpointet bruger finkornet FP8-kvantisering med blokstørrelse 128; den offentliggjorte konfiguration registrerer kvantiseringsmetoden. Producenten angiver Transformers, SGLang og vLLM som inferensmuligheder, men advarer om problemer med finkornet FP8 ved distribueret Transformers-inferens. Brug af flere enheder kan kræve CUDA_LAUNCH_BLOCKING=1. Det er en udgavespecifik kompatibilitetsdetalje, ikke en grund til at antage identisk hastighed, hukommelsesforbrug eller outputkvalitet på tværs af kørselsmiljøer. Bevar det fulde FP8-navn, når resultater sammenlignes eller registreres, og vurder det faktiske checkpoint i det tilsigtede miljø.
Tænkning er standard i den angivne chatskabelon, og en hård omskifter kan deaktivere den. Med tænkning aktiveret kan /think og /no_think styre individuelle ture; den seneste instruktion har forrang. Bløde omskiftere tilsidesætter ikke en hård deaktivering. Hold det endelige svar adskilt fra det genererede ræsonneringsafsnit, og før det endelige svar videre til den senere dialoghistorik. En detaljeret modsigelsesanalyse kan anmode om tænkning, mens en opfølgning, der omformaterer en accepteret konklusion, kan anmode om et direkte svar. Med tænkning aktiveret bevarer selv en blød anmodning om ikke-tænkning en ræsonneringsblok; indholdet kan være tomt. En hård deaktivering fjerner blokken.
Kortet anbefaler Qwen-Agent til værktøjskaldsskabeloner og parsing. I en teknisk assistent kan applikationen stille en testkører eller et skrivebeskyttet kildeopslag til rådighed, udføre det accepterede kald og returnere grundlag til det næste svar. Specificér værktøjets input, tilladelser og resultatfelter. Kræv, at assistenten knytter sit ændringsforslag til det returnerede resultat og skelner mellem en test, den anmoder om, og en test, applikationen faktisk har gennemført. Værktøjsrelaterede modelegenskaber afhænger af dette omgivende udførelsesforløb. Qwen3-guiden beskriver også parallelle værktøjskald og værktøjskald i flere trin med argumenter repræsenteret som objekter og resultater leveret tilbage til samtalen.
Den native kontekst er 32.768 tokens, mens 131.072 er dokumenteret via YaRN-udvidelse. Input og genereret output deler sekvensbudgettet. Det større vindue kræver den relevante konfiguration, og statisk YaRN kan påvirke korte input. Organisér langt kildemateriale efter fil eller afsnit, og afsæt plads til den endelige sammenligning eller kode. Outputlængder i hurtigstarten og anbefalingerne til bedste praksis er vejledning til generering, ikke bevis for en uafhængig maksimal outputlængde for hele tjenesten. Qwen3-dokumentationen behandler assistentbeskedlængder på 38.912 tokens i tænketilstand og 16.384 i ikke-tænkende tilstand i sin forklaring af træningslængder og anbefaler at vurdere kvaliteten af længere generering. Disse tal er forskellige fra det samlede kontekstvindue og er ikke en endpointspecifik hård grænse. Kortet forklarer også sin standardallokering af positioner på 40.960 tokens som 8.192 til typiske prompter plus 32.768 til output; dette er producentens konfigurationsvejledning, særskilt fra den native træningskontekst og enhver endpointgrænse.
Anbefalet sampling i tænketilstand er temperature 0.6, top-p 0.95, top-k 20 og min-p 0; direkte tilstand bruger 0.7, 0.8, 20 og 0. Greedy decoding i tænketilstand kan føre til gentagelser, og stærkere presence penalties kan medføre sprogblanding. Bed om en endelig struktur, der kan kontrolleres, såsom en resultattabel efterfulgt af den ændrede funktion og relevante tilfælde. Kontrollér numeriske konklusioner, kør koden i målmiljøet, og gennemgå værktøjsresultater, før et ændringsforslag anvendes. FP8-checkpointets identitet og forbehold om kørselsmiljøet bør forblive knyttet til denne vurdering.
", "aboutText": "Qwen3-235B-A22B-FP8 er den officielle FP8-udgave af Qwen3-235B-A22B. Dens beskrevne tekstegenskaber omfatter matematisk og logisk ræsonnering, kodegenerering, kreativ skrivning, rollebaseret dialog og instruktionsfølgning over flere ture på mere end 100 sprog og dialekter. Den kombinerer tænkning og direkte svar. Brug den til en opgave, der samler flere begrænsninger, såsom at sammenligne to implementeringer med den samme specifikation og omsætte sammenligningen til et konkret ændringsforslag.\n\nDen underliggende arkitektur er mixture-of-experts: i alt 235 milliarder parametre, 22 milliarder aktive under behandling, 94 lag og 128 eksperter, hvoraf otte vælges pr. token. Grouped-query attention bruger 64 query-hoveder og fire key/value-hoveder. FP8-suffikset identificerer et særskilt udgivet checkpoint, ikke en ekstra svarmodalitet eller et andet parameterantal. Modellen modtager tekst og genererer tekst. Giv en kodegennemgangsassistent specifikationen, de relevante kildefiler og den forventede adfærd; bed om en beslutningstabel, den valgte ændring og eksempler, der viser det tilsigtede resultat.\n\nProducentens indledende forløb formaterer kilde og instruktioner som en samtale. Til en dokumentsammenligning skal du mærke versionerne, angive hver kildes autoritet og identificere de krav, der skal forblive uændrede. Til et matematisk spørgsmål skal du angive hele opgaveteksten og den ønskede form for det endelige svar. Til en implementeringsopgave skal du specificere sproget, den faktiske inputstruktur, fejltilfældet og de grænseflader, der skal bevares. Gør det endelige produkt eksplicit, så et langt svar stadig løser den oprindelige anmodning. Den offentliggjorte integration forventer et Qwen3-kompatibelt kørselsmiljø; kortet advarer om, at Transformers-versioner under 4.51.0 ikke genkender den krævede arkitektur.\n\nDenne udgave har en særskilt FP8-note. Checkpointet bruger finkornet FP8-kvantisering med blokstørrelse 128; den offentliggjorte konfiguration registrerer kvantiseringsmetoden. Producenten angiver Transformers, SGLang og vLLM som inferensmuligheder, men advarer om problemer med finkornet FP8 ved distribueret Transformers-inferens. Brug af flere enheder kan kræve CUDA_LAUNCH_BLOCKING=1. Det er en udgavespecifik kompatibilitetsdetalje, ikke en grund til at antage identisk hastighed, hukommelsesforbrug eller outputkvalitet på tværs af kørselsmiljøer. Bevar det fulde FP8-navn, når resultater sammenlignes eller registreres, og vurder det faktiske checkpoint i det tilsigtede miljø.\n\nTænkning er standard i den angivne chatskabelon, og en hård omskifter kan deaktivere den. Med tænkning aktiveret kan /think og /no_think styre individuelle ture; den seneste instruktion har forrang. Bløde omskiftere tilsidesætter ikke en hård deaktivering. Hold det endelige svar adskilt fra det genererede ræsonneringsafsnit, og før det endelige svar videre til den senere dialoghistorik. En detaljeret modsigelsesanalyse kan anmode om tænkning, mens en opfølgning, der omformaterer en accepteret konklusion, kan anmode om et direkte svar. Med tænkning aktiveret bevarer selv en blød anmodning om ikke-tænkning en ræsonneringsblok; indholdet kan være tomt. En hård deaktivering fjerner blokken.\n\nKortet anbefaler Qwen-Agent til værktøjskaldsskabeloner og parsing. I en teknisk assistent kan applikationen stille en testkører eller et skrivebeskyttet kildeopslag til rådighed, udføre det accepterede kald og returnere grundlag til det næste svar. Specificér værktøjets input, tilladelser og resultatfelter. Kræv, at assistenten knytter sit ændringsforslag til det returnerede resultat og skelner mellem en test, den anmoder om, og en test, applikationen faktisk har gennemført. Værktøjsrelaterede modelegenskaber afhænger af dette omgivende udførelsesforløb. Qwen3-guiden beskriver også parallelle værktøjskald og værktøjskald i flere trin med argumenter repræsenteret som objekter og resultater leveret tilbage til samtalen.\n\nDen native kontekst er 32.768 tokens, mens 131.072 er dokumenteret via YaRN-udvidelse. Input og genereret output deler sekvensbudgettet. Det større vindue kræver den relevante konfiguration, og statisk YaRN kan påvirke korte input. Organisér langt kildemateriale efter fil eller afsnit, og afsæt plads til den endelige sammenligning eller kode. Outputlængder i hurtigstarten og anbefalingerne til bedste praksis er vejledning til generering, ikke bevis for en uafhængig maksimal outputlængde for hele tjenesten. Qwen3-dokumentationen behandler assistentbeskedlængder på 38.912 tokens i tænketilstand og 16.384 i ikke-tænkende tilstand i sin forklaring af træningslængder og anbefaler at vurdere kvaliteten af længere generering. Disse tal er forskellige fra det samlede kontekstvindue og er ikke en endpointspecifik hård grænse. Kortet forklarer også sin standardallokering af positioner på 40.960 tokens som 8.192 til typiske prompter plus 32.768 til output; dette er producentens konfigurationsvejledning, særskilt fra den native træningskontekst og enhver endpointgrænse.\n\nAnbefalet sampling i tænketilstand er temperature 0.6, top-p 0.95, top-k 20 og min-p 0; direkte tilstand bruger 0.7, 0.8, 20 og 0. Greedy decoding i tænketilstand kan føre til gentagelser, og stærkere presence penalties kan medføre sprogblanding. Bed om en endelig struktur, der kan kontrolleres, såsom en resultattabel efterfulgt af den ændrede funktion og relevante tilfælde. Kontrollér numeriske konklusioner, kør koden i målmiljøet, og gennemgå værktøjsresultater, før et ændringsforslag anvendes. FP8-checkpointets identitet og forbehold om kørselsmiljøet bør forblive knyttet til denne vurdering.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Compare two normalizers to a contract\n\nThe contract requires unique case-sensitive tags in first-occurrence order. Compare Python A: return sorted(set(tags)) with B: return list(dict.fromkeys(tags)). Input: ["red", "Blue", "red", "blue"]. Give a criterion table, select the compliant implementation and provide tests for order and case preservation. Do not alter the contract to fit either implementation.A two-implementation decision table, a selected implementation and two contract-focused tests.Check that sorting is recognized as an order violation and Blue remains distinct from blue.qwen/qwen3-235b-a22b-fp8Qwen3-235B-A22B-FP8 er det officielle checkpoint med finkornet FP8-kvantisering af Qwen3s store mixture-of-experts-model. Det bevarer hybride tekstbaserede ræsonnerings- og dialogevner og har sin egen kvantiseringsidentitet og forhold, der skal tages højde for i kørselsmiljøet.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Qwen3-235B-A22B-FP8 er den officielle FP8-udgave af Qwen3-235B-A22B. Dens beskrevne tekstegenskaber omfatter matematisk og logisk ræsonnering, kodegenerering, kreativ skrivning, rollebaseret dialog og instruktionsfølgning over flere ture på mere end 100 sprog og dialekter. Den kombinerer tænkning og direkte svar. Brug den til en opgave, der samler flere begrænsninger, såsom at sammenligne to implementeringer med den samme specifikation og omsætte sammenligningen til et konkret ændringsforslag.
Den underliggende arkitektur er mixture-of-experts: i alt 235 milliarder parametre, 22 milliarder aktive under behandling, 94 lag og 128 eksperter, hvoraf otte vælges pr. token. Grouped-query attention bruger 64 query-hoveder og fire key/value-hoveder. FP8-suffikset identificerer et særskilt udgivet checkpoint, ikke en ekstra svarmodalitet eller et andet parameterantal. Modellen modtager tekst og genererer tekst. Giv en kodegennemgangsassistent specifikationen, de relevante kildefiler og den forventede adfærd; bed om en beslutningstabel, den valgte ændring og eksempler, der viser det tilsigtede resultat.
Producentens indledende forløb formaterer kilde og instruktioner som en samtale. Til en dokumentsammenligning skal du mærke versionerne, angive hver kildes autoritet og identificere de krav, der skal forblive uændrede. Til et matematisk spørgsmål skal du angive hele opgaveteksten og den ønskede form for det endelige svar. Til en implementeringsopgave skal du specificere sproget, den faktiske inputstruktur, fejltilfældet og de grænseflader, der skal bevares. Gør det endelige produkt eksplicit, så et langt svar stadig løser den oprindelige anmodning. Den offentliggjorte integration forventer et Qwen3-kompatibelt kørselsmiljø; kortet advarer om, at Transformers-versioner under 4.51.0 ikke genkender den krævede arkitektur.
Denne udgave har en særskilt FP8-note. Checkpointet bruger finkornet FP8-kvantisering med blokstørrelse 128; den offentliggjorte konfiguration registrerer kvantiseringsmetoden. Producenten angiver Transformers, SGLang og vLLM som inferensmuligheder, men advarer om problemer med finkornet FP8 ved distribueret Transformers-inferens. Brug af flere enheder kan kræve CUDA_LAUNCH_BLOCKING=1. Det er en udgavespecifik kompatibilitetsdetalje, ikke en grund til at antage identisk hastighed, hukommelsesforbrug eller outputkvalitet på tværs af kørselsmiljøer. Bevar det fulde FP8-navn, når resultater sammenlignes eller registreres, og vurder det faktiske checkpoint i det tilsigtede miljø.
Tænkning er standard i den angivne chatskabelon, og en hård omskifter kan deaktivere den. Med tænkning aktiveret kan /think og /no_think styre individuelle ture; den seneste instruktion har forrang. Bløde omskiftere tilsidesætter ikke en hård deaktivering. Hold det endelige svar adskilt fra det genererede ræsonneringsafsnit, og før det endelige svar videre til den senere dialoghistorik. En detaljeret modsigelsesanalyse kan anmode om tænkning, mens en opfølgning, der omformaterer en accepteret konklusion, kan anmode om et direkte svar. Med tænkning aktiveret bevarer selv en blød anmodning om ikke-tænkning en ræsonneringsblok; indholdet kan være tomt. En hård deaktivering fjerner blokken.
Kortet anbefaler Qwen-Agent til værktøjskaldsskabeloner og parsing. I en teknisk assistent kan applikationen stille en testkører eller et skrivebeskyttet kildeopslag til rådighed, udføre det accepterede kald og returnere grundlag til det næste svar. Specificér værktøjets input, tilladelser og resultatfelter. Kræv, at assistenten knytter sit ændringsforslag til det returnerede resultat og skelner mellem en test, den anmoder om, og en test, applikationen faktisk har gennemført. Værktøjsrelaterede modelegenskaber afhænger af dette omgivende udførelsesforløb. Qwen3-guiden beskriver også parallelle værktøjskald og værktøjskald i flere trin med argumenter repræsenteret som objekter og resultater leveret tilbage til samtalen.
Den native kontekst er 32.768 tokens, mens 131.072 er dokumenteret via YaRN-udvidelse. Input og genereret output deler sekvensbudgettet. Det større vindue kræver den relevante konfiguration, og statisk YaRN kan påvirke korte input. Organisér langt kildemateriale efter fil eller afsnit, og afsæt plads til den endelige sammenligning eller kode. Outputlængder i hurtigstarten og anbefalingerne til bedste praksis er vejledning til generering, ikke bevis for en uafhængig maksimal outputlængde for hele tjenesten. Qwen3-dokumentationen behandler assistentbeskedlængder på 38.912 tokens i tænketilstand og 16.384 i ikke-tænkende tilstand i sin forklaring af træningslængder og anbefaler at vurdere kvaliteten af længere generering. Disse tal er forskellige fra det samlede kontekstvindue og er ikke en endpointspecifik hård grænse. Kortet forklarer også sin standardallokering af positioner på 40.960 tokens som 8.192 til typiske prompter plus 32.768 til output; dette er producentens konfigurationsvejledning, særskilt fra den native træningskontekst og enhver endpointgrænse.
Anbefalet sampling i tænketilstand er temperature 0.6, top-p 0.95, top-k 20 og min-p 0; direkte tilstand bruger 0.7, 0.8, 20 og 0. Greedy decoding i tænketilstand kan føre til gentagelser, og stærkere presence penalties kan medføre sprogblanding. Bed om en endelig struktur, der kan kontrolleres, såsom en resultattabel efterfulgt af den ændrede funktion og relevante tilfælde. Kontrollér numeriske konklusioner, kør koden i målmiljøet, og gennemgå værktøjsresultater, før et ændringsforslag anvendes. FP8-checkpointets identitet og forbehold om kørselsmiljøet bør forblive knyttet til denne vurdering.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser qwen/qwen3-235b-a22b-fp8 | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser Minimumsantal elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser Eksempler: system, user, assistant, tool, function Betingelser: Disse roller er eksplicit repræsenteret i kildekodens kompatibilitetstyper; modellens præcise rollesæt er fortsat modelspecifikt. Afhænger af modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfrit | Værdier og grænser Gælder når: role=tool; brug det faktisk returnerede ID | Standard— |
Feltmessages[].name | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfrit | Værdier og grænser Gælder når: Send det faktisk returnerede ræsonnement tilbage, når modellen bruger det | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttemperature | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttop_p | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools[].type | Typestring | KravValgfrit | Værdier og grænser function Afhænger af modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrævet | Værdier og grænser Gælder når: funktionsværktøj angivet | Standard— |
Felttools[].function.description | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfrit | Værdier og grænser | Standard— |
Felttool_choice | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltservice_tier | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltinstructions | Typestring | KravValgfrit | Værdier og grænser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfrit | Værdier og grænser text | Standard— |
Feltprovider | Typeobject | KravValgfrit | Værdier og grænser Betingelser: provider.options afvises på denne Ultra-tekstrute | Standard— |
Feltcache_control.ttl | Typestring | KravValgfrit | Værdier og grænser Betingelser: 1h afvises på de faktiske placeringer for promptcaching | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages |
Parametermaterial_types | Kontrakttext |
Parametermessages | Kontraktbeskedarray med strukturen role/content |
Parameterfile_material | Kontraktfaktisk UTF-8-dokument indsat som bogstavelig tekst; intet fil-ID udledes |
Parameteroptional_controls | Kontraktstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontraktmodelspecifikt; brugerens funktionsværktøjer er forskellige fra hostede værktøjer |
Parameteroutput_modalities | Kontrakttext |
Parameterhosted_operations | Kontraktfalse |
Parametermultimodal_input_binding | Kontraktnull |
Livscyklus: synchronous_or_streamed
Send det præcise model-ID med messages.
Kontekstlængde er ikke et outputloft.
En tekstfil kan levere bogstavelig tekst; billed-, lyd- og filobjektinput kræver en præcis binding.
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
| Konfiguration | Takstplan | Beløb |
|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Beløb Input · Inputtokens $0.0004 / 1K tokens Output · Outputtokens $0.0016 / 1K tokens Input · Cachelæsning $0 / 1K tokens Input · Cacheskrivning $0 / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen3-235b-a22b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen3-235b-a22b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen3-235b-a22b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar hvert valg og dets indhold, værktøjskald og ræsonnement. Saml i SSE deltaer efter valg-/værktøjsindeks, og bevar den endelige afslutningsårsag og forbrugsoplysningerne.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra qwen/qwen3-235b-a22b-fp8
Brug metodestierne vist ovenfor.
qwen/qwen3-235b-a22b-fp8Qwen3-235B-A22B-FP8 er det officielle checkpoint med finkornet FP8-kvantisering af Qwen3s store mixture-of-experts-model. Det bevarer hybride tekstbaserede ræsonnerings- og dialogevner og har sin egen kvantiseringsidentitet og forhold, der skal tages højde for i kørselsmiljøet.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Qwen3-235B-A22B-FP8 er den officielle FP8-udgave af Qwen3-235B-A22B. Dens beskrevne tekstegenskaber omfatter matematisk og logisk ræsonnering, kodegenerering, kreativ skrivning, rollebaseret dialog og instruktionsfølgning over flere ture på mere end 100 sprog og dialekter. Den kombinerer tænkning og direkte svar. Brug den til en opgave, der samler flere begrænsninger, såsom at sammenligne to implementeringer med den samme specifikation og omsætte sammenligningen til et konkret ændringsforslag.
Den underliggende arkitektur er mixture-of-experts: i alt 235 milliarder parametre, 22 milliarder aktive under behandling, 94 lag og 128 eksperter, hvoraf otte vælges pr. token. Grouped-query attention bruger 64 query-hoveder og fire key/value-hoveder. FP8-suffikset identificerer et særskilt udgivet checkpoint, ikke en ekstra svarmodalitet eller et andet parameterantal. Modellen modtager tekst og genererer tekst. Giv en kodegennemgangsassistent specifikationen, de relevante kildefiler og den forventede adfærd; bed om en beslutningstabel, den valgte ændring og eksempler, der viser det tilsigtede resultat.
Producentens indledende forløb formaterer kilde og instruktioner som en samtale. Til en dokumentsammenligning skal du mærke versionerne, angive hver kildes autoritet og identificere de krav, der skal forblive uændrede. Til et matematisk spørgsmål skal du angive hele opgaveteksten og den ønskede form for det endelige svar. Til en implementeringsopgave skal du specificere sproget, den faktiske inputstruktur, fejltilfældet og de grænseflader, der skal bevares. Gør det endelige produkt eksplicit, så et langt svar stadig løser den oprindelige anmodning. Den offentliggjorte integration forventer et Qwen3-kompatibelt kørselsmiljø; kortet advarer om, at Transformers-versioner under 4.51.0 ikke genkender den krævede arkitektur.
Denne udgave har en særskilt FP8-note. Checkpointet bruger finkornet FP8-kvantisering med blokstørrelse 128; den offentliggjorte konfiguration registrerer kvantiseringsmetoden. Producenten angiver Transformers, SGLang og vLLM som inferensmuligheder, men advarer om problemer med finkornet FP8 ved distribueret Transformers-inferens. Brug af flere enheder kan kræve CUDA_LAUNCH_BLOCKING=1. Det er en udgavespecifik kompatibilitetsdetalje, ikke en grund til at antage identisk hastighed, hukommelsesforbrug eller outputkvalitet på tværs af kørselsmiljøer. Bevar det fulde FP8-navn, når resultater sammenlignes eller registreres, og vurder det faktiske checkpoint i det tilsigtede miljø.
Tænkning er standard i den angivne chatskabelon, og en hård omskifter kan deaktivere den. Med tænkning aktiveret kan /think og /no_think styre individuelle ture; den seneste instruktion har forrang. Bløde omskiftere tilsidesætter ikke en hård deaktivering. Hold det endelige svar adskilt fra det genererede ræsonneringsafsnit, og før det endelige svar videre til den senere dialoghistorik. En detaljeret modsigelsesanalyse kan anmode om tænkning, mens en opfølgning, der omformaterer en accepteret konklusion, kan anmode om et direkte svar. Med tænkning aktiveret bevarer selv en blød anmodning om ikke-tænkning en ræsonneringsblok; indholdet kan være tomt. En hård deaktivering fjerner blokken.
Kortet anbefaler Qwen-Agent til værktøjskaldsskabeloner og parsing. I en teknisk assistent kan applikationen stille en testkører eller et skrivebeskyttet kildeopslag til rådighed, udføre det accepterede kald og returnere grundlag til det næste svar. Specificér værktøjets input, tilladelser og resultatfelter. Kræv, at assistenten knytter sit ændringsforslag til det returnerede resultat og skelner mellem en test, den anmoder om, og en test, applikationen faktisk har gennemført. Værktøjsrelaterede modelegenskaber afhænger af dette omgivende udførelsesforløb. Qwen3-guiden beskriver også parallelle værktøjskald og værktøjskald i flere trin med argumenter repræsenteret som objekter og resultater leveret tilbage til samtalen.
Den native kontekst er 32.768 tokens, mens 131.072 er dokumenteret via YaRN-udvidelse. Input og genereret output deler sekvensbudgettet. Det større vindue kræver den relevante konfiguration, og statisk YaRN kan påvirke korte input. Organisér langt kildemateriale efter fil eller afsnit, og afsæt plads til den endelige sammenligning eller kode. Outputlængder i hurtigstarten og anbefalingerne til bedste praksis er vejledning til generering, ikke bevis for en uafhængig maksimal outputlængde for hele tjenesten. Qwen3-dokumentationen behandler assistentbeskedlængder på 38.912 tokens i tænketilstand og 16.384 i ikke-tænkende tilstand i sin forklaring af træningslængder og anbefaler at vurdere kvaliteten af længere generering. Disse tal er forskellige fra det samlede kontekstvindue og er ikke en endpointspecifik hård grænse. Kortet forklarer også sin standardallokering af positioner på 40.960 tokens som 8.192 til typiske prompter plus 32.768 til output; dette er producentens konfigurationsvejledning, særskilt fra den native træningskontekst og enhver endpointgrænse.
Anbefalet sampling i tænketilstand er temperature 0.6, top-p 0.95, top-k 20 og min-p 0; direkte tilstand bruger 0.7, 0.8, 20 og 0. Greedy decoding i tænketilstand kan føre til gentagelser, og stærkere presence penalties kan medføre sprogblanding. Bed om en endelig struktur, der kan kontrolleres, såsom en resultattabel efterfulgt af den ændrede funktion og relevante tilfælde. Kontrollér numeriske konklusioner, kør koden i målmiljøet, og gennemgå værktøjsresultater, før et ændringsforslag anvendes. FP8-checkpointets identitet og forbehold om kørselsmiljøet bør forblive knyttet til denne vurdering.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser qwen/qwen3-235b-a22b-fp8 | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrævet | Værdier og grænser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrævet | Værdier og grænser | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content som streng
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages, max_tokens |
Parameteroptional_controls | Kontraktstream |
Parametermaterial_types | Kontrakttext |
Parametertext_file_material | KontraktLæs det faktiske UTF-8-dokument, og indsæt teksten i det angivne input eller beskedens indholdsstreng. |
Livscyklus: synchronous_or_streamed
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
| Konfiguration | Takstplan | Beløb |
|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Beløb Input · Inputtokens $0.0004 / 1K tokens Output · Outputtokens $0.0016 / 1K tokens Input · Cachelæsning $0 / 1K tokens Input · Cacheskrivning $0 / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
{\n "model": "qwen/qwen3-235b-a22b-fp8",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-235b-a22b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-235b-a22b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar alle indholdsblokke, ræsonnementssignaturer og faktiske værktøjsbrugs-ID’er. Saml alle SSE-blokdeltaer; den første tekstblok er ikke hele outputtet.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra qwen/qwen3-235b-a22b-fp8
Brug metodestierne vist ovenfor.
Teknisk eksempel på engelsk
Compare two normalizers to a contract\n\nThe contract requires unique case-sensitive tags in first-occurrence order. Compare Python A: return sorted(set(tags)) with B: return list(dict.fromkeys(tags)). Input: ["red", "Blue", "red", "blue"]. Give a criterion table, select the compliant implementation and provide tests for order and case preservation. Do not alter the contract to fit either implementation.A two-implementation decision table, a selected implementation and two contract-focused tests.Check that sorting is recognized as an order violation and Blue remains distinct from blue.