Qwen3-235B-A22B-FP8 er den offisielle FP8-utgaven av Qwen3-235B-A22B. De beskrevne tekstfunksjonene omfatter matematisk og logisk resonnement, kodegenerering, kreativ skriving, rollebasert dialog og instruksjonsfølging over flere turer på mer enn 100 språk og dialekter. Den kombinerer thinking og direkte svarmoduser. Bruk den til en oppgave som samler flere begrensninger, som å sammenligne to implementasjoner mot samme spesifikasjon og gjøre sammenligningen om til et konkret endringsforslag.
Den underliggende arkitekturen er mixture-of-experts: totalt 235 milliarder parametere, 22 milliarder aktive under behandling, 94 lag og 128 eksperter med åtte valgt per token. Grouped-query attention bruker 64 query-hoder og fire key/value-hoder. FP8-suffikset identifiserer et separat publisert sjekkpunkt, ikke en ekstra svarmodalitet eller et annet parameterantall. Modellen får og genererer tekst. Gi en kodegjennomgangsassistent spesifikasjonen, relevante kildefiler og forventet oppførsel; be om en beslutningstabell, den valgte endringen og eksempler som viser tiltenkt resultat.
Produsentens startflyt formaterer kilde og instruksjoner som en samtale. For en dokumentsammenligning merker du versjonene, angir autoriteten til hver kilde og identifiserer kravene som må forbli uendret. For et matematisk spørsmål inkluderer du den fullstendige oppgaven og ønsket form på sluttsvaret. For en implementasjonsoppgave angir du språk, faktisk inndataform, feiltilfelle og grensesnittene som skal bevares. Gjør den endelige leveransen tydelig slik at et langt svar fortsatt løser den opprinnelige forespørselen. Den publiserte integrasjonen forventer et kjøremiljø som kjenner Qwen3; kortet advarer om at Transformers-versjoner under 4.51.0 ikke gjenkjenner den nødvendige arkitekturen.
Denne utgaven har en egen FP8-merknad. Sjekkpunktet bruker finkornet FP8-kvantisering med blokkstørrelse 128; den publiserte konfigurasjonen registrerer kvantiseringsoppsettet. Produsenten oppgir Transformers, SGLang og vLLM som inferensalternativer, samtidig som den advarer om problemer med finkornet FP8 i distribuert Transformers-inferens. Bruk på flere enheter kan kreve CUDA_LAUNCH_BLOCKING=1. Dette er en utgavespesifikk kompatibilitetsdetalj, ikke grunn til å anta lik hastighet, minnebruk eller utdatakvalitet på tvers av kjøremiljøer. Behold hele FP8-navnet når du sammenligner eller registrerer resultater, og vurder det faktiske sjekkpunktet i det tiltenkte miljøet.
Thinking er standard i den medfølgende samtalemalen, og en hard bryter kan slå den av. Med thinking aktivert kan /think og /no_think styre individuelle turer; den siste instruksjonen har prioritet. Myke brytere overstyrer ikke en hard deaktivering. Hold sluttsvaret atskilt fra den genererte resonnementsdelen og ta sluttsvaret med i den senere dialoghistorikken. En detaljert motsetningsanalyse kan be om thinking, mens en oppfølging som formaterer en akseptert konklusjon på nytt kan be om et direkte svar. Med thinking aktivert beholder selv en myk non-thinking-forespørsel en resonnementsblokk; innholdet kan være tomt. Den harde deaktiveringen fjerner blokken.
Kortet anbefaler Qwen-Agent for verktøykallmaler og tolking. I en ingeniørassistent kan applikasjonen tilby en testkjører eller et skrivebeskyttet kildeoppslag, utføre det aksepterte kallet og returnere grunnlag for neste svar. Angi verktøyets inndata, tillatelser og resultatfelt. Krev at assistenten kobler sin foreslåtte endring til det returnerte resultatet og skiller en test den ber om fra en test applikasjonen faktisk har fullført. Verktøyrelaterte modellfunksjoner avhenger av denne omkringliggende utførelsesflyten. Qwen3-veiledningen beskriver også parallelle og flertrinns verktøykall, med argumenter representert som objekter og resultater returnert til samtalen.
Den native konteksten er 32 768 tokener, med 131 072 dokumentert gjennom YaRN-utvidelse. Inndata og genererte utdata deler sekvensbudsjettet. Det større vinduet krever relevant konfigurasjon, og statisk YaRN kan påvirke korte inndata. Organiser langt kildemateriale etter fil eller del og reserver plass til endelig sammenligning eller kode. Utdatalengder vist i hurtigstarten og anbefalingene er genereringsveiledning, ikke bevis på et uavhengig maksimum for utdata i hele tjenesten. Qwen3-dokumentasjonen diskuterer assistentmeldingslengder på 38 912 tokener i thinking-modus og 16 384 i non-thinking-modus i forklaringen av treningslengde og anbefaler å vurdere kvaliteten på lengre generering. Disse tallene er forskjellige fra det samlede kontekstvinduet og er ikke en endepunktspesifikk hard grense. Kortet forklarer også standard posisjonstildeling på 40 960 tokener som 8 192 for typiske instrukser pluss 32 768 for utdata; dette er produsentveiledning for konfigurasjon, separat fra den native treningskonteksten og eventuelle endepunktgrenser.
Anbefalt sampling i thinking-modus er temperature 0,6, top-p 0,95, top-k 20 og min-p 0; direkte modus bruker 0,7, 0,8, 20 og 0. Grådig dekoding i thinking-modus kan føre til gjentakelse, og sterkere presence penalties kan gi språkblanding. Be om en sluttstruktur som kan undersøkes, som en resultattabell fulgt av den endrede funksjonen og relevante tilfeller. Kontroller numeriske konklusjoner, kjør kode i målmiljøet og gjennomgå verktøyresultater før du bruker en foreslått endring. FP8-sjekkpunktets identitet og forbehold knyttet til kjøremiljøet bør fortsatt følge denne vurderingen.
", "aboutText": "Qwen3-235B-A22B-FP8 er den offisielle FP8-utgaven av Qwen3-235B-A22B. De beskrevne tekstfunksjonene omfatter matematisk og logisk resonnement, kodegenerering, kreativ skriving, rollebasert dialog og instruksjonsfølging over flere turer på mer enn 100 språk og dialekter. Den kombinerer thinking og direkte svarmoduser. Bruk den til en oppgave som samler flere begrensninger, som å sammenligne to implementasjoner mot samme spesifikasjon og gjøre sammenligningen om til et konkret endringsforslag.\n\nDen underliggende arkitekturen er mixture-of-experts: totalt 235 milliarder parametere, 22 milliarder aktive under behandling, 94 lag og 128 eksperter med åtte valgt per token. Grouped-query attention bruker 64 query-hoder og fire key/value-hoder. FP8-suffikset identifiserer et separat publisert sjekkpunkt, ikke en ekstra svarmodalitet eller et annet parameterantall. Modellen får og genererer tekst. Gi en kodegjennomgangsassistent spesifikasjonen, relevante kildefiler og forventet oppførsel; be om en beslutningstabell, den valgte endringen og eksempler som viser tiltenkt resultat.\n\nProdusentens startflyt formaterer kilde og instruksjoner som en samtale. For en dokumentsammenligning merker du versjonene, angir autoriteten til hver kilde og identifiserer kravene som må forbli uendret. For et matematisk spørsmål inkluderer du den fullstendige oppgaven og ønsket form på sluttsvaret. For en implementasjonsoppgave angir du språk, faktisk inndataform, feiltilfelle og grensesnittene som skal bevares. Gjør den endelige leveransen tydelig slik at et langt svar fortsatt løser den opprinnelige forespørselen. Den publiserte integrasjonen forventer et kjøremiljø som kjenner Qwen3; kortet advarer om at Transformers-versjoner under 4.51.0 ikke gjenkjenner den nødvendige arkitekturen.\n\nDenne utgaven har en egen FP8-merknad. Sjekkpunktet bruker finkornet FP8-kvantisering med blokkstørrelse 128; den publiserte konfigurasjonen registrerer kvantiseringsoppsettet. Produsenten oppgir Transformers, SGLang og vLLM som inferensalternativer, samtidig som den advarer om problemer med finkornet FP8 i distribuert Transformers-inferens. Bruk på flere enheter kan kreve CUDA_LAUNCH_BLOCKING=1. Dette er en utgavespesifikk kompatibilitetsdetalj, ikke grunn til å anta lik hastighet, minnebruk eller utdatakvalitet på tvers av kjøremiljøer. Behold hele FP8-navnet når du sammenligner eller registrerer resultater, og vurder det faktiske sjekkpunktet i det tiltenkte miljøet.\n\nThinking er standard i den medfølgende samtalemalen, og en hard bryter kan slå den av. Med thinking aktivert kan /think og /no_think styre individuelle turer; den siste instruksjonen har prioritet. Myke brytere overstyrer ikke en hard deaktivering. Hold sluttsvaret atskilt fra den genererte resonnementsdelen og ta sluttsvaret med i den senere dialoghistorikken. En detaljert motsetningsanalyse kan be om thinking, mens en oppfølging som formaterer en akseptert konklusjon på nytt kan be om et direkte svar. Med thinking aktivert beholder selv en myk non-thinking-forespørsel en resonnementsblokk; innholdet kan være tomt. Den harde deaktiveringen fjerner blokken.\n\nKortet anbefaler Qwen-Agent for verktøykallmaler og tolking. I en ingeniørassistent kan applikasjonen tilby en testkjører eller et skrivebeskyttet kildeoppslag, utføre det aksepterte kallet og returnere grunnlag for neste svar. Angi verktøyets inndata, tillatelser og resultatfelt. Krev at assistenten kobler sin foreslåtte endring til det returnerte resultatet og skiller en test den ber om fra en test applikasjonen faktisk har fullført. Verktøyrelaterte modellfunksjoner avhenger av denne omkringliggende utførelsesflyten. Qwen3-veiledningen beskriver også parallelle og flertrinns verktøykall, med argumenter representert som objekter og resultater returnert til samtalen.\n\nDen native konteksten er 32 768 tokener, med 131 072 dokumentert gjennom YaRN-utvidelse. Inndata og genererte utdata deler sekvensbudsjettet. Det større vinduet krever relevant konfigurasjon, og statisk YaRN kan påvirke korte inndata. Organiser langt kildemateriale etter fil eller del og reserver plass til endelig sammenligning eller kode. Utdatalengder vist i hurtigstarten og anbefalingene er genereringsveiledning, ikke bevis på et uavhengig maksimum for utdata i hele tjenesten. Qwen3-dokumentasjonen diskuterer assistentmeldingslengder på 38 912 tokener i thinking-modus og 16 384 i non-thinking-modus i forklaringen av treningslengde og anbefaler å vurdere kvaliteten på lengre generering. Disse tallene er forskjellige fra det samlede kontekstvinduet og er ikke en endepunktspesifikk hard grense. Kortet forklarer også standard posisjonstildeling på 40 960 tokener som 8 192 for typiske instrukser pluss 32 768 for utdata; dette er produsentveiledning for konfigurasjon, separat fra den native treningskonteksten og eventuelle endepunktgrenser.\n\nAnbefalt sampling i thinking-modus er temperature 0,6, top-p 0,95, top-k 20 og min-p 0; direkte modus bruker 0,7, 0,8, 20 og 0. Grådig dekoding i thinking-modus kan føre til gjentakelse, og sterkere presence penalties kan gi språkblanding. Be om en sluttstruktur som kan undersøkes, som en resultattabell fulgt av den endrede funksjonen og relevante tilfeller. Kontroller numeriske konklusjoner, kjør kode i målmiljøet og gjennomgå verktøyresultater før du bruker en foreslått endring. FP8-sjekkpunktets identitet og forbehold knyttet til kjøremiljøet bør fortsatt følge denne vurderingen.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Compare two normalizers to a contract\n\nThe contract requires unique case-sensitive tags in first-occurrence order. Compare Python A: return sorted(set(tags)) with B: return list(dict.fromkeys(tags)). Input: ["red", "Blue", "red", "blue"]. Give a criterion table, select the compliant implementation and provide tests for order and case preservation. Do not alter the contract to fit either implementation.A two-implementation decision table, a selected implementation and two contract-focused tests.Check that sorting is recognized as an order violation and Blue remains distinct from blue.qwen/qwen3-235b-a22b-fp8Qwen3-235B-A22B-FP8 er det offisielle finkornede FP8-sjekkpunktet for Qwen3s store mixture-of-experts-modell. Det beholder hybride tekstresonnement- og dialogfunksjoner med sin egen kvantiseringsidentitet og hensyn knyttet til kjøremiljøet.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Qwen3-235B-A22B-FP8 er den offisielle FP8-utgaven av Qwen3-235B-A22B. De beskrevne tekstfunksjonene omfatter matematisk og logisk resonnement, kodegenerering, kreativ skriving, rollebasert dialog og instruksjonsfølging over flere turer på mer enn 100 språk og dialekter. Den kombinerer thinking og direkte svarmoduser. Bruk den til en oppgave som samler flere begrensninger, som å sammenligne to implementasjoner mot samme spesifikasjon og gjøre sammenligningen om til et konkret endringsforslag.
Den underliggende arkitekturen er mixture-of-experts: totalt 235 milliarder parametere, 22 milliarder aktive under behandling, 94 lag og 128 eksperter med åtte valgt per token. Grouped-query attention bruker 64 query-hoder og fire key/value-hoder. FP8-suffikset identifiserer et separat publisert sjekkpunkt, ikke en ekstra svarmodalitet eller et annet parameterantall. Modellen får og genererer tekst. Gi en kodegjennomgangsassistent spesifikasjonen, relevante kildefiler og forventet oppførsel; be om en beslutningstabell, den valgte endringen og eksempler som viser tiltenkt resultat.
Produsentens startflyt formaterer kilde og instruksjoner som en samtale. For en dokumentsammenligning merker du versjonene, angir autoriteten til hver kilde og identifiserer kravene som må forbli uendret. For et matematisk spørsmål inkluderer du den fullstendige oppgaven og ønsket form på sluttsvaret. For en implementasjonsoppgave angir du språk, faktisk inndataform, feiltilfelle og grensesnittene som skal bevares. Gjør den endelige leveransen tydelig slik at et langt svar fortsatt løser den opprinnelige forespørselen. Den publiserte integrasjonen forventer et kjøremiljø som kjenner Qwen3; kortet advarer om at Transformers-versjoner under 4.51.0 ikke gjenkjenner den nødvendige arkitekturen.
Denne utgaven har en egen FP8-merknad. Sjekkpunktet bruker finkornet FP8-kvantisering med blokkstørrelse 128; den publiserte konfigurasjonen registrerer kvantiseringsoppsettet. Produsenten oppgir Transformers, SGLang og vLLM som inferensalternativer, samtidig som den advarer om problemer med finkornet FP8 i distribuert Transformers-inferens. Bruk på flere enheter kan kreve CUDA_LAUNCH_BLOCKING=1. Dette er en utgavespesifikk kompatibilitetsdetalj, ikke grunn til å anta lik hastighet, minnebruk eller utdatakvalitet på tvers av kjøremiljøer. Behold hele FP8-navnet når du sammenligner eller registrerer resultater, og vurder det faktiske sjekkpunktet i det tiltenkte miljøet.
Thinking er standard i den medfølgende samtalemalen, og en hard bryter kan slå den av. Med thinking aktivert kan /think og /no_think styre individuelle turer; den siste instruksjonen har prioritet. Myke brytere overstyrer ikke en hard deaktivering. Hold sluttsvaret atskilt fra den genererte resonnementsdelen og ta sluttsvaret med i den senere dialoghistorikken. En detaljert motsetningsanalyse kan be om thinking, mens en oppfølging som formaterer en akseptert konklusjon på nytt kan be om et direkte svar. Med thinking aktivert beholder selv en myk non-thinking-forespørsel en resonnementsblokk; innholdet kan være tomt. Den harde deaktiveringen fjerner blokken.
Kortet anbefaler Qwen-Agent for verktøykallmaler og tolking. I en ingeniørassistent kan applikasjonen tilby en testkjører eller et skrivebeskyttet kildeoppslag, utføre det aksepterte kallet og returnere grunnlag for neste svar. Angi verktøyets inndata, tillatelser og resultatfelt. Krev at assistenten kobler sin foreslåtte endring til det returnerte resultatet og skiller en test den ber om fra en test applikasjonen faktisk har fullført. Verktøyrelaterte modellfunksjoner avhenger av denne omkringliggende utførelsesflyten. Qwen3-veiledningen beskriver også parallelle og flertrinns verktøykall, med argumenter representert som objekter og resultater returnert til samtalen.
Den native konteksten er 32 768 tokener, med 131 072 dokumentert gjennom YaRN-utvidelse. Inndata og genererte utdata deler sekvensbudsjettet. Det større vinduet krever relevant konfigurasjon, og statisk YaRN kan påvirke korte inndata. Organiser langt kildemateriale etter fil eller del og reserver plass til endelig sammenligning eller kode. Utdatalengder vist i hurtigstarten og anbefalingene er genereringsveiledning, ikke bevis på et uavhengig maksimum for utdata i hele tjenesten. Qwen3-dokumentasjonen diskuterer assistentmeldingslengder på 38 912 tokener i thinking-modus og 16 384 i non-thinking-modus i forklaringen av treningslengde og anbefaler å vurdere kvaliteten på lengre generering. Disse tallene er forskjellige fra det samlede kontekstvinduet og er ikke en endepunktspesifikk hard grense. Kortet forklarer også standard posisjonstildeling på 40 960 tokener som 8 192 for typiske instrukser pluss 32 768 for utdata; dette er produsentveiledning for konfigurasjon, separat fra den native treningskonteksten og eventuelle endepunktgrenser.
Anbefalt sampling i thinking-modus er temperature 0,6, top-p 0,95, top-k 20 og min-p 0; direkte modus bruker 0,7, 0,8, 20 og 0. Grådig dekoding i thinking-modus kan føre til gjentakelse, og sterkere presence penalties kan gi språkblanding. Be om en sluttstruktur som kan undersøkes, som en resultattabell fulgt av den endrede funksjonen og relevante tilfeller. Kontroller numeriske konklusjoner, kjør kode i målmiljøet og gjennomgå verktøyresultater før du bruker en foreslått endring. FP8-sjekkpunktets identitet og forbehold knyttet til kjøremiljøet bør fortsatt følge denne vurderingen.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser qwen/qwen3-235b-a22b-fp8 | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser Eksempler: system, user, assistant, tool, function Vilkår: Disse rollene representeres eksplisitt av kompatibilitetstyper i kildekoden; det eksakte rollesettet for modellen er fortsatt modellspesifikt. Avhenger av modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfritt | Verdier & grenser Gjelder når: role=tool; bruk faktisk returnert ID | Standard— |
Feltmessages[].name | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfritt | Verdier & grenser Gjelder når: Send den faktisk returnerte resonneringen tilbake der denne modellen bruker den | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttemperature | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttop_p | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools[].type | Typestring | KravValgfritt | Verdier & grenser function Avhenger av modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrevd | Verdier & grenser Gjelder når: funksjonsverktøy oppgitt | Standard— |
Felttools[].function.description | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfritt | Verdier & grenser | Standard— |
Felttool_choice | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltservice_tier | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltinstructions | Typestring | KravValgfritt | Verdier & grenser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfritt | Verdier & grenser text | Standard— |
Feltprovider | Typeobject | KravValgfritt | Verdier & grenser Vilkår: provider.options avvises på denne Ultra-tekstruten | Standard— |
Feltcache_control.ttl | Typestring | KravValgfritt | Verdier & grenser Vilkår: 1h avvises på faktiske steder for mellomlagring av ledetekster | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages |
Parametermaterial_types | Avtaletext |
Parametermessages | Avtalemeldingstabell med role/content-struktur |
Parameterfile_material | Avtalefaktisk UTF-8-dokument satt inn som bokstavelig tekst; ingen fil-ID utledes |
Parameteroptional_controls | Avtalestream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalemodellspesifikt; brukerens funksjonsverktøy skiller seg fra driftede verktøy |
Parameteroutput_modalities | Avtaletext |
Parameterhosted_operations | Avtalefalse |
Parametermultimodal_input_binding | Avtalenull |
Livssyklus: synchronous_or_streamed
Send eksakt modell-ID sammen med messages.
Kontekstlengde er ikke en outputgrense.
En tekstfil kan levere bokstavelig tekst; bilde-, lyd- og filobjektinput trenger eksakt binding.
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
| Konfigurasjon | Prisplan | Kostnad |
|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Kostnad Inndata · Inngående tokener $0.0004 / 1K tokener Utdata · Utgående tokener $0.0016 / 1K tokener Inndata · Lesing fra hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen3-235b-a22b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen3-235b-a22b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen3-235b-a22b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold hvert svaralternativ med innhold, verktøykall og resonnering. Sett sammen endringer i SSE etter svaralternativets/verktøyets indeks, og behold endelig avslutningsgrunn og bruksdata.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra qwen/qwen3-235b-a22b-fp8
Bruk metodestiene som vises ovenfor.
qwen/qwen3-235b-a22b-fp8Qwen3-235B-A22B-FP8 er det offisielle finkornede FP8-sjekkpunktet for Qwen3s store mixture-of-experts-modell. Det beholder hybride tekstresonnement- og dialogfunksjoner med sin egen kvantiseringsidentitet og hensyn knyttet til kjøremiljøet.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Qwen3-235B-A22B-FP8 er den offisielle FP8-utgaven av Qwen3-235B-A22B. De beskrevne tekstfunksjonene omfatter matematisk og logisk resonnement, kodegenerering, kreativ skriving, rollebasert dialog og instruksjonsfølging over flere turer på mer enn 100 språk og dialekter. Den kombinerer thinking og direkte svarmoduser. Bruk den til en oppgave som samler flere begrensninger, som å sammenligne to implementasjoner mot samme spesifikasjon og gjøre sammenligningen om til et konkret endringsforslag.
Den underliggende arkitekturen er mixture-of-experts: totalt 235 milliarder parametere, 22 milliarder aktive under behandling, 94 lag og 128 eksperter med åtte valgt per token. Grouped-query attention bruker 64 query-hoder og fire key/value-hoder. FP8-suffikset identifiserer et separat publisert sjekkpunkt, ikke en ekstra svarmodalitet eller et annet parameterantall. Modellen får og genererer tekst. Gi en kodegjennomgangsassistent spesifikasjonen, relevante kildefiler og forventet oppførsel; be om en beslutningstabell, den valgte endringen og eksempler som viser tiltenkt resultat.
Produsentens startflyt formaterer kilde og instruksjoner som en samtale. For en dokumentsammenligning merker du versjonene, angir autoriteten til hver kilde og identifiserer kravene som må forbli uendret. For et matematisk spørsmål inkluderer du den fullstendige oppgaven og ønsket form på sluttsvaret. For en implementasjonsoppgave angir du språk, faktisk inndataform, feiltilfelle og grensesnittene som skal bevares. Gjør den endelige leveransen tydelig slik at et langt svar fortsatt løser den opprinnelige forespørselen. Den publiserte integrasjonen forventer et kjøremiljø som kjenner Qwen3; kortet advarer om at Transformers-versjoner under 4.51.0 ikke gjenkjenner den nødvendige arkitekturen.
Denne utgaven har en egen FP8-merknad. Sjekkpunktet bruker finkornet FP8-kvantisering med blokkstørrelse 128; den publiserte konfigurasjonen registrerer kvantiseringsoppsettet. Produsenten oppgir Transformers, SGLang og vLLM som inferensalternativer, samtidig som den advarer om problemer med finkornet FP8 i distribuert Transformers-inferens. Bruk på flere enheter kan kreve CUDA_LAUNCH_BLOCKING=1. Dette er en utgavespesifikk kompatibilitetsdetalj, ikke grunn til å anta lik hastighet, minnebruk eller utdatakvalitet på tvers av kjøremiljøer. Behold hele FP8-navnet når du sammenligner eller registrerer resultater, og vurder det faktiske sjekkpunktet i det tiltenkte miljøet.
Thinking er standard i den medfølgende samtalemalen, og en hard bryter kan slå den av. Med thinking aktivert kan /think og /no_think styre individuelle turer; den siste instruksjonen har prioritet. Myke brytere overstyrer ikke en hard deaktivering. Hold sluttsvaret atskilt fra den genererte resonnementsdelen og ta sluttsvaret med i den senere dialoghistorikken. En detaljert motsetningsanalyse kan be om thinking, mens en oppfølging som formaterer en akseptert konklusjon på nytt kan be om et direkte svar. Med thinking aktivert beholder selv en myk non-thinking-forespørsel en resonnementsblokk; innholdet kan være tomt. Den harde deaktiveringen fjerner blokken.
Kortet anbefaler Qwen-Agent for verktøykallmaler og tolking. I en ingeniørassistent kan applikasjonen tilby en testkjører eller et skrivebeskyttet kildeoppslag, utføre det aksepterte kallet og returnere grunnlag for neste svar. Angi verktøyets inndata, tillatelser og resultatfelt. Krev at assistenten kobler sin foreslåtte endring til det returnerte resultatet og skiller en test den ber om fra en test applikasjonen faktisk har fullført. Verktøyrelaterte modellfunksjoner avhenger av denne omkringliggende utførelsesflyten. Qwen3-veiledningen beskriver også parallelle og flertrinns verktøykall, med argumenter representert som objekter og resultater returnert til samtalen.
Den native konteksten er 32 768 tokener, med 131 072 dokumentert gjennom YaRN-utvidelse. Inndata og genererte utdata deler sekvensbudsjettet. Det større vinduet krever relevant konfigurasjon, og statisk YaRN kan påvirke korte inndata. Organiser langt kildemateriale etter fil eller del og reserver plass til endelig sammenligning eller kode. Utdatalengder vist i hurtigstarten og anbefalingene er genereringsveiledning, ikke bevis på et uavhengig maksimum for utdata i hele tjenesten. Qwen3-dokumentasjonen diskuterer assistentmeldingslengder på 38 912 tokener i thinking-modus og 16 384 i non-thinking-modus i forklaringen av treningslengde og anbefaler å vurdere kvaliteten på lengre generering. Disse tallene er forskjellige fra det samlede kontekstvinduet og er ikke en endepunktspesifikk hard grense. Kortet forklarer også standard posisjonstildeling på 40 960 tokener som 8 192 for typiske instrukser pluss 32 768 for utdata; dette er produsentveiledning for konfigurasjon, separat fra den native treningskonteksten og eventuelle endepunktgrenser.
Anbefalt sampling i thinking-modus er temperature 0,6, top-p 0,95, top-k 20 og min-p 0; direkte modus bruker 0,7, 0,8, 20 og 0. Grådig dekoding i thinking-modus kan føre til gjentakelse, og sterkere presence penalties kan gi språkblanding. Be om en sluttstruktur som kan undersøkes, som en resultattabell fulgt av den endrede funksjonen og relevante tilfeller. Kontroller numeriske konklusjoner, kjør kode i målmiljøet og gjennomgå verktøyresultater før du bruker en foreslått endring. FP8-sjekkpunktets identitet og forbehold knyttet til kjøremiljøet bør fortsatt følge denne vurderingen.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser qwen/qwen3-235b-a22b-fp8 | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrevd | Verdier & grenser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrevd | Verdier & grenser | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content-streng
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages, max_tokens |
Parameteroptional_controls | Avtalestream |
Parametermaterial_types | Avtaletext |
Parametertext_file_material | AvtaleLes det faktiske UTF-8-dokumentet og legg teksten i den angitte input- eller meldingsinnholdsstrengen. |
Livssyklus: synchronous_or_streamed
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
| Konfigurasjon | Prisplan | Kostnad |
|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Kostnad Inndata · Inngående tokener $0.0004 / 1K tokener Utdata · Utgående tokener $0.0016 / 1K tokener Inndata · Lesing fra hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
{\n "model": "qwen/qwen3-235b-a22b-fp8",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-235b-a22b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-235b-a22b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold alle innholdsblokker, resonneringssignaturer og faktiske ID-er for verktøybruk. Sett sammen alle SSE-blokkendringer; den første tekstblokken er ikke hele resultatet.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra qwen/qwen3-235b-a22b-fp8
Bruk metodestiene som vises ovenfor.
Teknisk eksempel på engelsk
Compare two normalizers to a contract\n\nThe contract requires unique case-sensitive tags in first-occurrence order. Compare Python A: return sorted(set(tags)) with B: return list(dict.fromkeys(tags)). Input: ["red", "Blue", "red", "blue"]. Give a criterion table, select the compliant implementation and provide tests for order and case preservation. Do not alter the contract to fit either implementation.A two-implementation decision table, a selected implementation and two contract-focused tests.Check that sorting is recognized as an order violation and Blue remains distinct from blue.