Qwen3-235B-A22B-FP8 är den officiella FP8-versionen av Qwen3-235B-A22B. De annonserade textförmågorna omfattar matematiska och logiska resonemang, kodgenerering, kreativt skrivande, rollbaserad dialog och instruktionsföljande i flera omgångar på fler än 100 språk och dialekter. Den kombinerar tänkande och direkta svar. Använd den för en uppgift med flera villkor, till exempel att jämföra två implementationer mot samma specifikation och göra jämförelsen till ett konkret ändringsförslag.
Den underliggande arkitekturen är mixture-of-experts: totalt 235 miljarder parametrar, 22 miljarder aktiva under bearbetning, 94 lager och 128 experter, varav åtta väljs per token. Grouped-query attention använder 64 frågehuvuden och fyra nyckel-/värdehuvuden. FP8-suffixet identifierar en separat publicerad kontrollpunkt, inte en extra svarsmodalitet eller ett annat parameterantal. Modellen tar emot och genererar text. Ge en kodgranskningsassistent specifikationen, relevanta källfiler och förväntat beteende; be om en beslutstabell, vald ändring och exempel som visar det avsedda resultatet.
Tillverkarens startflöde formaterar källmaterial och instruktioner som ett samtal. För en dokumentjämförelse ska du märka versionerna, ange varje källas auktoritet och identifiera krav som ska förbli oförändrade. För en matematisk fråga ska du ta med hela problemformuleringen och önskad form för slutsvaret. För en implementationsuppgift ska du ange språk, faktisk indataform, felfall och gränssnitt som ska bevaras. Gör slutresultatet uttryckligt så att ett långt svar ändå löser originalbegäran. Den publicerade integrationen förutsätter en Qwen3-kompatibel körmiljö; kortet varnar för att Transformers-versioner under 4.51.0 inte känner igen den nödvändiga arkitekturen.
Versionen har en särskild FP8-notering. Kontrollpunkten använder finkornig FP8-kvantisering med blockstorlek 128, och den publicerade konfigurationen registrerar kvantiseringsschemat. Tillverkaren listar Transformers, SGLang och vLLM som inferensalternativ och varnar för problem med finkornig FP8 vid distribuerad Transformers-inferens. Användning på flera enheter kan kräva CUDA_LAUNCH_BLOCKING=1. Det är en versionsspecifik kompatibilitetsdetalj, inte ett skäl att anta identisk hastighet, minnesanvändning eller utdatakvalitet i olika körmiljöer. Bevara hela FP8-namnet vid jämförelse eller registrering av resultat och bedöm den faktiska kontrollpunkten i den avsedda miljön.
Tänkande är standard i den medföljande chattmallen och kan stängas av med en hård inställning. Med tänkande aktiverat kan /think och /no_think styra enskilda omgångar; den senaste instruktionen har företräde. Mjuka växlingar åsidosätter inte en hård avstängning. Håll slutsvaret åtskilt från det genererade resonemangsavsnittet och för över slutsvaret till senare dialoghistorik. En detaljerad motsägelseanalys kan begära tänkande, medan en följdfråga som omformaterar en godkänd slutsats kan begära ett direkt svar. Med tänkande aktiverat behåller även en mjuk icke-tänkande begäran ett resonemangsblock; innehållet kan vara tomt. Hård avstängning tar bort blocket.
Kortet rekommenderar Qwen-Agent för verktygsanropsmallar och tolkning. I en ingenjörsassistent kan applikationen tillhandahålla en testkörare eller skrivskyddad källsökning, köra det godtagna anropet och returnera underlag för nästa svar. Ange verktygets indata, rättigheter och resultatfält. Kräv att assistenten kopplar sin föreslagna ändring till det returnerade resultatet och skiljer ett begärt test från ett test som applikationen faktiskt har utfört. Verktygsrelaterade modellförmågor beror på detta omgivande körflöde. Qwen3-guiden beskriver också parallella verktygsanrop och anrop i flera steg med argument som objekt och resultat som återförs till samtalet.
Den nativa kontexten är 32 768 token, med 131 072 dokumenterat genom YaRN-utökning. Indata och genererade utdata delar sekvensbudgeten. Det större fönstret kräver relevant konfiguration, och statisk YaRN kan påverka korta indata. Ordna långt källmaterial efter fil eller avsnitt och reservera plats för den slutliga jämförelsen eller koden. Utdatalängder i snabbstarten och rekommenderad praxis är genereringsvägledning, inte bevis på en separat maximal utdatalängd för hela tjänsten. Qwen3-dokumentationen diskuterar assistentmeddelandelängder på 38 912 token i tänkande läge och 16 384 i icke-tänkande läge i sin förklaring av träningslängd och rekommenderar kvalitetsbedömning av längre generering. Siffrorna är skilda från den totala kontexten och är inte en hård gräns för en viss ändpunkt. Kortet förklarar också sin standardallokering på 40 960 token som 8 192 för typiska promptar plus 32 768 för utdata; det är tillverkarens konfigurationsvägledning, separat från nativ träningskontext och eventuella ändpunktsgränser.
Rekommenderad sampling i tänkande läge är temperature 0.6, top-p 0.95, top-k 20 och min-p 0; direkt läge använder 0.7, 0.8, 20 och 0. Girig avkodning i tänkande läge kan ge upprepningar, och starkare presence penalties kan ge språkblandning. Be om en slutstruktur som går att granska, till exempel en resultattabell följd av den ändrade funktionen och relevanta fall. Kontrollera numeriska slutsatser, kör kod i målmiljön och granska verktygsresultat innan en föreslagen ändring tillämpas. FP8-kontrollpunktens identitet och körmiljöhänsyn bör förbli kopplade till utvärderingen.
", "aboutText": "Qwen3-235B-A22B-FP8 är den officiella FP8-versionen av Qwen3-235B-A22B. De annonserade textförmågorna omfattar matematiska och logiska resonemang, kodgenerering, kreativt skrivande, rollbaserad dialog och instruktionsföljande i flera omgångar på fler än 100 språk och dialekter. Den kombinerar tänkande och direkta svar. Använd den för en uppgift med flera villkor, till exempel att jämföra två implementationer mot samma specifikation och göra jämförelsen till ett konkret ändringsförslag.\n\nDen underliggande arkitekturen är mixture-of-experts: totalt 235 miljarder parametrar, 22 miljarder aktiva under bearbetning, 94 lager och 128 experter, varav åtta väljs per token. Grouped-query attention använder 64 frågehuvuden och fyra nyckel-/värdehuvuden. FP8-suffixet identifierar en separat publicerad kontrollpunkt, inte en extra svarsmodalitet eller ett annat parameterantal. Modellen tar emot och genererar text. Ge en kodgranskningsassistent specifikationen, relevanta källfiler och förväntat beteende; be om en beslutstabell, vald ändring och exempel som visar det avsedda resultatet.\n\nTillverkarens startflöde formaterar källmaterial och instruktioner som ett samtal. För en dokumentjämförelse ska du märka versionerna, ange varje källas auktoritet och identifiera krav som ska förbli oförändrade. För en matematisk fråga ska du ta med hela problemformuleringen och önskad form för slutsvaret. För en implementationsuppgift ska du ange språk, faktisk indataform, felfall och gränssnitt som ska bevaras. Gör slutresultatet uttryckligt så att ett långt svar ändå löser originalbegäran. Den publicerade integrationen förutsätter en Qwen3-kompatibel körmiljö; kortet varnar för att Transformers-versioner under 4.51.0 inte känner igen den nödvändiga arkitekturen.\n\nVersionen har en särskild FP8-notering. Kontrollpunkten använder finkornig FP8-kvantisering med blockstorlek 128, och den publicerade konfigurationen registrerar kvantiseringsschemat. Tillverkaren listar Transformers, SGLang och vLLM som inferensalternativ och varnar för problem med finkornig FP8 vid distribuerad Transformers-inferens. Användning på flera enheter kan kräva CUDA_LAUNCH_BLOCKING=1. Det är en versionsspecifik kompatibilitetsdetalj, inte ett skäl att anta identisk hastighet, minnesanvändning eller utdatakvalitet i olika körmiljöer. Bevara hela FP8-namnet vid jämförelse eller registrering av resultat och bedöm den faktiska kontrollpunkten i den avsedda miljön.\n\nTänkande är standard i den medföljande chattmallen och kan stängas av med en hård inställning. Med tänkande aktiverat kan /think och /no_think styra enskilda omgångar; den senaste instruktionen har företräde. Mjuka växlingar åsidosätter inte en hård avstängning. Håll slutsvaret åtskilt från det genererade resonemangsavsnittet och för över slutsvaret till senare dialoghistorik. En detaljerad motsägelseanalys kan begära tänkande, medan en följdfråga som omformaterar en godkänd slutsats kan begära ett direkt svar. Med tänkande aktiverat behåller även en mjuk icke-tänkande begäran ett resonemangsblock; innehållet kan vara tomt. Hård avstängning tar bort blocket.\n\nKortet rekommenderar Qwen-Agent för verktygsanropsmallar och tolkning. I en ingenjörsassistent kan applikationen tillhandahålla en testkörare eller skrivskyddad källsökning, köra det godtagna anropet och returnera underlag för nästa svar. Ange verktygets indata, rättigheter och resultatfält. Kräv att assistenten kopplar sin föreslagna ändring till det returnerade resultatet och skiljer ett begärt test från ett test som applikationen faktiskt har utfört. Verktygsrelaterade modellförmågor beror på detta omgivande körflöde. Qwen3-guiden beskriver också parallella verktygsanrop och anrop i flera steg med argument som objekt och resultat som återförs till samtalet.\n\nDen nativa kontexten är 32 768 token, med 131 072 dokumenterat genom YaRN-utökning. Indata och genererade utdata delar sekvensbudgeten. Det större fönstret kräver relevant konfiguration, och statisk YaRN kan påverka korta indata. Ordna långt källmaterial efter fil eller avsnitt och reservera plats för den slutliga jämförelsen eller koden. Utdatalängder i snabbstarten och rekommenderad praxis är genereringsvägledning, inte bevis på en separat maximal utdatalängd för hela tjänsten. Qwen3-dokumentationen diskuterar assistentmeddelandelängder på 38 912 token i tänkande läge och 16 384 i icke-tänkande läge i sin förklaring av träningslängd och rekommenderar kvalitetsbedömning av längre generering. Siffrorna är skilda från den totala kontexten och är inte en hård gräns för en viss ändpunkt. Kortet förklarar också sin standardallokering på 40 960 token som 8 192 för typiska promptar plus 32 768 för utdata; det är tillverkarens konfigurationsvägledning, separat från nativ träningskontext och eventuella ändpunktsgränser.\n\nRekommenderad sampling i tänkande läge är temperature 0.6, top-p 0.95, top-k 20 och min-p 0; direkt läge använder 0.7, 0.8, 20 och 0. Girig avkodning i tänkande läge kan ge upprepningar, och starkare presence penalties kan ge språkblandning. Be om en slutstruktur som går att granska, till exempel en resultattabell följd av den ändrade funktionen och relevanta fall. Kontrollera numeriska slutsatser, kör kod i målmiljön och granska verktygsresultat innan en föreslagen ändring tillämpas. FP8-kontrollpunktens identitet och körmiljöhänsyn bör förbli kopplade till utvärderingen.", "editorialOverlay": { "copy_fields": { "practical_html": "Tekniskt exempel på engelska
Compare two normalizers to a contract\n\nThe contract requires unique case-sensitive tags in first-occurrence order. Compare Python A: return sorted(set(tags)) with B: return list(dict.fromkeys(tags)). Input: ["red", "Blue", "red", "blue"]. Give a criterion table, select the compliant implementation and provide tests for order and case preservation. Do not alter the contract to fit either implementation.A two-implementation decision table, a selected implementation and two contract-focused tests.Check that sorting is recognized as an order violation and Blue remains distinct from blue.qwen/qwen3-235b-a22b-fp8Qwen3-235B-A22B-FP8 är den officiella finkorniga FP8-kontrollpunkten för Qwen3:s stora mixture-of-experts-modell. Den behåller hybridförmågorna för textresonemang och dialog men har en egen kvantiseringsidentitet och särskilda hänsyn för körmiljön.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Qwen3-235B-A22B-FP8 är den officiella FP8-versionen av Qwen3-235B-A22B. De annonserade textförmågorna omfattar matematiska och logiska resonemang, kodgenerering, kreativt skrivande, rollbaserad dialog och instruktionsföljande i flera omgångar på fler än 100 språk och dialekter. Den kombinerar tänkande och direkta svar. Använd den för en uppgift med flera villkor, till exempel att jämföra två implementationer mot samma specifikation och göra jämförelsen till ett konkret ändringsförslag.
Den underliggande arkitekturen är mixture-of-experts: totalt 235 miljarder parametrar, 22 miljarder aktiva under bearbetning, 94 lager och 128 experter, varav åtta väljs per token. Grouped-query attention använder 64 frågehuvuden och fyra nyckel-/värdehuvuden. FP8-suffixet identifierar en separat publicerad kontrollpunkt, inte en extra svarsmodalitet eller ett annat parameterantal. Modellen tar emot och genererar text. Ge en kodgranskningsassistent specifikationen, relevanta källfiler och förväntat beteende; be om en beslutstabell, vald ändring och exempel som visar det avsedda resultatet.
Tillverkarens startflöde formaterar källmaterial och instruktioner som ett samtal. För en dokumentjämförelse ska du märka versionerna, ange varje källas auktoritet och identifiera krav som ska förbli oförändrade. För en matematisk fråga ska du ta med hela problemformuleringen och önskad form för slutsvaret. För en implementationsuppgift ska du ange språk, faktisk indataform, felfall och gränssnitt som ska bevaras. Gör slutresultatet uttryckligt så att ett långt svar ändå löser originalbegäran. Den publicerade integrationen förutsätter en Qwen3-kompatibel körmiljö; kortet varnar för att Transformers-versioner under 4.51.0 inte känner igen den nödvändiga arkitekturen.
Versionen har en särskild FP8-notering. Kontrollpunkten använder finkornig FP8-kvantisering med blockstorlek 128, och den publicerade konfigurationen registrerar kvantiseringsschemat. Tillverkaren listar Transformers, SGLang och vLLM som inferensalternativ och varnar för problem med finkornig FP8 vid distribuerad Transformers-inferens. Användning på flera enheter kan kräva CUDA_LAUNCH_BLOCKING=1. Det är en versionsspecifik kompatibilitetsdetalj, inte ett skäl att anta identisk hastighet, minnesanvändning eller utdatakvalitet i olika körmiljöer. Bevara hela FP8-namnet vid jämförelse eller registrering av resultat och bedöm den faktiska kontrollpunkten i den avsedda miljön.
Tänkande är standard i den medföljande chattmallen och kan stängas av med en hård inställning. Med tänkande aktiverat kan /think och /no_think styra enskilda omgångar; den senaste instruktionen har företräde. Mjuka växlingar åsidosätter inte en hård avstängning. Håll slutsvaret åtskilt från det genererade resonemangsavsnittet och för över slutsvaret till senare dialoghistorik. En detaljerad motsägelseanalys kan begära tänkande, medan en följdfråga som omformaterar en godkänd slutsats kan begära ett direkt svar. Med tänkande aktiverat behåller även en mjuk icke-tänkande begäran ett resonemangsblock; innehållet kan vara tomt. Hård avstängning tar bort blocket.
Kortet rekommenderar Qwen-Agent för verktygsanropsmallar och tolkning. I en ingenjörsassistent kan applikationen tillhandahålla en testkörare eller skrivskyddad källsökning, köra det godtagna anropet och returnera underlag för nästa svar. Ange verktygets indata, rättigheter och resultatfält. Kräv att assistenten kopplar sin föreslagna ändring till det returnerade resultatet och skiljer ett begärt test från ett test som applikationen faktiskt har utfört. Verktygsrelaterade modellförmågor beror på detta omgivande körflöde. Qwen3-guiden beskriver också parallella verktygsanrop och anrop i flera steg med argument som objekt och resultat som återförs till samtalet.
Den nativa kontexten är 32 768 token, med 131 072 dokumenterat genom YaRN-utökning. Indata och genererade utdata delar sekvensbudgeten. Det större fönstret kräver relevant konfiguration, och statisk YaRN kan påverka korta indata. Ordna långt källmaterial efter fil eller avsnitt och reservera plats för den slutliga jämförelsen eller koden. Utdatalängder i snabbstarten och rekommenderad praxis är genereringsvägledning, inte bevis på en separat maximal utdatalängd för hela tjänsten. Qwen3-dokumentationen diskuterar assistentmeddelandelängder på 38 912 token i tänkande läge och 16 384 i icke-tänkande läge i sin förklaring av träningslängd och rekommenderar kvalitetsbedömning av längre generering. Siffrorna är skilda från den totala kontexten och är inte en hård gräns för en viss ändpunkt. Kortet förklarar också sin standardallokering på 40 960 token som 8 192 för typiska promptar plus 32 768 för utdata; det är tillverkarens konfigurationsvägledning, separat från nativ träningskontext och eventuella ändpunktsgränser.
Rekommenderad sampling i tänkande läge är temperature 0.6, top-p 0.95, top-k 20 och min-p 0; direkt läge använder 0.7, 0.8, 20 och 0. Girig avkodning i tänkande läge kan ge upprepningar, och starkare presence penalties kan ge språkblandning. Be om en slutstruktur som går att granska, till exempel en resultattabell följd av den ändrade funktionen och relevanta fall. Kontrollera numeriska slutsatser, kör kod i målmiljön och granska verktygsresultat innan en föreslagen ändring tillämpas. FP8-kontrollpunktens identitet och körmiljöhänsyn bör förbli kopplade till utvärderingen.
POST /v1/chat/completionstexttext| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser qwen/qwen3-235b-a22b-fp8 | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser Minsta antal objekt: 1 | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser Exempel: system, user, assistant, tool, function Villkor: Dessa roller representeras uttryckligen av källkodens kompatibilitetstyper; den exakta rolluppsättningen är fortfarande modellspecifik. Beror på modellen | Standard— |
Fältmessages[].content | Typstring|content_part[]|null | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_calls | Typtool_call[] | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_call_id | Typstring | KravValfritt | Värden & gränser Gäller när: role=tool; använd det faktiska returnerade ID:t | Standard— |
Fältmessages[].name | Typstring | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].reasoning_content | Typstring | KravValfritt | Värden & gränser Gäller när: Skicka tillbaka det faktiska returnerade resonemanget när modellen använder det | Standard— |
Fältmessages[].reasoning_details | Typobject|array | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmax_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältmax_completion_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Fältstream_options.include_usage | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttemperature | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttop_p | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältstop | Typstring|string[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools | Typfunction_tool[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools[].type | Typstring | KravValfritt | Värden & gränser function Beror på modellen | Standard— |
Fälttools[].function.name | Typstring | KravObligatoriskt | Värden & gränser Gäller när: verktyg av typen funktion har tillhandahållits | Standard— |
Fälttools[].function.description | Typstring | KravValfritt | Värden & gränser | Standard— |
Fälttools[].function.parameters | TypJSON_schema | KravValfritt | Värden & gränser | Standard— |
Fälttool_choice | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältparallel_tool_calls | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältresponse_format | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning_effort | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältservice_tier | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältinstructions | Typstring | KravValfritt | Värden & gränser Kompatibilitetsfält | Standard— |
Fältfunctions | Typfunction[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältfunction_call | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältprompt_cache_options | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmodalities | Typstring[] | KravValfritt | Värden & gränser text | Standard— |
Fältprovider | Typobject | KravValfritt | Värden & gränser Villkor: provider.options avvisas på denna Ultra-textrutt | Standard— |
Fältcache_control.ttl | Typstring | KravValfritt | Värden & gränser Villkor: 1h avvisas på de faktiska platserna för promptcache | Standard— |
Text · UTF8-text
messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages |
Parametermaterial_types | Avtaltext |
Parametermessages | Avtalmeddelandearray med strukturen role/content |
Parameterfile_material | Avtaldet faktiska UTF-8-dokumentet infogat som bokstavlig text; inget fil-ID härleds |
Parameteroptional_controls | Avtalstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalmodellspecifikt; användarens funktionsverktyg skiljer sig från värdbaserade verktyg |
Parameteroutput_modalities | Avtaltext |
Parameterhosted_operations | Avtalfalse |
Parametermultimodal_input_binding | Avtalnull |
Livscykel: synchronous_or_streamed
Skicka det exakta modell-ID:t tillsammans med messages.
Kontextlängden är inte en utdatagräns.
En textfil kan tillhandahålla bokstavlig text; bild-/ljud-/filobjektsindata kräver exakt bindning.
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
| Konfiguration | Prislista | Avgift |
|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Avgift Indata · Indatatoken $0.0004 / 1K token Utdata · Utdatatoken $0.0016 / 1K token Indata · Cacheläsning $0 / 1K token Indata · Skrivning till cache $0 / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen3-235b-a22b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen3-235b-a22b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen3-235b-a22b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll varje svarsalternativ och dess innehåll/verktygsanrop/resonemang. Sätt i SSE samman deltauppdateringar efter svarsalternativets/verktygets index och behåll den slutliga avslutsorsaken och användningsuppgifterna.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältchoices[].index | Typinteger |
Fältchoices[].message.content | Typstring|null |
Fältchoices[].message.tool_calls | Typtool_call[] |
Fältchoices[].message.reasoning_content | Typstring |
Fältchoices[].message.reasoning_details | Typobject|array |
Fältchoices[].finish_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra qwen/qwen3-235b-a22b-fp8
Använd metodsökvägarna som visas ovan.
qwen/qwen3-235b-a22b-fp8Qwen3-235B-A22B-FP8 är den officiella finkorniga FP8-kontrollpunkten för Qwen3:s stora mixture-of-experts-modell. Den behåller hybridförmågorna för textresonemang och dialog men har en egen kvantiseringsidentitet och särskilda hänsyn för körmiljön.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Qwen3-235B-A22B-FP8 är den officiella FP8-versionen av Qwen3-235B-A22B. De annonserade textförmågorna omfattar matematiska och logiska resonemang, kodgenerering, kreativt skrivande, rollbaserad dialog och instruktionsföljande i flera omgångar på fler än 100 språk och dialekter. Den kombinerar tänkande och direkta svar. Använd den för en uppgift med flera villkor, till exempel att jämföra två implementationer mot samma specifikation och göra jämförelsen till ett konkret ändringsförslag.
Den underliggande arkitekturen är mixture-of-experts: totalt 235 miljarder parametrar, 22 miljarder aktiva under bearbetning, 94 lager och 128 experter, varav åtta väljs per token. Grouped-query attention använder 64 frågehuvuden och fyra nyckel-/värdehuvuden. FP8-suffixet identifierar en separat publicerad kontrollpunkt, inte en extra svarsmodalitet eller ett annat parameterantal. Modellen tar emot och genererar text. Ge en kodgranskningsassistent specifikationen, relevanta källfiler och förväntat beteende; be om en beslutstabell, vald ändring och exempel som visar det avsedda resultatet.
Tillverkarens startflöde formaterar källmaterial och instruktioner som ett samtal. För en dokumentjämförelse ska du märka versionerna, ange varje källas auktoritet och identifiera krav som ska förbli oförändrade. För en matematisk fråga ska du ta med hela problemformuleringen och önskad form för slutsvaret. För en implementationsuppgift ska du ange språk, faktisk indataform, felfall och gränssnitt som ska bevaras. Gör slutresultatet uttryckligt så att ett långt svar ändå löser originalbegäran. Den publicerade integrationen förutsätter en Qwen3-kompatibel körmiljö; kortet varnar för att Transformers-versioner under 4.51.0 inte känner igen den nödvändiga arkitekturen.
Versionen har en särskild FP8-notering. Kontrollpunkten använder finkornig FP8-kvantisering med blockstorlek 128, och den publicerade konfigurationen registrerar kvantiseringsschemat. Tillverkaren listar Transformers, SGLang och vLLM som inferensalternativ och varnar för problem med finkornig FP8 vid distribuerad Transformers-inferens. Användning på flera enheter kan kräva CUDA_LAUNCH_BLOCKING=1. Det är en versionsspecifik kompatibilitetsdetalj, inte ett skäl att anta identisk hastighet, minnesanvändning eller utdatakvalitet i olika körmiljöer. Bevara hela FP8-namnet vid jämförelse eller registrering av resultat och bedöm den faktiska kontrollpunkten i den avsedda miljön.
Tänkande är standard i den medföljande chattmallen och kan stängas av med en hård inställning. Med tänkande aktiverat kan /think och /no_think styra enskilda omgångar; den senaste instruktionen har företräde. Mjuka växlingar åsidosätter inte en hård avstängning. Håll slutsvaret åtskilt från det genererade resonemangsavsnittet och för över slutsvaret till senare dialoghistorik. En detaljerad motsägelseanalys kan begära tänkande, medan en följdfråga som omformaterar en godkänd slutsats kan begära ett direkt svar. Med tänkande aktiverat behåller även en mjuk icke-tänkande begäran ett resonemangsblock; innehållet kan vara tomt. Hård avstängning tar bort blocket.
Kortet rekommenderar Qwen-Agent för verktygsanropsmallar och tolkning. I en ingenjörsassistent kan applikationen tillhandahålla en testkörare eller skrivskyddad källsökning, köra det godtagna anropet och returnera underlag för nästa svar. Ange verktygets indata, rättigheter och resultatfält. Kräv att assistenten kopplar sin föreslagna ändring till det returnerade resultatet och skiljer ett begärt test från ett test som applikationen faktiskt har utfört. Verktygsrelaterade modellförmågor beror på detta omgivande körflöde. Qwen3-guiden beskriver också parallella verktygsanrop och anrop i flera steg med argument som objekt och resultat som återförs till samtalet.
Den nativa kontexten är 32 768 token, med 131 072 dokumenterat genom YaRN-utökning. Indata och genererade utdata delar sekvensbudgeten. Det större fönstret kräver relevant konfiguration, och statisk YaRN kan påverka korta indata. Ordna långt källmaterial efter fil eller avsnitt och reservera plats för den slutliga jämförelsen eller koden. Utdatalängder i snabbstarten och rekommenderad praxis är genereringsvägledning, inte bevis på en separat maximal utdatalängd för hela tjänsten. Qwen3-dokumentationen diskuterar assistentmeddelandelängder på 38 912 token i tänkande läge och 16 384 i icke-tänkande läge i sin förklaring av träningslängd och rekommenderar kvalitetsbedömning av längre generering. Siffrorna är skilda från den totala kontexten och är inte en hård gräns för en viss ändpunkt. Kortet förklarar också sin standardallokering på 40 960 token som 8 192 för typiska promptar plus 32 768 för utdata; det är tillverkarens konfigurationsvägledning, separat från nativ träningskontext och eventuella ändpunktsgränser.
Rekommenderad sampling i tänkande läge är temperature 0.6, top-p 0.95, top-k 20 och min-p 0; direkt läge använder 0.7, 0.8, 20 och 0. Girig avkodning i tänkande läge kan ge upprepningar, och starkare presence penalties kan ge språkblandning. Be om en slutstruktur som går att granska, till exempel en resultattabell följd av den ändrade funktionen och relevanta fall. Kontrollera numeriska slutsatser, kör kod i målmiljön och granska verktygsresultat innan en föreslagen ändring tillämpas. FP8-kontrollpunktens identitet och körmiljöhänsyn bör förbli kopplade till utvärderingen.
POST /v1/messagestextjson, sse| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser qwen/qwen3-235b-a22b-fp8 | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser user, assistant | Standard— |
Fältmessages[].content | Typstring | KravObligatoriskt | Värden & gränser | Standard— |
Fältmax_tokens | Typinteger | KravObligatoriskt | Värden & gränser | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Text · UTF-8-text
sträng i messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages, max_tokens |
Parameteroptional_controls | Avtalstream |
Parametermaterial_types | Avtaltext |
Parametertext_file_material | AvtalLäs det faktiska UTF-8-dokumentet och placera texten i det angivna input-fältet eller i strängen för meddelandets innehåll. |
Livscykel: synchronous_or_streamed
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
| Konfiguration | Prislista | Avgift |
|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Avgift Indata · Indatatoken $0.0004 / 1K token Utdata · Utdatatoken $0.0016 / 1K token Indata · Cacheläsning $0 / 1K token Indata · Skrivning till cache $0 / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
{\n "model": "qwen/qwen3-235b-a22b-fp8",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-235b-a22b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-235b-a22b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll alla innehållsblock, resonemangssignaturer och faktiska ID:n för verktygsanvändning. Sätt samman alla SSE-deltauppdateringar för blocken; ett första textblock är inte hela utdata.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältid | Typstring |
Fältmodel | Typstring |
Fältcontent[] | Typtext|thinking|tool_use|other content block |
Fältstop_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra qwen/qwen3-235b-a22b-fp8
Använd metodsökvägarna som visas ovan.
Tekniskt exempel på engelska
Compare two normalizers to a contract\n\nThe contract requires unique case-sensitive tags in first-occurrence order. Compare Python A: return sorted(set(tags)) with B: return list(dict.fromkeys(tags)). Input: ["red", "Blue", "red", "blue"]. Give a criterion table, select the compliant implementation and provide tests for order and case preservation. Do not alter the contract to fit either implementation.A two-implementation decision table, a selected implementation and two contract-focused tests.Check that sorting is recognized as an order violation and Blue remains distinct from blue.