Qwen3 galimybės
Qwen3-30B-A3B-FP8 perkelia hibridinį Qwen teksto generavimo modelį į smulkiagrūdę FP8 modelio būseną. Jis priima tekstinius pokalbius ir kuria tekstą: paaiškinimus, kodą, vertimus, kūrybinį rašymą ir kelių žingsnių atsakymus. Qwen3 šeima palaiko 119 kalbų bei tarmių, įskaitant daugiakalbes instrukcijas. Du atsakymo režimai leidžia darbo eigai palikti aiškų samprotavimą matematikai, programavimui ir loginėms problemoms, tada naudoti tiesioginius atsakymus paprastam perrašymui ar dialogui. Kalbų aprėptis nereiškia vienodo patikimumo kiekvienai kalbai ar specializuotai sričiai.
Modelio apžvalga
Modelis turi iš viso 30,5 milijardo parametrų ir žetonui aktyvina 3,3 milijardo. Jo ekspertų mišinio architektūra 48 sluoksniuose naudoja 128 ekspertus, kiekvienam žetonui parenkant aštuonis. Tai modelio architektūros skaičiai; mažesnis aktyvinamas skaičius nereiškia, kad visa modelio būsena turi tik 3,3 milijardo parametrų. Tai Qwen3-30B-A3B FP8 versija, atskira nuo jo originalios skaitinio tikslumo modelio būsenos ir vėlesnių Thinking-2507 bei Instruct-2507 laidų.
Teksto sąsajos naudojimas
Užduotį, susijusį šaltinio tekstą ir laukiamą atsakymo formatą parenkite kartu. Derinimo prašymui pateikite klaidingai veikiančią funkciją, pastebėtą klaidą, numatomą veikimą ir minimalią įvestį, tada paprašykite paaiškinimo, po kurio būtų pataisa ir siūlomos patikros. Daugiakalbiam redagavimui nurodykite tikslinę kalbą, auditoriją ir nekeistinus terminus. Prašykite glausto galutinio artefakto, kai ilgas paaiškinimas užgožtų rezultatą. Tai praktiniai dokumentuotų teksto ir programavimo galimybių naudojimo būdai, o ne garantijos, kad sugeneruotas kodas įvykdytas.
FP8 versija
Qwen nurodo smulkiagrūdį FP8 kvantavimą su 128 × 128 svorių blokais. Modelio būsenos konfigūracija palieka pasirinktus komponentus už konversijos ribų ir naudoja dinaminį aktyvacijų kvantavimą. FP8 aprašo skaitinę reprezentaciją, o ne naują pokalbio režimą ar pažadėtą atsakymo laiką. Suderinamumas svarbus: Qwen kortelėje įrašyta kelių įrenginių paskirstyto vykdymo pastaba šiam kvantavimo metodui. Todėl kvantuota modelio būsena turėtų išlaikyti tikslų versijos pavadinimą, o ne tyliai perimti teiginius apie kitą modelio variantą.
Mąstymo ir tiesioginio atsakymo režimai
Kūrėjo pokalbio šablonas įjungia mąstymą pagal numatytąjį nustatymą. Tuo režimu samprotavimo blokas yra prieš galutinį atsakymą. Griežtas enable_thinking=False nustatymas pašalina bloką. Įjungus mąstymą, /think ir /no_think pateikia kiekvieno žingsnio nurodymą pagal naujausią instrukciją; tuščias samprotavimo blokas vis tiek gali atsirasti su švelniu išjungimo jungikliu. Šios užklausos žymos negali pakeisti griežto išjungimo nustatymo. Tai dokumentuoti kūrėjo valdikliai; ar programa juos suteikia, priklauso nuo jos sąsajos.
Agento naudojimas
Qwen dokumentuoja įrankių iškvietimą abiem režimams ir rekomenduoja Qwen-Agent reikalingiems įrankių iškvietimų šablonams bei jų sintaksinei analizei. Agentui pateikite aiškų įrankio aprašą, leidžiamas įvestis ir konkretų rezultatą, pavyzdžiui, pateiktų duomenų patikrą prieš rengiant ataskaitą. Modelis gali dalyvauti įrankių darbo eigoje; paieška, kodo vykdymas ir išoriniai veiksmai kyla iš programos prijungtų įrankių. Vien įrankių galimybė nesuteikia modeliui prieigos prie failų ar dabartinės informacijos.
Ilgas tekstas
Qwen aprašo savąjį 32 768 žetonų kontekstą ir patikrina plėtinį iki 131 072 su YaRN. Įvestis, pokalbio istorija, samprotavimas ir atsakymas konkuruoja dėl konteksto erdvės. Pateikta pozicijų konfigūracija yra 40 960; Qwen tai paaiškina kaip vietos paskirstymą įprastoms užklausoms ir išplėstam generavimui, o ne nurodyto savojo konteksto pakeitimą. Statinis YaRN gali bloginti trumpesnių įvesčių kokybę, todėl plėtinys priklauso nuo konfigūracijos ir poreikio. Dokumento darbui pažymėkite dalis ir paprašykite atsakyme nurodyti ištraukas, pagrindžiančias kiekvieną išvadą.
Generavimas ir apribojimai
Qwen mąstymui rekomenduoja temperature 0,6, top_p 0,95, top_k 20 ir min_p 0, o tiesioginiams atsakymams – 0,7, 0,8, 20 ir 0. Godus dekodavimas gali sukurti prastesnį samprotavimą ar pasikartojantį tekstą. Gairės rekomenduoja 32 768 žetonų generavimo biudžetą daugumai užklausų ir 38 912 neįprastai sudėtingoms problemoms; tai rekomendacijos, o ne atskirai nustatyta griežta išvesties riba. Didesnės presence penalty reikšmės gali mažinti pasikartojimus, bet maišyti kalbas ar bloginti kokybę. Pokalbio istorijoje išlaikykite tik galutinius atsakymus. Aiškiai nurodykite reikiamą atsakymo schemą ir prieš naudodami patikrinkite matematinius rezultatus, faktines išvadas bei sugeneruotas pataisas pagal pateiktus įrodymus.
", "aboutText": "Qwen3 galimybės\n\nQwen3-30B-A3B-FP8 perkelia hibridinį Qwen teksto generavimo modelį į smulkiagrūdę FP8 modelio būseną. Jis priima tekstinius pokalbius ir kuria tekstą: paaiškinimus, kodą, vertimus, kūrybinį rašymą ir kelių žingsnių atsakymus. Qwen3 šeima palaiko 119 kalbų bei tarmių, įskaitant daugiakalbes instrukcijas. Du atsakymo režimai leidžia darbo eigai palikti aiškų samprotavimą matematikai, programavimui ir loginėms problemoms, tada naudoti tiesioginius atsakymus paprastam perrašymui ar dialogui. Kalbų aprėptis nereiškia vienodo patikimumo kiekvienai kalbai ar specializuotai sričiai.\n\nModelio apžvalga\n\nModelis turi iš viso 30,5 milijardo parametrų ir žetonui aktyvina 3,3 milijardo. Jo ekspertų mišinio architektūra 48 sluoksniuose naudoja 128 ekspertus, kiekvienam žetonui parenkant aštuonis. Tai modelio architektūros skaičiai; mažesnis aktyvinamas skaičius nereiškia, kad visa modelio būsena turi tik 3,3 milijardo parametrų. Tai Qwen3-30B-A3B FP8 versija, atskira nuo jo originalios skaitinio tikslumo modelio būsenos ir vėlesnių Thinking-2507 bei Instruct-2507 laidų.\n\nTeksto sąsajos naudojimas\n\nUžduotį, susijusį šaltinio tekstą ir laukiamą atsakymo formatą parenkite kartu. Derinimo prašymui pateikite klaidingai veikiančią funkciją, pastebėtą klaidą, numatomą veikimą ir minimalią įvestį, tada paprašykite paaiškinimo, po kurio būtų pataisa ir siūlomos patikros. Daugiakalbiam redagavimui nurodykite tikslinę kalbą, auditoriją ir nekeistinus terminus. Prašykite glausto galutinio artefakto, kai ilgas paaiškinimas užgožtų rezultatą. Tai praktiniai dokumentuotų teksto ir programavimo galimybių naudojimo būdai, o ne garantijos, kad sugeneruotas kodas įvykdytas.\n\nFP8 versija\n\nQwen nurodo smulkiagrūdį FP8 kvantavimą su 128 × 128 svorių blokais. Modelio būsenos konfigūracija palieka pasirinktus komponentus už konversijos ribų ir naudoja dinaminį aktyvacijų kvantavimą. FP8 aprašo skaitinę reprezentaciją, o ne naują pokalbio režimą ar pažadėtą atsakymo laiką. Suderinamumas svarbus: Qwen kortelėje įrašyta kelių įrenginių paskirstyto vykdymo pastaba šiam kvantavimo metodui. Todėl kvantuota modelio būsena turėtų išlaikyti tikslų versijos pavadinimą, o ne tyliai perimti teiginius apie kitą modelio variantą.\n\nMąstymo ir tiesioginio atsakymo režimai\n\nKūrėjo pokalbio šablonas įjungia mąstymą pagal numatytąjį nustatymą. Tuo režimu samprotavimo blokas yra prieš galutinį atsakymą. Griežtas enable_thinking=False nustatymas pašalina bloką. Įjungus mąstymą, /think ir /no_think pateikia kiekvieno žingsnio nurodymą pagal naujausią instrukciją; tuščias samprotavimo blokas vis tiek gali atsirasti su švelniu išjungimo jungikliu. Šios užklausos žymos negali pakeisti griežto išjungimo nustatymo. Tai dokumentuoti kūrėjo valdikliai; ar programa juos suteikia, priklauso nuo jos sąsajos.\n\nAgento naudojimas\n\nQwen dokumentuoja įrankių iškvietimą abiem režimams ir rekomenduoja Qwen-Agent reikalingiems įrankių iškvietimų šablonams bei jų sintaksinei analizei. Agentui pateikite aiškų įrankio aprašą, leidžiamas įvestis ir konkretų rezultatą, pavyzdžiui, pateiktų duomenų patikrą prieš rengiant ataskaitą. Modelis gali dalyvauti įrankių darbo eigoje; paieška, kodo vykdymas ir išoriniai veiksmai kyla iš programos prijungtų įrankių. Vien įrankių galimybė nesuteikia modeliui prieigos prie failų ar dabartinės informacijos.\n\nIlgas tekstas\n\nQwen aprašo savąjį 32 768 žetonų kontekstą ir patikrina plėtinį iki 131 072 su YaRN. Įvestis, pokalbio istorija, samprotavimas ir atsakymas konkuruoja dėl konteksto erdvės. Pateikta pozicijų konfigūracija yra 40 960; Qwen tai paaiškina kaip vietos paskirstymą įprastoms užklausoms ir išplėstam generavimui, o ne nurodyto savojo konteksto pakeitimą. Statinis YaRN gali bloginti trumpesnių įvesčių kokybę, todėl plėtinys priklauso nuo konfigūracijos ir poreikio. Dokumento darbui pažymėkite dalis ir paprašykite atsakyme nurodyti ištraukas, pagrindžiančias kiekvieną išvadą.\n\nGeneravimas ir apribojimai\n\nQwen mąstymui rekomenduoja temperature 0,6, top_p 0,95, top_k 20 ir min_p 0, o tiesioginiams atsakymams – 0,7, 0,8, 20 ir 0. Godus dekodavimas gali sukurti prastesnį samprotavimą ar pasikartojantį tekstą. Gairės rekomenduoja 32 768 žetonų generavimo biudžetą daugumai užklausų ir 38 912 neįprastai sudėtingoms problemoms; tai rekomendacijos, o ne atskirai nustatyta griežta išvesties riba. Didesnės presence penalty reikšmės gali mažinti pasikartojimus, bet maišyti kalbas ar bloginti kokybę. Pokalbio istorijoje išlaikykite tik galutinius atsakymus. Aiškiai nurodykite reikiamą atsakymo schemą ir prieš naudodami patikrinkite matematinius rezultatus, faktines išvadas bei sugeneruotas pataisas pagal pateiktus įrodymus.", "editorialOverlay": { "copy_fields": { "practical_html": "Techninis pavyzdys anglų kalba
Edit a multilingual service message\n\nTranslate into German for an office administrator: “The Atlas Link update is available, but installing it will restart the device. Save your work before starting.” Keep Atlas Link unchanged, preserve the restart warning and use a polite, concise tone. Return only the translated notice without adding a duration or maintenance window.A concise German notice retaining the product name, restart warning and save-work instruction.Check that the translation keeps the restart as a consequence of installation and does not add an unprovided downtime estimate.qwen/qwen3-30b-a3b-fp8Qwen3-30B-A3B-FP8 – FP8 kvantuotas Qwen ekspertų mišinio teksto modelis su pasirenkamais mąstymo ir tiesioginio atsakymo režimais. Naudokite jį matematiniam samprotavimui, programavimui, daugiakalbiam rašymui ir įrankiais papildytoms darbo eigoms, išlaikydami tikslią FP8 versiją bei jos konteksto konfigūraciją.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Qwen3 galimybės
Qwen3-30B-A3B-FP8 perkelia hibridinį Qwen teksto generavimo modelį į smulkiagrūdę FP8 modelio būseną. Jis priima tekstinius pokalbius ir kuria tekstą: paaiškinimus, kodą, vertimus, kūrybinį rašymą ir kelių žingsnių atsakymus. Qwen3 šeima palaiko 119 kalbų bei tarmių, įskaitant daugiakalbes instrukcijas. Du atsakymo režimai leidžia darbo eigai palikti aiškų samprotavimą matematikai, programavimui ir loginėms problemoms, tada naudoti tiesioginius atsakymus paprastam perrašymui ar dialogui. Kalbų aprėptis nereiškia vienodo patikimumo kiekvienai kalbai ar specializuotai sričiai.
Modelio apžvalga
Modelis turi iš viso 30,5 milijardo parametrų ir žetonui aktyvina 3,3 milijardo. Jo ekspertų mišinio architektūra 48 sluoksniuose naudoja 128 ekspertus, kiekvienam žetonui parenkant aštuonis. Tai modelio architektūros skaičiai; mažesnis aktyvinamas skaičius nereiškia, kad visa modelio būsena turi tik 3,3 milijardo parametrų. Tai Qwen3-30B-A3B FP8 versija, atskira nuo jo originalios skaitinio tikslumo modelio būsenos ir vėlesnių Thinking-2507 bei Instruct-2507 laidų.
Teksto sąsajos naudojimas
Užduotį, susijusį šaltinio tekstą ir laukiamą atsakymo formatą parenkite kartu. Derinimo prašymui pateikite klaidingai veikiančią funkciją, pastebėtą klaidą, numatomą veikimą ir minimalią įvestį, tada paprašykite paaiškinimo, po kurio būtų pataisa ir siūlomos patikros. Daugiakalbiam redagavimui nurodykite tikslinę kalbą, auditoriją ir nekeistinus terminus. Prašykite glausto galutinio artefakto, kai ilgas paaiškinimas užgožtų rezultatą. Tai praktiniai dokumentuotų teksto ir programavimo galimybių naudojimo būdai, o ne garantijos, kad sugeneruotas kodas įvykdytas.
FP8 versija
Qwen nurodo smulkiagrūdį FP8 kvantavimą su 128 × 128 svorių blokais. Modelio būsenos konfigūracija palieka pasirinktus komponentus už konversijos ribų ir naudoja dinaminį aktyvacijų kvantavimą. FP8 aprašo skaitinę reprezentaciją, o ne naują pokalbio režimą ar pažadėtą atsakymo laiką. Suderinamumas svarbus: Qwen kortelėje įrašyta kelių įrenginių paskirstyto vykdymo pastaba šiam kvantavimo metodui. Todėl kvantuota modelio būsena turėtų išlaikyti tikslų versijos pavadinimą, o ne tyliai perimti teiginius apie kitą modelio variantą.
Mąstymo ir tiesioginio atsakymo režimai
Kūrėjo pokalbio šablonas įjungia mąstymą pagal numatytąjį nustatymą. Tuo režimu samprotavimo blokas yra prieš galutinį atsakymą. Griežtas enable_thinking=False nustatymas pašalina bloką. Įjungus mąstymą, /think ir /no_think pateikia kiekvieno žingsnio nurodymą pagal naujausią instrukciją; tuščias samprotavimo blokas vis tiek gali atsirasti su švelniu išjungimo jungikliu. Šios užklausos žymos negali pakeisti griežto išjungimo nustatymo. Tai dokumentuoti kūrėjo valdikliai; ar programa juos suteikia, priklauso nuo jos sąsajos.
Agento naudojimas
Qwen dokumentuoja įrankių iškvietimą abiem režimams ir rekomenduoja Qwen-Agent reikalingiems įrankių iškvietimų šablonams bei jų sintaksinei analizei. Agentui pateikite aiškų įrankio aprašą, leidžiamas įvestis ir konkretų rezultatą, pavyzdžiui, pateiktų duomenų patikrą prieš rengiant ataskaitą. Modelis gali dalyvauti įrankių darbo eigoje; paieška, kodo vykdymas ir išoriniai veiksmai kyla iš programos prijungtų įrankių. Vien įrankių galimybė nesuteikia modeliui prieigos prie failų ar dabartinės informacijos.
Ilgas tekstas
Qwen aprašo savąjį 32 768 žetonų kontekstą ir patikrina plėtinį iki 131 072 su YaRN. Įvestis, pokalbio istorija, samprotavimas ir atsakymas konkuruoja dėl konteksto erdvės. Pateikta pozicijų konfigūracija yra 40 960; Qwen tai paaiškina kaip vietos paskirstymą įprastoms užklausoms ir išplėstam generavimui, o ne nurodyto savojo konteksto pakeitimą. Statinis YaRN gali bloginti trumpesnių įvesčių kokybę, todėl plėtinys priklauso nuo konfigūracijos ir poreikio. Dokumento darbui pažymėkite dalis ir paprašykite atsakyme nurodyti ištraukas, pagrindžiančias kiekvieną išvadą.
Generavimas ir apribojimai
Qwen mąstymui rekomenduoja temperature 0,6, top_p 0,95, top_k 20 ir min_p 0, o tiesioginiams atsakymams – 0,7, 0,8, 20 ir 0. Godus dekodavimas gali sukurti prastesnį samprotavimą ar pasikartojantį tekstą. Gairės rekomenduoja 32 768 žetonų generavimo biudžetą daugumai užklausų ir 38 912 neįprastai sudėtingoms problemoms; tai rekomendacijos, o ne atskirai nustatyta griežta išvesties riba. Didesnės presence penalty reikšmės gali mažinti pasikartojimus, bet maišyti kalbas ar bloginti kokybę. Pokalbio istorijoje išlaikykite tik galutinius atsakymus. Aiškiai nurodykite reikiamą atsakymo schemą ir prieš naudodami patikrinkite matematinius rezultatus, faktines išvadas bei sugeneruotas pataisas pagal pateiktus įrodymus.
POST /v1/chat/completionstexttext| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos qwen/qwen3-30b-a3b-fp8 | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Pavyzdžiai: system, user, assistant, tool, function Sąlygos: Šie vaidmenys aiškiai išreikšti šaltinio kodo suderinamumo tipuose; tikslus vaidmenų rinkinys priklauso nuo konkretaus modelio. Priklauso nuo modelio | Numatyta— |
Laukasmessages[].content | Tipasstring|content_part[]|null | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].tool_calls | Tipastool_call[] | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].tool_call_id | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Taikoma, kai: role=tool; naudokite tikrąjį grąžintą ID | Numatyta— |
Laukasmessages[].name | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].reasoning_content | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Taikoma, kai: Grąžinkite tikrąjį gautą samprotavimą ten, kur šis modelis jį naudoja | Numatyta— |
Laukasmessages[].reasoning_details | Tipasobject|array | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasmax_tokens | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 Priklauso nuo modelio | Numatyta— |
Laukasmax_completion_tokens | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 Priklauso nuo modelio | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Laukasstream_options.include_usage | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastemperature | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastop_p | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasstop | Tipasstring|string[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastools | Tipasfunction_tool[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastools[].type | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos function Priklauso nuo modelio | Numatyta— |
Laukastools[].function.name | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Taikoma, kai: pateiktas funkcijos tipo įrankis | Numatyta— |
Laukastools[].function.description | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukastools[].function.parameters | TipasJSON_schema | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukastool_choice | Tipasstring|object | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasparallel_tool_calls | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasresponse_format | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasreasoning_effort | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasreasoning | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasservice_tier | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasinstructions | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Suderinamumo laukas | Numatyta— |
Laukasfunctions | Tipasfunction[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasfunction_call | Tipasstring|object | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasprompt_cache_options | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasmodalities | Tipasstring[] | ReikalavimasNeprivaloma | Reikšmės ir ribos text | Numatyta— |
Laukasprovider | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: provider.options šiame Ultra teksto maršrute atmetamas | Numatyta— |
Laukascache_control.ttl | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: 1h atmetamas tikrosiose užklausų podėlio vietose | Numatyta— |
Tekstas · UTF8 tekstas
messages[].content
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages |
Parametrasmaterial_types | Specifikacijatext |
Parametrasmessages | Specifikacijapranešimų masyvas su role/content struktūra |
Parametrasfile_material | Specifikacijatikrasis UTF-8 dokumentas įterptas kaip pažodinis tekstas; failo ID nenumanomas |
Parametrasoptional_controls | Specifikacijastream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrascontrol_scope | Specifikacijapriklauso nuo modelio; naudotojo funkcijų įrankiai skiriasi nuo priglobtų įrankių |
Parametrasoutput_modalities | Specifikacijatext |
Parametrashosted_operations | Specifikacijafalse |
Parametrasmultimodal_input_binding | Specifikacijanull |
Gyvavimo ciklas: synchronous_or_streamed
Siųskite tikslų modelio ID kartu su messages.
Konteksto ilgis nėra išvesties limitas.
Teksto failas gali pateikti pažodinį tekstą; vaizdų / garso / failų objektų įvestims reikia tikslaus susiejimo.
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.0002 / 1K tokenų Išvestis · Išvesties tokenai $0.001 / 1K tokenų Įvestis · Talpyklos skaitymas $0 / 1K tokenų Įvestis · Rašymas į talpyklą $0 / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen3-30b-a3b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen3-30b-a3b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen3-30b-a3b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite kiekvieną variantą ir jo turinį / įrankių iškvietimus / samprotavimą. SSE prieaugius surinkite pagal varianto / įrankio indeksą; išsaugokite galutinę užbaigimo priežastį ir naudojimo duomenis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukaschoices[].index | Tipasinteger |
Laukaschoices[].message.content | Tipasstring|null |
Laukaschoices[].message.tool_calls | Tipastool_call[] |
Laukaschoices[].message.reasoning_content | Tipasstring |
Laukaschoices[].message.reasoning_details | Tipasobject|array |
Laukaschoices[].finish_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra qwen/qwen3-30b-a3b-fp8
Naudokite aukščiau nurodytus metodų kelius.
qwen/qwen3-30b-a3b-fp8Qwen3-30B-A3B-FP8 – FP8 kvantuotas Qwen ekspertų mišinio teksto modelis su pasirenkamais mąstymo ir tiesioginio atsakymo režimais. Naudokite jį matematiniam samprotavimui, programavimui, daugiakalbiam rašymui ir įrankiais papildytoms darbo eigoms, išlaikydami tikslią FP8 versiją bei jos konteksto konfigūraciją.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Qwen3 galimybės
Qwen3-30B-A3B-FP8 perkelia hibridinį Qwen teksto generavimo modelį į smulkiagrūdę FP8 modelio būseną. Jis priima tekstinius pokalbius ir kuria tekstą: paaiškinimus, kodą, vertimus, kūrybinį rašymą ir kelių žingsnių atsakymus. Qwen3 šeima palaiko 119 kalbų bei tarmių, įskaitant daugiakalbes instrukcijas. Du atsakymo režimai leidžia darbo eigai palikti aiškų samprotavimą matematikai, programavimui ir loginėms problemoms, tada naudoti tiesioginius atsakymus paprastam perrašymui ar dialogui. Kalbų aprėptis nereiškia vienodo patikimumo kiekvienai kalbai ar specializuotai sričiai.
Modelio apžvalga
Modelis turi iš viso 30,5 milijardo parametrų ir žetonui aktyvina 3,3 milijardo. Jo ekspertų mišinio architektūra 48 sluoksniuose naudoja 128 ekspertus, kiekvienam žetonui parenkant aštuonis. Tai modelio architektūros skaičiai; mažesnis aktyvinamas skaičius nereiškia, kad visa modelio būsena turi tik 3,3 milijardo parametrų. Tai Qwen3-30B-A3B FP8 versija, atskira nuo jo originalios skaitinio tikslumo modelio būsenos ir vėlesnių Thinking-2507 bei Instruct-2507 laidų.
Teksto sąsajos naudojimas
Užduotį, susijusį šaltinio tekstą ir laukiamą atsakymo formatą parenkite kartu. Derinimo prašymui pateikite klaidingai veikiančią funkciją, pastebėtą klaidą, numatomą veikimą ir minimalią įvestį, tada paprašykite paaiškinimo, po kurio būtų pataisa ir siūlomos patikros. Daugiakalbiam redagavimui nurodykite tikslinę kalbą, auditoriją ir nekeistinus terminus. Prašykite glausto galutinio artefakto, kai ilgas paaiškinimas užgožtų rezultatą. Tai praktiniai dokumentuotų teksto ir programavimo galimybių naudojimo būdai, o ne garantijos, kad sugeneruotas kodas įvykdytas.
FP8 versija
Qwen nurodo smulkiagrūdį FP8 kvantavimą su 128 × 128 svorių blokais. Modelio būsenos konfigūracija palieka pasirinktus komponentus už konversijos ribų ir naudoja dinaminį aktyvacijų kvantavimą. FP8 aprašo skaitinę reprezentaciją, o ne naują pokalbio režimą ar pažadėtą atsakymo laiką. Suderinamumas svarbus: Qwen kortelėje įrašyta kelių įrenginių paskirstyto vykdymo pastaba šiam kvantavimo metodui. Todėl kvantuota modelio būsena turėtų išlaikyti tikslų versijos pavadinimą, o ne tyliai perimti teiginius apie kitą modelio variantą.
Mąstymo ir tiesioginio atsakymo režimai
Kūrėjo pokalbio šablonas įjungia mąstymą pagal numatytąjį nustatymą. Tuo režimu samprotavimo blokas yra prieš galutinį atsakymą. Griežtas enable_thinking=False nustatymas pašalina bloką. Įjungus mąstymą, /think ir /no_think pateikia kiekvieno žingsnio nurodymą pagal naujausią instrukciją; tuščias samprotavimo blokas vis tiek gali atsirasti su švelniu išjungimo jungikliu. Šios užklausos žymos negali pakeisti griežto išjungimo nustatymo. Tai dokumentuoti kūrėjo valdikliai; ar programa juos suteikia, priklauso nuo jos sąsajos.
Agento naudojimas
Qwen dokumentuoja įrankių iškvietimą abiem režimams ir rekomenduoja Qwen-Agent reikalingiems įrankių iškvietimų šablonams bei jų sintaksinei analizei. Agentui pateikite aiškų įrankio aprašą, leidžiamas įvestis ir konkretų rezultatą, pavyzdžiui, pateiktų duomenų patikrą prieš rengiant ataskaitą. Modelis gali dalyvauti įrankių darbo eigoje; paieška, kodo vykdymas ir išoriniai veiksmai kyla iš programos prijungtų įrankių. Vien įrankių galimybė nesuteikia modeliui prieigos prie failų ar dabartinės informacijos.
Ilgas tekstas
Qwen aprašo savąjį 32 768 žetonų kontekstą ir patikrina plėtinį iki 131 072 su YaRN. Įvestis, pokalbio istorija, samprotavimas ir atsakymas konkuruoja dėl konteksto erdvės. Pateikta pozicijų konfigūracija yra 40 960; Qwen tai paaiškina kaip vietos paskirstymą įprastoms užklausoms ir išplėstam generavimui, o ne nurodyto savojo konteksto pakeitimą. Statinis YaRN gali bloginti trumpesnių įvesčių kokybę, todėl plėtinys priklauso nuo konfigūracijos ir poreikio. Dokumento darbui pažymėkite dalis ir paprašykite atsakyme nurodyti ištraukas, pagrindžiančias kiekvieną išvadą.
Generavimas ir apribojimai
Qwen mąstymui rekomenduoja temperature 0,6, top_p 0,95, top_k 20 ir min_p 0, o tiesioginiams atsakymams – 0,7, 0,8, 20 ir 0. Godus dekodavimas gali sukurti prastesnį samprotavimą ar pasikartojantį tekstą. Gairės rekomenduoja 32 768 žetonų generavimo biudžetą daugumai užklausų ir 38 912 neįprastai sudėtingoms problemoms; tai rekomendacijos, o ne atskirai nustatyta griežta išvesties riba. Didesnės presence penalty reikšmės gali mažinti pasikartojimus, bet maišyti kalbas ar bloginti kokybę. Pokalbio istorijoje išlaikykite tik galutinius atsakymus. Aiškiai nurodykite reikiamą atsakymo schemą ir prieš naudodami patikrinkite matematinius rezultatus, faktines išvadas bei sugeneruotas pataisas pagal pateiktus įrodymus.
POST /v1/messagestextjson, sse| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos qwen/qwen3-30b-a3b-fp8 | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos user, assistant | Numatyta— |
Laukasmessages[].content | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmax_tokens | Tipasinteger | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Tekstas · UTF-8 tekstas
messages[].content eilutė
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages, max_tokens |
Parametrasoptional_controls | Specifikacijastream |
Parametrasmaterial_types | Specifikacijatext |
Parametrastext_file_material | SpecifikacijaPerskaitykite tikrąjį UTF-8 dokumentą ir įterpkite jo tekstą į nurodytą input lauką arba pranešimo turinio eilutę. |
Gyvavimo ciklas: synchronous_or_streamed
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.0002 / 1K tokenų Išvestis · Išvesties tokenai $0.001 / 1K tokenų Įvestis · Talpyklos skaitymas $0 / 1K tokenų Įvestis · Rašymas į talpyklą $0 / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
{\n "model": "qwen/qwen3-30b-a3b-fp8",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-30b-a3b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-30b-a3b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite visus turinio blokus, mąstymo parašus ir tikruosius įrankių naudojimo ID. Surinkite visus SSE blokų prieaugius; pirmasis teksto blokas nėra visa išvestis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukasid | Tipasstring |
Laukasmodel | Tipasstring |
Laukascontent[] | Tipastext|thinking|tool_use|other content block |
Laukasstop_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra qwen/qwen3-30b-a3b-fp8
Naudokite aukščiau nurodytus metodų kelius.
Techninis pavyzdys anglų kalba
Edit a multilingual service message\n\nTranslate into German for an office administrator: “The Atlas Link update is available, but installing it will restart the device. Save your work before starting.” Keep Atlas Link unchanged, preserve the restart warning and use a polite, concise tone. Return only the translated notice without adding a duration or maintenance window.A concise German notice retaining the product name, restart warning and save-work instruction.Check that the translation keeps the restart as a consequence of installation and does not add an unprovided downtime estimate.