Keupayaan Qwen3
Qwen3-30B-A3B-FP8 membawa model penjanaan teks hibrid Qwen ke dalam titik semak FP8 butiran halus. Model menerima perbualan teks dan menghasilkan teks: penerangan, kod, terjemahan, penulisan kreatif dan jawapan berbilang giliran. Keluarga Qwen3 menyokong 119 bahasa dan dialek, termasuk arahan berbilang bahasa. Dua mod respons membolehkan aliran kerja memperuntukkan penaakulan jelas untuk matematik, pengaturcaraan dan masalah logik, kemudian menggunakan jawapan langsung untuk penulisan semula atau dialog mudah. Liputan bahasa tidak bermaksud kebolehpercayaan sama bagi setiap bahasa atau bidang khusus.
Gambaran model
Model mempunyai 30.5 bilion parameter keseluruhan dan mengaktifkan 3.3 bilion bagi satu token. Seni bina campuran pakarnya menggunakan 128 pakar, memilih lapan bagi setiap token, merentasi 48 lapisan. Ini ialah angka seni bina model; bilangan aktif yang lebih kecil tidak bermaksud keseluruhan titik semak mengandungi 3.3 bilion parameter sahaja. Ini ialah edisi FP8 Qwen3-30B-A3B, berbeza daripada titik semak ketepatan berangkanya yang asal dan keluaran Thinking-2507 serta Instruct-2507 kemudian.
Menggunakan antara muka teks
Sediakan tugas, teks sumber berkaitan dan format jawapan yang dijangka bersama. Untuk permintaan penyahpepijatan, berikan fungsi gagal, ralat yang diperhatikan, tingkah laku yang dimaksudkan dan input minimum, kemudian minta penerangan diikuti patch serta semakan yang dicadangkan. Untuk penyuntingan berbilang bahasa, nyatakan bahasa sasaran, khalayak dan istilah yang mesti kekal tidak berubah. Minta artifak akhir padat apabila penerangan panjang akan mengaburkan hasil. Ini ialah cara praktikal menggunakan keupayaan teks dan pengekodan yang didokumenkan, bukan jaminan bahawa kod yang dijana telah dilaksanakan.
Edisi FP8
Qwen menentukan pengkuantuman FP8 butiran halus dengan blok pemberat 128 × 128. Konfigurasi titik semak mengekalkan komponen terpilih di luar penukaran dan menggunakan pengkuantuman dinamik bagi pengaktifan. FP8 menerangkan perwakilan berangka, bukannya mod perbualan baharu atau masa respons yang dijanjikan. Keserasian penting: kad Qwen merekodkan peringatan inferens teragih berbilang peranti bagi kaedah pengkuantuman ini. Oleh itu, titik semak yang dikuantumkan sepatutnya mengekalkan nama edisi yang tepat, bukannya secara senyap mewarisi dakwaan tentang binaan lain.
Mod pemikiran dan jawapan langsung
Templat sembang pembuat mengaktifkan pemikiran secara lalai. Dalam mod itu, blok penaakulan mendahului jawapan akhir. Tetapan keras enable_thinking=False menyekat blok. Dengan pemikiran aktif, /think dan /no_think memberikan panduan pada peringkat giliran mengikut arahan terkini; blok penaakulan kosong masih boleh muncul dengan suis tutup lembut. Penanda prom itu tidak boleh mengatasi tetapan tutup keras. Ini ialah kawalan pembuat yang didokumenkan; sama ada aplikasi mendedahkannya bergantung pada antara mukanya.
Penggunaan ejen
Qwen mendokumenkan panggilan alat dalam kedua-dua mod dan mengesyorkan Qwen-Agent untuk templat serta penghuraian yang diperlukan. Berikan ejen penerangan alat jelas, input yang dibenarkan dan hasil khusus, seperti menyemak data yang dibekalkan sebelum merangka laporan. Model boleh mengambil bahagian dalam aliran kerja alat; carian, pelaksanaan kod dan tindakan luaran datang daripada alat yang disambungkan oleh aplikasi. Keupayaan alat sahaja tidak memberikan model akses kepada fail atau maklumat semasa.
Teks panjang
Qwen menerangkan konteks asal 32,768 token dan mengesahkan peluasan kepada 131,072 dengan YaRN. Input, sejarah perbualan, penaakulan dan jawapan bersaing untuk ruang konteks. Konfigurasi kedudukan yang dihantar ialah 40,960; Qwen menerangkannya sebagai peruntukan untuk prom biasa dan penjanaan lanjutan, bukannya pengganti konteks asal yang dinyatakan. YaRN statik boleh menurunkan kualiti input lebih pendek, maka peluasan bersyarat pada konfigurasi dan keperluan. Untuk kerja dokumen, labelkan bahagian dan minta jawapan mengenal pasti petikan yang menyokong setiap kesimpulan.
Penjanaan dan keterbatasan
Qwen mengesyorkan temperature 0.6, top_p 0.95, top_k 20 dan min_p 0 untuk pemikiran, serta 0.7, 0.8, 20 dan 0 untuk jawapan langsung. Penyahkodan tamak boleh menghasilkan penaakulan merosot atau teks berulang. Panduannya mengesyorkan bajet penjanaan 32,768 token untuk kebanyakan pertanyaan dan 38,912 untuk masalah luar biasa kompleks; ini cadangan, bukannya had keras output yang ditetapkan berasingan. Presence penalty lebih besar boleh mengurangkan pengulangan tetapi mungkin mencampurkan bahasa atau menurunkan kualiti. Kekalkan jawapan akhir sahaja dalam sejarah perbualan. Nyatakan skema jawapan yang diperlukan secara jelas, dan semak hasil matematik, kesimpulan fakta serta patch yang dijana terhadap bukti yang dibekalkan sebelum menggunakannya.
", "aboutText": "Keupayaan Qwen3\n\nQwen3-30B-A3B-FP8 membawa model penjanaan teks hibrid Qwen ke dalam titik semak FP8 butiran halus. Model menerima perbualan teks dan menghasilkan teks: penerangan, kod, terjemahan, penulisan kreatif dan jawapan berbilang giliran. Keluarga Qwen3 menyokong 119 bahasa dan dialek, termasuk arahan berbilang bahasa. Dua mod respons membolehkan aliran kerja memperuntukkan penaakulan jelas untuk matematik, pengaturcaraan dan masalah logik, kemudian menggunakan jawapan langsung untuk penulisan semula atau dialog mudah. Liputan bahasa tidak bermaksud kebolehpercayaan sama bagi setiap bahasa atau bidang khusus.\n\nGambaran model\n\nModel mempunyai 30.5 bilion parameter keseluruhan dan mengaktifkan 3.3 bilion bagi satu token. Seni bina campuran pakarnya menggunakan 128 pakar, memilih lapan bagi setiap token, merentasi 48 lapisan. Ini ialah angka seni bina model; bilangan aktif yang lebih kecil tidak bermaksud keseluruhan titik semak mengandungi 3.3 bilion parameter sahaja. Ini ialah edisi FP8 Qwen3-30B-A3B, berbeza daripada titik semak ketepatan berangkanya yang asal dan keluaran Thinking-2507 serta Instruct-2507 kemudian.\n\nMenggunakan antara muka teks\n\nSediakan tugas, teks sumber berkaitan dan format jawapan yang dijangka bersama. Untuk permintaan penyahpepijatan, berikan fungsi gagal, ralat yang diperhatikan, tingkah laku yang dimaksudkan dan input minimum, kemudian minta penerangan diikuti patch serta semakan yang dicadangkan. Untuk penyuntingan berbilang bahasa, nyatakan bahasa sasaran, khalayak dan istilah yang mesti kekal tidak berubah. Minta artifak akhir padat apabila penerangan panjang akan mengaburkan hasil. Ini ialah cara praktikal menggunakan keupayaan teks dan pengekodan yang didokumenkan, bukan jaminan bahawa kod yang dijana telah dilaksanakan.\n\nEdisi FP8\n\nQwen menentukan pengkuantuman FP8 butiran halus dengan blok pemberat 128 × 128. Konfigurasi titik semak mengekalkan komponen terpilih di luar penukaran dan menggunakan pengkuantuman dinamik bagi pengaktifan. FP8 menerangkan perwakilan berangka, bukannya mod perbualan baharu atau masa respons yang dijanjikan. Keserasian penting: kad Qwen merekodkan peringatan inferens teragih berbilang peranti bagi kaedah pengkuantuman ini. Oleh itu, titik semak yang dikuantumkan sepatutnya mengekalkan nama edisi yang tepat, bukannya secara senyap mewarisi dakwaan tentang binaan lain.\n\nMod pemikiran dan jawapan langsung\n\nTemplat sembang pembuat mengaktifkan pemikiran secara lalai. Dalam mod itu, blok penaakulan mendahului jawapan akhir. Tetapan keras enable_thinking=False menyekat blok. Dengan pemikiran aktif, /think dan /no_think memberikan panduan pada peringkat giliran mengikut arahan terkini; blok penaakulan kosong masih boleh muncul dengan suis tutup lembut. Penanda prom itu tidak boleh mengatasi tetapan tutup keras. Ini ialah kawalan pembuat yang didokumenkan; sama ada aplikasi mendedahkannya bergantung pada antara mukanya.\n\nPenggunaan ejen\n\nQwen mendokumenkan panggilan alat dalam kedua-dua mod dan mengesyorkan Qwen-Agent untuk templat serta penghuraian yang diperlukan. Berikan ejen penerangan alat jelas, input yang dibenarkan dan hasil khusus, seperti menyemak data yang dibekalkan sebelum merangka laporan. Model boleh mengambil bahagian dalam aliran kerja alat; carian, pelaksanaan kod dan tindakan luaran datang daripada alat yang disambungkan oleh aplikasi. Keupayaan alat sahaja tidak memberikan model akses kepada fail atau maklumat semasa.\n\nTeks panjang\n\nQwen menerangkan konteks asal 32,768 token dan mengesahkan peluasan kepada 131,072 dengan YaRN. Input, sejarah perbualan, penaakulan dan jawapan bersaing untuk ruang konteks. Konfigurasi kedudukan yang dihantar ialah 40,960; Qwen menerangkannya sebagai peruntukan untuk prom biasa dan penjanaan lanjutan, bukannya pengganti konteks asal yang dinyatakan. YaRN statik boleh menurunkan kualiti input lebih pendek, maka peluasan bersyarat pada konfigurasi dan keperluan. Untuk kerja dokumen, labelkan bahagian dan minta jawapan mengenal pasti petikan yang menyokong setiap kesimpulan.\n\nPenjanaan dan keterbatasan\n\nQwen mengesyorkan temperature 0.6, top_p 0.95, top_k 20 dan min_p 0 untuk pemikiran, serta 0.7, 0.8, 20 dan 0 untuk jawapan langsung. Penyahkodan tamak boleh menghasilkan penaakulan merosot atau teks berulang. Panduannya mengesyorkan bajet penjanaan 32,768 token untuk kebanyakan pertanyaan dan 38,912 untuk masalah luar biasa kompleks; ini cadangan, bukannya had keras output yang ditetapkan berasingan. Presence penalty lebih besar boleh mengurangkan pengulangan tetapi mungkin mencampurkan bahasa atau menurunkan kualiti. Kekalkan jawapan akhir sahaja dalam sejarah perbualan. Nyatakan skema jawapan yang diperlukan secara jelas, dan semak hasil matematik, kesimpulan fakta serta patch yang dijana terhadap bukti yang dibekalkan sebelum menggunakannya.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknikal dalam bahasa Inggeris
Edit a multilingual service message\n\nTranslate into German for an office administrator: “The Atlas Link update is available, but installing it will restart the device. Save your work before starting.” Keep Atlas Link unchanged, preserve the restart warning and use a polite, concise tone. Return only the translated notice without adding a duration or maintenance window.A concise German notice retaining the product name, restart warning and save-work instruction.Check that the translation keeps the restart as a consequence of installation and does not add an unprovided downtime estimate.qwen/qwen3-30b-a3b-fp8Qwen3-30B-A3B-FP8 ialah model teks campuran pakar Qwen yang dikuantumkan dengan FP8, dengan mod pemikiran dan jawapan langsung boleh dipilih. Gunakannya untuk penaakulan matematik, pengekodan, penulisan berbilang bahasa dan aliran kerja berbantukan alat, sambil mengekalkan edisi FP8 tepat serta konfigurasi konteksnya.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Keupayaan Qwen3
Qwen3-30B-A3B-FP8 membawa model penjanaan teks hibrid Qwen ke dalam titik semak FP8 butiran halus. Model menerima perbualan teks dan menghasilkan teks: penerangan, kod, terjemahan, penulisan kreatif dan jawapan berbilang giliran. Keluarga Qwen3 menyokong 119 bahasa dan dialek, termasuk arahan berbilang bahasa. Dua mod respons membolehkan aliran kerja memperuntukkan penaakulan jelas untuk matematik, pengaturcaraan dan masalah logik, kemudian menggunakan jawapan langsung untuk penulisan semula atau dialog mudah. Liputan bahasa tidak bermaksud kebolehpercayaan sama bagi setiap bahasa atau bidang khusus.
Gambaran model
Model mempunyai 30.5 bilion parameter keseluruhan dan mengaktifkan 3.3 bilion bagi satu token. Seni bina campuran pakarnya menggunakan 128 pakar, memilih lapan bagi setiap token, merentasi 48 lapisan. Ini ialah angka seni bina model; bilangan aktif yang lebih kecil tidak bermaksud keseluruhan titik semak mengandungi 3.3 bilion parameter sahaja. Ini ialah edisi FP8 Qwen3-30B-A3B, berbeza daripada titik semak ketepatan berangkanya yang asal dan keluaran Thinking-2507 serta Instruct-2507 kemudian.
Menggunakan antara muka teks
Sediakan tugas, teks sumber berkaitan dan format jawapan yang dijangka bersama. Untuk permintaan penyahpepijatan, berikan fungsi gagal, ralat yang diperhatikan, tingkah laku yang dimaksudkan dan input minimum, kemudian minta penerangan diikuti patch serta semakan yang dicadangkan. Untuk penyuntingan berbilang bahasa, nyatakan bahasa sasaran, khalayak dan istilah yang mesti kekal tidak berubah. Minta artifak akhir padat apabila penerangan panjang akan mengaburkan hasil. Ini ialah cara praktikal menggunakan keupayaan teks dan pengekodan yang didokumenkan, bukan jaminan bahawa kod yang dijana telah dilaksanakan.
Edisi FP8
Qwen menentukan pengkuantuman FP8 butiran halus dengan blok pemberat 128 × 128. Konfigurasi titik semak mengekalkan komponen terpilih di luar penukaran dan menggunakan pengkuantuman dinamik bagi pengaktifan. FP8 menerangkan perwakilan berangka, bukannya mod perbualan baharu atau masa respons yang dijanjikan. Keserasian penting: kad Qwen merekodkan peringatan inferens teragih berbilang peranti bagi kaedah pengkuantuman ini. Oleh itu, titik semak yang dikuantumkan sepatutnya mengekalkan nama edisi yang tepat, bukannya secara senyap mewarisi dakwaan tentang binaan lain.
Mod pemikiran dan jawapan langsung
Templat sembang pembuat mengaktifkan pemikiran secara lalai. Dalam mod itu, blok penaakulan mendahului jawapan akhir. Tetapan keras enable_thinking=False menyekat blok. Dengan pemikiran aktif, /think dan /no_think memberikan panduan pada peringkat giliran mengikut arahan terkini; blok penaakulan kosong masih boleh muncul dengan suis tutup lembut. Penanda prom itu tidak boleh mengatasi tetapan tutup keras. Ini ialah kawalan pembuat yang didokumenkan; sama ada aplikasi mendedahkannya bergantung pada antara mukanya.
Penggunaan ejen
Qwen mendokumenkan panggilan alat dalam kedua-dua mod dan mengesyorkan Qwen-Agent untuk templat serta penghuraian yang diperlukan. Berikan ejen penerangan alat jelas, input yang dibenarkan dan hasil khusus, seperti menyemak data yang dibekalkan sebelum merangka laporan. Model boleh mengambil bahagian dalam aliran kerja alat; carian, pelaksanaan kod dan tindakan luaran datang daripada alat yang disambungkan oleh aplikasi. Keupayaan alat sahaja tidak memberikan model akses kepada fail atau maklumat semasa.
Teks panjang
Qwen menerangkan konteks asal 32,768 token dan mengesahkan peluasan kepada 131,072 dengan YaRN. Input, sejarah perbualan, penaakulan dan jawapan bersaing untuk ruang konteks. Konfigurasi kedudukan yang dihantar ialah 40,960; Qwen menerangkannya sebagai peruntukan untuk prom biasa dan penjanaan lanjutan, bukannya pengganti konteks asal yang dinyatakan. YaRN statik boleh menurunkan kualiti input lebih pendek, maka peluasan bersyarat pada konfigurasi dan keperluan. Untuk kerja dokumen, labelkan bahagian dan minta jawapan mengenal pasti petikan yang menyokong setiap kesimpulan.
Penjanaan dan keterbatasan
Qwen mengesyorkan temperature 0.6, top_p 0.95, top_k 20 dan min_p 0 untuk pemikiran, serta 0.7, 0.8, 20 dan 0 untuk jawapan langsung. Penyahkodan tamak boleh menghasilkan penaakulan merosot atau teks berulang. Panduannya mengesyorkan bajet penjanaan 32,768 token untuk kebanyakan pertanyaan dan 38,912 untuk masalah luar biasa kompleks; ini cadangan, bukannya had keras output yang ditetapkan berasingan. Presence penalty lebih besar boleh mengurangkan pengulangan tetapi mungkin mencampurkan bahasa atau menurunkan kualiti. Kekalkan jawapan akhir sahaja dalam sejarah perbualan. Nyatakan skema jawapan yang diperlukan secara jelas, dan semak hasil matematik, kesimpulan fakta serta patch yang dijana terhadap bukti yang dibekalkan sebelum menggunakannya.
POST /v1/chat/completionstexttext| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had qwen/qwen3-30b-a3b-fp8 | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had Item minimum: 1 | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had Contoh: system, user, assistant, tool, function Syarat: Peranan ini diwakili secara eksplisit oleh jenis keserasian dalam kod sumber; set peranan model yang tepat kekal khusus untuk setiap model. Bergantung pada model | Lalai— |
Medanmessages[].content | Jenisstring|content_part[]|null | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_calls | Jenistool_call[] | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_call_id | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: role=tool; gunakan ID sebenar yang dipulangkan | Lalai— |
Medanmessages[].name | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].reasoning_content | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: Hantar semula penaakulan sebenar yang dipulangkan apabila model ini menggunakannya | Lalai— |
Medanmessages[].reasoning_details | Jenisobject|array | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanmax_completion_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Medanstream_options.include_usage | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantemperature | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantop_p | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanstop | Jenisstring|string[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools | Jenisfunction_tool[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools[].type | Jenisstring | KeperluanPilihan | Nilai & had function Bergantung pada model | Lalai— |
Medantools[].function.name | Jenisstring | KeperluanDiperlukan | Nilai & had Terpakai apabila: alat fungsi dibekalkan | Lalai— |
Medantools[].function.description | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medantools[].function.parameters | JenisJSON_schema | KeperluanPilihan | Nilai & had | Lalai— |
Medantool_choice | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanparallel_tool_calls | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanresponse_format | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning_effort | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanservice_tier | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medaninstructions | Jenisstring | KeperluanPilihan | Nilai & had Medan keserasian | Lalai— |
Medanfunctions | Jenisfunction[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanfunction_call | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanprompt_cache_options | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmodalities | Jenisstring[] | KeperluanPilihan | Nilai & had text | Lalai— |
Medanprovider | Jenisobject | KeperluanPilihan | Nilai & had Syarat: provider.options ditolak pada laluan teks Ultra ini | Lalai— |
Medancache_control.ttl | Jenisstring | KeperluanPilihan | Nilai & had Syarat: 1h ditolak pada lokasi cache prompt yang digunakan | Lalai— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontraktatasusunan mesej dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 sebenar dimasukkan sebagai teks literal; ID fail tidak diandaikan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeza daripada alat yang dihoskan |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Kitar hayat: synchronous_or_streamed
Hantar ID model yang tepat bersama messages.
Panjang konteks bukan had output.
Fail teks boleh membekalkan teks literal; input imej/audio/objek fail memerlukan pengikatan tepat.
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
| Konfigurasi | Jadual kadar | Caj |
|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Caj Input · Token input $0.0002 / 1K token Output · Token output $0.001 / 1K token Input · Bacaan cache $0 / 1K token Input · Penulisan cache $0 / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen3-30b-a3b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen3-30b-a3b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen3-30b-a3b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan setiap pilihan jawapan bersama kandungan, panggilan alat dan penaakulannya. Dalam SSE, gabungkan delta mengikut indeks pilihan jawapan/alat dan kekalkan sebab penamatan akhir serta data penggunaan.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanchoices[].index | Jenisinteger |
Medanchoices[].message.content | Jenisstring|null |
Medanchoices[].message.tool_calls | Jenistool_call[] |
Medanchoices[].message.reasoning_content | Jenisstring |
Medanchoices[].message.reasoning_details | Jenisobject|array |
Medanchoices[].finish_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra qwen/qwen3-30b-a3b-fp8
Gunakan laluan kaedah yang dipaparkan di atas.
qwen/qwen3-30b-a3b-fp8Qwen3-30B-A3B-FP8 ialah model teks campuran pakar Qwen yang dikuantumkan dengan FP8, dengan mod pemikiran dan jawapan langsung boleh dipilih. Gunakannya untuk penaakulan matematik, pengekodan, penulisan berbilang bahasa dan aliran kerja berbantukan alat, sambil mengekalkan edisi FP8 tepat serta konfigurasi konteksnya.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Keupayaan Qwen3
Qwen3-30B-A3B-FP8 membawa model penjanaan teks hibrid Qwen ke dalam titik semak FP8 butiran halus. Model menerima perbualan teks dan menghasilkan teks: penerangan, kod, terjemahan, penulisan kreatif dan jawapan berbilang giliran. Keluarga Qwen3 menyokong 119 bahasa dan dialek, termasuk arahan berbilang bahasa. Dua mod respons membolehkan aliran kerja memperuntukkan penaakulan jelas untuk matematik, pengaturcaraan dan masalah logik, kemudian menggunakan jawapan langsung untuk penulisan semula atau dialog mudah. Liputan bahasa tidak bermaksud kebolehpercayaan sama bagi setiap bahasa atau bidang khusus.
Gambaran model
Model mempunyai 30.5 bilion parameter keseluruhan dan mengaktifkan 3.3 bilion bagi satu token. Seni bina campuran pakarnya menggunakan 128 pakar, memilih lapan bagi setiap token, merentasi 48 lapisan. Ini ialah angka seni bina model; bilangan aktif yang lebih kecil tidak bermaksud keseluruhan titik semak mengandungi 3.3 bilion parameter sahaja. Ini ialah edisi FP8 Qwen3-30B-A3B, berbeza daripada titik semak ketepatan berangkanya yang asal dan keluaran Thinking-2507 serta Instruct-2507 kemudian.
Menggunakan antara muka teks
Sediakan tugas, teks sumber berkaitan dan format jawapan yang dijangka bersama. Untuk permintaan penyahpepijatan, berikan fungsi gagal, ralat yang diperhatikan, tingkah laku yang dimaksudkan dan input minimum, kemudian minta penerangan diikuti patch serta semakan yang dicadangkan. Untuk penyuntingan berbilang bahasa, nyatakan bahasa sasaran, khalayak dan istilah yang mesti kekal tidak berubah. Minta artifak akhir padat apabila penerangan panjang akan mengaburkan hasil. Ini ialah cara praktikal menggunakan keupayaan teks dan pengekodan yang didokumenkan, bukan jaminan bahawa kod yang dijana telah dilaksanakan.
Edisi FP8
Qwen menentukan pengkuantuman FP8 butiran halus dengan blok pemberat 128 × 128. Konfigurasi titik semak mengekalkan komponen terpilih di luar penukaran dan menggunakan pengkuantuman dinamik bagi pengaktifan. FP8 menerangkan perwakilan berangka, bukannya mod perbualan baharu atau masa respons yang dijanjikan. Keserasian penting: kad Qwen merekodkan peringatan inferens teragih berbilang peranti bagi kaedah pengkuantuman ini. Oleh itu, titik semak yang dikuantumkan sepatutnya mengekalkan nama edisi yang tepat, bukannya secara senyap mewarisi dakwaan tentang binaan lain.
Mod pemikiran dan jawapan langsung
Templat sembang pembuat mengaktifkan pemikiran secara lalai. Dalam mod itu, blok penaakulan mendahului jawapan akhir. Tetapan keras enable_thinking=False menyekat blok. Dengan pemikiran aktif, /think dan /no_think memberikan panduan pada peringkat giliran mengikut arahan terkini; blok penaakulan kosong masih boleh muncul dengan suis tutup lembut. Penanda prom itu tidak boleh mengatasi tetapan tutup keras. Ini ialah kawalan pembuat yang didokumenkan; sama ada aplikasi mendedahkannya bergantung pada antara mukanya.
Penggunaan ejen
Qwen mendokumenkan panggilan alat dalam kedua-dua mod dan mengesyorkan Qwen-Agent untuk templat serta penghuraian yang diperlukan. Berikan ejen penerangan alat jelas, input yang dibenarkan dan hasil khusus, seperti menyemak data yang dibekalkan sebelum merangka laporan. Model boleh mengambil bahagian dalam aliran kerja alat; carian, pelaksanaan kod dan tindakan luaran datang daripada alat yang disambungkan oleh aplikasi. Keupayaan alat sahaja tidak memberikan model akses kepada fail atau maklumat semasa.
Teks panjang
Qwen menerangkan konteks asal 32,768 token dan mengesahkan peluasan kepada 131,072 dengan YaRN. Input, sejarah perbualan, penaakulan dan jawapan bersaing untuk ruang konteks. Konfigurasi kedudukan yang dihantar ialah 40,960; Qwen menerangkannya sebagai peruntukan untuk prom biasa dan penjanaan lanjutan, bukannya pengganti konteks asal yang dinyatakan. YaRN statik boleh menurunkan kualiti input lebih pendek, maka peluasan bersyarat pada konfigurasi dan keperluan. Untuk kerja dokumen, labelkan bahagian dan minta jawapan mengenal pasti petikan yang menyokong setiap kesimpulan.
Penjanaan dan keterbatasan
Qwen mengesyorkan temperature 0.6, top_p 0.95, top_k 20 dan min_p 0 untuk pemikiran, serta 0.7, 0.8, 20 dan 0 untuk jawapan langsung. Penyahkodan tamak boleh menghasilkan penaakulan merosot atau teks berulang. Panduannya mengesyorkan bajet penjanaan 32,768 token untuk kebanyakan pertanyaan dan 38,912 untuk masalah luar biasa kompleks; ini cadangan, bukannya had keras output yang ditetapkan berasingan. Presence penalty lebih besar boleh mengurangkan pengulangan tetapi mungkin mencampurkan bahasa atau menurunkan kualiti. Kekalkan jawapan akhir sahaja dalam sejarah perbualan. Nyatakan skema jawapan yang diperlukan secara jelas, dan semak hasil matematik, kesimpulan fakta serta patch yang dijana terhadap bukti yang dibekalkan sebelum menggunakannya.
POST /v1/messagestextjson, sse| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had qwen/qwen3-30b-a3b-fp8 | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had user, assistant | Lalai— |
Medanmessages[].content | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Teks · Teks UTF-8
rentetan messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 sebenar dan letakkan teksnya dalam rentetan input atau kandungan mesej yang ditunjukkan. |
Kitar hayat: synchronous_or_streamed
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
| Konfigurasi | Jadual kadar | Caj |
|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Caj Input · Token input $0.0002 / 1K token Output · Token output $0.001 / 1K token Input · Bacaan cache $0 / 1K token Input · Penulisan cache $0 / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
{\n "model": "qwen/qwen3-30b-a3b-fp8",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-30b-a3b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-30b-a3b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan semua blok kandungan, tandatangan penaakulan dan ID penggunaan alat sebenar. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan output.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanid | Jenisstring |
Medanmodel | Jenisstring |
Medancontent[] | Jenistext|thinking|tool_use|other content block |
Medanstop_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra qwen/qwen3-30b-a3b-fp8
Gunakan laluan kaedah yang dipaparkan di atas.
Contoh teknikal dalam bahasa Inggeris
Edit a multilingual service message\n\nTranslate into German for an office administrator: “The Atlas Link update is available, but installing it will restart the device. Save your work before starting.” Keep Atlas Link unchanged, preserve the restart warning and use a polite, concise tone. Return only the translated notice without adding a duration or maintenance window.A concise German notice retaining the product name, restart warning and save-work instruction.Check that the translation keeps the restart as a consequence of installation and does not add an unprovided downtime estimate.