Qwen3-32B-FP8 ialah titik semak FP8 rasmi model bahasa padat Qwen3-32B. Pengeluar menerangkan matematik, penaakulan logik, penjanaan kod, penulisan kreatif, dialog berasaskan peranan dan pematuhan arahan merentas beberapa giliran. Keluarga menyokong lebih daripada 100 bahasa dan dialek. Input dan output ialah teks, dan keluaran yang sama menyediakan tingkah laku pemikiran serta respons langsung.
Model mempunyai 32.8 bilion parameter, termasuk 31.2 bilion di luar pembenaman, dan 64 lapisan. Perhatian pertanyaan berkelompoknya mengandungi 64 kepala pertanyaan dan lapan kepala kunci/nilai. Ini ialah seni bina padat, berbeza daripada keluaran campuran pakar Qwen3 dengan bilangan parameter keseluruhan dan aktif. FP8 turut menjadi sebahagian daripada identiti edisi tepat. Untuk pembantu pembangunan, berikan fungsi, spesifikasi dan beberapa input, kemudian minta penerangan tingkah laku semasa serta pelaksanaan disemak yang mengekalkan antara muka dipersetujui. Untuk tugas editorial, berikan sumber sebenar, pembaca sasaran dan istilah, bukannya bergantung pada latar yang tidak ditentukan.
Panduan mula pantas pengeluar menggunakan templat sembang yang ditetapkan. Pisahkan tugas daripada bahan yang dibekalkan dan tentukan bentuk akhir. Permintaan analisis berguna boleh membandingkan dua pendekatan pengesahan data menggunakan peraturan medan yang sama, mengenal pasti kes yang diterima setiap pendekatan dan mengembalikan cadangan fungsi pengesahan. Sertakan peraturan nilai tiada, data wakil dan mesej ralat yang diperlukan. Untuk kandungan berbilang bahasa, berikan glosari dan minta terjemahan bersama senarai istilah yang memerlukan semakan. Persediaan itu menjadikan hasil yang dijana boleh disemak terhadap input konkrit. Integrasi yang diterbitkan menjangkakan persekitaran pelaksanaan yang mengenali Qwen3; kad memberi amaran bahawa versi Transformers di bawah 4.51.0 tidak mengenali seni bina yang diperlukan.
Nota FP8 menerangkan pengkuantuman butiran halus dengan saiz blok 128. Konfigurasi titik semak juga mengenal pasti persediaan pengkuantuman FP8. Pengeluar menyenaraikan Transformers, SGLang dan vLLM untuk inferens, tetapi menandakan isu inferens teragih dengan FP8 butiran halus dalam Transformers serta menyatakan penggunaan berbilang peranti mungkin memerlukan CUDA_LAUNCH_BLOCKING=1. Pisahkan peringatan keserasian ini daripada keupayaan teks. Identiti dikuantumkan tidak dengan sendirinya menetapkan kependaman terukur, penjimatan perkakasan atau kesetaraan respons dengan titik semak asal.
Pemikiran diaktifkan secara lalai dalam templat yang diberikan. Tetapan keras tanpa pemikiran menyekat bahagian penaakulannya. Apabila pemikiran kekal aktif, /think dan /no_think ialah kawalan lembut bagi giliran seterusnya dengan arahan terkini terpakai; ia tidak boleh mengatasi pelumpuhan keras. Minta penaakulan apabila model perlu memeriksa syarat bercanggah, kemudian gunakan susulan langsung untuk mempersembahkan hasil yang diterima dalam format ringkas. Pisahkan respons akhir dan gunakan respons akhir, bukan penaakulan sebelumnya, sebagai sejarah giliran kemudian. Dengan pemikiran aktif, permintaan lembut tanpa pemikiran pun mengekalkan blok penaakulan; kandungannya boleh kosong. Pelumpuhan keras membuang blok itu.
Kad merangkumi penggunaan ejen dan mengesyorkan Qwen-Agent untuk pemformatan serta penghuraian alat. Aplikasi membekalkan definisi alat, menyemak panggilan, melaksanakannya dan mengembalikan hasil. Dalam contoh pengesahan, pelaksana ujian terkawal boleh menilai cadangan kod terhadap kes yang dibekalkan. Minta model meringkaskan hasil lulus/gagal sebenar dan membetulkan syarat gagal yang dinamakan. Outputnya tidak patut menganggap cadangan panggilan sebagai bukti pelaksanaan. Tentukan skop yang dibenarkan dan medan output alat sebelum memulakan aliran tersebut. Panduan Qwen3 turut menerangkan panggilan alat selari dan berbilang langkah, dengan argumen diwakili sebagai objek dan hasil dibekalkan semula ke perbualan.
Kad tepat menyenaraikan 32,768 token konteks asal dan 131,072 dengan YaRN. Peluasan bergantung pada konfigurasi; penskalaan statik boleh mempengaruhi teks lebih pendek. Input dan hasil yang dijana menduduki bajet urutan. Labelkan bahagian sumber panjang dan peruntukkan ruang mencukupi untuk kod serta penerangan yang diperlukan. Contoh output terbitan dan panjang yang disyorkan tidak menetapkan had keras output universal. Untuk penjanaan lebih panjang, nilai sama ada hasil kekal padu dan memenuhi keperluan tugas. Dokumentasi Qwen3 membincangkan panjang mesej pembantu 38,912 token dalam mod pemikiran dan 16,384 dalam mod tanpa pemikiran dalam penerangan panjang latihannya, serta mengesyorkan penilaian kualiti penjanaan lebih panjang. Angka ini berbeza daripada tetingkap konteks keseluruhan dan bukan had keras khusus titik akhir. Kad juga menerangkan peruntukan kedudukan lalai 40,960 token sebagai 8,192 untuk prom biasa ditambah 32,768 untuk output; ini ialah panduan konfigurasi pengeluar, berasingan daripada konteks latihan asal serta sebarang had titik akhir.
Tetapan pensampelan yang disyorkan ialah temperature 0.6, top-p 0.95, top-k 20 dan min-p 0 untuk pemikiran, serta 0.7, 0.8, 20 dan 0 untuk mod langsung. Pengeluar memberi amaran terhadap penaakulan tamak kerana pengulangan; presence penalty tinggi kadangkala boleh mencampurkan bahasa. Wajibkan jawapan akhir yang boleh diperiksa, seperti jadual keputusan, fungsi lengkap dan senarai kes. Sahkan medan berstruktur yang dikembalikan, semak pengiraan terhadap sumber dan jalankan kod dalam persekitaran yang dimaksudkan, sambil mengekalkan identiti FP8 tepat ini apabila merekodkan hasil.
", "aboutText": "Qwen3-32B-FP8 ialah titik semak FP8 rasmi model bahasa padat Qwen3-32B. Pengeluar menerangkan matematik, penaakulan logik, penjanaan kod, penulisan kreatif, dialog berasaskan peranan dan pematuhan arahan merentas beberapa giliran. Keluarga menyokong lebih daripada 100 bahasa dan dialek. Input dan output ialah teks, dan keluaran yang sama menyediakan tingkah laku pemikiran serta respons langsung.\n\nModel mempunyai 32.8 bilion parameter, termasuk 31.2 bilion di luar pembenaman, dan 64 lapisan. Perhatian pertanyaan berkelompoknya mengandungi 64 kepala pertanyaan dan lapan kepala kunci/nilai. Ini ialah seni bina padat, berbeza daripada keluaran campuran pakar Qwen3 dengan bilangan parameter keseluruhan dan aktif. FP8 turut menjadi sebahagian daripada identiti edisi tepat. Untuk pembantu pembangunan, berikan fungsi, spesifikasi dan beberapa input, kemudian minta penerangan tingkah laku semasa serta pelaksanaan disemak yang mengekalkan antara muka dipersetujui. Untuk tugas editorial, berikan sumber sebenar, pembaca sasaran dan istilah, bukannya bergantung pada latar yang tidak ditentukan.\n\nPanduan mula pantas pengeluar menggunakan templat sembang yang ditetapkan. Pisahkan tugas daripada bahan yang dibekalkan dan tentukan bentuk akhir. Permintaan analisis berguna boleh membandingkan dua pendekatan pengesahan data menggunakan peraturan medan yang sama, mengenal pasti kes yang diterima setiap pendekatan dan mengembalikan cadangan fungsi pengesahan. Sertakan peraturan nilai tiada, data wakil dan mesej ralat yang diperlukan. Untuk kandungan berbilang bahasa, berikan glosari dan minta terjemahan bersama senarai istilah yang memerlukan semakan. Persediaan itu menjadikan hasil yang dijana boleh disemak terhadap input konkrit. Integrasi yang diterbitkan menjangkakan persekitaran pelaksanaan yang mengenali Qwen3; kad memberi amaran bahawa versi Transformers di bawah 4.51.0 tidak mengenali seni bina yang diperlukan.\n\nNota FP8 menerangkan pengkuantuman butiran halus dengan saiz blok 128. Konfigurasi titik semak juga mengenal pasti persediaan pengkuantuman FP8. Pengeluar menyenaraikan Transformers, SGLang dan vLLM untuk inferens, tetapi menandakan isu inferens teragih dengan FP8 butiran halus dalam Transformers serta menyatakan penggunaan berbilang peranti mungkin memerlukan CUDA_LAUNCH_BLOCKING=1. Pisahkan peringatan keserasian ini daripada keupayaan teks. Identiti dikuantumkan tidak dengan sendirinya menetapkan kependaman terukur, penjimatan perkakasan atau kesetaraan respons dengan titik semak asal.\n\nPemikiran diaktifkan secara lalai dalam templat yang diberikan. Tetapan keras tanpa pemikiran menyekat bahagian penaakulannya. Apabila pemikiran kekal aktif, /think dan /no_think ialah kawalan lembut bagi giliran seterusnya dengan arahan terkini terpakai; ia tidak boleh mengatasi pelumpuhan keras. Minta penaakulan apabila model perlu memeriksa syarat bercanggah, kemudian gunakan susulan langsung untuk mempersembahkan hasil yang diterima dalam format ringkas. Pisahkan respons akhir dan gunakan respons akhir, bukan penaakulan sebelumnya, sebagai sejarah giliran kemudian. Dengan pemikiran aktif, permintaan lembut tanpa pemikiran pun mengekalkan blok penaakulan; kandungannya boleh kosong. Pelumpuhan keras membuang blok itu.\n\nKad merangkumi penggunaan ejen dan mengesyorkan Qwen-Agent untuk pemformatan serta penghuraian alat. Aplikasi membekalkan definisi alat, menyemak panggilan, melaksanakannya dan mengembalikan hasil. Dalam contoh pengesahan, pelaksana ujian terkawal boleh menilai cadangan kod terhadap kes yang dibekalkan. Minta model meringkaskan hasil lulus/gagal sebenar dan membetulkan syarat gagal yang dinamakan. Outputnya tidak patut menganggap cadangan panggilan sebagai bukti pelaksanaan. Tentukan skop yang dibenarkan dan medan output alat sebelum memulakan aliran tersebut. Panduan Qwen3 turut menerangkan panggilan alat selari dan berbilang langkah, dengan argumen diwakili sebagai objek dan hasil dibekalkan semula ke perbualan.\n\nKad tepat menyenaraikan 32,768 token konteks asal dan 131,072 dengan YaRN. Peluasan bergantung pada konfigurasi; penskalaan statik boleh mempengaruhi teks lebih pendek. Input dan hasil yang dijana menduduki bajet urutan. Labelkan bahagian sumber panjang dan peruntukkan ruang mencukupi untuk kod serta penerangan yang diperlukan. Contoh output terbitan dan panjang yang disyorkan tidak menetapkan had keras output universal. Untuk penjanaan lebih panjang, nilai sama ada hasil kekal padu dan memenuhi keperluan tugas. Dokumentasi Qwen3 membincangkan panjang mesej pembantu 38,912 token dalam mod pemikiran dan 16,384 dalam mod tanpa pemikiran dalam penerangan panjang latihannya, serta mengesyorkan penilaian kualiti penjanaan lebih panjang. Angka ini berbeza daripada tetingkap konteks keseluruhan dan bukan had keras khusus titik akhir. Kad juga menerangkan peruntukan kedudukan lalai 40,960 token sebagai 8,192 untuk prom biasa ditambah 32,768 untuk output; ini ialah panduan konfigurasi pengeluar, berasingan daripada konteks latihan asal serta sebarang had titik akhir.\n\nTetapan pensampelan yang disyorkan ialah temperature 0.6, top-p 0.95, top-k 20 dan min-p 0 untuk pemikiran, serta 0.7, 0.8, 20 dan 0 untuk mod langsung. Pengeluar memberi amaran terhadap penaakulan tamak kerana pengulangan; presence penalty tinggi kadangkala boleh mencampurkan bahasa. Wajibkan jawapan akhir yang boleh diperiksa, seperti jadual keputusan, fungsi lengkap dan senarai kes. Sahkan medan berstruktur yang dikembalikan, semak pengiraan terhadap sumber dan jalankan kod dalam persekitaran yang dimaksudkan, sambil mengekalkan identiti FP8 tepat ini apabila merekodkan hasil.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknikal dalam bahasa Inggeris
Compare missing-value validators\n\nCompare two Python validators for an optional quantity: A uses if not value: return None; B uses if value is None: return None. Requirement: None means omitted, integer zero is valid, and negative quantities are invalid. Explain each validator's behavior for None, 0 and -1, then propose a complete function with explicit validation errors.A three-input comparison table and a proposed function implementing the supplied rules.Check zero is preserved rather than treated as missing, and negatives are rejected explicitly.qwen/qwen3-32b-fp8Qwen3-32B-FP8 ialah edisi FP8 butiran halus bagi model teks padat 32.8 bilion parameter Qwen3. Model menggabungkan respons langsung dan pemikiran untuk penulisan berbilang bahasa, kod dan analisis, dengan butiran titik semak serta keserasian yang berasingan.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Qwen3-32B-FP8 ialah titik semak FP8 rasmi model bahasa padat Qwen3-32B. Pengeluar menerangkan matematik, penaakulan logik, penjanaan kod, penulisan kreatif, dialog berasaskan peranan dan pematuhan arahan merentas beberapa giliran. Keluarga menyokong lebih daripada 100 bahasa dan dialek. Input dan output ialah teks, dan keluaran yang sama menyediakan tingkah laku pemikiran serta respons langsung.
Model mempunyai 32.8 bilion parameter, termasuk 31.2 bilion di luar pembenaman, dan 64 lapisan. Perhatian pertanyaan berkelompoknya mengandungi 64 kepala pertanyaan dan lapan kepala kunci/nilai. Ini ialah seni bina padat, berbeza daripada keluaran campuran pakar Qwen3 dengan bilangan parameter keseluruhan dan aktif. FP8 turut menjadi sebahagian daripada identiti edisi tepat. Untuk pembantu pembangunan, berikan fungsi, spesifikasi dan beberapa input, kemudian minta penerangan tingkah laku semasa serta pelaksanaan disemak yang mengekalkan antara muka dipersetujui. Untuk tugas editorial, berikan sumber sebenar, pembaca sasaran dan istilah, bukannya bergantung pada latar yang tidak ditentukan.
Panduan mula pantas pengeluar menggunakan templat sembang yang ditetapkan. Pisahkan tugas daripada bahan yang dibekalkan dan tentukan bentuk akhir. Permintaan analisis berguna boleh membandingkan dua pendekatan pengesahan data menggunakan peraturan medan yang sama, mengenal pasti kes yang diterima setiap pendekatan dan mengembalikan cadangan fungsi pengesahan. Sertakan peraturan nilai tiada, data wakil dan mesej ralat yang diperlukan. Untuk kandungan berbilang bahasa, berikan glosari dan minta terjemahan bersama senarai istilah yang memerlukan semakan. Persediaan itu menjadikan hasil yang dijana boleh disemak terhadap input konkrit. Integrasi yang diterbitkan menjangkakan persekitaran pelaksanaan yang mengenali Qwen3; kad memberi amaran bahawa versi Transformers di bawah 4.51.0 tidak mengenali seni bina yang diperlukan.
Nota FP8 menerangkan pengkuantuman butiran halus dengan saiz blok 128. Konfigurasi titik semak juga mengenal pasti persediaan pengkuantuman FP8. Pengeluar menyenaraikan Transformers, SGLang dan vLLM untuk inferens, tetapi menandakan isu inferens teragih dengan FP8 butiran halus dalam Transformers serta menyatakan penggunaan berbilang peranti mungkin memerlukan CUDA_LAUNCH_BLOCKING=1. Pisahkan peringatan keserasian ini daripada keupayaan teks. Identiti dikuantumkan tidak dengan sendirinya menetapkan kependaman terukur, penjimatan perkakasan atau kesetaraan respons dengan titik semak asal.
Pemikiran diaktifkan secara lalai dalam templat yang diberikan. Tetapan keras tanpa pemikiran menyekat bahagian penaakulannya. Apabila pemikiran kekal aktif, /think dan /no_think ialah kawalan lembut bagi giliran seterusnya dengan arahan terkini terpakai; ia tidak boleh mengatasi pelumpuhan keras. Minta penaakulan apabila model perlu memeriksa syarat bercanggah, kemudian gunakan susulan langsung untuk mempersembahkan hasil yang diterima dalam format ringkas. Pisahkan respons akhir dan gunakan respons akhir, bukan penaakulan sebelumnya, sebagai sejarah giliran kemudian. Dengan pemikiran aktif, permintaan lembut tanpa pemikiran pun mengekalkan blok penaakulan; kandungannya boleh kosong. Pelumpuhan keras membuang blok itu.
Kad merangkumi penggunaan ejen dan mengesyorkan Qwen-Agent untuk pemformatan serta penghuraian alat. Aplikasi membekalkan definisi alat, menyemak panggilan, melaksanakannya dan mengembalikan hasil. Dalam contoh pengesahan, pelaksana ujian terkawal boleh menilai cadangan kod terhadap kes yang dibekalkan. Minta model meringkaskan hasil lulus/gagal sebenar dan membetulkan syarat gagal yang dinamakan. Outputnya tidak patut menganggap cadangan panggilan sebagai bukti pelaksanaan. Tentukan skop yang dibenarkan dan medan output alat sebelum memulakan aliran tersebut. Panduan Qwen3 turut menerangkan panggilan alat selari dan berbilang langkah, dengan argumen diwakili sebagai objek dan hasil dibekalkan semula ke perbualan.
Kad tepat menyenaraikan 32,768 token konteks asal dan 131,072 dengan YaRN. Peluasan bergantung pada konfigurasi; penskalaan statik boleh mempengaruhi teks lebih pendek. Input dan hasil yang dijana menduduki bajet urutan. Labelkan bahagian sumber panjang dan peruntukkan ruang mencukupi untuk kod serta penerangan yang diperlukan. Contoh output terbitan dan panjang yang disyorkan tidak menetapkan had keras output universal. Untuk penjanaan lebih panjang, nilai sama ada hasil kekal padu dan memenuhi keperluan tugas. Dokumentasi Qwen3 membincangkan panjang mesej pembantu 38,912 token dalam mod pemikiran dan 16,384 dalam mod tanpa pemikiran dalam penerangan panjang latihannya, serta mengesyorkan penilaian kualiti penjanaan lebih panjang. Angka ini berbeza daripada tetingkap konteks keseluruhan dan bukan had keras khusus titik akhir. Kad juga menerangkan peruntukan kedudukan lalai 40,960 token sebagai 8,192 untuk prom biasa ditambah 32,768 untuk output; ini ialah panduan konfigurasi pengeluar, berasingan daripada konteks latihan asal serta sebarang had titik akhir.
Tetapan pensampelan yang disyorkan ialah temperature 0.6, top-p 0.95, top-k 20 dan min-p 0 untuk pemikiran, serta 0.7, 0.8, 20 dan 0 untuk mod langsung. Pengeluar memberi amaran terhadap penaakulan tamak kerana pengulangan; presence penalty tinggi kadangkala boleh mencampurkan bahasa. Wajibkan jawapan akhir yang boleh diperiksa, seperti jadual keputusan, fungsi lengkap dan senarai kes. Sahkan medan berstruktur yang dikembalikan, semak pengiraan terhadap sumber dan jalankan kod dalam persekitaran yang dimaksudkan, sambil mengekalkan identiti FP8 tepat ini apabila merekodkan hasil.
POST /v1/chat/completionstexttext| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had qwen/qwen3-32b-fp8 | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had Item minimum: 1 | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had Contoh: system, user, assistant, tool, function Syarat: Peranan ini diwakili secara eksplisit oleh jenis keserasian dalam kod sumber; set peranan model yang tepat kekal khusus untuk setiap model. Bergantung pada model | Lalai— |
Medanmessages[].content | Jenisstring|content_part[]|null | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_calls | Jenistool_call[] | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_call_id | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: role=tool; gunakan ID sebenar yang dipulangkan | Lalai— |
Medanmessages[].name | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].reasoning_content | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: Hantar semula penaakulan sebenar yang dipulangkan apabila model ini menggunakannya | Lalai— |
Medanmessages[].reasoning_details | Jenisobject|array | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanmax_completion_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Medanstream_options.include_usage | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantemperature | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantop_p | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanstop | Jenisstring|string[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools | Jenisfunction_tool[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools[].type | Jenisstring | KeperluanPilihan | Nilai & had function Bergantung pada model | Lalai— |
Medantools[].function.name | Jenisstring | KeperluanDiperlukan | Nilai & had Terpakai apabila: alat fungsi dibekalkan | Lalai— |
Medantools[].function.description | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medantools[].function.parameters | JenisJSON_schema | KeperluanPilihan | Nilai & had | Lalai— |
Medantool_choice | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanparallel_tool_calls | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanresponse_format | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning_effort | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanservice_tier | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medaninstructions | Jenisstring | KeperluanPilihan | Nilai & had Medan keserasian | Lalai— |
Medanfunctions | Jenisfunction[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanfunction_call | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanprompt_cache_options | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmodalities | Jenisstring[] | KeperluanPilihan | Nilai & had text | Lalai— |
Medanprovider | Jenisobject | KeperluanPilihan | Nilai & had Syarat: provider.options ditolak pada laluan teks Ultra ini | Lalai— |
Medancache_control.ttl | Jenisstring | KeperluanPilihan | Nilai & had Syarat: 1h ditolak pada lokasi cache prompt yang digunakan | Lalai— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontraktatasusunan mesej dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 sebenar dimasukkan sebagai teks literal; ID fail tidak diandaikan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeza daripada alat yang dihoskan |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Kitar hayat: synchronous_or_streamed
Hantar ID model yang tepat bersama messages.
Panjang konteks bukan had output.
Fail teks boleh membekalkan teks literal; input imej/audio/objek fail memerlukan pengikatan tepat.
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
| Konfigurasi | Jadual kadar | Caj |
|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Caj Input · Token input $0.0002 / 1K token Output · Token output $0.001 / 1K token Input · Bacaan cache $0 / 1K token Input · Penulisan cache $0 / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen3-32b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen3-32b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen3-32b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan setiap pilihan jawapan bersama kandungan, panggilan alat dan penaakulannya. Dalam SSE, gabungkan delta mengikut indeks pilihan jawapan/alat dan kekalkan sebab penamatan akhir serta data penggunaan.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanchoices[].index | Jenisinteger |
Medanchoices[].message.content | Jenisstring|null |
Medanchoices[].message.tool_calls | Jenistool_call[] |
Medanchoices[].message.reasoning_content | Jenisstring |
Medanchoices[].message.reasoning_details | Jenisobject|array |
Medanchoices[].finish_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra qwen/qwen3-32b-fp8
Gunakan laluan kaedah yang dipaparkan di atas.
qwen/qwen3-32b-fp8Qwen3-32B-FP8 ialah edisi FP8 butiran halus bagi model teks padat 32.8 bilion parameter Qwen3. Model menggabungkan respons langsung dan pemikiran untuk penulisan berbilang bahasa, kod dan analisis, dengan butiran titik semak serta keserasian yang berasingan.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Qwen3-32B-FP8 ialah titik semak FP8 rasmi model bahasa padat Qwen3-32B. Pengeluar menerangkan matematik, penaakulan logik, penjanaan kod, penulisan kreatif, dialog berasaskan peranan dan pematuhan arahan merentas beberapa giliran. Keluarga menyokong lebih daripada 100 bahasa dan dialek. Input dan output ialah teks, dan keluaran yang sama menyediakan tingkah laku pemikiran serta respons langsung.
Model mempunyai 32.8 bilion parameter, termasuk 31.2 bilion di luar pembenaman, dan 64 lapisan. Perhatian pertanyaan berkelompoknya mengandungi 64 kepala pertanyaan dan lapan kepala kunci/nilai. Ini ialah seni bina padat, berbeza daripada keluaran campuran pakar Qwen3 dengan bilangan parameter keseluruhan dan aktif. FP8 turut menjadi sebahagian daripada identiti edisi tepat. Untuk pembantu pembangunan, berikan fungsi, spesifikasi dan beberapa input, kemudian minta penerangan tingkah laku semasa serta pelaksanaan disemak yang mengekalkan antara muka dipersetujui. Untuk tugas editorial, berikan sumber sebenar, pembaca sasaran dan istilah, bukannya bergantung pada latar yang tidak ditentukan.
Panduan mula pantas pengeluar menggunakan templat sembang yang ditetapkan. Pisahkan tugas daripada bahan yang dibekalkan dan tentukan bentuk akhir. Permintaan analisis berguna boleh membandingkan dua pendekatan pengesahan data menggunakan peraturan medan yang sama, mengenal pasti kes yang diterima setiap pendekatan dan mengembalikan cadangan fungsi pengesahan. Sertakan peraturan nilai tiada, data wakil dan mesej ralat yang diperlukan. Untuk kandungan berbilang bahasa, berikan glosari dan minta terjemahan bersama senarai istilah yang memerlukan semakan. Persediaan itu menjadikan hasil yang dijana boleh disemak terhadap input konkrit. Integrasi yang diterbitkan menjangkakan persekitaran pelaksanaan yang mengenali Qwen3; kad memberi amaran bahawa versi Transformers di bawah 4.51.0 tidak mengenali seni bina yang diperlukan.
Nota FP8 menerangkan pengkuantuman butiran halus dengan saiz blok 128. Konfigurasi titik semak juga mengenal pasti persediaan pengkuantuman FP8. Pengeluar menyenaraikan Transformers, SGLang dan vLLM untuk inferens, tetapi menandakan isu inferens teragih dengan FP8 butiran halus dalam Transformers serta menyatakan penggunaan berbilang peranti mungkin memerlukan CUDA_LAUNCH_BLOCKING=1. Pisahkan peringatan keserasian ini daripada keupayaan teks. Identiti dikuantumkan tidak dengan sendirinya menetapkan kependaman terukur, penjimatan perkakasan atau kesetaraan respons dengan titik semak asal.
Pemikiran diaktifkan secara lalai dalam templat yang diberikan. Tetapan keras tanpa pemikiran menyekat bahagian penaakulannya. Apabila pemikiran kekal aktif, /think dan /no_think ialah kawalan lembut bagi giliran seterusnya dengan arahan terkini terpakai; ia tidak boleh mengatasi pelumpuhan keras. Minta penaakulan apabila model perlu memeriksa syarat bercanggah, kemudian gunakan susulan langsung untuk mempersembahkan hasil yang diterima dalam format ringkas. Pisahkan respons akhir dan gunakan respons akhir, bukan penaakulan sebelumnya, sebagai sejarah giliran kemudian. Dengan pemikiran aktif, permintaan lembut tanpa pemikiran pun mengekalkan blok penaakulan; kandungannya boleh kosong. Pelumpuhan keras membuang blok itu.
Kad merangkumi penggunaan ejen dan mengesyorkan Qwen-Agent untuk pemformatan serta penghuraian alat. Aplikasi membekalkan definisi alat, menyemak panggilan, melaksanakannya dan mengembalikan hasil. Dalam contoh pengesahan, pelaksana ujian terkawal boleh menilai cadangan kod terhadap kes yang dibekalkan. Minta model meringkaskan hasil lulus/gagal sebenar dan membetulkan syarat gagal yang dinamakan. Outputnya tidak patut menganggap cadangan panggilan sebagai bukti pelaksanaan. Tentukan skop yang dibenarkan dan medan output alat sebelum memulakan aliran tersebut. Panduan Qwen3 turut menerangkan panggilan alat selari dan berbilang langkah, dengan argumen diwakili sebagai objek dan hasil dibekalkan semula ke perbualan.
Kad tepat menyenaraikan 32,768 token konteks asal dan 131,072 dengan YaRN. Peluasan bergantung pada konfigurasi; penskalaan statik boleh mempengaruhi teks lebih pendek. Input dan hasil yang dijana menduduki bajet urutan. Labelkan bahagian sumber panjang dan peruntukkan ruang mencukupi untuk kod serta penerangan yang diperlukan. Contoh output terbitan dan panjang yang disyorkan tidak menetapkan had keras output universal. Untuk penjanaan lebih panjang, nilai sama ada hasil kekal padu dan memenuhi keperluan tugas. Dokumentasi Qwen3 membincangkan panjang mesej pembantu 38,912 token dalam mod pemikiran dan 16,384 dalam mod tanpa pemikiran dalam penerangan panjang latihannya, serta mengesyorkan penilaian kualiti penjanaan lebih panjang. Angka ini berbeza daripada tetingkap konteks keseluruhan dan bukan had keras khusus titik akhir. Kad juga menerangkan peruntukan kedudukan lalai 40,960 token sebagai 8,192 untuk prom biasa ditambah 32,768 untuk output; ini ialah panduan konfigurasi pengeluar, berasingan daripada konteks latihan asal serta sebarang had titik akhir.
Tetapan pensampelan yang disyorkan ialah temperature 0.6, top-p 0.95, top-k 20 dan min-p 0 untuk pemikiran, serta 0.7, 0.8, 20 dan 0 untuk mod langsung. Pengeluar memberi amaran terhadap penaakulan tamak kerana pengulangan; presence penalty tinggi kadangkala boleh mencampurkan bahasa. Wajibkan jawapan akhir yang boleh diperiksa, seperti jadual keputusan, fungsi lengkap dan senarai kes. Sahkan medan berstruktur yang dikembalikan, semak pengiraan terhadap sumber dan jalankan kod dalam persekitaran yang dimaksudkan, sambil mengekalkan identiti FP8 tepat ini apabila merekodkan hasil.
POST /v1/messagestextjson, sse| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had qwen/qwen3-32b-fp8 | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had user, assistant | Lalai— |
Medanmessages[].content | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Teks · Teks UTF-8
rentetan messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 sebenar dan letakkan teksnya dalam rentetan input atau kandungan mesej yang ditunjukkan. |
Kitar hayat: synchronous_or_streamed
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
| Konfigurasi | Jadual kadar | Caj |
|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Caj Input · Token input $0.0002 / 1K token Output · Token output $0.001 / 1K token Input · Bacaan cache $0 / 1K token Input · Penulisan cache $0 / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
{\n "model": "qwen/qwen3-32b-fp8",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-32b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-32b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan semua blok kandungan, tandatangan penaakulan dan ID penggunaan alat sebenar. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan output.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanid | Jenisstring |
Medanmodel | Jenisstring |
Medancontent[] | Jenistext|thinking|tool_use|other content block |
Medanstop_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra qwen/qwen3-32b-fp8
Gunakan laluan kaedah yang dipaparkan di atas.
Contoh teknikal dalam bahasa Inggeris
Compare missing-value validators\n\nCompare two Python validators for an optional quantity: A uses if not value: return None; B uses if value is None: return None. Requirement: None means omitted, integer zero is valid, and negative quantities are invalid. Explain each validator's behavior for None, 0 and -1, then propose a complete function with explicit validation errors.A three-input comparison table and a proposed function implementing the supplied rules.Check zero is preserved rather than treated as missing, and negatives are rejected explicitly.