Qwen3-8B adalah model bahasa dense Qwen3 yang menggabungkan penalaran dan generasi teks biasa. Kelebihan yang diperkenalkan mencakup matematika, pemecahan masalah logika, kode, penulisan kreatif, dialog berbasis peran, dan mengikuti instruksi dalam beberapa giliran. Keluarga model ini mendukung lebih dari 100 bahasa dan dialek. Penggunaan praktisnya adalah asisten dukungan multibahasa yang mengubah pesan pelanggan dan kutipan kebijakan yang diberikan menjadi balasan yang berguna, sambil mempertahankan nama produk dan nada yang diminta.
Rilis ini memiliki 8.2 miliar parameter, termasuk 6.95 miliar di luar embedding, dan 36 lapisan. Model ini menggunakan grouped-query attention dengan 32 query head dan delapan key/value head. Ini merupakan model dense terpisah, bukan model mixture-of-experts 235B yang beroperasi dengan lebih sedikit pakar. Masukan kerja dan hasil yang dibuat berupa teks: terjemahan, penjelasan, dokumen yang direvisi, rencana, atau program. Pilih tugas yang jelas sebelum menambahkan konteks. Untuk balasan dukungan, berikan pesan pelanggan, kebijakan yang berlaku, istilah yang disetujui, dan tindakan yang perlu dilakukan pembaca; minta balasan beserta daftar terpisah tentang fakta yang masih belum tersedia.
Alur awal pengembang menggunakan urutan pesan percakapan dan templat percakapan yang eksplisit. Untuk bantuan kode, sertakan fungsi yang relevan, masukan yang memperlihatkan masalah, keluaran aktual, dan hasil yang diharapkan. Minta fungsi yang telah diperbaiki beserta contoh, dengan penjelasan terpisah tentang perilaku yang berubah. Untuk terjemahan, tentukan bahasa sumber dan tujuan, pembaca, serta istilah yang perlu dipertahankan. Masukan ini membuat teks hasil lebih mudah dibandingkan dengan persyaratan aslinya. Integrasi yang dipublikasikan memerlukan runtime yang mengenali Qwen3; kartu memperingatkan bahwa versi Transformers di bawah 4.51.0 tidak mengenali arsitektur yang diperlukan.
Model yang sama mendukung mode thinking dan non-thinking. Thinking aktif secara bawaan dalam templat yang disediakan. Penonaktifan tegas menghapus bagian penalaran; jika thinking tetap aktif, /think dan /no_think dapat mengubah pilihan antar-giliran. Instruksi terbaru tersebut diutamakan, dan sakelar pada tingkat prompt itu tidak dapat mengesampingkan penonaktifan tegas. Dalam alur kerja produk, gunakan mode langsung untuk penulisan ulang singkat pesan yang disetujui dan pilih penalaran untuk ketidaksesuaian yang memerlukan penjelasan. Pisahkan jawaban akhir dari penalaran sementara dan simpan hanya jawaban akhir dalam riwayat percakapan berikutnya. Saat thinking aktif, permintaan non-thinking melalui instruksi lunak tetap mempertahankan blok penalaran, meskipun isinya dapat kosong. Penonaktifan tegas menghapus blok tersebut.
Pengembang menjelaskan panggilan alat dan merekomendasikan Qwen-Agent untuk mengelola templat serta penguraian. Aplikasi dapat menyediakan definisi alat, menjalankan panggilan yang diminta, dan mengembalikan hasilnya. Untuk asisten dukungan, pencarian pesanan terbatas yang hanya membaca dapat menyediakan status pengiriman terkonfirmasi sebelum model menyusun respons. Tentukan bidang pencarian yang diizinkan dan cara melaporkan catatan yang tidak ditemukan. Hasil akhir yang berguna adalah balasan yang didasarkan pada informasi yang dikembalikan, bukan pernyataan tanpa bukti bahwa operasi eksternal telah berhasil. Panduan Qwen3 juga menjelaskan panggilan alat paralel dan beberapa langkah, dengan argumen berbentuk objek dan hasil yang dikembalikan ke percakapan.
Kartu model mencantumkan konteks native 32,768 token dan 131,072 dengan perluasan YaRN. Karena itu, perilaku konteks panjang bergantung pada konfigurasi aktual. YaRN statis dapat memengaruhi permintaan yang lebih pendek, sehingga kartu menyarankan pengaktifannya ketika konteks panjang diperlukan. Masukan, riwayat percakapan, dan keluaran yang dibuat menggunakan anggaran konteks bersama. Beri label pada bagian sumber yang panjang, hapus duplikasi yang tidak relevan, dan sisakan ruang untuk jawaban yang diminta. Contoh generasi dan rekomendasi keluaran yang dipublikasikan merupakan panduan konfigurasi, bukan batas keras keluaran maksimum yang terpisah. Dalam penjelasan panjang pelatihannya, dokumentasi Qwen3 membahas panjang pesan asisten 38,912 token dalam mode thinking dan 16,384 dalam mode non-thinking, serta menyarankan evaluasi kualitas generasi yang lebih panjang. Angka tersebut berbeda dari jendela konteks keseluruhan dan bukan batas keras khusus endpoint. Kartu juga menjelaskan alokasi posisi bawaan 40,960 token sebagai 8,192 untuk prompt umum ditambah 32,768 untuk keluaran; ini merupakan panduan konfigurasi pengembang, terpisah dari konteks pelatihan native dan batas endpoint apa pun.
Untuk mode thinking, nilai sampling yang direkomendasikan adalah temperature 0.6, top-p 0.95, top-k 20, dan min-p 0; untuk non-thinking, nilainya 0.7, 0.8, 20, dan 0. Pengembang memperingatkan bahwa penalaran greedy dapat menghasilkan teks berulang. Penalti kehadiran yang lebih tinggi dapat mengurangi pengulangan, tetapi terkadang menimbulkan campuran bahasa. Tentukan format akhir secara jelas—misalnya, balasan yang diikuti objek JSON berisi bidang yang belum terselesaikan—dan validasi objek itu sebelum digunakan aplikasi. Periksa kode yang diusulkan dengan kasus yang diberikan dan tinjau terjemahan untuk memastikan istilah dipertahankan.
", "aboutText": "Qwen3-8B adalah model bahasa dense Qwen3 yang menggabungkan penalaran dan generasi teks biasa. Kelebihan yang diperkenalkan mencakup matematika, pemecahan masalah logika, kode, penulisan kreatif, dialog berbasis peran, dan mengikuti instruksi dalam beberapa giliran. Keluarga model ini mendukung lebih dari 100 bahasa dan dialek. Penggunaan praktisnya adalah asisten dukungan multibahasa yang mengubah pesan pelanggan dan kutipan kebijakan yang diberikan menjadi balasan yang berguna, sambil mempertahankan nama produk dan nada yang diminta.\n\nRilis ini memiliki 8.2 miliar parameter, termasuk 6.95 miliar di luar embedding, dan 36 lapisan. Model ini menggunakan grouped-query attention dengan 32 query head dan delapan key/value head. Ini merupakan model dense terpisah, bukan model mixture-of-experts 235B yang beroperasi dengan lebih sedikit pakar. Masukan kerja dan hasil yang dibuat berupa teks: terjemahan, penjelasan, dokumen yang direvisi, rencana, atau program. Pilih tugas yang jelas sebelum menambahkan konteks. Untuk balasan dukungan, berikan pesan pelanggan, kebijakan yang berlaku, istilah yang disetujui, dan tindakan yang perlu dilakukan pembaca; minta balasan beserta daftar terpisah tentang fakta yang masih belum tersedia.\n\nAlur awal pengembang menggunakan urutan pesan percakapan dan templat percakapan yang eksplisit. Untuk bantuan kode, sertakan fungsi yang relevan, masukan yang memperlihatkan masalah, keluaran aktual, dan hasil yang diharapkan. Minta fungsi yang telah diperbaiki beserta contoh, dengan penjelasan terpisah tentang perilaku yang berubah. Untuk terjemahan, tentukan bahasa sumber dan tujuan, pembaca, serta istilah yang perlu dipertahankan. Masukan ini membuat teks hasil lebih mudah dibandingkan dengan persyaratan aslinya. Integrasi yang dipublikasikan memerlukan runtime yang mengenali Qwen3; kartu memperingatkan bahwa versi Transformers di bawah 4.51.0 tidak mengenali arsitektur yang diperlukan.\n\nModel yang sama mendukung mode thinking dan non-thinking. Thinking aktif secara bawaan dalam templat yang disediakan. Penonaktifan tegas menghapus bagian penalaran; jika thinking tetap aktif, /think dan /no_think dapat mengubah pilihan antar-giliran. Instruksi terbaru tersebut diutamakan, dan sakelar pada tingkat prompt itu tidak dapat mengesampingkan penonaktifan tegas. Dalam alur kerja produk, gunakan mode langsung untuk penulisan ulang singkat pesan yang disetujui dan pilih penalaran untuk ketidaksesuaian yang memerlukan penjelasan. Pisahkan jawaban akhir dari penalaran sementara dan simpan hanya jawaban akhir dalam riwayat percakapan berikutnya. Saat thinking aktif, permintaan non-thinking melalui instruksi lunak tetap mempertahankan blok penalaran, meskipun isinya dapat kosong. Penonaktifan tegas menghapus blok tersebut.\n\nPengembang menjelaskan panggilan alat dan merekomendasikan Qwen-Agent untuk mengelola templat serta penguraian. Aplikasi dapat menyediakan definisi alat, menjalankan panggilan yang diminta, dan mengembalikan hasilnya. Untuk asisten dukungan, pencarian pesanan terbatas yang hanya membaca dapat menyediakan status pengiriman terkonfirmasi sebelum model menyusun respons. Tentukan bidang pencarian yang diizinkan dan cara melaporkan catatan yang tidak ditemukan. Hasil akhir yang berguna adalah balasan yang didasarkan pada informasi yang dikembalikan, bukan pernyataan tanpa bukti bahwa operasi eksternal telah berhasil. Panduan Qwen3 juga menjelaskan panggilan alat paralel dan beberapa langkah, dengan argumen berbentuk objek dan hasil yang dikembalikan ke percakapan.\n\nKartu model mencantumkan konteks native 32,768 token dan 131,072 dengan perluasan YaRN. Karena itu, perilaku konteks panjang bergantung pada konfigurasi aktual. YaRN statis dapat memengaruhi permintaan yang lebih pendek, sehingga kartu menyarankan pengaktifannya ketika konteks panjang diperlukan. Masukan, riwayat percakapan, dan keluaran yang dibuat menggunakan anggaran konteks bersama. Beri label pada bagian sumber yang panjang, hapus duplikasi yang tidak relevan, dan sisakan ruang untuk jawaban yang diminta. Contoh generasi dan rekomendasi keluaran yang dipublikasikan merupakan panduan konfigurasi, bukan batas keras keluaran maksimum yang terpisah. Dalam penjelasan panjang pelatihannya, dokumentasi Qwen3 membahas panjang pesan asisten 38,912 token dalam mode thinking dan 16,384 dalam mode non-thinking, serta menyarankan evaluasi kualitas generasi yang lebih panjang. Angka tersebut berbeda dari jendela konteks keseluruhan dan bukan batas keras khusus endpoint. Kartu juga menjelaskan alokasi posisi bawaan 40,960 token sebagai 8,192 untuk prompt umum ditambah 32,768 untuk keluaran; ini merupakan panduan konfigurasi pengembang, terpisah dari konteks pelatihan native dan batas endpoint apa pun.\n\nUntuk mode thinking, nilai sampling yang direkomendasikan adalah temperature 0.6, top-p 0.95, top-k 20, dan min-p 0; untuk non-thinking, nilainya 0.7, 0.8, 20, dan 0. Pengembang memperingatkan bahwa penalaran greedy dapat menghasilkan teks berulang. Penalti kehadiran yang lebih tinggi dapat mengurangi pengulangan, tetapi terkadang menimbulkan campuran bahasa. Tentukan format akhir secara jelas—misalnya, balasan yang diikuti objek JSON berisi bidang yang belum terselesaikan—dan validasi objek itu sebelum digunakan aplikasi. Periksa kode yang diusulkan dengan kasus yang diberikan dan tinjau terjemahan untuk memastikan istilah dipertahankan.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknis dalam bahasa Inggris
A bilingual reply grounded in a return policy\n\nDraft a German reply to this customer: 'Can I return my unused Aero Cup after ten days?' Policy P1: unused products can be returned within 14 days; the customer must provide the order reference. Keep Aero Cup unchanged and ask for the missing reference. Follow the reply with a short English note naming the facts used.A polite German customer reply and a brief English source-fact note.The reply preserves the unused condition and 14-day window, asks for the reference and does not invent refund timing.qwen3-8bQwen3-8B menawarkan pembuatan teks multibahasa, pemrograman, dan dua mode respons dalam model dense dengan 8.2 miliar parameter. Gunakan respons langsung untuk dialog sehari-hari dan mode thinking untuk masalah yang memerlukan analisis lebih mendalam.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Qwen3-8B adalah model bahasa dense Qwen3 yang menggabungkan penalaran dan generasi teks biasa. Kelebihan yang diperkenalkan mencakup matematika, pemecahan masalah logika, kode, penulisan kreatif, dialog berbasis peran, dan mengikuti instruksi dalam beberapa giliran. Keluarga model ini mendukung lebih dari 100 bahasa dan dialek. Penggunaan praktisnya adalah asisten dukungan multibahasa yang mengubah pesan pelanggan dan kutipan kebijakan yang diberikan menjadi balasan yang berguna, sambil mempertahankan nama produk dan nada yang diminta.
Rilis ini memiliki 8.2 miliar parameter, termasuk 6.95 miliar di luar embedding, dan 36 lapisan. Model ini menggunakan grouped-query attention dengan 32 query head dan delapan key/value head. Ini merupakan model dense terpisah, bukan model mixture-of-experts 235B yang beroperasi dengan lebih sedikit pakar. Masukan kerja dan hasil yang dibuat berupa teks: terjemahan, penjelasan, dokumen yang direvisi, rencana, atau program. Pilih tugas yang jelas sebelum menambahkan konteks. Untuk balasan dukungan, berikan pesan pelanggan, kebijakan yang berlaku, istilah yang disetujui, dan tindakan yang perlu dilakukan pembaca; minta balasan beserta daftar terpisah tentang fakta yang masih belum tersedia.
Alur awal pengembang menggunakan urutan pesan percakapan dan templat percakapan yang eksplisit. Untuk bantuan kode, sertakan fungsi yang relevan, masukan yang memperlihatkan masalah, keluaran aktual, dan hasil yang diharapkan. Minta fungsi yang telah diperbaiki beserta contoh, dengan penjelasan terpisah tentang perilaku yang berubah. Untuk terjemahan, tentukan bahasa sumber dan tujuan, pembaca, serta istilah yang perlu dipertahankan. Masukan ini membuat teks hasil lebih mudah dibandingkan dengan persyaratan aslinya. Integrasi yang dipublikasikan memerlukan runtime yang mengenali Qwen3; kartu memperingatkan bahwa versi Transformers di bawah 4.51.0 tidak mengenali arsitektur yang diperlukan.
Model yang sama mendukung mode thinking dan non-thinking. Thinking aktif secara bawaan dalam templat yang disediakan. Penonaktifan tegas menghapus bagian penalaran; jika thinking tetap aktif, /think dan /no_think dapat mengubah pilihan antar-giliran. Instruksi terbaru tersebut diutamakan, dan sakelar pada tingkat prompt itu tidak dapat mengesampingkan penonaktifan tegas. Dalam alur kerja produk, gunakan mode langsung untuk penulisan ulang singkat pesan yang disetujui dan pilih penalaran untuk ketidaksesuaian yang memerlukan penjelasan. Pisahkan jawaban akhir dari penalaran sementara dan simpan hanya jawaban akhir dalam riwayat percakapan berikutnya. Saat thinking aktif, permintaan non-thinking melalui instruksi lunak tetap mempertahankan blok penalaran, meskipun isinya dapat kosong. Penonaktifan tegas menghapus blok tersebut.
Pengembang menjelaskan panggilan alat dan merekomendasikan Qwen-Agent untuk mengelola templat serta penguraian. Aplikasi dapat menyediakan definisi alat, menjalankan panggilan yang diminta, dan mengembalikan hasilnya. Untuk asisten dukungan, pencarian pesanan terbatas yang hanya membaca dapat menyediakan status pengiriman terkonfirmasi sebelum model menyusun respons. Tentukan bidang pencarian yang diizinkan dan cara melaporkan catatan yang tidak ditemukan. Hasil akhir yang berguna adalah balasan yang didasarkan pada informasi yang dikembalikan, bukan pernyataan tanpa bukti bahwa operasi eksternal telah berhasil. Panduan Qwen3 juga menjelaskan panggilan alat paralel dan beberapa langkah, dengan argumen berbentuk objek dan hasil yang dikembalikan ke percakapan.
Kartu model mencantumkan konteks native 32,768 token dan 131,072 dengan perluasan YaRN. Karena itu, perilaku konteks panjang bergantung pada konfigurasi aktual. YaRN statis dapat memengaruhi permintaan yang lebih pendek, sehingga kartu menyarankan pengaktifannya ketika konteks panjang diperlukan. Masukan, riwayat percakapan, dan keluaran yang dibuat menggunakan anggaran konteks bersama. Beri label pada bagian sumber yang panjang, hapus duplikasi yang tidak relevan, dan sisakan ruang untuk jawaban yang diminta. Contoh generasi dan rekomendasi keluaran yang dipublikasikan merupakan panduan konfigurasi, bukan batas keras keluaran maksimum yang terpisah. Dalam penjelasan panjang pelatihannya, dokumentasi Qwen3 membahas panjang pesan asisten 38,912 token dalam mode thinking dan 16,384 dalam mode non-thinking, serta menyarankan evaluasi kualitas generasi yang lebih panjang. Angka tersebut berbeda dari jendela konteks keseluruhan dan bukan batas keras khusus endpoint. Kartu juga menjelaskan alokasi posisi bawaan 40,960 token sebagai 8,192 untuk prompt umum ditambah 32,768 untuk keluaran; ini merupakan panduan konfigurasi pengembang, terpisah dari konteks pelatihan native dan batas endpoint apa pun.
Untuk mode thinking, nilai sampling yang direkomendasikan adalah temperature 0.6, top-p 0.95, top-k 20, dan min-p 0; untuk non-thinking, nilainya 0.7, 0.8, 20, dan 0. Pengembang memperingatkan bahwa penalaran greedy dapat menghasilkan teks berulang. Penalti kehadiran yang lebih tinggi dapat mengurangi pengulangan, tetapi terkadang menimbulkan campuran bahasa. Tentukan format akhir secara jelas—misalnya, balasan yang diikuti objek JSON berisi bidang yang belum terselesaikan—dan validasi objek itu sebelum digunakan aplikasi. Periksa kode yang diusulkan dengan kasus yang diberikan dan tinjau terjemahan untuk memastikan istilah dipertahankan.
POST /v1/chat/completionstexttext| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan qwen3-8b | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan Item minimum: 1 | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan Contoh: system, user, assistant, tool, function Kondisi: Peran ini direpresentasikan secara eksplisit oleh tipe kompatibilitas dalam kode sumber; kumpulan peran model yang tepat tetap khusus untuk tiap model. Bergantung pada model | Bawaan— |
Kolommessages[].content | Jenisstring|content_part[]|null | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_calls | Jenistool_call[] | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_call_id | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: role=tool; gunakan ID yang benar-benar dikembalikan | Bawaan— |
Kolommessages[].name | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].reasoning_content | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: Kirim kembali penalaran yang benar-benar dikembalikan jika model ini menggunakannya | Bawaan— |
Kolommessages[].reasoning_details | Jenisobject|array | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolommax_completion_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Kolomstream_options.include_usage | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtemperature | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtop_p | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomstop | Jenisstring|string[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools | Jenisfunction_tool[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools[].type | Jenisstring | PersyaratanOpsional | Nilai & batasan function Bergantung pada model | Bawaan— |
Kolomtools[].function.name | Jenisstring | PersyaratanWajib | Nilai & batasan Berlaku jika: alat fungsi disediakan | Bawaan— |
Kolomtools[].function.description | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtools[].function.parameters | JenisJSON_schema | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtool_choice | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomparallel_tool_calls | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomresponse_format | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning_effort | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomservice_tier | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolominstructions | Jenisstring | PersyaratanOpsional | Nilai & batasan Kolom kompatibilitas | Bawaan— |
Kolomfunctions | Jenisfunction[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomfunction_call | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomprompt_cache_options | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommodalities | Jenisstring[] | PersyaratanOpsional | Nilai & batasan text | Bawaan— |
Kolomprovider | Jenisobject | PersyaratanOpsional | Nilai & batasan Kondisi: provider.options ditolak pada rute teks Ultra ini | Bawaan— |
Kolomcache_control.ttl | Jenisstring | PersyaratanOpsional | Nilai & batasan Kondisi: 1h ditolak pada lokasi cache prompt yang digunakan | Bawaan— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontrakarray pesan dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 yang sebenarnya dimasukkan sebagai teks apa adanya; ID file tidak disimpulkan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeda dari alat yang dihosting |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Siklus hidup: synchronous_or_streamed
Kirim ID model yang tepat bersama messages.
Panjang konteks bukan batas keluaran.
File teks dapat menyediakan teks apa adanya; masukan gambar/audio/objek file memerlukan pengikatan yang tepat.
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
| Konfigurasi | Jadwal tarif | Biaya |
|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Biaya Masukan · Token masukan $0.000144 / 1K token Keluaran · Token keluaran $0.00144 / 1K token Masukan · Pembacaan cache $0 / 1K token Masukan · Penulisan cache $0 / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen3-8b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen3-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen3-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap alternatif jawaban beserta konten, panggilan alat, dan penalarannya. Dalam SSE, gabungkan delta menurut indeks alternatif jawaban/alat, lalu pertahankan alasan penghentian akhir dan data penggunaan.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomchoices[].index | Jenisinteger |
Kolomchoices[].message.content | Jenisstring|null |
Kolomchoices[].message.tool_calls | Jenistool_call[] |
Kolomchoices[].message.reasoning_content | Jenisstring |
Kolomchoices[].message.reasoning_details | Jenisobject|array |
Kolomchoices[].finish_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra qwen3-8b
Gunakan jalur metode yang ditampilkan di atas.
qwen3-8bQwen3-8B menawarkan pembuatan teks multibahasa, pemrograman, dan dua mode respons dalam model dense dengan 8.2 miliar parameter. Gunakan respons langsung untuk dialog sehari-hari dan mode thinking untuk masalah yang memerlukan analisis lebih mendalam.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Qwen3-8B adalah model bahasa dense Qwen3 yang menggabungkan penalaran dan generasi teks biasa. Kelebihan yang diperkenalkan mencakup matematika, pemecahan masalah logika, kode, penulisan kreatif, dialog berbasis peran, dan mengikuti instruksi dalam beberapa giliran. Keluarga model ini mendukung lebih dari 100 bahasa dan dialek. Penggunaan praktisnya adalah asisten dukungan multibahasa yang mengubah pesan pelanggan dan kutipan kebijakan yang diberikan menjadi balasan yang berguna, sambil mempertahankan nama produk dan nada yang diminta.
Rilis ini memiliki 8.2 miliar parameter, termasuk 6.95 miliar di luar embedding, dan 36 lapisan. Model ini menggunakan grouped-query attention dengan 32 query head dan delapan key/value head. Ini merupakan model dense terpisah, bukan model mixture-of-experts 235B yang beroperasi dengan lebih sedikit pakar. Masukan kerja dan hasil yang dibuat berupa teks: terjemahan, penjelasan, dokumen yang direvisi, rencana, atau program. Pilih tugas yang jelas sebelum menambahkan konteks. Untuk balasan dukungan, berikan pesan pelanggan, kebijakan yang berlaku, istilah yang disetujui, dan tindakan yang perlu dilakukan pembaca; minta balasan beserta daftar terpisah tentang fakta yang masih belum tersedia.
Alur awal pengembang menggunakan urutan pesan percakapan dan templat percakapan yang eksplisit. Untuk bantuan kode, sertakan fungsi yang relevan, masukan yang memperlihatkan masalah, keluaran aktual, dan hasil yang diharapkan. Minta fungsi yang telah diperbaiki beserta contoh, dengan penjelasan terpisah tentang perilaku yang berubah. Untuk terjemahan, tentukan bahasa sumber dan tujuan, pembaca, serta istilah yang perlu dipertahankan. Masukan ini membuat teks hasil lebih mudah dibandingkan dengan persyaratan aslinya. Integrasi yang dipublikasikan memerlukan runtime yang mengenali Qwen3; kartu memperingatkan bahwa versi Transformers di bawah 4.51.0 tidak mengenali arsitektur yang diperlukan.
Model yang sama mendukung mode thinking dan non-thinking. Thinking aktif secara bawaan dalam templat yang disediakan. Penonaktifan tegas menghapus bagian penalaran; jika thinking tetap aktif, /think dan /no_think dapat mengubah pilihan antar-giliran. Instruksi terbaru tersebut diutamakan, dan sakelar pada tingkat prompt itu tidak dapat mengesampingkan penonaktifan tegas. Dalam alur kerja produk, gunakan mode langsung untuk penulisan ulang singkat pesan yang disetujui dan pilih penalaran untuk ketidaksesuaian yang memerlukan penjelasan. Pisahkan jawaban akhir dari penalaran sementara dan simpan hanya jawaban akhir dalam riwayat percakapan berikutnya. Saat thinking aktif, permintaan non-thinking melalui instruksi lunak tetap mempertahankan blok penalaran, meskipun isinya dapat kosong. Penonaktifan tegas menghapus blok tersebut.
Pengembang menjelaskan panggilan alat dan merekomendasikan Qwen-Agent untuk mengelola templat serta penguraian. Aplikasi dapat menyediakan definisi alat, menjalankan panggilan yang diminta, dan mengembalikan hasilnya. Untuk asisten dukungan, pencarian pesanan terbatas yang hanya membaca dapat menyediakan status pengiriman terkonfirmasi sebelum model menyusun respons. Tentukan bidang pencarian yang diizinkan dan cara melaporkan catatan yang tidak ditemukan. Hasil akhir yang berguna adalah balasan yang didasarkan pada informasi yang dikembalikan, bukan pernyataan tanpa bukti bahwa operasi eksternal telah berhasil. Panduan Qwen3 juga menjelaskan panggilan alat paralel dan beberapa langkah, dengan argumen berbentuk objek dan hasil yang dikembalikan ke percakapan.
Kartu model mencantumkan konteks native 32,768 token dan 131,072 dengan perluasan YaRN. Karena itu, perilaku konteks panjang bergantung pada konfigurasi aktual. YaRN statis dapat memengaruhi permintaan yang lebih pendek, sehingga kartu menyarankan pengaktifannya ketika konteks panjang diperlukan. Masukan, riwayat percakapan, dan keluaran yang dibuat menggunakan anggaran konteks bersama. Beri label pada bagian sumber yang panjang, hapus duplikasi yang tidak relevan, dan sisakan ruang untuk jawaban yang diminta. Contoh generasi dan rekomendasi keluaran yang dipublikasikan merupakan panduan konfigurasi, bukan batas keras keluaran maksimum yang terpisah. Dalam penjelasan panjang pelatihannya, dokumentasi Qwen3 membahas panjang pesan asisten 38,912 token dalam mode thinking dan 16,384 dalam mode non-thinking, serta menyarankan evaluasi kualitas generasi yang lebih panjang. Angka tersebut berbeda dari jendela konteks keseluruhan dan bukan batas keras khusus endpoint. Kartu juga menjelaskan alokasi posisi bawaan 40,960 token sebagai 8,192 untuk prompt umum ditambah 32,768 untuk keluaran; ini merupakan panduan konfigurasi pengembang, terpisah dari konteks pelatihan native dan batas endpoint apa pun.
Untuk mode thinking, nilai sampling yang direkomendasikan adalah temperature 0.6, top-p 0.95, top-k 20, dan min-p 0; untuk non-thinking, nilainya 0.7, 0.8, 20, dan 0. Pengembang memperingatkan bahwa penalaran greedy dapat menghasilkan teks berulang. Penalti kehadiran yang lebih tinggi dapat mengurangi pengulangan, tetapi terkadang menimbulkan campuran bahasa. Tentukan format akhir secara jelas—misalnya, balasan yang diikuti objek JSON berisi bidang yang belum terselesaikan—dan validasi objek itu sebelum digunakan aplikasi. Periksa kode yang diusulkan dengan kasus yang diberikan dan tinjau terjemahan untuk memastikan istilah dipertahankan.
POST /v1/messagestextjson, sse| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan qwen3-8b | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan user, assistant | Bawaan— |
Kolommessages[].content | Jenisstring | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Teks · Teks UTF-8
string messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 yang sebenarnya dan masukkan teksnya ke string masukan atau konten pesan yang ditunjukkan. |
Siklus hidup: synchronous_or_streamed
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
| Konfigurasi | Jadwal tarif | Biaya |
|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Biaya Masukan · Token masukan $0.000144 / 1K token Keluaran · Token keluaran $0.00144 / 1K token Masukan · Pembacaan cache $0 / 1K token Masukan · Penulisan cache $0 / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
{\n "model": "qwen3-8b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen3-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen3-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan semua blok konten, tanda tangan penalaran, dan ID penggunaan alat yang sebenarnya. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan keluaran.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomid | Jenisstring |
Kolommodel | Jenisstring |
Kolomcontent[] | Jenistext|thinking|tool_use|other content block |
Kolomstop_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra qwen3-8b
Gunakan jalur metode yang ditampilkan di atas.
Contoh teknis dalam bahasa Inggris
A bilingual reply grounded in a return policy\n\nDraft a German reply to this customer: 'Can I return my unused Aero Cup after ten days?' Policy P1: unused products can be returned within 14 days; the customer must provide the order reference. Keep Aero Cup unchanged and ask for the missing reference. Follow the reply with a short English note naming the facts used.A polite German customer reply and a brief English source-fact note.The reply preserves the unused condition and 14-day window, asks for the reference and does not invent refund timing.