Llama 3.2 1B Instruct adalah model teks ringkas milik Meta yang disetel mengikuti instruksi, dengan jumlah parameter 1.23 miliar dalam tabel pembuatnya. Model ini menerima teks multibahasa dan mengembalikan teks atau kode. Rilis ini ditujukan untuk dialog, penelusuran pengetahuan, peringkasan, asisten menulis seluler, serta penulisan ulang kueri atau prompt, bukan tugas memahami gambar yang menjadi lingkup edisi visi Llama yang terpisah.
Informasi model dan konteks
Model ini menggunakan arsitektur Transformer autoregresif dengan grouped-query attention dan embedding bersama. Meta membedakan model 1B dan 3B pralatih dari model yang disetel mengikuti instruksi. Entri ini adalah checkpoint 1B Instruct, yang bertugas mengikuti permintaan pengguna dalam percakapan, alih-alih berfungsi sebagai fondasi pralatih.
Rilis teks biasa didokumentasikan dengan konteks 128k. Pembuatnya secara terpisah mencantumkan konteks 8k untuk model teks terkuantisasinya. Konfigurasi tersebut harus tetap dibedakan: kuantisasi tidak memberi dasar untuk menerapkan konteks rilis biasa pada setiap checkpoint berformat lebih kecil atau menyimpulkan kapasitas yang dikonfigurasi pada layanan tertentu.
Gunakan konteks untuk kutipan dan percakapan yang relevan dengan satu operasi yang telah ditentukan. Dokumen panjang tetap dapat memerlukan ringkasan singkat, kueri pencarian yang ditulis ulang, atau jawaban berbasis sumber. Identifikasi materi yang harus dipertahankan hasilnya serta panjang atau bidang yang dibutuhkan langkah aplikasi berikutnya.
Penelusuran, ringkasan, dan penulisan ulang
Untuk peringkasan, berikan kutipan atau percakapan yang sebenarnya dan tentukan audiens, panjang, serta fakta pentingnya. Hasil yang berguna dapat memisahkan persoalan utama, keputusan yang sudah dinyatakan, dan pertanyaan terbuka. Jika sumber berisi beberapa topik, tentukan topik yang perlu dicakup ringkasan, alih-alih meminta pemadatan tanpa arah atas seluruh materi.
Untuk penelusuran pengetahuan, sertakan kutipan sumber yang dipilih atau informasi yang dikembalikan komponen penelusuran. Minta pernyataan yang menjawab pertanyaan beserta kutipan pendukungnya. Respons teks model dapat menjelaskan informasi yang ditemukan, sedangkan pencarian koleksi privat tetap menjadi tugas aplikasi yang terhubung. Model tidak memperoleh koleksi tersebut hanya karena label kasus penggunaannya menyebut penelusuran.
Untuk penulisan ulang kueri, berikan pertanyaan asli dan tujuan pencarian. Minta perumusan ulang yang singkat dan mempertahankan entitas, kondisi, serta informasi yang diinginkan. Kueri dukungan dapat ditulis ulang menggunakan istilah produk dan tindakan yang penting, tanpa menambahkan fakta yang tidak ada dalam pesan pengguna. Kembalikan kueri yang direvisi secara terpisah dari penjelasan apa pun jika komponen lain akan langsung menggunakannya.
Untuk asisten menulis, tentukan pembaca, nada, dan fakta sumber sebelum meminta surat singkat atau kutipan yang direvisi. Untuk tugas ekstraksi, tentukan bidang dan cara merepresentasikan informasi yang tidak tersedia. Ini adalah operasi konkret yang menghubungkan fokus teks model ringkas yang didokumentasikan dengan artefak yang dapat diperiksa.
Bahasa yang didukung dan pelatihan
Bahasa yang didukung secara resmi adalah Inggris, Jerman, Prancis, Italia, Portugis, Hindi, Spanyol, dan Thai. Model dilatih menggunakan kumpulan bahasa yang lebih luas, yang berbeda dari delapan bahasa yang secara eksplisit didukung kartu model. Tentukan bahasa akhir serta istilah atau pengenal yang harus dipertahankan.
Keluarga model ini dipralatih menggunakan hingga sembilan triliun token, dengan batas waktu data Desember 2023. Untuk model 1B dan 3B, pembuatnya menggunakan keluaran Llama 3.1 8B dan 70B sebagai target pelatihan tingkat token serta distilasi pengetahuan setelah pemangkasan. Ini adalah proses pelatihan; bukan berarti model 1B yang diterapkan meminta model lebih besar tersebut menjawab setiap pertanyaan pengguna.
Kartu model menjelaskan penyetelan lanjutan terawasi dan penyelarasan berbasis preferensi, dengan putaran pascapelatihan yang melibatkan contoh terawasi, rejection sampling, dan optimasi preferensi langsung. Tahapan tersebut menghasilkan perilaku Instruct sambil mempertahankan checkpoint yang disebutkan dan modalitas hanya teks.
Percakapan dan edisi terkuantisasi
Pembuatnya memperagakan pesan sistem dan pengguna yang terpisah menggunakan format percakapan yang sesuai. Tentukan peran asisten dan persyaratan respons secara terpisah dari teks sumber yang sebenarnya. Pertahankan jawaban terdahulu yang relevan ketika tindak lanjut meminta revisi, klarifikasi, atau bentuk berbeda dari informasi yang sama.
Rilis ini juga mendokumentasikan secara terpisah varian yang dilatih dengan mempertimbangkan kuantisasi (quantization-aware) dan varian yang dikuantisasi setelah pelatihan. Presisi dan konteks 8k-nya merupakan milik varian tersebut, bukan spesifikasi universal untuk entri Instruct biasa ini. Gunakan checkpoint dan konfigurasi yang tepat saat membandingkan tugas berulang atau menyiapkan penerapan turunan.
Batas kemampuan substantif
Rilis 1B ini hanya mendukung teks. Model ini tidak boleh dianggap mewarisi masukan gambar dari model visi Llama 3.2 11B atau 90B, kemampuan teks dan gambar Llama 4, atau kontrol tingkat upaya penalaran yang disebutkan untuk Muse Spark. Contoh generasi 256 token pada kartu model adalah pengaturan contoh, bukan kapasitas jawaban maksimum yang dinyatakan secara mandiri.
Hasil akhir praktis berupa ringkasan, kueri, catatan yang diekstrak, atau teks hasil penulisan ulang yang diminta, dengan mempertahankan makna dan pengenal sumber yang relevan. Sumber yang dibaca tidak menyatakan batas maksimum token keluaran yang terpisah dan tegas. Jaga tugas tetap terarah, lengkapi materi masukan untuk operasi tersebut, dan nyatakan perbedaan konteks rilis biasa dengan varian terkuantisasi secara jelas.
", "aboutText": "Llama 3.2 1B Instruct adalah model teks ringkas milik Meta yang disetel mengikuti instruksi, dengan jumlah parameter 1.23 miliar dalam tabel pembuatnya. Model ini menerima teks multibahasa dan mengembalikan teks atau kode. Rilis ini ditujukan untuk dialog, penelusuran pengetahuan, peringkasan, asisten menulis seluler, serta penulisan ulang kueri atau prompt, bukan tugas memahami gambar yang menjadi lingkup edisi visi Llama yang terpisah.\n\nInformasi model dan konteks\n\nModel ini menggunakan arsitektur Transformer autoregresif dengan grouped-query attention dan embedding bersama. Meta membedakan model 1B dan 3B pralatih dari model yang disetel mengikuti instruksi. Entri ini adalah checkpoint 1B Instruct, yang bertugas mengikuti permintaan pengguna dalam percakapan, alih-alih berfungsi sebagai fondasi pralatih.\n\nRilis teks biasa didokumentasikan dengan konteks 128k. Pembuatnya secara terpisah mencantumkan konteks 8k untuk model teks terkuantisasinya. Konfigurasi tersebut harus tetap dibedakan: kuantisasi tidak memberi dasar untuk menerapkan konteks rilis biasa pada setiap checkpoint berformat lebih kecil atau menyimpulkan kapasitas yang dikonfigurasi pada layanan tertentu.\n\nGunakan konteks untuk kutipan dan percakapan yang relevan dengan satu operasi yang telah ditentukan. Dokumen panjang tetap dapat memerlukan ringkasan singkat, kueri pencarian yang ditulis ulang, atau jawaban berbasis sumber. Identifikasi materi yang harus dipertahankan hasilnya serta panjang atau bidang yang dibutuhkan langkah aplikasi berikutnya.\n\nPenelusuran, ringkasan, dan penulisan ulang\n\nUntuk peringkasan, berikan kutipan atau percakapan yang sebenarnya dan tentukan audiens, panjang, serta fakta pentingnya. Hasil yang berguna dapat memisahkan persoalan utama, keputusan yang sudah dinyatakan, dan pertanyaan terbuka. Jika sumber berisi beberapa topik, tentukan topik yang perlu dicakup ringkasan, alih-alih meminta pemadatan tanpa arah atas seluruh materi.\n\nUntuk penelusuran pengetahuan, sertakan kutipan sumber yang dipilih atau informasi yang dikembalikan komponen penelusuran. Minta pernyataan yang menjawab pertanyaan beserta kutipan pendukungnya. Respons teks model dapat menjelaskan informasi yang ditemukan, sedangkan pencarian koleksi privat tetap menjadi tugas aplikasi yang terhubung. Model tidak memperoleh koleksi tersebut hanya karena label kasus penggunaannya menyebut penelusuran.\n\nUntuk penulisan ulang kueri, berikan pertanyaan asli dan tujuan pencarian. Minta perumusan ulang yang singkat dan mempertahankan entitas, kondisi, serta informasi yang diinginkan. Kueri dukungan dapat ditulis ulang menggunakan istilah produk dan tindakan yang penting, tanpa menambahkan fakta yang tidak ada dalam pesan pengguna. Kembalikan kueri yang direvisi secara terpisah dari penjelasan apa pun jika komponen lain akan langsung menggunakannya.\n\nUntuk asisten menulis, tentukan pembaca, nada, dan fakta sumber sebelum meminta surat singkat atau kutipan yang direvisi. Untuk tugas ekstraksi, tentukan bidang dan cara merepresentasikan informasi yang tidak tersedia. Ini adalah operasi konkret yang menghubungkan fokus teks model ringkas yang didokumentasikan dengan artefak yang dapat diperiksa.\n\nBahasa yang didukung dan pelatihan\n\nBahasa yang didukung secara resmi adalah Inggris, Jerman, Prancis, Italia, Portugis, Hindi, Spanyol, dan Thai. Model dilatih menggunakan kumpulan bahasa yang lebih luas, yang berbeda dari delapan bahasa yang secara eksplisit didukung kartu model. Tentukan bahasa akhir serta istilah atau pengenal yang harus dipertahankan.\n\nKeluarga model ini dipralatih menggunakan hingga sembilan triliun token, dengan batas waktu data Desember 2023. Untuk model 1B dan 3B, pembuatnya menggunakan keluaran Llama 3.1 8B dan 70B sebagai target pelatihan tingkat token serta distilasi pengetahuan setelah pemangkasan. Ini adalah proses pelatihan; bukan berarti model 1B yang diterapkan meminta model lebih besar tersebut menjawab setiap pertanyaan pengguna.\n\nKartu model menjelaskan penyetelan lanjutan terawasi dan penyelarasan berbasis preferensi, dengan putaran pascapelatihan yang melibatkan contoh terawasi, rejection sampling, dan optimasi preferensi langsung. Tahapan tersebut menghasilkan perilaku Instruct sambil mempertahankan checkpoint yang disebutkan dan modalitas hanya teks.\n\nPercakapan dan edisi terkuantisasi\n\nPembuatnya memperagakan pesan sistem dan pengguna yang terpisah menggunakan format percakapan yang sesuai. Tentukan peran asisten dan persyaratan respons secara terpisah dari teks sumber yang sebenarnya. Pertahankan jawaban terdahulu yang relevan ketika tindak lanjut meminta revisi, klarifikasi, atau bentuk berbeda dari informasi yang sama.\n\nRilis ini juga mendokumentasikan secara terpisah varian yang dilatih dengan mempertimbangkan kuantisasi (quantization-aware) dan varian yang dikuantisasi setelah pelatihan. Presisi dan konteks 8k-nya merupakan milik varian tersebut, bukan spesifikasi universal untuk entri Instruct biasa ini. Gunakan checkpoint dan konfigurasi yang tepat saat membandingkan tugas berulang atau menyiapkan penerapan turunan.\n\nBatas kemampuan substantif\n\nRilis 1B ini hanya mendukung teks. Model ini tidak boleh dianggap mewarisi masukan gambar dari model visi Llama 3.2 11B atau 90B, kemampuan teks dan gambar Llama 4, atau kontrol tingkat upaya penalaran yang disebutkan untuk Muse Spark. Contoh generasi 256 token pada kartu model adalah pengaturan contoh, bukan kapasitas jawaban maksimum yang dinyatakan secara mandiri.\n\nHasil akhir praktis berupa ringkasan, kueri, catatan yang diekstrak, atau teks hasil penulisan ulang yang diminta, dengan mempertahankan makna dan pengenal sumber yang relevan. Sumber yang dibaca tidak menyatakan batas maksimum token keluaran yang terpisah dan tegas. Jaga tugas tetap terarah, lengkapi materi masukan untuk operasi tersebut, dan nyatakan perbedaan konteks rilis biasa dengan varian terkuantisasi secara jelas.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknis dalam bahasa Inggris
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct adalah model teks ringkas 1.23B milik Meta untuk dialog, peringkasan, penelusuran pengetahuan, dan penulisan ulang kueri. Pembuatnya mencantumkan konteks 128k untuk rilis biasa dan 8k untuk varian terkuantisasi yang terpisah, dengan keluaran teks multibahasa dan kode.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Llama 3.2 1B Instruct adalah model teks ringkas milik Meta yang disetel mengikuti instruksi, dengan jumlah parameter 1.23 miliar dalam tabel pembuatnya. Model ini menerima teks multibahasa dan mengembalikan teks atau kode. Rilis ini ditujukan untuk dialog, penelusuran pengetahuan, peringkasan, asisten menulis seluler, serta penulisan ulang kueri atau prompt, bukan tugas memahami gambar yang menjadi lingkup edisi visi Llama yang terpisah.
Informasi model dan konteks
Model ini menggunakan arsitektur Transformer autoregresif dengan grouped-query attention dan embedding bersama. Meta membedakan model 1B dan 3B pralatih dari model yang disetel mengikuti instruksi. Entri ini adalah checkpoint 1B Instruct, yang bertugas mengikuti permintaan pengguna dalam percakapan, alih-alih berfungsi sebagai fondasi pralatih.
Rilis teks biasa didokumentasikan dengan konteks 128k. Pembuatnya secara terpisah mencantumkan konteks 8k untuk model teks terkuantisasinya. Konfigurasi tersebut harus tetap dibedakan: kuantisasi tidak memberi dasar untuk menerapkan konteks rilis biasa pada setiap checkpoint berformat lebih kecil atau menyimpulkan kapasitas yang dikonfigurasi pada layanan tertentu.
Gunakan konteks untuk kutipan dan percakapan yang relevan dengan satu operasi yang telah ditentukan. Dokumen panjang tetap dapat memerlukan ringkasan singkat, kueri pencarian yang ditulis ulang, atau jawaban berbasis sumber. Identifikasi materi yang harus dipertahankan hasilnya serta panjang atau bidang yang dibutuhkan langkah aplikasi berikutnya.
Penelusuran, ringkasan, dan penulisan ulang
Untuk peringkasan, berikan kutipan atau percakapan yang sebenarnya dan tentukan audiens, panjang, serta fakta pentingnya. Hasil yang berguna dapat memisahkan persoalan utama, keputusan yang sudah dinyatakan, dan pertanyaan terbuka. Jika sumber berisi beberapa topik, tentukan topik yang perlu dicakup ringkasan, alih-alih meminta pemadatan tanpa arah atas seluruh materi.
Untuk penelusuran pengetahuan, sertakan kutipan sumber yang dipilih atau informasi yang dikembalikan komponen penelusuran. Minta pernyataan yang menjawab pertanyaan beserta kutipan pendukungnya. Respons teks model dapat menjelaskan informasi yang ditemukan, sedangkan pencarian koleksi privat tetap menjadi tugas aplikasi yang terhubung. Model tidak memperoleh koleksi tersebut hanya karena label kasus penggunaannya menyebut penelusuran.
Untuk penulisan ulang kueri, berikan pertanyaan asli dan tujuan pencarian. Minta perumusan ulang yang singkat dan mempertahankan entitas, kondisi, serta informasi yang diinginkan. Kueri dukungan dapat ditulis ulang menggunakan istilah produk dan tindakan yang penting, tanpa menambahkan fakta yang tidak ada dalam pesan pengguna. Kembalikan kueri yang direvisi secara terpisah dari penjelasan apa pun jika komponen lain akan langsung menggunakannya.
Untuk asisten menulis, tentukan pembaca, nada, dan fakta sumber sebelum meminta surat singkat atau kutipan yang direvisi. Untuk tugas ekstraksi, tentukan bidang dan cara merepresentasikan informasi yang tidak tersedia. Ini adalah operasi konkret yang menghubungkan fokus teks model ringkas yang didokumentasikan dengan artefak yang dapat diperiksa.
Bahasa yang didukung dan pelatihan
Bahasa yang didukung secara resmi adalah Inggris, Jerman, Prancis, Italia, Portugis, Hindi, Spanyol, dan Thai. Model dilatih menggunakan kumpulan bahasa yang lebih luas, yang berbeda dari delapan bahasa yang secara eksplisit didukung kartu model. Tentukan bahasa akhir serta istilah atau pengenal yang harus dipertahankan.
Keluarga model ini dipralatih menggunakan hingga sembilan triliun token, dengan batas waktu data Desember 2023. Untuk model 1B dan 3B, pembuatnya menggunakan keluaran Llama 3.1 8B dan 70B sebagai target pelatihan tingkat token serta distilasi pengetahuan setelah pemangkasan. Ini adalah proses pelatihan; bukan berarti model 1B yang diterapkan meminta model lebih besar tersebut menjawab setiap pertanyaan pengguna.
Kartu model menjelaskan penyetelan lanjutan terawasi dan penyelarasan berbasis preferensi, dengan putaran pascapelatihan yang melibatkan contoh terawasi, rejection sampling, dan optimasi preferensi langsung. Tahapan tersebut menghasilkan perilaku Instruct sambil mempertahankan checkpoint yang disebutkan dan modalitas hanya teks.
Percakapan dan edisi terkuantisasi
Pembuatnya memperagakan pesan sistem dan pengguna yang terpisah menggunakan format percakapan yang sesuai. Tentukan peran asisten dan persyaratan respons secara terpisah dari teks sumber yang sebenarnya. Pertahankan jawaban terdahulu yang relevan ketika tindak lanjut meminta revisi, klarifikasi, atau bentuk berbeda dari informasi yang sama.
Rilis ini juga mendokumentasikan secara terpisah varian yang dilatih dengan mempertimbangkan kuantisasi (quantization-aware) dan varian yang dikuantisasi setelah pelatihan. Presisi dan konteks 8k-nya merupakan milik varian tersebut, bukan spesifikasi universal untuk entri Instruct biasa ini. Gunakan checkpoint dan konfigurasi yang tepat saat membandingkan tugas berulang atau menyiapkan penerapan turunan.
Batas kemampuan substantif
Rilis 1B ini hanya mendukung teks. Model ini tidak boleh dianggap mewarisi masukan gambar dari model visi Llama 3.2 11B atau 90B, kemampuan teks dan gambar Llama 4, atau kontrol tingkat upaya penalaran yang disebutkan untuk Muse Spark. Contoh generasi 256 token pada kartu model adalah pengaturan contoh, bukan kapasitas jawaban maksimum yang dinyatakan secara mandiri.
Hasil akhir praktis berupa ringkasan, kueri, catatan yang diekstrak, atau teks hasil penulisan ulang yang diminta, dengan mempertahankan makna dan pengenal sumber yang relevan. Sumber yang dibaca tidak menyatakan batas maksimum token keluaran yang terpisah dan tegas. Jaga tugas tetap terarah, lengkapi materi masukan untuk operasi tersebut, dan nyatakan perbedaan konteks rilis biasa dengan varian terkuantisasi secara jelas.
POST /v1/chat/completionstexttext| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan meta-llama/llama-3.2-1b-instruct | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan Item minimum: 1 | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan Contoh: system, user, assistant, tool, function Kondisi: Peran ini direpresentasikan secara eksplisit oleh tipe kompatibilitas dalam kode sumber; kumpulan peran model yang tepat tetap khusus untuk tiap model. Bergantung pada model | Bawaan— |
Kolommessages[].content | Jenisstring|content_part[]|null | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_calls | Jenistool_call[] | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_call_id | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: role=tool; gunakan ID yang benar-benar dikembalikan | Bawaan— |
Kolommessages[].name | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].reasoning_content | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: Kirim kembali penalaran yang benar-benar dikembalikan jika model ini menggunakannya | Bawaan— |
Kolommessages[].reasoning_details | Jenisobject|array | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolommax_completion_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Kolomstream_options.include_usage | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtemperature | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtop_p | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomstop | Jenisstring|string[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools | Jenisfunction_tool[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools[].type | Jenisstring | PersyaratanOpsional | Nilai & batasan function Bergantung pada model | Bawaan— |
Kolomtools[].function.name | Jenisstring | PersyaratanWajib | Nilai & batasan Berlaku jika: alat fungsi disediakan | Bawaan— |
Kolomtools[].function.description | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtools[].function.parameters | JenisJSON_schema | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtool_choice | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomparallel_tool_calls | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomresponse_format | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning_effort | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomservice_tier | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolominstructions | Jenisstring | PersyaratanOpsional | Nilai & batasan Kolom kompatibilitas | Bawaan— |
Kolomfunctions | Jenisfunction[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomfunction_call | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomprompt_cache_options | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommodalities | Jenisstring[] | PersyaratanOpsional | Nilai & batasan text | Bawaan— |
Kolomprovider | Jenisobject | PersyaratanOpsional | Nilai & batasan Kondisi: provider.options ditolak pada rute teks Ultra ini | Bawaan— |
Kolomcache_control.ttl | Jenisstring | PersyaratanOpsional | Nilai & batasan Kondisi: 1h ditolak pada lokasi cache prompt yang digunakan | Bawaan— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontrakarray pesan dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 yang sebenarnya dimasukkan sebagai teks apa adanya; ID file tidak disimpulkan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeda dari alat yang dihosting |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Siklus hidup: synchronous_or_streamed
Kirim ID model yang tepat bersama messages.
Panjang konteks bukan batas keluaran.
File teks dapat menyediakan teks apa adanya; masukan gambar/audio/objek file memerlukan pengikatan yang tepat.
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Token konteks, lebih dari | Token konteks, hingga dan termasuk | Biaya |
|---|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Token konteks, lebih dari— | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.000054 / 1K token Keluaran · Token keluaran $0.000402 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiPanjang permintaan · tingkat 1 | Jadwal tarif— | Token konteks, lebih dari0 | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.000054 / 1K token Keluaran · Token keluaran $0.000402 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.2-1b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap alternatif jawaban beserta konten, panggilan alat, dan penalarannya. Dalam SSE, gabungkan delta menurut indeks alternatif jawaban/alat, lalu pertahankan alasan penghentian akhir dan data penggunaan.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomchoices[].index | Jenisinteger |
Kolomchoices[].message.content | Jenisstring|null |
Kolomchoices[].message.tool_calls | Jenistool_call[] |
Kolomchoices[].message.reasoning_content | Jenisstring |
Kolomchoices[].message.reasoning_details | Jenisobject|array |
Kolomchoices[].finish_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Gunakan jalur metode yang ditampilkan di atas.
meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct adalah model teks ringkas 1.23B milik Meta untuk dialog, peringkasan, penelusuran pengetahuan, dan penulisan ulang kueri. Pembuatnya mencantumkan konteks 128k untuk rilis biasa dan 8k untuk varian terkuantisasi yang terpisah, dengan keluaran teks multibahasa dan kode.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Llama 3.2 1B Instruct adalah model teks ringkas milik Meta yang disetel mengikuti instruksi, dengan jumlah parameter 1.23 miliar dalam tabel pembuatnya. Model ini menerima teks multibahasa dan mengembalikan teks atau kode. Rilis ini ditujukan untuk dialog, penelusuran pengetahuan, peringkasan, asisten menulis seluler, serta penulisan ulang kueri atau prompt, bukan tugas memahami gambar yang menjadi lingkup edisi visi Llama yang terpisah.
Informasi model dan konteks
Model ini menggunakan arsitektur Transformer autoregresif dengan grouped-query attention dan embedding bersama. Meta membedakan model 1B dan 3B pralatih dari model yang disetel mengikuti instruksi. Entri ini adalah checkpoint 1B Instruct, yang bertugas mengikuti permintaan pengguna dalam percakapan, alih-alih berfungsi sebagai fondasi pralatih.
Rilis teks biasa didokumentasikan dengan konteks 128k. Pembuatnya secara terpisah mencantumkan konteks 8k untuk model teks terkuantisasinya. Konfigurasi tersebut harus tetap dibedakan: kuantisasi tidak memberi dasar untuk menerapkan konteks rilis biasa pada setiap checkpoint berformat lebih kecil atau menyimpulkan kapasitas yang dikonfigurasi pada layanan tertentu.
Gunakan konteks untuk kutipan dan percakapan yang relevan dengan satu operasi yang telah ditentukan. Dokumen panjang tetap dapat memerlukan ringkasan singkat, kueri pencarian yang ditulis ulang, atau jawaban berbasis sumber. Identifikasi materi yang harus dipertahankan hasilnya serta panjang atau bidang yang dibutuhkan langkah aplikasi berikutnya.
Penelusuran, ringkasan, dan penulisan ulang
Untuk peringkasan, berikan kutipan atau percakapan yang sebenarnya dan tentukan audiens, panjang, serta fakta pentingnya. Hasil yang berguna dapat memisahkan persoalan utama, keputusan yang sudah dinyatakan, dan pertanyaan terbuka. Jika sumber berisi beberapa topik, tentukan topik yang perlu dicakup ringkasan, alih-alih meminta pemadatan tanpa arah atas seluruh materi.
Untuk penelusuran pengetahuan, sertakan kutipan sumber yang dipilih atau informasi yang dikembalikan komponen penelusuran. Minta pernyataan yang menjawab pertanyaan beserta kutipan pendukungnya. Respons teks model dapat menjelaskan informasi yang ditemukan, sedangkan pencarian koleksi privat tetap menjadi tugas aplikasi yang terhubung. Model tidak memperoleh koleksi tersebut hanya karena label kasus penggunaannya menyebut penelusuran.
Untuk penulisan ulang kueri, berikan pertanyaan asli dan tujuan pencarian. Minta perumusan ulang yang singkat dan mempertahankan entitas, kondisi, serta informasi yang diinginkan. Kueri dukungan dapat ditulis ulang menggunakan istilah produk dan tindakan yang penting, tanpa menambahkan fakta yang tidak ada dalam pesan pengguna. Kembalikan kueri yang direvisi secara terpisah dari penjelasan apa pun jika komponen lain akan langsung menggunakannya.
Untuk asisten menulis, tentukan pembaca, nada, dan fakta sumber sebelum meminta surat singkat atau kutipan yang direvisi. Untuk tugas ekstraksi, tentukan bidang dan cara merepresentasikan informasi yang tidak tersedia. Ini adalah operasi konkret yang menghubungkan fokus teks model ringkas yang didokumentasikan dengan artefak yang dapat diperiksa.
Bahasa yang didukung dan pelatihan
Bahasa yang didukung secara resmi adalah Inggris, Jerman, Prancis, Italia, Portugis, Hindi, Spanyol, dan Thai. Model dilatih menggunakan kumpulan bahasa yang lebih luas, yang berbeda dari delapan bahasa yang secara eksplisit didukung kartu model. Tentukan bahasa akhir serta istilah atau pengenal yang harus dipertahankan.
Keluarga model ini dipralatih menggunakan hingga sembilan triliun token, dengan batas waktu data Desember 2023. Untuk model 1B dan 3B, pembuatnya menggunakan keluaran Llama 3.1 8B dan 70B sebagai target pelatihan tingkat token serta distilasi pengetahuan setelah pemangkasan. Ini adalah proses pelatihan; bukan berarti model 1B yang diterapkan meminta model lebih besar tersebut menjawab setiap pertanyaan pengguna.
Kartu model menjelaskan penyetelan lanjutan terawasi dan penyelarasan berbasis preferensi, dengan putaran pascapelatihan yang melibatkan contoh terawasi, rejection sampling, dan optimasi preferensi langsung. Tahapan tersebut menghasilkan perilaku Instruct sambil mempertahankan checkpoint yang disebutkan dan modalitas hanya teks.
Percakapan dan edisi terkuantisasi
Pembuatnya memperagakan pesan sistem dan pengguna yang terpisah menggunakan format percakapan yang sesuai. Tentukan peran asisten dan persyaratan respons secara terpisah dari teks sumber yang sebenarnya. Pertahankan jawaban terdahulu yang relevan ketika tindak lanjut meminta revisi, klarifikasi, atau bentuk berbeda dari informasi yang sama.
Rilis ini juga mendokumentasikan secara terpisah varian yang dilatih dengan mempertimbangkan kuantisasi (quantization-aware) dan varian yang dikuantisasi setelah pelatihan. Presisi dan konteks 8k-nya merupakan milik varian tersebut, bukan spesifikasi universal untuk entri Instruct biasa ini. Gunakan checkpoint dan konfigurasi yang tepat saat membandingkan tugas berulang atau menyiapkan penerapan turunan.
Batas kemampuan substantif
Rilis 1B ini hanya mendukung teks. Model ini tidak boleh dianggap mewarisi masukan gambar dari model visi Llama 3.2 11B atau 90B, kemampuan teks dan gambar Llama 4, atau kontrol tingkat upaya penalaran yang disebutkan untuk Muse Spark. Contoh generasi 256 token pada kartu model adalah pengaturan contoh, bukan kapasitas jawaban maksimum yang dinyatakan secara mandiri.
Hasil akhir praktis berupa ringkasan, kueri, catatan yang diekstrak, atau teks hasil penulisan ulang yang diminta, dengan mempertahankan makna dan pengenal sumber yang relevan. Sumber yang dibaca tidak menyatakan batas maksimum token keluaran yang terpisah dan tegas. Jaga tugas tetap terarah, lengkapi materi masukan untuk operasi tersebut, dan nyatakan perbedaan konteks rilis biasa dengan varian terkuantisasi secara jelas.
POST /v1/messagestextjson, sse| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan meta-llama/llama-3.2-1b-instruct | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan user, assistant | Bawaan— |
Kolommessages[].content | Jenisstring | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Teks · Teks UTF-8
string messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 yang sebenarnya dan masukkan teksnya ke string masukan atau konten pesan yang ditunjukkan. |
Siklus hidup: synchronous_or_streamed
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Token konteks, lebih dari | Token konteks, hingga dan termasuk | Biaya |
|---|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Token konteks, lebih dari— | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.000054 / 1K token Keluaran · Token keluaran $0.000402 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiPanjang permintaan · tingkat 1 | Jadwal tarif— | Token konteks, lebih dari0 | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.000054 / 1K token Keluaran · Token keluaran $0.000402 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
{\n "model": "meta-llama/llama-3.2-1b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan semua blok konten, tanda tangan penalaran, dan ID penggunaan alat yang sebenarnya. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan keluaran.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomid | Jenisstring |
Kolommodel | Jenisstring |
Kolomcontent[] | Jenistext|thinking|tool_use|other content block |
Kolomstop_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Gunakan jalur metode yang ditampilkan di atas.
Contoh teknis dalam bahasa Inggris
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.