Llama 3.1 8B Instruct adalah model teks Meta dengan delapan miliar parameter untuk dialog multibahasa dan asisten berbasis instruksi. Model ini menerima percakapan tertulis dan materi sumber serta menghasilkan teks atau kode. Ini adalah edisi Instruct berukuran 8B, berbeda dari basis pralatihnya maupun model 70B dan 405B dalam keluarga yang sama.
Arsitektur, konteks, dan bahasa
Model ini menggunakan arsitektur Transformer autoregresif dengan grouped-query attention. Keluarga yang disetel mengikuti instruksi menggunakan penyetelan lanjutan terawasi dan pembelajaran penguatan dengan umpan balik manusia untuk menyelaraskan respons percakapannya. Pembuatnya mendokumentasikan konteks 128k untuk rilis teks ini; ini bukan spesifikasi visi atau konteks panjang dari model Llama 4 yang terbit kemudian.
Delapan bahasa yang didukung secara resmi adalah Inggris, Jerman, Prancis, Italia, Portugis, Hindi, Spanyol, dan Thai. Data prapelatihan mencakup kumpulan yang lebih luas, berbeda dari bahasa yang secara eksplisit didukung kartu model. Nyatakan bahasa akhir serta nama, pengenal variabel, atau istilah yang harus tetap sama dalam hasil multibahasa.
Keluarga model ini dipralatih menggunakan sekitar lima belas triliun token, dengan batas waktu data Desember 2023. Penyetelan lanjutan mencakup materi instruksi dan lebih dari dua puluh lima juta contoh sintetis. Hal ini menjelaskan pelatihan model, bukan akses ke basis pengetahuan privat atau informasi langsung saat pertanyaan baru masuk.
Operasi teks yang ditentukan
Permintaan yang berorientasi pada dukungan dapat menyertakan pesan pengguna dan kutipan referensi yang relevan, lalu meminta jawaban beserta kondisi pendukungnya. Catatan ringkas dapat memisahkan persoalan, informasi yang sudah disediakan, dan langkah berikutnya yang diperlukan. Tentukan nama bidang dan penanganan nilai yang tidak tersedia ketika aplikasi perlu memproses hasil tersebut.
Untuk peringkasan, berikan kutipan atau percakapan yang sebenarnya dan tentukan audiens, panjang, serta fakta yang harus dipertahankan. Minta keputusan atau pertanyaan yang belum terselesaikan yang relevan dengan satu topik, bukan ringkasan tanpa arah atas materi yang tidak saling berkaitan. Tindak lanjut dapat meminta balasan lebih singkat atau penjelasan lebih jelas tentang satu kondisi sambil mempertahankan fakta sumber yang sama.
Untuk penyuntingan, tentukan pembaca dan nada serta identifikasi makna yang harus tetap sama. Tugas praktis dapat meminta pesan yang lebih jelas diikuti daftar perubahan singkat, atau hanya pesan yang direvisi jika akan langsung digunakan. Tugas klasifikasi perlu menyediakan label yang diizinkan beserta perbedaannya, alih-alih mengandalkan nama label untuk mendefinisikan aturan.
Pembuatan kode dan contoh
Keluaran yang didokumentasikan juga mencakup kode. Berikan bahasa, masukan yang diperlukan, dan hasil yang diharapkan sebelum meminta fungsi. Untuk penjelasan, berikan fungsi yang ada dan masukan konkret, lalu tanyakan langkah mana yang menentukan nilai kembalinya. Untuk perbaikan, sertakan kegagalan yang diamati dan perilaku yang diinginkan, dengan mempertahankan antarmuka yang harus tetap kompatibel.
Keluaran yang berguna dapat memisahkan kode yang diusulkan, asumsi, dan contoh masukannya. Aplikasi atau pengembang melakukan kompilasi, eksekusi, atau perubahan repositori yang sebenarnya. Kode sumber tertulis adalah artefak yang perlu diperiksa, bukan operasi eksternal yang selesai hanya karena model mengembalikannya.
Keluarga model ini juga mendukung penggunaan keluaran yang dihasilkan untuk contoh sintetis dan distilasi. Permintaan teks yang ditentukan dapat menghasilkan variasi sesuai aturan yang disediakan dan dalam format yang ditetapkan. Pertahankan aturan dan label agar setiap contoh dapat diperiksa; contoh yang dihasilkan tidak secara mandiri membuktikan kebenaran kumpulan data pelatihan.
Peran percakapan dan penggunaan alat
Kartu model memperagakan templat percakapan dengan pesan sistem dan pengguna yang terpisah. Tentukan peran asisten dan persyaratan respons dalam konteks sistem, lalu berikan pertanyaan dan materi sumber sebagai tugasnya. Simpan pesan terdahulu yang relevan saat meminta tindak lanjut atau memberikan bukti baru yang mengubah hasil.
Llama 3.1 mendokumentasikan beberapa format penggunaan alat. Aplikasi mendeskripsikan fungsi, model menghasilkan usulan pemanggilan dan argumennya, aplikasi mengeksekusinya dan mengembalikan hasil dengan peran tool. Jawaban berikutnya kemudian dapat menggunakan informasi yang dikembalikan. Jaga agar operasi asal dan hasilnya tetap terhubung melalui percakapan.
Misalnya, pencarian dapat mengembalikan nilai referensi terkini yang tidak ada dalam kutipan, atau alat perhitungan dapat memberikan hasil numerik yang diperlukan dalam penjelasan. Asisten yang menggunakan alat memerlukan operasi tersebut disediakan oleh lingkungannya. Perilaku teks model tidak dengan sendirinya membuat koneksi ke sumber eksternal atau menyelesaikan efek samping.
Batas praktis
Label konteks 128k dari pembuatnya harus tetap dikaitkan dengan rilis 8B Instruct yang tepat dan konfigurasi yang berlaku. Contoh generasi 256 token hanya merupakan pilihan penggunaan; sumber yang dibaca tidak menyatakan kapasitas jawaban maksimum terpisah yang tegas. Ukuran 8B tidak boleh dianggap mewarisi jumlah parameter anggota lain atau kontrol penalaran bernama dari keluarga terpisah.
Ini adalah model hanya teks. Masukan visual, pemahaman audio, dan generasi ucapan memerlukan komponen yang ditentukan secara terpisah. Tentukan artefak akhir sebelum memberikan materi: balasan singkat, catatan yang diekstrak, kutipan yang direvisi, penjelasan, atau usulan kode. Simpan informasi sumber yang diperlukan untuk memeriksa makna dan format artefak tersebut.
", "aboutText": "Llama 3.1 8B Instruct adalah model teks Meta dengan delapan miliar parameter untuk dialog multibahasa dan asisten berbasis instruksi. Model ini menerima percakapan tertulis dan materi sumber serta menghasilkan teks atau kode. Ini adalah edisi Instruct berukuran 8B, berbeda dari basis pralatihnya maupun model 70B dan 405B dalam keluarga yang sama.\n\nArsitektur, konteks, dan bahasa\n\nModel ini menggunakan arsitektur Transformer autoregresif dengan grouped-query attention. Keluarga yang disetel mengikuti instruksi menggunakan penyetelan lanjutan terawasi dan pembelajaran penguatan dengan umpan balik manusia untuk menyelaraskan respons percakapannya. Pembuatnya mendokumentasikan konteks 128k untuk rilis teks ini; ini bukan spesifikasi visi atau konteks panjang dari model Llama 4 yang terbit kemudian.\n\nDelapan bahasa yang didukung secara resmi adalah Inggris, Jerman, Prancis, Italia, Portugis, Hindi, Spanyol, dan Thai. Data prapelatihan mencakup kumpulan yang lebih luas, berbeda dari bahasa yang secara eksplisit didukung kartu model. Nyatakan bahasa akhir serta nama, pengenal variabel, atau istilah yang harus tetap sama dalam hasil multibahasa.\n\nKeluarga model ini dipralatih menggunakan sekitar lima belas triliun token, dengan batas waktu data Desember 2023. Penyetelan lanjutan mencakup materi instruksi dan lebih dari dua puluh lima juta contoh sintetis. Hal ini menjelaskan pelatihan model, bukan akses ke basis pengetahuan privat atau informasi langsung saat pertanyaan baru masuk.\n\nOperasi teks yang ditentukan\n\nPermintaan yang berorientasi pada dukungan dapat menyertakan pesan pengguna dan kutipan referensi yang relevan, lalu meminta jawaban beserta kondisi pendukungnya. Catatan ringkas dapat memisahkan persoalan, informasi yang sudah disediakan, dan langkah berikutnya yang diperlukan. Tentukan nama bidang dan penanganan nilai yang tidak tersedia ketika aplikasi perlu memproses hasil tersebut.\n\nUntuk peringkasan, berikan kutipan atau percakapan yang sebenarnya dan tentukan audiens, panjang, serta fakta yang harus dipertahankan. Minta keputusan atau pertanyaan yang belum terselesaikan yang relevan dengan satu topik, bukan ringkasan tanpa arah atas materi yang tidak saling berkaitan. Tindak lanjut dapat meminta balasan lebih singkat atau penjelasan lebih jelas tentang satu kondisi sambil mempertahankan fakta sumber yang sama.\n\nUntuk penyuntingan, tentukan pembaca dan nada serta identifikasi makna yang harus tetap sama. Tugas praktis dapat meminta pesan yang lebih jelas diikuti daftar perubahan singkat, atau hanya pesan yang direvisi jika akan langsung digunakan. Tugas klasifikasi perlu menyediakan label yang diizinkan beserta perbedaannya, alih-alih mengandalkan nama label untuk mendefinisikan aturan.\n\nPembuatan kode dan contoh\n\nKeluaran yang didokumentasikan juga mencakup kode. Berikan bahasa, masukan yang diperlukan, dan hasil yang diharapkan sebelum meminta fungsi. Untuk penjelasan, berikan fungsi yang ada dan masukan konkret, lalu tanyakan langkah mana yang menentukan nilai kembalinya. Untuk perbaikan, sertakan kegagalan yang diamati dan perilaku yang diinginkan, dengan mempertahankan antarmuka yang harus tetap kompatibel.\n\nKeluaran yang berguna dapat memisahkan kode yang diusulkan, asumsi, dan contoh masukannya. Aplikasi atau pengembang melakukan kompilasi, eksekusi, atau perubahan repositori yang sebenarnya. Kode sumber tertulis adalah artefak yang perlu diperiksa, bukan operasi eksternal yang selesai hanya karena model mengembalikannya.\n\nKeluarga model ini juga mendukung penggunaan keluaran yang dihasilkan untuk contoh sintetis dan distilasi. Permintaan teks yang ditentukan dapat menghasilkan variasi sesuai aturan yang disediakan dan dalam format yang ditetapkan. Pertahankan aturan dan label agar setiap contoh dapat diperiksa; contoh yang dihasilkan tidak secara mandiri membuktikan kebenaran kumpulan data pelatihan.\n\nPeran percakapan dan penggunaan alat\n\nKartu model memperagakan templat percakapan dengan pesan sistem dan pengguna yang terpisah. Tentukan peran asisten dan persyaratan respons dalam konteks sistem, lalu berikan pertanyaan dan materi sumber sebagai tugasnya. Simpan pesan terdahulu yang relevan saat meminta tindak lanjut atau memberikan bukti baru yang mengubah hasil.\n\nLlama 3.1 mendokumentasikan beberapa format penggunaan alat. Aplikasi mendeskripsikan fungsi, model menghasilkan usulan pemanggilan dan argumennya, aplikasi mengeksekusinya dan mengembalikan hasil dengan peran tool. Jawaban berikutnya kemudian dapat menggunakan informasi yang dikembalikan. Jaga agar operasi asal dan hasilnya tetap terhubung melalui percakapan.\n\nMisalnya, pencarian dapat mengembalikan nilai referensi terkini yang tidak ada dalam kutipan, atau alat perhitungan dapat memberikan hasil numerik yang diperlukan dalam penjelasan. Asisten yang menggunakan alat memerlukan operasi tersebut disediakan oleh lingkungannya. Perilaku teks model tidak dengan sendirinya membuat koneksi ke sumber eksternal atau menyelesaikan efek samping.\n\nBatas praktis\n\nLabel konteks 128k dari pembuatnya harus tetap dikaitkan dengan rilis 8B Instruct yang tepat dan konfigurasi yang berlaku. Contoh generasi 256 token hanya merupakan pilihan penggunaan; sumber yang dibaca tidak menyatakan kapasitas jawaban maksimum terpisah yang tegas. Ukuran 8B tidak boleh dianggap mewarisi jumlah parameter anggota lain atau kontrol penalaran bernama dari keluarga terpisah.\n\nIni adalah model hanya teks. Masukan visual, pemahaman audio, dan generasi ucapan memerlukan komponen yang ditentukan secara terpisah. Tentukan artefak akhir sebelum memberikan materi: balasan singkat, catatan yang diekstrak, kutipan yang direvisi, penjelasan, atau usulan kode. Simpan informasi sumber yang diperlukan untuk memeriksa makna dan format artefak tersebut.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknis dalam bahasa Inggris
Translate a delivery notice into German\n\nTranslate this customer notice into German: 'Order BN-42 will leave our warehouse on Thursday. Delivery normally takes three business days. We will send tracking details after dispatch.' Preserve BN-42, distinguish dispatch from delivery and use a polite professional tone. Return only the translation; do not turn the normal transit time into a guaranteed arrival date.One German customer notice preserving the identifier, event sequence and qualified transit time.The translation distinguishes warehouse dispatch from delivery and retains the word's sense of a normal estimate.meta-llama/llama-3.1-8b-instructLlama 3.1 8B Instruct adalah model instruksi teks Meta yang lebih kecil untuk dialog multibahasa, ringkasan, dan jawaban yang dikondisikan oleh sumber. Model ini berukuran 8B parameter, memiliki konteks 128k dari pembuatnya, grouped-query attention, dan format penggunaan alat yang didokumentasikan, serta mengembalikan teks atau kode.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Llama 3.1 8B Instruct adalah model teks Meta dengan delapan miliar parameter untuk dialog multibahasa dan asisten berbasis instruksi. Model ini menerima percakapan tertulis dan materi sumber serta menghasilkan teks atau kode. Ini adalah edisi Instruct berukuran 8B, berbeda dari basis pralatihnya maupun model 70B dan 405B dalam keluarga yang sama.
Arsitektur, konteks, dan bahasa
Model ini menggunakan arsitektur Transformer autoregresif dengan grouped-query attention. Keluarga yang disetel mengikuti instruksi menggunakan penyetelan lanjutan terawasi dan pembelajaran penguatan dengan umpan balik manusia untuk menyelaraskan respons percakapannya. Pembuatnya mendokumentasikan konteks 128k untuk rilis teks ini; ini bukan spesifikasi visi atau konteks panjang dari model Llama 4 yang terbit kemudian.
Delapan bahasa yang didukung secara resmi adalah Inggris, Jerman, Prancis, Italia, Portugis, Hindi, Spanyol, dan Thai. Data prapelatihan mencakup kumpulan yang lebih luas, berbeda dari bahasa yang secara eksplisit didukung kartu model. Nyatakan bahasa akhir serta nama, pengenal variabel, atau istilah yang harus tetap sama dalam hasil multibahasa.
Keluarga model ini dipralatih menggunakan sekitar lima belas triliun token, dengan batas waktu data Desember 2023. Penyetelan lanjutan mencakup materi instruksi dan lebih dari dua puluh lima juta contoh sintetis. Hal ini menjelaskan pelatihan model, bukan akses ke basis pengetahuan privat atau informasi langsung saat pertanyaan baru masuk.
Operasi teks yang ditentukan
Permintaan yang berorientasi pada dukungan dapat menyertakan pesan pengguna dan kutipan referensi yang relevan, lalu meminta jawaban beserta kondisi pendukungnya. Catatan ringkas dapat memisahkan persoalan, informasi yang sudah disediakan, dan langkah berikutnya yang diperlukan. Tentukan nama bidang dan penanganan nilai yang tidak tersedia ketika aplikasi perlu memproses hasil tersebut.
Untuk peringkasan, berikan kutipan atau percakapan yang sebenarnya dan tentukan audiens, panjang, serta fakta yang harus dipertahankan. Minta keputusan atau pertanyaan yang belum terselesaikan yang relevan dengan satu topik, bukan ringkasan tanpa arah atas materi yang tidak saling berkaitan. Tindak lanjut dapat meminta balasan lebih singkat atau penjelasan lebih jelas tentang satu kondisi sambil mempertahankan fakta sumber yang sama.
Untuk penyuntingan, tentukan pembaca dan nada serta identifikasi makna yang harus tetap sama. Tugas praktis dapat meminta pesan yang lebih jelas diikuti daftar perubahan singkat, atau hanya pesan yang direvisi jika akan langsung digunakan. Tugas klasifikasi perlu menyediakan label yang diizinkan beserta perbedaannya, alih-alih mengandalkan nama label untuk mendefinisikan aturan.
Pembuatan kode dan contoh
Keluaran yang didokumentasikan juga mencakup kode. Berikan bahasa, masukan yang diperlukan, dan hasil yang diharapkan sebelum meminta fungsi. Untuk penjelasan, berikan fungsi yang ada dan masukan konkret, lalu tanyakan langkah mana yang menentukan nilai kembalinya. Untuk perbaikan, sertakan kegagalan yang diamati dan perilaku yang diinginkan, dengan mempertahankan antarmuka yang harus tetap kompatibel.
Keluaran yang berguna dapat memisahkan kode yang diusulkan, asumsi, dan contoh masukannya. Aplikasi atau pengembang melakukan kompilasi, eksekusi, atau perubahan repositori yang sebenarnya. Kode sumber tertulis adalah artefak yang perlu diperiksa, bukan operasi eksternal yang selesai hanya karena model mengembalikannya.
Keluarga model ini juga mendukung penggunaan keluaran yang dihasilkan untuk contoh sintetis dan distilasi. Permintaan teks yang ditentukan dapat menghasilkan variasi sesuai aturan yang disediakan dan dalam format yang ditetapkan. Pertahankan aturan dan label agar setiap contoh dapat diperiksa; contoh yang dihasilkan tidak secara mandiri membuktikan kebenaran kumpulan data pelatihan.
Peran percakapan dan penggunaan alat
Kartu model memperagakan templat percakapan dengan pesan sistem dan pengguna yang terpisah. Tentukan peran asisten dan persyaratan respons dalam konteks sistem, lalu berikan pertanyaan dan materi sumber sebagai tugasnya. Simpan pesan terdahulu yang relevan saat meminta tindak lanjut atau memberikan bukti baru yang mengubah hasil.
Llama 3.1 mendokumentasikan beberapa format penggunaan alat. Aplikasi mendeskripsikan fungsi, model menghasilkan usulan pemanggilan dan argumennya, aplikasi mengeksekusinya dan mengembalikan hasil dengan peran tool. Jawaban berikutnya kemudian dapat menggunakan informasi yang dikembalikan. Jaga agar operasi asal dan hasilnya tetap terhubung melalui percakapan.
Misalnya, pencarian dapat mengembalikan nilai referensi terkini yang tidak ada dalam kutipan, atau alat perhitungan dapat memberikan hasil numerik yang diperlukan dalam penjelasan. Asisten yang menggunakan alat memerlukan operasi tersebut disediakan oleh lingkungannya. Perilaku teks model tidak dengan sendirinya membuat koneksi ke sumber eksternal atau menyelesaikan efek samping.
Batas praktis
Label konteks 128k dari pembuatnya harus tetap dikaitkan dengan rilis 8B Instruct yang tepat dan konfigurasi yang berlaku. Contoh generasi 256 token hanya merupakan pilihan penggunaan; sumber yang dibaca tidak menyatakan kapasitas jawaban maksimum terpisah yang tegas. Ukuran 8B tidak boleh dianggap mewarisi jumlah parameter anggota lain atau kontrol penalaran bernama dari keluarga terpisah.
Ini adalah model hanya teks. Masukan visual, pemahaman audio, dan generasi ucapan memerlukan komponen yang ditentukan secara terpisah. Tentukan artefak akhir sebelum memberikan materi: balasan singkat, catatan yang diekstrak, kutipan yang direvisi, penjelasan, atau usulan kode. Simpan informasi sumber yang diperlukan untuk memeriksa makna dan format artefak tersebut.
POST /v1/chat/completionstexttext| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan meta-llama/llama-3.1-8b-instruct | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan Item minimum: 1 | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan Contoh: system, user, assistant, tool, function Kondisi: Peran ini direpresentasikan secara eksplisit oleh tipe kompatibilitas dalam kode sumber; kumpulan peran model yang tepat tetap khusus untuk tiap model. Bergantung pada model | Bawaan— |
Kolommessages[].content | Jenisstring|content_part[]|null | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_calls | Jenistool_call[] | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_call_id | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: role=tool; gunakan ID yang benar-benar dikembalikan | Bawaan— |
Kolommessages[].name | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].reasoning_content | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: Kirim kembali penalaran yang benar-benar dikembalikan jika model ini menggunakannya | Bawaan— |
Kolommessages[].reasoning_details | Jenisobject|array | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolommax_completion_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Kolomstream_options.include_usage | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtemperature | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtop_p | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomstop | Jenisstring|string[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools | Jenisfunction_tool[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools[].type | Jenisstring | PersyaratanOpsional | Nilai & batasan function Bergantung pada model | Bawaan— |
Kolomtools[].function.name | Jenisstring | PersyaratanWajib | Nilai & batasan Berlaku jika: alat fungsi disediakan | Bawaan— |
Kolomtools[].function.description | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtools[].function.parameters | JenisJSON_schema | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtool_choice | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomparallel_tool_calls | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomresponse_format | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning_effort | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomservice_tier | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolominstructions | Jenisstring | PersyaratanOpsional | Nilai & batasan Kolom kompatibilitas | Bawaan— |
Kolomfunctions | Jenisfunction[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomfunction_call | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomprompt_cache_options | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommodalities | Jenisstring[] | PersyaratanOpsional | Nilai & batasan text | Bawaan— |
Kolomprovider | Jenisobject | PersyaratanOpsional | Nilai & batasan Kondisi: provider.options ditolak pada rute teks Ultra ini | Bawaan— |
Kolomcache_control.ttl | Jenisstring | PersyaratanOpsional | Nilai & batasan Kondisi: 1h ditolak pada lokasi cache prompt yang digunakan | Bawaan— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontrakarray pesan dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 yang sebenarnya dimasukkan sebagai teks apa adanya; ID file tidak disimpulkan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeda dari alat yang dihosting |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Siklus hidup: synchronous_or_streamed
Kirim ID model yang tepat bersama messages.
Panjang konteks bukan batas keluaran.
File teks dapat menyediakan teks apa adanya; masukan gambar/audio/objek file memerlukan pengikatan yang tepat.
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Token konteks, lebih dari | Token konteks, hingga dan termasuk | Biaya |
|---|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Token konteks, lebih dari— | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.00044 / 1K token Keluaran · Token keluaran $0.00044 / 1K token Masukan · Pembacaan cache $0.00044 / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiPanjang permintaan · tingkat 1 | Jadwal tarif— | Token konteks, lebih dari0 | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.00044 / 1K token Keluaran · Token keluaran $0.00044 / 1K token Masukan · Pembacaan cache $0.00044 / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.1-8b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.1-8b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.1-8b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap alternatif jawaban beserta konten, panggilan alat, dan penalarannya. Dalam SSE, gabungkan delta menurut indeks alternatif jawaban/alat, lalu pertahankan alasan penghentian akhir dan data penggunaan.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomchoices[].index | Jenisinteger |
Kolomchoices[].message.content | Jenisstring|null |
Kolomchoices[].message.tool_calls | Jenistool_call[] |
Kolomchoices[].message.reasoning_content | Jenisstring |
Kolomchoices[].message.reasoning_details | Jenisobject|array |
Kolomchoices[].finish_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra meta-llama/llama-3.1-8b-instruct
Gunakan jalur metode yang ditampilkan di atas.
meta-llama/llama-3.1-8b-instructLlama 3.1 8B Instruct adalah model instruksi teks Meta yang lebih kecil untuk dialog multibahasa, ringkasan, dan jawaban yang dikondisikan oleh sumber. Model ini berukuran 8B parameter, memiliki konteks 128k dari pembuatnya, grouped-query attention, dan format penggunaan alat yang didokumentasikan, serta mengembalikan teks atau kode.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Llama 3.1 8B Instruct adalah model teks Meta dengan delapan miliar parameter untuk dialog multibahasa dan asisten berbasis instruksi. Model ini menerima percakapan tertulis dan materi sumber serta menghasilkan teks atau kode. Ini adalah edisi Instruct berukuran 8B, berbeda dari basis pralatihnya maupun model 70B dan 405B dalam keluarga yang sama.
Arsitektur, konteks, dan bahasa
Model ini menggunakan arsitektur Transformer autoregresif dengan grouped-query attention. Keluarga yang disetel mengikuti instruksi menggunakan penyetelan lanjutan terawasi dan pembelajaran penguatan dengan umpan balik manusia untuk menyelaraskan respons percakapannya. Pembuatnya mendokumentasikan konteks 128k untuk rilis teks ini; ini bukan spesifikasi visi atau konteks panjang dari model Llama 4 yang terbit kemudian.
Delapan bahasa yang didukung secara resmi adalah Inggris, Jerman, Prancis, Italia, Portugis, Hindi, Spanyol, dan Thai. Data prapelatihan mencakup kumpulan yang lebih luas, berbeda dari bahasa yang secara eksplisit didukung kartu model. Nyatakan bahasa akhir serta nama, pengenal variabel, atau istilah yang harus tetap sama dalam hasil multibahasa.
Keluarga model ini dipralatih menggunakan sekitar lima belas triliun token, dengan batas waktu data Desember 2023. Penyetelan lanjutan mencakup materi instruksi dan lebih dari dua puluh lima juta contoh sintetis. Hal ini menjelaskan pelatihan model, bukan akses ke basis pengetahuan privat atau informasi langsung saat pertanyaan baru masuk.
Operasi teks yang ditentukan
Permintaan yang berorientasi pada dukungan dapat menyertakan pesan pengguna dan kutipan referensi yang relevan, lalu meminta jawaban beserta kondisi pendukungnya. Catatan ringkas dapat memisahkan persoalan, informasi yang sudah disediakan, dan langkah berikutnya yang diperlukan. Tentukan nama bidang dan penanganan nilai yang tidak tersedia ketika aplikasi perlu memproses hasil tersebut.
Untuk peringkasan, berikan kutipan atau percakapan yang sebenarnya dan tentukan audiens, panjang, serta fakta yang harus dipertahankan. Minta keputusan atau pertanyaan yang belum terselesaikan yang relevan dengan satu topik, bukan ringkasan tanpa arah atas materi yang tidak saling berkaitan. Tindak lanjut dapat meminta balasan lebih singkat atau penjelasan lebih jelas tentang satu kondisi sambil mempertahankan fakta sumber yang sama.
Untuk penyuntingan, tentukan pembaca dan nada serta identifikasi makna yang harus tetap sama. Tugas praktis dapat meminta pesan yang lebih jelas diikuti daftar perubahan singkat, atau hanya pesan yang direvisi jika akan langsung digunakan. Tugas klasifikasi perlu menyediakan label yang diizinkan beserta perbedaannya, alih-alih mengandalkan nama label untuk mendefinisikan aturan.
Pembuatan kode dan contoh
Keluaran yang didokumentasikan juga mencakup kode. Berikan bahasa, masukan yang diperlukan, dan hasil yang diharapkan sebelum meminta fungsi. Untuk penjelasan, berikan fungsi yang ada dan masukan konkret, lalu tanyakan langkah mana yang menentukan nilai kembalinya. Untuk perbaikan, sertakan kegagalan yang diamati dan perilaku yang diinginkan, dengan mempertahankan antarmuka yang harus tetap kompatibel.
Keluaran yang berguna dapat memisahkan kode yang diusulkan, asumsi, dan contoh masukannya. Aplikasi atau pengembang melakukan kompilasi, eksekusi, atau perubahan repositori yang sebenarnya. Kode sumber tertulis adalah artefak yang perlu diperiksa, bukan operasi eksternal yang selesai hanya karena model mengembalikannya.
Keluarga model ini juga mendukung penggunaan keluaran yang dihasilkan untuk contoh sintetis dan distilasi. Permintaan teks yang ditentukan dapat menghasilkan variasi sesuai aturan yang disediakan dan dalam format yang ditetapkan. Pertahankan aturan dan label agar setiap contoh dapat diperiksa; contoh yang dihasilkan tidak secara mandiri membuktikan kebenaran kumpulan data pelatihan.
Peran percakapan dan penggunaan alat
Kartu model memperagakan templat percakapan dengan pesan sistem dan pengguna yang terpisah. Tentukan peran asisten dan persyaratan respons dalam konteks sistem, lalu berikan pertanyaan dan materi sumber sebagai tugasnya. Simpan pesan terdahulu yang relevan saat meminta tindak lanjut atau memberikan bukti baru yang mengubah hasil.
Llama 3.1 mendokumentasikan beberapa format penggunaan alat. Aplikasi mendeskripsikan fungsi, model menghasilkan usulan pemanggilan dan argumennya, aplikasi mengeksekusinya dan mengembalikan hasil dengan peran tool. Jawaban berikutnya kemudian dapat menggunakan informasi yang dikembalikan. Jaga agar operasi asal dan hasilnya tetap terhubung melalui percakapan.
Misalnya, pencarian dapat mengembalikan nilai referensi terkini yang tidak ada dalam kutipan, atau alat perhitungan dapat memberikan hasil numerik yang diperlukan dalam penjelasan. Asisten yang menggunakan alat memerlukan operasi tersebut disediakan oleh lingkungannya. Perilaku teks model tidak dengan sendirinya membuat koneksi ke sumber eksternal atau menyelesaikan efek samping.
Batas praktis
Label konteks 128k dari pembuatnya harus tetap dikaitkan dengan rilis 8B Instruct yang tepat dan konfigurasi yang berlaku. Contoh generasi 256 token hanya merupakan pilihan penggunaan; sumber yang dibaca tidak menyatakan kapasitas jawaban maksimum terpisah yang tegas. Ukuran 8B tidak boleh dianggap mewarisi jumlah parameter anggota lain atau kontrol penalaran bernama dari keluarga terpisah.
Ini adalah model hanya teks. Masukan visual, pemahaman audio, dan generasi ucapan memerlukan komponen yang ditentukan secara terpisah. Tentukan artefak akhir sebelum memberikan materi: balasan singkat, catatan yang diekstrak, kutipan yang direvisi, penjelasan, atau usulan kode. Simpan informasi sumber yang diperlukan untuk memeriksa makna dan format artefak tersebut.
POST /v1/messagestextjson, sse| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan meta-llama/llama-3.1-8b-instruct | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan user, assistant | Bawaan— |
Kolommessages[].content | Jenisstring | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Teks · Teks UTF-8
string messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 yang sebenarnya dan masukkan teksnya ke string masukan atau konten pesan yang ditunjukkan. |
Siklus hidup: synchronous_or_streamed
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Token konteks, lebih dari | Token konteks, hingga dan termasuk | Biaya |
|---|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Token konteks, lebih dari— | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.00044 / 1K token Keluaran · Token keluaran $0.00044 / 1K token Masukan · Pembacaan cache $0.00044 / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiPanjang permintaan · tingkat 1 | Jadwal tarif— | Token konteks, lebih dari0 | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.00044 / 1K token Keluaran · Token keluaran $0.00044 / 1K token Masukan · Pembacaan cache $0.00044 / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
{\n "model": "meta-llama/llama-3.1-8b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan semua blok konten, tanda tangan penalaran, dan ID penggunaan alat yang sebenarnya. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan keluaran.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomid | Jenisstring |
Kolommodel | Jenisstring |
Kolomcontent[] | Jenistext|thinking|tool_use|other content block |
Kolomstop_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra meta-llama/llama-3.1-8b-instruct
Gunakan jalur metode yang ditampilkan di atas.
Contoh teknis dalam bahasa Inggris
Translate a delivery notice into German\n\nTranslate this customer notice into German: 'Order BN-42 will leave our warehouse on Thursday. Delivery normally takes three business days. We will send tracking details after dispatch.' Preserve BN-42, distinguish dispatch from delivery and use a polite professional tone. Return only the translation; do not turn the normal transit time into a guaranteed arrival date.One German customer notice preserving the identifier, event sequence and qualified transit time.The translation distinguishes warehouse dispatch from delivery and retains the word's sense of a normal estimate.