Llama 3.1 70B Instruct adalah model teks Meta dengan 70 miliar parameter yang dioptimalkan untuk dialog multibahasa dan permintaan seperti kepada asisten. Model ini merupakan checkpoint yang disetel mengikuti instruksi dalam keluarga yang juga mencakup ukuran 8B dan 405B serta model pralatih terpisah. Model ini menerima teks dan mengembalikan teks multibahasa atau kode; edisi bernama 70B mempertahankan ukuran dan identitasnya sendiri.
Informasi model dan pelatihan
Rilis ini menggunakan arsitektur Transformer autoregresif dengan grouped-query attention. Model yang disetel diselaraskan menggunakan penyetelan lanjutan terawasi dan pembelajaran penguatan dengan umpan balik manusia. Ini adalah tahapan pelatihan untuk perilaku percakapan yang membantu, bukan sakelar runtime bernama untuk beralih antara mode penalaran dan tanpa penalaran yang terpisah.
Pembuatnya mendokumentasikan konteks 128k untuk model teks dan secara resmi mendukung bahasa Inggris, Jerman, Prancis, Italia, Portugis, Hindi, Spanyol, dan Thai. Pelatihannya mencakup kumpulan bahasa lebih luas, yang tidak menjadikan setiap bahasa sama-sama didukung. Tentukan bahasa keluaran, terminologi, dan pembaca sebelum meminta artefak multibahasa.
Korpus prapelatihan keluarga ini dijelaskan berjumlah sekitar lima belas triliun token, dengan batas waktu Desember 2023. Penyetelan lanjutan mencakup kumpulan data instruksi dan lebih dari dua puluh lima juta contoh sintetis. Batas waktu tersebut adalah batas data pelatihan; pertanyaan yang bergantung pada informasi lebih baru atau privat memerlukan informasi itu disertakan dalam tugas atau dikembalikan oleh sumber yang terhubung.
Percakapan seperti asisten dan analisis sumber
Edisi Instruct ditujukan untuk merespons permintaan percakapan, sedangkan versi pralatih adalah fondasi yang dapat diadaptasi untuk tugas generasi lain. Untuk jawaban berbasis sumber, berikan pertanyaan dan kutipan yang menentukan hasil. Beri label pada sumber dan minta bagian atau pernyataan pendukung di samping setiap temuan.
Perbandingan praktis dapat menyertakan dua prosedur dan meminta kondisi yang sama, perbedaan, serta konflik yang belum terselesaikan. Panduan yang dihasilkan dapat mempertahankan urutan asli dan kondisi berlakunya setiap tindakan. Tugas penyuntingan dokumen dapat menentukan audiens, fakta yang harus tetap ada, dan apakah artefak akhir harus berupa kutipan yang direvisi saja atau kutipan beserta penjelasan.
Untuk jawaban lebih panjang, sebutkan bagian yang diperlukan dan tujuan masing-masing. Konteks besar dapat mempertahankan materi terkait dalam satu kesatuan sementara hasil akhirnya tetap berupa matriks atau penjelasan singkat. Identitas sumber dan pertanyaan yang jelas lebih penting daripada sekadar memasukkan setiap dokumen yang tersedia.
Kode dan contoh yang dihasilkan
Keluaran yang didokumentasikan mencakup kode. Untuk usulan implementasi, berikan bahasa, tipe masukan, hasil yang diharapkan, dan antarmuka yang harus tetap kompatibel. Sertakan fragmen yang ada dan deklarasi relevan ketika tugasnya berupa perbaikan. Minta kode secara terpisah dari asumsi dan contohnya agar langkah pengembangan berikutnya dapat memeriksanya.
Untuk penjelasan kode, berikan masukan yang perlu ditelusuri dan tanyakan bagaimana fungsi yang disediakan mencapai nilai kembalinya. Untuk penjelasan matematika, definisikan simbol dan asumsi serta nyatakan apakah hasil harus eksak, berupa pendekatan, atau berupa pembuktian. Generasi kode dan penalaran tertulis tidak dengan sendirinya mengompilasi program atau mengeksekusi perhitungan.
Pembuatnya juga mengidentifikasi pembuatan data sintetis dan distilasi sebagai penggunaan keluarga model ini. Tugas teks dapat meminta contoh yang bervariasi dalam format tertentu, dengan mempertahankan aturan yang disediakan. Kesesuaian contoh tersebut untuk pelatihan lebih lanjut merupakan keputusan aplikasi yang terpisah; keluaran teks saja bukan verifikasi mandiri atas kebenarannya.
Format percakapan dan alat
Kartu model memperagakan pesan sistem dan pengguna yang terpisah dengan templat percakapan yang sesuai. Gunakan instruksi sistem untuk peran, nada, dan aturan respons yang berlaku terus, sedangkan permintaan pengguna berisi masalah dan sumber yang sebenarnya. Pertahankan pesan terdahulu yang relevan ketika meminta tindak lanjut yang dibangun dari jawaban sebelumnya.
Llama 3.1 mendukung beberapa format penggunaan alat yang didokumentasikan. Aplikasi menyediakan fungsi dan parameter, model menyiapkan usulan pemanggilan, aplikasi mengeksekusinya dan menambahkan hasilnya ke percakapan. Generasi berikutnya dapat menggunakan hasil tersebut. Contoh singkat pada kartu model secara eksplisit menunjukkan penambahan pemanggilan asisten lalu hasil alat; memilih fungsi berbeda dari menyelesaikan operasinya.
Untuk pencarian, nyatakan informasi yang diperlukan dan definisikan fungsi yang mengembalikannya. Simpan nilai aktual yang dikembalikan bersama pemanggilan asal sebelum meminta penjelasan akhir. Untuk perhitungan, bedakan operasi yang diusulkan model dari hasil yang dikembalikan kalkulator. Format alat native dan representasi yang terlihat pada antarmuka pembungkus harus mempertahankan konvensi terdokumentasinya masing-masing.
Edisi dan batas praktis
Pengaturan generasi 256 token pada kartu yang dibaca merupakan contoh penggunaan, bukan kapasitas keluaran maksimum yang dinyatakan secara mandiri. Konteks 128k berkaitan dengan materi dan percakapan yang dihasilkan dalam rilis yang dikonfigurasi. Jangan menggantinya dengan konteks atau kemampuan visual Llama 4 atau ukuran checkpoint Llama 3.1 lain.
Ini adalah model Instruct hanya teks. Gambar, rekaman, atau video memerlukan konten relevannya disiapkan melalui komponen lain. Penelusuran eksternal, eksekusi program, dan perubahan berkas juga menjadi tanggung jawab aplikasi yang terhubung dengan asisten. Pertahankan edisi 70B Instruct yang tepat dan minta penjelasan terhubung sumber, dokumen yang direvisi, kode, atau teks terstruktur yang dibutuhkan tugas.
", "aboutText": "Llama 3.1 70B Instruct adalah model teks Meta dengan 70 miliar parameter yang dioptimalkan untuk dialog multibahasa dan permintaan seperti kepada asisten. Model ini merupakan checkpoint yang disetel mengikuti instruksi dalam keluarga yang juga mencakup ukuran 8B dan 405B serta model pralatih terpisah. Model ini menerima teks dan mengembalikan teks multibahasa atau kode; edisi bernama 70B mempertahankan ukuran dan identitasnya sendiri.\n\nInformasi model dan pelatihan\n\nRilis ini menggunakan arsitektur Transformer autoregresif dengan grouped-query attention. Model yang disetel diselaraskan menggunakan penyetelan lanjutan terawasi dan pembelajaran penguatan dengan umpan balik manusia. Ini adalah tahapan pelatihan untuk perilaku percakapan yang membantu, bukan sakelar runtime bernama untuk beralih antara mode penalaran dan tanpa penalaran yang terpisah.\n\nPembuatnya mendokumentasikan konteks 128k untuk model teks dan secara resmi mendukung bahasa Inggris, Jerman, Prancis, Italia, Portugis, Hindi, Spanyol, dan Thai. Pelatihannya mencakup kumpulan bahasa lebih luas, yang tidak menjadikan setiap bahasa sama-sama didukung. Tentukan bahasa keluaran, terminologi, dan pembaca sebelum meminta artefak multibahasa.\n\nKorpus prapelatihan keluarga ini dijelaskan berjumlah sekitar lima belas triliun token, dengan batas waktu Desember 2023. Penyetelan lanjutan mencakup kumpulan data instruksi dan lebih dari dua puluh lima juta contoh sintetis. Batas waktu tersebut adalah batas data pelatihan; pertanyaan yang bergantung pada informasi lebih baru atau privat memerlukan informasi itu disertakan dalam tugas atau dikembalikan oleh sumber yang terhubung.\n\nPercakapan seperti asisten dan analisis sumber\n\nEdisi Instruct ditujukan untuk merespons permintaan percakapan, sedangkan versi pralatih adalah fondasi yang dapat diadaptasi untuk tugas generasi lain. Untuk jawaban berbasis sumber, berikan pertanyaan dan kutipan yang menentukan hasil. Beri label pada sumber dan minta bagian atau pernyataan pendukung di samping setiap temuan.\n\nPerbandingan praktis dapat menyertakan dua prosedur dan meminta kondisi yang sama, perbedaan, serta konflik yang belum terselesaikan. Panduan yang dihasilkan dapat mempertahankan urutan asli dan kondisi berlakunya setiap tindakan. Tugas penyuntingan dokumen dapat menentukan audiens, fakta yang harus tetap ada, dan apakah artefak akhir harus berupa kutipan yang direvisi saja atau kutipan beserta penjelasan.\n\nUntuk jawaban lebih panjang, sebutkan bagian yang diperlukan dan tujuan masing-masing. Konteks besar dapat mempertahankan materi terkait dalam satu kesatuan sementara hasil akhirnya tetap berupa matriks atau penjelasan singkat. Identitas sumber dan pertanyaan yang jelas lebih penting daripada sekadar memasukkan setiap dokumen yang tersedia.\n\nKode dan contoh yang dihasilkan\n\nKeluaran yang didokumentasikan mencakup kode. Untuk usulan implementasi, berikan bahasa, tipe masukan, hasil yang diharapkan, dan antarmuka yang harus tetap kompatibel. Sertakan fragmen yang ada dan deklarasi relevan ketika tugasnya berupa perbaikan. Minta kode secara terpisah dari asumsi dan contohnya agar langkah pengembangan berikutnya dapat memeriksanya.\n\nUntuk penjelasan kode, berikan masukan yang perlu ditelusuri dan tanyakan bagaimana fungsi yang disediakan mencapai nilai kembalinya. Untuk penjelasan matematika, definisikan simbol dan asumsi serta nyatakan apakah hasil harus eksak, berupa pendekatan, atau berupa pembuktian. Generasi kode dan penalaran tertulis tidak dengan sendirinya mengompilasi program atau mengeksekusi perhitungan.\n\nPembuatnya juga mengidentifikasi pembuatan data sintetis dan distilasi sebagai penggunaan keluarga model ini. Tugas teks dapat meminta contoh yang bervariasi dalam format tertentu, dengan mempertahankan aturan yang disediakan. Kesesuaian contoh tersebut untuk pelatihan lebih lanjut merupakan keputusan aplikasi yang terpisah; keluaran teks saja bukan verifikasi mandiri atas kebenarannya.\n\nFormat percakapan dan alat\n\nKartu model memperagakan pesan sistem dan pengguna yang terpisah dengan templat percakapan yang sesuai. Gunakan instruksi sistem untuk peran, nada, dan aturan respons yang berlaku terus, sedangkan permintaan pengguna berisi masalah dan sumber yang sebenarnya. Pertahankan pesan terdahulu yang relevan ketika meminta tindak lanjut yang dibangun dari jawaban sebelumnya.\n\nLlama 3.1 mendukung beberapa format penggunaan alat yang didokumentasikan. Aplikasi menyediakan fungsi dan parameter, model menyiapkan usulan pemanggilan, aplikasi mengeksekusinya dan menambahkan hasilnya ke percakapan. Generasi berikutnya dapat menggunakan hasil tersebut. Contoh singkat pada kartu model secara eksplisit menunjukkan penambahan pemanggilan asisten lalu hasil alat; memilih fungsi berbeda dari menyelesaikan operasinya.\n\nUntuk pencarian, nyatakan informasi yang diperlukan dan definisikan fungsi yang mengembalikannya. Simpan nilai aktual yang dikembalikan bersama pemanggilan asal sebelum meminta penjelasan akhir. Untuk perhitungan, bedakan operasi yang diusulkan model dari hasil yang dikembalikan kalkulator. Format alat native dan representasi yang terlihat pada antarmuka pembungkus harus mempertahankan konvensi terdokumentasinya masing-masing.\n\nEdisi dan batas praktis\n\nPengaturan generasi 256 token pada kartu yang dibaca merupakan contoh penggunaan, bukan kapasitas keluaran maksimum yang dinyatakan secara mandiri. Konteks 128k berkaitan dengan materi dan percakapan yang dihasilkan dalam rilis yang dikonfigurasi. Jangan menggantinya dengan konteks atau kemampuan visual Llama 4 atau ukuran checkpoint Llama 3.1 lain.\n\nIni adalah model Instruct hanya teks. Gambar, rekaman, atau video memerlukan konten relevannya disiapkan melalui komponen lain. Penelusuran eksternal, eksekusi program, dan perubahan berkas juga menjadi tanggung jawab aplikasi yang terhubung dengan asisten. Pertahankan edisi 70B Instruct yang tepat dan minta penjelasan terhubung sumber, dokumen yang direvisi, kode, atau teks terstruktur yang dibutuhkan tugas.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknis dalam bahasa Inggris
Produce a bilingual maintenance notice\n\nWrite a maintenance notice in English and Spanish from these facts: warehouse entrance B closes on Tuesday from 08:00 to 11:00; deliveries must use entrance A; pedestrian access is unchanged. Use three short sentences per language and preserve entrance letters and times. Do not add a date, delay estimate or closure of pedestrian access.Two labelled language blocks with equivalent three-sentence notices.Compare both versions for entrance A/B, Tuesday, the time range and unchanged pedestrian access.meta-llama/llama-3.1-70b-instructLlama 3.1 70B Instruct adalah model teks Meta untuk dialog multibahasa, penalaran atas dokumen, dan kode. Rilis 70B yang disetel mengikuti instruksi ini menggunakan grouped-query attention, konteks 128k dari pembuatnya, dan format percakapan pemanggilan alat yang didokumentasikan, dengan keluaran teks dan kode.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Llama 3.1 70B Instruct adalah model teks Meta dengan 70 miliar parameter yang dioptimalkan untuk dialog multibahasa dan permintaan seperti kepada asisten. Model ini merupakan checkpoint yang disetel mengikuti instruksi dalam keluarga yang juga mencakup ukuran 8B dan 405B serta model pralatih terpisah. Model ini menerima teks dan mengembalikan teks multibahasa atau kode; edisi bernama 70B mempertahankan ukuran dan identitasnya sendiri.
Informasi model dan pelatihan
Rilis ini menggunakan arsitektur Transformer autoregresif dengan grouped-query attention. Model yang disetel diselaraskan menggunakan penyetelan lanjutan terawasi dan pembelajaran penguatan dengan umpan balik manusia. Ini adalah tahapan pelatihan untuk perilaku percakapan yang membantu, bukan sakelar runtime bernama untuk beralih antara mode penalaran dan tanpa penalaran yang terpisah.
Pembuatnya mendokumentasikan konteks 128k untuk model teks dan secara resmi mendukung bahasa Inggris, Jerman, Prancis, Italia, Portugis, Hindi, Spanyol, dan Thai. Pelatihannya mencakup kumpulan bahasa lebih luas, yang tidak menjadikan setiap bahasa sama-sama didukung. Tentukan bahasa keluaran, terminologi, dan pembaca sebelum meminta artefak multibahasa.
Korpus prapelatihan keluarga ini dijelaskan berjumlah sekitar lima belas triliun token, dengan batas waktu Desember 2023. Penyetelan lanjutan mencakup kumpulan data instruksi dan lebih dari dua puluh lima juta contoh sintetis. Batas waktu tersebut adalah batas data pelatihan; pertanyaan yang bergantung pada informasi lebih baru atau privat memerlukan informasi itu disertakan dalam tugas atau dikembalikan oleh sumber yang terhubung.
Percakapan seperti asisten dan analisis sumber
Edisi Instruct ditujukan untuk merespons permintaan percakapan, sedangkan versi pralatih adalah fondasi yang dapat diadaptasi untuk tugas generasi lain. Untuk jawaban berbasis sumber, berikan pertanyaan dan kutipan yang menentukan hasil. Beri label pada sumber dan minta bagian atau pernyataan pendukung di samping setiap temuan.
Perbandingan praktis dapat menyertakan dua prosedur dan meminta kondisi yang sama, perbedaan, serta konflik yang belum terselesaikan. Panduan yang dihasilkan dapat mempertahankan urutan asli dan kondisi berlakunya setiap tindakan. Tugas penyuntingan dokumen dapat menentukan audiens, fakta yang harus tetap ada, dan apakah artefak akhir harus berupa kutipan yang direvisi saja atau kutipan beserta penjelasan.
Untuk jawaban lebih panjang, sebutkan bagian yang diperlukan dan tujuan masing-masing. Konteks besar dapat mempertahankan materi terkait dalam satu kesatuan sementara hasil akhirnya tetap berupa matriks atau penjelasan singkat. Identitas sumber dan pertanyaan yang jelas lebih penting daripada sekadar memasukkan setiap dokumen yang tersedia.
Kode dan contoh yang dihasilkan
Keluaran yang didokumentasikan mencakup kode. Untuk usulan implementasi, berikan bahasa, tipe masukan, hasil yang diharapkan, dan antarmuka yang harus tetap kompatibel. Sertakan fragmen yang ada dan deklarasi relevan ketika tugasnya berupa perbaikan. Minta kode secara terpisah dari asumsi dan contohnya agar langkah pengembangan berikutnya dapat memeriksanya.
Untuk penjelasan kode, berikan masukan yang perlu ditelusuri dan tanyakan bagaimana fungsi yang disediakan mencapai nilai kembalinya. Untuk penjelasan matematika, definisikan simbol dan asumsi serta nyatakan apakah hasil harus eksak, berupa pendekatan, atau berupa pembuktian. Generasi kode dan penalaran tertulis tidak dengan sendirinya mengompilasi program atau mengeksekusi perhitungan.
Pembuatnya juga mengidentifikasi pembuatan data sintetis dan distilasi sebagai penggunaan keluarga model ini. Tugas teks dapat meminta contoh yang bervariasi dalam format tertentu, dengan mempertahankan aturan yang disediakan. Kesesuaian contoh tersebut untuk pelatihan lebih lanjut merupakan keputusan aplikasi yang terpisah; keluaran teks saja bukan verifikasi mandiri atas kebenarannya.
Format percakapan dan alat
Kartu model memperagakan pesan sistem dan pengguna yang terpisah dengan templat percakapan yang sesuai. Gunakan instruksi sistem untuk peran, nada, dan aturan respons yang berlaku terus, sedangkan permintaan pengguna berisi masalah dan sumber yang sebenarnya. Pertahankan pesan terdahulu yang relevan ketika meminta tindak lanjut yang dibangun dari jawaban sebelumnya.
Llama 3.1 mendukung beberapa format penggunaan alat yang didokumentasikan. Aplikasi menyediakan fungsi dan parameter, model menyiapkan usulan pemanggilan, aplikasi mengeksekusinya dan menambahkan hasilnya ke percakapan. Generasi berikutnya dapat menggunakan hasil tersebut. Contoh singkat pada kartu model secara eksplisit menunjukkan penambahan pemanggilan asisten lalu hasil alat; memilih fungsi berbeda dari menyelesaikan operasinya.
Untuk pencarian, nyatakan informasi yang diperlukan dan definisikan fungsi yang mengembalikannya. Simpan nilai aktual yang dikembalikan bersama pemanggilan asal sebelum meminta penjelasan akhir. Untuk perhitungan, bedakan operasi yang diusulkan model dari hasil yang dikembalikan kalkulator. Format alat native dan representasi yang terlihat pada antarmuka pembungkus harus mempertahankan konvensi terdokumentasinya masing-masing.
Edisi dan batas praktis
Pengaturan generasi 256 token pada kartu yang dibaca merupakan contoh penggunaan, bukan kapasitas keluaran maksimum yang dinyatakan secara mandiri. Konteks 128k berkaitan dengan materi dan percakapan yang dihasilkan dalam rilis yang dikonfigurasi. Jangan menggantinya dengan konteks atau kemampuan visual Llama 4 atau ukuran checkpoint Llama 3.1 lain.
Ini adalah model Instruct hanya teks. Gambar, rekaman, atau video memerlukan konten relevannya disiapkan melalui komponen lain. Penelusuran eksternal, eksekusi program, dan perubahan berkas juga menjadi tanggung jawab aplikasi yang terhubung dengan asisten. Pertahankan edisi 70B Instruct yang tepat dan minta penjelasan terhubung sumber, dokumen yang direvisi, kode, atau teks terstruktur yang dibutuhkan tugas.
POST /v1/chat/completionstexttext| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan meta-llama/llama-3.1-70b-instruct | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan Item minimum: 1 | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan Contoh: system, user, assistant, tool, function Kondisi: Peran ini direpresentasikan secara eksplisit oleh tipe kompatibilitas dalam kode sumber; kumpulan peran model yang tepat tetap khusus untuk tiap model. Bergantung pada model | Bawaan— |
Kolommessages[].content | Jenisstring|content_part[]|null | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_calls | Jenistool_call[] | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_call_id | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: role=tool; gunakan ID yang benar-benar dikembalikan | Bawaan— |
Kolommessages[].name | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].reasoning_content | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: Kirim kembali penalaran yang benar-benar dikembalikan jika model ini menggunakannya | Bawaan— |
Kolommessages[].reasoning_details | Jenisobject|array | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolommax_completion_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Kolomstream_options.include_usage | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtemperature | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtop_p | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomstop | Jenisstring|string[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools | Jenisfunction_tool[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools[].type | Jenisstring | PersyaratanOpsional | Nilai & batasan function Bergantung pada model | Bawaan— |
Kolomtools[].function.name | Jenisstring | PersyaratanWajib | Nilai & batasan Berlaku jika: alat fungsi disediakan | Bawaan— |
Kolomtools[].function.description | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtools[].function.parameters | JenisJSON_schema | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtool_choice | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomparallel_tool_calls | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomresponse_format | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning_effort | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomservice_tier | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolominstructions | Jenisstring | PersyaratanOpsional | Nilai & batasan Kolom kompatibilitas | Bawaan— |
Kolomfunctions | Jenisfunction[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomfunction_call | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomprompt_cache_options | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommodalities | Jenisstring[] | PersyaratanOpsional | Nilai & batasan text | Bawaan— |
Kolomprovider | Jenisobject | PersyaratanOpsional | Nilai & batasan Kondisi: provider.options ditolak pada rute teks Ultra ini | Bawaan— |
Kolomcache_control.ttl | Jenisstring | PersyaratanOpsional | Nilai & batasan Kondisi: 1h ditolak pada lokasi cache prompt yang digunakan | Bawaan— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontrakarray pesan dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 yang sebenarnya dimasukkan sebagai teks apa adanya; ID file tidak disimpulkan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeda dari alat yang dihosting |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Siklus hidup: synchronous_or_streamed
Kirim ID model yang tepat bersama messages.
Panjang konteks bukan batas keluaran.
File teks dapat menyediakan teks apa adanya; masukan gambar/audio/objek file memerlukan pengikatan yang tepat.
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Token konteks, lebih dari | Token konteks, hingga dan termasuk | Biaya |
|---|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Token konteks, lebih dari— | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.00144 / 1K token Keluaran · Token keluaran $0.00144 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiPanjang permintaan · tingkat 1 | Jadwal tarif— | Token konteks, lebih dari0 | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.00144 / 1K token Keluaran · Token keluaran $0.00144 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.1-70b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.1-70b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.1-70b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap alternatif jawaban beserta konten, panggilan alat, dan penalarannya. Dalam SSE, gabungkan delta menurut indeks alternatif jawaban/alat, lalu pertahankan alasan penghentian akhir dan data penggunaan.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomchoices[].index | Jenisinteger |
Kolomchoices[].message.content | Jenisstring|null |
Kolomchoices[].message.tool_calls | Jenistool_call[] |
Kolomchoices[].message.reasoning_content | Jenisstring |
Kolomchoices[].message.reasoning_details | Jenisobject|array |
Kolomchoices[].finish_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra meta-llama/llama-3.1-70b-instruct
Gunakan jalur metode yang ditampilkan di atas.
meta-llama/llama-3.1-70b-instructLlama 3.1 70B Instruct adalah model teks Meta untuk dialog multibahasa, penalaran atas dokumen, dan kode. Rilis 70B yang disetel mengikuti instruksi ini menggunakan grouped-query attention, konteks 128k dari pembuatnya, dan format percakapan pemanggilan alat yang didokumentasikan, dengan keluaran teks dan kode.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Llama 3.1 70B Instruct adalah model teks Meta dengan 70 miliar parameter yang dioptimalkan untuk dialog multibahasa dan permintaan seperti kepada asisten. Model ini merupakan checkpoint yang disetel mengikuti instruksi dalam keluarga yang juga mencakup ukuran 8B dan 405B serta model pralatih terpisah. Model ini menerima teks dan mengembalikan teks multibahasa atau kode; edisi bernama 70B mempertahankan ukuran dan identitasnya sendiri.
Informasi model dan pelatihan
Rilis ini menggunakan arsitektur Transformer autoregresif dengan grouped-query attention. Model yang disetel diselaraskan menggunakan penyetelan lanjutan terawasi dan pembelajaran penguatan dengan umpan balik manusia. Ini adalah tahapan pelatihan untuk perilaku percakapan yang membantu, bukan sakelar runtime bernama untuk beralih antara mode penalaran dan tanpa penalaran yang terpisah.
Pembuatnya mendokumentasikan konteks 128k untuk model teks dan secara resmi mendukung bahasa Inggris, Jerman, Prancis, Italia, Portugis, Hindi, Spanyol, dan Thai. Pelatihannya mencakup kumpulan bahasa lebih luas, yang tidak menjadikan setiap bahasa sama-sama didukung. Tentukan bahasa keluaran, terminologi, dan pembaca sebelum meminta artefak multibahasa.
Korpus prapelatihan keluarga ini dijelaskan berjumlah sekitar lima belas triliun token, dengan batas waktu Desember 2023. Penyetelan lanjutan mencakup kumpulan data instruksi dan lebih dari dua puluh lima juta contoh sintetis. Batas waktu tersebut adalah batas data pelatihan; pertanyaan yang bergantung pada informasi lebih baru atau privat memerlukan informasi itu disertakan dalam tugas atau dikembalikan oleh sumber yang terhubung.
Percakapan seperti asisten dan analisis sumber
Edisi Instruct ditujukan untuk merespons permintaan percakapan, sedangkan versi pralatih adalah fondasi yang dapat diadaptasi untuk tugas generasi lain. Untuk jawaban berbasis sumber, berikan pertanyaan dan kutipan yang menentukan hasil. Beri label pada sumber dan minta bagian atau pernyataan pendukung di samping setiap temuan.
Perbandingan praktis dapat menyertakan dua prosedur dan meminta kondisi yang sama, perbedaan, serta konflik yang belum terselesaikan. Panduan yang dihasilkan dapat mempertahankan urutan asli dan kondisi berlakunya setiap tindakan. Tugas penyuntingan dokumen dapat menentukan audiens, fakta yang harus tetap ada, dan apakah artefak akhir harus berupa kutipan yang direvisi saja atau kutipan beserta penjelasan.
Untuk jawaban lebih panjang, sebutkan bagian yang diperlukan dan tujuan masing-masing. Konteks besar dapat mempertahankan materi terkait dalam satu kesatuan sementara hasil akhirnya tetap berupa matriks atau penjelasan singkat. Identitas sumber dan pertanyaan yang jelas lebih penting daripada sekadar memasukkan setiap dokumen yang tersedia.
Kode dan contoh yang dihasilkan
Keluaran yang didokumentasikan mencakup kode. Untuk usulan implementasi, berikan bahasa, tipe masukan, hasil yang diharapkan, dan antarmuka yang harus tetap kompatibel. Sertakan fragmen yang ada dan deklarasi relevan ketika tugasnya berupa perbaikan. Minta kode secara terpisah dari asumsi dan contohnya agar langkah pengembangan berikutnya dapat memeriksanya.
Untuk penjelasan kode, berikan masukan yang perlu ditelusuri dan tanyakan bagaimana fungsi yang disediakan mencapai nilai kembalinya. Untuk penjelasan matematika, definisikan simbol dan asumsi serta nyatakan apakah hasil harus eksak, berupa pendekatan, atau berupa pembuktian. Generasi kode dan penalaran tertulis tidak dengan sendirinya mengompilasi program atau mengeksekusi perhitungan.
Pembuatnya juga mengidentifikasi pembuatan data sintetis dan distilasi sebagai penggunaan keluarga model ini. Tugas teks dapat meminta contoh yang bervariasi dalam format tertentu, dengan mempertahankan aturan yang disediakan. Kesesuaian contoh tersebut untuk pelatihan lebih lanjut merupakan keputusan aplikasi yang terpisah; keluaran teks saja bukan verifikasi mandiri atas kebenarannya.
Format percakapan dan alat
Kartu model memperagakan pesan sistem dan pengguna yang terpisah dengan templat percakapan yang sesuai. Gunakan instruksi sistem untuk peran, nada, dan aturan respons yang berlaku terus, sedangkan permintaan pengguna berisi masalah dan sumber yang sebenarnya. Pertahankan pesan terdahulu yang relevan ketika meminta tindak lanjut yang dibangun dari jawaban sebelumnya.
Llama 3.1 mendukung beberapa format penggunaan alat yang didokumentasikan. Aplikasi menyediakan fungsi dan parameter, model menyiapkan usulan pemanggilan, aplikasi mengeksekusinya dan menambahkan hasilnya ke percakapan. Generasi berikutnya dapat menggunakan hasil tersebut. Contoh singkat pada kartu model secara eksplisit menunjukkan penambahan pemanggilan asisten lalu hasil alat; memilih fungsi berbeda dari menyelesaikan operasinya.
Untuk pencarian, nyatakan informasi yang diperlukan dan definisikan fungsi yang mengembalikannya. Simpan nilai aktual yang dikembalikan bersama pemanggilan asal sebelum meminta penjelasan akhir. Untuk perhitungan, bedakan operasi yang diusulkan model dari hasil yang dikembalikan kalkulator. Format alat native dan representasi yang terlihat pada antarmuka pembungkus harus mempertahankan konvensi terdokumentasinya masing-masing.
Edisi dan batas praktis
Pengaturan generasi 256 token pada kartu yang dibaca merupakan contoh penggunaan, bukan kapasitas keluaran maksimum yang dinyatakan secara mandiri. Konteks 128k berkaitan dengan materi dan percakapan yang dihasilkan dalam rilis yang dikonfigurasi. Jangan menggantinya dengan konteks atau kemampuan visual Llama 4 atau ukuran checkpoint Llama 3.1 lain.
Ini adalah model Instruct hanya teks. Gambar, rekaman, atau video memerlukan konten relevannya disiapkan melalui komponen lain. Penelusuran eksternal, eksekusi program, dan perubahan berkas juga menjadi tanggung jawab aplikasi yang terhubung dengan asisten. Pertahankan edisi 70B Instruct yang tepat dan minta penjelasan terhubung sumber, dokumen yang direvisi, kode, atau teks terstruktur yang dibutuhkan tugas.
POST /v1/messagestextjson, sse| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan meta-llama/llama-3.1-70b-instruct | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan user, assistant | Bawaan— |
Kolommessages[].content | Jenisstring | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Teks · Teks UTF-8
string messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 yang sebenarnya dan masukkan teksnya ke string masukan atau konten pesan yang ditunjukkan. |
Siklus hidup: synchronous_or_streamed
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Token konteks, lebih dari | Token konteks, hingga dan termasuk | Biaya |
|---|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Token konteks, lebih dari— | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.00144 / 1K token Keluaran · Token keluaran $0.00144 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiPanjang permintaan · tingkat 1 | Jadwal tarif— | Token konteks, lebih dari0 | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.00144 / 1K token Keluaran · Token keluaran $0.00144 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
{\n "model": "meta-llama/llama-3.1-70b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-70b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-70b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan semua blok konten, tanda tangan penalaran, dan ID penggunaan alat yang sebenarnya. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan keluaran.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomid | Jenisstring |
Kolommodel | Jenisstring |
Kolomcontent[] | Jenistext|thinking|tool_use|other content block |
Kolomstop_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra meta-llama/llama-3.1-70b-instruct
Gunakan jalur metode yang ditampilkan di atas.
Contoh teknis dalam bahasa Inggris
Produce a bilingual maintenance notice\n\nWrite a maintenance notice in English and Spanish from these facts: warehouse entrance B closes on Tuesday from 08:00 to 11:00; deliveries must use entrance A; pedestrian access is unchanged. Use three short sentences per language and preserve entrance letters and times. Do not add a date, delay estimate or closure of pedestrian access.Two labelled language blocks with equivalent three-sentence notices.Compare both versions for entrance A/B, Tuesday, the time range and unchanged pedestrian access.