Llama 3.1 70B Instruct ialah model teks 70 bilion parameter Meta yang dioptimumkan untuk dialog berbilang bahasa dan permintaan yang lazim diberikan kepada pembantu. Ini ialah checkpoint ditala arahan dalam keluarga yang turut merangkumi saiz 8B dan 405B serta model pralatih berasingan. Model ini menerima teks dan mengembalikan teks berbilang bahasa atau kod; edisi 70B yang dinamakan mengekalkan saiz dan identitinya sendiri.
Maklumat model dan latihan
Keluaran ini menggunakan seni bina Transformer autoregresif dengan grouped-query attention. Model yang ditala dijajarkan menggunakan penalaan halus terselia dan pembelajaran pengukuhan dengan maklum balas manusia. Ini ialah peringkat latihan untuk tingkah laku perbualan yang membantu, bukannya suis masa jalan yang dinamakan antara mod penaakulan dan tanpa penaakulan yang berasingan.
Pengeluar mendokumenkan konteks 128k untuk model teks dan menyokong secara rasmi bahasa Inggeris, Jerman, Perancis, Itali, Portugis, Hindi, Sepanyol dan Thai. Latihan merangkumi himpunan bahasa yang lebih luas, yang tidak menjadikan setiap bahasa sama tahap sokongannya. Nyatakan bahasa output, istilah dan pembaca sebelum meminta artifak berbilang bahasa.
Korpus pralatihan keluarga diterangkan sebagai kira-kira lima belas trilion token, dengan tarikh akhir Disember 2023. Penalaan halus merangkumi set data arahan dan lebih dua puluh lima juta contoh sintetik. Tarikh akhir itu ialah sempadan data latihan; soalan yang bergantung pada maklumat lebih baharu atau persendirian memerlukan maklumat tersebut dibekalkan dalam tugas atau dikembalikan oleh sumber yang disambungkan.
Sembang seperti pembantu dan analisis sumber
Edisi Instruct ditujukan untuk memberi respons kepada permintaan perbualan, manakala versi pralatih ialah asas yang boleh disesuaikan untuk tugas penjanaan lain. Untuk jawapan berasaskan sumber, berikan soalan dan petikan yang menentukan hasil. Labelkan sumber dan minta bahagian atau pernyataan yang menyokong di sebelah setiap penemuan.
Perbandingan praktikal boleh membekalkan dua prosedur dan meminta syarat bersama, perbezaan dan konflik yang belum diselesaikan. Panduan yang terhasil boleh mengekalkan turutan asal dan syarat yang menentukan pemakaian setiap tindakan. Tugas penyuntingan dokumen boleh menetapkan khalayak, fakta yang mesti kekal dan sama ada artifak akhir perlu berupa petikan yang disemak sahaja atau petikan bersama penjelasan.
Untuk jawapan lebih panjang, namakan bahagian yang diperlukan dan tujuan setiap bahagian. Konteks yang besar boleh mengekalkan bahan berkaitan bersama-sama walaupun hasil akhir tetap berupa matriks atau penjelasan ringkas. Identiti sumber dan soalan yang ditetapkan dengan baik lebih penting daripada sekadar memasukkan setiap dokumen yang tersedia.
Kod dan contoh yang dijana
Output yang didokumenkan merangkumi kod. Untuk cadangan pelaksanaan, bekalkan bahasa, jenis input, hasil yang dijangka dan antara muka yang mesti kekal serasi. Sertakan fragmen sedia ada dan pengisytiharan yang berkaitan apabila tugasnya ialah pembetulan. Minta kod secara berasingan daripada andaian dan contohnya supaya langkah pembangunan seterusnya boleh menyemaknya.
Untuk penjelasan kod, berikan input untuk dijejak dan tanya cara fungsi yang dibekalkan mencapai nilai yang dikembalikan. Untuk penjelasan matematik, takrifkan simbol dan andaian serta nyatakan sama ada hasil perlu tepat, anggaran atau pembuktian. Penjanaan kod dan penaakulan bertulis tidak dengan sendirinya mengkompil program atau melaksanakan pengiraan.
Pengeluar turut mengenal pasti penjanaan data sintetik dan penyulingan sebagai kegunaan keluarga. Tugas teks boleh meminta contoh pelbagai dalam format yang ditetapkan, sambil mengekalkan peraturan yang dibekalkan. Kesesuaian contoh itu untuk latihan lanjut ialah keputusan aplikasi yang berasingan; output teks sahaja bukan pengesahan bebas tentang ketepatannya.
Format perbualan dan alat
Kad menunjukkan mesej system dan user berasingan dengan templat sembang yang sepadan. Gunakan arahan system untuk peranan, nada dan peraturan respons yang berkekalan, manakala permintaan user mengandungi masalah sebenar dan sumber. Kekalkan mesej terdahulu yang berkaitan apabila meminta susulan yang dibina atas jawapan sebelumnya.
Llama 3.1 menyokong pelbagai format penggunaan alat yang didokumenkan. Aplikasi membekalkan fungsi dan parameter, model menyediakan cadangan panggilan, aplikasi melaksanakannya dan menambah hasilnya kepada perbualan. Penjanaan seterusnya boleh menggunakan hasil tersebut. Contoh ringkas pada kad secara jelas menunjukkan penambahan panggilan assistant diikuti hasil tool; pemilihan fungsi berbeza daripada penyelesaian operasinya.
Untuk carian, nyatakan maklumat yang diperlukan dan takrifkan fungsi yang mengembalikannya. Simpan nilai sebenar yang dikembalikan bersama panggilan asal sebelum meminta penjelasan akhir. Untuk pengiraan, bezakan operasi yang dicadangkan model daripada hasil yang dikembalikan oleh kalkulator. Pemformatan alat natif dan perwakilan yang kelihatan dalam antara muka pembalut perlu mengekalkan konvensyen masing-masing yang didokumenkan.
Edisi dan had praktikal
Tetapan penjanaan 256 token dalam kad yang dibaca ialah contoh penggunaan dan bukannya kapasiti output maksimum yang dinyatakan secara bebas. Konteks 128k meliputi bahan dan perbualan yang dijana dalam keluaran terkonfigurasi. Jangan menggantikannya dengan konteks atau keupayaan visual Llama 4 atau saiz checkpoint Llama 3.1 lain.
Ini ialah model Instruct teks sahaja. Imej, rakaman atau video memerlukan kandungan berkaitannya disediakan melalui komponen lain. Pemerolehan maklumat luaran, pelaksanaan program dan perubahan fail juga merupakan tanggungjawab aplikasi yang disambungkan kepada pembantu. Kekalkan edisi 70B Instruct yang tepat dan minta penjelasan yang dikaitkan dengan sumber, dokumen yang disemak, kod atau teks berstruktur yang diperlukan oleh tugas.
", "aboutText": "Llama 3.1 70B Instruct ialah model teks 70 bilion parameter Meta yang dioptimumkan untuk dialog berbilang bahasa dan permintaan yang lazim diberikan kepada pembantu. Ini ialah checkpoint ditala arahan dalam keluarga yang turut merangkumi saiz 8B dan 405B serta model pralatih berasingan. Model ini menerima teks dan mengembalikan teks berbilang bahasa atau kod; edisi 70B yang dinamakan mengekalkan saiz dan identitinya sendiri.\n\nMaklumat model dan latihan\n\nKeluaran ini menggunakan seni bina Transformer autoregresif dengan grouped-query attention. Model yang ditala dijajarkan menggunakan penalaan halus terselia dan pembelajaran pengukuhan dengan maklum balas manusia. Ini ialah peringkat latihan untuk tingkah laku perbualan yang membantu, bukannya suis masa jalan yang dinamakan antara mod penaakulan dan tanpa penaakulan yang berasingan.\n\nPengeluar mendokumenkan konteks 128k untuk model teks dan menyokong secara rasmi bahasa Inggeris, Jerman, Perancis, Itali, Portugis, Hindi, Sepanyol dan Thai. Latihan merangkumi himpunan bahasa yang lebih luas, yang tidak menjadikan setiap bahasa sama tahap sokongannya. Nyatakan bahasa output, istilah dan pembaca sebelum meminta artifak berbilang bahasa.\n\nKorpus pralatihan keluarga diterangkan sebagai kira-kira lima belas trilion token, dengan tarikh akhir Disember 2023. Penalaan halus merangkumi set data arahan dan lebih dua puluh lima juta contoh sintetik. Tarikh akhir itu ialah sempadan data latihan; soalan yang bergantung pada maklumat lebih baharu atau persendirian memerlukan maklumat tersebut dibekalkan dalam tugas atau dikembalikan oleh sumber yang disambungkan.\n\nSembang seperti pembantu dan analisis sumber\n\nEdisi Instruct ditujukan untuk memberi respons kepada permintaan perbualan, manakala versi pralatih ialah asas yang boleh disesuaikan untuk tugas penjanaan lain. Untuk jawapan berasaskan sumber, berikan soalan dan petikan yang menentukan hasil. Labelkan sumber dan minta bahagian atau pernyataan yang menyokong di sebelah setiap penemuan.\n\nPerbandingan praktikal boleh membekalkan dua prosedur dan meminta syarat bersama, perbezaan dan konflik yang belum diselesaikan. Panduan yang terhasil boleh mengekalkan turutan asal dan syarat yang menentukan pemakaian setiap tindakan. Tugas penyuntingan dokumen boleh menetapkan khalayak, fakta yang mesti kekal dan sama ada artifak akhir perlu berupa petikan yang disemak sahaja atau petikan bersama penjelasan.\n\nUntuk jawapan lebih panjang, namakan bahagian yang diperlukan dan tujuan setiap bahagian. Konteks yang besar boleh mengekalkan bahan berkaitan bersama-sama walaupun hasil akhir tetap berupa matriks atau penjelasan ringkas. Identiti sumber dan soalan yang ditetapkan dengan baik lebih penting daripada sekadar memasukkan setiap dokumen yang tersedia.\n\nKod dan contoh yang dijana\n\nOutput yang didokumenkan merangkumi kod. Untuk cadangan pelaksanaan, bekalkan bahasa, jenis input, hasil yang dijangka dan antara muka yang mesti kekal serasi. Sertakan fragmen sedia ada dan pengisytiharan yang berkaitan apabila tugasnya ialah pembetulan. Minta kod secara berasingan daripada andaian dan contohnya supaya langkah pembangunan seterusnya boleh menyemaknya.\n\nUntuk penjelasan kod, berikan input untuk dijejak dan tanya cara fungsi yang dibekalkan mencapai nilai yang dikembalikan. Untuk penjelasan matematik, takrifkan simbol dan andaian serta nyatakan sama ada hasil perlu tepat, anggaran atau pembuktian. Penjanaan kod dan penaakulan bertulis tidak dengan sendirinya mengkompil program atau melaksanakan pengiraan.\n\nPengeluar turut mengenal pasti penjanaan data sintetik dan penyulingan sebagai kegunaan keluarga. Tugas teks boleh meminta contoh pelbagai dalam format yang ditetapkan, sambil mengekalkan peraturan yang dibekalkan. Kesesuaian contoh itu untuk latihan lanjut ialah keputusan aplikasi yang berasingan; output teks sahaja bukan pengesahan bebas tentang ketepatannya.\n\nFormat perbualan dan alat\n\nKad menunjukkan mesej system dan user berasingan dengan templat sembang yang sepadan. Gunakan arahan system untuk peranan, nada dan peraturan respons yang berkekalan, manakala permintaan user mengandungi masalah sebenar dan sumber. Kekalkan mesej terdahulu yang berkaitan apabila meminta susulan yang dibina atas jawapan sebelumnya.\n\nLlama 3.1 menyokong pelbagai format penggunaan alat yang didokumenkan. Aplikasi membekalkan fungsi dan parameter, model menyediakan cadangan panggilan, aplikasi melaksanakannya dan menambah hasilnya kepada perbualan. Penjanaan seterusnya boleh menggunakan hasil tersebut. Contoh ringkas pada kad secara jelas menunjukkan penambahan panggilan assistant diikuti hasil tool; pemilihan fungsi berbeza daripada penyelesaian operasinya.\n\nUntuk carian, nyatakan maklumat yang diperlukan dan takrifkan fungsi yang mengembalikannya. Simpan nilai sebenar yang dikembalikan bersama panggilan asal sebelum meminta penjelasan akhir. Untuk pengiraan, bezakan operasi yang dicadangkan model daripada hasil yang dikembalikan oleh kalkulator. Pemformatan alat natif dan perwakilan yang kelihatan dalam antara muka pembalut perlu mengekalkan konvensyen masing-masing yang didokumenkan.\n\nEdisi dan had praktikal\n\nTetapan penjanaan 256 token dalam kad yang dibaca ialah contoh penggunaan dan bukannya kapasiti output maksimum yang dinyatakan secara bebas. Konteks 128k meliputi bahan dan perbualan yang dijana dalam keluaran terkonfigurasi. Jangan menggantikannya dengan konteks atau keupayaan visual Llama 4 atau saiz checkpoint Llama 3.1 lain.\n\nIni ialah model Instruct teks sahaja. Imej, rakaman atau video memerlukan kandungan berkaitannya disediakan melalui komponen lain. Pemerolehan maklumat luaran, pelaksanaan program dan perubahan fail juga merupakan tanggungjawab aplikasi yang disambungkan kepada pembantu. Kekalkan edisi 70B Instruct yang tepat dan minta penjelasan yang dikaitkan dengan sumber, dokumen yang disemak, kod atau teks berstruktur yang diperlukan oleh tugas.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknikal dalam bahasa Inggeris
Produce a bilingual maintenance notice\n\nWrite a maintenance notice in English and Spanish from these facts: warehouse entrance B closes on Tuesday from 08:00 to 11:00; deliveries must use entrance A; pedestrian access is unchanged. Use three short sentences per language and preserve entrance letters and times. Do not add a date, delay estimate or closure of pedestrian access.Two labelled language blocks with equivalent three-sentence notices.Compare both versions for entrance A/B, Tuesday, the time range and unchanged pedestrian access.meta-llama/llama-3.1-70b-instructLlama 3.1 70B Instruct ialah model teks Meta untuk dialog berbilang bahasa, penaakulan dokumen dan kod. Keluaran 70B ditala arahannya menggunakan grouped-query attention, konteks pengeluar 128k dan format perbualan panggilan alat yang didokumenkan, dengan output teks dan kod.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Llama 3.1 70B Instruct ialah model teks 70 bilion parameter Meta yang dioptimumkan untuk dialog berbilang bahasa dan permintaan yang lazim diberikan kepada pembantu. Ini ialah checkpoint ditala arahan dalam keluarga yang turut merangkumi saiz 8B dan 405B serta model pralatih berasingan. Model ini menerima teks dan mengembalikan teks berbilang bahasa atau kod; edisi 70B yang dinamakan mengekalkan saiz dan identitinya sendiri.
Maklumat model dan latihan
Keluaran ini menggunakan seni bina Transformer autoregresif dengan grouped-query attention. Model yang ditala dijajarkan menggunakan penalaan halus terselia dan pembelajaran pengukuhan dengan maklum balas manusia. Ini ialah peringkat latihan untuk tingkah laku perbualan yang membantu, bukannya suis masa jalan yang dinamakan antara mod penaakulan dan tanpa penaakulan yang berasingan.
Pengeluar mendokumenkan konteks 128k untuk model teks dan menyokong secara rasmi bahasa Inggeris, Jerman, Perancis, Itali, Portugis, Hindi, Sepanyol dan Thai. Latihan merangkumi himpunan bahasa yang lebih luas, yang tidak menjadikan setiap bahasa sama tahap sokongannya. Nyatakan bahasa output, istilah dan pembaca sebelum meminta artifak berbilang bahasa.
Korpus pralatihan keluarga diterangkan sebagai kira-kira lima belas trilion token, dengan tarikh akhir Disember 2023. Penalaan halus merangkumi set data arahan dan lebih dua puluh lima juta contoh sintetik. Tarikh akhir itu ialah sempadan data latihan; soalan yang bergantung pada maklumat lebih baharu atau persendirian memerlukan maklumat tersebut dibekalkan dalam tugas atau dikembalikan oleh sumber yang disambungkan.
Sembang seperti pembantu dan analisis sumber
Edisi Instruct ditujukan untuk memberi respons kepada permintaan perbualan, manakala versi pralatih ialah asas yang boleh disesuaikan untuk tugas penjanaan lain. Untuk jawapan berasaskan sumber, berikan soalan dan petikan yang menentukan hasil. Labelkan sumber dan minta bahagian atau pernyataan yang menyokong di sebelah setiap penemuan.
Perbandingan praktikal boleh membekalkan dua prosedur dan meminta syarat bersama, perbezaan dan konflik yang belum diselesaikan. Panduan yang terhasil boleh mengekalkan turutan asal dan syarat yang menentukan pemakaian setiap tindakan. Tugas penyuntingan dokumen boleh menetapkan khalayak, fakta yang mesti kekal dan sama ada artifak akhir perlu berupa petikan yang disemak sahaja atau petikan bersama penjelasan.
Untuk jawapan lebih panjang, namakan bahagian yang diperlukan dan tujuan setiap bahagian. Konteks yang besar boleh mengekalkan bahan berkaitan bersama-sama walaupun hasil akhir tetap berupa matriks atau penjelasan ringkas. Identiti sumber dan soalan yang ditetapkan dengan baik lebih penting daripada sekadar memasukkan setiap dokumen yang tersedia.
Kod dan contoh yang dijana
Output yang didokumenkan merangkumi kod. Untuk cadangan pelaksanaan, bekalkan bahasa, jenis input, hasil yang dijangka dan antara muka yang mesti kekal serasi. Sertakan fragmen sedia ada dan pengisytiharan yang berkaitan apabila tugasnya ialah pembetulan. Minta kod secara berasingan daripada andaian dan contohnya supaya langkah pembangunan seterusnya boleh menyemaknya.
Untuk penjelasan kod, berikan input untuk dijejak dan tanya cara fungsi yang dibekalkan mencapai nilai yang dikembalikan. Untuk penjelasan matematik, takrifkan simbol dan andaian serta nyatakan sama ada hasil perlu tepat, anggaran atau pembuktian. Penjanaan kod dan penaakulan bertulis tidak dengan sendirinya mengkompil program atau melaksanakan pengiraan.
Pengeluar turut mengenal pasti penjanaan data sintetik dan penyulingan sebagai kegunaan keluarga. Tugas teks boleh meminta contoh pelbagai dalam format yang ditetapkan, sambil mengekalkan peraturan yang dibekalkan. Kesesuaian contoh itu untuk latihan lanjut ialah keputusan aplikasi yang berasingan; output teks sahaja bukan pengesahan bebas tentang ketepatannya.
Format perbualan dan alat
Kad menunjukkan mesej system dan user berasingan dengan templat sembang yang sepadan. Gunakan arahan system untuk peranan, nada dan peraturan respons yang berkekalan, manakala permintaan user mengandungi masalah sebenar dan sumber. Kekalkan mesej terdahulu yang berkaitan apabila meminta susulan yang dibina atas jawapan sebelumnya.
Llama 3.1 menyokong pelbagai format penggunaan alat yang didokumenkan. Aplikasi membekalkan fungsi dan parameter, model menyediakan cadangan panggilan, aplikasi melaksanakannya dan menambah hasilnya kepada perbualan. Penjanaan seterusnya boleh menggunakan hasil tersebut. Contoh ringkas pada kad secara jelas menunjukkan penambahan panggilan assistant diikuti hasil tool; pemilihan fungsi berbeza daripada penyelesaian operasinya.
Untuk carian, nyatakan maklumat yang diperlukan dan takrifkan fungsi yang mengembalikannya. Simpan nilai sebenar yang dikembalikan bersama panggilan asal sebelum meminta penjelasan akhir. Untuk pengiraan, bezakan operasi yang dicadangkan model daripada hasil yang dikembalikan oleh kalkulator. Pemformatan alat natif dan perwakilan yang kelihatan dalam antara muka pembalut perlu mengekalkan konvensyen masing-masing yang didokumenkan.
Edisi dan had praktikal
Tetapan penjanaan 256 token dalam kad yang dibaca ialah contoh penggunaan dan bukannya kapasiti output maksimum yang dinyatakan secara bebas. Konteks 128k meliputi bahan dan perbualan yang dijana dalam keluaran terkonfigurasi. Jangan menggantikannya dengan konteks atau keupayaan visual Llama 4 atau saiz checkpoint Llama 3.1 lain.
Ini ialah model Instruct teks sahaja. Imej, rakaman atau video memerlukan kandungan berkaitannya disediakan melalui komponen lain. Pemerolehan maklumat luaran, pelaksanaan program dan perubahan fail juga merupakan tanggungjawab aplikasi yang disambungkan kepada pembantu. Kekalkan edisi 70B Instruct yang tepat dan minta penjelasan yang dikaitkan dengan sumber, dokumen yang disemak, kod atau teks berstruktur yang diperlukan oleh tugas.
POST /v1/chat/completionstexttext| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had meta-llama/llama-3.1-70b-instruct | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had Item minimum: 1 | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had Contoh: system, user, assistant, tool, function Syarat: Peranan ini diwakili secara eksplisit oleh jenis keserasian dalam kod sumber; set peranan model yang tepat kekal khusus untuk setiap model. Bergantung pada model | Lalai— |
Medanmessages[].content | Jenisstring|content_part[]|null | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_calls | Jenistool_call[] | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_call_id | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: role=tool; gunakan ID sebenar yang dipulangkan | Lalai— |
Medanmessages[].name | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].reasoning_content | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: Hantar semula penaakulan sebenar yang dipulangkan apabila model ini menggunakannya | Lalai— |
Medanmessages[].reasoning_details | Jenisobject|array | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanmax_completion_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Medanstream_options.include_usage | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantemperature | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantop_p | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanstop | Jenisstring|string[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools | Jenisfunction_tool[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools[].type | Jenisstring | KeperluanPilihan | Nilai & had function Bergantung pada model | Lalai— |
Medantools[].function.name | Jenisstring | KeperluanDiperlukan | Nilai & had Terpakai apabila: alat fungsi dibekalkan | Lalai— |
Medantools[].function.description | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medantools[].function.parameters | JenisJSON_schema | KeperluanPilihan | Nilai & had | Lalai— |
Medantool_choice | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanparallel_tool_calls | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanresponse_format | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning_effort | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanservice_tier | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medaninstructions | Jenisstring | KeperluanPilihan | Nilai & had Medan keserasian | Lalai— |
Medanfunctions | Jenisfunction[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanfunction_call | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanprompt_cache_options | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmodalities | Jenisstring[] | KeperluanPilihan | Nilai & had text | Lalai— |
Medanprovider | Jenisobject | KeperluanPilihan | Nilai & had Syarat: provider.options ditolak pada laluan teks Ultra ini | Lalai— |
Medancache_control.ttl | Jenisstring | KeperluanPilihan | Nilai & had Syarat: 1h ditolak pada lokasi cache prompt yang digunakan | Lalai— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontraktatasusunan mesej dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 sebenar dimasukkan sebagai teks literal; ID fail tidak diandaikan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeza daripada alat yang dihoskan |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Kitar hayat: synchronous_or_streamed
Hantar ID model yang tepat bersama messages.
Panjang konteks bukan had output.
Fail teks boleh membekalkan teks literal; input imej/audio/objek fail memerlukan pengikatan tepat.
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.00144 / 1K token Output · Token output $0.00144 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.00144 / 1K token Output · Token output $0.00144 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.1-70b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.1-70b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.1-70b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan setiap pilihan jawapan bersama kandungan, panggilan alat dan penaakulannya. Dalam SSE, gabungkan delta mengikut indeks pilihan jawapan/alat dan kekalkan sebab penamatan akhir serta data penggunaan.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanchoices[].index | Jenisinteger |
Medanchoices[].message.content | Jenisstring|null |
Medanchoices[].message.tool_calls | Jenistool_call[] |
Medanchoices[].message.reasoning_content | Jenisstring |
Medanchoices[].message.reasoning_details | Jenisobject|array |
Medanchoices[].finish_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra meta-llama/llama-3.1-70b-instruct
Gunakan laluan kaedah yang dipaparkan di atas.
meta-llama/llama-3.1-70b-instructLlama 3.1 70B Instruct ialah model teks Meta untuk dialog berbilang bahasa, penaakulan dokumen dan kod. Keluaran 70B ditala arahannya menggunakan grouped-query attention, konteks pengeluar 128k dan format perbualan panggilan alat yang didokumenkan, dengan output teks dan kod.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Llama 3.1 70B Instruct ialah model teks 70 bilion parameter Meta yang dioptimumkan untuk dialog berbilang bahasa dan permintaan yang lazim diberikan kepada pembantu. Ini ialah checkpoint ditala arahan dalam keluarga yang turut merangkumi saiz 8B dan 405B serta model pralatih berasingan. Model ini menerima teks dan mengembalikan teks berbilang bahasa atau kod; edisi 70B yang dinamakan mengekalkan saiz dan identitinya sendiri.
Maklumat model dan latihan
Keluaran ini menggunakan seni bina Transformer autoregresif dengan grouped-query attention. Model yang ditala dijajarkan menggunakan penalaan halus terselia dan pembelajaran pengukuhan dengan maklum balas manusia. Ini ialah peringkat latihan untuk tingkah laku perbualan yang membantu, bukannya suis masa jalan yang dinamakan antara mod penaakulan dan tanpa penaakulan yang berasingan.
Pengeluar mendokumenkan konteks 128k untuk model teks dan menyokong secara rasmi bahasa Inggeris, Jerman, Perancis, Itali, Portugis, Hindi, Sepanyol dan Thai. Latihan merangkumi himpunan bahasa yang lebih luas, yang tidak menjadikan setiap bahasa sama tahap sokongannya. Nyatakan bahasa output, istilah dan pembaca sebelum meminta artifak berbilang bahasa.
Korpus pralatihan keluarga diterangkan sebagai kira-kira lima belas trilion token, dengan tarikh akhir Disember 2023. Penalaan halus merangkumi set data arahan dan lebih dua puluh lima juta contoh sintetik. Tarikh akhir itu ialah sempadan data latihan; soalan yang bergantung pada maklumat lebih baharu atau persendirian memerlukan maklumat tersebut dibekalkan dalam tugas atau dikembalikan oleh sumber yang disambungkan.
Sembang seperti pembantu dan analisis sumber
Edisi Instruct ditujukan untuk memberi respons kepada permintaan perbualan, manakala versi pralatih ialah asas yang boleh disesuaikan untuk tugas penjanaan lain. Untuk jawapan berasaskan sumber, berikan soalan dan petikan yang menentukan hasil. Labelkan sumber dan minta bahagian atau pernyataan yang menyokong di sebelah setiap penemuan.
Perbandingan praktikal boleh membekalkan dua prosedur dan meminta syarat bersama, perbezaan dan konflik yang belum diselesaikan. Panduan yang terhasil boleh mengekalkan turutan asal dan syarat yang menentukan pemakaian setiap tindakan. Tugas penyuntingan dokumen boleh menetapkan khalayak, fakta yang mesti kekal dan sama ada artifak akhir perlu berupa petikan yang disemak sahaja atau petikan bersama penjelasan.
Untuk jawapan lebih panjang, namakan bahagian yang diperlukan dan tujuan setiap bahagian. Konteks yang besar boleh mengekalkan bahan berkaitan bersama-sama walaupun hasil akhir tetap berupa matriks atau penjelasan ringkas. Identiti sumber dan soalan yang ditetapkan dengan baik lebih penting daripada sekadar memasukkan setiap dokumen yang tersedia.
Kod dan contoh yang dijana
Output yang didokumenkan merangkumi kod. Untuk cadangan pelaksanaan, bekalkan bahasa, jenis input, hasil yang dijangka dan antara muka yang mesti kekal serasi. Sertakan fragmen sedia ada dan pengisytiharan yang berkaitan apabila tugasnya ialah pembetulan. Minta kod secara berasingan daripada andaian dan contohnya supaya langkah pembangunan seterusnya boleh menyemaknya.
Untuk penjelasan kod, berikan input untuk dijejak dan tanya cara fungsi yang dibekalkan mencapai nilai yang dikembalikan. Untuk penjelasan matematik, takrifkan simbol dan andaian serta nyatakan sama ada hasil perlu tepat, anggaran atau pembuktian. Penjanaan kod dan penaakulan bertulis tidak dengan sendirinya mengkompil program atau melaksanakan pengiraan.
Pengeluar turut mengenal pasti penjanaan data sintetik dan penyulingan sebagai kegunaan keluarga. Tugas teks boleh meminta contoh pelbagai dalam format yang ditetapkan, sambil mengekalkan peraturan yang dibekalkan. Kesesuaian contoh itu untuk latihan lanjut ialah keputusan aplikasi yang berasingan; output teks sahaja bukan pengesahan bebas tentang ketepatannya.
Format perbualan dan alat
Kad menunjukkan mesej system dan user berasingan dengan templat sembang yang sepadan. Gunakan arahan system untuk peranan, nada dan peraturan respons yang berkekalan, manakala permintaan user mengandungi masalah sebenar dan sumber. Kekalkan mesej terdahulu yang berkaitan apabila meminta susulan yang dibina atas jawapan sebelumnya.
Llama 3.1 menyokong pelbagai format penggunaan alat yang didokumenkan. Aplikasi membekalkan fungsi dan parameter, model menyediakan cadangan panggilan, aplikasi melaksanakannya dan menambah hasilnya kepada perbualan. Penjanaan seterusnya boleh menggunakan hasil tersebut. Contoh ringkas pada kad secara jelas menunjukkan penambahan panggilan assistant diikuti hasil tool; pemilihan fungsi berbeza daripada penyelesaian operasinya.
Untuk carian, nyatakan maklumat yang diperlukan dan takrifkan fungsi yang mengembalikannya. Simpan nilai sebenar yang dikembalikan bersama panggilan asal sebelum meminta penjelasan akhir. Untuk pengiraan, bezakan operasi yang dicadangkan model daripada hasil yang dikembalikan oleh kalkulator. Pemformatan alat natif dan perwakilan yang kelihatan dalam antara muka pembalut perlu mengekalkan konvensyen masing-masing yang didokumenkan.
Edisi dan had praktikal
Tetapan penjanaan 256 token dalam kad yang dibaca ialah contoh penggunaan dan bukannya kapasiti output maksimum yang dinyatakan secara bebas. Konteks 128k meliputi bahan dan perbualan yang dijana dalam keluaran terkonfigurasi. Jangan menggantikannya dengan konteks atau keupayaan visual Llama 4 atau saiz checkpoint Llama 3.1 lain.
Ini ialah model Instruct teks sahaja. Imej, rakaman atau video memerlukan kandungan berkaitannya disediakan melalui komponen lain. Pemerolehan maklumat luaran, pelaksanaan program dan perubahan fail juga merupakan tanggungjawab aplikasi yang disambungkan kepada pembantu. Kekalkan edisi 70B Instruct yang tepat dan minta penjelasan yang dikaitkan dengan sumber, dokumen yang disemak, kod atau teks berstruktur yang diperlukan oleh tugas.
POST /v1/messagestextjson, sse| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had meta-llama/llama-3.1-70b-instruct | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had user, assistant | Lalai— |
Medanmessages[].content | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Teks · Teks UTF-8
rentetan messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 sebenar dan letakkan teksnya dalam rentetan input atau kandungan mesej yang ditunjukkan. |
Kitar hayat: synchronous_or_streamed
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.00144 / 1K token Output · Token output $0.00144 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.00144 / 1K token Output · Token output $0.00144 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
{\n "model": "meta-llama/llama-3.1-70b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-70b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-70b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan semua blok kandungan, tandatangan penaakulan dan ID penggunaan alat sebenar. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan output.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanid | Jenisstring |
Medanmodel | Jenisstring |
Medancontent[] | Jenistext|thinking|tool_use|other content block |
Medanstop_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra meta-llama/llama-3.1-70b-instruct
Gunakan laluan kaedah yang dipaparkan di atas.
Contoh teknikal dalam bahasa Inggeris
Produce a bilingual maintenance notice\n\nWrite a maintenance notice in English and Spanish from these facts: warehouse entrance B closes on Tuesday from 08:00 to 11:00; deliveries must use entrance A; pedestrian access is unchanged. Use three short sentences per language and preserve entrance letters and times. Do not add a date, delay estimate or closure of pedestrian access.Two labelled language blocks with equivalent three-sentence notices.Compare both versions for entrance A/B, Tuesday, the time range and unchanged pedestrian access.