Llama 4 Maverick Instruct adalah model multimodal bawaan Meta untuk percakapan bergaya asisten dan penalaran visual. Model ini menerima teks multibahasa dan gambar serta menghasilkan teks multibahasa atau kode. Arsitektur mixture-of-experts-nya menggunakan fusi awal, yang menggabungkan informasi visual dan tekstual di dalam model, alih-alih memperlakukan gambar sebagai deskripsi tidak terkait yang disediakan asisten teks terpisah.
Informasi model dan konteks
Pembuatnya mencantumkan 128 pakar, 17 miliar parameter aktif, dan total 400 miliar parameter untuk Maverick. Angka ini berbeda dari konfigurasi Scout dengan 16 pakar dan total 109B, meskipun keduanya memiliki label ukuran aktif 17B. Nama Instruct mengidentifikasi checkpoint yang berorientasi asisten, bukan model Maverick pralatih.
Kartu model mendokumentasikan jendela konteks 1M untuk Maverick. Gunakan konteks untuk mempertahankan kutipan, gambar, percakapan, dan jawaban yang diminta yang relevan secara bersama. Kumpulan sumber yang besar tetap memerlukan pertanyaan dan artefak yang terdefinisi. Beri label dokumen sumber dan gambar serta mintalah lokasi yang mendukung setiap temuan yang diekstrak, alih-alih meminta ringkasan tanpa arah atas semua bahan.
Bahasa yang didukung adalah Arab, Inggris, Prancis, Jerman, Hindi, Indonesia, Italia, Portugis, Spanyol, Tagalog, Thai, dan Vietnam. Pembuatnya membedakan dua belas bahasa yang didukung ini dari kumpulan lebih luas, sekitar dua ratus bahasa, yang digunakan dalam prapelatihan. Kehadiran suatu bahasa dalam pelatihan tidak boleh diubah menjadi janji kemampuan yang setara untuk setiap bahasa.
Tugas percakapan, visual, dan kode
Penggunaan visual yang dimaksud dalam kartu model mencakup pengenalan, penalaran gambar, pembuatan deskripsi, serta menjawab pertanyaan umum tentang gambar. Untuk foto, mintalah model mengidentifikasi objek atau hubungan yang relevan dengan tugas. Untuk bagan, mintalah perbandingan antara seri yang disebutkan, dengan sumbu dan satuan tetap dipertahankan. Untuk diagram, tanyakan koneksi berlabel mana yang mendukung persyaratan yang diberikan.
Untuk perbandingan beberapa gambar, identifikasi peran setiap gambar dan mintalah kriteria yang sama untuk semuanya. Misalnya, berikan desain asli dan revisinya, lalu mintalah kecocokan yang terlihat, perbedaan, dan detail yang tidak dapat dibuktikan gambar. Pisahkan pengamatan dari kesimpulan yang bergantung pada teks pendamping. Ini memudahkan pemeriksaan keluaran terhadap sumber aktual.
Pembuatnya melaporkan pengujian pemahaman gambar dengan hingga lima gambar masukan. Itu adalah cakupan pengujian yang didokumentasikan, bukan batas maksimum keras jumlah gambar tanpa syarat. Pertahankan detail yang diperlukan untuk pertanyaan dan urutan gambar. Menambahkan banyak gambar yang tidak terkait tidak dengan sendirinya menentukan apa yang perlu dibandingkan.
Untuk tugas pemrograman, berikan persyaratan, sumber yang relevan, dan perilaku yang diharapkan. Mintalah usulan implementasi secara terpisah dari asumsi dan contohnya. Tangkapan layar dapat memberikan persyaratan visual, sedangkan kondisi tekstual memberikan perilaku yang tidak dapat ditunjukkan tangkapan layar. Kode yang dihasilkan merupakan artefak teks; menjalankannya, memeriksa antarmuka yang dirender, atau menerapkannya ke repositori memerlukan lingkungan yang terhubung.
Persiapan percakapan dan pelatihan
Kartu model mendemonstrasikan processor dan templat percakapan yang cocok dengan dua gambar dan pertanyaan perbandingan tertulis. Pertahankan peran percakapan dan hubungan gambar-teks secara jelas. Instruksi sistem dapat menentukan audiens, nada, dan struktur respons, sedangkan pesan pengguna memberikan tugas dan bukti aktual. Pembuatnya menjelaskan peningkatan pascapelatihan pada kemampuan diarahkan oleh prompt sistem dan pemformatan percakapan.
Maverick menjalani prapelatihan pada sekitar 22 triliun token data multimodal, dengan batas waktu data prapelatihan yang dinyatakan pada Agustus 2024. Ini merupakan batas data pelatihan statis, bukan akses langsung ke informasi terkini. Ketika pertanyaan bergantung pada bahan yang lebih baru atau privat, berikan bahan tersebut sebagai konteks sumber atau melalui operasi pengambilan informasi yang terhubung secara terpisah.
Rilisnya mencakup bobot BF16 dan bobot FP8 yang dikuantisasi secara terpisah. Pilihan presisi tersebut tidak menciptakan modalitas masukan lain atau memberikan konteks 10M Scout kepada Maverick. Pertahankan checkpoint Instruct yang tepat dan konfigurasinya ketika membandingkan tugas berulang atau deployment turunannya.
Perancangan hasil praktis
Tugas gambar dokumen dapat meminta pengenal sumber, pernyataan yang terlihat, nilai yang diekstrak, dan interpretasi sebagai kolom terpisah. Penjelasan percakapan dapat mempertahankan istilah asli dan menyesuaikan prosa dengan bahasa pembaca yang didukung. Permintaan pemrograman dapat mengembalikan fragmen yang direvisi serta contoh yang membedakan perilaku yang dimaksudkan.
Tentukan bagaimana hasil akhir akan digunakan sebelum memberikan bahan. Deskripsi singkat, tabel perbandingan, dan program usulan menyelesaikan tugas yang berbeda meskipun berbagi gambar yang sama. Kemampuan visual dan bahasa model menyediakan interpretasi serta teks; pengambilan informasi eksternal, eksekusi, atau pembuatan berkas berasal dari komponen aplikasi.
Batas khusus
Masukan yang didokumentasikan di sini adalah teks dan gambar, dengan keluaran teks dan kode. Pemahaman audio atau video, pembuatan suara, dan kontrol upaya penalaran bernama milik Muse Spark tidak boleh dilekatkan pada edisi Maverick ini. Llama Guard juga merupakan pengklasifikasi yang dilatih secara terpisah, bukan keluaran pengklasifikasi otomatis dari jawaban Maverick.
Contoh generasi 256 token dalam kartu model merupakan contoh pengaturan, dan sumber yang dibaca tidak menetapkan maksimum keras token keluaran yang terpisah di luar spesifikasi konteks model. Pertahankan identitas Maverick, cakupan bahasa yang didukung, serta artefak akhir dengan rujukan sumber secara jelas, alih-alih meminjam batas atau mode dari rilis Llama lainnya.
", "aboutText": "Llama 4 Maverick Instruct adalah model multimodal bawaan Meta untuk percakapan bergaya asisten dan penalaran visual. Model ini menerima teks multibahasa dan gambar serta menghasilkan teks multibahasa atau kode. Arsitektur mixture-of-experts-nya menggunakan fusi awal, yang menggabungkan informasi visual dan tekstual di dalam model, alih-alih memperlakukan gambar sebagai deskripsi tidak terkait yang disediakan asisten teks terpisah.\n\nInformasi model dan konteks\n\nPembuatnya mencantumkan 128 pakar, 17 miliar parameter aktif, dan total 400 miliar parameter untuk Maverick. Angka ini berbeda dari konfigurasi Scout dengan 16 pakar dan total 109B, meskipun keduanya memiliki label ukuran aktif 17B. Nama Instruct mengidentifikasi checkpoint yang berorientasi asisten, bukan model Maverick pralatih.\n\nKartu model mendokumentasikan jendela konteks 1M untuk Maverick. Gunakan konteks untuk mempertahankan kutipan, gambar, percakapan, dan jawaban yang diminta yang relevan secara bersama. Kumpulan sumber yang besar tetap memerlukan pertanyaan dan artefak yang terdefinisi. Beri label dokumen sumber dan gambar serta mintalah lokasi yang mendukung setiap temuan yang diekstrak, alih-alih meminta ringkasan tanpa arah atas semua bahan.\n\nBahasa yang didukung adalah Arab, Inggris, Prancis, Jerman, Hindi, Indonesia, Italia, Portugis, Spanyol, Tagalog, Thai, dan Vietnam. Pembuatnya membedakan dua belas bahasa yang didukung ini dari kumpulan lebih luas, sekitar dua ratus bahasa, yang digunakan dalam prapelatihan. Kehadiran suatu bahasa dalam pelatihan tidak boleh diubah menjadi janji kemampuan yang setara untuk setiap bahasa.\n\nTugas percakapan, visual, dan kode\n\nPenggunaan visual yang dimaksud dalam kartu model mencakup pengenalan, penalaran gambar, pembuatan deskripsi, serta menjawab pertanyaan umum tentang gambar. Untuk foto, mintalah model mengidentifikasi objek atau hubungan yang relevan dengan tugas. Untuk bagan, mintalah perbandingan antara seri yang disebutkan, dengan sumbu dan satuan tetap dipertahankan. Untuk diagram, tanyakan koneksi berlabel mana yang mendukung persyaratan yang diberikan.\n\nUntuk perbandingan beberapa gambar, identifikasi peran setiap gambar dan mintalah kriteria yang sama untuk semuanya. Misalnya, berikan desain asli dan revisinya, lalu mintalah kecocokan yang terlihat, perbedaan, dan detail yang tidak dapat dibuktikan gambar. Pisahkan pengamatan dari kesimpulan yang bergantung pada teks pendamping. Ini memudahkan pemeriksaan keluaran terhadap sumber aktual.\n\nPembuatnya melaporkan pengujian pemahaman gambar dengan hingga lima gambar masukan. Itu adalah cakupan pengujian yang didokumentasikan, bukan batas maksimum keras jumlah gambar tanpa syarat. Pertahankan detail yang diperlukan untuk pertanyaan dan urutan gambar. Menambahkan banyak gambar yang tidak terkait tidak dengan sendirinya menentukan apa yang perlu dibandingkan.\n\nUntuk tugas pemrograman, berikan persyaratan, sumber yang relevan, dan perilaku yang diharapkan. Mintalah usulan implementasi secara terpisah dari asumsi dan contohnya. Tangkapan layar dapat memberikan persyaratan visual, sedangkan kondisi tekstual memberikan perilaku yang tidak dapat ditunjukkan tangkapan layar. Kode yang dihasilkan merupakan artefak teks; menjalankannya, memeriksa antarmuka yang dirender, atau menerapkannya ke repositori memerlukan lingkungan yang terhubung.\n\nPersiapan percakapan dan pelatihan\n\nKartu model mendemonstrasikan processor dan templat percakapan yang cocok dengan dua gambar dan pertanyaan perbandingan tertulis. Pertahankan peran percakapan dan hubungan gambar-teks secara jelas. Instruksi sistem dapat menentukan audiens, nada, dan struktur respons, sedangkan pesan pengguna memberikan tugas dan bukti aktual. Pembuatnya menjelaskan peningkatan pascapelatihan pada kemampuan diarahkan oleh prompt sistem dan pemformatan percakapan.\n\nMaverick menjalani prapelatihan pada sekitar 22 triliun token data multimodal, dengan batas waktu data prapelatihan yang dinyatakan pada Agustus 2024. Ini merupakan batas data pelatihan statis, bukan akses langsung ke informasi terkini. Ketika pertanyaan bergantung pada bahan yang lebih baru atau privat, berikan bahan tersebut sebagai konteks sumber atau melalui operasi pengambilan informasi yang terhubung secara terpisah.\n\nRilisnya mencakup bobot BF16 dan bobot FP8 yang dikuantisasi secara terpisah. Pilihan presisi tersebut tidak menciptakan modalitas masukan lain atau memberikan konteks 10M Scout kepada Maverick. Pertahankan checkpoint Instruct yang tepat dan konfigurasinya ketika membandingkan tugas berulang atau deployment turunannya.\n\nPerancangan hasil praktis\n\nTugas gambar dokumen dapat meminta pengenal sumber, pernyataan yang terlihat, nilai yang diekstrak, dan interpretasi sebagai kolom terpisah. Penjelasan percakapan dapat mempertahankan istilah asli dan menyesuaikan prosa dengan bahasa pembaca yang didukung. Permintaan pemrograman dapat mengembalikan fragmen yang direvisi serta contoh yang membedakan perilaku yang dimaksudkan.\n\nTentukan bagaimana hasil akhir akan digunakan sebelum memberikan bahan. Deskripsi singkat, tabel perbandingan, dan program usulan menyelesaikan tugas yang berbeda meskipun berbagi gambar yang sama. Kemampuan visual dan bahasa model menyediakan interpretasi serta teks; pengambilan informasi eksternal, eksekusi, atau pembuatan berkas berasal dari komponen aplikasi.\n\nBatas khusus\n\nMasukan yang didokumentasikan di sini adalah teks dan gambar, dengan keluaran teks dan kode. Pemahaman audio atau video, pembuatan suara, dan kontrol upaya penalaran bernama milik Muse Spark tidak boleh dilekatkan pada edisi Maverick ini. Llama Guard juga merupakan pengklasifikasi yang dilatih secara terpisah, bukan keluaran pengklasifikasi otomatis dari jawaban Maverick.\n\nContoh generasi 256 token dalam kartu model merupakan contoh pengaturan, dan sumber yang dibaca tidak menetapkan maksimum keras token keluaran yang terpisah di luar spesifikasi konteks model. Pertahankan identitas Maverick, cakupan bahasa yang didukung, serta artefak akhir dengan rujukan sumber secara jelas, alih-alih meminjam batas atau mode dari rilis Llama lainnya.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknis dalam bahasa Inggris
Explain a return policy in Spanish\n\nExplain this policy in Spanish to a customer, keeping product code ZX-14 unchanged: 'Unused ZX-14 items may be returned within 14 days of delivery. Personalized items are excluded. A purchase receipt is required.' Use three short bullets and retain the distinction between ordinary and personalized items. Base the answer only on this supplied policy.Three Spanish policy bullets retaining the code, time trigger, exclusion and receipt requirement.ZX-14 must stay exact, and the exception for personalized items must not disappear.llama-4-maverickLlama 4 Maverick adalah model Instruct bawaan Meta untuk teks dan gambar, dengan 128 pakar, 17B parameter aktif, dan total 400B parameter. Pembuatnya mendokumentasikan konteks 1M, keluaran teks/kode multibahasa, pengenalan visual, pembuatan deskripsi gambar, serta pertanyaan tentang gambar dalam rilis yang berbeda dari Scout.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Llama 4 Maverick Instruct adalah model multimodal bawaan Meta untuk percakapan bergaya asisten dan penalaran visual. Model ini menerima teks multibahasa dan gambar serta menghasilkan teks multibahasa atau kode. Arsitektur mixture-of-experts-nya menggunakan fusi awal, yang menggabungkan informasi visual dan tekstual di dalam model, alih-alih memperlakukan gambar sebagai deskripsi tidak terkait yang disediakan asisten teks terpisah.
Informasi model dan konteks
Pembuatnya mencantumkan 128 pakar, 17 miliar parameter aktif, dan total 400 miliar parameter untuk Maverick. Angka ini berbeda dari konfigurasi Scout dengan 16 pakar dan total 109B, meskipun keduanya memiliki label ukuran aktif 17B. Nama Instruct mengidentifikasi checkpoint yang berorientasi asisten, bukan model Maverick pralatih.
Kartu model mendokumentasikan jendela konteks 1M untuk Maverick. Gunakan konteks untuk mempertahankan kutipan, gambar, percakapan, dan jawaban yang diminta yang relevan secara bersama. Kumpulan sumber yang besar tetap memerlukan pertanyaan dan artefak yang terdefinisi. Beri label dokumen sumber dan gambar serta mintalah lokasi yang mendukung setiap temuan yang diekstrak, alih-alih meminta ringkasan tanpa arah atas semua bahan.
Bahasa yang didukung adalah Arab, Inggris, Prancis, Jerman, Hindi, Indonesia, Italia, Portugis, Spanyol, Tagalog, Thai, dan Vietnam. Pembuatnya membedakan dua belas bahasa yang didukung ini dari kumpulan lebih luas, sekitar dua ratus bahasa, yang digunakan dalam prapelatihan. Kehadiran suatu bahasa dalam pelatihan tidak boleh diubah menjadi janji kemampuan yang setara untuk setiap bahasa.
Tugas percakapan, visual, dan kode
Penggunaan visual yang dimaksud dalam kartu model mencakup pengenalan, penalaran gambar, pembuatan deskripsi, serta menjawab pertanyaan umum tentang gambar. Untuk foto, mintalah model mengidentifikasi objek atau hubungan yang relevan dengan tugas. Untuk bagan, mintalah perbandingan antara seri yang disebutkan, dengan sumbu dan satuan tetap dipertahankan. Untuk diagram, tanyakan koneksi berlabel mana yang mendukung persyaratan yang diberikan.
Untuk perbandingan beberapa gambar, identifikasi peran setiap gambar dan mintalah kriteria yang sama untuk semuanya. Misalnya, berikan desain asli dan revisinya, lalu mintalah kecocokan yang terlihat, perbedaan, dan detail yang tidak dapat dibuktikan gambar. Pisahkan pengamatan dari kesimpulan yang bergantung pada teks pendamping. Ini memudahkan pemeriksaan keluaran terhadap sumber aktual.
Pembuatnya melaporkan pengujian pemahaman gambar dengan hingga lima gambar masukan. Itu adalah cakupan pengujian yang didokumentasikan, bukan batas maksimum keras jumlah gambar tanpa syarat. Pertahankan detail yang diperlukan untuk pertanyaan dan urutan gambar. Menambahkan banyak gambar yang tidak terkait tidak dengan sendirinya menentukan apa yang perlu dibandingkan.
Untuk tugas pemrograman, berikan persyaratan, sumber yang relevan, dan perilaku yang diharapkan. Mintalah usulan implementasi secara terpisah dari asumsi dan contohnya. Tangkapan layar dapat memberikan persyaratan visual, sedangkan kondisi tekstual memberikan perilaku yang tidak dapat ditunjukkan tangkapan layar. Kode yang dihasilkan merupakan artefak teks; menjalankannya, memeriksa antarmuka yang dirender, atau menerapkannya ke repositori memerlukan lingkungan yang terhubung.
Persiapan percakapan dan pelatihan
Kartu model mendemonstrasikan processor dan templat percakapan yang cocok dengan dua gambar dan pertanyaan perbandingan tertulis. Pertahankan peran percakapan dan hubungan gambar-teks secara jelas. Instruksi sistem dapat menentukan audiens, nada, dan struktur respons, sedangkan pesan pengguna memberikan tugas dan bukti aktual. Pembuatnya menjelaskan peningkatan pascapelatihan pada kemampuan diarahkan oleh prompt sistem dan pemformatan percakapan.
Maverick menjalani prapelatihan pada sekitar 22 triliun token data multimodal, dengan batas waktu data prapelatihan yang dinyatakan pada Agustus 2024. Ini merupakan batas data pelatihan statis, bukan akses langsung ke informasi terkini. Ketika pertanyaan bergantung pada bahan yang lebih baru atau privat, berikan bahan tersebut sebagai konteks sumber atau melalui operasi pengambilan informasi yang terhubung secara terpisah.
Rilisnya mencakup bobot BF16 dan bobot FP8 yang dikuantisasi secara terpisah. Pilihan presisi tersebut tidak menciptakan modalitas masukan lain atau memberikan konteks 10M Scout kepada Maverick. Pertahankan checkpoint Instruct yang tepat dan konfigurasinya ketika membandingkan tugas berulang atau deployment turunannya.
Perancangan hasil praktis
Tugas gambar dokumen dapat meminta pengenal sumber, pernyataan yang terlihat, nilai yang diekstrak, dan interpretasi sebagai kolom terpisah. Penjelasan percakapan dapat mempertahankan istilah asli dan menyesuaikan prosa dengan bahasa pembaca yang didukung. Permintaan pemrograman dapat mengembalikan fragmen yang direvisi serta contoh yang membedakan perilaku yang dimaksudkan.
Tentukan bagaimana hasil akhir akan digunakan sebelum memberikan bahan. Deskripsi singkat, tabel perbandingan, dan program usulan menyelesaikan tugas yang berbeda meskipun berbagi gambar yang sama. Kemampuan visual dan bahasa model menyediakan interpretasi serta teks; pengambilan informasi eksternal, eksekusi, atau pembuatan berkas berasal dari komponen aplikasi.
Batas khusus
Masukan yang didokumentasikan di sini adalah teks dan gambar, dengan keluaran teks dan kode. Pemahaman audio atau video, pembuatan suara, dan kontrol upaya penalaran bernama milik Muse Spark tidak boleh dilekatkan pada edisi Maverick ini. Llama Guard juga merupakan pengklasifikasi yang dilatih secara terpisah, bukan keluaran pengklasifikasi otomatis dari jawaban Maverick.
Contoh generasi 256 token dalam kartu model merupakan contoh pengaturan, dan sumber yang dibaca tidak menetapkan maksimum keras token keluaran yang terpisah di luar spesifikasi konteks model. Pertahankan identitas Maverick, cakupan bahasa yang didukung, serta artefak akhir dengan rujukan sumber secara jelas, alih-alih meminjam batas atau mode dari rilis Llama lainnya.
POST /v1/chat/completionstexttext| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan llama-4-maverick | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan Item minimum: 1 | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommessages[].content | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: Percakapan teks | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontrakarray pesan dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 yang sebenarnya dimasukkan sebagai teks apa adanya; ID file tidak disimpulkan |
Parameteroptional_controls | Kontrakstream |
Parametercontrol_scope | KontrakPercakapan teks; stream adalah nilai boolean dengan false sebagai bawaan. |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Alias metode: /chat/completions
Siklus hidup: synchronous_or_streamed
Kirim ID model yang tepat bersama messages.
Panjang konteks bukan batas keluaran.
File teks dapat menyediakan teks apa adanya; masukan gambar/audio/objek file memerlukan pengikatan yang tepat.
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Token konteks, lebih dari | Token konteks, hingga dan termasuk | Biaya |
|---|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Token konteks, lebih dari— | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.000375 / 1K token Keluaran · Token keluaran $0.001305 / 1K token Masukan · Pembacaan cache $0.0001 / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiPanjang permintaan · tingkat 1 | Jadwal tarif— | Token konteks, lebih dari0 | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.000375 / 1K token Keluaran · Token keluaran $0.001305 / 1K token Masukan · Pembacaan cache $0.0001 / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"llama-4-maverick","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="llama-4-maverick", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap alternatif jawaban beserta konten, panggilan alat, dan penalarannya. Dalam SSE, gabungkan delta menurut indeks alternatif jawaban/alat, lalu pertahankan alasan penghentian akhir dan data penggunaan.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomchoices[].index | Jenisinteger |
Kolomchoices[].message.content | Jenisstring|null |
Kolomchoices[].message.tool_calls | Jenistool_call[] |
Kolomchoices[].message.reasoning_content | Jenisstring |
Kolomchoices[].message.reasoning_details | Jenisobject|array |
Kolomchoices[].finish_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra llama-4-maverick, meta-llama/llama-4-maverick
/chat/completions
llama-4-maverickLlama 4 Maverick adalah model Instruct bawaan Meta untuk teks dan gambar, dengan 128 pakar, 17B parameter aktif, dan total 400B parameter. Pembuatnya mendokumentasikan konteks 1M, keluaran teks/kode multibahasa, pengenalan visual, pembuatan deskripsi gambar, serta pertanyaan tentang gambar dalam rilis yang berbeda dari Scout.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Llama 4 Maverick Instruct adalah model multimodal bawaan Meta untuk percakapan bergaya asisten dan penalaran visual. Model ini menerima teks multibahasa dan gambar serta menghasilkan teks multibahasa atau kode. Arsitektur mixture-of-experts-nya menggunakan fusi awal, yang menggabungkan informasi visual dan tekstual di dalam model, alih-alih memperlakukan gambar sebagai deskripsi tidak terkait yang disediakan asisten teks terpisah.
Informasi model dan konteks
Pembuatnya mencantumkan 128 pakar, 17 miliar parameter aktif, dan total 400 miliar parameter untuk Maverick. Angka ini berbeda dari konfigurasi Scout dengan 16 pakar dan total 109B, meskipun keduanya memiliki label ukuran aktif 17B. Nama Instruct mengidentifikasi checkpoint yang berorientasi asisten, bukan model Maverick pralatih.
Kartu model mendokumentasikan jendela konteks 1M untuk Maverick. Gunakan konteks untuk mempertahankan kutipan, gambar, percakapan, dan jawaban yang diminta yang relevan secara bersama. Kumpulan sumber yang besar tetap memerlukan pertanyaan dan artefak yang terdefinisi. Beri label dokumen sumber dan gambar serta mintalah lokasi yang mendukung setiap temuan yang diekstrak, alih-alih meminta ringkasan tanpa arah atas semua bahan.
Bahasa yang didukung adalah Arab, Inggris, Prancis, Jerman, Hindi, Indonesia, Italia, Portugis, Spanyol, Tagalog, Thai, dan Vietnam. Pembuatnya membedakan dua belas bahasa yang didukung ini dari kumpulan lebih luas, sekitar dua ratus bahasa, yang digunakan dalam prapelatihan. Kehadiran suatu bahasa dalam pelatihan tidak boleh diubah menjadi janji kemampuan yang setara untuk setiap bahasa.
Tugas percakapan, visual, dan kode
Penggunaan visual yang dimaksud dalam kartu model mencakup pengenalan, penalaran gambar, pembuatan deskripsi, serta menjawab pertanyaan umum tentang gambar. Untuk foto, mintalah model mengidentifikasi objek atau hubungan yang relevan dengan tugas. Untuk bagan, mintalah perbandingan antara seri yang disebutkan, dengan sumbu dan satuan tetap dipertahankan. Untuk diagram, tanyakan koneksi berlabel mana yang mendukung persyaratan yang diberikan.
Untuk perbandingan beberapa gambar, identifikasi peran setiap gambar dan mintalah kriteria yang sama untuk semuanya. Misalnya, berikan desain asli dan revisinya, lalu mintalah kecocokan yang terlihat, perbedaan, dan detail yang tidak dapat dibuktikan gambar. Pisahkan pengamatan dari kesimpulan yang bergantung pada teks pendamping. Ini memudahkan pemeriksaan keluaran terhadap sumber aktual.
Pembuatnya melaporkan pengujian pemahaman gambar dengan hingga lima gambar masukan. Itu adalah cakupan pengujian yang didokumentasikan, bukan batas maksimum keras jumlah gambar tanpa syarat. Pertahankan detail yang diperlukan untuk pertanyaan dan urutan gambar. Menambahkan banyak gambar yang tidak terkait tidak dengan sendirinya menentukan apa yang perlu dibandingkan.
Untuk tugas pemrograman, berikan persyaratan, sumber yang relevan, dan perilaku yang diharapkan. Mintalah usulan implementasi secara terpisah dari asumsi dan contohnya. Tangkapan layar dapat memberikan persyaratan visual, sedangkan kondisi tekstual memberikan perilaku yang tidak dapat ditunjukkan tangkapan layar. Kode yang dihasilkan merupakan artefak teks; menjalankannya, memeriksa antarmuka yang dirender, atau menerapkannya ke repositori memerlukan lingkungan yang terhubung.
Persiapan percakapan dan pelatihan
Kartu model mendemonstrasikan processor dan templat percakapan yang cocok dengan dua gambar dan pertanyaan perbandingan tertulis. Pertahankan peran percakapan dan hubungan gambar-teks secara jelas. Instruksi sistem dapat menentukan audiens, nada, dan struktur respons, sedangkan pesan pengguna memberikan tugas dan bukti aktual. Pembuatnya menjelaskan peningkatan pascapelatihan pada kemampuan diarahkan oleh prompt sistem dan pemformatan percakapan.
Maverick menjalani prapelatihan pada sekitar 22 triliun token data multimodal, dengan batas waktu data prapelatihan yang dinyatakan pada Agustus 2024. Ini merupakan batas data pelatihan statis, bukan akses langsung ke informasi terkini. Ketika pertanyaan bergantung pada bahan yang lebih baru atau privat, berikan bahan tersebut sebagai konteks sumber atau melalui operasi pengambilan informasi yang terhubung secara terpisah.
Rilisnya mencakup bobot BF16 dan bobot FP8 yang dikuantisasi secara terpisah. Pilihan presisi tersebut tidak menciptakan modalitas masukan lain atau memberikan konteks 10M Scout kepada Maverick. Pertahankan checkpoint Instruct yang tepat dan konfigurasinya ketika membandingkan tugas berulang atau deployment turunannya.
Perancangan hasil praktis
Tugas gambar dokumen dapat meminta pengenal sumber, pernyataan yang terlihat, nilai yang diekstrak, dan interpretasi sebagai kolom terpisah. Penjelasan percakapan dapat mempertahankan istilah asli dan menyesuaikan prosa dengan bahasa pembaca yang didukung. Permintaan pemrograman dapat mengembalikan fragmen yang direvisi serta contoh yang membedakan perilaku yang dimaksudkan.
Tentukan bagaimana hasil akhir akan digunakan sebelum memberikan bahan. Deskripsi singkat, tabel perbandingan, dan program usulan menyelesaikan tugas yang berbeda meskipun berbagi gambar yang sama. Kemampuan visual dan bahasa model menyediakan interpretasi serta teks; pengambilan informasi eksternal, eksekusi, atau pembuatan berkas berasal dari komponen aplikasi.
Batas khusus
Masukan yang didokumentasikan di sini adalah teks dan gambar, dengan keluaran teks dan kode. Pemahaman audio atau video, pembuatan suara, dan kontrol upaya penalaran bernama milik Muse Spark tidak boleh dilekatkan pada edisi Maverick ini. Llama Guard juga merupakan pengklasifikasi yang dilatih secara terpisah, bukan keluaran pengklasifikasi otomatis dari jawaban Maverick.
Contoh generasi 256 token dalam kartu model merupakan contoh pengaturan, dan sumber yang dibaca tidak menetapkan maksimum keras token keluaran yang terpisah di luar spesifikasi konteks model. Pertahankan identitas Maverick, cakupan bahasa yang didukung, serta artefak akhir dengan rujukan sumber secara jelas, alih-alih meminjam batas atau mode dari rilis Llama lainnya.
POST /v1/messagestextjson, sse| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan llama-4-maverick | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan user, assistant | Bawaan— |
Kolommessages[].content | Jenisstring | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Teks · Teks UTF-8
string messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 yang sebenarnya dan masukkan teksnya ke string masukan atau konten pesan yang ditunjukkan. |
Siklus hidup: synchronous_or_streamed
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Token konteks, lebih dari | Token konteks, hingga dan termasuk | Biaya |
|---|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Token konteks, lebih dari— | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.000375 / 1K token Keluaran · Token keluaran $0.001305 / 1K token Masukan · Pembacaan cache $0.0001 / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiPanjang permintaan · tingkat 1 | Jadwal tarif— | Token konteks, lebih dari0 | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.000375 / 1K token Keluaran · Token keluaran $0.001305 / 1K token Masukan · Pembacaan cache $0.0001 / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
{\n "model": "llama-4-maverick",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'llama-4-maverick', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'llama-4-maverick', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan semua blok konten, tanda tangan penalaran, dan ID penggunaan alat yang sebenarnya. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan keluaran.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomid | Jenisstring |
Kolommodel | Jenisstring |
Kolomcontent[] | Jenistext|thinking|tool_use|other content block |
Kolomstop_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra llama-4-maverick, meta-llama/llama-4-maverick
/chat/completions
meta-llama/llama-4-maverickLlama 4 Maverick adalah model Instruct bawaan Meta untuk teks dan gambar, dengan 128 pakar, 17B parameter aktif, dan total 400B parameter. Pembuatnya mendokumentasikan konteks 1M, keluaran teks/kode multibahasa, pengenalan visual, pembuatan deskripsi gambar, serta pertanyaan tentang gambar dalam rilis yang berbeda dari Scout.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Llama 4 Maverick Instruct adalah model multimodal bawaan Meta untuk percakapan bergaya asisten dan penalaran visual. Model ini menerima teks multibahasa dan gambar serta menghasilkan teks multibahasa atau kode. Arsitektur mixture-of-experts-nya menggunakan fusi awal, yang menggabungkan informasi visual dan tekstual di dalam model, alih-alih memperlakukan gambar sebagai deskripsi tidak terkait yang disediakan asisten teks terpisah.
Informasi model dan konteks
Pembuatnya mencantumkan 128 pakar, 17 miliar parameter aktif, dan total 400 miliar parameter untuk Maverick. Angka ini berbeda dari konfigurasi Scout dengan 16 pakar dan total 109B, meskipun keduanya memiliki label ukuran aktif 17B. Nama Instruct mengidentifikasi checkpoint yang berorientasi asisten, bukan model Maverick pralatih.
Kartu model mendokumentasikan jendela konteks 1M untuk Maverick. Gunakan konteks untuk mempertahankan kutipan, gambar, percakapan, dan jawaban yang diminta yang relevan secara bersama. Kumpulan sumber yang besar tetap memerlukan pertanyaan dan artefak yang terdefinisi. Beri label dokumen sumber dan gambar serta mintalah lokasi yang mendukung setiap temuan yang diekstrak, alih-alih meminta ringkasan tanpa arah atas semua bahan.
Bahasa yang didukung adalah Arab, Inggris, Prancis, Jerman, Hindi, Indonesia, Italia, Portugis, Spanyol, Tagalog, Thai, dan Vietnam. Pembuatnya membedakan dua belas bahasa yang didukung ini dari kumpulan lebih luas, sekitar dua ratus bahasa, yang digunakan dalam prapelatihan. Kehadiran suatu bahasa dalam pelatihan tidak boleh diubah menjadi janji kemampuan yang setara untuk setiap bahasa.
Tugas percakapan, visual, dan kode
Penggunaan visual yang dimaksud dalam kartu model mencakup pengenalan, penalaran gambar, pembuatan deskripsi, serta menjawab pertanyaan umum tentang gambar. Untuk foto, mintalah model mengidentifikasi objek atau hubungan yang relevan dengan tugas. Untuk bagan, mintalah perbandingan antara seri yang disebutkan, dengan sumbu dan satuan tetap dipertahankan. Untuk diagram, tanyakan koneksi berlabel mana yang mendukung persyaratan yang diberikan.
Untuk perbandingan beberapa gambar, identifikasi peran setiap gambar dan mintalah kriteria yang sama untuk semuanya. Misalnya, berikan desain asli dan revisinya, lalu mintalah kecocokan yang terlihat, perbedaan, dan detail yang tidak dapat dibuktikan gambar. Pisahkan pengamatan dari kesimpulan yang bergantung pada teks pendamping. Ini memudahkan pemeriksaan keluaran terhadap sumber aktual.
Pembuatnya melaporkan pengujian pemahaman gambar dengan hingga lima gambar masukan. Itu adalah cakupan pengujian yang didokumentasikan, bukan batas maksimum keras jumlah gambar tanpa syarat. Pertahankan detail yang diperlukan untuk pertanyaan dan urutan gambar. Menambahkan banyak gambar yang tidak terkait tidak dengan sendirinya menentukan apa yang perlu dibandingkan.
Untuk tugas pemrograman, berikan persyaratan, sumber yang relevan, dan perilaku yang diharapkan. Mintalah usulan implementasi secara terpisah dari asumsi dan contohnya. Tangkapan layar dapat memberikan persyaratan visual, sedangkan kondisi tekstual memberikan perilaku yang tidak dapat ditunjukkan tangkapan layar. Kode yang dihasilkan merupakan artefak teks; menjalankannya, memeriksa antarmuka yang dirender, atau menerapkannya ke repositori memerlukan lingkungan yang terhubung.
Persiapan percakapan dan pelatihan
Kartu model mendemonstrasikan processor dan templat percakapan yang cocok dengan dua gambar dan pertanyaan perbandingan tertulis. Pertahankan peran percakapan dan hubungan gambar-teks secara jelas. Instruksi sistem dapat menentukan audiens, nada, dan struktur respons, sedangkan pesan pengguna memberikan tugas dan bukti aktual. Pembuatnya menjelaskan peningkatan pascapelatihan pada kemampuan diarahkan oleh prompt sistem dan pemformatan percakapan.
Maverick menjalani prapelatihan pada sekitar 22 triliun token data multimodal, dengan batas waktu data prapelatihan yang dinyatakan pada Agustus 2024. Ini merupakan batas data pelatihan statis, bukan akses langsung ke informasi terkini. Ketika pertanyaan bergantung pada bahan yang lebih baru atau privat, berikan bahan tersebut sebagai konteks sumber atau melalui operasi pengambilan informasi yang terhubung secara terpisah.
Rilisnya mencakup bobot BF16 dan bobot FP8 yang dikuantisasi secara terpisah. Pilihan presisi tersebut tidak menciptakan modalitas masukan lain atau memberikan konteks 10M Scout kepada Maverick. Pertahankan checkpoint Instruct yang tepat dan konfigurasinya ketika membandingkan tugas berulang atau deployment turunannya.
Perancangan hasil praktis
Tugas gambar dokumen dapat meminta pengenal sumber, pernyataan yang terlihat, nilai yang diekstrak, dan interpretasi sebagai kolom terpisah. Penjelasan percakapan dapat mempertahankan istilah asli dan menyesuaikan prosa dengan bahasa pembaca yang didukung. Permintaan pemrograman dapat mengembalikan fragmen yang direvisi serta contoh yang membedakan perilaku yang dimaksudkan.
Tentukan bagaimana hasil akhir akan digunakan sebelum memberikan bahan. Deskripsi singkat, tabel perbandingan, dan program usulan menyelesaikan tugas yang berbeda meskipun berbagi gambar yang sama. Kemampuan visual dan bahasa model menyediakan interpretasi serta teks; pengambilan informasi eksternal, eksekusi, atau pembuatan berkas berasal dari komponen aplikasi.
Batas khusus
Masukan yang didokumentasikan di sini adalah teks dan gambar, dengan keluaran teks dan kode. Pemahaman audio atau video, pembuatan suara, dan kontrol upaya penalaran bernama milik Muse Spark tidak boleh dilekatkan pada edisi Maverick ini. Llama Guard juga merupakan pengklasifikasi yang dilatih secara terpisah, bukan keluaran pengklasifikasi otomatis dari jawaban Maverick.
Contoh generasi 256 token dalam kartu model merupakan contoh pengaturan, dan sumber yang dibaca tidak menetapkan maksimum keras token keluaran yang terpisah di luar spesifikasi konteks model. Pertahankan identitas Maverick, cakupan bahasa yang didukung, serta artefak akhir dengan rujukan sumber secara jelas, alih-alih meminjam batas atau mode dari rilis Llama lainnya.
POST /v1/chat/completionstexttext| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan meta-llama/llama-4-maverick | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan Item minimum: 1 | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan Contoh: system, user, assistant, tool, function Kondisi: Peran ini direpresentasikan secara eksplisit oleh tipe kompatibilitas dalam kode sumber; kumpulan peran model yang tepat tetap khusus untuk tiap model. Bergantung pada model | Bawaan— |
Kolommessages[].content | Jenisstring|content_part[]|null | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_calls | Jenistool_call[] | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_call_id | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: role=tool; gunakan ID yang benar-benar dikembalikan | Bawaan— |
Kolommessages[].name | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].reasoning_content | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: Kirim kembali penalaran yang benar-benar dikembalikan jika model ini menggunakannya | Bawaan— |
Kolommessages[].reasoning_details | Jenisobject|array | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolommax_completion_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Kolomstream_options.include_usage | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtemperature | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtop_p | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomstop | Jenisstring|string[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools | Jenisfunction_tool[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools[].type | Jenisstring | PersyaratanOpsional | Nilai & batasan function Bergantung pada model | Bawaan— |
Kolomtools[].function.name | Jenisstring | PersyaratanWajib | Nilai & batasan Berlaku jika: alat fungsi disediakan | Bawaan— |
Kolomtools[].function.description | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtools[].function.parameters | JenisJSON_schema | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtool_choice | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomparallel_tool_calls | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomresponse_format | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning_effort | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomservice_tier | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolominstructions | Jenisstring | PersyaratanOpsional | Nilai & batasan Kolom kompatibilitas | Bawaan— |
Kolomfunctions | Jenisfunction[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomfunction_call | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomprompt_cache_options | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommodalities | Jenisstring[] | PersyaratanOpsional | Nilai & batasan text | Bawaan— |
Kolomprovider | Jenisobject | PersyaratanOpsional | Nilai & batasan Kondisi: provider.options ditolak pada rute teks Ultra ini | Bawaan— |
Kolomcache_control.ttl | Jenisstring | PersyaratanOpsional | Nilai & batasan Kondisi: 1h ditolak pada lokasi cache prompt yang digunakan | Bawaan— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontrakarray pesan dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 yang sebenarnya dimasukkan sebagai teks apa adanya; ID file tidak disimpulkan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeda dari alat yang dihosting |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Siklus hidup: synchronous_or_streamed
Kirim ID model yang tepat bersama messages.
Panjang konteks bukan batas keluaran.
File teks dapat menyediakan teks apa adanya; masukan gambar/audio/objek file memerlukan pengikatan yang tepat.
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Token konteks, lebih dari | Token konteks, hingga dan termasuk | Biaya |
|---|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Token konteks, lebih dari— | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.000375 / 1K token Keluaran · Token keluaran $0.001305 / 1K token Masukan · Pembacaan cache $0.0001 / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiPanjang permintaan · tingkat 1 | Jadwal tarif— | Token konteks, lebih dari0 | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.000375 / 1K token Keluaran · Token keluaran $0.001305 / 1K token Masukan · Pembacaan cache $0.0001 / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-4-maverick", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-4-maverick',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-4-maverick',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap alternatif jawaban beserta konten, panggilan alat, dan penalarannya. Dalam SSE, gabungkan delta menurut indeks alternatif jawaban/alat, lalu pertahankan alasan penghentian akhir dan data penggunaan.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomchoices[].index | Jenisinteger |
Kolomchoices[].message.content | Jenisstring|null |
Kolomchoices[].message.tool_calls | Jenistool_call[] |
Kolomchoices[].message.reasoning_content | Jenisstring |
Kolomchoices[].message.reasoning_details | Jenisobject|array |
Kolomchoices[].finish_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra llama-4-maverick, meta-llama/llama-4-maverick
/chat/completions
meta-llama/llama-4-maverickLlama 4 Maverick adalah model Instruct bawaan Meta untuk teks dan gambar, dengan 128 pakar, 17B parameter aktif, dan total 400B parameter. Pembuatnya mendokumentasikan konteks 1M, keluaran teks/kode multibahasa, pengenalan visual, pembuatan deskripsi gambar, serta pertanyaan tentang gambar dalam rilis yang berbeda dari Scout.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Llama 4 Maverick Instruct adalah model multimodal bawaan Meta untuk percakapan bergaya asisten dan penalaran visual. Model ini menerima teks multibahasa dan gambar serta menghasilkan teks multibahasa atau kode. Arsitektur mixture-of-experts-nya menggunakan fusi awal, yang menggabungkan informasi visual dan tekstual di dalam model, alih-alih memperlakukan gambar sebagai deskripsi tidak terkait yang disediakan asisten teks terpisah.
Informasi model dan konteks
Pembuatnya mencantumkan 128 pakar, 17 miliar parameter aktif, dan total 400 miliar parameter untuk Maverick. Angka ini berbeda dari konfigurasi Scout dengan 16 pakar dan total 109B, meskipun keduanya memiliki label ukuran aktif 17B. Nama Instruct mengidentifikasi checkpoint yang berorientasi asisten, bukan model Maverick pralatih.
Kartu model mendokumentasikan jendela konteks 1M untuk Maverick. Gunakan konteks untuk mempertahankan kutipan, gambar, percakapan, dan jawaban yang diminta yang relevan secara bersama. Kumpulan sumber yang besar tetap memerlukan pertanyaan dan artefak yang terdefinisi. Beri label dokumen sumber dan gambar serta mintalah lokasi yang mendukung setiap temuan yang diekstrak, alih-alih meminta ringkasan tanpa arah atas semua bahan.
Bahasa yang didukung adalah Arab, Inggris, Prancis, Jerman, Hindi, Indonesia, Italia, Portugis, Spanyol, Tagalog, Thai, dan Vietnam. Pembuatnya membedakan dua belas bahasa yang didukung ini dari kumpulan lebih luas, sekitar dua ratus bahasa, yang digunakan dalam prapelatihan. Kehadiran suatu bahasa dalam pelatihan tidak boleh diubah menjadi janji kemampuan yang setara untuk setiap bahasa.
Tugas percakapan, visual, dan kode
Penggunaan visual yang dimaksud dalam kartu model mencakup pengenalan, penalaran gambar, pembuatan deskripsi, serta menjawab pertanyaan umum tentang gambar. Untuk foto, mintalah model mengidentifikasi objek atau hubungan yang relevan dengan tugas. Untuk bagan, mintalah perbandingan antara seri yang disebutkan, dengan sumbu dan satuan tetap dipertahankan. Untuk diagram, tanyakan koneksi berlabel mana yang mendukung persyaratan yang diberikan.
Untuk perbandingan beberapa gambar, identifikasi peran setiap gambar dan mintalah kriteria yang sama untuk semuanya. Misalnya, berikan desain asli dan revisinya, lalu mintalah kecocokan yang terlihat, perbedaan, dan detail yang tidak dapat dibuktikan gambar. Pisahkan pengamatan dari kesimpulan yang bergantung pada teks pendamping. Ini memudahkan pemeriksaan keluaran terhadap sumber aktual.
Pembuatnya melaporkan pengujian pemahaman gambar dengan hingga lima gambar masukan. Itu adalah cakupan pengujian yang didokumentasikan, bukan batas maksimum keras jumlah gambar tanpa syarat. Pertahankan detail yang diperlukan untuk pertanyaan dan urutan gambar. Menambahkan banyak gambar yang tidak terkait tidak dengan sendirinya menentukan apa yang perlu dibandingkan.
Untuk tugas pemrograman, berikan persyaratan, sumber yang relevan, dan perilaku yang diharapkan. Mintalah usulan implementasi secara terpisah dari asumsi dan contohnya. Tangkapan layar dapat memberikan persyaratan visual, sedangkan kondisi tekstual memberikan perilaku yang tidak dapat ditunjukkan tangkapan layar. Kode yang dihasilkan merupakan artefak teks; menjalankannya, memeriksa antarmuka yang dirender, atau menerapkannya ke repositori memerlukan lingkungan yang terhubung.
Persiapan percakapan dan pelatihan
Kartu model mendemonstrasikan processor dan templat percakapan yang cocok dengan dua gambar dan pertanyaan perbandingan tertulis. Pertahankan peran percakapan dan hubungan gambar-teks secara jelas. Instruksi sistem dapat menentukan audiens, nada, dan struktur respons, sedangkan pesan pengguna memberikan tugas dan bukti aktual. Pembuatnya menjelaskan peningkatan pascapelatihan pada kemampuan diarahkan oleh prompt sistem dan pemformatan percakapan.
Maverick menjalani prapelatihan pada sekitar 22 triliun token data multimodal, dengan batas waktu data prapelatihan yang dinyatakan pada Agustus 2024. Ini merupakan batas data pelatihan statis, bukan akses langsung ke informasi terkini. Ketika pertanyaan bergantung pada bahan yang lebih baru atau privat, berikan bahan tersebut sebagai konteks sumber atau melalui operasi pengambilan informasi yang terhubung secara terpisah.
Rilisnya mencakup bobot BF16 dan bobot FP8 yang dikuantisasi secara terpisah. Pilihan presisi tersebut tidak menciptakan modalitas masukan lain atau memberikan konteks 10M Scout kepada Maverick. Pertahankan checkpoint Instruct yang tepat dan konfigurasinya ketika membandingkan tugas berulang atau deployment turunannya.
Perancangan hasil praktis
Tugas gambar dokumen dapat meminta pengenal sumber, pernyataan yang terlihat, nilai yang diekstrak, dan interpretasi sebagai kolom terpisah. Penjelasan percakapan dapat mempertahankan istilah asli dan menyesuaikan prosa dengan bahasa pembaca yang didukung. Permintaan pemrograman dapat mengembalikan fragmen yang direvisi serta contoh yang membedakan perilaku yang dimaksudkan.
Tentukan bagaimana hasil akhir akan digunakan sebelum memberikan bahan. Deskripsi singkat, tabel perbandingan, dan program usulan menyelesaikan tugas yang berbeda meskipun berbagi gambar yang sama. Kemampuan visual dan bahasa model menyediakan interpretasi serta teks; pengambilan informasi eksternal, eksekusi, atau pembuatan berkas berasal dari komponen aplikasi.
Batas khusus
Masukan yang didokumentasikan di sini adalah teks dan gambar, dengan keluaran teks dan kode. Pemahaman audio atau video, pembuatan suara, dan kontrol upaya penalaran bernama milik Muse Spark tidak boleh dilekatkan pada edisi Maverick ini. Llama Guard juga merupakan pengklasifikasi yang dilatih secara terpisah, bukan keluaran pengklasifikasi otomatis dari jawaban Maverick.
Contoh generasi 256 token dalam kartu model merupakan contoh pengaturan, dan sumber yang dibaca tidak menetapkan maksimum keras token keluaran yang terpisah di luar spesifikasi konteks model. Pertahankan identitas Maverick, cakupan bahasa yang didukung, serta artefak akhir dengan rujukan sumber secara jelas, alih-alih meminjam batas atau mode dari rilis Llama lainnya.
POST /v1/messagestextjson, sse| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan meta-llama/llama-4-maverick | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan user, assistant | Bawaan— |
Kolommessages[].content | Jenisstring | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Teks · Teks UTF-8
string messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 yang sebenarnya dan masukkan teksnya ke string masukan atau konten pesan yang ditunjukkan. |
Siklus hidup: synchronous_or_streamed
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Token konteks, lebih dari | Token konteks, hingga dan termasuk | Biaya |
|---|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Token konteks, lebih dari— | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.000375 / 1K token Keluaran · Token keluaran $0.001305 / 1K token Masukan · Pembacaan cache $0.0001 / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiPanjang permintaan · tingkat 1 | Jadwal tarif— | Token konteks, lebih dari0 | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.000375 / 1K token Keluaran · Token keluaran $0.001305 / 1K token Masukan · Pembacaan cache $0.0001 / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
{\n "model": "meta-llama/llama-4-maverick",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-4-maverick', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-4-maverick', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan semua blok konten, tanda tangan penalaran, dan ID penggunaan alat yang sebenarnya. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan keluaran.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomid | Jenisstring |
Kolommodel | Jenisstring |
Kolomcontent[] | Jenistext|thinking|tool_use|other content block |
Kolomstop_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra llama-4-maverick, meta-llama/llama-4-maverick
/chat/completions
Contoh teknis dalam bahasa Inggris
Explain a return policy in Spanish\n\nExplain this policy in Spanish to a customer, keeping product code ZX-14 unchanged: 'Unused ZX-14 items may be returned within 14 days of delivery. Personalized items are excluded. A purchase receipt is required.' Use three short bullets and retain the distinction between ordinary and personalized items. Base the answer only on this supplied policy.Three Spanish policy bullets retaining the code, time trigger, exclusion and receipt requirement.ZX-14 must stay exact, and the exception for personalized items must not disappear.