Llama 4 Maverick Instruct ialah model multimodal natif Meta untuk perbualan seperti pembantu dan penaakulan visual. Model ini menerima teks berbilang bahasa dan imej serta menjana teks berbilang bahasa atau kod. Seni bina campuran pakarnya menggunakan penggabungan awal, menggabungkan maklumat visual dan teks dalam model dan bukannya menganggap imej sebagai kapsyen tidak berkaitan yang dibekalkan oleh pembantu teks berasingan.
Maklumat model dan konteks
Pengeluar menyenaraikan 128 pakar, 17 bilion parameter aktif dan 400 bilion parameter keseluruhan untuk Maverick. Ini berbeza daripada konfigurasi Scout dengan 16 pakar dan 109B keseluruhan walaupun kedua-duanya menggunakan label saiz aktif 17B. Nama Instruct mengenal pasti checkpoint berorientasikan pembantu dan bukannya model Maverick pralatih.
Kad model mendokumenkan tetingkap konteks 1M untuk Maverick. Gunakan konteks untuk menyimpan petikan, imej, perbualan dan jawapan yang diminta yang berkaitan bersama-sama. Himpunan sumber yang besar masih memerlukan soalan dan artifak yang ditetapkan. Labelkan dokumen sumber dan imej serta minta lokasi yang menyokong setiap penemuan yang diekstrak dan bukannya meminta ringkasan tanpa arah bagi semua bahan.
Bahasa yang disokong ialah bahasa Arab, Inggeris, Perancis, Jerman, Hindi, Indonesia, Itali, Portugis, Sepanyol, Tagalog, Thai dan Vietnam. Pengeluar membezakan dua belas bahasa yang disokong ini daripada himpunan lebih luas kira-kira dua ratus bahasa yang digunakan dalam pralatihan. Kehadiran bahasa dalam latihan tidak patut ditukar menjadi janji keupayaan sama bagi setiap bahasa.
Tugas sembang, penglihatan dan kod
Kegunaan visual yang dimaksudkan dalam kad merangkumi pengecaman, penaakulan imej, penjanaan kapsyen dan menjawab soalan umum tentang imej. Untuk foto, minta model mengenal pasti objek atau hubungan yang berkaitan dengan tugas. Untuk carta, minta perbandingan antara siri yang dinamakan, dengan paksi dan unit dikekalkan. Untuk rajah, tanya sambungan berlabel yang menyokong keperluan yang dibekalkan.
Untuk perbandingan berbilang imej, kenal pasti peranan setiap imej dan minta kriteria yang sama merentas semuanya. Sebagai contoh, bekalkan reka bentuk asal dan semakan, kemudian minta persamaan yang kelihatan, perbezaan dan butiran yang tidak dibuktikan imej. Asingkan pemerhatian daripada kesimpulan yang bergantung pada teks iringan. Ini memudahkan semakan output terhadap sumber sebenar.
Pengeluar melaporkan ujian pemahaman imej dengan sehingga lima imej input. Itu ialah skop ujian yang didokumenkan, bukannya had maksimum mutlak bilangan imej yang terpakai tanpa syarat. Kekalkan butiran yang diperlukan untuk soalan dan turutan imej. Menambah sejumlah besar imej yang tidak berkaitan tidak dengan sendirinya menetapkan perkara yang perlu dibandingkan.
Untuk tugas pengekodan, berikan keperluan, sumber berkaitan dan tingkah laku yang dijangka. Minta pelaksanaan yang dicadangkan secara berasingan daripada andaian dan contohnya. Tangkapan skrin boleh membekalkan keperluan visual, manakala syarat teks membekalkan tingkah laku yang tidak dapat ditunjukkan tangkapan skrin. Kod yang dijana ialah artifak teks; menjalankannya, memeriksa antara muka yang dipaparkan atau menerapkannya pada repositori memerlukan persekitaran yang disambungkan.
Penyediaan perbualan dan latihan
Kad model menunjukkan pemproses dan templat sembang yang sepadan dengan dua imej serta soalan perbandingan bertulis. Pastikan peranan perbualan dan kaitan imej dengan teks dinyatakan dengan jelas. Arahan system boleh menetapkan khalayak, nada dan struktur respons, manakala mesej user membekalkan tugas dan bukti sebenar. Pengeluar menerangkan penambahbaikan pascalatihan terhadap keboleharahan prom system dan pemformatan perbualan.
Maverick dipralatih pada kira-kira 22 trilion token data multimodal, dengan tarikh akhir data pralatihan yang dinyatakan pada Ogos 2024. Ini ialah sempadan data latihan statik dan bukannya akses langsung kepada maklumat semasa. Apabila soalan bergantung pada bahan lebih baharu atau persendirian, berikan bahan itu sebagai konteks sumber atau melalui operasi pemerolehan maklumat yang disambungkan secara berasingan.
Keluaran ini merangkumi pemberat BF16 dan FP8 yang dikuantisasi secara berasingan. Pilihan presisi itu tidak mencipta modaliti input lain atau memberikan konteks 10M Scout kepada Maverick. Kekalkan checkpoint Instruct yang tepat dan konfigurasinya apabila membandingkan tugas berulang atau penggunaan terbitan.
Reka bentuk hasil praktikal
Tugas imej dokumen boleh meminta pengecam sumber, pernyataan yang kelihatan, nilai yang diekstrak dan tafsiran sebagai medan berasingan. Penjelasan perbualan boleh mengekalkan istilah asal dan menyesuaikan prosa kepada bahasa pembaca yang disokong. Permintaan pengekodan boleh mengembalikan fragmen yang disemak serta contoh yang membezakan tingkah laku yang dimaksudkan.
Tetapkan cara hasil akhir akan digunakan sebelum membekalkan bahan. Kapsyen ringkas, jadual perbandingan dan program yang dicadangkan menyelesaikan tugas berbeza walaupun berkongsi imej yang sama. Keupayaan visual dan bahasa model membekalkan tafsiran dan teks; pemerolehan maklumat luaran, pelaksanaan atau penghasilan fail datang daripada komponen aplikasi.
Sempadan khusus
Input yang didokumenkan di sini ialah teks dan imej, dengan output teks dan kod. Pemahaman audio atau video, penjanaan pertuturan dan kawalan usaha penaakulan yang dinamakan dalam Muse Spark tidak patut diberikan kepada edisi Maverick ini. Llama Guard juga ialah pengelas yang dilatih secara berasingan dan bukannya output pengelas automatik daripada jawapan Maverick.
Contoh penjanaan 256 token dalam kad ialah tetapan contoh, dan sumber yang dibaca tidak menetapkan had maksimum mutlak token output secara berasingan di luar spesifikasi konteks model. Pastikan identiti Maverick, skop bahasa yang disokong dan artifak akhir berkaitan sumber dinyatakan dengan jelas dan bukannya meminjam had atau mod daripada keluaran Llama lain.
", "aboutText": "Llama 4 Maverick Instruct ialah model multimodal natif Meta untuk perbualan seperti pembantu dan penaakulan visual. Model ini menerima teks berbilang bahasa dan imej serta menjana teks berbilang bahasa atau kod. Seni bina campuran pakarnya menggunakan penggabungan awal, menggabungkan maklumat visual dan teks dalam model dan bukannya menganggap imej sebagai kapsyen tidak berkaitan yang dibekalkan oleh pembantu teks berasingan.\n\nMaklumat model dan konteks\n\nPengeluar menyenaraikan 128 pakar, 17 bilion parameter aktif dan 400 bilion parameter keseluruhan untuk Maverick. Ini berbeza daripada konfigurasi Scout dengan 16 pakar dan 109B keseluruhan walaupun kedua-duanya menggunakan label saiz aktif 17B. Nama Instruct mengenal pasti checkpoint berorientasikan pembantu dan bukannya model Maverick pralatih.\n\nKad model mendokumenkan tetingkap konteks 1M untuk Maverick. Gunakan konteks untuk menyimpan petikan, imej, perbualan dan jawapan yang diminta yang berkaitan bersama-sama. Himpunan sumber yang besar masih memerlukan soalan dan artifak yang ditetapkan. Labelkan dokumen sumber dan imej serta minta lokasi yang menyokong setiap penemuan yang diekstrak dan bukannya meminta ringkasan tanpa arah bagi semua bahan.\n\nBahasa yang disokong ialah bahasa Arab, Inggeris, Perancis, Jerman, Hindi, Indonesia, Itali, Portugis, Sepanyol, Tagalog, Thai dan Vietnam. Pengeluar membezakan dua belas bahasa yang disokong ini daripada himpunan lebih luas kira-kira dua ratus bahasa yang digunakan dalam pralatihan. Kehadiran bahasa dalam latihan tidak patut ditukar menjadi janji keupayaan sama bagi setiap bahasa.\n\nTugas sembang, penglihatan dan kod\n\nKegunaan visual yang dimaksudkan dalam kad merangkumi pengecaman, penaakulan imej, penjanaan kapsyen dan menjawab soalan umum tentang imej. Untuk foto, minta model mengenal pasti objek atau hubungan yang berkaitan dengan tugas. Untuk carta, minta perbandingan antara siri yang dinamakan, dengan paksi dan unit dikekalkan. Untuk rajah, tanya sambungan berlabel yang menyokong keperluan yang dibekalkan.\n\nUntuk perbandingan berbilang imej, kenal pasti peranan setiap imej dan minta kriteria yang sama merentas semuanya. Sebagai contoh, bekalkan reka bentuk asal dan semakan, kemudian minta persamaan yang kelihatan, perbezaan dan butiran yang tidak dibuktikan imej. Asingkan pemerhatian daripada kesimpulan yang bergantung pada teks iringan. Ini memudahkan semakan output terhadap sumber sebenar.\n\nPengeluar melaporkan ujian pemahaman imej dengan sehingga lima imej input. Itu ialah skop ujian yang didokumenkan, bukannya had maksimum mutlak bilangan imej yang terpakai tanpa syarat. Kekalkan butiran yang diperlukan untuk soalan dan turutan imej. Menambah sejumlah besar imej yang tidak berkaitan tidak dengan sendirinya menetapkan perkara yang perlu dibandingkan.\n\nUntuk tugas pengekodan, berikan keperluan, sumber berkaitan dan tingkah laku yang dijangka. Minta pelaksanaan yang dicadangkan secara berasingan daripada andaian dan contohnya. Tangkapan skrin boleh membekalkan keperluan visual, manakala syarat teks membekalkan tingkah laku yang tidak dapat ditunjukkan tangkapan skrin. Kod yang dijana ialah artifak teks; menjalankannya, memeriksa antara muka yang dipaparkan atau menerapkannya pada repositori memerlukan persekitaran yang disambungkan.\n\nPenyediaan perbualan dan latihan\n\nKad model menunjukkan pemproses dan templat sembang yang sepadan dengan dua imej serta soalan perbandingan bertulis. Pastikan peranan perbualan dan kaitan imej dengan teks dinyatakan dengan jelas. Arahan system boleh menetapkan khalayak, nada dan struktur respons, manakala mesej user membekalkan tugas dan bukti sebenar. Pengeluar menerangkan penambahbaikan pascalatihan terhadap keboleharahan prom system dan pemformatan perbualan.\n\nMaverick dipralatih pada kira-kira 22 trilion token data multimodal, dengan tarikh akhir data pralatihan yang dinyatakan pada Ogos 2024. Ini ialah sempadan data latihan statik dan bukannya akses langsung kepada maklumat semasa. Apabila soalan bergantung pada bahan lebih baharu atau persendirian, berikan bahan itu sebagai konteks sumber atau melalui operasi pemerolehan maklumat yang disambungkan secara berasingan.\n\nKeluaran ini merangkumi pemberat BF16 dan FP8 yang dikuantisasi secara berasingan. Pilihan presisi itu tidak mencipta modaliti input lain atau memberikan konteks 10M Scout kepada Maverick. Kekalkan checkpoint Instruct yang tepat dan konfigurasinya apabila membandingkan tugas berulang atau penggunaan terbitan.\n\nReka bentuk hasil praktikal\n\nTugas imej dokumen boleh meminta pengecam sumber, pernyataan yang kelihatan, nilai yang diekstrak dan tafsiran sebagai medan berasingan. Penjelasan perbualan boleh mengekalkan istilah asal dan menyesuaikan prosa kepada bahasa pembaca yang disokong. Permintaan pengekodan boleh mengembalikan fragmen yang disemak serta contoh yang membezakan tingkah laku yang dimaksudkan.\n\nTetapkan cara hasil akhir akan digunakan sebelum membekalkan bahan. Kapsyen ringkas, jadual perbandingan dan program yang dicadangkan menyelesaikan tugas berbeza walaupun berkongsi imej yang sama. Keupayaan visual dan bahasa model membekalkan tafsiran dan teks; pemerolehan maklumat luaran, pelaksanaan atau penghasilan fail datang daripada komponen aplikasi.\n\nSempadan khusus\n\nInput yang didokumenkan di sini ialah teks dan imej, dengan output teks dan kod. Pemahaman audio atau video, penjanaan pertuturan dan kawalan usaha penaakulan yang dinamakan dalam Muse Spark tidak patut diberikan kepada edisi Maverick ini. Llama Guard juga ialah pengelas yang dilatih secara berasingan dan bukannya output pengelas automatik daripada jawapan Maverick.\n\nContoh penjanaan 256 token dalam kad ialah tetapan contoh, dan sumber yang dibaca tidak menetapkan had maksimum mutlak token output secara berasingan di luar spesifikasi konteks model. Pastikan identiti Maverick, skop bahasa yang disokong dan artifak akhir berkaitan sumber dinyatakan dengan jelas dan bukannya meminjam had atau mod daripada keluaran Llama lain.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknikal dalam bahasa Inggeris
Explain a return policy in Spanish\n\nExplain this policy in Spanish to a customer, keeping product code ZX-14 unchanged: 'Unused ZX-14 items may be returned within 14 days of delivery. Personalized items are excluded. A purchase receipt is required.' Use three short bullets and retain the distinction between ordinary and personalized items. Base the answer only on this supplied policy.Three Spanish policy bullets retaining the code, time trigger, exclusion and receipt requirement.ZX-14 must stay exact, and the exception for personalized items must not disappear.llama-4-maverickLlama 4 Maverick ialah model Instruct teks dan imej natif Meta dengan 128 pakar, 17B parameter aktif dan 400B parameter keseluruhan. Pengeluarnya mendokumenkan konteks 1M, output teks/kod berbilang bahasa, pengecaman visual, penjanaan kapsyen dan soalan imej dalam keluaran yang berbeza daripada Scout.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Llama 4 Maverick Instruct ialah model multimodal natif Meta untuk perbualan seperti pembantu dan penaakulan visual. Model ini menerima teks berbilang bahasa dan imej serta menjana teks berbilang bahasa atau kod. Seni bina campuran pakarnya menggunakan penggabungan awal, menggabungkan maklumat visual dan teks dalam model dan bukannya menganggap imej sebagai kapsyen tidak berkaitan yang dibekalkan oleh pembantu teks berasingan.
Maklumat model dan konteks
Pengeluar menyenaraikan 128 pakar, 17 bilion parameter aktif dan 400 bilion parameter keseluruhan untuk Maverick. Ini berbeza daripada konfigurasi Scout dengan 16 pakar dan 109B keseluruhan walaupun kedua-duanya menggunakan label saiz aktif 17B. Nama Instruct mengenal pasti checkpoint berorientasikan pembantu dan bukannya model Maverick pralatih.
Kad model mendokumenkan tetingkap konteks 1M untuk Maverick. Gunakan konteks untuk menyimpan petikan, imej, perbualan dan jawapan yang diminta yang berkaitan bersama-sama. Himpunan sumber yang besar masih memerlukan soalan dan artifak yang ditetapkan. Labelkan dokumen sumber dan imej serta minta lokasi yang menyokong setiap penemuan yang diekstrak dan bukannya meminta ringkasan tanpa arah bagi semua bahan.
Bahasa yang disokong ialah bahasa Arab, Inggeris, Perancis, Jerman, Hindi, Indonesia, Itali, Portugis, Sepanyol, Tagalog, Thai dan Vietnam. Pengeluar membezakan dua belas bahasa yang disokong ini daripada himpunan lebih luas kira-kira dua ratus bahasa yang digunakan dalam pralatihan. Kehadiran bahasa dalam latihan tidak patut ditukar menjadi janji keupayaan sama bagi setiap bahasa.
Tugas sembang, penglihatan dan kod
Kegunaan visual yang dimaksudkan dalam kad merangkumi pengecaman, penaakulan imej, penjanaan kapsyen dan menjawab soalan umum tentang imej. Untuk foto, minta model mengenal pasti objek atau hubungan yang berkaitan dengan tugas. Untuk carta, minta perbandingan antara siri yang dinamakan, dengan paksi dan unit dikekalkan. Untuk rajah, tanya sambungan berlabel yang menyokong keperluan yang dibekalkan.
Untuk perbandingan berbilang imej, kenal pasti peranan setiap imej dan minta kriteria yang sama merentas semuanya. Sebagai contoh, bekalkan reka bentuk asal dan semakan, kemudian minta persamaan yang kelihatan, perbezaan dan butiran yang tidak dibuktikan imej. Asingkan pemerhatian daripada kesimpulan yang bergantung pada teks iringan. Ini memudahkan semakan output terhadap sumber sebenar.
Pengeluar melaporkan ujian pemahaman imej dengan sehingga lima imej input. Itu ialah skop ujian yang didokumenkan, bukannya had maksimum mutlak bilangan imej yang terpakai tanpa syarat. Kekalkan butiran yang diperlukan untuk soalan dan turutan imej. Menambah sejumlah besar imej yang tidak berkaitan tidak dengan sendirinya menetapkan perkara yang perlu dibandingkan.
Untuk tugas pengekodan, berikan keperluan, sumber berkaitan dan tingkah laku yang dijangka. Minta pelaksanaan yang dicadangkan secara berasingan daripada andaian dan contohnya. Tangkapan skrin boleh membekalkan keperluan visual, manakala syarat teks membekalkan tingkah laku yang tidak dapat ditunjukkan tangkapan skrin. Kod yang dijana ialah artifak teks; menjalankannya, memeriksa antara muka yang dipaparkan atau menerapkannya pada repositori memerlukan persekitaran yang disambungkan.
Penyediaan perbualan dan latihan
Kad model menunjukkan pemproses dan templat sembang yang sepadan dengan dua imej serta soalan perbandingan bertulis. Pastikan peranan perbualan dan kaitan imej dengan teks dinyatakan dengan jelas. Arahan system boleh menetapkan khalayak, nada dan struktur respons, manakala mesej user membekalkan tugas dan bukti sebenar. Pengeluar menerangkan penambahbaikan pascalatihan terhadap keboleharahan prom system dan pemformatan perbualan.
Maverick dipralatih pada kira-kira 22 trilion token data multimodal, dengan tarikh akhir data pralatihan yang dinyatakan pada Ogos 2024. Ini ialah sempadan data latihan statik dan bukannya akses langsung kepada maklumat semasa. Apabila soalan bergantung pada bahan lebih baharu atau persendirian, berikan bahan itu sebagai konteks sumber atau melalui operasi pemerolehan maklumat yang disambungkan secara berasingan.
Keluaran ini merangkumi pemberat BF16 dan FP8 yang dikuantisasi secara berasingan. Pilihan presisi itu tidak mencipta modaliti input lain atau memberikan konteks 10M Scout kepada Maverick. Kekalkan checkpoint Instruct yang tepat dan konfigurasinya apabila membandingkan tugas berulang atau penggunaan terbitan.
Reka bentuk hasil praktikal
Tugas imej dokumen boleh meminta pengecam sumber, pernyataan yang kelihatan, nilai yang diekstrak dan tafsiran sebagai medan berasingan. Penjelasan perbualan boleh mengekalkan istilah asal dan menyesuaikan prosa kepada bahasa pembaca yang disokong. Permintaan pengekodan boleh mengembalikan fragmen yang disemak serta contoh yang membezakan tingkah laku yang dimaksudkan.
Tetapkan cara hasil akhir akan digunakan sebelum membekalkan bahan. Kapsyen ringkas, jadual perbandingan dan program yang dicadangkan menyelesaikan tugas berbeza walaupun berkongsi imej yang sama. Keupayaan visual dan bahasa model membekalkan tafsiran dan teks; pemerolehan maklumat luaran, pelaksanaan atau penghasilan fail datang daripada komponen aplikasi.
Sempadan khusus
Input yang didokumenkan di sini ialah teks dan imej, dengan output teks dan kod. Pemahaman audio atau video, penjanaan pertuturan dan kawalan usaha penaakulan yang dinamakan dalam Muse Spark tidak patut diberikan kepada edisi Maverick ini. Llama Guard juga ialah pengelas yang dilatih secara berasingan dan bukannya output pengelas automatik daripada jawapan Maverick.
Contoh penjanaan 256 token dalam kad ialah tetapan contoh, dan sumber yang dibaca tidak menetapkan had maksimum mutlak token output secara berasingan di luar spesifikasi konteks model. Pastikan identiti Maverick, skop bahasa yang disokong dan artifak akhir berkaitan sumber dinyatakan dengan jelas dan bukannya meminjam had atau mod daripada keluaran Llama lain.
POST /v1/chat/completionstexttext| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had llama-4-maverick | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had Item minimum: 1 | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had Bergantung pada model | Lalai— |
Medanmessages[].content | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: Perbualan teks | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontraktatasusunan mesej dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 sebenar dimasukkan sebagai teks literal; ID fail tidak diandaikan |
Parameteroptional_controls | Kontrakstream |
Parametercontrol_scope | KontrakPerbualan teks; stream ialah nilai boolean dengan false sebagai lalai. |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Alias kaedah: /chat/completions
Kitar hayat: synchronous_or_streamed
Hantar ID model yang tepat bersama messages.
Panjang konteks bukan had output.
Fail teks boleh membekalkan teks literal; input imej/audio/objek fail memerlukan pengikatan tepat.
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.000375 / 1K token Output · Token output $0.001305 / 1K token Input · Bacaan cache $0.0001 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.000375 / 1K token Output · Token output $0.001305 / 1K token Input · Bacaan cache $0.0001 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"llama-4-maverick","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="llama-4-maverick", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan setiap pilihan jawapan bersama kandungan, panggilan alat dan penaakulannya. Dalam SSE, gabungkan delta mengikut indeks pilihan jawapan/alat dan kekalkan sebab penamatan akhir serta data penggunaan.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanchoices[].index | Jenisinteger |
Medanchoices[].message.content | Jenisstring|null |
Medanchoices[].message.tool_calls | Jenistool_call[] |
Medanchoices[].message.reasoning_content | Jenisstring |
Medanchoices[].message.reasoning_details | Jenisobject|array |
Medanchoices[].finish_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra llama-4-maverick, meta-llama/llama-4-maverick
/chat/completions
llama-4-maverickLlama 4 Maverick ialah model Instruct teks dan imej natif Meta dengan 128 pakar, 17B parameter aktif dan 400B parameter keseluruhan. Pengeluarnya mendokumenkan konteks 1M, output teks/kod berbilang bahasa, pengecaman visual, penjanaan kapsyen dan soalan imej dalam keluaran yang berbeza daripada Scout.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Llama 4 Maverick Instruct ialah model multimodal natif Meta untuk perbualan seperti pembantu dan penaakulan visual. Model ini menerima teks berbilang bahasa dan imej serta menjana teks berbilang bahasa atau kod. Seni bina campuran pakarnya menggunakan penggabungan awal, menggabungkan maklumat visual dan teks dalam model dan bukannya menganggap imej sebagai kapsyen tidak berkaitan yang dibekalkan oleh pembantu teks berasingan.
Maklumat model dan konteks
Pengeluar menyenaraikan 128 pakar, 17 bilion parameter aktif dan 400 bilion parameter keseluruhan untuk Maverick. Ini berbeza daripada konfigurasi Scout dengan 16 pakar dan 109B keseluruhan walaupun kedua-duanya menggunakan label saiz aktif 17B. Nama Instruct mengenal pasti checkpoint berorientasikan pembantu dan bukannya model Maverick pralatih.
Kad model mendokumenkan tetingkap konteks 1M untuk Maverick. Gunakan konteks untuk menyimpan petikan, imej, perbualan dan jawapan yang diminta yang berkaitan bersama-sama. Himpunan sumber yang besar masih memerlukan soalan dan artifak yang ditetapkan. Labelkan dokumen sumber dan imej serta minta lokasi yang menyokong setiap penemuan yang diekstrak dan bukannya meminta ringkasan tanpa arah bagi semua bahan.
Bahasa yang disokong ialah bahasa Arab, Inggeris, Perancis, Jerman, Hindi, Indonesia, Itali, Portugis, Sepanyol, Tagalog, Thai dan Vietnam. Pengeluar membezakan dua belas bahasa yang disokong ini daripada himpunan lebih luas kira-kira dua ratus bahasa yang digunakan dalam pralatihan. Kehadiran bahasa dalam latihan tidak patut ditukar menjadi janji keupayaan sama bagi setiap bahasa.
Tugas sembang, penglihatan dan kod
Kegunaan visual yang dimaksudkan dalam kad merangkumi pengecaman, penaakulan imej, penjanaan kapsyen dan menjawab soalan umum tentang imej. Untuk foto, minta model mengenal pasti objek atau hubungan yang berkaitan dengan tugas. Untuk carta, minta perbandingan antara siri yang dinamakan, dengan paksi dan unit dikekalkan. Untuk rajah, tanya sambungan berlabel yang menyokong keperluan yang dibekalkan.
Untuk perbandingan berbilang imej, kenal pasti peranan setiap imej dan minta kriteria yang sama merentas semuanya. Sebagai contoh, bekalkan reka bentuk asal dan semakan, kemudian minta persamaan yang kelihatan, perbezaan dan butiran yang tidak dibuktikan imej. Asingkan pemerhatian daripada kesimpulan yang bergantung pada teks iringan. Ini memudahkan semakan output terhadap sumber sebenar.
Pengeluar melaporkan ujian pemahaman imej dengan sehingga lima imej input. Itu ialah skop ujian yang didokumenkan, bukannya had maksimum mutlak bilangan imej yang terpakai tanpa syarat. Kekalkan butiran yang diperlukan untuk soalan dan turutan imej. Menambah sejumlah besar imej yang tidak berkaitan tidak dengan sendirinya menetapkan perkara yang perlu dibandingkan.
Untuk tugas pengekodan, berikan keperluan, sumber berkaitan dan tingkah laku yang dijangka. Minta pelaksanaan yang dicadangkan secara berasingan daripada andaian dan contohnya. Tangkapan skrin boleh membekalkan keperluan visual, manakala syarat teks membekalkan tingkah laku yang tidak dapat ditunjukkan tangkapan skrin. Kod yang dijana ialah artifak teks; menjalankannya, memeriksa antara muka yang dipaparkan atau menerapkannya pada repositori memerlukan persekitaran yang disambungkan.
Penyediaan perbualan dan latihan
Kad model menunjukkan pemproses dan templat sembang yang sepadan dengan dua imej serta soalan perbandingan bertulis. Pastikan peranan perbualan dan kaitan imej dengan teks dinyatakan dengan jelas. Arahan system boleh menetapkan khalayak, nada dan struktur respons, manakala mesej user membekalkan tugas dan bukti sebenar. Pengeluar menerangkan penambahbaikan pascalatihan terhadap keboleharahan prom system dan pemformatan perbualan.
Maverick dipralatih pada kira-kira 22 trilion token data multimodal, dengan tarikh akhir data pralatihan yang dinyatakan pada Ogos 2024. Ini ialah sempadan data latihan statik dan bukannya akses langsung kepada maklumat semasa. Apabila soalan bergantung pada bahan lebih baharu atau persendirian, berikan bahan itu sebagai konteks sumber atau melalui operasi pemerolehan maklumat yang disambungkan secara berasingan.
Keluaran ini merangkumi pemberat BF16 dan FP8 yang dikuantisasi secara berasingan. Pilihan presisi itu tidak mencipta modaliti input lain atau memberikan konteks 10M Scout kepada Maverick. Kekalkan checkpoint Instruct yang tepat dan konfigurasinya apabila membandingkan tugas berulang atau penggunaan terbitan.
Reka bentuk hasil praktikal
Tugas imej dokumen boleh meminta pengecam sumber, pernyataan yang kelihatan, nilai yang diekstrak dan tafsiran sebagai medan berasingan. Penjelasan perbualan boleh mengekalkan istilah asal dan menyesuaikan prosa kepada bahasa pembaca yang disokong. Permintaan pengekodan boleh mengembalikan fragmen yang disemak serta contoh yang membezakan tingkah laku yang dimaksudkan.
Tetapkan cara hasil akhir akan digunakan sebelum membekalkan bahan. Kapsyen ringkas, jadual perbandingan dan program yang dicadangkan menyelesaikan tugas berbeza walaupun berkongsi imej yang sama. Keupayaan visual dan bahasa model membekalkan tafsiran dan teks; pemerolehan maklumat luaran, pelaksanaan atau penghasilan fail datang daripada komponen aplikasi.
Sempadan khusus
Input yang didokumenkan di sini ialah teks dan imej, dengan output teks dan kod. Pemahaman audio atau video, penjanaan pertuturan dan kawalan usaha penaakulan yang dinamakan dalam Muse Spark tidak patut diberikan kepada edisi Maverick ini. Llama Guard juga ialah pengelas yang dilatih secara berasingan dan bukannya output pengelas automatik daripada jawapan Maverick.
Contoh penjanaan 256 token dalam kad ialah tetapan contoh, dan sumber yang dibaca tidak menetapkan had maksimum mutlak token output secara berasingan di luar spesifikasi konteks model. Pastikan identiti Maverick, skop bahasa yang disokong dan artifak akhir berkaitan sumber dinyatakan dengan jelas dan bukannya meminjam had atau mod daripada keluaran Llama lain.
POST /v1/messagestextjson, sse| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had llama-4-maverick | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had user, assistant | Lalai— |
Medanmessages[].content | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Teks · Teks UTF-8
rentetan messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 sebenar dan letakkan teksnya dalam rentetan input atau kandungan mesej yang ditunjukkan. |
Kitar hayat: synchronous_or_streamed
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.000375 / 1K token Output · Token output $0.001305 / 1K token Input · Bacaan cache $0.0001 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.000375 / 1K token Output · Token output $0.001305 / 1K token Input · Bacaan cache $0.0001 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
{\n "model": "llama-4-maverick",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'llama-4-maverick', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'llama-4-maverick', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan semua blok kandungan, tandatangan penaakulan dan ID penggunaan alat sebenar. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan output.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanid | Jenisstring |
Medanmodel | Jenisstring |
Medancontent[] | Jenistext|thinking|tool_use|other content block |
Medanstop_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra llama-4-maverick, meta-llama/llama-4-maverick
/chat/completions
meta-llama/llama-4-maverickLlama 4 Maverick ialah model Instruct teks dan imej natif Meta dengan 128 pakar, 17B parameter aktif dan 400B parameter keseluruhan. Pengeluarnya mendokumenkan konteks 1M, output teks/kod berbilang bahasa, pengecaman visual, penjanaan kapsyen dan soalan imej dalam keluaran yang berbeza daripada Scout.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Llama 4 Maverick Instruct ialah model multimodal natif Meta untuk perbualan seperti pembantu dan penaakulan visual. Model ini menerima teks berbilang bahasa dan imej serta menjana teks berbilang bahasa atau kod. Seni bina campuran pakarnya menggunakan penggabungan awal, menggabungkan maklumat visual dan teks dalam model dan bukannya menganggap imej sebagai kapsyen tidak berkaitan yang dibekalkan oleh pembantu teks berasingan.
Maklumat model dan konteks
Pengeluar menyenaraikan 128 pakar, 17 bilion parameter aktif dan 400 bilion parameter keseluruhan untuk Maverick. Ini berbeza daripada konfigurasi Scout dengan 16 pakar dan 109B keseluruhan walaupun kedua-duanya menggunakan label saiz aktif 17B. Nama Instruct mengenal pasti checkpoint berorientasikan pembantu dan bukannya model Maverick pralatih.
Kad model mendokumenkan tetingkap konteks 1M untuk Maverick. Gunakan konteks untuk menyimpan petikan, imej, perbualan dan jawapan yang diminta yang berkaitan bersama-sama. Himpunan sumber yang besar masih memerlukan soalan dan artifak yang ditetapkan. Labelkan dokumen sumber dan imej serta minta lokasi yang menyokong setiap penemuan yang diekstrak dan bukannya meminta ringkasan tanpa arah bagi semua bahan.
Bahasa yang disokong ialah bahasa Arab, Inggeris, Perancis, Jerman, Hindi, Indonesia, Itali, Portugis, Sepanyol, Tagalog, Thai dan Vietnam. Pengeluar membezakan dua belas bahasa yang disokong ini daripada himpunan lebih luas kira-kira dua ratus bahasa yang digunakan dalam pralatihan. Kehadiran bahasa dalam latihan tidak patut ditukar menjadi janji keupayaan sama bagi setiap bahasa.
Tugas sembang, penglihatan dan kod
Kegunaan visual yang dimaksudkan dalam kad merangkumi pengecaman, penaakulan imej, penjanaan kapsyen dan menjawab soalan umum tentang imej. Untuk foto, minta model mengenal pasti objek atau hubungan yang berkaitan dengan tugas. Untuk carta, minta perbandingan antara siri yang dinamakan, dengan paksi dan unit dikekalkan. Untuk rajah, tanya sambungan berlabel yang menyokong keperluan yang dibekalkan.
Untuk perbandingan berbilang imej, kenal pasti peranan setiap imej dan minta kriteria yang sama merentas semuanya. Sebagai contoh, bekalkan reka bentuk asal dan semakan, kemudian minta persamaan yang kelihatan, perbezaan dan butiran yang tidak dibuktikan imej. Asingkan pemerhatian daripada kesimpulan yang bergantung pada teks iringan. Ini memudahkan semakan output terhadap sumber sebenar.
Pengeluar melaporkan ujian pemahaman imej dengan sehingga lima imej input. Itu ialah skop ujian yang didokumenkan, bukannya had maksimum mutlak bilangan imej yang terpakai tanpa syarat. Kekalkan butiran yang diperlukan untuk soalan dan turutan imej. Menambah sejumlah besar imej yang tidak berkaitan tidak dengan sendirinya menetapkan perkara yang perlu dibandingkan.
Untuk tugas pengekodan, berikan keperluan, sumber berkaitan dan tingkah laku yang dijangka. Minta pelaksanaan yang dicadangkan secara berasingan daripada andaian dan contohnya. Tangkapan skrin boleh membekalkan keperluan visual, manakala syarat teks membekalkan tingkah laku yang tidak dapat ditunjukkan tangkapan skrin. Kod yang dijana ialah artifak teks; menjalankannya, memeriksa antara muka yang dipaparkan atau menerapkannya pada repositori memerlukan persekitaran yang disambungkan.
Penyediaan perbualan dan latihan
Kad model menunjukkan pemproses dan templat sembang yang sepadan dengan dua imej serta soalan perbandingan bertulis. Pastikan peranan perbualan dan kaitan imej dengan teks dinyatakan dengan jelas. Arahan system boleh menetapkan khalayak, nada dan struktur respons, manakala mesej user membekalkan tugas dan bukti sebenar. Pengeluar menerangkan penambahbaikan pascalatihan terhadap keboleharahan prom system dan pemformatan perbualan.
Maverick dipralatih pada kira-kira 22 trilion token data multimodal, dengan tarikh akhir data pralatihan yang dinyatakan pada Ogos 2024. Ini ialah sempadan data latihan statik dan bukannya akses langsung kepada maklumat semasa. Apabila soalan bergantung pada bahan lebih baharu atau persendirian, berikan bahan itu sebagai konteks sumber atau melalui operasi pemerolehan maklumat yang disambungkan secara berasingan.
Keluaran ini merangkumi pemberat BF16 dan FP8 yang dikuantisasi secara berasingan. Pilihan presisi itu tidak mencipta modaliti input lain atau memberikan konteks 10M Scout kepada Maverick. Kekalkan checkpoint Instruct yang tepat dan konfigurasinya apabila membandingkan tugas berulang atau penggunaan terbitan.
Reka bentuk hasil praktikal
Tugas imej dokumen boleh meminta pengecam sumber, pernyataan yang kelihatan, nilai yang diekstrak dan tafsiran sebagai medan berasingan. Penjelasan perbualan boleh mengekalkan istilah asal dan menyesuaikan prosa kepada bahasa pembaca yang disokong. Permintaan pengekodan boleh mengembalikan fragmen yang disemak serta contoh yang membezakan tingkah laku yang dimaksudkan.
Tetapkan cara hasil akhir akan digunakan sebelum membekalkan bahan. Kapsyen ringkas, jadual perbandingan dan program yang dicadangkan menyelesaikan tugas berbeza walaupun berkongsi imej yang sama. Keupayaan visual dan bahasa model membekalkan tafsiran dan teks; pemerolehan maklumat luaran, pelaksanaan atau penghasilan fail datang daripada komponen aplikasi.
Sempadan khusus
Input yang didokumenkan di sini ialah teks dan imej, dengan output teks dan kod. Pemahaman audio atau video, penjanaan pertuturan dan kawalan usaha penaakulan yang dinamakan dalam Muse Spark tidak patut diberikan kepada edisi Maverick ini. Llama Guard juga ialah pengelas yang dilatih secara berasingan dan bukannya output pengelas automatik daripada jawapan Maverick.
Contoh penjanaan 256 token dalam kad ialah tetapan contoh, dan sumber yang dibaca tidak menetapkan had maksimum mutlak token output secara berasingan di luar spesifikasi konteks model. Pastikan identiti Maverick, skop bahasa yang disokong dan artifak akhir berkaitan sumber dinyatakan dengan jelas dan bukannya meminjam had atau mod daripada keluaran Llama lain.
POST /v1/chat/completionstexttext| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had meta-llama/llama-4-maverick | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had Item minimum: 1 | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had Contoh: system, user, assistant, tool, function Syarat: Peranan ini diwakili secara eksplisit oleh jenis keserasian dalam kod sumber; set peranan model yang tepat kekal khusus untuk setiap model. Bergantung pada model | Lalai— |
Medanmessages[].content | Jenisstring|content_part[]|null | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_calls | Jenistool_call[] | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_call_id | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: role=tool; gunakan ID sebenar yang dipulangkan | Lalai— |
Medanmessages[].name | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].reasoning_content | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: Hantar semula penaakulan sebenar yang dipulangkan apabila model ini menggunakannya | Lalai— |
Medanmessages[].reasoning_details | Jenisobject|array | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanmax_completion_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Medanstream_options.include_usage | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantemperature | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantop_p | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanstop | Jenisstring|string[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools | Jenisfunction_tool[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools[].type | Jenisstring | KeperluanPilihan | Nilai & had function Bergantung pada model | Lalai— |
Medantools[].function.name | Jenisstring | KeperluanDiperlukan | Nilai & had Terpakai apabila: alat fungsi dibekalkan | Lalai— |
Medantools[].function.description | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medantools[].function.parameters | JenisJSON_schema | KeperluanPilihan | Nilai & had | Lalai— |
Medantool_choice | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanparallel_tool_calls | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanresponse_format | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning_effort | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanservice_tier | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medaninstructions | Jenisstring | KeperluanPilihan | Nilai & had Medan keserasian | Lalai— |
Medanfunctions | Jenisfunction[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanfunction_call | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanprompt_cache_options | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmodalities | Jenisstring[] | KeperluanPilihan | Nilai & had text | Lalai— |
Medanprovider | Jenisobject | KeperluanPilihan | Nilai & had Syarat: provider.options ditolak pada laluan teks Ultra ini | Lalai— |
Medancache_control.ttl | Jenisstring | KeperluanPilihan | Nilai & had Syarat: 1h ditolak pada lokasi cache prompt yang digunakan | Lalai— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontraktatasusunan mesej dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 sebenar dimasukkan sebagai teks literal; ID fail tidak diandaikan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeza daripada alat yang dihoskan |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Kitar hayat: synchronous_or_streamed
Hantar ID model yang tepat bersama messages.
Panjang konteks bukan had output.
Fail teks boleh membekalkan teks literal; input imej/audio/objek fail memerlukan pengikatan tepat.
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.000375 / 1K token Output · Token output $0.001305 / 1K token Input · Bacaan cache $0.0001 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.000375 / 1K token Output · Token output $0.001305 / 1K token Input · Bacaan cache $0.0001 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-4-maverick", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-4-maverick',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-4-maverick',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan setiap pilihan jawapan bersama kandungan, panggilan alat dan penaakulannya. Dalam SSE, gabungkan delta mengikut indeks pilihan jawapan/alat dan kekalkan sebab penamatan akhir serta data penggunaan.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanchoices[].index | Jenisinteger |
Medanchoices[].message.content | Jenisstring|null |
Medanchoices[].message.tool_calls | Jenistool_call[] |
Medanchoices[].message.reasoning_content | Jenisstring |
Medanchoices[].message.reasoning_details | Jenisobject|array |
Medanchoices[].finish_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra llama-4-maverick, meta-llama/llama-4-maverick
/chat/completions
meta-llama/llama-4-maverickLlama 4 Maverick ialah model Instruct teks dan imej natif Meta dengan 128 pakar, 17B parameter aktif dan 400B parameter keseluruhan. Pengeluarnya mendokumenkan konteks 1M, output teks/kod berbilang bahasa, pengecaman visual, penjanaan kapsyen dan soalan imej dalam keluaran yang berbeza daripada Scout.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Llama 4 Maverick Instruct ialah model multimodal natif Meta untuk perbualan seperti pembantu dan penaakulan visual. Model ini menerima teks berbilang bahasa dan imej serta menjana teks berbilang bahasa atau kod. Seni bina campuran pakarnya menggunakan penggabungan awal, menggabungkan maklumat visual dan teks dalam model dan bukannya menganggap imej sebagai kapsyen tidak berkaitan yang dibekalkan oleh pembantu teks berasingan.
Maklumat model dan konteks
Pengeluar menyenaraikan 128 pakar, 17 bilion parameter aktif dan 400 bilion parameter keseluruhan untuk Maverick. Ini berbeza daripada konfigurasi Scout dengan 16 pakar dan 109B keseluruhan walaupun kedua-duanya menggunakan label saiz aktif 17B. Nama Instruct mengenal pasti checkpoint berorientasikan pembantu dan bukannya model Maverick pralatih.
Kad model mendokumenkan tetingkap konteks 1M untuk Maverick. Gunakan konteks untuk menyimpan petikan, imej, perbualan dan jawapan yang diminta yang berkaitan bersama-sama. Himpunan sumber yang besar masih memerlukan soalan dan artifak yang ditetapkan. Labelkan dokumen sumber dan imej serta minta lokasi yang menyokong setiap penemuan yang diekstrak dan bukannya meminta ringkasan tanpa arah bagi semua bahan.
Bahasa yang disokong ialah bahasa Arab, Inggeris, Perancis, Jerman, Hindi, Indonesia, Itali, Portugis, Sepanyol, Tagalog, Thai dan Vietnam. Pengeluar membezakan dua belas bahasa yang disokong ini daripada himpunan lebih luas kira-kira dua ratus bahasa yang digunakan dalam pralatihan. Kehadiran bahasa dalam latihan tidak patut ditukar menjadi janji keupayaan sama bagi setiap bahasa.
Tugas sembang, penglihatan dan kod
Kegunaan visual yang dimaksudkan dalam kad merangkumi pengecaman, penaakulan imej, penjanaan kapsyen dan menjawab soalan umum tentang imej. Untuk foto, minta model mengenal pasti objek atau hubungan yang berkaitan dengan tugas. Untuk carta, minta perbandingan antara siri yang dinamakan, dengan paksi dan unit dikekalkan. Untuk rajah, tanya sambungan berlabel yang menyokong keperluan yang dibekalkan.
Untuk perbandingan berbilang imej, kenal pasti peranan setiap imej dan minta kriteria yang sama merentas semuanya. Sebagai contoh, bekalkan reka bentuk asal dan semakan, kemudian minta persamaan yang kelihatan, perbezaan dan butiran yang tidak dibuktikan imej. Asingkan pemerhatian daripada kesimpulan yang bergantung pada teks iringan. Ini memudahkan semakan output terhadap sumber sebenar.
Pengeluar melaporkan ujian pemahaman imej dengan sehingga lima imej input. Itu ialah skop ujian yang didokumenkan, bukannya had maksimum mutlak bilangan imej yang terpakai tanpa syarat. Kekalkan butiran yang diperlukan untuk soalan dan turutan imej. Menambah sejumlah besar imej yang tidak berkaitan tidak dengan sendirinya menetapkan perkara yang perlu dibandingkan.
Untuk tugas pengekodan, berikan keperluan, sumber berkaitan dan tingkah laku yang dijangka. Minta pelaksanaan yang dicadangkan secara berasingan daripada andaian dan contohnya. Tangkapan skrin boleh membekalkan keperluan visual, manakala syarat teks membekalkan tingkah laku yang tidak dapat ditunjukkan tangkapan skrin. Kod yang dijana ialah artifak teks; menjalankannya, memeriksa antara muka yang dipaparkan atau menerapkannya pada repositori memerlukan persekitaran yang disambungkan.
Penyediaan perbualan dan latihan
Kad model menunjukkan pemproses dan templat sembang yang sepadan dengan dua imej serta soalan perbandingan bertulis. Pastikan peranan perbualan dan kaitan imej dengan teks dinyatakan dengan jelas. Arahan system boleh menetapkan khalayak, nada dan struktur respons, manakala mesej user membekalkan tugas dan bukti sebenar. Pengeluar menerangkan penambahbaikan pascalatihan terhadap keboleharahan prom system dan pemformatan perbualan.
Maverick dipralatih pada kira-kira 22 trilion token data multimodal, dengan tarikh akhir data pralatihan yang dinyatakan pada Ogos 2024. Ini ialah sempadan data latihan statik dan bukannya akses langsung kepada maklumat semasa. Apabila soalan bergantung pada bahan lebih baharu atau persendirian, berikan bahan itu sebagai konteks sumber atau melalui operasi pemerolehan maklumat yang disambungkan secara berasingan.
Keluaran ini merangkumi pemberat BF16 dan FP8 yang dikuantisasi secara berasingan. Pilihan presisi itu tidak mencipta modaliti input lain atau memberikan konteks 10M Scout kepada Maverick. Kekalkan checkpoint Instruct yang tepat dan konfigurasinya apabila membandingkan tugas berulang atau penggunaan terbitan.
Reka bentuk hasil praktikal
Tugas imej dokumen boleh meminta pengecam sumber, pernyataan yang kelihatan, nilai yang diekstrak dan tafsiran sebagai medan berasingan. Penjelasan perbualan boleh mengekalkan istilah asal dan menyesuaikan prosa kepada bahasa pembaca yang disokong. Permintaan pengekodan boleh mengembalikan fragmen yang disemak serta contoh yang membezakan tingkah laku yang dimaksudkan.
Tetapkan cara hasil akhir akan digunakan sebelum membekalkan bahan. Kapsyen ringkas, jadual perbandingan dan program yang dicadangkan menyelesaikan tugas berbeza walaupun berkongsi imej yang sama. Keupayaan visual dan bahasa model membekalkan tafsiran dan teks; pemerolehan maklumat luaran, pelaksanaan atau penghasilan fail datang daripada komponen aplikasi.
Sempadan khusus
Input yang didokumenkan di sini ialah teks dan imej, dengan output teks dan kod. Pemahaman audio atau video, penjanaan pertuturan dan kawalan usaha penaakulan yang dinamakan dalam Muse Spark tidak patut diberikan kepada edisi Maverick ini. Llama Guard juga ialah pengelas yang dilatih secara berasingan dan bukannya output pengelas automatik daripada jawapan Maverick.
Contoh penjanaan 256 token dalam kad ialah tetapan contoh, dan sumber yang dibaca tidak menetapkan had maksimum mutlak token output secara berasingan di luar spesifikasi konteks model. Pastikan identiti Maverick, skop bahasa yang disokong dan artifak akhir berkaitan sumber dinyatakan dengan jelas dan bukannya meminjam had atau mod daripada keluaran Llama lain.
POST /v1/messagestextjson, sse| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had meta-llama/llama-4-maverick | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had user, assistant | Lalai— |
Medanmessages[].content | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Teks · Teks UTF-8
rentetan messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 sebenar dan letakkan teksnya dalam rentetan input atau kandungan mesej yang ditunjukkan. |
Kitar hayat: synchronous_or_streamed
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.000375 / 1K token Output · Token output $0.001305 / 1K token Input · Bacaan cache $0.0001 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.000375 / 1K token Output · Token output $0.001305 / 1K token Input · Bacaan cache $0.0001 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
{\n "model": "meta-llama/llama-4-maverick",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-4-maverick', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-4-maverick', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan semua blok kandungan, tandatangan penaakulan dan ID penggunaan alat sebenar. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan output.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanid | Jenisstring |
Medanmodel | Jenisstring |
Medancontent[] | Jenistext|thinking|tool_use|other content block |
Medanstop_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra llama-4-maverick, meta-llama/llama-4-maverick
/chat/completions
Contoh teknikal dalam bahasa Inggeris
Explain a return policy in Spanish\n\nExplain this policy in Spanish to a customer, keeping product code ZX-14 unchanged: 'Unused ZX-14 items may be returned within 14 days of delivery. Personalized items are excluded. A purchase receipt is required.' Use three short bullets and retain the distinction between ordinary and personalized items. Base the answer only on this supplied policy.Three Spanish policy bullets retaining the code, time trigger, exclusion and receipt requirement.ZX-14 must stay exact, and the exception for personalized items must not disappear.