Ministral 3 8B Instruct 2512 ialah model bersaiz pertengahan dalam keluarga Ministral 3 Mistral AI yang dilaraskan untuk mengikuti arahan. Titik semak yang dikeluarkan menjalani pascalatihan untuk tugas sembang dan arahan dalam kejituan FP8. Ia menggabungkan komponen bahasa dengan pengekod penglihatan, menerima teks dan imej serta mengembalikan teks dan bukannya artifak imej atau audio.
Seni bina dan ciri utama
Pembuat menyenaraikan model bahasa dengan 8.4 bilion parameter dan pengekod penglihatan dengan 0.4 bilion parameter. Tetingkap konteksnya diterangkan sebagai 256k, dan nota penggunaan yang diterbitkan menggunakan panjang terkonfigurasi lalai 262,144. Ini menerangkan edisi bersaiz 8B ini; ahli keluarga 3B yang lebih kecil dan 14B yang lebih besar mengekalkan saiz komponen dan konfigurasinya sendiri.
Penglihatan memperluas input model melangkaui perbualan bertulis. Imej dokumen boleh dipadankan dengan soalan tentang medan, perenggan atau hubungan yang kelihatan yang dipilih. Tangkapan skrin boleh dipadankan dengan matlamat pengguna dan permintaan untuk mengenal pasti kawalan berkaitan. Minta pemerhatian yang menyokong setiap kesimpulan apabila jawapan bergantung pada butiran visual, dan kekalkan tajuk, label serta unit yang diperlukan untuk mentafsirkan potongan.
Kad model menerangkan kerja berbilang bahasa merangkumi puluhan bahasa, termasuk bahasa Inggeris, Perancis, Sepanyol, Jerman, Itali, Portugis, Belanda, Cina, Jepun, Korea dan Arab. Ia turut mengenal pasti kepatuhan kepada arahan sistem, panggilan fungsi asli dan output JSON. Takrifkan bahasa akhir, peranan dan keperluan output secara jelas dan jangan biarkan model menyimpulkan artifak yang dimaksudkan daripada input besar.
Tugas dokumen, perbualan dan ejen
Kes penggunaan pembuat merangkumi antara muka sembang, pembantu harian, perihalan imej dan dokumen, terjemahan, penjanaan kandungan dan ejen khusus. Untuk pembantu dokumen, berikan halaman dan nyatakan maklumat yang perlu dikembalikan. Permintaan pengekstrakan boleh menamakan label medan, jenis yang dijangka dan cara menangani nilai yang tiada. Jawapan yang berguna mungkin mengandungi pengecam dokumen, nilai yang diekstrak dan penjelasan ringkas yang terikat pada sumber yang kelihatan.
Untuk perbualan berterusan, kekalkan jawapan terdahulu yang relevan dan tanya soalan susulan berfokus. Pengguna boleh terlebih dahulu meminta ringkasan dokumen dan kemudian bertanya pernyataan yang menyokong satu kesimpulan. Ini mengubah output yang diperlukan daripada gambaran umum kepada penjelasan berhubung sumber sambil mengekalkan bahan asal dan tujuan dialog.
Untuk penyuntingan berbilang bahasa, berikan petikan asal, pembaca yang dimaksudkan dan senarai istilah. Minta versi semakan yang mengekalkan nama, syarat dan unit, diikuti penjelasan ringkas tentang perubahan jika berguna. Untuk penjanaan kandungan, nyatakan khalayak dan fakta yang perlu muncul sebelum meminta draf pendek atau ungkapan alternatif.
Dalam tugas ejen, aplikasi menyediakan alat dan parameternya. Model boleh memilih fungsi dan menyediakan argumen, manakala aplikasi melaksanakannya dan mengembalikan hasil. Contoh fungsi dalam kad model menggabungkan soalan imej dengan alat pengiraan. Kekalkan hasil alat secara berasingan daripada panggilan yang dicadangkan supaya jawapan bertulis seterusnya menggunakan maklumat yang benar-benar dikembalikan oleh operasi.
Penyediaan dan tetapan yang disyorkan
Pembuat mengesyorkan arahan sistem yang menerangkan persekitaran, kes penggunaan dan cara alat perlu digunakan. Pastikan set alat ditakrifkan dengan baik dan terhad kepada minimum yang diperlukan untuk tugas. Aliran kerja carian kecil boleh menawarkan fungsi yang relevan untuk soalan semasa, dengan argumen wajib yang dinamakan secara jelas, dan bukannya membentangkan koleksi besar operasi yang tidak berkaitan.
Untuk kegunaan harian dan kegunaan seumpama produksi, kad model mengesyorkan suhu di bawah 0.1, dengan suhu lebih tinggi tersedia untuk penerokaan kreatif. Anggap ini sebagai syor untuk aliran kerja arahan, bukannya kawalan mod penaakulan yang berasingan. Keluarga ini mempunyai titik semak Base, Instruct dan Reasoning yang berbeza; entri ini ialah edisi Instruct 2512, bukannya keluaran Reasoning berasingan dengan saiz yang sama.
Untuk imej, pembuat mengesyorkan nisbah bidang hampir 1:1 dan mengelakkan input yang terlalu nipis atau terlalu lebar. Pangkas apabila diperlukan sambil mengekalkan label dan konteks yang diperlukan oleh soalan. Jika halaman mengandungi beberapa kawasan tidak berkaitan, kenal pasti bahagian yang hendak diperiksa dan hasil yang perlu dikembalikan. Imej yang jelas dan berfokus lebih berguna daripada meminta model meneka butiran kecil mana dalam halaman yang luas yang penting.
Batas konteks dan edisi
Rancang teks, imej, perbualan dan jawapan yang diingini mengikut konteks terkonfigurasi. Nota penggunaan secara jelas membenarkan pengurangan panjang model terkonfigurasi apabila kurang konteks diperlukan, jadi tetingkap penuh bukan arahan untuk mengisi setiap permintaan dengan semua bahan yang tersedia. Contoh penjanaan 512 token dalam kad model hanyalah tetapan contoh, dan sumber yang dibaca tidak menetapkan had keras panjang jawapan maksimum berasingan.
Titik semak FP8 Instruct, keluaran Base yang dilatih awal dan keluaran Reasoning ialah edisi berasingan. Pembuat turut menerangkan pengkhususan dan penalaan halus sebagai kes penggunaan. Kekalkan titik semak bernama dan pentokennya semasa menyediakan perbualan, dan pastikan penjanaan teks berbeza daripada akses repositori, pelaksanaan fungsi atau tindakan lain yang dibekalkan oleh aplikasi sekeliling.
", "aboutText": "Ministral 3 8B Instruct 2512 ialah model bersaiz pertengahan dalam keluarga Ministral 3 Mistral AI yang dilaraskan untuk mengikuti arahan. Titik semak yang dikeluarkan menjalani pascalatihan untuk tugas sembang dan arahan dalam kejituan FP8. Ia menggabungkan komponen bahasa dengan pengekod penglihatan, menerima teks dan imej serta mengembalikan teks dan bukannya artifak imej atau audio.\n\nSeni bina dan ciri utama\n\nPembuat menyenaraikan model bahasa dengan 8.4 bilion parameter dan pengekod penglihatan dengan 0.4 bilion parameter. Tetingkap konteksnya diterangkan sebagai 256k, dan nota penggunaan yang diterbitkan menggunakan panjang terkonfigurasi lalai 262,144. Ini menerangkan edisi bersaiz 8B ini; ahli keluarga 3B yang lebih kecil dan 14B yang lebih besar mengekalkan saiz komponen dan konfigurasinya sendiri.\n\nPenglihatan memperluas input model melangkaui perbualan bertulis. Imej dokumen boleh dipadankan dengan soalan tentang medan, perenggan atau hubungan yang kelihatan yang dipilih. Tangkapan skrin boleh dipadankan dengan matlamat pengguna dan permintaan untuk mengenal pasti kawalan berkaitan. Minta pemerhatian yang menyokong setiap kesimpulan apabila jawapan bergantung pada butiran visual, dan kekalkan tajuk, label serta unit yang diperlukan untuk mentafsirkan potongan.\n\nKad model menerangkan kerja berbilang bahasa merangkumi puluhan bahasa, termasuk bahasa Inggeris, Perancis, Sepanyol, Jerman, Itali, Portugis, Belanda, Cina, Jepun, Korea dan Arab. Ia turut mengenal pasti kepatuhan kepada arahan sistem, panggilan fungsi asli dan output JSON. Takrifkan bahasa akhir, peranan dan keperluan output secara jelas dan jangan biarkan model menyimpulkan artifak yang dimaksudkan daripada input besar.\n\nTugas dokumen, perbualan dan ejen\n\nKes penggunaan pembuat merangkumi antara muka sembang, pembantu harian, perihalan imej dan dokumen, terjemahan, penjanaan kandungan dan ejen khusus. Untuk pembantu dokumen, berikan halaman dan nyatakan maklumat yang perlu dikembalikan. Permintaan pengekstrakan boleh menamakan label medan, jenis yang dijangka dan cara menangani nilai yang tiada. Jawapan yang berguna mungkin mengandungi pengecam dokumen, nilai yang diekstrak dan penjelasan ringkas yang terikat pada sumber yang kelihatan.\n\nUntuk perbualan berterusan, kekalkan jawapan terdahulu yang relevan dan tanya soalan susulan berfokus. Pengguna boleh terlebih dahulu meminta ringkasan dokumen dan kemudian bertanya pernyataan yang menyokong satu kesimpulan. Ini mengubah output yang diperlukan daripada gambaran umum kepada penjelasan berhubung sumber sambil mengekalkan bahan asal dan tujuan dialog.\n\nUntuk penyuntingan berbilang bahasa, berikan petikan asal, pembaca yang dimaksudkan dan senarai istilah. Minta versi semakan yang mengekalkan nama, syarat dan unit, diikuti penjelasan ringkas tentang perubahan jika berguna. Untuk penjanaan kandungan, nyatakan khalayak dan fakta yang perlu muncul sebelum meminta draf pendek atau ungkapan alternatif.\n\nDalam tugas ejen, aplikasi menyediakan alat dan parameternya. Model boleh memilih fungsi dan menyediakan argumen, manakala aplikasi melaksanakannya dan mengembalikan hasil. Contoh fungsi dalam kad model menggabungkan soalan imej dengan alat pengiraan. Kekalkan hasil alat secara berasingan daripada panggilan yang dicadangkan supaya jawapan bertulis seterusnya menggunakan maklumat yang benar-benar dikembalikan oleh operasi.\n\nPenyediaan dan tetapan yang disyorkan\n\nPembuat mengesyorkan arahan sistem yang menerangkan persekitaran, kes penggunaan dan cara alat perlu digunakan. Pastikan set alat ditakrifkan dengan baik dan terhad kepada minimum yang diperlukan untuk tugas. Aliran kerja carian kecil boleh menawarkan fungsi yang relevan untuk soalan semasa, dengan argumen wajib yang dinamakan secara jelas, dan bukannya membentangkan koleksi besar operasi yang tidak berkaitan.\n\nUntuk kegunaan harian dan kegunaan seumpama produksi, kad model mengesyorkan suhu di bawah 0.1, dengan suhu lebih tinggi tersedia untuk penerokaan kreatif. Anggap ini sebagai syor untuk aliran kerja arahan, bukannya kawalan mod penaakulan yang berasingan. Keluarga ini mempunyai titik semak Base, Instruct dan Reasoning yang berbeza; entri ini ialah edisi Instruct 2512, bukannya keluaran Reasoning berasingan dengan saiz yang sama.\n\nUntuk imej, pembuat mengesyorkan nisbah bidang hampir 1:1 dan mengelakkan input yang terlalu nipis atau terlalu lebar. Pangkas apabila diperlukan sambil mengekalkan label dan konteks yang diperlukan oleh soalan. Jika halaman mengandungi beberapa kawasan tidak berkaitan, kenal pasti bahagian yang hendak diperiksa dan hasil yang perlu dikembalikan. Imej yang jelas dan berfokus lebih berguna daripada meminta model meneka butiran kecil mana dalam halaman yang luas yang penting.\n\nBatas konteks dan edisi\n\nRancang teks, imej, perbualan dan jawapan yang diingini mengikut konteks terkonfigurasi. Nota penggunaan secara jelas membenarkan pengurangan panjang model terkonfigurasi apabila kurang konteks diperlukan, jadi tetingkap penuh bukan arahan untuk mengisi setiap permintaan dengan semua bahan yang tersedia. Contoh penjanaan 512 token dalam kad model hanyalah tetapan contoh, dan sumber yang dibaca tidak menetapkan had keras panjang jawapan maksimum berasingan.\n\nTitik semak FP8 Instruct, keluaran Base yang dilatih awal dan keluaran Reasoning ialah edisi berasingan. Pembuat turut menerangkan pengkhususan dan penalaan halus sebagai kes penggunaan. Kekalkan titik semak bernama dan pentokennya semasa menyediakan perbualan, dan pastikan penjanaan teks berbeza daripada akses repositori, pelaksanaan fungsi atau tindakan lain yang dibekalkan oleh aplikasi sekeliling.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "bc5fe8bacdccd8b81077a6779a37aca879fcc5d5b66355533d039c6468296288", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "ms", "methods": [ { "html": "mistralai/ministral-8b-2512:batchMinistral 3 8B Instruct 2512 ialah model arahan teks dan imej berbilang bahasa dengan komponen bahasa 8.4B dan pengekod penglihatan 0.4B. Ia menyokong konteks 256k yang dinyatakan oleh pembuat, arahan sistem, JSON dan panggilan fungsi asli untuk pembantu dan aliran kerja dokumen.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Ministral 3 8B Instruct 2512 ialah model bersaiz pertengahan dalam keluarga Ministral 3 Mistral AI yang dilaraskan untuk mengikuti arahan. Titik semak yang dikeluarkan menjalani pascalatihan untuk tugas sembang dan arahan dalam kejituan FP8. Ia menggabungkan komponen bahasa dengan pengekod penglihatan, menerima teks dan imej serta mengembalikan teks dan bukannya artifak imej atau audio.
Seni bina dan ciri utama
Pembuat menyenaraikan model bahasa dengan 8.4 bilion parameter dan pengekod penglihatan dengan 0.4 bilion parameter. Tetingkap konteksnya diterangkan sebagai 256k, dan nota penggunaan yang diterbitkan menggunakan panjang terkonfigurasi lalai 262,144. Ini menerangkan edisi bersaiz 8B ini; ahli keluarga 3B yang lebih kecil dan 14B yang lebih besar mengekalkan saiz komponen dan konfigurasinya sendiri.
Penglihatan memperluas input model melangkaui perbualan bertulis. Imej dokumen boleh dipadankan dengan soalan tentang medan, perenggan atau hubungan yang kelihatan yang dipilih. Tangkapan skrin boleh dipadankan dengan matlamat pengguna dan permintaan untuk mengenal pasti kawalan berkaitan. Minta pemerhatian yang menyokong setiap kesimpulan apabila jawapan bergantung pada butiran visual, dan kekalkan tajuk, label serta unit yang diperlukan untuk mentafsirkan potongan.
Kad model menerangkan kerja berbilang bahasa merangkumi puluhan bahasa, termasuk bahasa Inggeris, Perancis, Sepanyol, Jerman, Itali, Portugis, Belanda, Cina, Jepun, Korea dan Arab. Ia turut mengenal pasti kepatuhan kepada arahan sistem, panggilan fungsi asli dan output JSON. Takrifkan bahasa akhir, peranan dan keperluan output secara jelas dan jangan biarkan model menyimpulkan artifak yang dimaksudkan daripada input besar.
Tugas dokumen, perbualan dan ejen
Kes penggunaan pembuat merangkumi antara muka sembang, pembantu harian, perihalan imej dan dokumen, terjemahan, penjanaan kandungan dan ejen khusus. Untuk pembantu dokumen, berikan halaman dan nyatakan maklumat yang perlu dikembalikan. Permintaan pengekstrakan boleh menamakan label medan, jenis yang dijangka dan cara menangani nilai yang tiada. Jawapan yang berguna mungkin mengandungi pengecam dokumen, nilai yang diekstrak dan penjelasan ringkas yang terikat pada sumber yang kelihatan.
Untuk perbualan berterusan, kekalkan jawapan terdahulu yang relevan dan tanya soalan susulan berfokus. Pengguna boleh terlebih dahulu meminta ringkasan dokumen dan kemudian bertanya pernyataan yang menyokong satu kesimpulan. Ini mengubah output yang diperlukan daripada gambaran umum kepada penjelasan berhubung sumber sambil mengekalkan bahan asal dan tujuan dialog.
Untuk penyuntingan berbilang bahasa, berikan petikan asal, pembaca yang dimaksudkan dan senarai istilah. Minta versi semakan yang mengekalkan nama, syarat dan unit, diikuti penjelasan ringkas tentang perubahan jika berguna. Untuk penjanaan kandungan, nyatakan khalayak dan fakta yang perlu muncul sebelum meminta draf pendek atau ungkapan alternatif.
Dalam tugas ejen, aplikasi menyediakan alat dan parameternya. Model boleh memilih fungsi dan menyediakan argumen, manakala aplikasi melaksanakannya dan mengembalikan hasil. Contoh fungsi dalam kad model menggabungkan soalan imej dengan alat pengiraan. Kekalkan hasil alat secara berasingan daripada panggilan yang dicadangkan supaya jawapan bertulis seterusnya menggunakan maklumat yang benar-benar dikembalikan oleh operasi.
Penyediaan dan tetapan yang disyorkan
Pembuat mengesyorkan arahan sistem yang menerangkan persekitaran, kes penggunaan dan cara alat perlu digunakan. Pastikan set alat ditakrifkan dengan baik dan terhad kepada minimum yang diperlukan untuk tugas. Aliran kerja carian kecil boleh menawarkan fungsi yang relevan untuk soalan semasa, dengan argumen wajib yang dinamakan secara jelas, dan bukannya membentangkan koleksi besar operasi yang tidak berkaitan.
Untuk kegunaan harian dan kegunaan seumpama produksi, kad model mengesyorkan suhu di bawah 0.1, dengan suhu lebih tinggi tersedia untuk penerokaan kreatif. Anggap ini sebagai syor untuk aliran kerja arahan, bukannya kawalan mod penaakulan yang berasingan. Keluarga ini mempunyai titik semak Base, Instruct dan Reasoning yang berbeza; entri ini ialah edisi Instruct 2512, bukannya keluaran Reasoning berasingan dengan saiz yang sama.
Untuk imej, pembuat mengesyorkan nisbah bidang hampir 1:1 dan mengelakkan input yang terlalu nipis atau terlalu lebar. Pangkas apabila diperlukan sambil mengekalkan label dan konteks yang diperlukan oleh soalan. Jika halaman mengandungi beberapa kawasan tidak berkaitan, kenal pasti bahagian yang hendak diperiksa dan hasil yang perlu dikembalikan. Imej yang jelas dan berfokus lebih berguna daripada meminta model meneka butiran kecil mana dalam halaman yang luas yang penting.
Batas konteks dan edisi
Rancang teks, imej, perbualan dan jawapan yang diingini mengikut konteks terkonfigurasi. Nota penggunaan secara jelas membenarkan pengurangan panjang model terkonfigurasi apabila kurang konteks diperlukan, jadi tetingkap penuh bukan arahan untuk mengisi setiap permintaan dengan semua bahan yang tersedia. Contoh penjanaan 512 token dalam kad model hanyalah tetapan contoh, dan sumber yang dibaca tidak menetapkan had keras panjang jawapan maksimum berasingan.
Titik semak FP8 Instruct, keluaran Base yang dilatih awal dan keluaran Reasoning ialah edisi berasingan. Pembuat turut menerangkan pengkhususan dan penalaan halus sebagai kes penggunaan. Kekalkan titik semak bernama dan pentokennya semasa menyediakan perbualan, dan pastikan penjanaan teks berbeza daripada akses repositori, pelaksanaan fungsi atau tindakan lain yang dibekalkan oleh aplikasi sekeliling.
POST /v1/batchestexttext| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanendpoint | Jenisstring | KeperluanDiperlukan | Nilai & had /v1/chat/completions | Lalai— |
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had mistralai/ministral-8b-2512:batch | Lalai— |
Medanrequests | Jenisbatch_item[] | KeperluanDiperlukan | Nilai & had Item minimum: 1 | Lalai— |
Medanrequests[].custom_id | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanrequests[].body.messages | Jenismessage[] | KeperluanDiperlukan | Nilai & had | Lalai— |
Medancompletion_window | Jenisstring | KeperluanPilihan | Nilai & had 24h | Lalai— |
Medanprovider | Jenisobject|null | KeperluanPilihan | Nilai & had | Lalai— |
Medanrequests[].body.model | Jenisstring | KeperluanPilihan | Nilai & had mistralai/ministral-8b-2512:batch, mistralai/ministral-8b-2512 | Lalai— |
Medanprovider.only | Jenisstring[] | KeperluanPilihan | Nilai & had mistral | Lalai— |
Medanprovider.allow_fallbacks | Jenisboolean|null | KeperluanPilihan | Nilai & had false, null | Lalai— |
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakendpoint, model, requests |
Parametermaterial_types | Kontraktext |
Parameterrepresentation | Kontrakrequests[] sebaris; setiap item mempunyai custom_id dan body |
Parameterrequest_endpoint_profile | Kontrak/v1/chat/completions |
Parameterfile_material | KontrakPemanggil boleh membaca JSONL UTF-8 sebenar secara setempat ke dalam requests[]. Tiada tujuan muat naik, input_file_id atau rujukan fail digunakan. Bahan pelanggan yang tiada atau kosong menghentikan persediaan sebelum POST. |
Parameterserialization_order | Kontrakendpoint, model, provider (jika dibekalkan), completion_window (jika dibekalkan), requests di akhir |
Parameteroptional_controls | Kontrakprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | KontrakBadan permintaan Chat Completions teks dalam pembungkus Batch sebaris yang didokumenkan. |
Kitar hayat: asynchronous
GET /v1/batches/{operation_id} · response.id sebenar daripada respons penciptaan asal; pengguna/kunci/kumpulan yang sama
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.00015 / 1K token Output · Token output $0.00015 / 1K token Input · Bacaan cache $0.000015 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.00015 / 1K token Output · Token output $0.00015 / 1K token Input · Bacaan cache $0.000015 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/ministral-8b-2512:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/ministral-8b-2512:batch', 'mistralai/ministral-8b-2512']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/ministral-8b-2512:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\nJSON results[].response.body sebaris
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nSimpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Simpan keseluruhan JSON status asal, setiap hasil/custom_id serta badan respons atau ralat yang lengkap. Simpan results[] yang telah selesai sebagai JSONL tanpa penapisan.
Simpan ID operasi asal. 503 result_pending_check mempunyai X-Should-Retry:false; jangan sekali-kali hantar semula kelompok asal yang hasilnya tidak diketahui.
| Medan | Jenis |
|---|---|
Medanresults[].custom_id | Jenisstring |
Medanresults[].response.body.choices[].message.content | Jenisstring|null |
Medanresults[].error | Jenisobject|null |
Medanusage | Jenisobject|null |
Medanid | Jenisstring |
Medanmodel | Jenisstring |
Medanendpoint | Jenisstring |
Medanstatus | Jenisstring |
Medanrequest_counts | Jenisobject |
Medanresults[].id | Jenisstring |
Medanresults[].response.status_code | Jenisinteger |
Medanresults[].response.request_id | Jenisstring |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratPembungkus sebaris yang didokumenkan tidak sah, kunci berulang, identiti item atau keupayaan model yang dikonfigurasikan bercanggah. | Langkah seterusnyaBetulkan medan yang dinyatakan sebelum sebarang penghantaran baharu. |
Respons401 · authentication_error | SyaratKunci API tidak sah. | Langkah seterusnyaGunakan kunci Ailoot yang dibenarkan. |
Respons403 · permission_error | SyaratKumpulan kelompok tidak tersedia. | Langkah seterusnyaSemak hak akses kunci/kumpulan. |
Respons422 · invalid_request_error | SyaratKelompok menggunakan pengebilan baki; penciptaan melalui langganan ditolak. | Langkah seterusnyaGunakan kumpulan yang dibenarkan untuk pengebilan melalui baki. |
Respons422 · price_unavailable | SyaratSebut harga tidak dapat diberikan untuk input kelompok. | Langkah seterusnyaSimpan respons; gunakan input keluarga API yang didokumenkan. |
Respons402 · billing_error | SyaratRizab kelompok tidak tersedia. | Langkah seterusnyaSelesaikan isu penerimaan permintaan sebelum menghantar permintaan baharu. |
Respons503 · price_unavailable | SyaratHarga kaedah kelompok/kadar natif tidak tersedia. | Langkah seterusnyaSimpan respons; jangan gantikan harga. |
Respons503 · api_error | SyaratLaluan pembekal yang tepat tidak tersedia. | Langkah seterusnyaSimpan respons untuk pembaikan laluan. |
Respons503 · result_pending_check | SyaratHasil asal memerlukan semakan; X-Should-Retry:false. | Langkah seterusnyaSimpan operation_id/id asal dan baca statusnya; jangan sekali-kali ulang POST asal. |
Respons404 · not_found | SyaratOperasi status kelompok tiada atau dimiliki oleh identiti lain. | Langkah seterusnyaGunakan id asal yang tepat serta pengguna/kunci/kumpulan yang sama. |
Ailoot Ultra mistralai/ministral-8b-2512:batch
Gunakan laluan kaedah yang dipaparkan di atas.