Mistral: Ministral 3 8B 2512 (batch)
Ministral 3 8B Instruct 2512 ialah model arahan teks dan imej berbilang bahasa dengan komponen bahasa 8.4B dan pengekod penglihatan 0.4B. Ia menyokong konteks 256k yang dinyatakan oleh pembuat, arahan sistem, JSON dan panggilan fungsi asli untuk pembantu dan aliran kerja dokumen.
Tentang model
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Ministral 3 8B Instruct 2512 ialah model bersaiz pertengahan dalam keluarga Ministral 3 Mistral AI yang dilaraskan untuk mengikuti arahan. Titik semak yang dikeluarkan menjalani pascalatihan untuk tugas sembang dan arahan dalam kejituan FP8. Ia menggabungkan komponen bahasa dengan pengekod penglihatan, menerima teks dan imej serta mengembalikan teks dan bukannya artifak imej atau audio.
Seni bina dan ciri utama
Pembuat menyenaraikan model bahasa dengan 8.4 bilion parameter dan pengekod penglihatan dengan 0.4 bilion parameter. Tetingkap konteksnya diterangkan sebagai 256k, dan nota penggunaan yang diterbitkan menggunakan panjang terkonfigurasi lalai 262,144. Ini menerangkan edisi bersaiz 8B ini; ahli keluarga 3B yang lebih kecil dan 14B yang lebih besar mengekalkan saiz komponen dan konfigurasinya sendiri.
Penglihatan memperluas input model melangkaui perbualan bertulis. Imej dokumen boleh dipadankan dengan soalan tentang medan, perenggan atau hubungan yang kelihatan yang dipilih. Tangkapan skrin boleh dipadankan dengan matlamat pengguna dan permintaan untuk mengenal pasti kawalan berkaitan. Minta pemerhatian yang menyokong setiap kesimpulan apabila jawapan bergantung pada butiran visual, dan kekalkan tajuk, label serta unit yang diperlukan untuk mentafsirkan potongan.
Kad model menerangkan kerja berbilang bahasa merangkumi puluhan bahasa, termasuk bahasa Inggeris, Perancis, Sepanyol, Jerman, Itali, Portugis, Belanda, Cina, Jepun, Korea dan Arab. Ia turut mengenal pasti kepatuhan kepada arahan sistem, panggilan fungsi asli dan output JSON. Takrifkan bahasa akhir, peranan dan keperluan output secara jelas dan jangan biarkan model menyimpulkan artifak yang dimaksudkan daripada input besar.
Tugas dokumen, perbualan dan ejen
Kes penggunaan pembuat merangkumi antara muka sembang, pembantu harian, perihalan imej dan dokumen, terjemahan, penjanaan kandungan dan ejen khusus. Untuk pembantu dokumen, berikan halaman dan nyatakan maklumat yang perlu dikembalikan. Permintaan pengekstrakan boleh menamakan label medan, jenis yang dijangka dan cara menangani nilai yang tiada. Jawapan yang berguna mungkin mengandungi pengecam dokumen, nilai yang diekstrak dan penjelasan ringkas yang terikat pada sumber yang kelihatan.
Untuk perbualan berterusan, kekalkan jawapan terdahulu yang relevan dan tanya soalan susulan berfokus. Pengguna boleh terlebih dahulu meminta ringkasan dokumen dan kemudian bertanya pernyataan yang menyokong satu kesimpulan. Ini mengubah output yang diperlukan daripada gambaran umum kepada penjelasan berhubung sumber sambil mengekalkan bahan asal dan tujuan dialog.
Untuk penyuntingan berbilang bahasa, berikan petikan asal, pembaca yang dimaksudkan dan senarai istilah. Minta versi semakan yang mengekalkan nama, syarat dan unit, diikuti penjelasan ringkas tentang perubahan jika berguna. Untuk penjanaan kandungan, nyatakan khalayak dan fakta yang perlu muncul sebelum meminta draf pendek atau ungkapan alternatif.
Dalam tugas ejen, aplikasi menyediakan alat dan parameternya. Model boleh memilih fungsi dan menyediakan argumen, manakala aplikasi melaksanakannya dan mengembalikan hasil. Contoh fungsi dalam kad model menggabungkan soalan imej dengan alat pengiraan. Kekalkan hasil alat secara berasingan daripada panggilan yang dicadangkan supaya jawapan bertulis seterusnya menggunakan maklumat yang benar-benar dikembalikan oleh operasi.
Penyediaan dan tetapan yang disyorkan
Pembuat mengesyorkan arahan sistem yang menerangkan persekitaran, kes penggunaan dan cara alat perlu digunakan. Pastikan set alat ditakrifkan dengan baik dan terhad kepada minimum yang diperlukan untuk tugas. Aliran kerja carian kecil boleh menawarkan fungsi yang relevan untuk soalan semasa, dengan argumen wajib yang dinamakan secara jelas, dan bukannya membentangkan koleksi besar operasi yang tidak berkaitan.
Untuk kegunaan harian dan kegunaan seumpama produksi, kad model mengesyorkan suhu di bawah 0.1, dengan suhu lebih tinggi tersedia untuk penerokaan kreatif. Anggap ini sebagai syor untuk aliran kerja arahan, bukannya kawalan mod penaakulan yang berasingan. Keluarga ini mempunyai titik semak Base, Instruct dan Reasoning yang berbeza; entri ini ialah edisi Instruct 2512, bukannya keluaran Reasoning berasingan dengan saiz yang sama.
Untuk imej, pembuat mengesyorkan nisbah bidang hampir 1:1 dan mengelakkan input yang terlalu nipis atau terlalu lebar. Pangkas apabila diperlukan sambil mengekalkan label dan konteks yang diperlukan oleh soalan. Jika halaman mengandungi beberapa kawasan tidak berkaitan, kenal pasti bahagian yang hendak diperiksa dan hasil yang perlu dikembalikan. Imej yang jelas dan berfokus lebih berguna daripada meminta model meneka butiran kecil mana dalam halaman yang luas yang penting.
Batas konteks dan edisi
Rancang teks, imej, perbualan dan jawapan yang diingini mengikut konteks terkonfigurasi. Nota penggunaan secara jelas membenarkan pengurangan panjang model terkonfigurasi apabila kurang konteks diperlukan, jadi tetingkap penuh bukan arahan untuk mengisi setiap permintaan dengan semua bahan yang tersedia. Contoh penjanaan 512 token dalam kad model hanyalah tetapan contoh, dan sumber yang dibaca tidak menetapkan had keras panjang jawapan maksimum berasingan.
Titik semak FP8 Instruct, keluaran Base yang dilatih awal dan keluaran Reasoning ialah edisi berasingan. Pembuat turut menerangkan pengkhususan dan penalaan halus sebagai kes penggunaan. Kekalkan titik semak bernama dan pentokennya semasa menyediakan perbualan, dan pastikan penjanaan teks berbeza daripada akses repositori, pelaksanaan fungsi atau tindakan lain yang dibekalkan oleh aplikasi sekeliling.
Ailoot Ultra · Kelompok POST /v1/batches mistralai/ministral-8b-2512:batch
mistralai/ministral-8b-2512:batch
mistralai/ministral-8b-2512:batchPengenalan
Ministral 3 8B Instruct 2512 ialah model arahan teks dan imej berbilang bahasa dengan komponen bahasa 8.4B dan pengekod penglihatan 0.4B. Ia menyokong konteks 256k yang dinyatakan oleh pembuat, arahan sistem, JSON dan panggilan fungsi asli untuk pembantu dan aliran kerja dokumen.
- Input yang diterima
- Teks
- Hasil
- Teks
Tersedia di Ailoot · input & kaedah
Ailoot Ultra · Kelompok POST /v1/batches
- Input
text- Output
text- Format output
- JSON results[].response.body sebaris
| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanendpoint | Jenisstring | KeperluanDiperlukan | Nilai & had /v1/chat/completions | Lalai— |
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had mistralai/ministral-8b-2512:batch | Lalai— |
Medanrequests | Jenisbatch_item[] | KeperluanDiperlukan | Nilai & had Item minimum: 1 | Lalai— |
Medanrequests[].custom_id | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanrequests[].body.messages | Jenismessage[] | KeperluanDiperlukan | Nilai & had | Lalai— |
Medancompletion_window | Jenisstring | KeperluanPilihan | Nilai & had 24h | Lalai— |
Medanprovider | Jenisobject|null | KeperluanPilihan | Nilai & had | Lalai— |
Medanrequests[].body.model | Jenisstring | KeperluanPilihan | Nilai & had mistralai/ministral-8b-2512:batch, mistralai/ministral-8b-2512 | Lalai— |
Medanprovider.only | Jenisstring[] | KeperluanPilihan | Nilai & had mistral | Lalai— |
Medanprovider.allow_fallbacks | Jenisboolean|null | KeperluanPilihan | Nilai & had false, null | Lalai— |
Parameter kaedah dan kitar hayat
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakendpoint, model, requests |
Parametermaterial_types | Kontraktext |
Parameterrepresentation | Kontrakrequests[] sebaris; setiap item mempunyai custom_id dan body |
Parameterrequest_endpoint_profile | Kontrak/v1/chat/completions |
Parameterfile_material | KontrakPemanggil boleh membaca JSONL UTF-8 sebenar secara setempat ke dalam requests[]. Tiada tujuan muat naik, input_file_id atau rujukan fail digunakan. Bahan pelanggan yang tiada atau kosong menghentikan persediaan sebelum POST. |
Parameterserialization_order | Kontrakendpoint, model, provider (jika dibekalkan), completion_window (jika dibekalkan), requests di akhir |
Parameteroptional_controls | Kontrakprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | KontrakBadan permintaan Chat Completions teks dalam pembungkus Batch sebaris yang didokumenkan. |
Kitar hayat: asynchronous
GET /v1/batches/{operation_id} · response.id sebenar daripada respons penciptaan asal; pengguna/kunci/kumpulan yang sama
Pelan harga
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
- Mod pantas
- Tidak dinyatakan Apabila mod pantas dipilih
- Mod flex
- Tidak dinyatakan Apabila mod flex dipilih
- Usaha penaakulan maksimum
- Tidak dinyatakan Apabila usaha penaakulan maksimum menggunakan pelarasan default
- Harga cache eksplisit
- Tidak diaktifkan Apabila cache eksplisit diminta
Kadar Ailoot
Harga mengikut konfigurasi
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.00015 / 1K token Output · Token output $0.00015 / 1K token Input · Bacaan cache $0.000015 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.00015 / 1K token Output · Token output $0.00015 / 1K token Input · Bacaan cache $0.000015 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
Contoh permintaan
Ailoot Ultra · Kelompok
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/ministral-8b-2512:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['mistralai/ministral-8b-2512:batch', 'mistralai/ministral-8b-2512']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"mistralai/ministral-8b-2512:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Terima dan simpan hasil
Ailoot Ultra · Kelompok
JSON results[].response.body sebaris
GET /v1/batches/{operation_id}
Semak status tugas
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Simpan keseluruhan JSON status asal, setiap hasil/custom_id serta badan respons atau ralat yang lengkap. Simpan results[] yang telah selesai sebagai JSONL tanpa penapisan.
Jika respons asal perlu disemak
Simpan ID operasi asal. 503 result_pending_check mempunyai X-Should-Retry:false; jangan sekali-kali hantar semula kelompok asal yang hasilnya tidak diketahui.
Medan respons
| Medan | Jenis |
|---|---|
Medanresults[].custom_id | Jenisstring |
Medanresults[].response.body.choices[].message.content | Jenisstring|null |
Medanresults[].error | Jenisobject|null |
Medanusage | Jenisobject|null |
Medanid | Jenisstring |
Medanmodel | Jenisstring |
Medanendpoint | Jenisstring |
Medanstatus | Jenisstring |
Medanrequest_counts | Jenisobject |
Medanresults[].id | Jenisstring |
Medanresults[].response.status_code | Jenisinteger |
Medanresults[].response.request_id | Jenisstring |
Ralat dan langkah seterusnya
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratPembungkus sebaris yang didokumenkan tidak sah, kunci berulang, identiti item atau keupayaan model yang dikonfigurasikan bercanggah. | Langkah seterusnyaBetulkan medan yang dinyatakan sebelum sebarang penghantaran baharu. |
Respons401 · authentication_error | SyaratKunci API tidak sah. | Langkah seterusnyaGunakan kunci Ailoot yang dibenarkan. |
Respons403 · permission_error | SyaratKumpulan kelompok tidak tersedia. | Langkah seterusnyaSemak hak akses kunci/kumpulan. |
Respons422 · invalid_request_error | SyaratKelompok menggunakan pengebilan baki; penciptaan melalui langganan ditolak. | Langkah seterusnyaGunakan kumpulan yang dibenarkan untuk pengebilan melalui baki. |
Respons422 · price_unavailable | SyaratSebut harga tidak dapat diberikan untuk input kelompok. | Langkah seterusnyaSimpan respons; gunakan input keluarga API yang didokumenkan. |
Respons402 · billing_error | SyaratRizab kelompok tidak tersedia. | Langkah seterusnyaSelesaikan isu penerimaan permintaan sebelum menghantar permintaan baharu. |
Respons503 · price_unavailable | SyaratHarga kaedah kelompok/kadar natif tidak tersedia. | Langkah seterusnyaSimpan respons; jangan gantikan harga. |
Respons503 · api_error | SyaratLaluan pembekal yang tepat tidak tersedia. | Langkah seterusnyaSimpan respons untuk pembaikan laluan. |
Respons503 · result_pending_check | SyaratHasil asal memerlukan semakan; X-Should-Retry:false. | Langkah seterusnyaSimpan operation_id/id asal dan baca statusnya; jangan sekali-kali ulang POST asal. |
Respons404 · not_found | SyaratOperasi status kelompok tiada atau dimiliki oleh identiti lain. | Langkah seterusnyaGunakan id asal yang tepat serta pengguna/kunci/kumpulan yang sama. |
Alias
Alias model
Ailoot Ultra mistralai/ministral-8b-2512:batch
Alias laluan kaedah
Gunakan laluan kaedah yang dipaparkan di atas.
ID pemanggil berkaitan
FAQ · Mistral: Ministral 3 8B 2512 (batch)
- Apakah input dan hasil yang tersedia?
POST /v1/batches·mistralai/ministral-8b-2512:batch:text→text- Apakah medan yang digunakan oleh permintaan?
POST /v1/batches·mistralai/ministral-8b-2512:batch:endpoint,model,requests,completion_window,provider- Apakah had yang terpakai?
POST /v1/batches·mistralai/ministral-8b-2512:batch:requests.min_items:1