Mistral: Mistral Large 3 2512 (batch)
Mistral Large 3 2512 ialah model teks dan imej berbilang bahasa untuk dokumen panjang, pengetahuan perusahaan, pengekodan dan kerja berbantukan alat. Konteks 256k, panggilan fungsi asli dan output berstrukturnya membantu menukar bukti yang diberikan menjadi jawapan, rekod dan tindakan yang dicadangkan.
Tentang model
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Mistral Large 3 2512 ialah edisi Mistral AI yang dilaraskan untuk mengikuti arahan bagi perbualan umum, pemahaman visual dan kerja perusahaan. Seni bina campuran pakar jarangnya mempunyai jumlah 675 bilion parameter, dengan 41 bilion aktif, dan tetingkap konteks 256k. Teks dan imej boleh menyumbang kepada tugas yang sama, manakala jawapannya berupa teks, kod atau hasil berstruktur.
Keupayaan dan penyediaan input
Model menggabungkan komponen bahasa dengan pengekod penglihatan. Berikan imej peranan yang jelas: halaman untuk dibaca, rajah untuk ditafsirkan atau skrin untuk diterangkan. Untuk skrin yang padat, berikan potongan yang mengandungi kawalan berkaitan dan kekalkan label sekeliling yang diperlukan untuk memahaminya. Mistral mengesyorkan bentuk imej hampir segi empat sama; pecahkan sumber yang amat sempit atau lebar kepada kawasan yang berguna dan bukannya mengecilkan butiran penting menjadi jalur yang tidak boleh dibaca.
Pembuat menyenaraikan perbualan berbilang bahasa merangkumi puluhan bahasa, termasuk bahasa Inggeris, Perancis, Sepanyol, Jerman, Itali, Portugis, Belanda, Cina, Jepun, Korea dan Arab. Nyatakan bahasa output, pembaca yang dimaksudkan dan istilah yang perlu dikekalkan. Untuk artikel sokongan, minta penjelasan yang disetempatkan dengan nama produk tidak berubah dan senarai ringkas terjemahan yang tidak pasti untuk diselesaikan sebelum penerbitan.
Dokumen panjang dan pengetahuan perusahaan
Gunakan konteks untuk menggabungkan bahan berkaitan: teks dasar, spesifikasi, keputusan sedia ada dan soalan yang memerlukan jawapan. Labelkan setiap sumber dan semakannya. Permintaan yang berguna ialah: “Bandingkan tiga dasar orientasi ini. Kembalikan jadual keperluan bersama, percanggahan dan soalan yang belum dijawab, dengan bahagian sumber untuk setiap dapatan.” Artifak yang terhasil ialah perbandingan berdasarkan petikan yang diberikan dan bukannya ringkasan umum topik itu.
Untuk soalan dokumen, kenal pasti tahap perincian yang diingini dan minta petikan sokongan di sisi kesimpulan. Aliran kerja Document QnA Mistral terlebih dahulu mengekstrak teks dan struktur dokumen melalui OCR, kemudian menggunakan model bahasa untuk mentafsirkan bahan itu. Kekalkan nombor halaman dan tajuk semasa menyediakan teks yang diekstrak supaya jawapan boleh merujuk kembali kepada sumber asal. URL dokumen, teks yang diekstrak dan bukti imej mempunyai keperluan penyediaan yang berbeza; pilih bentuk input yang disokong oleh aplikasi yang anda gunakan.
Pengekodan dan bantuan harian
Mistral menyasarkan Large 3 untuk bantuan pengekodan serta perbualan harian. Berikan fungsi berkaitan, tingkah laku yang dijangka dan kegagalan yang diperhatikan. Contohnya: “Penghurai ini menggugurkan medan terakhir apabila input berakhir tanpa baris baharu. Terangkan cabang yang gagal, cadangkan perubahan terkecil dan kembalikan fungsi yang dibetulkan dengan tiga contoh input/output yang mewakili kes penggunaan.” Hasil yang berguna ialah perubahan yang dicadangkan yang terikat pada kod sebenar dan set kes yang boleh dijalankan oleh pembangun.
Untuk draf perniagaan, berikan fakta dan artifak yang diingini bersama. Permintaan untuk menukar nota mesyuarat menjadi memo keputusan perlu menamakan keputusan, alternatif, andaian yang belum diselesaikan dan tindakan seterusnya. Minta model memisahkan fakta sumber daripada syor dan menandakan maklumat yang tiada dalam bahagian yang sesuai. Ini menjadikan output lebih mudah disemak berbanding naratif tanpa pemisahan.
Alat dan hasil berstruktur
Panggilan fungsi asli membolehkan model memilih fungsi yang diberikan dan menyediakan argumennya. Aplikasi menjalankan fungsi itu dan mengembalikan hasilnya; model kemudian menggunakan maklumat yang dikembalikan dalam jawapan. Pastikan alat khusus dan sediakan hanya yang diperlukan untuk tugas. Pembantu semakan stok boleh menerima rujukan produk, meminta carian stok dan menerangkan kuantiti serta gudang yang dikembalikan. Sahkan fungsi dan argumen yang dipilih sebelum melaksanakan permintaan, dan kekalkan respons alat bersama jawapan akhir.
Untuk pengekstrakan, nyatakan medan, jenis dan cara menangani nilai yang tiada. Mistral mendokumentasikan mod JSON dan output berstruktur tersuai; mod JSONnya memerlukan arahan jelas untuk mengembalikan JSON, manakala skema tersuai memberikan kawalan format yang lebih kuat. Ringkasan invois boleh meminta pembekal, nombor invois, tarikh akhir, mata wang dan item baris, dengan nilai yang tiada diwakili secara konsisten. Periksa nilai yang diekstrak dengan merujuk dokumen, walaupun respons sepadan dengan struktur yang diminta.
Tetapan dan perbezaan edisi
Takrifkan peranan, tugas dan peraturan alat dalam arahan sistem. Mistral mengesyorkan suhu di bawah 0.1 untuk kegunaan produksi dan harian bagi titik semak ini, dengan nilai lebih tinggi diterokai untuk tugas kreatif. Pisahkan permintaan idea yang pelbagai daripada permintaan pengekstrakan yang boleh diulang: berikan ruang untuk alternatif kepada yang pertama dan medan serta kekangan sumber yang jelas kepada yang kedua.
Edisi arahan ini berasingan daripada titik semak asas Large 3 dan model penaakulan khusus. Pembuat mengenal pasti penaakulan ketat dan kerja visual khusus sebagai bidang yang mungkin lebih sesuai untuk model yang direka khusus bagi tugas itu. Untuk pengiraan sukar, berikan andaian dan unit, minta pemeriksaan pertengahan dan gunakan alat pengiraan yang tersedia untuk mengesahkan hasil. Untuk bukti visual yang padat, sediakan kawasan yang boleh dibaca dan bandingkan jawapan dengan sumber sebelum menggunakannya dalam laporan.
Ailoot Ultra · Kelompok POST /v1/batches mistralai/mistral-large-2512:batch
mistralai/mistral-large-2512:batch
mistralai/mistral-large-2512:batchPengenalan
Mistral Large 3 2512 ialah model teks dan imej berbilang bahasa untuk dokumen panjang, pengetahuan perusahaan, pengekodan dan kerja berbantukan alat. Konteks 256k, panggilan fungsi asli dan output berstrukturnya membantu menukar bukti yang diberikan menjadi jawapan, rekod dan tindakan yang dicadangkan.
- Input yang diterima
- Teks
- Hasil
- Teks
Tersedia di Ailoot · input & kaedah
Ailoot Ultra · Kelompok POST /v1/batches
- Input
text- Output
text- Format output
- JSON results[].response.body sebaris
| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanendpoint | Jenisstring | KeperluanDiperlukan | Nilai & had /v1/chat/completions | Lalai— |
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had mistralai/mistral-large-2512:batch | Lalai— |
Medanrequests | Jenisbatch_item[] | KeperluanDiperlukan | Nilai & had Item minimum: 1 | Lalai— |
Medanrequests[].custom_id | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanrequests[].body.messages | Jenismessage[] | KeperluanDiperlukan | Nilai & had | Lalai— |
Medancompletion_window | Jenisstring | KeperluanPilihan | Nilai & had 24h | Lalai— |
Medanprovider | Jenisobject|null | KeperluanPilihan | Nilai & had | Lalai— |
Medanrequests[].body.model | Jenisstring | KeperluanPilihan | Nilai & had mistralai/mistral-large-2512:batch, mistralai/mistral-large-2512 | Lalai— |
Medanprovider.only | Jenisstring[] | KeperluanPilihan | Nilai & had mistral | Lalai— |
Medanprovider.allow_fallbacks | Jenisboolean|null | KeperluanPilihan | Nilai & had false, null | Lalai— |
Parameter kaedah dan kitar hayat
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakendpoint, model, requests |
Parametermaterial_types | Kontraktext |
Parameterrepresentation | Kontrakrequests[] sebaris; setiap item mempunyai custom_id dan body |
Parameterrequest_endpoint_profile | Kontrak/v1/chat/completions |
Parameterfile_material | KontrakPemanggil boleh membaca JSONL UTF-8 sebenar secara setempat ke dalam requests[]. Tiada tujuan muat naik, input_file_id atau rujukan fail digunakan. Bahan pelanggan yang tiada atau kosong menghentikan persediaan sebelum POST. |
Parameterserialization_order | Kontrakendpoint, model, provider (jika dibekalkan), completion_window (jika dibekalkan), requests di akhir |
Parameteroptional_controls | Kontrakprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | KontrakBadan permintaan Chat Completions teks dalam pembungkus Batch sebaris yang didokumenkan. |
Kitar hayat: asynchronous
GET /v1/batches/{operation_id} · response.id sebenar daripada respons penciptaan asal; pengguna/kunci/kumpulan yang sama
Pelan harga
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
- Mod pantas
- Tidak dinyatakan Apabila mod pantas dipilih
- Mod flex
- Tidak dinyatakan Apabila mod flex dipilih
- Usaha penaakulan maksimum
- Tidak dinyatakan Apabila usaha penaakulan maksimum menggunakan pelarasan default
- Harga cache eksplisit
- Tidak diaktifkan Apabila cache eksplisit diminta
Kadar Ailoot
Harga mengikut konfigurasi
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.0005 / 1K token Output · Token output $0.0015 / 1K token Input · Bacaan cache $0.00005 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.0005 / 1K token Output · Token output $0.0015 / 1K token Input · Bacaan cache $0.00005 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
Contoh permintaan
Ailoot Ultra · Kelompok
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-large-2512:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['mistralai/mistral-large-2512:batch', 'mistralai/mistral-large-2512']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-large-2512:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Terima dan simpan hasil
Ailoot Ultra · Kelompok
JSON results[].response.body sebaris
GET /v1/batches/{operation_id}
Semak status tugas
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Simpan keseluruhan JSON status asal, setiap hasil/custom_id serta badan respons atau ralat yang lengkap. Simpan results[] yang telah selesai sebagai JSONL tanpa penapisan.
Jika respons asal perlu disemak
Simpan ID operasi asal. 503 result_pending_check mempunyai X-Should-Retry:false; jangan sekali-kali hantar semula kelompok asal yang hasilnya tidak diketahui.
Medan respons
| Medan | Jenis |
|---|---|
Medanresults[].custom_id | Jenisstring |
Medanresults[].response.body.choices[].message.content | Jenisstring|null |
Medanresults[].error | Jenisobject|null |
Medanusage | Jenisobject|null |
Medanid | Jenisstring |
Medanmodel | Jenisstring |
Medanendpoint | Jenisstring |
Medanstatus | Jenisstring |
Medanrequest_counts | Jenisobject |
Medanresults[].id | Jenisstring |
Medanresults[].response.status_code | Jenisinteger |
Medanresults[].response.request_id | Jenisstring |
Ralat dan langkah seterusnya
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratPembungkus sebaris yang didokumenkan tidak sah, kunci berulang, identiti item atau keupayaan model yang dikonfigurasikan bercanggah. | Langkah seterusnyaBetulkan medan yang dinyatakan sebelum sebarang penghantaran baharu. |
Respons401 · authentication_error | SyaratKunci API tidak sah. | Langkah seterusnyaGunakan kunci Ailoot yang dibenarkan. |
Respons403 · permission_error | SyaratKumpulan kelompok tidak tersedia. | Langkah seterusnyaSemak hak akses kunci/kumpulan. |
Respons422 · invalid_request_error | SyaratKelompok menggunakan pengebilan baki; penciptaan melalui langganan ditolak. | Langkah seterusnyaGunakan kumpulan yang dibenarkan untuk pengebilan melalui baki. |
Respons422 · price_unavailable | SyaratSebut harga tidak dapat diberikan untuk input kelompok. | Langkah seterusnyaSimpan respons; gunakan input keluarga API yang didokumenkan. |
Respons402 · billing_error | SyaratRizab kelompok tidak tersedia. | Langkah seterusnyaSelesaikan isu penerimaan permintaan sebelum menghantar permintaan baharu. |
Respons503 · price_unavailable | SyaratHarga kaedah kelompok/kadar natif tidak tersedia. | Langkah seterusnyaSimpan respons; jangan gantikan harga. |
Respons503 · api_error | SyaratLaluan pembekal yang tepat tidak tersedia. | Langkah seterusnyaSimpan respons untuk pembaikan laluan. |
Respons503 · result_pending_check | SyaratHasil asal memerlukan semakan; X-Should-Retry:false. | Langkah seterusnyaSimpan operation_id/id asal dan baca statusnya; jangan sekali-kali ulang POST asal. |
Respons404 · not_found | SyaratOperasi status kelompok tiada atau dimiliki oleh identiti lain. | Langkah seterusnyaGunakan id asal yang tepat serta pengguna/kunci/kumpulan yang sama. |
Alias
Alias model
Ailoot Ultra mistralai/mistral-large-2512:batch
Alias laluan kaedah
Gunakan laluan kaedah yang dipaparkan di atas.
ID pemanggil berkaitan
FAQ · Mistral: Mistral Large 3 2512 (batch)
- Apakah input dan hasil yang tersedia?
POST /v1/batches·mistralai/mistral-large-2512:batch:text→text- Apakah medan yang digunakan oleh permintaan?
POST /v1/batches·mistralai/mistral-large-2512:batch:endpoint,model,requests,completion_window,provider- Apakah had yang terpakai?
POST /v1/batches·mistralai/mistral-large-2512:batch:requests.min_items:1