Mistral: Mistral Large 3 2512 (batch)
Mistral Large 3 2512 adalah model teks dan gambar multibahasa untuk dokumen panjang, pengetahuan perusahaan, pemrograman, dan pekerjaan berbantuan alat. Konteks 256k, pemanggilan fungsi bawaan, dan keluaran terstrukturnya membantu mengubah bukti yang diberikan menjadi jawaban, rekaman, dan usulan tindakan.
Tentang model
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Mistral Large 3 2512 adalah edisi Mistral AI yang disesuaikan untuk mengikuti instruksi untuk percakapan umum, pemahaman visual, dan pekerjaan perusahaan. Arsitektur sparse mixture-of-experts-nya memiliki total 675 miliar parameter, dengan 41 miliar aktif, dan jendela konteks 256k. Teks dan gambar dapat berkontribusi pada tugas yang sama, sementara jawabannya berupa teks, kode, atau hasil terstruktur.
Kemampuan dan persiapan masukan
Model menggabungkan komponen bahasa dengan encoder visual. Berikan peran yang jelas pada gambar: halaman yang harus dibaca, diagram yang harus ditafsirkan, atau layar yang harus dijelaskan. Untuk layar yang padat, berikan potongan yang memuat kontrol relevan dan pertahankan label di sekitarnya yang diperlukan untuk memahaminya. Mistral merekomendasikan bentuk gambar mendekati persegi; bagi sumber yang sangat sempit atau lebar menjadi wilayah yang berguna alih-alih mengecilkan detail penting menjadi pita yang tidak terbaca.
Pembuatnya mencantumkan percakapan multibahasa dalam puluhan bahasa, termasuk Inggris, Prancis, Spanyol, Jerman, Italia, Portugis, Belanda, Mandarin, Jepang, Korea, dan Arab. Nyatakan bahasa keluaran, pembaca yang dituju, dan istilah yang harus dipertahankan. Untuk artikel dukungan, minta penjelasan yang dilokalkan dengan nama produk tetap sama serta daftar singkat terjemahan yang meragukan untuk diselesaikan sebelum publikasi.
Dokumen panjang dan pengetahuan perusahaan
Gunakan konteks untuk menyatukan materi terkait: teks kebijakan, spesifikasi, keputusan yang ada, dan pertanyaan yang memerlukan jawaban. Beri label pada setiap sumber dan revisinya. Permintaan yang berguna adalah: “Bandingkan tiga kebijakan onboarding ini. Kembalikan tabel berisi persyaratan bersama, pertentangan, dan pertanyaan yang belum terjawab, beserta bagian sumber untuk setiap temuan.” Artefak yang dihasilkan adalah perbandingan yang berlandaskan bagian teks yang diberikan, bukan ringkasan umum tentang topiknya.
Untuk pertanyaan dokumen, identifikasi tingkat perincian yang diinginkan dan minta bagian pendukung di samping kesimpulan. Alur Document QnA Mistral terlebih dahulu mengekstrak teks dan struktur dokumen dengan OCR, lalu menggunakan model bahasa untuk menafsirkan materi tersebut. Pertahankan nomor halaman dan judul saat menyiapkan teks hasil ekstraksi agar jawaban dapat merujuk kembali ke aslinya. URL dokumen, teks hasil ekstraksi, dan bukti gambar memiliki kebutuhan persiapan berbeda; pilih bentuk masukan yang didukung aplikasi yang Anda gunakan.
Pemrograman dan bantuan sehari-hari
Mistral menempatkan Large 3 untuk bantuan pemrograman maupun percakapan sehari-hari. Berikan fungsi yang relevan, perilaku yang diharapkan, dan kegagalan yang diamati. Misalnya: “Parser ini menghilangkan bidang terakhir ketika masukan berakhir tanpa baris baru. Jelaskan cabang yang gagal, usulkan perubahan terkecil, dan kembalikan fungsi yang telah diperbaiki dengan tiga contoh masukan/keluaran yang mewakili kasus penggunaan.” Hasil yang berguna berupa usulan perubahan yang terkait dengan kode aktual dan kumpulan kasus yang dapat dijalankan pengembang.
Untuk draf bisnis, berikan fakta dan artefak yang diinginkan bersama-sama. Permintaan mengubah catatan rapat menjadi memo keputusan harus menyebut keputusan, alternatif, asumsi yang belum terselesaikan, dan tindakan berikutnya. Minta model memisahkan fakta sumber dari rekomendasi dan menandai informasi yang belum tersedia dalam bagian yang sesuai. Ini membuat keluaran lebih mudah direvisi daripada narasi tanpa pembedaan.
Alat dan hasil terstruktur
Pemanggilan fungsi bawaan memungkinkan model memilih fungsi yang diberikan dan menyiapkan argumennya. Aplikasi menjalankan fungsi tersebut dan mengembalikan hasilnya; model kemudian menggunakan informasi yang dikembalikan dalam jawaban. Pastikan alat spesifik dan sediakan hanya yang dibutuhkan tugas. Asisten pemeriksaan stok dapat menerima referensi produk, meminta pencarian stok, dan menjelaskan jumlah serta gudang yang dikembalikan. Validasi fungsi dan argumen terpilih sebelum menjalankan permintaan, serta simpan respons alat bersama jawaban akhir.
Untuk ekstraksi, tentukan bidang, tipe, dan penanganan nilai yang tidak tersedia. Mistral mendokumentasikan mode JSON dan keluaran terstruktur khusus; mode JSON-nya memerlukan instruksi eksplisit untuk mengembalikan JSON, sedangkan skema khusus menyediakan kontrol format yang lebih kuat. Ringkasan faktur dapat meminta pemasok, nomor faktur, tanggal jatuh tempo, mata uang, dan item per baris, dengan nilai yang tidak tersedia direpresentasikan secara konsisten. Periksa nilai hasil ekstraksi terhadap dokumen, meskipun respons cocok dengan struktur yang diminta.
Pengaturan dan perbedaan edisi
Tetapkan peran, tugas, dan aturan alat dalam instruksi sistem. Mistral merekomendasikan temperature di bawah 0.1 untuk penggunaan produksi dan sehari-hari pada checkpoint ini, dengan nilai lebih tinggi yang dapat dicoba untuk tugas kreatif. Pisahkan permintaan ide beragam dari permintaan ekstraksi yang dapat direproduksi: berikan ruang untuk alternatif pada yang pertama, serta bidang eksplisit dan batasan sumber pada yang kedua.
Edisi instruksi ini terpisah dari checkpoint dasar Large 3 dan dari model penalaran khusus. Pembuatnya mengidentifikasi penalaran ketat dan pekerjaan visual khusus sebagai bidang yang mungkin lebih cocok ditangani model yang dirancang khusus untuk tugas tersebut. Untuk perhitungan sulit, berikan asumsi dan satuan, minta pemeriksaan antara, dan gunakan alat perhitungan yang tersedia untuk memverifikasi hasil. Untuk bukti visual yang padat, siapkan wilayah yang terbaca dan bandingkan jawaban dengan sumber sebelum menggunakannya dalam laporan.
Ailoot Ultra · Batch POST /v1/batches mistralai/mistral-large-2512:batch
mistralai/mistral-large-2512:batch
mistralai/mistral-large-2512:batchMulai
Mistral Large 3 2512 adalah model teks dan gambar multibahasa untuk dokumen panjang, pengetahuan perusahaan, pemrograman, dan pekerjaan berbantuan alat. Konteks 256k, pemanggilan fungsi bawaan, dan keluaran terstrukturnya membantu mengubah bukti yang diberikan menjadi jawaban, rekaman, dan usulan tindakan.
- Masukan yang diterima
- Teks
- Hasil
- Teks
Tersedia di Ailoot · masukan & metode
Ailoot Ultra · Batch POST /v1/batches
- Masukan
text- Keluaran
text- Format keluaran
- JSON inline pada results[].response.body
| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolomendpoint | Jenisstring | PersyaratanWajib | Nilai & batasan /v1/chat/completions | Bawaan— |
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan mistralai/mistral-large-2512:batch | Bawaan— |
Kolomrequests | Jenisbatch_item[] | PersyaratanWajib | Nilai & batasan Item minimum: 1 | Bawaan— |
Kolomrequests[].custom_id | Jenisstring | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolomrequests[].body.messages | Jenismessage[] | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolomcompletion_window | Jenisstring | PersyaratanOpsional | Nilai & batasan 24h | Bawaan— |
Kolomprovider | Jenisobject|null | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomrequests[].body.model | Jenisstring | PersyaratanOpsional | Nilai & batasan mistralai/mistral-large-2512:batch, mistralai/mistral-large-2512 | Bawaan— |
Kolomprovider.only | Jenisstring[] | PersyaratanOpsional | Nilai & batasan mistral | Bawaan— |
Kolomprovider.allow_fallbacks | Jenisboolean|null | PersyaratanOpsional | Nilai & batasan false, null | Bawaan— |
Parameter metode dan siklus hidup
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakendpoint, model, requests |
Parametermaterial_types | Kontraktext |
Parameterrepresentation | Kontrakrequests[] inline; setiap item memiliki custom_id dan body |
Parameterrequest_endpoint_profile | Kontrak/v1/chat/completions |
Parameterfile_material | KontrakPemanggil dapat membaca JSONL UTF-8 aktual secara lokal ke dalam requests[]. Tidak menggunakan purpose unggahan, input_file_id, atau referensi file. Materi pelanggan yang tidak ada atau kosong menghentikan persiapan sebelum POST. |
Parameterserialization_order | Kontrakendpoint, model, provider (jika disertakan), completion_window (jika disertakan), requests paling akhir |
Parameteroptional_controls | Kontrakprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | Kontrakbody teks Chat Completions dalam envelope Batch inline yang didokumentasikan. |
Siklus hidup: asynchronous
GET /v1/batches/{operation_id} · response.id aktual dari operasi create awal; user/key/group yang sama
Paket
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
- Mode Fast
- Tidak ditentukan Saat mode fast dipilih
- Mode Flex
- Tidak ditentukan Saat mode flex dipilih
- Upaya penalaran maksimum
- Tidak ditentukan Saat upaya penalaran maksimum menggunakan penyesuaian default
- Harga cache eksplisit
- Tidak diaktifkan Saat cache eksplisit diminta
Tarif Ailoot
Harga menurut konfigurasi
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Token konteks, lebih dari | Token konteks, hingga dan termasuk | Biaya |
|---|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Token konteks, lebih dari— | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.0005 / 1K token Keluaran · Token keluaran $0.0015 / 1K token Masukan · Pembacaan cache $0.00005 / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiPanjang permintaan · tingkat 1 | Jadwal tarif— | Token konteks, lebih dari0 | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.0005 / 1K token Keluaran · Token keluaran $0.0015 / 1K token Masukan · Pembacaan cache $0.00005 / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
Contoh permintaan
Ailoot Ultra · Batch
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-large-2512:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['mistralai/mistral-large-2512:batch', 'mistralai/mistral-large-2512']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-large-2512:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Terima dan simpan hasil
Ailoot Ultra · Batch
JSON inline pada results[].response.body
GET /v1/batches/{operation_id}
Periksa status tugas
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Pertahankan JSON status asli secara lengkap, setiap result/custom_id, serta body response atau error yang lengkap. Simpan results[] yang telah selesai sebagai JSONL tanpa penyaringan.
Jika respons asli perlu diperiksa
Pertahankan ID operasi asli. 503 result_pending_check memiliki X-Should-Retry:false; jangan pernah kirim ulang batch asli yang statusnya tidak diketahui.
Kolom respons
| Kolom | Jenis |
|---|---|
Kolomresults[].custom_id | Jenisstring |
Kolomresults[].response.body.choices[].message.content | Jenisstring|null |
Kolomresults[].error | Jenisobject|null |
Kolomusage | Jenisobject|null |
Kolomid | Jenisstring |
Kolommodel | Jenisstring |
Kolomendpoint | Jenisstring |
Kolomstatus | Jenisstring |
Kolomrequest_counts | Jenisobject |
Kolomresults[].id | Jenisstring |
Kolomresults[].response.status_code | Jenisinteger |
Kolomresults[].response.request_id | Jenisstring |
Kesalahan dan langkah berikutnya
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiEnvelope inline yang didokumentasikan tidak valid, ada kunci duplikat, atau terdapat konflik pada identitas item atau kemampuan model yang dikonfigurasi. | Langkah berikutnyaPerbaiki kolom yang ditunjukkan sebelum pengiriman baru apa pun. |
Respons401 · authentication_error | KondisiKunci API tidak valid. | Langkah berikutnyaGunakan kunci Ailoot yang berizin. |
Respons403 · permission_error | KondisiGrup Batch tidak tersedia. | Langkah berikutnyaPeriksa hak akses key/group. |
Respons422 · invalid_request_error | KondisiBatch menggunakan penagihan dari saldo; pembuatan dengan langganan ditolak. | Langkah berikutnyaGunakan grup berizin yang ditagih dari saldo. |
Respons422 · price_unavailable | KondisiPenawaran harga untuk input Batch tidak dapat dibuat. | Langkah berikutnyaSimpan respons; gunakan input keluarga API yang didokumentasikan. |
Respons402 · billing_error | KondisiCadangan Batch tidak tersedia. | Langkah berikutnyaSelesaikan kendala penerimaan sebelum mengirim permintaan baru. |
Respons503 · price_unavailable | KondisiHarga metode Batch/tarif native tidak tersedia. | Langkah berikutnyaSimpan respons; jangan mengganti harga. |
Respons503 · api_error | KondisiRute pemasok yang tepat tidak tersedia. | Langkah berikutnyaSimpan respons untuk perbaikan rute. |
Respons503 · result_pending_check | KondisiHasil asli perlu diperiksa; X-Should-Retry:false. | Langkah berikutnyaSimpan operation_id/id asli dan baca statusnya; jangan pernah mengulangi POST asli. |
Respons404 · not_found | KondisiOperasi status Batch tidak ada atau dimiliki oleh identitas lain. | Langkah berikutnyaGunakan id asli yang persis sama dan user/key/group yang sama. |
Alias
Alias model
Ailoot Ultra mistralai/mistral-large-2512:batch
Alias jalur metode
Gunakan jalur metode yang ditampilkan di atas.
ID pemanggil terkait
FAQ · Mistral: Mistral Large 3 2512 (batch)
- Input dan hasil apa yang tersedia?
POST /v1/batches·mistralai/mistral-large-2512:batch:text→text- Kolom apa yang digunakan permintaan?
POST /v1/batches·mistralai/mistral-large-2512:batch:endpoint,model,requests,completion_window,provider- Batasan apa yang berlaku?
POST /v1/batches·mistralai/mistral-large-2512:batch:requests.min_items:1