Mistral: Mistral Medium 3.5 (batch)
Mistral Medium 3.5 menggabungkan kepatuhan arahan, penaakulan dan pengekodan dalam model teks dan imej padat 128B. Ia mempunyai konteks 256k yang dinyatakan oleh pembuat, tetapan penaakulan bagi setiap permintaan, panggilan fungsi asli dan output berstruktur untuk aliran kerja dokumen dan ejen.
Tentang model
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Mistral Medium 3.5 ialah model padat 128B Mistral AI yang menggabungkan kepatuhan arahan, penaakulan dan pengekodan dalam satu set pemberat. Ia menerima teks dan imej serta mengembalikan teks. Pembuat menyasarkannya untuk tugas berasaskan ejen dan pengekodan, manakala titik semak yang sama boleh menghasilkan jawapan perbualan langsung atau menggunakan mod penaakulan yang didokumentasikan untuk tugas yang lebih rumit.
Model bersepadu dan keupayaan visual
Kad yang dikeluarkan menetapkan 128 bilion parameter padat dan tetingkap konteks 256k. Pengekod penglihatannya dilatih untuk mengendalikan saiz imej dan nisbah bidang yang berbeza. Imej boleh menyumbangkan bukti kepada tugas pengekodan atau dokumen: tangkapan skrin antara muka, rajah yang mengiringi keperluan atau halaman yang mengandungi maklumat yang mesti ditafsirkan oleh model. Hasilnya boleh berupa penjelasan bertulis, kod atau medan berstruktur dan bukannya imej yang dijana.
Pembuat menerangkan sokongan berbilang bahasa merangkumi puluhan bahasa, termasuk bahasa Inggeris, Perancis, Sepanyol, Jerman, Itali, Portugis, Belanda, Cina, Jepun, Korea dan Arab. Ia turut menekankan kepatuhan kepada prom sistem dan panggilan fungsi asli dengan output JSON. Tetapkan khalayak, bahasa dan peraturan respons secara berasingan daripada bahan yang diperiksa supaya kata-kata dalam dokumen sumber kekal sebagai bukti untuk tugas tersebut.
Tetapan penaakulan
Kad model mendokumentasikan dua nilai usaha penaakulan bagi setiap permintaan. Nilai none memberikan jawapan gaya arahan tanpa mod penaakulan; high mengaktifkan penaakulan dan disyorkan untuk prom kompleks serta pengekodan berasaskan ejen. Ini ialah pilihan mod dalam titik semak Medium 3.5 yang sama, bukannya identiti model yang berbeza.
Untuk usaha penaakulan high, pembuat mengesyorkan suhu 0.7 dan top-p 0.95. Untuk none, ia mendokumentasikan suhu antara 0.0 dengan 0.7 bergantung pada tugas dan membiarkan top-p tidak ditetapkan atau pada 1.0. Ini ialah syor keluaran. Pilih tujuan output dahulu: pengekstrakan medan ringkas, perubahan kod dengan penjelasan atau perbandingan yang memerlukan beberapa keputusan berasas.
Tugas penaakulan praktikal boleh membekalkan keperluan, pelaksanaan dan input yang mendedahkan ketidakpadanan. Minta model mengenal pasti laluan berkaitan, menerangkan percanggahan dan mencadangkan perubahan terkecil yang mengekalkan antara muka awam. Minta kod yang disemak secara berasingan daripada andaian dan contoh. Model menjana cadangan; penyusunan, pelaksanaan dan penerapannya memerlukan persekitaran pembangunan yang disambungkan kepada ejen.
Alat, dokumen dan suntingan yang boleh dijangka
Kad perkhidmatan pembuat turut menyenaraikan output berstruktur, output ramalan, soalan dokumen, awalan respons, pemprosesan kelompok dan perbualan ejen. Untuk pengekstrakan, takrifkan nama medan, jenis dan cara menangani nilai yang tiada. Mod JSON membekalkan perwakilan berstruktur, manakala skema tersuai mentakrifkan bentuk yang lebih khusus dalam antara muka yang disambungkan. Minta rekod sahaja apabila program akan menghuraikannya dan penjelasan berasingan apabila seseorang perlu memeriksa tafsirannya.
Soal jawab dokumen menggabungkan teks dan struktur yang disediakan melalui OCR dengan pemahaman model bahasa. Untuk perbandingan, kenal pasti dokumen dan syarat yang hendak dinilai, kemudian minta setiap dapatan bersama lokasi sumbernya. Output yang berguna boleh memisahkan keperluan bersama, percanggahan dan soalan terbuka. Soalan imej langsung boleh menumpukan label carta atau elemen antara muka; mengekalkan tajuk, unit dan peranan imej membantu memastikan jawapan terikat pada bahan yang diberikan.
Output ramalan didokumentasikan untuk tugas yang sebahagian besar jawapan yang diingini sudah diketahui, seperti menjana semula fail kod atau dokumen dengan suntingan terhad. Berikan kandungan sedia ada dan kenal pasti perubahan khusus, sambil mengekalkan bahagian yang perlu kekal. Ini berbeza daripada meminta artifak yang serba baharu atau menyambung daripada awalan respons yang diketahui. Ciri perkhidmatan menerangkan pilihan penghantaran dan pemformatan; ia tidak mengubah input teks dan imej atau output teks model.
Dalam aliran kerja berbantukan alat, aplikasi membekalkan perihalan fungsi dan parameter, model memilih fungsi dan menyediakan argumen, kemudian aplikasi melaksanakannya dan mengembalikan hasil. Alat pengiraan boleh menerima nilai yang dibaca daripada imej yang diberikan, manakala alat carian boleh menyediakan maklumat yang tiada untuk jawapan seterusnya. Kekalkan hasil alat bersama operasi yang menghasilkannya. Penaakulan berasaskan ejen bergantung pada persekitaran itu dan bukannya penjanaan teks sahaja yang melakukan tindakan luaran.
Penyediaan sesi panjang
Gunakan konteks 256k untuk kod sumber, dokumen dan sejarah perbualan yang berkaitan, dan pastikan matlamat sebenar jelas. Sesi pengekodan boleh mengekalkan modul, pemanggilnya dan keperluan sambil meminta satu perubahan yang ditentukan. Sesi dokumen boleh mengekalkan bahagian berkaitan bersama sambil mengembalikan jadual pendek atau petikan yang disemak. Kapasiti konteks tidak menetapkan panjang jawapan maksimum berasingan; contoh penjanaan 1,024 token dalam kad model ialah ilustrasi, bukannya had tersebut.
Pembuat menyatakan bahawa konfigurasi terdahulu yang dikeluarkan mengandungi ralat konteks panjang dan bahawa ia telah dibetulkan, termasuk kaitannya dengan titik semak terbitan. Kekalkan konfigurasi keluaran yang dibetulkan apabila menggunakan pemberat untuk sesi panjang. Mod hibrid dan seni bina 128B Medium 3.5 tidak patut dikaitkan dengan Medium 3.1 atau titik semak draft-head yang dinamakan secara berasingan hanya kerana namanya berkongsi keluarga.
Ailoot Ultra · Kelompok POST /v1/batches mistralai/mistral-medium-3-5:batch
mistralai/mistral-medium-3-5:batch
mistralai/mistral-medium-3-5:batchPengenalan
Mistral Medium 3.5 menggabungkan kepatuhan arahan, penaakulan dan pengekodan dalam model teks dan imej padat 128B. Ia mempunyai konteks 256k yang dinyatakan oleh pembuat, tetapan penaakulan bagi setiap permintaan, panggilan fungsi asli dan output berstruktur untuk aliran kerja dokumen dan ejen.
- Input yang diterima
- Teks
- Hasil
- Teks
Tersedia di Ailoot · input & kaedah
Ailoot Ultra · Kelompok POST /v1/batches
- Input
text- Output
text- Format output
- JSON results[].response.body sebaris
| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanendpoint | Jenisstring | KeperluanDiperlukan | Nilai & had /v1/chat/completions | Lalai— |
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had mistralai/mistral-medium-3-5:batch | Lalai— |
Medanrequests | Jenisbatch_item[] | KeperluanDiperlukan | Nilai & had Item minimum: 1 | Lalai— |
Medanrequests[].custom_id | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanrequests[].body.messages | Jenismessage[] | KeperluanDiperlukan | Nilai & had | Lalai— |
Medancompletion_window | Jenisstring | KeperluanPilihan | Nilai & had 24h | Lalai— |
Medanprovider | Jenisobject|null | KeperluanPilihan | Nilai & had | Lalai— |
Medanrequests[].body.model | Jenisstring | KeperluanPilihan | Nilai & had mistralai/mistral-medium-3-5:batch, mistralai/mistral-medium-3-5 | Lalai— |
Medanprovider.only | Jenisstring[] | KeperluanPilihan | Nilai & had mistral | Lalai— |
Medanprovider.allow_fallbacks | Jenisboolean|null | KeperluanPilihan | Nilai & had false, null | Lalai— |
Parameter kaedah dan kitar hayat
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakendpoint, model, requests |
Parametermaterial_types | Kontraktext |
Parameterrepresentation | Kontrakrequests[] sebaris; setiap item mempunyai custom_id dan body |
Parameterrequest_endpoint_profile | Kontrak/v1/chat/completions |
Parameterfile_material | KontrakPemanggil boleh membaca JSONL UTF-8 sebenar secara setempat ke dalam requests[]. Tiada tujuan muat naik, input_file_id atau rujukan fail digunakan. Bahan pelanggan yang tiada atau kosong menghentikan persediaan sebelum POST. |
Parameterserialization_order | Kontrakendpoint, model, provider (jika dibekalkan), completion_window (jika dibekalkan), requests di akhir |
Parameteroptional_controls | Kontrakprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | KontrakBadan permintaan Chat Completions teks dalam pembungkus Batch sebaris yang didokumenkan. |
Kitar hayat: asynchronous
GET /v1/batches/{operation_id} · response.id sebenar daripada respons penciptaan asal; pengguna/kunci/kumpulan yang sama
Pelan harga
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
- Mod pantas
- Tidak dinyatakan Apabila mod pantas dipilih
- Mod flex
- Tidak dinyatakan Apabila mod flex dipilih
- Usaha penaakulan maksimum
- Tidak dinyatakan Apabila usaha penaakulan maksimum menggunakan pelarasan default
- Harga cache eksplisit
- Tidak diaktifkan Apabila cache eksplisit diminta
Kadar Ailoot
Harga mengikut konfigurasi
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.0015 / 1K token Output · Token output $0.0075 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.0015 / 1K token Output · Token output $0.0075 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
Contoh permintaan
Ailoot Ultra · Kelompok
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-medium-3-5:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['mistralai/mistral-medium-3-5:batch', 'mistralai/mistral-medium-3-5']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-medium-3-5:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Terima dan simpan hasil
Ailoot Ultra · Kelompok
JSON results[].response.body sebaris
GET /v1/batches/{operation_id}
Semak status tugas
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Simpan keseluruhan JSON status asal, setiap hasil/custom_id serta badan respons atau ralat yang lengkap. Simpan results[] yang telah selesai sebagai JSONL tanpa penapisan.
Jika respons asal perlu disemak
Simpan ID operasi asal. 503 result_pending_check mempunyai X-Should-Retry:false; jangan sekali-kali hantar semula kelompok asal yang hasilnya tidak diketahui.
Medan respons
| Medan | Jenis |
|---|---|
Medanresults[].custom_id | Jenisstring |
Medanresults[].response.body.choices[].message.content | Jenisstring|null |
Medanresults[].error | Jenisobject|null |
Medanusage | Jenisobject|null |
Medanid | Jenisstring |
Medanmodel | Jenisstring |
Medanendpoint | Jenisstring |
Medanstatus | Jenisstring |
Medanrequest_counts | Jenisobject |
Medanresults[].id | Jenisstring |
Medanresults[].response.status_code | Jenisinteger |
Medanresults[].response.request_id | Jenisstring |
Ralat dan langkah seterusnya
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratPembungkus sebaris yang didokumenkan tidak sah, kunci berulang, identiti item atau keupayaan model yang dikonfigurasikan bercanggah. | Langkah seterusnyaBetulkan medan yang dinyatakan sebelum sebarang penghantaran baharu. |
Respons401 · authentication_error | SyaratKunci API tidak sah. | Langkah seterusnyaGunakan kunci Ailoot yang dibenarkan. |
Respons403 · permission_error | SyaratKumpulan kelompok tidak tersedia. | Langkah seterusnyaSemak hak akses kunci/kumpulan. |
Respons422 · invalid_request_error | SyaratKelompok menggunakan pengebilan baki; penciptaan melalui langganan ditolak. | Langkah seterusnyaGunakan kumpulan yang dibenarkan untuk pengebilan melalui baki. |
Respons422 · price_unavailable | SyaratSebut harga tidak dapat diberikan untuk input kelompok. | Langkah seterusnyaSimpan respons; gunakan input keluarga API yang didokumenkan. |
Respons402 · billing_error | SyaratRizab kelompok tidak tersedia. | Langkah seterusnyaSelesaikan isu penerimaan permintaan sebelum menghantar permintaan baharu. |
Respons503 · price_unavailable | SyaratHarga kaedah kelompok/kadar natif tidak tersedia. | Langkah seterusnyaSimpan respons; jangan gantikan harga. |
Respons503 · api_error | SyaratLaluan pembekal yang tepat tidak tersedia. | Langkah seterusnyaSimpan respons untuk pembaikan laluan. |
Respons503 · result_pending_check | SyaratHasil asal memerlukan semakan; X-Should-Retry:false. | Langkah seterusnyaSimpan operation_id/id asal dan baca statusnya; jangan sekali-kali ulang POST asal. |
Respons404 · not_found | SyaratOperasi status kelompok tiada atau dimiliki oleh identiti lain. | Langkah seterusnyaGunakan id asal yang tepat serta pengguna/kunci/kumpulan yang sama. |
Alias
Alias model
Ailoot Ultra mistralai/mistral-medium-3-5:batch
Alias laluan kaedah
Gunakan laluan kaedah yang dipaparkan di atas.
ID pemanggil berkaitan
FAQ · Mistral: Mistral Medium 3.5 (batch)
- Apakah input dan hasil yang tersedia?
POST /v1/batches·mistralai/mistral-medium-3-5:batch:text→text- Apakah medan yang digunakan oleh permintaan?
POST /v1/batches·mistralai/mistral-medium-3-5:batch:endpoint,model,requests,completion_window,provider- Apakah had yang terpakai?
POST /v1/batches·mistralai/mistral-medium-3-5:batch:requests.min_items:1