Codestral 2508 ialah model pengekodan Mistral AI untuk tugas pelengkapan dan penjanaan yang kerap serta sensitif kepada kependaman. Ia menerima kod sumber dan keperluan bertulis lalu mengembalikan teks yang boleh mengandungi pelaksanaan, pelengkapan, pembetulan atau penjelasan. Edisi bernama 2508 menumpukan konteks penyuntingan semasa pembangun, bukannya model pembenaman atau ejen repositori lengkap dengan sendirinya.
Pelengkapan kod dan kemas kini 2508
Pembuat menyasarkan Codestral untuk pelengkapan pengisian bahagian tengah dan penyuntingan berbilang baris. Keluaran ini menerangkan penambahbaikan dalam tingkah laku pelengkapan, termasuk mengurangkan penjanaan yang berlanjutan tanpa kawalan, bersama penambahbaikan pada kepatuhan arahan dan tugas kod dalam mod sembang. Ini ialah perubahan pada edisi Codestral ini; ciri perolehan maklumat dan ejen autonomi dalam susunan pengekodan sekeliling dimiliki oleh komponen lain yang dinamakan secara berasingan.
Untuk tugas pelengkapan, kekalkan tandatangan fungsi, pengisytiharan dan konteks panggilan yang berkaitan bersama kedudukan kursor. Kenal pasti sama ada hasil yang diingini hanyalah kod yang tiada atau fungsi lengkap yang telah disemak semula. Permintaan gaya penyunting boleh meminta badan gelung yang mengekalkan jenis pulangan sedia ada, mengekalkan nilai pendua dan tidak mengubah input pemanggil. Hasilnya kemudian mempunyai titik sisipan konkrit dan tingkah laku yang ditakrifkan.
Penyediaan pengisian bahagian tengah
Dalam antara muka FIM pembuat, prom membekalkan teks atau kod untuk dilengkapkan dan akhiran pilihan membekalkan bahan selepas ruang kosong. Apabila kedua-duanya diberikan, model mengisi ruang di antaranya. Tanpa akhiran, ia menyambung daripada prom. Ini berbeza daripada permintaan perbualan biasa yang meminta perubahan kod dan penjelasan; setiap gaya penyediaan mentakrifkan kontrak output yang berbeza.
Input pelengkapan ruang kosong yang berguna merangkumi permulaan fungsi, kod yang mesti menyusuli sisipan dan sebarang takrif jenis atau fungsi pembantu yang berkaitan. Kekalkan pengengsotan dan pembatas supaya teks yang dikembalikan boleh dimuatkan ke dalam fragmen sedia ada. Jika tugas hanya memerlukan badan yang tiada, minta badan itu dan bukannya penulisan semula seluruh fail. Soalan sembang berasingan boleh menerangkan sebab fragmen yang dilengkapkan memenuhi keperluan.
Dokumentasi FIM rasmi membenarkan bajet token output dan mensyaratkan prom bersama bajet itu kekal dalam konteks model. Ia turut mendokumentasikan jujukan henti dan penstriman kandungan yang dijana. Pilih aliran kerja pelengkapan apabila hasil mesti muat dalam ruang kod, dan aliran kerja perbualan apabila tugas meminta kod bersama penjelasan.
Konteks dan ciri sokongan
Halaman model memberikan tetingkap konteks 128k. Gunakan konteks untuk mengekalkan sumber dan pengisytiharan yang menentukan perubahan yang dimaksudkan, sambil memastikan tugas penyuntingan sebenar jelas. Untuk permintaan pembaikan pepijat, berikan fungsi yang terjejas, input gagal yang konkrit, hasil yang dijangka dan ralat atau tingkah laku yang diperhatikan. Minta pembetulan yang dicadangkan secara berasingan daripada penjelasan dan contohnya.
Halaman itu turut menyenaraikan output berstruktur, panggilan fungsi, output ramalan, soal jawab dokumen, awalan respons dan pemprosesan kelompok bersama keupayaan sembang dan FIM. Untuk hasil semakan kod berstruktur, takrifkan medan seperti simbol yang terjejas, ketidakpadanan yang diperhatikan, perubahan yang dicadangkan dan andaian yang masih memerlukan penjelasan. Panduan output berstruktur Mistral membezakan mod JSON daripada skema tersuai, dengan format JSON yang diingini dinyatakan dalam prom.
Output ramalan ditujukan untuk kandungan yang sebahagian besar jawapannya sudah diketahui. Ia boleh digunakan apabila menjana semula dokumen atau fail kod dengan suntingan terhad sambil mengekalkan kandungan selebihnya. Nyatakan perubahan tepat dan bahan yang mesti dikekalkan. Sebaliknya, awalan respons membekalkan permulaan yang diketahui untuk diteruskan oleh penjanaan; ia berbeza daripada badan penuh yang diketahui mahupun akhiran FIM.
Soalan dokumentasi boleh menggunakan aliran kerja pemprosesan dokumen pembuat untuk menyediakan teks dan struktur melalui OCR sebelum analisis model bahasa. Untuk bahan pengaturcaraan yang sudah tersedia sebagai teks, berikan petikan dokumentasi berkaitan dan tanya syarat yang mengawal pelaksanaan. Kekalkan setiap keperluan yang diekstrak bersama bahagian sumbernya supaya kod atau penjelasan yang dijana kekal berkaitan dengan spesifikasi yang diberikan.
Alat dan hasil praktikal
Panggilan fungsi membolehkan aplikasi menyediakan operasi yang diterangkan dan parameternya. Model menyediakan panggilan, aplikasi melaksanakannya dan hasil yang dikembalikan menjadi konteks untuk jawapan seterusnya. Pembantu kod mungkin menerima hasil carian atau hasil pengiraan melalui kitaran itu, tetapi penyusunan, pengujian atau penerapan perubahan yang dicadangkan masih memerlukan persekitaran pembangunan sekeliling.
Untuk pembetulan praktikal, takrifkan antara muka awam yang mesti kekal serasi dan minta fragmen yang disemak, penjelasan ringkas dan contoh input dengan output yang dijangka. Untuk fungsi yang dijana, nyatakan jenis yang diterima dan keadaan pinggir. Untuk penjelasan, berikan input yang hendak dijejaki supaya jawapan menghubungkan laluan pelaksanaan konkrit dengan nilai pulangannya.
Codestral menghasilkan teks. Ia tidak mewarisi vektor carian kod daripada Codestral Embed, automasi repositori daripada Devstral atau penjanaan imej daripada model visual. Halaman model 2508 yang khusus ini tidak menerbitkan bilangan parameter atau panjang jawapan maksimum berasingan yang boleh dipinjam daripada keluaran lain. Kekalkan edisi bernama, konteks pengekodan dan artifak yang diperlukan semasa menyediakan aliran kerja penyunting atau sembang yang boleh diulang.
", "aboutText": "Codestral 2508 ialah model pengekodan Mistral AI untuk tugas pelengkapan dan penjanaan yang kerap serta sensitif kepada kependaman. Ia menerima kod sumber dan keperluan bertulis lalu mengembalikan teks yang boleh mengandungi pelaksanaan, pelengkapan, pembetulan atau penjelasan. Edisi bernama 2508 menumpukan konteks penyuntingan semasa pembangun, bukannya model pembenaman atau ejen repositori lengkap dengan sendirinya.\n\nPelengkapan kod dan kemas kini 2508\n\nPembuat menyasarkan Codestral untuk pelengkapan pengisian bahagian tengah dan penyuntingan berbilang baris. Keluaran ini menerangkan penambahbaikan dalam tingkah laku pelengkapan, termasuk mengurangkan penjanaan yang berlanjutan tanpa kawalan, bersama penambahbaikan pada kepatuhan arahan dan tugas kod dalam mod sembang. Ini ialah perubahan pada edisi Codestral ini; ciri perolehan maklumat dan ejen autonomi dalam susunan pengekodan sekeliling dimiliki oleh komponen lain yang dinamakan secara berasingan.\n\nUntuk tugas pelengkapan, kekalkan tandatangan fungsi, pengisytiharan dan konteks panggilan yang berkaitan bersama kedudukan kursor. Kenal pasti sama ada hasil yang diingini hanyalah kod yang tiada atau fungsi lengkap yang telah disemak semula. Permintaan gaya penyunting boleh meminta badan gelung yang mengekalkan jenis pulangan sedia ada, mengekalkan nilai pendua dan tidak mengubah input pemanggil. Hasilnya kemudian mempunyai titik sisipan konkrit dan tingkah laku yang ditakrifkan.\n\nPenyediaan pengisian bahagian tengah\n\nDalam antara muka FIM pembuat, prom membekalkan teks atau kod untuk dilengkapkan dan akhiran pilihan membekalkan bahan selepas ruang kosong. Apabila kedua-duanya diberikan, model mengisi ruang di antaranya. Tanpa akhiran, ia menyambung daripada prom. Ini berbeza daripada permintaan perbualan biasa yang meminta perubahan kod dan penjelasan; setiap gaya penyediaan mentakrifkan kontrak output yang berbeza.\n\nInput pelengkapan ruang kosong yang berguna merangkumi permulaan fungsi, kod yang mesti menyusuli sisipan dan sebarang takrif jenis atau fungsi pembantu yang berkaitan. Kekalkan pengengsotan dan pembatas supaya teks yang dikembalikan boleh dimuatkan ke dalam fragmen sedia ada. Jika tugas hanya memerlukan badan yang tiada, minta badan itu dan bukannya penulisan semula seluruh fail. Soalan sembang berasingan boleh menerangkan sebab fragmen yang dilengkapkan memenuhi keperluan.\n\nDokumentasi FIM rasmi membenarkan bajet token output dan mensyaratkan prom bersama bajet itu kekal dalam konteks model. Ia turut mendokumentasikan jujukan henti dan penstriman kandungan yang dijana. Pilih aliran kerja pelengkapan apabila hasil mesti muat dalam ruang kod, dan aliran kerja perbualan apabila tugas meminta kod bersama penjelasan.\n\nKonteks dan ciri sokongan\n\nHalaman model memberikan tetingkap konteks 128k. Gunakan konteks untuk mengekalkan sumber dan pengisytiharan yang menentukan perubahan yang dimaksudkan, sambil memastikan tugas penyuntingan sebenar jelas. Untuk permintaan pembaikan pepijat, berikan fungsi yang terjejas, input gagal yang konkrit, hasil yang dijangka dan ralat atau tingkah laku yang diperhatikan. Minta pembetulan yang dicadangkan secara berasingan daripada penjelasan dan contohnya.\n\nHalaman itu turut menyenaraikan output berstruktur, panggilan fungsi, output ramalan, soal jawab dokumen, awalan respons dan pemprosesan kelompok bersama keupayaan sembang dan FIM. Untuk hasil semakan kod berstruktur, takrifkan medan seperti simbol yang terjejas, ketidakpadanan yang diperhatikan, perubahan yang dicadangkan dan andaian yang masih memerlukan penjelasan. Panduan output berstruktur Mistral membezakan mod JSON daripada skema tersuai, dengan format JSON yang diingini dinyatakan dalam prom.\n\nOutput ramalan ditujukan untuk kandungan yang sebahagian besar jawapannya sudah diketahui. Ia boleh digunakan apabila menjana semula dokumen atau fail kod dengan suntingan terhad sambil mengekalkan kandungan selebihnya. Nyatakan perubahan tepat dan bahan yang mesti dikekalkan. Sebaliknya, awalan respons membekalkan permulaan yang diketahui untuk diteruskan oleh penjanaan; ia berbeza daripada badan penuh yang diketahui mahupun akhiran FIM.\n\nSoalan dokumentasi boleh menggunakan aliran kerja pemprosesan dokumen pembuat untuk menyediakan teks dan struktur melalui OCR sebelum analisis model bahasa. Untuk bahan pengaturcaraan yang sudah tersedia sebagai teks, berikan petikan dokumentasi berkaitan dan tanya syarat yang mengawal pelaksanaan. Kekalkan setiap keperluan yang diekstrak bersama bahagian sumbernya supaya kod atau penjelasan yang dijana kekal berkaitan dengan spesifikasi yang diberikan.\n\nAlat dan hasil praktikal\n\nPanggilan fungsi membolehkan aplikasi menyediakan operasi yang diterangkan dan parameternya. Model menyediakan panggilan, aplikasi melaksanakannya dan hasil yang dikembalikan menjadi konteks untuk jawapan seterusnya. Pembantu kod mungkin menerima hasil carian atau hasil pengiraan melalui kitaran itu, tetapi penyusunan, pengujian atau penerapan perubahan yang dicadangkan masih memerlukan persekitaran pembangunan sekeliling.\n\nUntuk pembetulan praktikal, takrifkan antara muka awam yang mesti kekal serasi dan minta fragmen yang disemak, penjelasan ringkas dan contoh input dengan output yang dijangka. Untuk fungsi yang dijana, nyatakan jenis yang diterima dan keadaan pinggir. Untuk penjelasan, berikan input yang hendak dijejaki supaya jawapan menghubungkan laluan pelaksanaan konkrit dengan nilai pulangannya.\n\nCodestral menghasilkan teks. Ia tidak mewarisi vektor carian kod daripada Codestral Embed, automasi repositori daripada Devstral atau penjanaan imej daripada model visual. Halaman model 2508 yang khusus ini tidak menerbitkan bilangan parameter atau panjang jawapan maksimum berasingan yang boleh dipinjam daripada keluaran lain. Kekalkan edisi bernama, konteks pengekodan dan artifak yang diperlukan semasa menyediakan aliran kerja penyunting atau sembang yang boleh diulang.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "270b1ef1a103e8f80138d0dd60a1450485f25846c811ba3b0cf07931aacc3d55", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "ms", "methods": [ { "html": "mistralai/codestral-2508:batchCodestral 2508 ialah model teks Mistral AI untuk penjanaan kod dan pelengkapan peka konteks. Ia dioptimumkan untuk tugas penyunting yang kerap, termasuk pengisian bahagian tengah dan suntingan berbilang baris, dengan konteks 128k yang dinyatakan oleh pembuat serta ciri sembang, output berstruktur dan alat yang didokumentasikan.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Codestral 2508 ialah model pengekodan Mistral AI untuk tugas pelengkapan dan penjanaan yang kerap serta sensitif kepada kependaman. Ia menerima kod sumber dan keperluan bertulis lalu mengembalikan teks yang boleh mengandungi pelaksanaan, pelengkapan, pembetulan atau penjelasan. Edisi bernama 2508 menumpukan konteks penyuntingan semasa pembangun, bukannya model pembenaman atau ejen repositori lengkap dengan sendirinya.
Pelengkapan kod dan kemas kini 2508
Pembuat menyasarkan Codestral untuk pelengkapan pengisian bahagian tengah dan penyuntingan berbilang baris. Keluaran ini menerangkan penambahbaikan dalam tingkah laku pelengkapan, termasuk mengurangkan penjanaan yang berlanjutan tanpa kawalan, bersama penambahbaikan pada kepatuhan arahan dan tugas kod dalam mod sembang. Ini ialah perubahan pada edisi Codestral ini; ciri perolehan maklumat dan ejen autonomi dalam susunan pengekodan sekeliling dimiliki oleh komponen lain yang dinamakan secara berasingan.
Untuk tugas pelengkapan, kekalkan tandatangan fungsi, pengisytiharan dan konteks panggilan yang berkaitan bersama kedudukan kursor. Kenal pasti sama ada hasil yang diingini hanyalah kod yang tiada atau fungsi lengkap yang telah disemak semula. Permintaan gaya penyunting boleh meminta badan gelung yang mengekalkan jenis pulangan sedia ada, mengekalkan nilai pendua dan tidak mengubah input pemanggil. Hasilnya kemudian mempunyai titik sisipan konkrit dan tingkah laku yang ditakrifkan.
Penyediaan pengisian bahagian tengah
Dalam antara muka FIM pembuat, prom membekalkan teks atau kod untuk dilengkapkan dan akhiran pilihan membekalkan bahan selepas ruang kosong. Apabila kedua-duanya diberikan, model mengisi ruang di antaranya. Tanpa akhiran, ia menyambung daripada prom. Ini berbeza daripada permintaan perbualan biasa yang meminta perubahan kod dan penjelasan; setiap gaya penyediaan mentakrifkan kontrak output yang berbeza.
Input pelengkapan ruang kosong yang berguna merangkumi permulaan fungsi, kod yang mesti menyusuli sisipan dan sebarang takrif jenis atau fungsi pembantu yang berkaitan. Kekalkan pengengsotan dan pembatas supaya teks yang dikembalikan boleh dimuatkan ke dalam fragmen sedia ada. Jika tugas hanya memerlukan badan yang tiada, minta badan itu dan bukannya penulisan semula seluruh fail. Soalan sembang berasingan boleh menerangkan sebab fragmen yang dilengkapkan memenuhi keperluan.
Dokumentasi FIM rasmi membenarkan bajet token output dan mensyaratkan prom bersama bajet itu kekal dalam konteks model. Ia turut mendokumentasikan jujukan henti dan penstriman kandungan yang dijana. Pilih aliran kerja pelengkapan apabila hasil mesti muat dalam ruang kod, dan aliran kerja perbualan apabila tugas meminta kod bersama penjelasan.
Konteks dan ciri sokongan
Halaman model memberikan tetingkap konteks 128k. Gunakan konteks untuk mengekalkan sumber dan pengisytiharan yang menentukan perubahan yang dimaksudkan, sambil memastikan tugas penyuntingan sebenar jelas. Untuk permintaan pembaikan pepijat, berikan fungsi yang terjejas, input gagal yang konkrit, hasil yang dijangka dan ralat atau tingkah laku yang diperhatikan. Minta pembetulan yang dicadangkan secara berasingan daripada penjelasan dan contohnya.
Halaman itu turut menyenaraikan output berstruktur, panggilan fungsi, output ramalan, soal jawab dokumen, awalan respons dan pemprosesan kelompok bersama keupayaan sembang dan FIM. Untuk hasil semakan kod berstruktur, takrifkan medan seperti simbol yang terjejas, ketidakpadanan yang diperhatikan, perubahan yang dicadangkan dan andaian yang masih memerlukan penjelasan. Panduan output berstruktur Mistral membezakan mod JSON daripada skema tersuai, dengan format JSON yang diingini dinyatakan dalam prom.
Output ramalan ditujukan untuk kandungan yang sebahagian besar jawapannya sudah diketahui. Ia boleh digunakan apabila menjana semula dokumen atau fail kod dengan suntingan terhad sambil mengekalkan kandungan selebihnya. Nyatakan perubahan tepat dan bahan yang mesti dikekalkan. Sebaliknya, awalan respons membekalkan permulaan yang diketahui untuk diteruskan oleh penjanaan; ia berbeza daripada badan penuh yang diketahui mahupun akhiran FIM.
Soalan dokumentasi boleh menggunakan aliran kerja pemprosesan dokumen pembuat untuk menyediakan teks dan struktur melalui OCR sebelum analisis model bahasa. Untuk bahan pengaturcaraan yang sudah tersedia sebagai teks, berikan petikan dokumentasi berkaitan dan tanya syarat yang mengawal pelaksanaan. Kekalkan setiap keperluan yang diekstrak bersama bahagian sumbernya supaya kod atau penjelasan yang dijana kekal berkaitan dengan spesifikasi yang diberikan.
Alat dan hasil praktikal
Panggilan fungsi membolehkan aplikasi menyediakan operasi yang diterangkan dan parameternya. Model menyediakan panggilan, aplikasi melaksanakannya dan hasil yang dikembalikan menjadi konteks untuk jawapan seterusnya. Pembantu kod mungkin menerima hasil carian atau hasil pengiraan melalui kitaran itu, tetapi penyusunan, pengujian atau penerapan perubahan yang dicadangkan masih memerlukan persekitaran pembangunan sekeliling.
Untuk pembetulan praktikal, takrifkan antara muka awam yang mesti kekal serasi dan minta fragmen yang disemak, penjelasan ringkas dan contoh input dengan output yang dijangka. Untuk fungsi yang dijana, nyatakan jenis yang diterima dan keadaan pinggir. Untuk penjelasan, berikan input yang hendak dijejaki supaya jawapan menghubungkan laluan pelaksanaan konkrit dengan nilai pulangannya.
Codestral menghasilkan teks. Ia tidak mewarisi vektor carian kod daripada Codestral Embed, automasi repositori daripada Devstral atau penjanaan imej daripada model visual. Halaman model 2508 yang khusus ini tidak menerbitkan bilangan parameter atau panjang jawapan maksimum berasingan yang boleh dipinjam daripada keluaran lain. Kekalkan edisi bernama, konteks pengekodan dan artifak yang diperlukan semasa menyediakan aliran kerja penyunting atau sembang yang boleh diulang.
POST /v1/batchestexttext| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanendpoint | Jenisstring | KeperluanDiperlukan | Nilai & had /v1/chat/completions | Lalai— |
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had mistralai/codestral-2508:batch | Lalai— |
Medanrequests | Jenisbatch_item[] | KeperluanDiperlukan | Nilai & had Item minimum: 1 | Lalai— |
Medanrequests[].custom_id | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanrequests[].body.messages | Jenismessage[] | KeperluanDiperlukan | Nilai & had | Lalai— |
Medancompletion_window | Jenisstring | KeperluanPilihan | Nilai & had 24h | Lalai— |
Medanprovider | Jenisobject|null | KeperluanPilihan | Nilai & had | Lalai— |
Medanrequests[].body.model | Jenisstring | KeperluanPilihan | Nilai & had mistralai/codestral-2508:batch, mistralai/codestral-2508 | Lalai— |
Medanprovider.only | Jenisstring[] | KeperluanPilihan | Nilai & had mistral | Lalai— |
Medanprovider.allow_fallbacks | Jenisboolean|null | KeperluanPilihan | Nilai & had false, null | Lalai— |
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakendpoint, model, requests |
Parametermaterial_types | Kontraktext |
Parameterrepresentation | Kontrakrequests[] sebaris; setiap item mempunyai custom_id dan body |
Parameterrequest_endpoint_profile | Kontrak/v1/chat/completions |
Parameterfile_material | KontrakPemanggil boleh membaca JSONL UTF-8 sebenar secara setempat ke dalam requests[]. Tiada tujuan muat naik, input_file_id atau rujukan fail digunakan. Bahan pelanggan yang tiada atau kosong menghentikan persediaan sebelum POST. |
Parameterserialization_order | Kontrakendpoint, model, provider (jika dibekalkan), completion_window (jika dibekalkan), requests di akhir |
Parameteroptional_controls | Kontrakprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | KontrakBadan permintaan Chat Completions teks dalam pembungkus Batch sebaris yang didokumenkan. |
Kitar hayat: asynchronous
GET /v1/batches/{operation_id} · response.id sebenar daripada respons penciptaan asal; pengguna/kunci/kumpulan yang sama
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.0003 / 1K token Output · Token output $0.0009 / 1K token Input · Bacaan cache $0.00003 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.0003 / 1K token Output · Token output $0.0009 / 1K token Input · Bacaan cache $0.00003 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/codestral-2508:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/codestral-2508:batch', 'mistralai/codestral-2508']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/codestral-2508:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\nJSON results[].response.body sebaris
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nSimpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Simpan keseluruhan JSON status asal, setiap hasil/custom_id serta badan respons atau ralat yang lengkap. Simpan results[] yang telah selesai sebagai JSONL tanpa penapisan.
Simpan ID operasi asal. 503 result_pending_check mempunyai X-Should-Retry:false; jangan sekali-kali hantar semula kelompok asal yang hasilnya tidak diketahui.
| Medan | Jenis |
|---|---|
Medanresults[].custom_id | Jenisstring |
Medanresults[].response.body.choices[].message.content | Jenisstring|null |
Medanresults[].error | Jenisobject|null |
Medanusage | Jenisobject|null |
Medanid | Jenisstring |
Medanmodel | Jenisstring |
Medanendpoint | Jenisstring |
Medanstatus | Jenisstring |
Medanrequest_counts | Jenisobject |
Medanresults[].id | Jenisstring |
Medanresults[].response.status_code | Jenisinteger |
Medanresults[].response.request_id | Jenisstring |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratPembungkus sebaris yang didokumenkan tidak sah, kunci berulang, identiti item atau keupayaan model yang dikonfigurasikan bercanggah. | Langkah seterusnyaBetulkan medan yang dinyatakan sebelum sebarang penghantaran baharu. |
Respons401 · authentication_error | SyaratKunci API tidak sah. | Langkah seterusnyaGunakan kunci Ailoot yang dibenarkan. |
Respons403 · permission_error | SyaratKumpulan kelompok tidak tersedia. | Langkah seterusnyaSemak hak akses kunci/kumpulan. |
Respons422 · invalid_request_error | SyaratKelompok menggunakan pengebilan baki; penciptaan melalui langganan ditolak. | Langkah seterusnyaGunakan kumpulan yang dibenarkan untuk pengebilan melalui baki. |
Respons422 · price_unavailable | SyaratSebut harga tidak dapat diberikan untuk input kelompok. | Langkah seterusnyaSimpan respons; gunakan input keluarga API yang didokumenkan. |
Respons402 · billing_error | SyaratRizab kelompok tidak tersedia. | Langkah seterusnyaSelesaikan isu penerimaan permintaan sebelum menghantar permintaan baharu. |
Respons503 · price_unavailable | SyaratHarga kaedah kelompok/kadar natif tidak tersedia. | Langkah seterusnyaSimpan respons; jangan gantikan harga. |
Respons503 · api_error | SyaratLaluan pembekal yang tepat tidak tersedia. | Langkah seterusnyaSimpan respons untuk pembaikan laluan. |
Respons503 · result_pending_check | SyaratHasil asal memerlukan semakan; X-Should-Retry:false. | Langkah seterusnyaSimpan operation_id/id asal dan baca statusnya; jangan sekali-kali ulang POST asal. |
Respons404 · not_found | SyaratOperasi status kelompok tiada atau dimiliki oleh identiti lain. | Langkah seterusnyaGunakan id asal yang tepat serta pengguna/kunci/kumpulan yang sama. |
Ailoot Ultra mistralai/codestral-2508:batch
Gunakan laluan kaedah yang dipaparkan di atas.