Mistral: Ministral 3 8B 2512 (batch)

Ministral 3 8B Instruct 2512 — 8,4 млрд параметрлі тілдік компоненті және 0,4 млрд параметрлі көру кодтаушысы бар көптілді мәтін мен сурет нұсқаулық моделі. Ол көмекшілер мен құжат үдерістері үшін өндіруші көрсеткен 256 мың токендік контексті, жүйелік нұсқауларды, JSON пішімін және төл функция шақыруын қолдайды.

Ailoot Ultra · Пакеттік өңдеу POST /v1/batches mistralai/ministral-8b-2512:batch

Модель туралы

Бұл сипаттама модель мүмкіндіктерін қамтиды. Ailoot жүйесінде таңдалған әдіс үшін қолжетімді кіріс, шығыс және параметрлер төменде берілген.

Ministral 3 8B Instruct 2512 — Mistral AI компаниясының Ministral 3 тобындағы орташа өлшемді, нұсқаулармен бапталған модель. Жарияланған модель нұсқасы чат және нұсқаулық тапсырмалар үшін FP8 дәлдігінде кейінгі үйретуден өткен. Ол тілдік компонентті көру кодтаушысымен біріктіріп, мәтін мен суреттерді қабылдайды және сурет не аудио артефактінің орнына мәтін қайтарады.

Архитектура және негізгі мүмкіндіктер

Өндіруші 8,4 млрд параметрлі тіл моделін және 0,4 млрд параметрлі көру кодтаушысын көрсетеді. Оның контекст терезесі 256 мың деп сипатталған, ал жарияланған пайдалану ескертпелері әдепкі бапталған ұзындық ретінде 262 144 мәнін қолданады. Бұлар осы 8B өлшемді шығарылымды сипаттайды; топтың шағындау 3B және ірілеу 14B мүшелері өз компонент өлшемдері мен конфигурацияларын сақтайды.

Көру модель кірісін жазбаша әңгімеден кеңейтеді. Құжат суретін таңдалған өріс, абзац немесе көрінетін байланыс туралы сұрақпен біріктіруге болады. Скриншотты пайдаланушы мақсатымен және қатысты басқару элементін анықтау сұрауымен біріктіруге болады. Жауап визуалды бөлшекке тәуелді болса, әр қорытындыны растайтын бақылауды сұрап, қиындыны түсіндіруге қажет тақырыптарды, белгілерді және өлшем бірліктерін сақтаңыз.

Карточка ондаған тілде, соның ішінде ағылшын, француз, испан, неміс, итальян, португал, нидерланд, қытай, жапон, корей және араб тілдерінде көптілді жұмысты сипаттайды. Сондай-ақ жүйелік нұсқауларды ұстануды, төл функция шақыруын және JSON шығысын атайды. Модельге үлкен кірістен көзделген артефактіні болжатпай, соңғы тілді, рөлді және шығыс талаптарын нақты анықтаңыз.

Құжат, әңгіме және агент тапсырмалары

Өндіруші атаған қолданыстарға чат интерфейстері, күнделікті көмекшілер, сурет пен құжатты сипаттау, аудару, мазмұн жасау және маманданған агенттер кіреді. Құжат көмекшісі үшін бетті беріп, қайтарылатын ақпаратты көрсетіңіз. Дерек алу сұрауы өріс белгілерін, күтілетін түрлерді және жетіспейтін мәндердің берілуін атай алады. Пайдалы жауап құжат идентификаторын, алынған мәнді және көрінетін дереккөзге байланыстырылған қысқа түсіндірмені қамтуы мүмкін.

Жалғасып жатқан әңгіме үшін қатысты алдыңғы жауапты сақтап, нақты кейінгі сұрақ қойыңыз. Пайдаланушы алдымен құжат түйіндемесін сұрап, содан кейін бір қорытындыны қай тұжырым растайтынын сұрай алады. Бұл бастапқы материал мен диалог мақсатын сақтай отырып, қажетті шығысты жалпы шолудан дереккөзге байланыстырылған түсіндірмеге өзгертеді.

Көптілді өңдеу үшін түпнұсқа үзіндіні, көзделген оқырманды және терминдер тізімін беріңіз. Атауларды, шарттарды және өлшем бірліктерін сақтайтын түзетілген нұсқаны, пайдалы болса, одан кейін өзгерістердің қысқа түсіндірмесін сұраңыз. Мазмұн жасау үшін қысқа нобайды немесе балама тұжырымды сұрамас бұрын аудиторияны және қамтылуға тиіс фактілерді көрсетіңіз.

Агент тапсырмасында қолданба құралдар мен олардың параметрлерін береді. Модель функцияны таңдап, аргументтерін дайындай алады, ал қолданба оны орындап, нәтижесін қайтарады. Карточкадағы функция мысалы сурет сұрағын есептеу құралымен біріктіреді. Кейінгі жазбаша жауап операция нақты қайтарған ақпаратты пайдалануы үшін құрал нәтижесін ұсынылған шақырудан бөлек сақтаңыз.

Ұсынылған дайындау және баптаулар

Өндіруші ортаны, қолдану жағдайын және құралдарды пайдалану тәсілін сипаттайтын жүйелік нұсқауды ұсынады. Құралдар жиынын анық беріп, тапсырмаға қажет ең аз санмен шектеңіз. Шағын іздеу үдерісі қатысы жоқ операциялардың үлкен жиынын ұсынудың орнына, міндетті аргументтері анық аталған ағымдағы сұраққа қатысты функцияларды ұсына алады.

Күнделікті және өндірістік қолданысқа ұқсас жұмыс үшін карточка 0.1-ден төмен temperature ұсынады, ал шығармашылық ізденіс үшін жоғарырақ temperature мәндері бар. Мұны бөлек пайымдау режимін басқару емес, нұсқаулық үдеріске арналған ұсыныс деп қабылдаңыз. Топта бөлек Base, Instruct және Reasoning модель нұсқалары бар; бұл жазба сол өлшемдегі бөлек Reasoning шығарылымы емес, Instruct 2512 шығарылымы.

Суреттер үшін өндіруші 1:1-ге жақын арақатынасты және тым жіңішке не тым кең кірістерден аулақ болуды ұсынады. Қажет болса, сұраққа қажет белгілер мен контексті сақтап қиыңыз. Бетте бірнеше қатысы жоқ аймақ болса, тексерілетін бөлікті және қайтарылатын нәтижені анықтаңыз. Оқылатын, нақты бағытталған сурет модельден кең беттегі қай ұсақ бөлшек маңызды екенін болжауды сұрағаннан пайдалырақ.

Контекст және шығарылым шекаралары

Мәтінді, суреттерді, әңгімені және қалаған жауапты бапталған контекстке сай жоспарлаңыз. Пайдалану ескертпелері аз контекст қажет болса, бапталған модель ұзындығын азайтуға ашық рұқсат береді; сондықтан толық терезе әр сұрауды қолда бар бүкіл материалмен толтыру нұсқауы емес. Карточкадағы 512 токендік генерация мысалы тек мысал баптау болып саналады, ал оқылған дереккөздер бөлек қатаң ең жоғары жауап ұзындығын белгілемейді.

FP8 Instruct нұсқасы, алдын ала үйретілген Base шығарылымы және Reasoning шығарылымы — бөлек шығарылымдар. Өндіруші мамандандыру мен қосымша баптап үйретуді де қолданыстар ретінде сипаттайды. Әңгімені дайындағанда аталған модель нұсқасын және оның токенизаторын сақтап, мәтін жасауды репозиторийге қолжетімділіктен, функция орындаудан немесе сыртқы қолданба беретін басқа әрекеттерден бөлек ұстаңыз.

Ailoot Ultra · Пакеттік өңдеу POST /v1/batches mistralai/ministral-8b-2512:batch

mistralai/ministral-8b-2512:batch

Mistral /mistralai/ministral-8b-2512:batch

Бастау

Қабылданатын кіріс деректері: Мәтін
Нәтижелер: Мәтін

Ailoot жүйесінде қолжетімді · кіріс деректері мен әдістер

Ailoot Ultra · Пакеттік өңдеу POST /v1/batches

Кіріс: text
Шығыс: text
Шығыс пішімі: Жауаптың ішіндегі results[].response.body JSON деректері

Өріс	Түрі	Талап	Мәндер мен шектеулер	Әдепкі
Өріс`endpoint`	Түрі`string`	ТалапМіндетті	Мәндер мен шектеулер /v1/chat/completions	Әдепкі—
Өріс`model`	Түрі`string`	ТалапМіндетті	Мәндер мен шектеулер mistralai/ministral-8b-2512:batch	Әдепкі—
Өріс`requests`	Түрі`batch_item[]`	ТалапМіндетті	Мәндер мен шектеулер Элементтердің ең аз саны: 1	Әдепкі—
Өріс`requests[].custom_id`	Түрі`string`	ТалапМіндетті	Мәндер мен шектеулер	Әдепкі—
Өріс`requests[].body.messages`	Түрі`message[]`	ТалапМіндетті	Мәндер мен шектеулер	Әдепкі—
Өріс`completion_window`	Түрі`string`	ТалапМіндетті емес	Мәндер мен шектеулер 24h	Әдепкі—
Өріс`provider`	Түрі`object\|null`	ТалапМіндетті емес	Мәндер мен шектеулер	Әдепкі—
Өріс`requests[].body.model`	Түрі`string`	ТалапМіндетті емес	Мәндер мен шектеулер mistralai/ministral-8b-2512:batch, mistralai/ministral-8b-2512	Әдепкі—
Өріс`provider.only`	Түрі`string[]`	ТалапМіндетті емес	Мәндер мен шектеулер mistral	Әдепкі—
Өріс`provider.allow_fallbacks`	Түрі`boolean\|null`	ТалапМіндетті емес	Мәндер мен шектеулер false, null	Әдепкі—

Әдіс параметрлері мен өмірлік циклі

Параметр	Параметр талаптары
Параметр`content_type`	Параметр талаптарыapplication/json
Параметр`required`	Параметр талаптарыendpoint, model, requests
Параметр`material_types`	Параметр талаптарыtext
Параметр`representation`	Параметр талаптарыСұрау ішіне енгізілген requests[]; әр элементте custom_id және body бар
Параметр`request_endpoint_profile`	Параметр талаптары/v1/chat/completions
Параметр`file_material`	Параметр талаптарыСұрауды жіберуші нақты UTF-8 JSONL деректерін жергілікті ортада оқып, requests[] ішіне енгізе алады. Жүктеу мақсаты, input_file_id немесе файлға сілтеме қолданылмайды. Клиент материалы жоқ немесе бос болса, дайындық POST жіберілгенге дейін тоқтатылады.
Параметр`serialization_order`	Параметр талаптарыendpoint, model, provider (берілген болса), completion_window (берілген болса), requests өрісін соңында орналастырыңыз
Параметр`optional_controls`	Параметр талаптарыprovider.only, provider.allow_fallbacks, completion_window
Параметр`schema_scope`	Параметр талаптарыҚұжаттамада сипатталған, сұраудың ішіне енгізілетін Batch құрылымындағы мәтіндік Chat Completions сұрауларының денелері.

Өмірлік цикл: asynchronous

GET /v1/batches/{operation_id} · Бастапқы жасау жауабындағы нақты response.id; сол пайдаланушы/кілт/топ

Тарифтер

Тариф анықтамасы сұрау мүмкіндіктерін қоспайды. Қолдау көрсетілетін параметрлер таңдалған әдісте берілген.

Жылдам режим: Көрсетілмеген Жылдам режим таңдалғанда
Икемді режим: Көрсетілмеген flex режимі таңдалғанда
Ой қорытудың ең жоғары деңгейі: Көрсетілмеген Ой қорыту деңгейі ең жоғары болып, default түзетуі қолданылғанда
Айқын кэштеу бағасы: Қосылмаған Айқын кэштеу сұралғанда

Ailoot мөлшерлемелері

Баптаулар бойынша бағалар

Әр төлемді көрсетілген шарттармен салыстырыңыз. Балама баптаулардың әр жиыны үшін бір мөлшерлемені қолданыңыз.

Баптау	Мөлшерлемелер кестесі	Контекст токендерінің саны мынадан көп	Контекст токендерінің саны мынадан аспайды, шегі кіреді	Төлем
БаптауТокендердің базалық тарифтері	Мөлшерлемелер кестесіНегізгі мөлшерлеме	Контекст токендерінің саны мынадан көп—	Контекст токендерінің саны мынадан аспайды, шегі кіредіЖоғарғы шегі жоқ	Төлем Кіріс · Кіріс токендері $0.00015 / 1K токен Шығыс · Шығыс токендері $0.00015 / 1K токен Кіріс · Кэшті оқу $0.000015 / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен
БаптауСұрау ұзындығының 1-деңгейі	Мөлшерлемелер кестесі—	Контекст токендерінің саны мынадан көп0	Контекст токендерінің саны мынадан аспайды, шегі кіредіЖоғарғы шегі жоқ	Төлем Кіріс · Кіріс токендері $0.00015 / 1K токен Шығыс · Шығыс токендері $0.00015 / 1K токен Кіріс · Кэшті оқу $0.000015 / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен

Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →

Сұрау мысалдары

Ailoot Ultra · Пакеттік өңдеу

curl · сақталған деректер үлгісіPython HTTP · клиенттің нақты JSONL деректеріPython · аяқталған әрбір нәтижені сақтаңыз

set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/ministral-8b-2512:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json

import json, os
from pathlib import Path
from urllib.request import Request, urlopen

def prepare_requests(customer_path):
    path = Path(customer_path)
    if not path.is_file(): raise ValueError("Customer JSONL file is missing")
    items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
    if not items: raise ValueError("Customer JSONL contains no requests")
    ids = set()
    for item in items:
        if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
        cid = item["custom_id"]
        if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
        ids.add(cid)
        if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
        supplied_model = item["body"].get("model")
        if supplied_model is not None and supplied_model not in ['mistralai/ministral-8b-2512:batch', 'mistralai/ministral-8b-2512']: raise ValueError("body.model must be an exact documented caller or wire ID")
    return {"endpoint":"/v1/chat/completions", "model":"mistralai/ministral-8b-2512:batch", "requests":items}

if __name__ == "__main__":
    material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
    if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
    body = prepare_requests(material)
    key = os.environ.get("AILOOT_API_KEY", "")
    if not key: raise SystemExit("Set AILOOT_API_KEY")
    request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
    with urlopen(request) as response:
        raw = response.read()
        Path("batch-create-response.json").write_bytes(raw)
        print(raw.decode("utf-8"))

import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
    raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
    raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.

Нәтижелерді алу және сақтау

Ailoot Ultra · Пакеттік өңдеу

Жауаптың ішіндегі results[].response.body JSON деректері

GET /v1/batches/{operation_id}

Тапсырма күйін тексеру

curl · бастапқы операцияның күйі

set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
  -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json

Барлық дайын нәтижені сақтау

Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.

Бастапқы күй туралы толық JSON деректерін, әрбір нәтижені/custom_id мәнін және жауаптың немесе қатенің толық денесін сақтаңыз. Аяқталған results[] деректерін сүзгілемей JSONL түрінде сақтаңыз.

Бастапқы жауапты тексеру қажет болса

Бастапқы операцияның ID мәнін сақтаңыз. 503 result_pending_check жауабында X-Should-Retry:false көрсетіледі; нәтижесі белгісіз бастапқы пакетті ешқашан қайта жібермеңіз.

Жауап өрістері

Өріс	Түрі
Өріс`results[].custom_id`	Түріstring
Өріс`results[].response.body.choices[].message.content`	Түріstring\|null
Өріс`results[].error`	Түріobject\|null
Өріс`usage`	Түріobject\|null
Өріс`id`	Түріstring
Өріс`model`	Түріstring
Өріс`endpoint`	Түріstring
Өріс`status`	Түріstring
Өріс`request_counts`	Түріobject
Өріс`results[].id`	Түріstring
Өріс`results[].response.status_code`	Түріinteger
Өріс`results[].response.request_id`	Түріstring

Қателер және келесі қадамдар

Жауап	Шарт	Келесі қадам
Жауап400 · `invalid_request_error`	ШартҚұжаттамада сипатталған сұрау ішіндегі құрылым жарамсыз, кілттер қайталанады, элементтің сәйкестігі бұзылған немесе бапталған модель мүмкіндіктері арасында қайшылық бар.	Келесі қадамЖаңадан жібермес бұрын көрсетілген өрістерді түзетіңіз.
Жауап401 · `authentication_error`	ШартЖарамсыз API кілті.	Келесі қадамПайдалануға рұқсат берілген Ailoot кілтін қолданыңыз.
Жауап403 · `permission_error`	ШартПакеттік өңдеу тобы қолжетімсіз.	Келесі қадамКілттің/топтың қол жеткізу құқығын тексеріңіз.
Жауап422 · `invalid_request_error`	ШартBatch төлемді баланстан алады; жазылыммен төленетін жасау сұрауы қабылданбайды.	Келесі қадамБаланстан төлем алынатын, пайдалануға рұқсат берілген топты қолданыңыз.
Жауап422 · `price_unavailable`	ШартBatch кіріс деректерінің құнын алдын ала есептеу мүмкін емес.	Келесі қадамЖауапты сақтаңыз; осы әдістер тобы үшін құжаттамада сипатталған кіріс деректерін қолданыңыз.
Жауап402 · `billing_error`	ШартПакеттік өңдеу үшін қаражатты резервтеу қолжетімсіз.	Келесі қадамЖаңа сұрау жібермес бұрын сұрауды қабылдау мәселесін шешіңіз.
Жауап503 · `price_unavailable`	ШартBatch әдісінің бағасы/жүйенің төл тарифтері қолжетімсіз.	Келесі қадамЖауапты сақтаңыз; бағаларды басқа мәндермен алмастырмаңыз.
Жауап503 · `api_error`	ШартПровайдердің осы нақты маршруты қолжетімсіз.	Келесі қадамМаршрутты түзету үшін жауапты сақтаңыз.
Жауап503 · `result_pending_check`	ШартБастапқы нәтижені тексеру қажет; X-Should-Retry:false.	Келесі қадамБастапқы operation_id/id мәнін сақтап, оның күйін оқыңыз; бастапқы POST сұрауын ешқашан қайталамаңыз.
Жауап404 · `not_found`	ШартBatch күйін тексеретін операция жоқ немесе басқа субъектіге тиесілі.	Келесі қадамБастапқы id мәнін дәл қолданыңыз және сол пайдаланушыны/кілтті/топты пайдаланыңыз.

Балама атаулар

Модельдердің балама атаулары

Ailoot Ultra mistralai/ministral-8b-2512:batch

Әдіс жолдарының балама атаулары

Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.

Шақыруға арналған байланысты ID

mistralai/ministral-8b-2512:batch

FAQ · Mistral: Ministral 3 8B 2512 (batch)

Қандай кіріс деректері мен нәтижелер қолжетімді?: POST /v1/batches · mistralai/ministral-8b-2512:batch: text → text
Сұрау қандай өрістерді пайдаланады?: POST /v1/batches · mistralai/ministral-8b-2512:batch: endpoint, model, requests, completion_window, provider
Қандай шектеулер қолданылады?: POST /v1/batches · mistralai/ministral-8b-2512:batch: requests.min_items: 1

Mistral: Ministral 3 8B 2512 (batch)