Mistral: Ministral 3 8B 2512 (batch)
Ministral 3 8B Instruct 2512 — многоязычная инструкционная модель с текстовым и визуальным входом, языковым компонентом на 8,4 млрд параметров и визуальным энкодером на 0,4 млрд. Она поддерживает заявленный разработчиком контекст 256 тыс. токенов, системные инструкции, JSON и встроенный вызов функций для ассистентов и работы с документами.
О модели
Описание раскрывает возможности модели. Доступные в Ailoot входные данные, результаты и параметры выбранного метода перечислены ниже.
Ministral 3 8B Instruct 2512 — средняя по размеру модель, дообученная следованию инструкциям, в семействе Ministral 3 от Mistral AI. Опубликованный чекпойнт прошёл постобучение для чата и инструкционных задач с точностью FP8. Он объединяет языковой компонент с визуальным энкодером, принимает текст и изображения и возвращает текст, а не изображение или аудиоматериал.
Архитектура и основные возможности
Разработчик указывает языковую модель с 8,4 млрд параметров и визуальный энкодер с 0,4 млрд параметров. Контекстное окно описано как 256 тыс. токенов, а опубликованные примечания по использованию задают настроенную длину по умолчанию 262 144. Эти характеристики описывают редакцию размера 8B; меньшая 3B и большая 14B сохраняют собственные размеры компонентов и конфигурации.
Зрение расширяет вход модели за пределы письменного диалога. Изображение документа можно сопровождать вопросом о выбранном поле, абзаце или видимой связи. Снимок экрана можно передать вместе с целью пользователя и просьбой определить нужный элемент управления. Когда ответ зависит от визуальных деталей, запрашивайте наблюдение, подтверждающее каждое заключение, и сохраняйте заголовки, подписи и единицы измерения, необходимые для интерпретации фрагмента.
Карточка описывает многоязычную работу на десятках языков, включая английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, китайский, японский, корейский и арабский. В ней также указаны соблюдение системных инструкций, встроенный вызов функций и вывод JSON. Явно определяйте итоговый язык, роль и требования к результату, а не оставляйте модели угадывать желаемый материал по большому объёму входных данных.
Задачи по документам, диалогам и агентам
Сценарии разработчика включают чат-интерфейсы, повседневных ассистентов, описание изображений и документов, перевод, создание контента и специализированных агентов. Для документного ассистента передайте страницу и укажите информацию для возврата. Запрос извлечения может назвать подписи полей, ожидаемые типы и правила обработки отсутствующих значений. Полезный ответ может содержать идентификатор документа, извлечённое значение и короткое объяснение с привязкой к видимому источнику.
Для продолжающегося диалога сохраняйте соответствующий предыдущий ответ и задавайте узкий уточняющий вопрос. Пользователь может сначала запросить краткое содержание документа, а затем спросить, какое утверждение подтверждает один из выводов. Это меняет нужный результат с общего обзора на объяснение со ссылкой на источник, сохраняя исходный материал и цель диалога.
Для многоязычного редактирования передайте оригинальный фрагмент, предполагаемого читателя и список терминов. Запросите исправленную версию, сохраняющую имена, условия и единицы измерения, а при необходимости — краткое объяснение правок. Для создания контента укажите аудиторию и факты, которые должны войти в текст, прежде чем просить короткий черновик или альтернативную формулировку.
В агентной задаче приложение предоставляет инструменты и их параметры. Модель может выбрать функцию и подготовить аргументы, а приложение выполняет её и возвращает результат. Пример функции в карточке сочетает вопрос по изображению с расчётным инструментом. Отделяйте результат инструмента от предложенного вызова, чтобы последующий письменный ответ использовал информацию, фактически возвращённую операцией.
Рекомендуемая подготовка и настройки
Разработчик рекомендует системную инструкцию, описывающую среду, сценарий использования и правила применения инструментов. Набор инструментов должен быть чётко определён и ограничен минимумом, необходимым для задачи. Небольшой поисковый процесс может предлагать функции, относящиеся к текущему вопросу, с ясно названными обязательными аргументами вместо большой коллекции несвязанных операций.
Для повседневного и производственного использования карточка рекомендует temperature ниже 0.1; более высокие значения доступны для творческого поиска. Рассматривайте это как рекомендацию для инструкционного процесса, а не отдельное управление режимом рассуждения. Семейство содержит отдельные чекпойнты Base, Instruct и Reasoning; эта запись относится к редакции Instruct 2512, а не к отдельному выпуску Reasoning того же размера.
Для изображений разработчик рекомендует соотношения сторон, близкие к 1:1, и советует избегать очень узких или очень широких входов. При необходимости обрезайте изображение, сохраняя подписи и контекст, нужные для вопроса. Если страница содержит несколько несвязанных областей, укажите часть для анализа и результат для возврата. Чёткое, целевое изображение полезнее просьбы угадать, какая мелкая деталь на большой странице важна.
Границы контекста и редакции
Планируйте текст, изображения, диалог и желаемый ответ с учётом настроенного контекста. Примечания по использованию прямо разрешают уменьшать настроенную длину модели, если требуется меньше контекста, поэтому полное окно — не инструкция заполнять каждый запрос всем доступным материалом. Пример генерации 512 токенов в карточке — лишь пример настройки, а изученные источники не устанавливают отдельную жёсткую максимальную длину ответа.
Чекпойнт FP8 Instruct, предобученный выпуск Base и выпуск Reasoning — отдельные редакции. Разработчик также описывает специализацию и дообучение как сценарии использования. При подготовке диалога сохраняйте именованный чекпойнт и его токенизатор и отличайте генерацию текста от доступа к репозиторию, выполнения функций и других действий, предоставляемых внешним приложением.
Ailoot Ultra · Пакетная обработка POST /v1/batches mistralai/ministral-8b-2512:batch
mistralai/ministral-8b-2512:batch
mistralai/ministral-8b-2512:batchНачало
Ministral 3 8B Instruct 2512 — многоязычная инструкционная модель с текстовым и визуальным входом, языковым компонентом на 8,4 млрд параметров и визуальным энкодером на 0,4 млрд. Она поддерживает заявленный разработчиком контекст 256 тыс. токенов, системные инструкции, JSON и встроенный вызов функций для ассистентов и работы с документами.
- Допустимые входные данные
- Текст
- Результаты
- Текст
Доступно в Ailoot · входные данные и методы
Ailoot Ultra · Пакетная обработка POST /v1/batches
- Входные данные
text- Результат
text- Выходной формат
- Встроенный JSON results[].response.body
| Поле | Тип | Требование | Значения и ограничения | По умолчанию |
|---|---|---|---|---|
Полеendpoint | Типstring | ТребованиеОбязательно | Значения и ограничения /v1/chat/completions | По умолчанию— |
Полеmodel | Типstring | ТребованиеОбязательно | Значения и ограничения mistralai/ministral-8b-2512:batch | По умолчанию— |
Полеrequests | Типbatch_item[] | ТребованиеОбязательно | Значения и ограничения Минимум элементов: 1 | По умолчанию— |
Полеrequests[].custom_id | Типstring | ТребованиеОбязательно | Значения и ограничения | По умолчанию— |
Полеrequests[].body.messages | Типmessage[] | ТребованиеОбязательно | Значения и ограничения | По умолчанию— |
Полеcompletion_window | Типstring | ТребованиеНеобязательно | Значения и ограничения 24h | По умолчанию— |
Полеprovider | Типobject|null | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеrequests[].body.model | Типstring | ТребованиеНеобязательно | Значения и ограничения mistralai/ministral-8b-2512:batch, mistralai/ministral-8b-2512 | По умолчанию— |
Полеprovider.only | Типstring[] | ТребованиеНеобязательно | Значения и ограничения mistral | По умолчанию— |
Полеprovider.allow_fallbacks | Типboolean|null | ТребованиеНеобязательно | Значения и ограничения false, null | По умолчанию— |
Параметры и жизненный цикл метода
| Параметр | Контракт |
|---|---|
Параметрcontent_type | Контрактapplication/json |
Параметрrequired | Контрактendpoint, model, requests |
Параметрmaterial_types | Контрактtext |
Параметрrepresentation | КонтрактВстроенный массив requests[]; у каждого элемента есть custom_id и body |
Параметрrequest_endpoint_profile | Контракт/v1/chat/completions |
Параметрfile_material | КонтрактВызывающая сторона может локально прочитать фактический JSONL в UTF-8 и поместить его в requests[]. Назначение загрузки, input_file_id и ссылка на файл не используются. Отсутствующий или пустой материал клиента останавливает подготовку до POST. |
Параметрserialization_order | Контрактendpoint, model, provider (если указан), completion_window (если указан), requests — последним |
Параметрoptional_controls | Контрактprovider.only, provider.allow_fallbacks, completion_window |
Параметрschema_scope | КонтрактТела текстовых запросов Chat Completions в документированной встроенной оболочке Batch. |
Жизненный цикл: asynchronous
GET /v1/batches/{operation_id} · Фактический response.id исходного ответа на создание; тот же пользователь, ключ и группа
Тарифы
Тарифная справка не добавляет режимы запроса. Поддерживаемые параметры указаны для выбранного метода.
- Быстрый режим
- Не указано При выборе быстрого режима
- Режим flex
- Не указано При выборе режима flex
- Максимальная интенсивность рассуждений
- Не указано При максимальной интенсивности рассуждений с корректировкой по умолчанию (default)
- Цены явного кэширования
- Не включено Когда запрошено явное кэширование
Ставки Ailoot
Цены по конфигурациям
Сопоставьте каждую плату с указанными условиями. Для каждого набора альтернативных конфигураций используйте одну ставку.
| Конфигурация | Шкала ставок | Токенов контекста больше | Токенов контекста не более, включительно | Плата |
|---|---|---|---|---|
| КонфигурацияБазовые ставки за токены | Шкала ставокБазовая ставка | Токенов контекста больше— | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены $0.00015 / 1K токенов Выход · Выходные токены $0.00015 / 1K токенов Вход · Чтение кэша $0.000015 / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов |
| КонфигурацияУровень 1 по длине запроса | Шкала ставок— | Токенов контекста больше0 | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены $0.00015 / 1K токенов Выход · Выходные токены $0.00015 / 1K токенов Вход · Чтение кэша $0.000015 / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов |
Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. Как работают резервирование и расчёт →
Примеры запросов
Ailoot Ultra · Пакетная обработка
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/ministral-8b-2512:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['mistralai/ministral-8b-2512:batch', 'mistralai/ministral-8b-2512']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"mistralai/ministral-8b-2512:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Получить и сохранить результаты
Ailoot Ultra · Пакетная обработка
Встроенный JSON results[].response.body
GET /v1/batches/{operation_id}
Проверить статус задачи
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Сохраняйте все готовые результаты
Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого.
Сохраняйте полный исходный JSON статуса, каждый результат и custom_id, а также полное тело ответа или ошибки. Сохраняйте завершённые results[] как JSONL без фильтрации.
Если нужно проверить исходный ответ
Сохраните исходный ID операции. Ответ 503 result_pending_check содержит X-Should-Retry:false; никогда не отправляйте повторно исходный пакет с неизвестным результатом.
Поля ответа
| Поле | Тип |
|---|---|
Полеresults[].custom_id | Типstring |
Полеresults[].response.body.choices[].message.content | Типstring|null |
Полеresults[].error | Типobject|null |
Полеusage | Типobject|null |
Полеid | Типstring |
Полеmodel | Типstring |
Полеendpoint | Типstring |
Полеstatus | Типstring |
Полеrequest_counts | Типobject |
Полеresults[].id | Типstring |
Полеresults[].response.status_code | Типinteger |
Полеresults[].response.request_id | Типstring |
Ошибки и дальнейшие шаги
| Ответ | Условие | Следующий шаг |
|---|---|---|
Ответ400 · invalid_request_error | УсловиеНеверный формат документированной встроенной оболочки, повторяющиеся ключи, ошибки идентификации элементов или конфликт настроенных возможностей модели. | Следующий шагИсправьте указанные поля перед любой новой отправкой. |
Ответ401 · authentication_error | УсловиеНедействительный ключ API. | Следующий шагИспользуйте разрешённый ключ Ailoot. |
Ответ403 · permission_error | УсловиеГруппа пакетной обработки недоступна. | Следующий шагПроверьте права доступа ключа и группы. |
Ответ422 · invalid_request_error | УсловиеПакетная обработка оплачивается с баланса; создание по подписке отклоняется. | Следующий шагИспользуйте разрешённую группу с оплатой с баланса. |
Ответ422 · price_unavailable | УсловиеСтоимость входных данных пакета невозможно рассчитать. | Следующий шагСохраните ответ; используйте документированный формат входных данных для этого семейства. |
Ответ402 · billing_error | УсловиеРезерв для пакетной обработки недоступен. | Следующий шагУстраните причину отказа в допуске перед новым запросом. |
Ответ503 · price_unavailable | УсловиеЦена метода пакетной обработки или нативные тарифы недоступны. | Следующий шагСохраните ответ; не подменяйте цены. |
Ответ503 · api_error | УсловиеТочный маршрут поставщика недоступен. | Следующий шагСохраните ответ для исправления маршрута. |
Ответ503 · result_pending_check | УсловиеИсходный результат требует проверки; X-Should-Retry:false. | Следующий шагСохраните исходный operation_id/id и читайте его статус; никогда не повторяйте исходный POST. |
Ответ404 · not_found | УсловиеОперация проверки статуса пакета отсутствует или принадлежит другой учётной записи. | Следующий шагИспользуйте точный исходный id и того же пользователя, ключ и группу. |
Псевдонимы
Псевдонимы моделей
Ailoot Ultra mistralai/ministral-8b-2512:batch
Псевдонимы путей метода
Используйте пути методов, указанные выше.
Связанные ID для вызова
FAQ · Mistral: Ministral 3 8B 2512 (batch)
- Какие входные данные и результаты доступны?
POST /v1/batches·mistralai/ministral-8b-2512:batch:text→text- Какие поля использует запрос?
POST /v1/batches·mistralai/ministral-8b-2512:batch:endpoint,model,requests,completion_window,provider- Какие ограничения действуют?
POST /v1/batches·mistralai/ministral-8b-2512:batch:requests.min_items:1