Mistral: Mistral Small 4 (batch)

Mistral Small 4 — гибридная модель с текстовым и визуальным входом, возможностями следования инструкциям, рассуждения и программирования. Выпуск со смесью экспертов содержит 119 млрд параметров, активирует 6,5 млрд на токен и поддерживает заявленный разработчиком контекст 256 тыс. токенов, выбор уровня рассуждения, JSON и вызовы функций.

Ailoot Ultra · Пакетная обработка POST /v1/batches mistralai/mistral-small-2603:batch

О модели

Описание раскрывает возможности модели. Доступные в Ailoot входные данные, результаты и параметры выбранного метода перечислены ниже.

Mistral Small 4 объединяет общее следование инструкциям, рассуждение и программирование в одной мультимодальной модели. Разработчик описывает её как объединение семейств Instruct, Magistral для рассуждения и Devstral для программирования. Она принимает текст и изображения и возвращает текст; вызовы функций и вывод JSON доступны для приложений с инструментами.

Архитектура и основные возможности

Выпуск содержит 119 млрд параметров всего и активирует 6,5 млрд на токен. Его архитектура смеси экспертов включает 128 экспертов, из которых активны 4; разработчик документирует контекстное окно 256 тыс. токенов. Число активных параметров и экспертов описывает устройство модели; это отличается от объёма текста или изображений в одной задаче.

Модель предоставляет инструкционную функциональность и рассуждение в одном чекпойнте. Разработчик также указывает зрение, соблюдение системного промпта и поддержку десятков языков, включая английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, китайский, японский, корейский и арабский. Поэтому текстовая инструкция может спрашивать об изображении или объединять письменное требование с видимыми свидетельствами, получая ответ в виде текста.

Визуальная задача может передать страницу документа и запросить значения, относящиеся к названному условию. Сохраняйте подписи и единицы измерения читаемыми и укажите, должен ли результат сохранить исходные формулировки, обобщить их или сравнить с другим источником. Задача по интерфейсу может соединить снимок экрана с целью пользователя и запросить нужный видимый элемент управления и свидетельства, подтверждающие предлагаемый следующий шаг.

Выбор инструкционного режима или рассуждения

Опубликованная карточка документирует уровень рассуждения none для немедленного инструкционного ответа и high для рассуждения, рекомендуя high для сложных промптов. Выбор делается для каждого запроса в пределах одной модели Small 4. Обычная классификация или короткое переписывание могут иметь другой контракт ответа, чем математическая, визуальная или программная задача, требующая развёрнутого объяснения.

Для высокого уровня рассуждения разработчик рекомендует temperature 0.7. Для none он задаёт temperature от 0.0 до 0.7 в зависимости от задачи. Эти настройки описывают документированные режимы и не превращают уровень рассуждения в гарантию правильного результата. Определяйте допущения, форму вывода и соответствующие источники до выбора объёма рассуждения, необходимого задаче.

Для задачи с решением передайте полное условие и запросите существенные обоснованные шаги, затем итоговое выражение. Для задачи по коду передайте требование, затронутую функцию и конкретный вход; запросите предлагаемую реализацию отдельно от объяснения и примеров. Демонстрации разработчика включают следование инструкциям, расчётный инструмент применительно к изображению и визуальное рассуждение, показывая, как текст и визуальные свидетельства входят в эти разные задачи.

Программирование, документы и инструменты

Модель позиционируется для изучения кодовой базы и агентов разработки ПО, общих ассистентов, понимания документов и исследований. Запрос к агенту-программисту может назвать модуль для изменения, интерфейс для сохранения и требуемое поведение. Передайте нужный исходный код и свидетельства сбоя. Модель может предложить следующую операцию или изменение кода, а приложение предоставляет доступ к репозиторию, выполнение и обратную связь.

Для извлечения из документа укажите обязательные поля и способ представления отсутствующей информации. Полезная запись может разделять идентификатор документа, исходное утверждение, интерпретированное требование и неразрешённый вопрос. Карточка сервиса разработчика перечисляет пользовательский структурированный вывод и ответы на вопросы по документам; последние используют обработку документов и OCR для подготовки текста и структуры перед анализом языковой моделью. Прямой вопрос по изображению и документный процесс с OCR должны сохранять собственную подготовку входных данных.

Для вызова функций нужны ясно описанные инструменты. Модель выбирает функцию и создаёт аргументы; приложение выполняет операцию и возвращает результат для последующего ответа. Та же логика действует для поиска, расчёта и операции программирования. Форматирование JSON организует ответ, а вызов инструмента запрашивает внешнее действие; эти результаты нельзя считать взаимозаменяемыми.

Карточка сервиса также перечисляет предсказанные ответы, префиксы ответов, пакетную обработку и диалоги агентов. Предсказанные ответы полезны, когда документ или файл кода нужно создать заново с ограниченной правкой, а остальное содержимое известно. Укажите правку и материал для сохранения. Продолжение префикса использует известное начало ответа, а пакетная обработка относится к отправке работы, а не к дополнительному режиму рассуждения.

Границы контекста и редакции

Планируйте письменную задачу, визуальный материал, диалог и желаемый ответ вокруг документированного контекста 256 тыс. токенов. Опубликованный пример использования настраивает контекст 262 144 токена, а пример генерации 1 024 токенов не является отдельной максимальной ёмкостью вывода. Изученные источники не дают независимого жёсткого ограничения длины ответа, которое можно было бы подставить вместо выбранной длины задачи.

Small 4 имеет собственную архитектуру смеси экспертов со 119 млрд параметров и гибридные режимы. Ей нельзя приписывать плотную архитектуру Medium 3.5 со 128 млрд параметров или отдельные редакции Instruct и Reasoning семейства Ministral 3. Разработчик также выпускает отдельные квантованные материалы и материалы для спекулятивного декодирования; это отдельные артефакты развёртывания, а не разные модальности содержимого. Сохраняйте именованный выпуск Small 4 и режим, запрошенный для фактического объяснения, структурированной записи или результата по коду.

Ailoot Ultra · Пакетная обработка POST /v1/batches mistralai/mistral-small-2603:batch

mistralai/mistral-small-2603:batch

Mistral /mistralai/mistral-small-2603:batch

Начало

Допустимые входные данные: Текст
Результаты: Текст

Доступно в Ailoot · входные данные и методы

Ailoot Ultra · Пакетная обработка POST /v1/batches

Входные данные: text
Результат: text
Выходной формат: Встроенный JSON results[].response.body

Поле	Тип	Требование	Значения и ограничения	По умолчанию
Поле`endpoint`	Тип`string`	ТребованиеОбязательно	Значения и ограничения /v1/chat/completions	По умолчанию—
Поле`model`	Тип`string`	ТребованиеОбязательно	Значения и ограничения mistralai/mistral-small-2603:batch	По умолчанию—
Поле`requests`	Тип`batch_item[]`	ТребованиеОбязательно	Значения и ограничения Минимум элементов: 1	По умолчанию—
Поле`requests[].custom_id`	Тип`string`	ТребованиеОбязательно	Значения и ограничения	По умолчанию—
Поле`requests[].body.messages`	Тип`message[]`	ТребованиеОбязательно	Значения и ограничения	По умолчанию—
Поле`completion_window`	Тип`string`	ТребованиеНеобязательно	Значения и ограничения 24h	По умолчанию—
Поле`provider`	Тип`object\|null`	ТребованиеНеобязательно	Значения и ограничения	По умолчанию—
Поле`requests[].body.model`	Тип`string`	ТребованиеНеобязательно	Значения и ограничения mistralai/mistral-small-2603:batch, mistralai/mistral-small-2603	По умолчанию—
Поле`provider.only`	Тип`string[]`	ТребованиеНеобязательно	Значения и ограничения mistral	По умолчанию—
Поле`provider.allow_fallbacks`	Тип`boolean\|null`	ТребованиеНеобязательно	Значения и ограничения false, null	По умолчанию—

Параметры и жизненный цикл метода

Параметр	Контракт
Параметр`content_type`	Контрактapplication/json
Параметр`required`	Контрактendpoint, model, requests
Параметр`material_types`	Контрактtext
Параметр`representation`	КонтрактВстроенный массив requests[]; у каждого элемента есть custom_id и body
Параметр`request_endpoint_profile`	Контракт/v1/chat/completions
Параметр`file_material`	КонтрактВызывающая сторона может локально прочитать фактический JSONL в UTF-8 и поместить его в requests[]. Назначение загрузки, input_file_id и ссылка на файл не используются. Отсутствующий или пустой материал клиента останавливает подготовку до POST.
Параметр`serialization_order`	Контрактendpoint, model, provider (если указан), completion_window (если указан), requests — последним
Параметр`optional_controls`	Контрактprovider.only, provider.allow_fallbacks, completion_window
Параметр`schema_scope`	КонтрактТела текстовых запросов Chat Completions в документированной встроенной оболочке Batch.

Жизненный цикл: asynchronous

GET /v1/batches/{operation_id} · Фактический response.id исходного ответа на создание; тот же пользователь, ключ и группа

Тарифы

Тарифная справка не добавляет режимы запроса. Поддерживаемые параметры указаны для выбранного метода.

Быстрый режим: Не указано При выборе быстрого режима
Режим flex: Не указано При выборе режима flex
Максимальная интенсивность рассуждений: Не указано При максимальной интенсивности рассуждений с корректировкой по умолчанию (default)
Цены явного кэширования: Не включено Когда запрошено явное кэширование

Ставки Ailoot

Цены по конфигурациям

Сопоставьте каждую плату с указанными условиями. Для каждого набора альтернативных конфигураций используйте одну ставку.

Конфигурация	Шкала ставок	Токенов контекста больше	Токенов контекста не более, включительно	Плата
КонфигурацияБазовые ставки за токены	Шкала ставокБазовая ставка	Токенов контекста больше—	Токенов контекста не более, включительноБез верхней границы	Плата Вход · Входные токены $0.00015 / 1K токенов Выход · Выходные токены $0.0006 / 1K токенов Вход · Чтение кэша $0.000015 / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов
КонфигурацияУровень 1 по длине запроса	Шкала ставок—	Токенов контекста больше0	Токенов контекста не более, включительноБез верхней границы	Плата Вход · Входные токены $0.00015 / 1K токенов Выход · Выходные токены $0.0006 / 1K токенов Вход · Чтение кэша $0.000015 / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов

Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. Как работают резервирование и расчёт →

Примеры запросов

Ailoot Ultra · Пакетная обработка

curl · сохранённый образец запросаPython HTTP · реальный JSONL клиентаPython · сохраните каждый готовый результат

set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/mistral-small-2603:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json

import json, os
from pathlib import Path
from urllib.request import Request, urlopen

def prepare_requests(customer_path):
    path = Path(customer_path)
    if not path.is_file(): raise ValueError("Customer JSONL file is missing")
    items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
    if not items: raise ValueError("Customer JSONL contains no requests")
    ids = set()
    for item in items:
        if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
        cid = item["custom_id"]
        if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
        ids.add(cid)
        if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
        supplied_model = item["body"].get("model")
        if supplied_model is not None and supplied_model not in ['mistralai/mistral-small-2603:batch', 'mistralai/mistral-small-2603']: raise ValueError("body.model must be an exact documented caller or wire ID")
    return {"endpoint":"/v1/chat/completions", "model":"mistralai/mistral-small-2603:batch", "requests":items}

if __name__ == "__main__":
    material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
    if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
    body = prepare_requests(material)
    key = os.environ.get("AILOOT_API_KEY", "")
    if not key: raise SystemExit("Set AILOOT_API_KEY")
    request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
    with urlopen(request) as response:
        raw = response.read()
        Path("batch-create-response.json").write_bytes(raw)
        print(raw.decode("utf-8"))

import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
    raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
    raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.

Получить и сохранить результаты

Ailoot Ultra · Пакетная обработка

Встроенный JSON results[].response.body

GET /v1/batches/{operation_id}

Проверить статус задачи

curl · статус исходной операции

set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
  -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json

Сохраняйте все готовые результаты

Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого.

Сохраняйте полный исходный JSON статуса, каждый результат и custom_id, а также полное тело ответа или ошибки. Сохраняйте завершённые results[] как JSONL без фильтрации.

Если нужно проверить исходный ответ

Сохраните исходный ID операции. Ответ 503 result_pending_check содержит X-Should-Retry:false; никогда не отправляйте повторно исходный пакет с неизвестным результатом.

Поля ответа

Поле	Тип
Поле`results[].custom_id`	Типstring
Поле`results[].response.body.choices[].message.content`	Типstring\|null
Поле`results[].error`	Типobject\|null
Поле`usage`	Типobject\|null
Поле`id`	Типstring
Поле`model`	Типstring
Поле`endpoint`	Типstring
Поле`status`	Типstring
Поле`request_counts`	Типobject
Поле`results[].id`	Типstring
Поле`results[].response.status_code`	Типinteger
Поле`results[].response.request_id`	Типstring

Ошибки и дальнейшие шаги

Ответ	Условие	Следующий шаг
Ответ400 · `invalid_request_error`	УсловиеНеверный формат документированной встроенной оболочки, повторяющиеся ключи, ошибки идентификации элементов или конфликт настроенных возможностей модели.	Следующий шагИсправьте указанные поля перед любой новой отправкой.
Ответ401 · `authentication_error`	УсловиеНедействительный ключ API.	Следующий шагИспользуйте разрешённый ключ Ailoot.
Ответ403 · `permission_error`	УсловиеГруппа пакетной обработки недоступна.	Следующий шагПроверьте права доступа ключа и группы.
Ответ422 · `invalid_request_error`	УсловиеПакетная обработка оплачивается с баланса; создание по подписке отклоняется.	Следующий шагИспользуйте разрешённую группу с оплатой с баланса.
Ответ422 · `price_unavailable`	УсловиеСтоимость входных данных пакета невозможно рассчитать.	Следующий шагСохраните ответ; используйте документированный формат входных данных для этого семейства.
Ответ402 · `billing_error`	УсловиеРезерв для пакетной обработки недоступен.	Следующий шагУстраните причину отказа в допуске перед новым запросом.
Ответ503 · `price_unavailable`	УсловиеЦена метода пакетной обработки или нативные тарифы недоступны.	Следующий шагСохраните ответ; не подменяйте цены.
Ответ503 · `api_error`	УсловиеТочный маршрут поставщика недоступен.	Следующий шагСохраните ответ для исправления маршрута.
Ответ503 · `result_pending_check`	УсловиеИсходный результат требует проверки; X-Should-Retry:false.	Следующий шагСохраните исходный operation_id/id и читайте его статус; никогда не повторяйте исходный POST.
Ответ404 · `not_found`	УсловиеОперация проверки статуса пакета отсутствует или принадлежит другой учётной записи.	Следующий шагИспользуйте точный исходный id и того же пользователя, ключ и группу.

Псевдонимы

Псевдонимы моделей

Ailoot Ultra mistralai/mistral-small-2603:batch

Псевдонимы путей метода

Используйте пути методов, указанные выше.

Связанные ID для вызова

mistralai/mistral-small-2603:batch

FAQ · Mistral: Mistral Small 4 (batch)

Какие входные данные и результаты доступны?: POST /v1/batches · mistralai/mistral-small-2603:batch: text → text
Какие поля использует запрос?: POST /v1/batches · mistralai/mistral-small-2603:batch: endpoint, model, requests, completion_window, provider
Какие ограничения действуют?: POST /v1/batches · mistralai/mistral-small-2603:batch: requests.min_items: 1

Mistral: Mistral Small 4 (batch)