Mistral: Codestral 2508 (batch)
Codestral 2508 — текстовая модель Mistral AI для генерации кода и дополнения с учётом контекста. Она оптимизирована для частых задач редактора, включая заполнение середины и многострочные правки, с контекстом производителя 128k и документированными возможностями диалога, структурированного вывода и инструментов.
О модели
Описание раскрывает возможности модели. Доступные в Ailoot входные данные, результаты и параметры выбранного метода перечислены ниже.
Codestral 2508 — модель Mistral AI для частых задач дополнения и генерации кода, чувствительных к задержке. Она получает исходный код и текстовые требования и возвращает текст с реализацией, дополнением, исправлением или объяснением. Именованная редакция 2508 сосредоточена на текущем контексте редактирования разработчика, а не является моделью эмбеддингов или самостоятельным полноценным агентом репозитория.
Дополнение кода и обновление 2508
Разработчик позиционирует Codestral для заполнения кода в середине и многострочного редактирования. Описание выпуска отмечает улучшения дополнения, включая уменьшение неконтролируемого продолжения генерации, а также соблюдения инструкций и задач по коду в режиме диалога. Это изменения этой редакции Codestral; поиск и автономные агентные возможности окружающего стека программирования относятся к отдельно названным компонентам.
Для дополнения держите нужную сигнатуру функции, объявления и контекст вызова вместе с позицией курсора. Укажите, нужен ли только недостающий код или целиком обновлённая функция. Запрос в стиле редактора может просить тело цикла, сохраняющее существующий возвращаемый тип и повторяющиеся значения и не изменяющее входные данные вызывающего кода. Тогда результат имеет конкретную точку вставки и определённое поведение.
Подготовка заполнения в середине
В интерфейсе FIM разработчика запрос передаёт текст или код для дополнения, а необязательный суффикс — материал после пробела. Если заданы оба, модель заполняет пространство между ними. Без суффикса она продолжает запрос. Это отличается от обычного диалогового запроса изменения кода с объяснением; каждый способ подготовки определяет свой контракт вывода.
Полезный ввод для заполнения включает начало функции, код после места вставки и нужные определения типов или вспомогательных функций. Сохраняйте отступы и разделители, чтобы возвращённый текст вписался в существующий фрагмент. Если нужно только недостающее тело, просите его вместо переписывания всего файла. Отдельный диалоговый вопрос может объяснять соответствие дополненного фрагмента требованию.
Официальная документация FIM допускает бюджет токенов вывода и требует, чтобы запрос вместе с ним оставался в контексте модели. Она также документирует стоп-последовательности и потоковую выдачу. Выбирайте процесс дополнения, когда результат должен вписаться в пробел кода, и диалоговый процесс, когда нужны код и объяснение.
Контекст и вспомогательные возможности
Страница модели задаёт окно контекста 128k. Используйте его для исходного кода и объявлений, определяющих нужное изменение, сохраняя саму задачу редактирования явной. Для исправления ошибки передайте затронутую функцию, конкретный сбойный ввод, ожидаемый результат и ошибку или наблюдаемое поведение. Запросите исправление отдельно от объяснения и примеров.
Страница также перечисляет структурированные ответы, вызовы функций, предсказанные выводы, ответы на вопросы по документам, префиксы ответа и пакетную обработку наряду с диалогом и FIM. Для структурированного обзора кода задайте поля вроде затронутого символа, наблюдаемого несоответствия, предложенного изменения и допущения, требующего уточнения. Руководство Mistral по структурированному выводу различает режим JSON и пользовательскую схему; нужный формат JSON указывается в запросе.
Предсказанные выводы предназначены для содержимого, значительная часть ответа в котором уже известна. Их можно использовать при повторной генерации документа или файла кода с ограниченной правкой и сохранением остального. Укажите точное изменение и материал для сохранения. Префикс ответа, в свою очередь, задаёт известное начало для продолжения генерации; он отличается и от известного полного содержимого, и от суффикса FIM.
Вопрос по документации может использовать процесс обработки документов разработчика для подготовки текста и структуры через OCR перед анализом языковой моделью. Для программных материалов, уже доступных как текст, передайте нужные фрагменты документации и спросите, какое условие определяет реализацию. Сохраняйте каждое извлечённое требование связанным с разделом источника, чтобы код или объяснение оставались привязаны к переданной спецификации.
Инструменты и практические результаты
Вызов функций позволяет приложению предоставлять описанные операции и их параметры. Модель готовит вызов, приложение выполняет его, а возвращённый результат становится контекстом следующего ответа. Ассистент программирования может получить результат поиска значения или вычисления через этот цикл, но компиляция, тестирование или применение изменения всё равно требуют среды разработки.
Для практического исправления определите публичный интерфейс, который должен сохранить совместимость, и запросите обновлённый фрагмент, краткое объяснение и примеры ввода с ожидаемым выводом. Для генерируемой функции задайте принимаемые типы и граничные условия. Для объяснения предоставьте входные данные для трассировки, чтобы ответ связывал конкретный путь выполнения с возвращаемым значением.
Codestral выдаёт текст. Она не наследует поисковые векторы кода от Codestral Embed, автоматизацию репозитория от Devstral или генерацию изображений от визуальной модели. Точная страница модели 2508 не публикует число параметров или независимую максимальную длину ответа, которые можно было бы заимствовать у другого выпуска. Сохраняйте именованную редакцию, контекст программирования и нужный результат при подготовке повторяемого процесса редактора или диалога.
Ailoot Ultra · Пакетная обработка POST /v1/batches mistralai/codestral-2508:batch
mistralai/codestral-2508:batch
mistralai/codestral-2508:batchНачало
Codestral 2508 — текстовая модель Mistral AI для генерации кода и дополнения с учётом контекста. Она оптимизирована для частых задач редактора, включая заполнение середины и многострочные правки, с контекстом производителя 128k и документированными возможностями диалога, структурированного вывода и инструментов.
- Допустимые входные данные
- Текст
- Результаты
- Текст
Доступно в Ailoot · входные данные и методы
Ailoot Ultra · Пакетная обработка POST /v1/batches
- Входные данные
text- Результат
text- Выходной формат
- Встроенный JSON results[].response.body
| Поле | Тип | Требование | Значения и ограничения | По умолчанию |
|---|---|---|---|---|
Полеendpoint | Типstring | ТребованиеОбязательно | Значения и ограничения /v1/chat/completions | По умолчанию— |
Полеmodel | Типstring | ТребованиеОбязательно | Значения и ограничения mistralai/codestral-2508:batch | По умолчанию— |
Полеrequests | Типbatch_item[] | ТребованиеОбязательно | Значения и ограничения Минимум элементов: 1 | По умолчанию— |
Полеrequests[].custom_id | Типstring | ТребованиеОбязательно | Значения и ограничения | По умолчанию— |
Полеrequests[].body.messages | Типmessage[] | ТребованиеОбязательно | Значения и ограничения | По умолчанию— |
Полеcompletion_window | Типstring | ТребованиеНеобязательно | Значения и ограничения 24h | По умолчанию— |
Полеprovider | Типobject|null | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеrequests[].body.model | Типstring | ТребованиеНеобязательно | Значения и ограничения mistralai/codestral-2508:batch, mistralai/codestral-2508 | По умолчанию— |
Полеprovider.only | Типstring[] | ТребованиеНеобязательно | Значения и ограничения mistral | По умолчанию— |
Полеprovider.allow_fallbacks | Типboolean|null | ТребованиеНеобязательно | Значения и ограничения false, null | По умолчанию— |
Параметры и жизненный цикл метода
| Параметр | Контракт |
|---|---|
Параметрcontent_type | Контрактapplication/json |
Параметрrequired | Контрактendpoint, model, requests |
Параметрmaterial_types | Контрактtext |
Параметрrepresentation | КонтрактВстроенный массив requests[]; у каждого элемента есть custom_id и body |
Параметрrequest_endpoint_profile | Контракт/v1/chat/completions |
Параметрfile_material | КонтрактВызывающая сторона может локально прочитать фактический JSONL в UTF-8 и поместить его в requests[]. Назначение загрузки, input_file_id и ссылка на файл не используются. Отсутствующий или пустой материал клиента останавливает подготовку до POST. |
Параметрserialization_order | Контрактendpoint, model, provider (если указан), completion_window (если указан), requests — последним |
Параметрoptional_controls | Контрактprovider.only, provider.allow_fallbacks, completion_window |
Параметрschema_scope | КонтрактТела текстовых запросов Chat Completions в документированной встроенной оболочке Batch. |
Жизненный цикл: asynchronous
GET /v1/batches/{operation_id} · Фактический response.id исходного ответа на создание; тот же пользователь, ключ и группа
Тарифы
Тарифная справка не добавляет режимы запроса. Поддерживаемые параметры указаны для выбранного метода.
- Быстрый режим
- Не указано При выборе быстрого режима
- Режим flex
- Не указано При выборе режима flex
- Максимальная интенсивность рассуждений
- Не указано При максимальной интенсивности рассуждений с корректировкой по умолчанию (default)
- Цены явного кэширования
- Не включено Когда запрошено явное кэширование
Ставки Ailoot
Цены по конфигурациям
Сопоставьте каждую плату с указанными условиями. Для каждого набора альтернативных конфигураций используйте одну ставку.
| Конфигурация | Шкала ставок | Токенов контекста больше | Токенов контекста не более, включительно | Плата |
|---|---|---|---|---|
| КонфигурацияБазовые ставки за токены | Шкала ставокБазовая ставка | Токенов контекста больше— | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены $0.0003 / 1K токенов Выход · Выходные токены $0.0009 / 1K токенов Вход · Чтение кэша $0.00003 / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов |
| КонфигурацияУровень 1 по длине запроса | Шкала ставок— | Токенов контекста больше0 | Токенов контекста не более, включительноБез верхней границы | Плата Вход · Входные токены $0.0003 / 1K токенов Выход · Выходные токены $0.0009 / 1K токенов Вход · Чтение кэша $0.00003 / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов |
Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. Как работают резервирование и расчёт →
Примеры запросов
Ailoot Ultra · Пакетная обработка
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/codestral-2508:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['mistralai/codestral-2508:batch', 'mistralai/codestral-2508']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"mistralai/codestral-2508:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Получить и сохранить результаты
Ailoot Ultra · Пакетная обработка
Встроенный JSON results[].response.body
GET /v1/batches/{operation_id}
Проверить статус задачи
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Сохраняйте все готовые результаты
Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого.
Сохраняйте полный исходный JSON статуса, каждый результат и custom_id, а также полное тело ответа или ошибки. Сохраняйте завершённые results[] как JSONL без фильтрации.
Если нужно проверить исходный ответ
Сохраните исходный ID операции. Ответ 503 result_pending_check содержит X-Should-Retry:false; никогда не отправляйте повторно исходный пакет с неизвестным результатом.
Поля ответа
| Поле | Тип |
|---|---|
Полеresults[].custom_id | Типstring |
Полеresults[].response.body.choices[].message.content | Типstring|null |
Полеresults[].error | Типobject|null |
Полеusage | Типobject|null |
Полеid | Типstring |
Полеmodel | Типstring |
Полеendpoint | Типstring |
Полеstatus | Типstring |
Полеrequest_counts | Типobject |
Полеresults[].id | Типstring |
Полеresults[].response.status_code | Типinteger |
Полеresults[].response.request_id | Типstring |
Ошибки и дальнейшие шаги
| Ответ | Условие | Следующий шаг |
|---|---|---|
Ответ400 · invalid_request_error | УсловиеНеверный формат документированной встроенной оболочки, повторяющиеся ключи, ошибки идентификации элементов или конфликт настроенных возможностей модели. | Следующий шагИсправьте указанные поля перед любой новой отправкой. |
Ответ401 · authentication_error | УсловиеНедействительный ключ API. | Следующий шагИспользуйте разрешённый ключ Ailoot. |
Ответ403 · permission_error | УсловиеГруппа пакетной обработки недоступна. | Следующий шагПроверьте права доступа ключа и группы. |
Ответ422 · invalid_request_error | УсловиеПакетная обработка оплачивается с баланса; создание по подписке отклоняется. | Следующий шагИспользуйте разрешённую группу с оплатой с баланса. |
Ответ422 · price_unavailable | УсловиеСтоимость входных данных пакета невозможно рассчитать. | Следующий шагСохраните ответ; используйте документированный формат входных данных для этого семейства. |
Ответ402 · billing_error | УсловиеРезерв для пакетной обработки недоступен. | Следующий шагУстраните причину отказа в допуске перед новым запросом. |
Ответ503 · price_unavailable | УсловиеЦена метода пакетной обработки или нативные тарифы недоступны. | Следующий шагСохраните ответ; не подменяйте цены. |
Ответ503 · api_error | УсловиеТочный маршрут поставщика недоступен. | Следующий шагСохраните ответ для исправления маршрута. |
Ответ503 · result_pending_check | УсловиеИсходный результат требует проверки; X-Should-Retry:false. | Следующий шагСохраните исходный operation_id/id и читайте его статус; никогда не повторяйте исходный POST. |
Ответ404 · not_found | УсловиеОперация проверки статуса пакета отсутствует или принадлежит другой учётной записи. | Следующий шагИспользуйте точный исходный id и того же пользователя, ключ и группу. |
Псевдонимы
Псевдонимы моделей
Ailoot Ultra mistralai/codestral-2508:batch
Псевдонимы путей метода
Используйте пути методов, указанные выше.
Связанные ID для вызова
FAQ · Mistral: Codestral 2508 (batch)
- Какие входные данные и результаты доступны?
POST /v1/batches·mistralai/codestral-2508:batch:text→text- Какие поля использует запрос?
POST /v1/batches·mistralai/codestral-2508:batch:endpoint,model,requests,completion_window,provider- Какие ограничения действуют?
POST /v1/batches·mistralai/codestral-2508:batch:requests.min_items:1