Mistral: Codestral 2508 (batch)
Codestral 2508 es el modelo de texto de Mistral AI para generación de código y autocompletado que tiene en cuenta el contexto. Está optimizado para tareas frecuentes del editor, incluidas la inserción de código en huecos y la edición de varias líneas, con un contexto de 128k según el fabricante y funciones documentadas de chat, salida estructurada y herramientas.
Sobre el modelo
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Codestral 2508 es el modelo de programación de Mistral AI para tareas frecuentes de autocompletado y generación sensibles a la latencia. Recibe código fuente y requisitos textuales y devuelve texto que puede contener una implementación, una continuación, una corrección o una explicación. La edición 2508 se centra en el contexto de edición actual del desarrollador; por sí sola no es un modelo de embeddings ni un agente completo para repositorios.
Autocompletado de código y actualización 2508
El fabricante orienta Codestral al autocompletado de huecos, denominado fill-in-the-middle, y a la edición de varias líneas. La versión describe mejoras en el comportamiento del autocompletado, incluida la reducción de generaciones que se prolongan sin control, junto con mejoras en el seguimiento de instrucciones y las tareas de código en modo chat. Estos cambios corresponden a esta edición de Codestral; las funciones de recuperación y de agentes autónomos del entorno de programación pertenecen a componentes con nombres independientes.
Para una tarea de autocompletado, conserva la firma de la función, las declaraciones y el contexto de las llamadas pertinentes junto con la posición del cursor. Identifica si el resultado deseado es únicamente el código que falta o una función revisada completa. Una solicitud propia de un editor puede pedir el cuerpo de un bucle que conserve el tipo de retorno existente, mantenga los valores duplicados y no modifique la entrada del llamador. Así, el resultado tiene un punto de inserción concreto y un comportamiento definido.
Preparación para completar un hueco
En la interfaz FIM del fabricante, el prompt proporciona el texto o código que se debe completar y un sufijo opcional aporta el material situado después del hueco. Cuando se proporcionan ambos, el modelo rellena el espacio entre ellos. Sin sufijo, continúa a partir del prompt. Esto difiere de una solicitud conversacional ordinaria que pide un cambio de código y una explicación; cada forma de preparación define un contrato de salida diferente.
Una entrada útil para completar un hueco incluye el comienzo de la función, el código que debe seguir a la inserción y cualquier definición pertinente de tipos o funciones auxiliares. Conserva la sangría y los delimitadores para que el texto devuelto encaje en el fragmento existente. Si la tarea necesita únicamente el cuerpo que falta, pide ese cuerpo en lugar de reescribir todo el archivo. Una pregunta de chat independiente puede explicar por qué el fragmento completado cumple el requisito.
La documentación oficial de FIM permite un presupuesto de tokens de salida y exige que el prompt más ese presupuesto permanezcan dentro del contexto del modelo. También documenta secuencias de parada y transmisión del contenido generado. Elige un flujo de autocompletado cuando el resultado deba encajar en el hueco del código, y un flujo conversacional cuando la tarea pida código acompañado de una explicación.
Contexto y funciones complementarias
La página del modelo indica una ventana de contexto de 128k. Utiliza el contexto para conservar el código fuente y las declaraciones que determinan el cambio previsto, y mantén explícita la tarea de edición real. Para corregir un error, proporciona la función afectada, una entrada concreta que falle, el resultado esperado y el error o comportamiento observado. Solicita la corrección propuesta por separado de su explicación y sus ejemplos.
La página también enumera salidas estructuradas, llamadas a funciones, salidas predichas, preguntas y respuestas sobre documentos, prefijos de respuesta y procesamiento por lotes junto con las capacidades de chat y FIM. Para una revisión de código estructurada, define campos como el símbolo afectado, la discrepancia observada, el cambio propuesto y la suposición que aún necesita aclaración. Las indicaciones de Mistral sobre salida estructurada distinguen el modo JSON de un esquema personalizado, y requieren indicar en el prompt el formato JSON deseado.
Las salidas predichas están pensadas para contenido del que ya se conoce una parte sustancial de la respuesta. Pueden utilizarse al regenerar un documento o archivo de código con una edición limitada, manteniendo el resto del contenido. Especifica el cambio exacto y el material que se debe conservar. Un prefijo de respuesta, en cambio, proporciona un comienzo conocido a partir del cual continúa la generación; es distinto tanto de un cuerpo completo conocido como de un sufijo FIM.
Una pregunta sobre documentación puede utilizar el flujo de procesamiento documental del fabricante para preparar el texto y la estructura mediante OCR antes del análisis del modelo lingüístico. Para material de programación ya disponible como texto, proporciona los pasajes pertinentes de la documentación y pregunta qué condición rige la implementación. Mantén cada requisito extraído asociado a su sección de origen para que el código generado o la explicación sigan conectados con la especificación suministrada.
Herramientas y resultados prácticos
Las llamadas a funciones permiten que la aplicación proporcione operaciones descritas y sus parámetros. El modelo prepara una llamada, la aplicación la ejecuta y el resultado devuelto pasa a formar parte del contexto de la siguiente respuesta. Un asistente de código puede recibir un resultado de consulta o de cálculo mediante ese ciclo, pero compilar, probar o aplicar un cambio propuesto sigue requiriendo el entorno de desarrollo que lo rodea.
Para una corrección práctica, define la interfaz pública que debe seguir siendo compatible y solicita el fragmento revisado, una explicación concisa y entradas de ejemplo con sus salidas esperadas. Para generar una función, indica los tipos aceptados y los casos límite. Para una explicación, proporciona la entrada que se debe seguir paso a paso, de modo que la respuesta relacione una ruta de ejecución concreta con el valor devuelto.
Codestral produce texto. No hereda los vectores de búsqueda de código de Codestral Embed, la automatización de repositorios de Devstral ni la generación de imágenes de un modelo visual. La página específica de Codestral 2508 no publica un número de parámetros ni una longitud máxima independiente de respuesta que se pueda tomar de otra versión. Conserva la edición indicada, el contexto de programación y el resultado requerido al preparar un flujo repetible de editor o chat.
Ailoot Ultra · Procesamiento por lotes POST /v1/batches mistralai/codestral-2508:batch
mistralai/codestral-2508:batch
mistralai/codestral-2508:batchPrimeros pasos
Codestral 2508 es el modelo de texto de Mistral AI para generación de código y autocompletado que tiene en cuenta el contexto. Está optimizado para tareas frecuentes del editor, incluidas la inserción de código en huecos y la edición de varias líneas, con un contexto de 128k según el fabricante y funciones documentadas de chat, salida estructurada y herramientas.
- Entradas aceptadas
- Texto
- Resultados
- Texto
Disponible en Ailoot · entradas y métodos
Ailoot Ultra · Procesamiento por lotes POST /v1/batches
- Tipos de entrada
text- Tipos de salida
text- Formato de salida
- JSON de results[].response.body incluido directamente
| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campoendpoint | Tipostring | RequisitoObligatorio | Valores y límites /v1/chat/completions | Predeterminado— |
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites mistralai/codestral-2508:batch | Predeterminado— |
Camporequests | Tipobatch_item[] | RequisitoObligatorio | Valores y límites Número mínimo de elementos: 1 | Predeterminado— |
Camporequests[].custom_id | Tipostring | RequisitoObligatorio | Valores y límites | Predeterminado— |
Camporequests[].body.messages | Tipomessage[] | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campocompletion_window | Tipostring | RequisitoOpcional | Valores y límites 24h | Predeterminado— |
Campoprovider | Tipoobject|null | RequisitoOpcional | Valores y límites | Predeterminado— |
Camporequests[].body.model | Tipostring | RequisitoOpcional | Valores y límites mistralai/codestral-2508:batch, mistralai/codestral-2508 | Predeterminado— |
Campoprovider.only | Tipostring[] | RequisitoOpcional | Valores y límites mistral | Predeterminado— |
Campoprovider.allow_fallbacks | Tipoboolean|null | RequisitoOpcional | Valores y límites false, null | Predeterminado— |
Parámetros del método y ciclo de vida
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratoendpoint, model, requests |
Parámetromaterial_types | Contratotext |
Parámetrorepresentation | Contratorequests[] en la propia solicitud; cada elemento tiene custom_id y body |
Parámetrorequest_endpoint_profile | Contrato/v1/chat/completions |
Parámetrofile_material | ContratoEl cliente puede leer localmente el JSONL real en UTF-8 e incorporarlo a requests[]. No se utiliza purpose de carga, input_file_id ni ninguna referencia a archivos. Si falta el material del cliente o está vacío, la preparación se detiene antes del POST. |
Parámetroserialization_order | Contratoendpoint, model, provider (si se proporciona), completion_window (si se proporciona), requests al final |
Parámetrooptional_controls | Contratoprovider.only, provider.allow_fallbacks, completion_window |
Parámetroschema_scope | ContratoCuerpos de Chat Completions de texto incluidos directamente en el contenedor Batch documentado. |
Ciclo de vida: asynchronous
GET /v1/batches/{operation_id} · response.id real de la respuesta de creación original; mismo usuario, clave y grupo
Planes
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
- Modo rápido
- Sin especificar Cuando se selecciona el modo rápido
- Modo flex
- Sin especificar Cuando se selecciona el modo flex
- Esfuerzo máximo de razonamiento
- Sin especificar Cuando el esfuerzo máximo de razonamiento utiliza el ajuste predeterminado (default)
- Precios de caché explícita
- No habilitado Cuando se solicita caché explícita
Tarifas de Ailoot
Precios por configuración
Relaciona cada cargo con las condiciones mostradas. Usa una tarifa para cada conjunto de configuraciones alternativas.
| Configuración | Tabla de tarifas | Tokens de contexto, más de | Tokens de contexto, hasta inclusive | Cargo |
|---|---|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Tokens de contexto, más de— | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.0003 / 1K tokens Salida · Tokens de salida $0.0009 / 1K tokens Entrada · Lectura de caché $0.00003 / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
| ConfiguraciónTramo 1 por longitud de la solicitud | Tabla de tarifas— | Tokens de contexto, más de0 | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.0003 / 1K tokens Salida · Tokens de salida $0.0009 / 1K tokens Entrada · Lectura de caché $0.00003 / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un importe estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
Solicitudes de ejemplo
Ailoot Ultra · Procesamiento por lotes
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/codestral-2508:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['mistralai/codestral-2508:batch', 'mistralai/codestral-2508']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"mistralai/codestral-2508:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Recibir y guardar resultados
Ailoot Ultra · Procesamiento por lotes
JSON de results[].response.body incluido directamente
GET /v1/batches/{operation_id}
Consultar el estado de la tarea
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Conserva todos los resultados completados
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva el JSON completo del estado original, cada resultado y su custom_id, y el cuerpo completo de la respuesta o del error. Guarda los results[] completados como JSONL sin filtrarlos.
Si es necesario revisar la respuesta original
Conserva el ID de la operación original. 503 result_pending_check incluye X-Should-Retry:false; nunca vuelvas a enviar un lote original cuyo resultado se desconoce.
Campos de respuesta
| Campo | Tipo |
|---|---|
Camporesults[].custom_id | Tipostring |
Camporesults[].response.body.choices[].message.content | Tipostring|null |
Camporesults[].error | Tipoobject|null |
Campousage | Tipoobject|null |
Campoid | Tipostring |
Campomodel | Tipostring |
Campoendpoint | Tipostring |
Campostatus | Tipostring |
Camporequest_counts | Tipoobject |
Camporesults[].id | Tipostring |
Camporesults[].response.status_code | Tipointeger |
Camporesults[].response.request_id | Tipostring |
Errores y siguientes pasos
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónEl contenedor documentado con contenido incluido directamente no es válido, hay claves duplicadas, la identidad de un elemento no es válida o existe un conflicto con las capacidades configuradas del modelo. | Siguiente pasoCorrige los campos indicados antes de cualquier nuevo envío. |
Respuesta401 · authentication_error | CondiciónClave API no válida. | Siguiente pasoUsa la clave Ailoot autorizada. |
Respuesta403 · permission_error | CondiciónGrupo de Batch no disponible. | Siguiente pasoComprueba los permisos de la clave y del grupo. |
Respuesta422 · invalid_request_error | CondiciónBatch se factura con cargo al saldo; se rechaza su creación con una suscripción. | Siguiente pasoUsa el grupo autorizado que se factura con cargo al saldo. |
Respuesta422 · price_unavailable | CondiciónNo se puede calcular el presupuesto de la entrada de Batch. | Siguiente pasoConserva la respuesta; usa la entrada documentada para la familia. |
Respuesta402 · billing_error | CondiciónReserva de Batch no disponible. | Siguiente pasoResuelve la admisión antes de enviar una nueva solicitud. |
Respuesta503 · price_unavailable | CondiciónPrecio del método Batch o tarifas nativas no disponibles. | Siguiente pasoConserva la respuesta; no sustituyas los precios. |
Respuesta503 · api_error | CondiciónLa ruta exacta del proveedor no está disponible. | Siguiente pasoConserva la respuesta para reparar la ruta. |
Respuesta503 · result_pending_check | CondiciónEl resultado original requiere comprobación; X-Should-Retry:false. | Siguiente pasoConserva el operation_id/id original y consulta su estado; nunca repitas el POST original. |
Respuesta404 · not_found | CondiciónLa operación de consulta de estado de Batch no existe o pertenece a otra identidad. | Siguiente pasoUsa el id original exacto y el mismo usuario, clave y grupo. |
Alias
Alias del modelo
Ailoot Ultra mistralai/codestral-2508:batch
Alias de rutas de métodos
Usa las rutas de método indicadas arriba.
ID de modelo relacionados
FAQ · Mistral: Codestral 2508 (batch)
- ¿Qué entradas y resultados están disponibles?
POST /v1/batches·mistralai/codestral-2508:batch:text→text- ¿Qué campos utiliza la solicitud?
POST /v1/batches·mistralai/codestral-2508:batch:endpoint,model,requests,completion_window,provider- ¿Qué límites se aplican?
POST /v1/batches·mistralai/codestral-2508:batch:requests.min_items:1