Mistral: Codestral 2508 (batch)
Codestral 2508 es el modelo de texto de Mistral AI para generar código y completar fragmentos según el contexto. Está optimizado para tareas frecuentes de editor, como completar huecos entre código existente y realizar ediciones de varias líneas, con un contexto de 128k según su desarrollador y funciones documentadas de chat, salida estructurada y herramientas.
Sobre el modelo
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Codestral 2508 es el modelo de programación de Mistral AI para tareas frecuentes de completado y generación sensibles a la latencia. Recibe código fuente y requisitos de texto y devuelve texto que puede contener una implementación, un fragmento completado, una corrección o una explicación. La edición identificada como 2508 se enfoca en el contexto de edición actual del desarrollador; no es un modelo de embeddings ni un agente completo de repositorio por sí sola.
Completado de código y actualización 2508
Su desarrollador orienta Codestral al completado de huecos entre código existente y a la edición de varias líneas. La versión describe mejoras en el comportamiento de completado, incluida la reducción de generaciones que se prolongan sin control, junto con mejoras en el seguimiento de instrucciones y las tareas de código en modo chat. Son cambios de esta edición de Codestral; las funciones de recuperación y de agentes autónomos del conjunto de herramientas de programación que lo rodea corresponden a componentes con otros nombres.
Para completar código, conserva la firma de la función, las declaraciones y el contexto de llamadas relevantes junto con la posición del cursor. Indica si el resultado deseado es únicamente el código faltante o una función completa revisada. Una solicitud de editor puede pedir el cuerpo de un bucle que conserve el tipo de retorno existente, mantenga los valores duplicados y no modifique la entrada del llamador. El resultado tiene así un punto de inserción concreto y un comportamiento definido.
Preparación para completar huecos entre código existente
En la interfaz FIM de su desarrollador, el prompt proporciona texto o código por completar y un sufijo opcional aporta el material que va después del hueco. Cuando se proporcionan ambos, el modelo llena el espacio entre ellos. Sin sufijo, continúa a partir del prompt. Esto difiere de una solicitud conversacional habitual que pide un cambio de código y una explicación; cada estilo de preparación define un contrato de salida diferente.
Una entrada útil para completar un hueco incluye el inicio de la función, el código que debe seguir a la inserción y las definiciones de tipos o funciones auxiliares pertinentes. Conserva la sangría y los delimitadores para que el texto devuelto encaje en el fragmento existente. Si la tarea solo necesita el cuerpo faltante, solicita ese cuerpo en lugar de reescribir todo el archivo. Una pregunta de chat independiente puede explicar por qué el fragmento completado cumple el requisito.
La documentación oficial de FIM permite un presupuesto de tokens de salida y exige que el prompt más ese presupuesto permanezcan dentro del contexto del modelo. También documenta secuencias de detención y transmisión en streaming del contenido generado. Elige un flujo de completado cuando el resultado deba encajar en un hueco del código y uno conversacional cuando la tarea pida código junto con una explicación.
Contexto y funciones complementarias
La página del modelo indica una ventana de contexto de 128k. Usa ese contexto para conservar el código fuente y las declaraciones que determinan el cambio previsto, y mantén explícita la tarea real de edición. Para corregir un error, proporciona la función afectada, una entrada concreta que falle, el resultado esperado y el error o comportamiento observado. Solicita la corrección propuesta por separado de su explicación y sus ejemplos.
La página también enumera salidas estructuradas, llamadas a funciones, salidas predichas, preguntas sobre documentos, prefijos de respuesta y procesamiento por lotes, además de las capacidades de chat y FIM. Para un resultado estructurado de revisión de código, define campos como el símbolo afectado, la discrepancia observada, el cambio propuesto y la suposición que todavía requiere aclaración. La guía de salida estructurada de Mistral distingue entre el modo JSON y un esquema personalizado, e indica que el formato JSON deseado debe señalarse en el prompt.
Las salidas predichas se destinan a contenido del que ya se conocen partes importantes de la respuesta. Se pueden usar al regenerar un documento o archivo de código con una edición limitada y conservar el resto del contenido. Especifica el cambio exacto y el material que debe permanecer. En cambio, un prefijo de respuesta proporciona un inicio conocido desde el cual continúa la generación; se distingue tanto de un cuerpo completo conocido como de un sufijo FIM.
Una pregunta sobre documentación puede usar el flujo de procesamiento de documentos de su desarrollador para preparar texto y estructura mediante OCR antes del análisis con el modelo de lenguaje. Para material de programación que ya está disponible como texto, proporciona los pasajes relevantes de la documentación y pregunta qué condición rige la implementación. Mantén cada requisito extraído asociado con su sección de origen para que el código o la explicación generados sigan vinculados con la especificación proporcionada.
Herramientas y resultados prácticos
Las llamadas a funciones permiten que la aplicación proporcione operaciones descritas y sus parámetros. El modelo prepara una llamada, la aplicación la ejecuta y el resultado devuelto se convierte en contexto para la siguiente respuesta. Un asistente de código puede recibir el resultado de una consulta o un cálculo mediante ese ciclo, pero compilar, probar o aplicar un cambio propuesto sigue requiriendo el entorno de desarrollo que lo integra.
Para una corrección práctica, define la interfaz pública que debe conservar su compatibilidad y solicita el fragmento revisado, una explicación concisa y entradas de ejemplo con sus salidas esperadas. Para generar una función, indica los tipos aceptados y las condiciones límite. Para una explicación, proporciona la entrada cuya ejecución se debe seguir para que la respuesta relacione una ruta de ejecución concreta con el valor devuelto.
Codestral produce texto. No hereda vectores de búsqueda de código de Codestral Embed, automatización de repositorios de Devstral ni generación de imágenes de un modelo visual. La página del modelo 2508 exacto no publica un número de parámetros ni una longitud máxima de respuesta independiente que se pueda tomar de otra versión. Conserva la edición identificada, el contexto de programación y el artefacto requerido al preparar un flujo repetible de editor o chat.
Ailoot Ultra · Batch POST /v1/batches mistralai/codestral-2508:batch
mistralai/codestral-2508:batch
mistralai/codestral-2508:batchInicio
Codestral 2508 es el modelo de texto de Mistral AI para generar código y completar fragmentos según el contexto. Está optimizado para tareas frecuentes de editor, como completar huecos entre código existente y realizar ediciones de varias líneas, con un contexto de 128k según su desarrollador y funciones documentadas de chat, salida estructurada y herramientas.
- Entradas aceptadas
- Texto
- Resultados
- Texto
Disponible en Ailoot · entradas y métodos
Ailoot Ultra · Batch POST /v1/batches
- Entrada
text- Salida
text- Formato de salida
- JSON de results[].response.body en línea
| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campoendpoint | Tipostring | RequisitoObligatorio | Valores y límites /v1/chat/completions | Predeterminado— |
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites mistralai/codestral-2508:batch | Predeterminado— |
Camporequests | Tipobatch_item[] | RequisitoObligatorio | Valores y límites Número mínimo de elementos: 1 | Predeterminado— |
Camporequests[].custom_id | Tipostring | RequisitoObligatorio | Valores y límites | Predeterminado— |
Camporequests[].body.messages | Tipomessage[] | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campocompletion_window | Tipostring | RequisitoOpcional | Valores y límites 24h | Predeterminado— |
Campoprovider | Tipoobject|null | RequisitoOpcional | Valores y límites | Predeterminado— |
Camporequests[].body.model | Tipostring | RequisitoOpcional | Valores y límites mistralai/codestral-2508:batch, mistralai/codestral-2508 | Predeterminado— |
Campoprovider.only | Tipostring[] | RequisitoOpcional | Valores y límites mistral | Predeterminado— |
Campoprovider.allow_fallbacks | Tipoboolean|null | RequisitoOpcional | Valores y límites false, null | Predeterminado— |
Parámetros del método y ciclo de vida
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratoendpoint, model, requests |
Parámetromaterial_types | Contratotext |
Parámetrorepresentation | Contratorequests[] en línea; cada elemento tiene custom_id y body |
Parámetrorequest_endpoint_profile | Contrato/v1/chat/completions |
Parámetrofile_material | ContratoQuien realiza la llamada puede leer localmente el JSONL UTF-8 real e incorporarlo a requests[]. No se utiliza el campo purpose para cargas, ni input_file_id ni referencias a archivos. Si falta el material del cliente o está vacío, la preparación se detiene antes del POST. |
Parámetroserialization_order | Contratoendpoint, model, provider (si se proporciona), completion_window (si se proporciona), requests al final |
Parámetrooptional_controls | Contratoprovider.only, provider.allow_fallbacks, completion_window |
Parámetroschema_scope | ContratoCuerpos de solicitudes de texto de Chat Completions dentro de la estructura Batch en línea documentada. |
Ciclo de vida: asynchronous
GET /v1/batches/{operation_id} · El response.id real de la respuesta de creación original; el mismo usuario, clave y grupo
Tarifas
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
- Modo fast
- Sin especificar Cuando se selecciona el modo fast
- Modo flex
- Sin especificar Cuando se selecciona el modo flex
- Esfuerzo máximo de razonamiento
- Sin especificar Cuando el esfuerzo máximo de razonamiento usa el ajuste default
- Precios de caché explícita
- No habilitado Cuando se solicita caché explícita
Tarifas de Ailoot
Precios por configuración
Relaciona cada cargo con las condiciones mostradas. Usa una tarifa para cada conjunto de configuraciones alternativas.
| Configuración | Tabla de tarifas | Tokens de contexto, más de | Tokens de contexto, hasta inclusive | Cargo |
|---|---|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Tokens de contexto, más de— | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.0003 / 1K tokens Salida · Tokens de salida $0.0009 / 1K tokens Entrada · Lectura de caché $0.00003 / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
| ConfiguraciónNivel 1 por longitud de la solicitud | Tabla de tarifas— | Tokens de contexto, más de0 | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.0003 / 1K tokens Salida · Tokens de salida $0.0009 / 1K tokens Entrada · Lectura de caché $0.00003 / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un monto estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
Solicitudes de ejemplo
Ailoot Ultra · Batch
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/codestral-2508:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['mistralai/codestral-2508:batch', 'mistralai/codestral-2508']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"mistralai/codestral-2508:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Recibir y guardar resultados
Ailoot Ultra · Batch
JSON de results[].response.body en línea
GET /v1/batches/{operation_id}
Consultar el estado de la tarea
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Conserva todos los resultados completados
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva el JSON completo del estado original, cada result/custom_id y el cuerpo completo de la respuesta o del error. Guarda results[] completados como JSONL sin filtrar.
Si es necesario revisar la respuesta original
Conserva el ID de la operación original. La respuesta 503 result_pending_check incluye X-Should-Retry:false; nunca vuelvas a enviar un lote original cuyo resultado sea desconocido.
Campos de respuesta
| Campo | Tipo |
|---|---|
Camporesults[].custom_id | Tipostring |
Camporesults[].response.body.choices[].message.content | Tipostring|null |
Camporesults[].error | Tipoobject|null |
Campousage | Tipoobject|null |
Campoid | Tipostring |
Campomodel | Tipostring |
Campoendpoint | Tipostring |
Campostatus | Tipostring |
Camporequest_counts | Tipoobject |
Camporesults[].id | Tipostring |
Camporesults[].response.status_code | Tipointeger |
Camporesults[].response.request_id | Tipostring |
Errores y siguientes pasos
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónLa estructura en línea documentada no es válida, hay claves duplicadas, existe un problema con la identidad de los elementos o hay un conflicto entre las capacidades configuradas del modelo. | Siguiente pasoCorrige los campos indicados antes de realizar cualquier nuevo envío. |
Respuesta401 · authentication_error | CondiciónClave de API no válida. | Siguiente pasoUsa la clave de Ailoot autorizada. |
Respuesta403 · permission_error | CondiciónGrupo de Batch no disponible. | Siguiente pasoVerifica los permisos de la clave y el grupo. |
Respuesta422 · invalid_request_error | CondiciónBatch usa facturación contra saldo; se rechazan las solicitudes de creación con una suscripción. | Siguiente pasoUsa el grupo autorizado con facturación contra saldo. |
Respuesta422 · price_unavailable | CondiciónNo se puede cotizar la entrada de Batch. | Siguiente pasoConserva la respuesta; usa la entrada documentada para la familia. |
Respuesta402 · billing_error | CondiciónReserva de Batch no disponible. | Siguiente pasoResuelve los requisitos de admisión antes de realizar una nueva solicitud. |
Respuesta503 · price_unavailable | CondiciónPrecio del método Batch o tarifas nativas no disponibles. | Siguiente pasoConserva la respuesta; no sustituyas los precios. |
Respuesta503 · api_error | CondiciónLa ruta exacta del proveedor no está disponible. | Siguiente pasoConserva la respuesta para reparar la ruta. |
Respuesta503 · result_pending_check | CondiciónEl resultado original requiere una revisión; X-Should-Retry:false. | Siguiente pasoConserva el operation_id/id original y consulta su estado; nunca repitas el POST original. |
Respuesta404 · not_found | CondiciónLa operación de consulta de estado de Batch no existe o pertenece a otra identidad. | Siguiente pasoUsa el id original exacto y el mismo usuario, clave y grupo. |
Alias
Alias del modelo
Ailoot Ultra mistralai/codestral-2508:batch
Alias de rutas de métodos
Usa las rutas de método indicadas arriba.
ID de modelo relacionados
FAQ · Mistral: Codestral 2508 (batch)
- ¿Qué entradas y resultados están disponibles?
POST /v1/batches·mistralai/codestral-2508:batch:text→text- ¿Qué campos utiliza la solicitud?
POST /v1/batches·mistralai/codestral-2508:batch:endpoint,model,requests,completion_window,provider- ¿Qué límites se aplican?
POST /v1/batches·mistralai/codestral-2508:batch:requests.min_items:1