Mistral: Codestral 2508 (batch)
Codestral 2508 est le modèle textuel de Mistral AI pour la génération de code et la complétion tenant compte du contexte. Il est optimisé pour les tâches fréquentes dans un éditeur, notamment la complétion au milieu du code et les modifications sur plusieurs lignes, avec un contexte fabricant de 128 k et des fonctions documentées de conversation, de sortie structurée et d’outils.
À propos du modèle
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Codestral 2508 est le modèle de programmation de Mistral AI pour les tâches fréquentes de complétion et de génération sensibles à la latence. Il reçoit du code source et des exigences textuelles et renvoie un texte pouvant contenir une implémentation, une complétion, une correction ou une explication. L’édition 2508 nommée se concentre sur le contexte d’édition actuel du développeur ; elle n’est ni un modèle de plongements vectoriels ni, à elle seule, un agent complet pour dépôt de code.
Complétion de code et mise à jour 2508
Le fabricant destine Codestral à la complétion au milieu du code et aux modifications sur plusieurs lignes. La publication décrit des améliorations du comportement de complétion, notamment la réduction des générations qui se prolongent sans contrôle, ainsi que du suivi d’instructions et des tâches de code en mode conversationnel. Ces changements concernent cette édition de Codestral ; les fonctions de recherche d’information et d’agent autonome de l’environnement de programmation relèvent de composants nommés séparément.
Pour une tâche de complétion, gardez la signature de fonction, les déclarations pertinentes et le contexte d’appel avec la position du curseur. Précisez si le résultat attendu est uniquement le code manquant ou une fonction entièrement révisée. Une demande de type éditeur peut porter sur un corps de boucle qui préserve le type de retour existant, conserve les doublons et ne modifie pas l’entrée de l’appelant. Le résultat possède alors un point d’insertion concret et un comportement défini.
Préparer la complétion au milieu du code
Dans l’interface FIM du fabricant, l’instruction fournit le texte ou le code à compléter et un suffixe facultatif fournit le contenu situé après l’espace à remplir. Lorsque les deux sont fournis, le modèle remplit l’espace qui les sépare. Sans suffixe, il poursuit à partir de l’instruction. Cela diffère d’une demande conversationnelle ordinaire qui sollicite une modification de code et une explication ; chaque mode de préparation définit un contrat de sortie différent.
Une entrée utile pour compléter un espace comprend le début de la fonction, le code qui doit suivre l’insertion et toute définition de type ou de fonction auxiliaire pertinente. Préservez l’indentation et les délimiteurs afin que le texte renvoyé s’insère dans le fragment existant. Si la tâche nécessite uniquement le corps manquant, demandez ce corps plutôt qu’une réécriture complète du fichier. Une question distincte dans la conversation peut demander pourquoi le fragment complété satisfait l’exigence.
La documentation officielle FIM permet de fixer un budget de jetons de sortie et exige que l’instruction et ce budget restent ensemble dans le contexte du modèle. Elle documente aussi les séquences d’arrêt et la diffusion progressive du contenu généré. Choisissez un processus de complétion lorsque le résultat doit s’insérer dans un espace du code, et un processus conversationnel lorsque la tâche demande du code accompagné d’une explication.
Contexte et fonctions complémentaires
La page du modèle indique une fenêtre de contexte de 128 k. Utilisez ce contexte pour conserver la source et les déclarations qui déterminent la modification souhaitée, tout en gardant la tâche d’édition explicite. Pour corriger un bug, fournissez la fonction concernée, une entrée défaillante concrète, le résultat attendu et l’erreur ou le comportement observé. Demandez la correction proposée séparément de son explication et de ses exemples.
La page répertorie également les sorties structurées, les appels de fonctions, les sorties prédites, les questions sur documents, les préfixes de réponse et le traitement par lots, en plus de la conversation et du FIM. Pour une revue de code structurée, définissez des champs comme le symbole concerné, l’écart observé, la modification proposée et l’hypothèse qui doit encore être clarifiée. Les consignes de Mistral sur les sorties structurées distinguent le mode JSON d’un schéma personnalisé, le format JSON souhaité étant énoncé dans l’instruction.
Les sorties prédites concernent les contenus dont une grande partie de la réponse est déjà connue. Elles peuvent servir à régénérer un document ou un fichier de code avec une modification limitée tout en conservant le reste. Précisez la modification exacte et le contenu à préserver. Un préfixe de réponse fournit, lui, un début connu à partir duquel la génération se poursuit ; il se distingue aussi bien d’un corps complet connu que d’un suffixe FIM.
Une question documentaire peut utiliser le processus de traitement de documents du fabricant pour préparer le texte et sa structure avec l’OCR avant l’analyse par le modèle linguistique. Pour des éléments de programmation déjà disponibles en texte, fournissez les passages de documentation pertinents et demandez quelle condition régit l’implémentation. Gardez chaque exigence extraite associée à sa section source afin que le code ou l’explication générés restent reliés à la spécification fournie.
Outils et résultats pratiques
Les appels de fonctions permettent à l’application de fournir des opérations décrites et leurs paramètres. Le modèle prépare un appel, l’application l’exécute et le résultat renvoyé devient le contexte de la réponse suivante. Un assistant de programmation peut recevoir ainsi un résultat de recherche ou de calcul, mais compiler, tester ou appliquer une modification proposée nécessite toujours l’environnement de développement environnant.
Pour une correction pratique, définissez l’interface publique qui doit rester compatible et demandez le fragment révisé, une explication concise et des exemples d’entrées avec leurs sorties attendues. Pour une fonction générée, indiquez les types acceptés et les conditions limites. Pour une explication, fournissez l’entrée à suivre afin que la réponse relie un chemin d’exécution concret à la valeur renvoyée.
Codestral produit du texte. Il n’hérite pas des vecteurs de recherche de code de Codestral Embed, de l’automatisation des dépôts de Devstral ni de la génération d’images d’un modèle visuel. La page du modèle 2508 exact ne publie ni un nombre de paramètres ni une longueur de réponse maximale indépendante à reprendre d’une autre version. Préservez l’édition nommée, le contexte de programmation et le livrable requis lorsque vous préparez un processus reproductible dans un éditeur ou une conversation.
Ailoot Ultra · Traitement par lots POST /v1/batches mistralai/codestral-2508:batch
mistralai/codestral-2508:batch
mistralai/codestral-2508:batchPremiers pas
Codestral 2508 est le modèle textuel de Mistral AI pour la génération de code et la complétion tenant compte du contexte. Il est optimisé pour les tâches fréquentes dans un éditeur, notamment la complétion au milieu du code et les modifications sur plusieurs lignes, avec un contexte fabricant de 128 k et des fonctions documentées de conversation, de sortie structurée et d’outils.
- Entrées acceptées
- Texte
- Résultats
- Texte
Disponible dans Ailoot · entrées et méthodes
Ailoot Ultra · Traitement par lots POST /v1/batches
- Entrée
text- Sortie
text- Format de sortie
- JSON results[].response.body intégré
| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champendpoint | Typestring | ExigenceObligatoire | Valeurs et limites /v1/chat/completions | Par défaut— |
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites mistralai/codestral-2508:batch | Par défaut— |
Champrequests | Typebatch_item[] | ExigenceObligatoire | Valeurs et limites Nombre minimal d’éléments: 1 | Par défaut— |
Champrequests[].custom_id | Typestring | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champrequests[].body.messages | Typemessage[] | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champcompletion_window | Typestring | ExigenceFacultatif | Valeurs et limites 24h | Par défaut— |
Champprovider | Typeobject|null | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champrequests[].body.model | Typestring | ExigenceFacultatif | Valeurs et limites mistralai/codestral-2508:batch, mistralai/codestral-2508 | Par défaut— |
Champprovider.only | Typestring[] | ExigenceFacultatif | Valeurs et limites mistral | Par défaut— |
Champprovider.allow_fallbacks | Typeboolean|null | ExigenceFacultatif | Valeurs et limites false, null | Par défaut— |
Paramètres et cycle de vie de la méthode
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratendpoint, model, requests |
Paramètrematerial_types | Contrattext |
Paramètrerepresentation | Contratrequests[] intégré ; chaque élément comporte custom_id et body |
Paramètrerequest_endpoint_profile | Contrat/v1/chat/completions |
Paramètrefile_material | ContratL’appelant peut charger localement le contenu JSONL UTF-8 effectif dans requests[]. Aucun paramètre purpose de téléversement, input_file_id ni référence à un fichier n’est utilisé. Si les données du client sont absentes ou vides, la préparation s’arrête avant le POST. |
Paramètreserialization_order | Contratendpoint, model, provider (si fourni), completion_window (si fourni), requests en dernier |
Paramètreoptional_controls | Contratprovider.only, provider.allow_fallbacks, completion_window |
Paramètreschema_scope | ContratCorps de requêtes Chat Completions textuelles dans l’enveloppe Batch intégrée documentée. |
Cycle de vie : asynchronous
GET /v1/batches/{operation_id} · response.id effectivement renvoyé lors de la création d’origine ; même utilisateur, même clé et même groupe
Tarifs
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
- Mode rapide
- Non précisé Lorsque le mode rapide est sélectionné
- Mode Flex
- Non précisé Lorsque le mode flex est sélectionné
- Effort de raisonnement maximal
- Non précisé Lorsque l’effort de raisonnement maximal utilise l’ajustement par défaut (default)
- Tarification du cache explicite
- Non activé Lorsqu’un cache explicite est demandé
Tarifs Ailoot
Prix par configuration
Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives.
| Configuration | Barème tarifaire | Tokens de contexte, plus de | Tokens de contexte, jusqu’à la limite incluse | Coût |
|---|---|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Tokens de contexte, plus de— | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.0003 / 1K tokens Sortie · Tokens en sortie $0.0009 / 1K tokens Entrée · Lecture du cache $0.00003 / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
| ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Tokens de contexte, plus de0 | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.0003 / 1K tokens Sortie · Tokens en sortie $0.0009 / 1K tokens Entrée · Lecture du cache $0.00003 / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
Exemples de requêtes
Ailoot Ultra · Traitement par lots
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/codestral-2508:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['mistralai/codestral-2508:batch', 'mistralai/codestral-2508']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"mistralai/codestral-2508:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Recevoir et enregistrer les résultats
Ailoot Ultra · Traitement par lots
JSON results[].response.body intégré
GET /v1/batches/{operation_id}
Vérifier l’état de la tâche
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Conserver tous les résultats terminés
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez l’intégralité du JSON de statut d’origine, chaque résultat/custom_id et le corps complet de la réponse ou de l’erreur. Enregistrez les results[] terminés au format JSONL sans filtrage.
Si la réponse d’origine doit être vérifiée
Conservez l’identifiant de l’opération d’origine. La réponse 503 result_pending_check contient X-Should-Retry:false ; ne soumettez jamais à nouveau un lot d’origine dont l’issue est inconnue.
Champs de la réponse
| Champ | Type |
|---|---|
Champresults[].custom_id | Typestring |
Champresults[].response.body.choices[].message.content | Typestring|null |
Champresults[].error | Typeobject|null |
Champusage | Typeobject|null |
Champid | Typestring |
Champmodel | Typestring |
Champendpoint | Typestring |
Champstatus | Typestring |
Champrequest_counts | Typeobject |
Champresults[].id | Typestring |
Champresults[].response.status_code | Typeinteger |
Champresults[].response.request_id | Typestring |
Erreurs et étapes suivantes
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionEnveloppe intégrée documentée invalide, clés dupliquées, identité d’élément incorrecte ou conflit avec les capacités configurées du modèle. | Étape suivanteCorrigez les champs indiqués avant toute nouvelle soumission. |
Réponse401 · authentication_error | ConditionClé API invalide. | Étape suivanteUtilisez la clé Ailoot autorisée. |
Réponse403 · permission_error | ConditionGroupe de traitement par lots indisponible. | Étape suivanteVérifiez les droits d’accès de la clé/du groupe. |
Réponse422 · invalid_request_error | ConditionLe traitement par lots est facturé sur le solde ; la création via un abonnement est refusée. | Étape suivanteUtilisez le groupe autorisé dont la facturation est prélevée sur le solde. |
Réponse422 · price_unavailable | ConditionImpossible d’établir un devis pour les données d’entrée du traitement par lots. | Étape suivanteConservez la réponse ; utilisez les données d’entrée documentées pour cette famille. |
Réponse402 · billing_error | ConditionRéserve pour le traitement par lots indisponible. | Étape suivanteRéglez les conditions d’admission avant une nouvelle requête. |
Réponse503 · price_unavailable | ConditionPrix de la méthode Batch/tarifs natifs indisponibles. | Étape suivanteConservez la réponse ; ne substituez pas d’autres prix. |
Réponse503 · api_error | ConditionRoute exacte du fournisseur indisponible. | Étape suivanteConservez la réponse pour réparer la route. |
Réponse503 · result_pending_check | ConditionLe résultat d’origine nécessite une vérification ; X-Should-Retry:false. | Étape suivanteConservez l’operation_id/id d’origine et consultez son statut ; ne répétez jamais le POST d’origine. |
Réponse404 · not_found | ConditionOpération de suivi du traitement par lots absente ou appartenant à une autre identité. | Étape suivanteUtilisez l’id exact d’origine avec le même utilisateur, la même clé et le même groupe. |
Alias
Alias du modèle
Ailoot Ultra mistralai/codestral-2508:batch
Alias des chemins de méthode
Utilisez les chemins de méthode indiqués ci-dessus.
ID d’appel associés
FAQ · Mistral: Codestral 2508 (batch)
- Quelles entrées et quels résultats sont disponibles ?
POST /v1/batches·mistralai/codestral-2508:batch:text→text- Quels champs la requête utilise-t-elle ?
POST /v1/batches·mistralai/codestral-2508:batch:endpoint,model,requests,completion_window,provider- Quelles limites s’appliquent ?
POST /v1/batches·mistralai/codestral-2508:batch:requests.min_items:1