Mistral: Codestral 2508 (batch)
Codestral 2508 er Mistral AIs tekstmodell for kodegenerering og kontekstbevisst kodefullføring. Den er optimalisert for hyppige oppgaver i kodeeditoren, inkludert utfylling i midten og redigering over flere linjer, med en kontekst på 128k ifølge produsenten og dokumenterte funksjoner for chat, strukturerte utdata og verktøy.
Om modellen
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Codestral 2508 er Mistral AIs programmeringsmodell for hyppige fullførings- og genereringsoppgaver som er følsomme for ventetid. Den mottar kildekode og tekstlige krav og returnerer tekst som kan inneholde en implementasjon, fullføring, rettelse eller forklaring. Den navngitte 2508-utgaven fokuserer på utviklerens aktuelle redigeringskontekst og er ikke en embeddingmodell eller en komplett kodearkivagent i seg selv.
Kodefullføring og 2508-oppdateringen
Produsenten posisjonerer Codestral for utfylling i midten og redigering over flere linjer. Utgivelsen beskriver forbedringer i fullføringsatferd, blant annet mindre ukontrollert generering, sammen med forbedringer i instruksjonsfølging og kodeoppgaver i chatmodus. Dette er endringer i denne Codestral-utgaven; gjenfinning og autonome agentfunksjoner i den omkringliggende programmeringsstakken tilhører separat navngitte komponenter.
For en fullføringsoppgave beholder du den relevante funksjonssignaturen, deklarasjonene og kallkonteksten sammen med markørposisjonen. Identifiser om ønsket resultat bare er den manglende koden eller en komplett revidert funksjon. En editororientert forespørsel kan be om kroppen til en løkke som bevarer den eksisterende returtypen, beholder duplikatverdier og ikke endrer inndataene til den som kaller funksjonen. Resultatet får da et konkret innsettingspunkt og definert atferd.
Forberedelse for utfylling i midten
I produsentens FIM-grensesnitt inneholder prompten tekst eller kode som skal fullføres, og et valgfritt suffiks inneholder materialet etter tomrommet. Når begge er oppgitt, fyller modellen rommet mellom dem. Uten et suffiks fortsetter den fra prompten. Dette skiller seg fra en vanlig samtaleforespørsel som ber om en kodeendring og en forklaring; hver måte å forberede oppgaven på definerer en egen kontrakt for utdataene.
Nyttige inndata for utfylling av et tomrom omfatter starten på funksjonen, koden som må komme etter innsettingen, og relevante type- eller hjelperdefinisjoner. Bevar innrykk og skilletegn slik at den returnerte teksten passer inn i det eksisterende fragmentet. Hvis oppgaven bare trenger den manglende kroppen, ber du om den fremfor en omskriving av hele filen. Et separat chatspørsmål kan forklare hvorfor det fullførte fragmentet oppfyller kravet.
Den offisielle FIM-dokumentasjonen tillater et budsjett for utdatatokener og krever at prompten pluss dette budsjettet holder seg innenfor modellens kontekst. Den dokumenterer også stoppsekvenser og strømming av generert innhold. Velg en fullføringsarbeidsflyt når resultatet må passe inn i et tomrom i koden, og en samtalearbeidsflyt når oppgaven ber om kode sammen med en forklaring.
Kontekst og støttefunksjoner
Modellsiden oppgir et kontekstvindu på 128k. Bruk konteksten til å beholde kildekoden og deklarasjonene som bestemmer den tiltenkte endringen, samtidig som den faktiske redigeringsoppgaven er eksplisitt. For en feilrettingsforespørsel gir du den berørte funksjonen, konkrete inndata som feiler, det forventede resultatet og feilen eller den observerte atferden. Be om den foreslåtte rettelsen separat fra forklaringen og eksemplene.
Siden lister også strukturerte utdata, funksjonskall, forhåndsangitte utdata, dokumentbasert spørsmålssvar, svarprefikser og satsvis behandling sammen med chat- og FIM-funksjoner. For et strukturert kodegjennomgangsresultat definerer du felter som det berørte symbolet, det observerte avviket, den foreslåtte endringen og antakelsen som fortsatt må avklares. Mistrals veiledning om strukturerte utdata skiller JSON-modus fra et tilpasset skjema, og det ønskede JSON-formatet angis i prompten.
Forhåndsangitte utdata er beregnet på innhold der store deler av svaret allerede er kjent. De kan brukes ved ny generering av et dokument eller en kodefil med en avgrenset endring, mens resten av innholdet beholdes. Angi den nøyaktige endringen og materialet som skal bevares. Et svarprefiks gir derimot en kjent start som genereringen fortsetter fra; det skiller seg både fra en kjent fullstendig tekst og et FIM-suffiks.
Et dokumentasjonsspørsmål kan bruke produsentens dokumentbehandlingsflyt til å klargjøre tekst og struktur med OCR før språkmodellanalyse. For programmeringsmateriale som allerede finnes som tekst, gir du de relevante dokumentasjonsutdragene og spør hvilken betingelse som styrer implementasjonen. Hold hvert uttrukket krav knyttet til kildeavsnittet slik at den genererte koden eller forklaringen forblir forbundet med den oppgitte spesifikasjonen.
Verktøy og praktiske resultater
Funksjonskall lar applikasjonen oppgi beskrevne operasjoner og parameterne deres. Modellen forbereder et kall, applikasjonen utfører det, og det returnerte resultatet blir kontekst for neste svar. En kodeassistent kan motta et oppslagsresultat eller et beregningsresultat gjennom denne syklusen, men kompilering, testing eller bruk av en foreslått endring krever fortsatt det omkringliggende utviklingsmiljøet.
For en praktisk rettelse definerer du det offentlige grensesnittet som skal forbli kompatibelt, og ber om det reviderte fragmentet, en kort forklaring og eksempelinndata med forventede utdata. For en generert funksjon angir du de aksepterte typene og randtilfellene. For en forklaring gir du inndataene som skal spores, slik at svaret knytter et konkret utførelsesforløp til returverdien.
Codestral produserer tekst. Den arver ikke vektorer for kodesøk fra Codestral Embed, automatisering av kodearkiver fra Devstral eller bildegenerering fra en visuell modell. Den konkrete modellsiden for 2508 publiserer ikke et parameterantall eller en uavhengig maksimal svarlengde som kan lånes fra en annen utgivelse. Bevar den navngitte utgaven, programmeringskonteksten og det påkrevde artefaktet når du forbereder en repeterbar arbeidsflyt i editor eller chat.
Ailoot Ultra · Batchbehandling POST /v1/batches mistralai/codestral-2508:batch
mistralai/codestral-2508:batch
mistralai/codestral-2508:batchStart
Codestral 2508 er Mistral AIs tekstmodell for kodegenerering og kontekstbevisst kodefullføring. Den er optimalisert for hyppige oppgaver i kodeeditoren, inkludert utfylling i midten og redigering over flere linjer, med en kontekst på 128k ifølge produsenten og dokumenterte funksjoner for chat, strukturerte utdata og verktøy.
- Godkjente inndata
- Tekst
- Resultater
- Tekst
Tilgjengelig i Ailoot · inndata & metoder
Ailoot Ultra · Batchbehandling POST /v1/batches
- Inndatatyper
text- Utdatatyper
text- Utdataformat
- JSON fra results[].response.body direkte i svaret
| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltendpoint | Typestring | KravPåkrevd | Verdier & grenser /v1/chat/completions | Standard— |
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser mistralai/codestral-2508:batch | Standard— |
Feltrequests | Typebatch_item[] | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 | Standard— |
Feltrequests[].custom_id | Typestring | KravPåkrevd | Verdier & grenser | Standard— |
Feltrequests[].body.messages | Typemessage[] | KravPåkrevd | Verdier & grenser | Standard— |
Feltcompletion_window | Typestring | KravValgfritt | Verdier & grenser 24h | Standard— |
Feltprovider | Typeobject|null | KravValgfritt | Verdier & grenser | Standard— |
Feltrequests[].body.model | Typestring | KravValgfritt | Verdier & grenser mistralai/codestral-2508:batch, mistralai/codestral-2508 | Standard— |
Feltprovider.only | Typestring[] | KravValgfritt | Verdier & grenser mistral | Standard— |
Feltprovider.allow_fallbacks | Typeboolean|null | KravValgfritt | Verdier & grenser false, null | Standard— |
Metodeparametere og livssyklus
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtaleendpoint, model, requests |
Parametermaterial_types | Avtaletext |
Parameterrepresentation | Avtalerequests[] direkte i forespørselen; hvert element har custom_id og body |
Parameterrequest_endpoint_profile | Avtale/v1/chat/completions |
Parameterfile_material | AvtaleKlienten kan lese det faktiske UTF-8-kodede JSONL-innholdet lokalt inn i requests[]. Feltet purpose for opplasting, input_file_id og filreferanser brukes ikke. Manglende eller tomt kundemateriale stopper klargjøringen før POST. |
Parameterserialization_order | Avtaleendpoint, model, provider (hvis angitt), completion_window (hvis angitt), requests til slutt |
Parameteroptional_controls | Avtaleprovider.only, provider.allow_fallbacks, completion_window |
Parameterschema_scope | AvtaleForespørselsinnhold for tekstbasert Chat Completions lagt direkte inn i det dokumenterte Batch-formatet. |
Livssyklus: asynchronous
GET /v1/batches/{operation_id} · faktisk response.id fra den opprinnelige opprettelsen; samme bruker/nøkkel/gruppe
Priser
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
- Hurtigmodus
- Ikke angitt Når hurtigmodus er valgt
- Flex-modus
- Ikke angitt Når flex-modus er valgt
- Maksimal resonneringsinnsats
- Ikke angitt Når justeringen «default» brukes for maksimal resonneringsinnsats
- Priser for eksplisitt mellomlagring
- Ikke aktivert Når eksplisitt mellomlagring forespørres
Ailoot-satser
Priser etter konfigurasjon
Knytt hver kostnad til de viste vilkårene. Bruk én sats for hvert sett med alternative konfigurasjoner.
| Konfigurasjon | Prisplan | Konteksttokener, mer enn | Konteksttokener, opptil og med | Kostnad |
|---|---|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Konteksttokener, mer enn— | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.0003 / 1K tokener Utdata · Utgående tokener $0.0009 / 1K tokener Inndata · Lesing fra hurtigbuffer $0.00003 / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
| KonfigurasjonNivå 1 for forespørselslengde | Prisplan— | Konteksttokener, mer enn0 | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.0003 / 1K tokener Utdata · Utgående tokener $0.0009 / 1K tokener Inndata · Lesing fra hurtigbuffer $0.00003 / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
Eksempelforespørsler
Ailoot Ultra · Batchbehandling
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/codestral-2508:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['mistralai/codestral-2508:batch', 'mistralai/codestral-2508']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"mistralai/codestral-2508:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Motta og lagre resultater
Ailoot Ultra · Batchbehandling
JSON fra results[].response.body direkte i svaret
GET /v1/batches/{operation_id}
Kontroller jobbstatus
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Behold alle ferdige resultater
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Bevar hele den opprinnelige statusresponsen i JSON, alle resultater og custom_id-verdier samt hele svar- eller feilinnholdet. Lagre fullførte results[] som JSONL uten filtrering.
Hvis det opprinnelige svaret må kontrolleres
Bevar den opprinnelige operasjons-ID-en. 503 result_pending_check har X-Should-Retry:false; send aldri den opprinnelige batchen på nytt når utfallet er ukjent.
Svarfelter
| Felt | Type |
|---|---|
Feltresults[].custom_id | Typestring |
Feltresults[].response.body.choices[].message.content | Typestring|null |
Feltresults[].error | Typeobject|null |
Feltusage | Typeobject|null |
Feltid | Typestring |
Feltmodel | Typestring |
Feltendpoint | Typestring |
Feltstatus | Typestring |
Feltrequest_counts | Typeobject |
Feltresults[].id | Typestring |
Feltresults[].response.status_code | Typeinteger |
Feltresults[].response.request_id | Typestring |
Feil og neste trinn
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldig struktur i det dokumenterte formatet med innebygde forespørsler, dupliserte nøkler, ugyldig elementidentitet eller konflikt med modellens konfigurerte funksjoner. | Neste trinnRett de angitte feltene før du sender en ny forespørsel. |
Svar401 · authentication_error | VilkårUgyldig API-nøkkel. | Neste trinnBruk den autoriserte Ailoot-nøkkelen. |
Svar403 · permission_error | VilkårGruppen for batchbehandling er ikke tilgjengelig. | Neste trinnKontroller tilgangsrettighetene til nøkkelen/gruppen. |
Svar422 · invalid_request_error | VilkårBatch belastes saldoen; opprettelse via abonnement avvises. | Neste trinnBruk den autoriserte gruppen som belastes saldoen. |
Svar422 · price_unavailable | VilkårDet kan ikke beregnes en pris for batchens inndata. | Neste trinnBevar svaret; bruk de dokumenterte inndataene for API-familien. |
Svar402 · billing_error | VilkårBeløpsreservasjon for batchbehandling er ikke tilgjengelig. | Neste trinnLøs problemet som hindrer forespørselen i å bli godkjent før du sender en ny forespørsel. |
Svar503 · price_unavailable | VilkårPris for Batch-metoden eller systemets innebygde satser er ikke tilgjengelige. | Neste trinnBevar svaret; ikke erstatt prisene. |
Svar503 · api_error | VilkårDen nøyaktige leverandørruten er ikke tilgjengelig. | Neste trinnBevar svaret slik at ruten kan repareres. |
Svar503 · result_pending_check | VilkårDet opprinnelige resultatet må kontrolleres; X-Should-Retry:false. | Neste trinnBevar opprinnelig operation_id/id og les statusen; gjenta aldri den opprinnelige POST-forespørselen. |
Svar404 · not_found | VilkårStatusoperasjonen for batchen finnes ikke eller tilhører en annen identitet. | Neste trinnBruk nøyaktig den opprinnelige id-verdien og samme bruker/nøkkel/gruppe. |
Aliaser
Modellaliaser
Ailoot Ultra mistralai/codestral-2508:batch
Aliaser for metodestier
Bruk metodestiene som vises ovenfor.
Tilknyttede anroper-ID-er
FAQ · Mistral: Codestral 2508 (batch)
- Hvilke inndata og resultater er tilgjengelige?
POST /v1/batches·mistralai/codestral-2508:batch:text→text- Hvilke felt bruker forespørselen?
POST /v1/batches·mistralai/codestral-2508:batch:endpoint,model,requests,completion_window,provider- Hvilke grenser gjelder?
POST /v1/batches·mistralai/codestral-2508:batch:requests.min_items:1