Mistral: Mistral Small 4 (batch)

Mistral Small 4 kombinerer generell instruksjonsfølging, resonnering og programmering i én multimodal modell. Produsenten beskriver den som en forening av Instruct-familien, resonneringsfamilien Magistral og programmeringsfamilien Devstral. Den tar imot tekst og bilder og returnerer tekst, med funksjonskall og JSON-utdata tilgjengelig for verktøystøttede applikasjoner.

Arkitektur og hovedfunksjoner

Utgivelsen har totalt 119 milliarder parametere og aktiverer 6,5 milliarder per token. Mixture-of-experts-arkitekturen inneholder 128 eksperter, med 4 aktive, og produsenten dokumenterer et kontekstvindu på 256k. Antallet aktive parametere og antallet eksperter beskriver hvordan modellen er organisert; de er forskjellige fra mengden tekst- eller bildeinnhold i én oppgave.

Modellen har instruksjons- og resonneringsfunksjoner i samme modellkontrollpunkt. Produsenten identifiserer også syn, etterlevelse av systeminstruksjoner og flerspråklig støtte for flere titalls språk, blant annet engelsk, fransk, spansk, tysk, italiensk, portugisisk, nederlandsk, kinesisk, japansk, koreansk og arabisk. En tekstinstruksjon kan derfor spørre om et bilde eller kombinere et skriftlig krav med synlige bevis, med svaret returnert som tekst.

En visuell oppgave kan gi en dokumentside og be om verdiene som er relevante for en navngitt betingelse. Hold etikettene og enhetene lesbare, og angi om resultatet skal bevare den opprinnelige ordlyden, oppsummere den eller sammenligne den med en annen kilde. En grensesnittoppgave kan kombinere et skjermbilde med brukerens mål og be om den relevante synlige kontrollen og bevisene som underbygger et foreslått neste steg.

Valg av instruksjons- eller resonneringsmodus

Det utgitte modellkortet dokumenterer resonneringsinnsats none for et umiddelbart instruksjonsbasert svar og high for resonnering, med high anbefalt for komplekse prompter. Valget gjøres per forespørsel i samme Small 4-modell. En vanlig klassifisering eller kort omskriving kan ha en annen svarkontrakt enn et matematisk, visuelt eller programmeringsrelatert problem som trenger en utførlig forklaring.

Produsenten anbefaler temperatur 0.7 for høy resonneringsinnsats. For none angir den temperaturer mellom 0.0 og 0.7 etter oppgaven. Disse innstillingene beskriver de dokumenterte modusene og gjør ikke resonneringsinnsats til en garanti for et riktig resultat. Definer antakelsene, utdataformen og det relevante kildematerialet før du velger hvor mye resonnering oppgaven krever.

For en gjennomarbeidet problemløsning gir du hele betingelsen og ber om de viktige begrunnede stegene, etterfulgt av det endelige uttrykket. For en kodeoppgave gir du kravet, den berørte funksjonen og konkrete inndata; be om den foreslåtte implementasjonen separat fra forklaringen og eksemplene. Produsentens bruksdemonstrasjoner omfatter instruksjonsfølging, et beregningsverktøy brukt på et bilde og visuell resonnering, og illustrerer hvordan tekst og visuelle bevis kan inngå i disse ulike oppgavene.

Programmering, dokumenter og verktøy

Modellen er posisjonert for utforsking av kodebaser og programvareutviklingsagenter, generelle assistenter, dokumentforståelse og forskning. En forespørsel til en programmeringsagent kan navngi modulen som skal endres, grensesnittet som skal bevares, og atferden som skal følge. Gi relevant kildekode og feilbevis. Modellen kan foreslå neste operasjon eller en kodeendring, mens applikasjonen gir tilgang til kodearkivet, utførelse og tilbakemelding.

For dokumentuttrekk identifiserer du de påkrevde feltene og hvordan manglende informasjon skal representeres. En nyttig datapost kan skille dokumentidentifikatoren, utsagnet i kilden, det tolkede kravet og det uavklarte spørsmålet. Produsentens tjenestekort lister tilpassede strukturerte utdata og dokumentbasert spørsmålssvar; sistnevnte bruker dokumentbehandling og OCR til å klargjøre tekst og struktur før språkmodellanalyse. Et direkte bildespørsmål og en OCR-støttet dokumentflyt bør beholde hver sin forberedelse av inndata.

Funksjonskall krever tydelig beskrevne verktøy. Modellen velger en funksjon og oppretter argumenter; applikasjonen utfører operasjonen og returnerer resultatet for det påfølgende svaret. Samme logikk gjelder uansett om oppgaven er et oppslag, en beregning eller en programmeringsoperasjon. JSON-formatering organiserer et svar, mens et verktøykall ber om en ekstern handling; de to skal ikke behandles som utbyttbare resultater.

Tjenestekortet lister også forhåndsangitte utdata, svarprefikser, satsvis behandling og agentsamtaler. Forhåndsangitte utdata er nyttig når et dokument eller en kodefil må genereres på nytt med bare en avgrenset endring og resten av innholdet er kjent. Angi redigeringen og materialet som skal bevares. Prefiksvidereføring bruker en kjent start på svaret, mens satsvis behandling gjelder innsending av arbeid fremfor en ekstra resonneringsmodus.

Avgrensning av kontekst og utgave

Planlegg den skriftlige oppgaven, det visuelle materialet, samtalen og ønsket svar ut fra den dokumenterte konteksten på 256k. Det utgitte brukseksemplet konfigurerer en kontekst på 262 144 tokener, mens genereringseksemplet på 1 024 tokener ikke er en separat maksimal utdatakapasitet. De leste kildene gir ikke en uavhengig absolutt svarlengdegrense som kan erstatte den valgte oppgavelengden.

Small 4 har sin egen mixture-of-experts-arkitektur med 119 milliarder parametere og sine egne hybridmoduser. Den skal ikke arve den tette arkitekturen med 128 milliarder parametere fra Medium 3.5 eller de separate Instruct- og Reasoning-utgavene av Ministral 3. Produsenten utgir også separate kvantiserte artefakter og artefakter for spekulativ dekoding; disse er separate utrullingsartefakter fremfor forskjellige innholdsmodaliteter. Bevar den navngitte Small 4-utgivelsen og modusen som etterspørres for den faktiske forklaringen, strukturerte dataposten eller koderesultatet.