Mistral: Mistral Small 4 (batch)

Mistral Small 4 kombinerer generel instruktionsefterlevelse, ræsonnement og kodning i én multimodal model. Producenten beskriver den som en samling af Instruct-, Magistral-ræsonnements- og Devstral-kodefamilierne. Den tager imod tekst og billeder og returnerer tekst med funktionskald og JSON-output til værktøjsassisterede applikationer.

Arkitektur og centrale funktioner

Udgivelsen har i alt 119 milliarder parametre og aktiverer 6,5 milliarder pr. token. Dens mixture-of-experts-arkitektur indeholder 128 eksperter, hvoraf 4 er aktive, og producenten dokumenterer et kontekstvindue på 256k. Det aktive parameterantal og antallet af eksperter beskriver modellens organisering; de er forskellige fra den mængde tekst- eller billedindhold, der indgår i én opgave.

Modellen tilbyder instruktions- og ræsonnementsfunktioner i samme checkpoint. Producenten identificerer også syn, efterlevelse af systemprompter og flersproget understøttelse af snesevis af sprog, herunder engelsk, fransk, spansk, tysk, italiensk, portugisisk, nederlandsk, kinesisk, japansk, koreansk og arabisk. En tekstinstruktion kan derfor spørge til et billede eller kombinere et skriftligt krav med synligt bevismateriale, mens svaret returneres som tekst.

En visuel opgave kan give en dokumentside og bede om de værdier, der er relevante for en navngiven betingelse. Hold etiketter og enheder læsbare, og angiv, om resultatet skal bevare den oprindelige ordlyd, sammenfatte den eller sammenligne den med en anden kilde. En grænsefladeopgave kan kombinere et skærmbillede med brugerens mål og bede om det relevante synlige kontrolelement og bevismaterialet bag et foreslået næste skridt.

Valg af instruktions- eller ræsonnementstilstand

Det udgivne modelkort dokumenterer ræsonnementsindsatsen none til et øjeblikkeligt instruktionsbaseret svar og high til ræsonnement, hvor high anbefales til komplekse prompter. Valget foretages pr. anmodning inden for samme Small 4-model. En almindelig klassifikation eller kort omskrivning kan have en anden svarkontrakt end et matematisk, visuelt eller kodemæssigt problem, der kræver en udfoldet forklaring.

Producenten anbefaler temperature 0.7 ved høj ræsonnementsindsats. Til none angives temperaturer mellem 0,0 og 0,7 afhængigt af opgaven. Indstillingerne beskriver de dokumenterede tilstande og gør ikke ræsonnementsindsats til en garanti for et korrekt resultat. Definer antagelserne, outputformen og det relevante kildemateriale, før du vælger, hvor meget ræsonnement opgaven kræver.

Til et gennemregnet problem skal du give den fulde betingelse og bede om de vigtige, begrundede trin efterfulgt af slutudtrykket. Til en kodeopgave skal du give kravet, den berørte funktion og et konkret input; bed om den foreslåede implementering adskilt fra forklaringen og eksemplerne. Producentens brugsdemonstrationer omfatter instruktionsefterlevelse, et beregningsværktøj anvendt på et billede og visuelt ræsonnement og illustrerer dermed, hvordan tekst og visuelt bevismateriale kan indgå i disse forskellige opgaver.

Kodning, dokumenter og værktøjer

Modellen er rettet mod udforskning af kodebaser og softwareudviklingsagenter, generelle assistenter, dokumentforståelse og research. En kodeagentanmodning kan navngive modulet, der skal ændres, grænsefladen, der skal bevares, og den ønskede adfærd. Giv den relevante kildekode og dokumentation for fejlen. Modellen kan foreslå den næste operation eller en kodeændring, mens applikationen leverer adgang til kodebasen, eksekvering og feedback.

Til dokumentudtrækning skal du identificere de krævede felter og repræsentationen af manglende oplysninger. En nyttig post kan adskille dokumentidentifikatoren, kildeudsagnet, det fortolkede krav og det uafklarede spørgsmål. Producentens tjenestekort angiver brugerdefineret struktureret output og besvarelse af dokumentspørgsmål; sidstnævnte bruger dokumentbehandling og OCR til at klargøre tekst og struktur før sprogmodelanalysen. Et direkte billedspørgsmål og en OCR-assisteret dokumentarbejdsgang bør bevare deres egne inputforberedelser.

Funktionskald kræver tydeligt beskrevne værktøjer. Modellen vælger en funktion og opretter argumenter; applikationen udfører operationen og returnerer resultatet til det efterfølgende svar. Samme logik gælder, uanset om opgaven er et opslag, en beregning eller en kodeoperation. JSON-formatering organiserer et svar, mens et værktøjskald beder om en ekstern handling; de to bør ikke behandles som udskiftelige resultater.

Tjenestekortet angiver også forudsagte output, svarpræfikser, batchbehandling og agentsamtaler. Forudsagte output er nyttige, når et dokument eller en kodefil skal genskabes med kun en begrænset ændring, og resten af indholdet kendes. Angiv redigeringen og det materiale, der skal bevares. Præfiksfortsættelse bruger en kendt begyndelse på svaret, mens batchbehandling vedrører indsendelse af arbejde frem for en ekstra ræsonnementstilstand.

Kontekst og udgavegrænser

Planlæg den skriftlige opgave, det visuelle materiale, samtalen og det ønskede svar omkring den dokumenterede kontekst på 256k. Det udgivne brugseksempel konfigurerer en kontekst på 262.144 tokens, mens genereringseksemplet på 1.024 tokens ikke er en særskilt maksimal outputkapacitet. De læste kilder angiver ikke en selvstændig fast svarlængdegrænse, der kan erstatte den valgte opgavelængde.

Small 4 har sin egen mixture-of-experts-arkitektur med 119 milliarder parametre og hybride tilstande. Den bør ikke arve Medium 3.5's tætte arkitektur med 128 milliarder parametre eller Ministral 3's separate Instruct- og Reasoning-udgaver. Producenten udgiver også særskilte kvantiserede artefakter og artefakter til spekulativ afkodning; det er separate udrulningsartefakter frem for forskellige indholdsmodaliteter. Bevar den navngivne Small 4-udgivelse og den tilstand, der ønskes til den faktiske forklaring, strukturerede post eller det faktiske koderesultat.