Mistral: Ministral 3 8B 2512 (batch)

Ministral 3 8B Instruct 2512 er den mellomstore instruksjonstilpassede modellen i Mistral AIs Ministral 3-familie. Det utgitte modellkontrollpunktet er ettertrent for chat- og instruksjonsoppgaver med FP8-presisjon. Den kombinerer en språkkomponent med en visuell koder, tar imot tekst og bilder og returnerer tekst fremfor et bilde- eller lydartefakt.

Arkitektur og hovedfunksjoner

Produsenten oppgir en språkmodell med 8,4 milliarder parametere og en visuell koder med 0,4 milliarder parametere. Kontekstvinduet beskrives som 256k, og de publiserte bruksmerknadene bruker en standard konfigurert lengde på 262 144. Dette beskriver denne 8B-utgaven; det mindre 3B- og det større 14B-familiemedlemmet beholder sine egne komponentstørrelser og konfigurasjoner.

Syn utvider modellens inndata utover en skriftlig samtale. Et dokumentbilde kan kombineres med et spørsmål om et valgt felt, avsnitt eller synlig forhold. Et skjermbilde kan kombineres med brukerens mål og en forespørsel om å identifisere den relevante kontrollen. Be om observasjonen som underbygger hver konklusjon når svaret avhenger av visuelle detaljer, og bevar overskrifter, etiketter og enheter som trengs for å tolke et utsnitt.

Modellkortet beskriver flerspråklig arbeid på flere titalls språk, blant annet engelsk, fransk, spansk, tysk, italiensk, portugisisk, nederlandsk, kinesisk, japansk, koreansk og arabisk. Det identifiserer også etterlevelse av systeminstruksjoner, innebygde funksjonskall og JSON-utdata. Definer målspråket, rollen og utdatakravene eksplisitt fremfor å overlate til modellen å utlede det tiltenkte artefaktet fra store inndata.

Dokument-, samtale- og agentoppgaver

Produsentens bruksområder omfatter chatgrensesnitt, hverdagsassistenter, bilde- og dokumentbeskrivelse, oversettelse, innholdsgenerering og spesialiserte agenter. For en dokumentassistent gir du siden og angir informasjonen som skal returneres. En uttrekksforespørsel kan navngi feltetikettene, forventede typer og behandlingen av manglende verdier. Et nyttig svar kan inneholde dokumentidentifikatoren, den uttrukne verdien og en kort forklaring knyttet til den synlige kilden.

For en pågående samtale beholder du det relevante tidligere svaret og stiller et målrettet oppfølgingsspørsmål. En bruker kan først be om et dokumentsammendrag og deretter spørre hvilket utsagn som underbygger én konklusjon. Dette endrer de påkrevde utdataene fra en generell oversikt til en kildeknyttet forklaring, mens originalmaterialet og formålet med dialogen beholdes.

For flerspråklig redigering gir du originalutdraget, den tiltenkte leseren og en terminologiliste. Be om en revidert versjon som bevarer navn, betingelser og enheter, etterfulgt av en kort forklaring av endringene hvis det er nyttig. For innholdsgenerering angir du målgruppen og faktaene som skal inngå, før du ber om et kort utkast eller alternative formuleringer.

I en agentoppgave stiller applikasjonen verktøyene og parameterne deres til rådighet. Modellen kan velge en funksjon og forberede argumentene, mens applikasjonen utfører den og returnerer resultatet. Funksjonseksemplet i modellkortet kombinerer et bildespørsmål med et beregningsverktøy. Hold verktøyresultatet atskilt fra det foreslåtte kallet slik at det påfølgende skriftlige svaret bruker informasjonen som faktisk ble returnert av operasjonen.

Anbefalt forberedelse og innstillinger

Produsenten anbefaler en systeminstruksjon som beskriver miljøet, bruksområdet og hvordan verktøy skal brukes. Hold verktøysettet godt definert og begrenset til det som minst trengs for oppgaven. En liten oppslagsflyt kan tilby funksjonene som er relevante for det aktuelle spørsmålet, med tydelig navngitte påkrevde argumenter, i stedet for å presentere en stor samling uvedkommende operasjoner.

For daglig bruk og bruk i produksjonslignende miljøer anbefaler modellkortet en temperatur under 0.1, mens høyere temperaturer er tilgjengelige for kreativ utforsking. Behandle dette som en anbefaling for instruksjonsflyten, ikke en separat kontroll av resonneringsmodus. Familien har forskjellige Base-, Instruct- og Reasoning-kontrollpunkter; denne oppføringen gjelder Instruct 2512-utgaven, ikke den separate Reasoning-utgivelsen i samme størrelse.

For bilder anbefaler produsenten sideforhold nær 1:1 og å unngå svært smale eller brede inndata. Beskjær ved behov, samtidig som du beholder etikettene og konteksten spørsmålet krever. Hvis en side inneholder flere uvedkommende områder, identifiserer du delen som skal undersøkes og resultatet som skal returneres. Et lesbart, målrettet bilde er mer nyttig enn å be modellen gjette hvilken liten detalj på en omfattende side som er viktig.

Avgrensning av kontekst og utgave

Planlegg teksten, bildene, samtalen og ønsket svar ut fra den konfigurerte konteksten. Bruksmerknadene tillater uttrykkelig å redusere den konfigurerte modellengden når mindre kontekst trengs, så hele vinduet er ikke en instruksjon om å fylle hver forespørsel med alt tilgjengelig materiale. Genereringseksemplet med 512 tokener i modellkortet er bare en eksempelinnstilling, og de leste kildene fastslår ikke en separat absolutt maksimal svarlengde.

FP8 Instruct-kontrollpunktet, den forhåndstrente Base-utgivelsen og Reasoning-utgivelsen er separate utgaver. Produsenten beskriver også spesialisering og finjustering som bruksområder. Bevar det navngitte modellkontrollpunktet og tokenizeren når du forbereder samtalen, og hold tekstgenerering atskilt fra tilgang til kodearkiver, funksjonsutførelse eller andre handlinger som den omkringliggende applikasjonen stiller til rådighet.