Mistral: Mistral Medium 3.5 (batch)

Mistral Medium 3.5 er Mistral AI's tætte model med 128 milliarder parametre, der kombinerer instruktionsefterlevelse, ræsonnement og kodning i ét sæt vægte. Den modtager tekst og billeder og returnerer tekst. Producenten retter den mod agent- og kodeopgaver, mens samme checkpoint kan producere et direkte samtalesvar eller bruge sin dokumenterede ræsonnementstilstand til en mere omfattende opgave.

Samlet model og visuelle funktioner

Det udgivne modelkort angiver 128 milliarder tætte parametre og et kontekstvindue på 256k. Dens visuelle encoder er trænet til at håndtere forskellige billedstørrelser og billedformater. Billeder kan bidrage med bevismateriale til en kode- eller dokumentopgave: et skærmbillede af en grænseflade, et diagram, der ledsager et krav, eller en side med oplysninger, modellen skal fortolke. Resultatet kan være en skriftlig forklaring, kode eller strukturerede felter frem for et genereret billede.

Producenten beskriver flersproget understøttelse af snesevis af sprog, herunder engelsk, fransk, spansk, tysk, italiensk, portugisisk, nederlandsk, kinesisk, japansk, koreansk og arabisk. Den fremhæver også efterlevelse af systemprompter og indbygget funktionskald med JSON-output. Fastlæg målgruppe, sprog og svarregler adskilt fra det materiale, der undersøges, så kildedokumentets ordlyd forbliver bevismateriale til opgaven.

Ræsonnementsindstillinger

Modelkortet dokumenterer to værdier for ræsonnementsindsats pr. anmodning. Værdien none giver et instruktionsbaseret svar uden ræsonnementstilstand; high aktiverer ræsonnement og anbefales til komplekse prompter og agentbaseret kodning. Det er et valg af tilstand inden for samme Medium 3.5-checkpoint og ikke en anden modelidentitet.

Til høj ræsonnementsindsats anbefaler producenten temperature 0.7 og top-p 0.95. Til none dokumenteres temperaturer mellem 0,0 og 0,7 afhængigt af opgaven, mens top-p efterlades uden værdi eller sættes til 1.0. Det er anbefalinger for denne udgivelse. Vælg først formålet med outputtet: et kort feltudtræk, en kodeændring med forklaring eller en sammenligning, der kræver flere begrundede beslutninger.

En praktisk ræsonnementsopgave kan levere et krav, implementeringen og det input, der viser en afvigelse. Bed modellen identificere det relevante forløb, forklare uoverensstemmelsen og foreslå den mindste ændring, som bevarer den offentlige grænseflade. Bed om den reviderede kode adskilt fra antagelser og eksempler. Modellen genererer et forslag; kompilering, kørsel og anvendelse kræver det udviklingsmiljø, der er forbundet med agenten.

Værktøjer, dokumenter og forudsigelige ændringer

Producentens tjenestekort angiver også strukturerede output, forudsagte output, dokumentspørgsmål, svarpræfikser, batchbehandling og agentsamtaler. Til udtrækning skal du definere feltnavne, typer og behandlingen af manglende værdier. JSON-tilstand giver en struktureret repræsentation, mens et brugerdefineret skema definerer en mere præcis form i den tilsluttede grænseflade. Bed kun om posten, når et program skal parse den, og om en særskilt forklaring, når et menneske skal undersøge fortolkningen.

Besvarelse af dokumentspørgsmål kombinerer OCR-klargjort tekst og struktur med sprogmodellens forståelse. Til en sammenligning skal du identificere dokumenterne og den betingelse, der skal vurderes, og derefter bede om hvert fund med dets kildeplacering. Et nyttigt output kan adskille fælles krav, uenigheder og åbne spørgsmål. Direkte billedspørgsmål kan fokusere på en diagrametiket eller et grænsefladeelement; bevarelse af overskrifter, enheder og billedernes roller hjælper med at holde svaret knyttet til det givne materiale.

Forudsagte output er dokumenteret til opgaver, hvor meget af det ønskede svar allerede kendes, såsom genskabelse af en kodefil eller et dokument med begrænsede ændringer. Lever det eksisterende indhold, og identificer den konkrete ændring, mens de dele, der skal bestå, bevares. Det adskiller sig fra at bede om en helt ny artefakt eller fortsætte fra et kendt svarpræfiks. Tjenestefunktionerne beskriver muligheder for indsendelse og formatering; de ændrer ikke modellens tekst- og billedinput eller tekstoutput.

I en værktøjsassisteret arbejdsgang leverer applikationen funktionsbeskrivelser og parametre, modellen vælger en funktion og forbereder argumenter, og applikationen udfører den og returnerer resultatet. Et beregningsværktøj kan modtage værdier læst fra et givet billede, mens et opslagsværktøj kan levere de manglende oplysninger til næste svar. Hold værktøjsresultatet knyttet til den operation, der producerede det. Agentbaseret ræsonnement afhænger af dette miljø frem for af, at tekstgenerering alene udfører eksterne handlinger.

Forberedelse af lange sessioner

Brug konteksten på 256k til relateret kildekode, dokumenter og samtalehistorik, og hold det faktiske mål udtrykkeligt. En kodesession kan bevare modulet, dets kalder og kravene og samtidig bede om én defineret ændring. En dokumentsession kan holde de relevante afsnit samlet og returnere en kort tabel eller revideret passage. Kontekstkapaciteten angiver ikke en særskilt maksimal svarlængde; modelkortets genereringseksempel på 1.024 tokens er en illustration og ikke denne grænse.

Producenten bemærker, at en ældre udgivet konfiguration indeholdt en fejl ved lang kontekst, og at den er rettet, også med betydning for afledte checkpoints. Bevar den korrigerede udgivelseskonfiguration, når vægtene bruges til lange sessioner. Medium 3.5's hybride tilstande og arkitektur med 128 milliarder parametre bør ikke tillægges Medium 3.1 eller et særskilt navngivet draft-head-checkpoint alene på grund af det fælles familienavn.