Mistral: Mistral Medium 3.5 (batch)

Mistral Medium 3.5 er Mistral AIs tette modell med 128 milliarder parametere som kombinerer instruksjonsfølging, resonnering og programmering i ett sett med vekter. Den mottar tekst og bilder og returnerer tekst. Produsenten posisjonerer den for agent- og programmeringsoppgaver, mens det samme modellkontrollpunktet kan gi et direkte samtalesvar eller bruke den dokumenterte resonneringsmodusen for en mer omfattende oppgave.

Samlet modell og visuelle funksjoner

Det utgitte modellkortet angir 128 milliarder tette parametere og et kontekstvindu på 256k. Den visuelle koderen er trent for å håndtere forskjellige bildestørrelser og sideforhold. Bilder kan bidra med bevis til en programmerings- eller dokumentoppgave: et skjermbilde av et grensesnitt, et diagram som følger et krav, eller en side med informasjon modellen må tolke. Resultatet kan være en skriftlig forklaring, kode eller strukturerte felter fremfor et generert bilde.

Produsenten beskriver flerspråklig støtte for flere titalls språk, blant annet engelsk, fransk, spansk, tysk, italiensk, portugisisk, nederlandsk, kinesisk, japansk, koreansk og arabisk. Den fremhever også at modellen følger systeminstruksjoner, og innebygde funksjonskall med JSON-utdata. Angi målgruppen, språket og svarreglene separat fra materialet som undersøkes, slik at ordlyden i et kildedokument forblir bevisgrunnlag for oppgaven.

Resonneringsinnstillinger

Modellkortet dokumenterer to verdier for resonneringsinnsats per forespørsel. Verdien none gir et instruksjonsbasert svar uten resonneringsmodus; high aktiverer resonnering og anbefales for komplekse prompter og agentbasert programmering. Dette er et modusvalg innenfor samme Medium 3.5-kontrollpunkt, ikke en annen modellidentitet.

For høy resonneringsinnsats anbefaler produsenten temperatur 0.7 og top-p 0.95. For none dokumenterer den temperaturer mellom 0.0 og 0.7 avhengig av oppgaven, og lar top-p være udefinert eller satt til 1.0. Dette er anbefalinger for utgivelsen. Velg formålet med utdataene først: et kortfattet feltuttrekk, en kodeendring med forklaring eller en sammenligning som krever flere begrunnede beslutninger.

En praktisk resonneringsoppgave kan oppgi et krav, implementasjonen og inndataene som avdekker et avvik. Be modellen identifisere det relevante forløpet, forklare avviket og foreslå den minste endringen som bevarer det offentlige grensesnittet. Be om den reviderte koden separat fra antakelsene og eksemplene. Modellen genererer et forslag; kompilering, kjøring og bruk av det krever utviklingsmiljøet som er koblet til agenten.

Verktøy, dokumenter og forutsigbare redigeringer

Produsentens tjenestekort lister også strukturerte utdata, forhåndsangitte utdata, dokumentspørsmål, svarprefikser, satsvis behandling og agentsamtaler. For uttrekk definerer du feltnavn, typer og behandling av manglende verdier. JSON-modus gir en strukturert representasjon, mens et tilpasset skjema definerer en mer spesifikk form i det tilknyttede grensesnittet. Be bare om dataposten når et program skal tolke den, og om en separat forklaring når et menneske trenger å undersøke tolkningen.

Dokumentbasert spørsmålssvar kombinerer tekst og struktur klargjort med OCR med språkmodellforståelse. For en sammenligning identifiserer du dokumentene og betingelsen som skal vurderes, og ber deretter om hvert funn med kildeplasseringen. Nyttige utdata kan skille felles krav, uenigheter og åpne spørsmål. Direkte bildespørsmål kan fokusere på en diagrametikett eller et grensesnittelement; å bevare overskrifter, enheter og bilderoller bidrar til å holde svaret knyttet til det oppgitte materialet.

Forhåndsangitte utdata er dokumentert for oppgaver der mye av det ønskede svaret allerede er kjent, for eksempel ny generering av en kodefil eller et dokument med avgrensede redigeringer. Gi det eksisterende innholdet og identifiser den spesifikke endringen, samtidig som delene som skal beholdes, bevares. Dette skiller seg fra å be om et helt nytt artefakt eller fortsette fra et kjent svarprefiks. Tjenestefunksjonene beskriver alternativer for innsending og formatering; de endrer ikke modellens tekst- og bildeinndata eller tekstutdata.

I en verktøystøttet arbeidsflyt oppgir applikasjonen funksjonsbeskrivelser og parametere, modellen velger en funksjon og forbereder argumenter, og applikasjonen utfører den og returnerer resultatet. Et beregningsverktøy kan motta verdier lest fra et oppgitt bilde, mens et oppslagsverktøy kan gi den manglende informasjonen til neste svar. Hold verktøyresultatet knyttet til operasjonen som produserte det. Agentbasert resonnering avhenger av dette miljøet og ikke av at tekstgenerering alene utfører eksterne handlinger.

Forberedelse av lange økter

Bruk konteksten på 256k til relatert kildekode, dokumenter og samtalehistorikk, og hold det faktiske målet eksplisitt. En programmeringsøkt kan beholde modulen, koden som kaller den, og kravene mens du ber om én definert endring. En dokumentøkt kan holde de relevante avsnittene samlet og samtidig returnere en kort tabell eller et revidert utdrag. Kontekstkapasiteten angir ikke en separat maksimal svarlengde; modellkortets genereringseksempel med 1 024 tokener er en illustrasjon, ikke denne grensen.

Produsenten merker seg at en eldre utgitt konfigurasjon inneholdt en feil ved lang kontekst, og at den er rettet, inkludert betydningen for avledede modellkontrollpunkter. Bevar den korrigerte utgivelseskonfigurasjonen når vektene brukes i lange økter. Hybridmodusene og arkitekturen med 128 milliarder parametere i Medium 3.5 skal ikke tilskrives Medium 3.1 eller et separat navngitt draft-head-kontrollpunkt bare fordi navnene deler en familie.