Perplexity: Decider V1.1 27B

Decider V1.1 27B er Perplexitys oppdaterte beslutningssjekkpunkt. Det vurderer oppgitt innhold opp mot et definert spørsmål og gir sannsynligheter over de gyldige svarene. Den opprinnelige modellfilen har en beslutningsutlesning i stedet for et språkgenereringshode over hele vokabularet. Det nyttige resultatet er en avgrenset beslutningsfordeling og det tolkede svaret, ikke en åpen forklaring eller et generelt chattesvar.

Hva som endres i utgave V1.1

Perplexity beskriver denne modellen som en oppdatering av Decider V1 27B som beholder den samme ryggraden, med endringer i oppmerksomhetsoppsettet og mer treningsdata. Ryggraden er Qwen3.8-27B. Utgave V1.1 skal beholde sitt eget navn og sin egen konfigurasjon og ikke beskrives som en utskiftbar kopi av det tidligere sjekkpunktet.

Tilstand, spørsmål og gyldige svar

Det publiserte eksempelet oppgir en rad som inneholder en tilstand og et typet valgspørsmål. Spørsmålet inneholder instruksjoner og kriterier der nøklene er de semantiske svarene og beskrivelsene definerer når hvert av dem gjelder. Modellen predikerer sannsynligheter, og deretter tolker produsentens svarhjelpefunksjon disse sannsynlighetene for spørsmålet. Inferenseksempelet kan behandle en liste med rader, med én beslutning knyttet til hver rads grunnlag og spørsmål.

For ruting av henvendelser oppgir du den faktiske meldingen og relevant kontekst, og definerer deretter de tilgjengelige avdelingene eller kategoriene. En illustrerende oppgave kan skille mellom en integrasjonsfeil, et tilgangsproblem og en forespørsel om produktinformasjon. Gjør hver beskrivelse presis nok til å avgjøre et grensetilfelle, og behold definisjonene av alternativene sammen med resultatet. En kategorifordeling kan da støtte en rutingsbeslutning eller et gjennomgangstrinn når alternativene ligger tett. Resultatet modellen velger, utfører ikke i seg selv handlingen i arbeidsflyten.

Tekst og bilder som grunnlag

Den opprinnelige implementasjonen tar imot bilder sammen med tilstanden og spørsmålet, som bildefiler, bilder i minnet eller kodede bildedata. For et dokumentbilde eller et skjermbilde oppgir du det visuelle grunnlaget og stiller et lukket spørsmål der alternativene beskriver de relevante utfallene. Angi hvilket synlig trekk som har betydning, og gi tekstkonteksten som trengs for å tolke det. Klassifiser for eksempel om en avbildet vare hører til en av de oppgitte produktkategoriene, i stedet for å be beslutningsmodellen skrive en fullstendig produktbeskrivelse.

Prosessoren bevarer sideforholdet ved skalering og runder bildesidene av til multipler av 32 piksler. Det dokumenterte behandlede arealet starter på 65 536 piksler og er begrenset av et konfigurerbart maksimum; standardverdien er 4 194 304 piksler, altså 2048 ganger 2048. Hver flis på 32 ganger 32 gir ett visuelt token, så standardverdien tillater opptil 4 096 visuelle tokener per bilde. Disse tallene beskriver produsentens opprinnelige bildeforberedelse, ikke en generell opplastingskontrakt for applikasjoner.

Samlede inndatagrenser og oppløsningsomfang

Det dokumenterte forberedelsestrinnet krever at teksten og alle bildene i én beslutning får plass innenfor 8 192 tokener. For store inndata avvises i stedet for å bli stilltiende avkortet. Flere bilder deler dette budsjettet med den skrevne tilstanden og spørsmålet. Reduser irrelevant kildetekst eller grensen for bildestørrelse når du forbereder en samlet beslutning, men behold detaljene som avgjør svaret.

Oppsettet for trening og den rapporterte evalueringen begrenset bildene til 512 ganger 512, som tilsvarer 262 144 piksler og opptil 256 visuelle tokener. Den konfigurerbare grensen ved inferens kan bevare flere detaljer, men modellkortet advarer om at høyere oppløsning ligger utenfor denne treningsfordelingen og bruker mer minne og behandlingstid. En større bildeinnstilling er derfor ingen garanti for en bedre beslutning. Hold forberedelsen av inndata i samsvar med spørsmålet, og kontroller om det nødvendige visuelle trekket er tydelig representert.

Oppmerksomhet, utlesning og sannsynlighetskalibrering

Lagene med full oppmerksomhet i det opprinnelige sjekkpunktet bruker en lagret ikke-kausal oppmerksomhetsmodus, mens lagene med lineær oppmerksomhet beholder sin egen virkemåte. Produsenten opplyser at standard kausal inferens ikke gjengir det evaluerte oppsettet. Prediksjonsimplementasjonen bruker den lagrede kalibreringstemperaturen; hvis logits brukes direkte, anvendes temperaturen én gang, og sannsynlighetene normaliseres over de gjeldende gyldige kandidatene. Disse detaljene hører til den eksakte beslutningsprofilen og bør bevares når de numeriske utdataene tolkes.

Den separate beslutningsutlesningen skiller også denne modellfilen fra en generativ eksport. En konvertering til et vokabularbasert genereringsgrensesnitt krever en eksplisitt kobling og må bevare oppmerksomhetsatferden. Forbered lukkede spørsmål for den opprinnelige beslutningsprofilen; bruk en egnet genereringsmodell når oppgaven krever chat, kode, forklaringer eller verktøyforespørsler.

Et nyttig sluttresultat holder tilstanden, spørsmålet, de tillatte svarene og den resulterende fordelingen knyttet sammen. Definer spørsmålet ut fra grunnlag som faktisk finnes, gjennomgå tvetydige tilfeller mot dette grunnlaget, og bruk merkede eksempler fra den tiltenkte oppgaven til å avgjøre hvordan numeriske utdata skal påvirke ruting eller klassifisering. Modellen leverer beslutningssannsynligheter; kriteriene og den omkringliggende applikasjonen avgjør hvordan disse sannsynlighetene blir en nyttig handling eller en registrert etikett.