Jared Palmer: Kev 4B

Kev-4B er en kompakt beslutningsmodell for å besvare typede spørsmål om en oppgitt tilstand. Tilstanden er dokumentet eller posten som vurderes, og hvert spørsmål definerer alternativene modellen kan skåre. Resultatet er en sannsynlighetsfordeling og en typet beslutningspost, noe som gjør modellen nyttig for dokumentklassifisering, ruting, triagering, valg ved uttrekk og kontroller mot angitte kriterier.

Modellen kombinerer en fryst Qwen3.5-4B-Base-ryggrad med en LoRA-adapter og et pekerhode. Ryggraden har 32 lag, bestående av 24 Gated DeltaNet-lag og åtte lag med full oppmerksomhet. Adapteren retter seg mot oppmerksomhets-, MLP- og DeltaNet-projeksjoner; pekerhodet skårer de oppgitte alternativene og gjør skårene om til sannsynligheter. Dette er en beslutningsflyt som bare kjører forhåndsutfyllingen (prefill), der alternativene utgjør svarrommet.

Tre spørsmålstyper kan forekomme i samme forespørsel. Et valgspørsmål tar imot 1–255 navngitte alternativer, eventuelt med beskrivelser, og returnerer det mest sannsynlige alternativet, en separat konfidensverdi og sannsynligheter for alternativene. Et ja/nei-spørsmål, kalt noul i produsentens format, returnerer sannsynligheten for ja. Definer hva ja betyr i spørsmålet, i stedet for å anta at et høyt tall alltid betyr et positivt utfall for applikasjonen.

Et spørsmål med ordnet skår tar imot 1–255 nivåer og returnerer sannsynligheter for nivåene og deres forventede indeks. Nivåindeksene starter på null. Produsentens resultatformat inneholder også nivåforklaringen og en separat konfidensverdi. En forventet indeks kan være ikke-heltallig: den oppsummerer fordelingen over de ordnede nivåene dine i stedet for å velge en ny tekstetikett. Behold nivårekkefølgen og forklaringen sammen med resultatet, slik at en vurdering kan tolkes konsekvent.

Spørsmålene deler den samme tilstanden, men vurderes uavhengig av hverandre. Ett spørsmål kan ikke lese et annet spørsmåls svar, og tilstanden beregnes én gang og brukes på nytt. Hvis en senere beslutning avhenger av resultatet fra en tidligere beslutning, gjør du denne avhengigheten eksplisitt i en påfølgende tilstand i stedet for å forvente at spørsmålene i én forespørsel danner en kjede. Dette gjør flyten med felles tilstand egnet for flere uavhengige kontroller av det samme dokumentet.

Forbered tilstanden med grunnlaget spørsmålene faktisk krever. Den kan være ren tekst eller et JSON-objekt eller en JSON-matrise gjengitt som merket tekst. Hold feltnavn, enheter, vilkår i retningslinjer og de relevante kildeavsnittene tydelige. Skriv en spesifikk instruksjon for hvert spørsmål, og gi alternativene betydninger som kan skilles fra hverandre ut fra posten. For en egenutviklet oppgave med ruting av supporthenvendelser kan tilstanden inneholde henvendelsen og konteksten, mens valgene definerer kategorier for levering, tilgang og produktstøtte med korte beskrivelser.

Et annet spørsmål kan vurdere hastegrad, og et ordnet spørsmål kan angi hvor mye oppfølging henvendelsen trenger. Disse besvarer ulike operative spørsmål, så definer hvert av dem separat. Ta med et passende alternativ for gjennomgang eller manglende grunnlag når valgoppgaven trenger det, og behold hele fordelingen når flere kategorier er plausible. Applikasjonen avgjør hvordan et resultat skal rutes eller gjennomgås; modellen leverer den skårede posten.

Kev-4B er beregnet på typede beslutninger over dokumenter på noen få tusen tokener. Produsentens driftsprofil tar imot tilstander på opptil 65 536 tokener og reserverer ekstra plass til hvert spørsmål, mens den validerte kontekstlengden for dette sjekkpunktet er 8192 tokener. Dette er ulike grenser: at en lengre tilstand godtas, viser ikke at beslutningene er like pålitelige ved alle lengder. Hold avgjørende avsnitt kompakte og bevar etikettene deres når du forbereder en lang post for klassifisering.

Den utgitte profilen er engelskspråklig. De nyttige oppgavene avhenger av grunnlaget i den oppgitte tilstanden og av de definerte alternativene, ikke av åpen chat, oppsummering eller bred kunnskapsbasert besvarelse. Datoregning på dagsnivå er en særskilt begrensning: produsenten leverer en egen forbehandler for datofakta som oppgir beregnede intervaller. For en fristkontroll tar du med de relevante datoene og de beregnede dagintervallene i tilstanden, sammen med regelen som bruker dem.

Sjekkpunktet leveres med tilpasset sannsynlighetskalibrering, men konfidensen kan endre seg med dokumentdomenet og utformingen av spørsmålene. Produsenten dokumenterer også finjustering av det åpne sjekkpunktet på oppgavespesifikke etiketter og tilpasning av sannsynlighetskalibreringen til den aktuelle arbeidsmengden; dette er en egen tilpasningsflyt, atskilt fra skåring av en oppgitt tilstand. Velg beslutningsterskler ved hjelp av merkede eksempler fra den faktiske arbeidsmengden, og hold usikre tilfeller synlige for gjennomgang. Produsenten utelukker helautomatiserte, konsekvensfulle beslutninger om mennesker uten menneskelig gjennomgang. Rekkefølgen på alternativene kan også påvirke et svar, så behold en stabil rekkefølge når du sammenligner resultater. Vurder den valgte etiketten, det separate konfidensfeltet og sannsynlighetsfordelingen ut fra rollen hver av dem har i arbeidsflyten din.

Den gjeldende Kev-4B-utgivelsen som produsenten beskriver, tilhører Kev 1.0 og bruker Qwen3.5-basen. Tidligere utgivelser basert på Qwen3 og utgivelser kun for dokumentstadiet er fortsatt egne versjoner. Hold den valgte utgaven og spørsmålsdefinisjonene knyttet til utdataene når du utvikler en oppgavespesifikk arbeidsflyt, i stedet for å blande resultater fra ulike profiler.

Et nyttig sluttresultat er et navngitt sett med beslutningsposter med de opprinnelige spørsmålene, definisjonene av alternativene, fordelingene og eventuelle forklaringer til ordnede nivåer. For en kontroll av svarkvalitet bør tilstanden inneholde det foreslåtte svaret, grunnlaget og kriteriet som testes. For triagering etter retningslinjer bør den inneholde den gjeldende regelen og relevante fakta. Ta vare på disse inndataene ved siden av resultatet, slik at en gjennomgang kan fastslå hvorfor en beslutning var riktig, eller hvilket manglende faktum som må tilføres.