Jared Palmer: Kev 4B

Kev-4B er en kompakt beslutningsmodel til at besvare typede spørgsmål om en indsendt tilstand. Tilstanden er det dokument eller den post, der vurderes, og hvert spørgsmål definerer de svarmuligheder, modellen kan score. Resultatet er en sandsynlighedsfordeling og en typet beslutningsregistrering, hvilket gør modellen nyttig til dokumentklassifikation, routing, triage, valg ved udtræk og kontroller ud fra angivne kriterier.

Modellen kombinerer en frossen Qwen3.5-4B-Base-grundmodel med en LoRA-adapter og et pointer-hoved. Grundmodellen har 32 lag, bestående af 24 Gated DeltaNet-lag og otte full-attention-lag. Adapteren er rettet mod attention-, MLP- og DeltaNet-projektioner; pointer-hovedet scorer de indsendte svarmuligheder og omdanner scorerne til sandsynligheder. Dette er en beslutningsarbejdsgang, som kun udfører prefill, hvor svarmulighederne udgør svarrummet.

Tre spørgsmålstyper kan forekomme i samme anmodning. Et choice-spørgsmål accepterer 1–255 navngivne svarmuligheder, eventuelt med beskrivelser, og returnerer den mest sandsynlige mulighed, en separat konfidensværdi og sandsynligheder for mulighederne. Et ja/nej-spørgsmål, kaldet noul i producentens format, returnerer sandsynligheden for ja. Definér betydningen af ja i spørgsmålet frem for at antage, at et højt tal altid betyder et positivt udfald for applikationen.

Et ordnet score-spørgsmål accepterer 1–255 niveauer og returnerer sandsynligheder for niveauerne og deres forventede indeks. Niveauindeks begynder ved nul. Producentens resultatformat indeholder også niveauernes tegnforklaring og en separat konfidensværdi. Et forventet indeks kan have decimaler: Det sammenfatter fordelingen over dine ordnede niveauer frem for at vælge en ny tekstetiket. Gem niveaurækkefølgen og tegnforklaringen sammen med resultatet, så en vurdering kan fortolkes konsekvent.

Spørgsmålene deler samme tilstand, men vurderes uafhængigt. Ét spørgsmål kan ikke læse et andet spørgsmåls svar, og tilstanden beregnes én gang og genbruges. Hvis en senere beslutning afhænger af resultatet fra en tidligere beslutning, skal afhængigheden gøres eksplicit i en efterfølgende tilstand frem for at forvente, at spørgsmålene i én anmodning danner en kæde. Det gør arbejdsgangen med fælles tilstand egnet til flere uafhængige kontroller af samme dokument.

Forbered tilstanden med den evidens, spørgsmålene faktisk kræver. Den kan være almindelig tekst eller et JSON-objekt eller -array gengivet som mærket tekst. Hold feltnavne, enheder, regelbetingelser og relevante kildepassager tydelige. Skriv en konkret instruktion til hvert spørgsmål, og giv dets svarmuligheder betydninger, der kan skelnes ud fra posten. Ved en selvstændig supportroutingopgave kan tilstanden indeholde anmodningen og dens kontekst, mens svarmulighederne definerer kategorier for levering, adgang og produktsupport med korte beskrivelser.

Et andet spørgsmål kan vurdere hast, og et ordnet spørgsmål kan vurdere, hvor meget opfølgning anmodningen kræver. Disse besvarer forskellige operationelle spørgsmål, så definér dem hver for sig. Medtag en passende mulighed for gennemgang eller manglende evidens, når valgopgaven har brug for det, og bevar hele fordelingen, når flere kategorier er plausible. Applikationen afgør, hvordan et resultat routes eller gennemgås; modellen leverer den scorede registrering.

Kev-4B er beregnet til typede beslutninger over dokumenter på nogle få tusinde tokens. Producentens serveringsprofil accepterer tilstande på op til 65.536 tokens og reserverer yderligere plads til hvert spørgsmål, mens den validerede kontekstlængde for dette checkpoint er 8192 tokens. Det er forskellige grænser: At acceptere en længere tilstand fastslår ikke lige pålidelige beslutninger ved enhver længde. Hold afgørende passager kompakte, og bevar deres etiketter, når du forbereder en lang post til klassifikation.

Den udgivne profil er engelsksproget. Dens nyttige opgaver afhænger af evidens i den indsendte tilstand og de definerede svarmuligheder frem for åben chat, opsummering eller brede vidensbaserede svar. Datoberegning på dagsniveau er en særlig begrænsning: Producenten leverer en separat forbehandler til datofakta, som angiver beregnede intervaller. Ved en fristkontrol skal relevante datoer og beregnede dagintervaller medtages i tilstanden sammen med den regel, der bruger dem.

Checkpointet leveres med tilpasset sandsynlighedskalibrering, men konfidens kan ændre sig med dokumentdomæne og spørgsmålsdesign. Producenten dokumenterer også finjustering af det åbne checkpoint på opgavespecifikke etiketter og tilpasning af sandsynlighedskalibreringen til de pågældende opgaver; det er en separat tilpasningsarbejdsgang i forhold til scoring af en indsendt tilstand. Vælg beslutningstærskler med mærkede eksempler på de faktiske opgaver, og hold usikre tilfælde synlige til gennemgang. Producenten udelukker fuldautomatiske beslutninger med væsentlige konsekvenser for mennesker uden menneskelig gennemgang. Svarmulighedernes rækkefølge kan også påvirke et svar, så bevar en stabil rækkefølge ved sammenligning af resultater. Vurdér den valgte etiket, det separate konfidensfelt og sandsynlighedsfordelingen ud fra den rolle, de hver især spiller i arbejdsgangen.

Den aktuelle Kev-4B-udgivelse beskrevet af producenten tilhører Kev 1.0 og bruger Qwen3.5-grundmodellen. Tidligere Qwen3-baserede udgivelser og udgivelser begrænset til dokumentstadiet er fortsat særskilte versioner. Hold den valgte udgave og spørgsmålsdefinitionerne knyttet til outputtene ved udvikling af en opgavespecifik arbejdsgang frem for at blande resultater fra forskellige profiler.

Et nyttigt endeligt resultat er et navngivet sæt beslutningsregistreringer med de oprindelige spørgsmål, svarmulighedernes definitioner, fordelinger og eventuelle tegnforklaringer til ordnede niveauer. Ved en kontrol af svarkvalitet bør tilstanden indeholde svarforslaget, evidensen og det kriterium, der testes. Ved regeltriage bør den indeholde den gældende regel og relevante fakta. Bevar inputtet ved siden af resultatet, så en gennemgang kan fastslå, hvorfor en beslutning var passende, eller hvilket manglende forhold der skal tilføjes.