Jared Palmer: Kev 4B

Kev-4B är en kompakt beslutsmodell för att besvara typade frågor om ett angivet tillstånd. Tillståndet är det dokument eller den post som bedöms, och varje fråga definierar de alternativ som modellen kan poängsätta. Resultatet är en sannolikhetsfördelning och en typad beslutspost, vilket gör modellen användbar för dokumentklassificering, routning, triagering, val vid extraktion och kontroller mot angivna kriterier.

Modellen kombinerar en fryst Qwen3.5-4B-Base-ryggrad med en LoRA-adapter och ett pekarhuvud. Ryggraden har 32 lager, varav 24 Gated DeltaNet-lager och åtta lager med full attention. Adaptern riktar sig mot attention-, MLP- och DeltaNet-projektioner; pekarhuvudet poängsätter de angivna alternativen och omvandlar poängen till sannolikheter. Detta är ett beslutsflöde som enbart består av prefill-steget, där alternativen utgör svarsrummet.

Tre frågetyper kan förekomma i samma begäran. En valfråga accepterar 1–255 namngivna alternativ, valfritt med beskrivningar, och returnerar det mest sannolika alternativet, ett separat konfidensvärde och sannolikheter för alternativen. En ja/nej-fråga, som kallas noul i tillverkarens format, returnerar sannolikheten för ja. Definiera vad ja betyder i frågan i stället för att anta att ett högt tal alltid innebär ett positivt utfall för applikationen.

En fråga med ordnad poäng accepterar 1–255 nivåer och returnerar sannolikheter för nivåerna och deras förväntade index. Nivåindexen börjar på noll. Tillverkarens resultatformat innehåller också nivåförklaringen och ett separat konfidensvärde. Ett förväntat index kan vara ett decimaltal: det sammanfattar fördelningen över dina ordnade nivåer i stället för att välja en ny textetikett. Behåll nivåordningen och förklaringen tillsammans med resultatet så att ett betyg kan tolkas konsekvent.

Frågorna delar samma tillstånd men utvärderas oberoende av varandra. En fråga kan inte läsa en annan frågas svar, och tillståndet beräknas en gång och återanvänds. Om ett senare beslut beror på ett resultat från ett tidigare beslut, gör det beroendet explicit i ett efterföljande tillstånd i stället för att förvänta dig att frågorna i en begäran bildar en kedja. Det gör flödet med gemensamt tillstånd lämpligt för flera oberoende kontroller av samma dokument.

Förbered tillståndet med det underlag som frågorna faktiskt kräver. Det kan vara vanlig text eller ett JSON-objekt eller en JSON-array som återges som märkt text. Håll fältnamn, enheter, policyvillkor och relevanta källavsnitt tydliga. Skriv en specifik instruktion för varje fråga och ge dess alternativ betydelser som går att särskilja utifrån posten. I ett eget exempel på supportroutning kan tillståndet innehålla förfrågan och dess kontext, medan valen definierar kategorierna leverans, åtkomst och produktsupport med korta beskrivningar.

En andra fråga kan bedöma brådska, och en ordnad fråga kan betygsätta hur mycket uppföljning förfrågan kräver. De besvarar olika operativa frågor, så definiera var och en för sig. Ta med ett lämpligt alternativ för granskning eller saknat underlag när valuppgiften behöver det, och behåll hela fördelningen när flera kategorier är rimliga. Applikationen avgör hur ett resultat ska routas eller granskas; modellen levererar den poängsatta posten.

Kev-4B är avsedd för typade beslut över dokument på några tusen token. Tillverkarens driftprofil accepterar tillstånd på upp till 65 536 token och reserverar ytterligare utrymme för varje fråga, medan den validerade kontextlängden för denna checkpoint är 8192 token. Det är olika gränser: att ett längre tillstånd accepteras innebär inte lika tillförlitliga beslut vid varje längd. Håll avgörande avsnitt kompakta och bevara deras etiketter när du förbereder en lång post för klassificering.

Den släppta profilen är engelskspråkig. Dess användbara uppgifter bygger på underlaget i det angivna tillståndet och på de definierade alternativen, snarare än på öppen chatt, sammanfattning eller breda kunskapsbaserade svar. Datumaritmetik på dagsnivå är en särskild begränsning: tillverkaren tillhandahåller en separat förprocessor för datumfakta som anger beräknade intervall. För en kontroll av tidsfrister tar du med de relevanta datumen och beräknade dagintervall i tillståndet, tillsammans med regeln som använder dem.

Checkpointen levereras med anpassad sannolikhetskalibrering, men konfidensen kan förändras med dokumentdomänen och frågeutformningen. Tillverkaren dokumenterar också finjustering av den öppna checkpointen på uppgiftsspecifika etiketter och anpassning av dess sannolikhetskalibrering till den arbetslasten; detta är ett separat anpassningsflöde, skilt från poängsättning av ett angivet tillstånd. Välj beslutströsklar med hjälp av märkta exempel från den faktiska arbetslasten och håll osäkra fall synliga för granskning. Tillverkaren utesluter helt automatiserade beslut med betydande konsekvenser för människor utan mänsklig granskning. Alternativens ordning kan också påverka ett svar, så behåll en stabil ordning när du jämför resultat. Bedöm den valda etiketten, det separata konfidensfältet och sannolikhetsfördelningen utifrån den roll var och en spelar i ditt arbetsflöde.

Den aktuella Kev-4B-versionen som tillverkaren beskriver tillhör Kev 1.0 och använder Qwen3.5-basen. Tidigare Qwen3-baserade versioner och versioner som enbart omfattar dokumentsteget är fortfarande separata versioner. Håll den valda utgåvan och frågedefinitionerna kopplade till utdatan när du utvecklar ett uppgiftsspecifikt arbetsflöde, i stället för att blanda resultat från olika profiler.

En användbar slutlig artefakt är en namngiven uppsättning beslutsposter med de ursprungliga frågorna, alternativens definitioner, fördelningarna och eventuella förklaringar för ordnade nivåer. För en kontroll av svarskvalitet ska tillståndet innehålla det föreslagna svaret, underlaget och det kriterium som testas. För policytriagering ska det innehålla den tillämpliga regeln och relevanta fakta. Bevara den indatan bredvid resultatet så att en granskning kan fastställa varför ett beslut var lämpligt eller vilket saknat faktum som behöver tillföras.