Jared Palmer: Kev 4B

Kev-4B is een compact beslissingsmodel voor het beantwoorden van getypeerde vragen over een aangeleverde toestand. De toestand is het document of record dat wordt beoordeeld, en elke vraag definieert de opties die het model kan scoren. Het resultaat is een kansverdeling met een getypeerd beslissingsrecord, wat het model bruikbaar maakt voor documentclassificatie, routering, triage, extractiekeuzes en controles aan de hand van vastgelegde criteria.

Het model combineert een bevroren Qwen3.5-4B-Base-backbone met een LoRA-adapter en een pointer head. De backbone heeft 32 lagen, bestaande uit 24 Gated DeltaNet-lagen en acht full-attention-lagen. De adapter richt zich op de projecties van attention, MLP en DeltaNet; de pointer head scoort de aangeleverde opties en zet die scores om in kansen. Dit is een beslissingsworkflow die uitsluitend uit prefill bestaat, waarbij de opties de antwoordruimte vormen.

Drie vraagtypen kunnen in hetzelfde verzoek voorkomen. Een keuzevraag accepteert 1–255 benoemde opties, eventueel met beschrijvingen, en geeft de meest waarschijnlijke optie, een afzonderlijke betrouwbaarheidswaarde en kansen voor de opties terug. Een ja/nee-vraag, in het formaat van de maker noul genoemd, geeft de kans op ja terug. Definieer in de vraag wat ja betekent, in plaats van aan te nemen dat een hoog getal voor de applicatie altijd een positieve uitkomst betekent.

Een geordende scorevraag accepteert 1–255 niveaus en geeft kansen voor de niveaus en hun verwachte index terug. Niveau-indices beginnen bij nul. Het resultaatformaat van de maker bevat ook de niveaulegenda en een afzonderlijke betrouwbaarheidswaarde. Een verwachte index kan fractioneel zijn: deze vat de verdeling over je geordende niveaus samen in plaats van een nieuw tekstueel label te kiezen. Bewaar de volgorde van de niveaus en de legenda bij het resultaat, zodat een beoordeling consistent kan worden geïnterpreteerd.

Vragen delen dezelfde toestand maar worden onafhankelijk geëvalueerd. De ene vraag kan het antwoord van een andere vraag niet lezen, en de toestand wordt één keer berekend en hergebruikt. Als een latere beslissing afhangt van het resultaat van een eerdere beslissing, maak die afhankelijkheid dan expliciet in een volgende toestand, in plaats van te verwachten dat de vragen in één verzoek een keten vormen. Daardoor is de workflow met een gedeelde toestand geschikt voor meerdere onafhankelijke controles op hetzelfde document.

Bereid de toestand voor met het bewijs dat de vragen werkelijk nodig hebben. Dat kan platte tekst zijn of een JSON-object of -array dat als gelabelde tekst wordt weergegeven. Houd veldnamen, eenheden, beleidsvoorwaarden en de relevante bronpassages duidelijk. Schrijf voor elke vraag een specifieke instructie en geef de opties betekenissen die op basis van het record van elkaar te onderscheiden zijn. Bij een eigen voorbeeldtaak voor supportroutering kan de toestand het verzoek en de context ervan bevatten, terwijl de keuzes categorieën voor levering, toegang en productondersteuning met korte beschrijvingen definiëren.

Een tweede vraag kan de urgentie beoordelen, en een geordende vraag kan aangeven hoeveel opvolging het verzoek nodig heeft. Deze vragen beantwoorden verschillende operationele vragen, dus definieer ze afzonderlijk. Neem een geschikte optie voor review of ontbrekend bewijs op wanneer de keuzetaak die nodig heeft, en bewaar de volledige verdeling wanneer meerdere categorieën aannemelijk zijn. De applicatie beslist hoe een resultaat wordt gerouteerd of beoordeeld; het model levert het gescoorde record.

Kev-4B is bedoeld voor getypeerde beslissingen over documenten van enkele duizenden tokens. Het serveerprofiel van de maker accepteert toestanden tot 65.536 tokens en reserveert extra ruimte voor elke vraag, terwijl de gevalideerde contextlengte voor dit checkpoint 8192 tokens is. Dat zijn verschillende grenzen: dat een langere toestand wordt geaccepteerd, betekent niet dat beslissingen op elke lengte even betrouwbaar zijn. Houd doorslaggevende passages compact en behoud hun labels bij het voorbereiden van een lang record voor classificatie.

Het uitgebrachte profiel is Engelstalig. De bruikbare taken hangen af van het bewijs in de aangeleverde toestand en van de gedefinieerde opties, niet van open chat, samenvatten of het beantwoorden van vragen op basis van brede kennis. Rekenen met datums op dagniveau is een specifieke beperking: de maker levert een afzonderlijke preprocessor voor datumfeiten die berekende intervallen aanlevert. Neem bij een controle op een deadline de relevante datums en de berekende intervallen in dagen op in de toestand, samen met de regel die ze gebruikt.

Het checkpoint wordt geleverd met een gefitte kanskalibratie, maar de betrouwbaarheid kan veranderen met het documentdomein en het ontwerp van de vragen. De maker documenteert ook het finetunen van het open checkpoint op taakspecifieke labels en het fitten van de kanskalibratie op die workload; dat is een afzonderlijke aanpassingsworkflow, los van het scoren van een aangeleverde toestand. Kies beslissingsdrempels met gelabelde voorbeelden uit de werkelijke workload en houd onzekere gevallen zichtbaar voor review. De maker sluit volledig geautomatiseerde ingrijpende beslissingen over mensen zonder menselijke review uit. De volgorde van de opties kan ook een antwoord beïnvloeden, dus houd een stabiele volgorde aan bij het vergelijken van resultaten. Beoordeel het gekozen label, het afzonderlijke betrouwbaarheidsveld en de kansverdeling op basis van de rol die elk ervan in je workflow speelt.

De huidige Kev-4B-release die de maker beschrijft, hoort bij Kev 1.0 en gebruikt de Qwen3.5-basis. Eerdere releases op basis van Qwen3 en releases met alleen de documentfase blijven afzonderlijke versies. Houd de gekozen editie en de vraagdefinities gekoppeld aan de uitvoer bij het ontwikkelen van een taakspecifieke workflow, in plaats van resultaten van verschillende profielen te mengen.

Een bruikbaar eindartefact is een benoemde set beslissingsrecords met de oorspronkelijke vragen, optiedefinities, verdelingen en eventuele legenda's van geordende niveaus. Bij een controle van de antwoordkwaliteit bevat de toestand het voorgestelde antwoord, het bewijs en het geteste criterium. Bij beleidstriage bevat de toestand de toepasselijke regel en de relevante feiten. Bewaar die invoer naast het resultaat, zodat een review kan vaststellen waarom een beslissing passend was of welk ontbrekend feit nog moet worden aangeleverd.