Jared Palmer: Kev 4B

Kev-4B je kompaktný rozhodovací model na zodpovedanie typovaných otázok o dodanom stave. Stav je dokument alebo záznam, ktorý sa posudzuje, a každá otázka definuje možnosti, ktoré môže model ohodnotiť. Jeho výsledkom je rozdelenie pravdepodobnosti a typovaný záznam rozhodnutia, vďaka čomu je užitočný na klasifikáciu dokumentov, smerovanie, triedenie podľa naliehavosti, voľby pri extrakcii a kontroly podľa stanovených kritérií.

Model kombinuje zmrazenú základnú sieť Qwen3.5-4B-Base s adaptérom LoRA a ukazovateľovou hlavou (pointer head). Základná sieť má 32 vrstiev, z toho 24 vrstiev Gated DeltaNet a osem vrstiev s plnou pozornosťou. Adaptér sa zameriava na projekcie pozornosti, MLP a DeltaNet; ukazovateľová hlava ohodnotí dodané možnosti a tieto skóre prevedie na pravdepodobnosti. Ide o rozhodovací postup, ktorý využíva iba spracovanie vstupu (prefill) a v ktorom priestor odpovedí tvoria možnosti.

V tej istej požiadavke sa môžu objaviť tri typy otázok. Výberová otázka prijíma 1–255 pomenovaných možností, voliteľne s popismi, a vracia najpravdepodobnejšiu možnosť, samostatnú hodnotu istoty a pravdepodobnosti pre možnosti. Otázka áno/nie, vo formáte výrobcu nazývaná noul, vracia pravdepodobnosť odpovede áno. Význam odpovede áno definujte v otázke, namiesto predpokladu, že vysoké číslo vždy znamená pre aplikáciu pozitívny výsledok.

Otázka s usporiadaným skóre prijíma 1–255 úrovní a vracia pravdepodobnosti pre úrovne a ich očakávaný index. Indexy úrovní začínajú od nuly. Formát výsledku výrobcu obsahuje aj legendu úrovní a samostatnú hodnotu istoty. Očakávaný index môže byť neceločíselný: zhŕňa rozdelenie cez vaše usporiadané úrovne, a nie výber nového textového označenia. Poradie úrovní a legendu uchovávajte spolu s výsledkom, aby sa hodnotenie dalo interpretovať konzistentne.

Otázky zdieľajú ten istý stav, ale vyhodnocujú sa nezávisle. Jedna otázka nemôže čítať odpoveď inej otázky a stav sa vypočíta raz a opakovane použije. Ak neskoršie rozhodnutie závisí od výsledku skoršieho rozhodnutia, uveďte túto závislosť explicitne v nasledujúcom stave, namiesto očakávania, že otázky v jednej požiadavke vytvoria reťazec. Postup so zdieľaným stavom je tak vhodný na niekoľko nezávislých kontrol toho istého dokumentu.

Stav pripravte s podkladmi, ktoré otázky skutočne potrebujú. Môže to byť obyčajný text alebo objekt či pole JSON prevedené na text s označeniami. Názvy polí, jednotky, podmienky pravidiel a relevantné zdrojové pasáže udržujte zrozumiteľné. Pre každú otázku napíšte konkrétny pokyn a jej možnostiam dajte významy, ktoré sa dajú zo záznamu rozlíšiť. Pri vlastnej úlohe smerovania podpory môže stav obsahovať požiadavku a jej kontext, zatiaľ čo výbery definujú kategórie doručenia, prístupu a produktovej podpory s krátkymi popismi.

Druhá otázka môže posúdiť naliehavosť a usporiadaná otázka môže ohodnotiť, koľko následnej práce požiadavka potrebuje. Odpovedajú na rozdielne prevádzkové otázky, preto každú definujte samostatne. Ak to výberová úloha potrebuje, zahrňte vhodnú možnosť pre kontrolu alebo chýbajúce podklady a pri viacerých pravdepodobných kategóriách si ponechajte celé rozdelenie. O smerovaní alebo kontrole výsledku rozhoduje aplikácia; model dodáva ohodnotený záznam.

Kev-4B je určený na typované rozhodnutia nad dokumentmi s rozsahom niekoľkých tisíc tokenov. Profil nasadenia výrobcu prijíma stavy do 65 536 tokenov a pre každú otázku vyhradzuje ďalší priestor, zatiaľ čo overená dĺžka kontextu pre tento kontrolný bod je 8192 tokenov. Ide o rozdielne hranice: to, že model prijme dlhší stav, neznamená rovnako spoľahlivé rozhodnutia pri každej dĺžke. Pri príprave dlhého záznamu na klasifikáciu udržujte rozhodujúce pasáže kompaktné a zachovajte ich označenia.

Vydaný profil je v angličtine. Jeho užitočné úlohy závisia od podkladov v dodanom stave a od definovaných možností, nie od otvoreného chatu, zhrňovania alebo odpovedania na základe širokých znalostí. Osobitným obmedzením je výpočet s dátumami na úrovni dní: výrobca poskytuje samostatný predprocesor dátumových faktov, ktorý dodáva vypočítané intervaly. Pri kontrole termínu zahrňte do stavu relevantné dátumy a vypočítané intervaly v dňoch spolu s pravidlom, ktoré ich využíva.

Kontrolný bod sa dodáva s napasovanou kalibráciou pravdepodobností, istota sa však môže meniť v závislosti od domény dokumentu a návrhu otázky. Výrobca dokumentuje aj doladenie otvoreného kontrolného bodu na označeniach konkrétnej úlohy a napasovanie jeho kalibrácie pravdepodobností na danú prevádzku; ide o samostatný postup prispôsobenia, odlišný od hodnotenia dodaného stavu. Rozhodovacie prahy zvoľte pomocou označených príkladov zo skutočnej prevádzky a neisté prípady nechávajte viditeľné na kontrolu. Výrobca vylučuje použitie na plne automatizované rozhodnutia so závažnými dôsledkami pre ľudí bez ľudskej kontroly. Odpoveď môže ovplyvniť aj poradie možností, preto pri porovnávaní výsledkov zachovávajte stabilné poradie. Zvolené označenie, samostatné pole istoty a rozdelenie pravdepodobnosti posudzujte podľa úlohy, ktorú každé z nich vo vašom pracovnom postupe zohráva.

Aktuálne vydanie Kev-4B opísané výrobcom patrí do Kev 1.0 a používa základ Qwen3.5. Staršie vydania založené na Qwen3 a vydania obmedzené na dokumentovú fázu zostávajú samostatnými verziami. Pri vývoji pracovného postupu pre konkrétnu úlohu uchovávajte zvolenú edíciu a definície otázok spolu s výstupmi, namiesto miešania výsledkov z rôznych profilov.

Užitočným výsledným artefaktom je pomenovaná sada záznamov rozhodnutí s pôvodnými otázkami, definíciami možností, rozdeleniami a prípadnými legendami usporiadaných úrovní. Pri kontrole kvality odpovede by stav mal obsahovať navrhovanú odpoveď, podklady a testované kritérium. Pri triedení podľa pravidiel by mal obsahovať platné pravidlo a relevantné fakty. Tento vstup uchovávajte vedľa výsledku, aby kontrola mohla zistiť, prečo bolo rozhodnutie vhodné, alebo ktorý chýbajúci fakt treba doplniť.