Jared Palmer: Kev 4B

Kev-4B je kompakten odločitveni model za odgovarjanje na tipizirana vprašanja o podanem stanju. Stanje je ocenjevani dokument ali zapis, vsako vprašanje pa določa možnosti, ki jih model lahko oceni. Njegov rezultat sta porazdelitev verjetnosti in tipiziran zapis odločitve, zaradi česar je uporaben za razvrščanje dokumentov, usmerjanje, triažo, izbire pri izluščanju podatkov in preverjanje navedenih meril.

Model združuje zamrznjeno ogrodje Qwen3.5-4B-Base z adapterjem LoRA in kazalnim izhodnim modulom. Ogrodje ima 32 plasti: 24 plasti Gated DeltaNet in osem plasti polne pozornosti. Adapter cilja projekcije pozornosti, MLP in DeltaNet; kazalni izhodni modul oceni podane možnosti in ocene pretvori v verjetnosti. To je odločitveni potek samo v fazi prefill, pri katerem možnosti oblikujejo prostor odgovorov.

V isti zahtevi so lahko tri vrste vprašanj. Vprašanje choice sprejme 1–255 poimenovanih možnosti z neobveznimi opisi in vrne najverjetnejšo možnost, ločeno vrednost zaupanja ter verjetnosti možnosti. Vprašanje da/ne, v proizvajalčevi obliki imenovano noul, vrne verjetnost da. Pomen da opredelite v vprašanju, namesto da domnevate, da visoka številka vedno pomeni pozitiven izid za aplikacijo.

Vprašanje z urejeno oceno sprejme 1–255 ravni in vrne verjetnosti ravni ter njihov pričakovani indeks. Indeksi ravni se začnejo pri nič. Proizvajalčeva oblika rezultata vključuje tudi legendo ravni in ločeno vrednost zaupanja. Pričakovani indeks je lahko neceloštevilski: povzema porazdelitev po vaših urejenih ravneh, ne izbira nove besedilne oznake. Vrstni red ravni in legendo ohranite z rezultatom, da je oceno mogoče dosledno interpretirati.

Vprašanja delijo isto stanje, vendar se ocenjujejo neodvisno. Eno vprašanje ne more prebrati odgovora drugega, stanje pa se izračuna enkrat in ponovno uporabi. Če je poznejša odločitev odvisna od rezultata prejšnje, to odvisnost izrecno vključite v naslednje stanje, namesto da bi pričakovali verigo vprašanj znotraj ene zahteve. Zaradi tega je potek s skupnim stanjem primeren za več neodvisnih preverjanj istega dokumenta.

Stanje pripravite z dokazi, ki jih vprašanja dejansko potrebujejo. Lahko je navadno besedilo ali objekt oziroma polje JSON, prikazano kot označeno besedilo. Imena polj, enote, pogoji pravil in relevantni izvorni odlomki naj bodo jasni. Za vsako vprašanje napišite konkretno navodilo in njegovim možnostim dajte pomene, ki jih je mogoče razlikovati na podlagi zapisa. Pri izhodiščni nalogi usmerjanja podpore lahko stanje vsebuje zahtevek in njegov kontekst, izbire pa s kratkimi opisi določijo kategorije dostave, dostopa in podpore izdelku.

Drugo vprašanje lahko oceni nujnost, urejeno vprašanje pa obseg potrebnega nadaljnjega ukrepanja pri zahtevku. To so različna operativna vprašanja, zato vsako opredelite ločeno. Kadar naloga izbire potrebuje možnost pregleda ali manjkajočih dokazov, jo ustrezno vključite, in ohranite celotno porazdelitev, kadar je verjetnih več kategorij. Aplikacija odloči, kako rezultat usmeriti ali pregledati; model poda ocenjeni zapis.

Kev-4B je namenjen tipiziranim odločitvam o dokumentih z nekaj tisoč žetoni. Proizvajalčev strežni profil sprejema stanja do 65 536 žetonov in rezervira dodaten prostor za vsako vprašanje, potrjena dolžina konteksta te kontrolne točke pa je 8192 žetonov. To sta različni meji: sprejem daljšega stanja ne dokazuje enake zanesljivosti odločitev pri vsaki dolžini. Pri pripravi dolgega zapisa za razvrščanje naj bodo odločilni odlomki zgoščeni, njihove oznake pa ohranjene.

Izdani profil je namenjen angleščini. Njegove uporabne naloge temeljijo na dokazih v podanem stanju in opredeljenih možnostih, ne na klepetu v prosti obliki, povzemanju ali splošnem odgovarjanju iz znanja. Posebna omejitev je računanje datumov z natančnostjo na dan: proizvajalec ponuja ločen predprocesor datumskih dejstev, ki poda izračunane intervale. Za preverjanje roka v stanje vključite relevantne datume in izračunane intervale v dnevih skupaj s pravilom, ki jih uporablja.

Kontrolna točka je opremljena s prilagojenim umerjanjem verjetnosti, vendar se zaupanje lahko spreminja glede na področje dokumenta in zasnovo vprašanja. Proizvajalec dokumentira tudi dodatno učenje odprte kontrolne točke na oznakah za konkretno nalogo in prilagajanje umerjanja verjetnosti tej obremenitvi; to je ločen potek prilagajanja od ocenjevanja podanega stanja. Pragove odločanja izberite z označenimi primeri dejanske obremenitve, negotove primere pa ohranite vidne za pregled. Proizvajalec izključuje povsem avtomatizirane odločitve s pomembnimi posledicami za ljudi brez človeškega pregleda. Na odgovor lahko vpliva tudi vrstni red možnosti, zato pri primerjavi rezultatov ohranite stabilen vrstni red. Izbrano oznako, ločeno polje zaupanja in porazdelitev verjetnosti ocenjujte glede na vlogo vsakega v svojem delovnem toku.

Trenutna izdaja Kev-4B, ki jo opisuje proizvajalec, pripada Kev 1.0 in uporablja osnovo Qwen3.5. Starejše izdaje na osnovi Qwen3 in izdaje samo za stopnjo obdelave dokumenta ostajajo ločene različice. Pri razvoju poteka za konkretno nalogo izbrano izdajo in opredelitve vprašanj ohranite povezane z izhodi, namesto da bi mešali rezultate različnih profilov.

Koristni končni artefakt je poimenovan nabor zapisov odločitev z izvirnimi vprašanji, opredelitvami možnosti, porazdelitvami in vsemi legendami urejenih ravni. Pri preverjanju kakovosti odgovora mora stanje vključevati predlagani odgovor, dokaze in preverjano merilo. Pri triaži po pravilih mora vsebovati veljavno pravilo in relevantna dejstva. Ta vhod ohranite ob rezultatu, da lahko pregled ugotovi, zakaj je bila odločitev primerna oziroma katero manjkajoče dejstvo je treba podati.