Jared Palmer: Kev 4B

Kev-4B è un modello decisionale compatto per rispondere a domande tipizzate su uno stato fornito. Lo stato è il documento o il record da valutare, e ogni domanda definisce le opzioni a cui il modello può assegnare un punteggio. Il risultato è una distribuzione di probabilità e un record decisionale tipizzato, utile per la classificazione di documenti, l'instradamento, il triage, le scelte di estrazione e le verifiche rispetto a criteri dichiarati.

Il modello combina una rete di base Qwen3.5-4B-Base congelata con un adattatore LoRA e una testa a puntatore. La rete di base ha 32 livelli, di cui 24 livelli Gated DeltaNet e otto livelli ad attenzione completa. L'adattatore agisce sulle proiezioni di attenzione, MLP e DeltaNet; la testa a puntatore assegna un punteggio alle opzioni fornite e converte tali punteggi in probabilità. Si tratta di un flusso decisionale basato esclusivamente sulla fase di prefill, in cui le opzioni costituiscono lo spazio delle risposte.

Nella stessa richiesta possono comparire tre tipi di domanda. Una domanda di scelta accetta da 1 a 255 opzioni denominate, facoltativamente con descrizioni, e restituisce l'opzione più probabile, un valore di confidenza separato e le probabilità delle opzioni. Una domanda sì/no, chiamata noul nel formato del produttore, restituisce la probabilità del sì. Definisci nella domanda il significato del sì invece di presumere che un numero elevato indichi sempre un esito positivo per l'applicazione.

Una domanda a punteggio ordinato accetta da 1 a 255 livelli e restituisce le probabilità dei livelli e il loro indice atteso. Gli indici dei livelli partono da zero. Il formato del risultato del produttore riporta anche la legenda dei livelli e un valore di confidenza separato. Un indice atteso può essere frazionario: riassume la distribuzione sui livelli ordinati che hai definito anziché selezionare una nuova etichetta testuale. Conserva l'ordine dei livelli e la legenda insieme al risultato, in modo che una valutazione possa essere interpretata in modo coerente.

Le domande condividono lo stesso stato ma vengono valutate in modo indipendente. Una domanda non può leggere la risposta di un'altra, e lo stato viene calcolato una sola volta e riutilizzato. Se una decisione successiva dipende dal risultato di una decisione precedente, rendi esplicita questa dipendenza in uno stato successivo invece di aspettarti che le domande di una stessa richiesta formino una catena. Ciò rende il flusso a stato condiviso adatto a più verifiche indipendenti sullo stesso documento.

Prepara lo stato con le prove di cui le domande hanno effettivamente bisogno. Può essere testo semplice oppure un oggetto o un array JSON reso come testo etichettato. Mantieni chiari i nomi dei campi, le unità, le condizioni delle policy e i passaggi di origine pertinenti. Scrivi un'istruzione specifica per ogni domanda e assegna alle sue opzioni significati distinguibili in base al record. Per un'attività originale di instradamento dell'assistenza, lo stato può contenere la richiesta e il suo contesto, mentre le scelte definiscono le categorie consegna, accesso e supporto al prodotto con brevi descrizioni.

Una seconda domanda può valutare l'urgenza, e una domanda ordinata può valutare quanto seguito richieda la richiesta. Queste rispondono a domande operative diverse, quindi definisci ciascuna separatamente. Includi un'opzione appropriata per la revisione o per le prove mancanti quando l'attività di scelta ne ha bisogno, e conserva l'intera distribuzione quando più categorie sono plausibili. L'applicazione decide come instradare o rivedere un risultato; il modello fornisce il record con i punteggi.

Kev-4B è pensato per decisioni tipizzate su documenti di qualche migliaio di token. Il profilo di servizio del produttore accetta stati fino a 65.536 token e riserva spazio aggiuntivo per ogni domanda, mentre la lunghezza di contesto convalidata per questo checkpoint è di 8192 token. Si tratta di limiti diversi: accettare uno stato più lungo non garantisce decisioni ugualmente affidabili a ogni lunghezza. Mantieni compatti i passaggi decisivi e conserva le loro etichette quando prepari un record lungo per la classificazione.

Il profilo rilasciato è in inglese. Le sue attività utili dipendono dalle prove presenti nello stato fornito e dalle opzioni definite, non da chat aperte, riepiloghi o risposte basate su conoscenze generali. L'aritmetica delle date a livello di giorno è una limitazione specifica: il produttore fornisce un preprocessore separato per i fatti sulle date che fornisce gli intervalli calcolati. Per una verifica di scadenza, includi nello stato le date pertinenti e gli intervalli in giorni calcolati, insieme alla regola che li utilizza.

Il checkpoint include una calibrazione delle probabilità già adattata, ma la confidenza può variare in base al dominio del documento e alla progettazione della domanda. Il produttore documenta anche il fine-tuning del checkpoint aperto su etichette specifiche dell'attività e l'adattamento della calibrazione delle probabilità a quel carico di lavoro; si tratta di un flusso di personalizzazione distinto dall'assegnazione di punteggi a uno stato fornito. Scegli le soglie decisionali usando esempi etichettati del carico di lavoro reale e mantieni visibili i casi incerti per la revisione. Il produttore esclude decisioni completamente automatizzate con conseguenze rilevanti sulle persone senza revisione umana. Anche l'ordine delle opzioni può influire su una risposta, quindi mantieni un ordinamento stabile quando confronti i risultati. Valuta l'etichetta scelta, il campo di confidenza separato e la distribuzione di probabilità in base al ruolo che ciascuno svolge nel tuo flusso di lavoro.

L'attuale versione di Kev-4B descritta dal produttore appartiene a Kev 1.0 e usa la base Qwen3.5. Le versioni precedenti basate su Qwen3 e quelle limitate alla sola fase sui documenti restano versioni distinte. Mantieni l'edizione scelta e le definizioni delle domande associate agli output quando sviluppi un flusso di lavoro specifico per un'attività, invece di mescolare risultati di profili diversi.

Un artefatto finale utile è un insieme denominato di record decisionali con le domande originali, le definizioni delle opzioni, le distribuzioni e le eventuali legende dei livelli ordinati. Per una verifica della qualità di una risposta, lo stato deve includere la risposta proposta, le prove e il criterio da verificare. Per il triage delle policy, deve includere la regola applicabile e i fatti pertinenti. Conserva quell'input accanto al risultato, in modo che una revisione possa stabilire perché una decisione era appropriata o quale fatto mancante occorre fornire.