Jared Palmer: Kev 4B

Kev-4B est un modèle de décision compact qui répond à des questions typées portant sur un état fourni. L’état est le document ou l’enregistrement évalué, et chaque question définit les options que le modèle peut noter. Son résultat est une distribution de probabilités et un enregistrement de décision typé, ce qui le rend utile pour la classification de documents, le routage, le triage, les choix d’extraction et les vérifications au regard de critères énoncés.

Le modèle associe un backbone Qwen3.5-4B-Base figé à un adaptateur LoRA et à une tête de pointage (pointer head). Le backbone compte 32 couches, dont 24 couches Gated DeltaNet et huit couches d’attention complète. L’adaptateur cible les projections d’attention, MLP et DeltaNet ; la tête de pointage note les options fournies et convertit ces notes en probabilités. Il s’agit d’un processus de décision fonctionnant uniquement en phase de préremplissage (prefill), les options formant l’espace des réponses.

Trois types de questions peuvent figurer dans une même requête. Une question de choix accepte de 1 à 255 options nommées, éventuellement accompagnées de descriptions, et renvoie l’option la plus probable, une valeur de confiance distincte et les probabilités des options. Une question oui/non, appelée noul dans le format du concepteur, renvoie la probabilité de oui. Définissez la signification de oui dans la question plutôt que de supposer qu’une valeur élevée correspond toujours à une issue positive pour l’application.

Une question de score ordonné accepte de 1 à 255 niveaux et renvoie les probabilités des niveaux ainsi que leur indice attendu. Les indices de niveau commencent à zéro. Le format de résultat du concepteur inclut également la légende des niveaux et une valeur de confiance distincte. Un indice attendu peut être fractionnaire : il résume la distribution sur vos niveaux ordonnés plutôt que de sélectionner une nouvelle étiquette textuelle. Conservez l’ordre et la légende des niveaux avec le résultat afin qu’une note puisse être interprétée de manière cohérente.

Les questions partagent le même état mais sont évaluées indépendamment. Une question ne peut pas lire la réponse d’une autre question, et l’état est calculé une seule fois puis réutilisé. Si une décision ultérieure dépend du résultat d’une décision antérieure, rendez cette dépendance explicite dans un état suivant au lieu d’attendre des questions d’une même requête qu’elles forment une chaîne. Ce processus à état partagé convient ainsi à plusieurs vérifications indépendantes sur un même document.

Préparez l’état avec les éléments probants dont les questions ont réellement besoin. Il peut s’agir de texte brut ou d’un objet ou tableau JSON rendu sous forme de texte étiqueté. Gardez clairs les noms de champs, les unités, les conditions des politiques et les passages sources pertinents. Rédigez une instruction précise pour chaque question et donnez à ses options des significations qui puissent être distinguées à partir de l’enregistrement. Pour une tâche originale de routage des demandes d’assistance, l’état peut contenir la demande et son contexte, tandis que les choix définissent des catégories livraison, accès et assistance produit avec de courtes descriptions.

Une deuxième question peut évaluer l’urgence, et une question ordonnée peut noter le degré de suivi nécessaire à la demande. Ces questions répondent à des interrogations opérationnelles différentes : définissez donc chacune séparément. Incluez une option appropriée de revue ou d’éléments manquants lorsque la tâche de choix en a besoin, et conservez la distribution complète lorsque plusieurs catégories sont plausibles. L’application décide comment router ou réviser un résultat ; le modèle fournit l’enregistrement noté.

Kev-4B est conçu pour des décisions typées portant sur des documents de quelques milliers de tokens. Le profil de service de son concepteur accepte des états allant jusqu’à 65 536 tokens et réserve un espace supplémentaire pour chaque question, tandis que la longueur de contexte validée pour ce checkpoint est de 8192 tokens. Ce sont des limites différentes : accepter un état plus long n’établit pas que les décisions sont aussi fiables à toutes les longueurs. Gardez les passages décisifs compacts et préservez leurs étiquettes lorsque vous préparez un long enregistrement pour la classification.

Le profil publié est en anglais. Ses tâches utiles dépendent des éléments probants présents dans l’état fourni et des options définies, plutôt que du chat ouvert, du résumé ou des réponses fondées sur des connaissances générales. L’arithmétique des dates au jour près constitue une limitation particulière : le concepteur fournit un préprocesseur distinct de faits de dates qui produit des intervalles calculés. Pour une vérification d’échéance, incluez dans l’état les dates pertinentes et les intervalles en jours calculés, ainsi que la règle qui les utilise.

Le checkpoint est livré avec un calibrage des probabilités ajusté, mais la confiance peut varier selon le domaine des documents et la conception des questions. Le concepteur documente aussi l’affinage du checkpoint ouvert sur des étiquettes propres à une tâche et l’ajustement de son calibrage des probabilités à cette charge de travail ; il s’agit d’un processus de personnalisation distinct de la notation d’un état fourni. Choisissez les seuils de décision à l’aide d’exemples étiquetés de la charge de travail réelle, et gardez les cas incertains visibles pour la revue. Le concepteur exclut les décisions entièrement automatisées ayant des conséquences pour des personnes sans revue humaine. L’ordre des options peut aussi influer sur une réponse : conservez donc un ordre stable lorsque vous comparez des résultats. Évaluez l’étiquette choisie, le champ de confiance distinct et la distribution de probabilités selon le rôle que chacun joue dans votre flux de travail.

La version actuelle de Kev-4B décrite par le concepteur appartient à Kev 1.0 et repose sur la base Qwen3.5. Les versions antérieures fondées sur Qwen3 et celles limitées à l’étape documentaire restent des versions distinctes. Associez l’édition choisie et les définitions des questions aux sorties lorsque vous développez un flux de travail propre à une tâche, plutôt que de mélanger des résultats issus de profils différents.

Un artefact final utile est un ensemble nommé d’enregistrements de décision comprenant les questions d’origine, les définitions des options, les distributions et, le cas échéant, les légendes des niveaux ordonnés. Pour un contrôle de la qualité d’une réponse, l’état doit inclure la réponse proposée, les éléments probants et le critère testé. Pour un triage au regard de politiques, il doit inclure la règle applicable et les faits pertinents. Conservez cette entrée à côté du résultat afin qu’une revue puisse établir pourquoi une décision était appropriée ou quel fait manquant doit être fourni.