Cohere: North Mini Code (free)

North Mini Code 1.0 est le modèle de Cohere pour le génie logiciel agentique, les tâches de terminal et la génération de code. Il reçoit du texte et produit du texte, notamment du code, des explications et des demandes d’outils. Le fabricant a publié ses poids sous Apache 2.0 et le présente comme le premier modèle de la famille d’agents de programmation North. Il s’agit d’un profil spécialisé de programmation plutôt que d’un modèle de compréhension d’images ou d’un évaluateur générique de décisions.

Architecture parcimonieuse et préparation au codage

Le modèle compte 30 milliards de paramètres au total, dont environ 3 milliards actifs. Son transformeur à décodeur seul utilise un mélange d’experts parcimonieux de 128 experts, dont huit sont activés par jeton, ainsi qu’une couche dense avant les couches parcimonieuses. L’attention à fenêtre glissante avec positions rotatives est entrelacée avec une attention globale sans plongements positionnels selon un rapport de 3 pour 1. Le nombre de paramètres actifs décrit le calcul utilisé pour un jeton, et non l’ensemble des poids à stocker.

Le post-entraînement de Cohere utilise deux étapes d’ajustement supervisé suivies d’un apprentissage par renforcement à récompenses vérifiables, axé sur le génie logiciel et le travail en terminal. Le producteur décrit un entraînement dans plusieurs cadres d’agents plutôt que dans une seule structure fixe. Cela permet de préparer une tâche autour du comportement requis et des outils disponibles, tandis que le cadre environnant reste responsable de l’obtention des fichiers, de l’exécution des commandes et du retour des observations.

Préparer un changement à l’échelle du dépôt

Fournissez le code et le comportement actuels, le changement demandé, les limites pertinentes de fichiers ou d’interfaces et les éléments qui établiront la réalisation. Pour un bogue, incluez l’erreur observée ou l’entrée défaillante et le résultat attendu. Pour une fonctionnalité, indiquez le comportement requis et les contraintes de compatibilité. Un livrable final utile est une proposition de changement de code accompagnée d’une explication et des résultats des vérifications réellement exécutées.

Une demande illustrative peut consister à mettre à jour un analyseur pour accepter une entrée supplémentaire prise en charge tout en préservant les formats existants. Identifiez les entrées représentatives et la partie du dépôt qui définit le comportement de l’analyseur. Le modèle peut utiliser le code et les observations des outils pour élaborer le changement; un correctif généré ou une affirmation qu’une commande devrait fonctionner ne prouve pas que celle-ci a réussi.

Outils de terminal et observations structurées

La fiche native documente l’entraînement à l’utilisation d’outils et recommande des descriptions d’outils au format JSON Schema dans le gabarit de conversation du modèle. Décrivez clairement l’objectif et les arguments d’un outil. Un outil d’exécution de commandes peut retourner la sortie et le statut réels, tandis qu’un outil d’examen de fichiers peut retourner les éléments nécessaires à l’étape suivante. Gardez chaque résultat d’outil associé à son identifiant d’appel afin que l’analyse ultérieure utilise l’observation voulue.

L’exemple du producteur conserve un appel d’outil et le raisonnement de l’assistant dans l’historique, exécute l’outil, puis ajoute son résultat avant une nouvelle génération. L’exemple du gabarit natif utilise un dictionnaire structuré pour le résultat de l’outil. Préservez cette représentation selon l’intégration documentée au lieu de supposer que toutes les API sans rapport sérialisent les résultats d’outils de la même façon. Un schéma JSON décrivant les arguments d’un outil diffère d’une affirmation de prise en charge arbitraire de sorties finales contraintes par schéma.

Réflexion entrelacée et historique à plusieurs tours

North Mini Code prend en charge la réflexion entrelacée, que le producteur recommande d’activer pour le travail agentique. Reportez le contenu de réflexion généré par le modèle et les appels d’outils dans les étapes d’agent et les tours de conversation suivants. L’exemple natif garde un champ de raisonnement avec le message de l’assistant et renvoie ensuite l’observation correspondante de l’outil. Cela préserve l’information utilisée par le modèle pour décider ce qu’il faut examiner ou modifier ensuite.

Gardez l’objectif courant, les documents sources et les observations réelles dans l’historique de tâche. Pour une tâche de dépôt plus longue, résumez le résultat final autour du comportement modifié et du livrable utile, tout en conservant les éléments nécessaires à sa révision. Le raisonnement entrelacé ne signifie pas qu’une réponse visible courte n’a exigé aucune analyse et n’établit pas non plus qu’une action décrite par le modèle a déjà eu lieu.

Tâches autonomes de code et d’explication

Le fabricant mentionne aussi le codage scientifique et le raisonnement algorithmique hors d’une boucle d’agent. Fournissez la définition du problème, le format des entrées et sorties, les contraintes, les hypothèses numériques pertinentes et le comportement attendu aux cas limites. Demandez une fonction ou un programme complet lorsque c’est le livrable requis, avec une explication adaptée au lecteur.

Pour l’explication de code, fournissez l’implémentation et le comportement ou la dépendance à clarifier. Pour le code de visualisation de données, indiquez les champs fournis et la comparaison voulue plutôt que de laisser implicite le but du graphique. Les exemples de développement du producteur comprennent l’explication, la modification, la visualisation et l’implémentation à partir d’une spécification. Ce sont des types de tâches pour générer ou modifier du code, et non une promesse de résultats corrects pour tout dépôt ou cadre logiciel.

Contexte, sortie et paramètres de génération

La fiche du fabricant et sa page API indiquent une fenêtre de contexte de 256K jetons et une sortie maximale de 64K jetons. Préparez les contenus importants du dépôt en fonction de ces allocations distinctes et de la taille du livrable final. Gardez intacts les limites et identifiants des sources et retirez le contenu non pertinent plutôt que de supposer qu’une grande fenêtre élimine le besoin d’une consigne ciblée.

La fiche native recommande une température de 1,0 et top_p de 0,95 pour la génération, et utilise le gabarit de conversation du modèle, y compris une amorce de génération, pour les flux textuels et d’outils. Les limites de sortie de ses exemples sont des paramètres propres à ces exemples, et ne remplacent pas le maximum publié du modèle. Cohere publie des poids BF16 et un livrable FP8 nommé séparément. Sélectionnez le livrable approprié lors de la préparation d’un déploiement.

Un résultat North Mini Code utile est un livrable de code examinable ou une explication technique liée aux exigences fournies. Comparez le résultat au comportement d’origine et à la sortie réelle des outils, vérifiez les hypothèses qui affectent le code et conservez les sources et observations nécessaires à la révision. Le modèle textuel de programmation fournit le raisonnement et le contenu généré; l’application environnante effectue les opérations qui transforment ces propositions en tâche logicielle terminée.