Cohere: North Mini Code (free)

North Mini Code 1.0 est le modèle de Cohere pour le génie logiciel agentique, les tâches de terminal et la génération de code. Il reçoit du texte et produit du texte, notamment du code, des explications et des demandes d’outils. Le fabricant a publié ses poids sous Apache 2.0 et le présente comme le premier modèle de la famille d’agents de code North. C’est un profil spécialisé dans le code, plutôt qu’un modèle de compréhension d’images ou un évaluateur générique de décisions.

Architecture éparse et préparation au code

Le modèle possède 30 milliards de paramètres au total, dont environ 3 milliards actifs. Son Transformer à décodeur seul utilise un mélange d’experts épars avec 128 experts, dont huit sont activés par token, et une couche dense avant les couches éparses. L’attention à fenêtre glissante avec positions rotatives alterne avec une attention globale sans embeddings positionnels dans un rapport de 3:1. Le nombre de paramètres actifs décrit le calcul utilisé pour un token, et non la totalité des poids à stocker.

Le post-entraînement de Cohere utilise deux étapes d’ajustement supervisé, suivies d’un apprentissage par renforcement à récompenses vérifiables, centrés sur le génie logiciel et le travail au terminal. Le producteur décrit un entraînement sur plusieurs environnements d’agents plutôt que sur une seule structure fixe. Cela permet de préparer une tâche autour du comportement requis et des outils disponibles, tandis que l’environnement reste responsable de la récupération des fichiers, de l’exécution des commandes et du retour des observations.

Préparer une modification à l’échelle du dépôt

Fournissez le code et le comportement actuels, la modification demandée, les limites pertinentes des fichiers ou interfaces et les éléments qui établiront l’achèvement. Pour un bogue, incluez l’erreur observée ou l’entrée défaillante et le résultat attendu. Pour une fonctionnalité, précisez le comportement requis et les contraintes de compatibilité. Un livrable final utile est une proposition de modification du code accompagnée d’une explication et des résultats de vérifications réellement exécutées.

Une demande illustrative peut consister à mettre à jour un analyseur pour un format d’entrée pris en charge supplémentaire, tout en conservant les formats existants. Identifiez des entrées représentatives et la partie du dépôt qui définit le comportement de l’analyseur. Le modèle peut utiliser le code et les observations d’outils pour élaborer la modification ; un correctif généré ou l’affirmation qu’une commande devrait fonctionner ne prouve pas que cette commande a réussi.

Outils de terminal et observations structurées

La fiche native du modèle documente l’entraînement à l’utilisation d’outils et recommande des descriptions d’outils sous forme de schémas JSON via le modèle de conversation. Décrivez clairement le rôle et les arguments d’un outil. Un outil d’exécution de commandes peut renvoyer la sortie et le statut réels, tandis qu’un outil d’inspection de fichiers peut renvoyer les éléments nécessaires à l’étape suivante. Associez chaque résultat d’outil à son identifiant d’appel pour que les analyses suivantes utilisent l’observation voulue.

L’exemple du producteur conserve dans l’historique l’appel d’outil et le raisonnement de l’assistant, exécute l’outil, puis ajoute son résultat avant de relancer la génération. Son exemple de modèle natif emploie un dictionnaire structuré pour le résultat d’outil. Préservez cette représentation conformément à l’intégration documentée, sans supposer que toutes les API indépendantes sérialisent les résultats d’outils de la même manière. Un schéma JSON décrivant les arguments d’un outil ne revient pas à revendiquer une prise en charge arbitraire de sorties finales contraintes par schéma.

Réflexion entrelacée et historique multitour

North Mini Code prend en charge la réflexion entrelacée, que le producteur recommande d’activer pour les tâches agentiques. Transmettez le contenu de réflexion généré par le modèle et les appels d’outils aux étapes suivantes de l’agent et aux tours de conversation ultérieurs. L’exemple natif conserve un champ de raisonnement avec le message de l’assistant, puis renvoie l’observation de l’outil correspondant. Cela préserve les informations utilisées par le modèle pour décider de la prochaine inspection ou modification.

Conservez l’objectif actuel, les sources et les observations réelles dans l’historique de la tâche. Pour une tâche longue sur un dépôt, résumez le résultat final autour du comportement modifié et du livrable utile, tout en gardant les éléments nécessaires à sa relecture. Un raisonnement entrelacé ne signifie pas qu’une courte réponse visible n’a nécessité aucune analyse, pas plus qu’il ne prouve qu’une action décrite par le modèle a déjà eu lieu.

Tâches autonomes de code et d’explication

Le concepteur cite également la programmation scientifique et le raisonnement algorithmique en dehors d’une boucle d’agent. Fournissez la définition du problème, le format d’entrée et de sortie, les contraintes, les hypothèses numériques pertinentes et le comportement attendu dans les cas limites. Demandez une fonction ou un programme complet lorsque c’est le livrable requis, avec une explication adaptée au lecteur.

Pour expliquer du code, fournissez l’implémentation et le comportement ou la dépendance à clarifier. Pour du code de visualisation de données, identifiez les champs fournis et la comparaison voulue, plutôt que de laisser implicite le but du graphique. Les exemples de développement du producteur incluent l’explication, la modification et la visualisation de code ainsi que l’implémentation à partir d’une spécification. Ce sont des schémas de tâches pour produire ou modifier du code, non une promesse de résultats corrects pour tous les dépôts ou frameworks.

Contexte, sortie et paramètres de génération

La fiche et la page API du fabricant indiquent une fenêtre de contexte de 256K tokens et une sortie maximale de 64K tokens. Préparez le contenu substantiel du dépôt en tenant compte de ces capacités distinctes et de la taille du livrable final. Préservez les limites et les identifiants des sources, et retirez le contenu non pertinent plutôt que de supposer qu’une grande fenêtre dispense d’un brief ciblé.

La fiche native recommande temperature 1.0 et top_p 0.95 pour la génération et utilise le modèle de conversation du modèle, avec une amorce de génération, pour les processus textuels et avec outils. Les limites de sortie de ses exemples sont des réglages propres à ces exemples, et ne remplacent pas le maximum publié du modèle. Cohere publie des poids BF16 et un artefact FP8 nommé séparément. Sélectionnez l’artefact adapté lors de la préparation d’un déploiement.

Un résultat North Mini Code utile est un livrable de code examinable ou une explication technique liée aux exigences fournies. Comparez le résultat au comportement original et aux sorties réelles des outils, vérifiez les hypothèses qui influencent le code et conservez les sources et observations nécessaires à la relecture. Le modèle de code exclusivement textuel fournit du raisonnement et du contenu généré ; l’application qui l’entoure réalise les opérations transformant ces propositions en tâche logicielle achevée.