Cohere: North Mini Code (free)

North Mini Code 1.0 es el modelo de Cohere para ingeniería de software con agentes, tareas de terminal y generación de código. Recibe texto y produce texto, incluido código, explicaciones y solicitudes de herramientas. El fabricante publicó sus pesos bajo Apache 2.0 y lo identifica como el primer modelo de la familia North de agentes de código. Es un perfil especializado en programación, no un modelo de comprensión de imágenes ni un evaluador genérico de decisiones.

Arquitectura dispersa y preparación para programación

El modelo tiene 30 mil millones de parámetros totales, con alrededor de 3 mil millones activos. Su Transformer de solo decodificador usa una mezcla dispersa de expertos con 128 expertos, ocho activados por token y una capa densa antes de las capas dispersas. La atención de ventana deslizante con posiciones rotatorias se intercala con atención global sin embeddings posicionales en una proporción de 3:1. La cifra de parámetros activos describe el cómputo usado para un token, no el conjunto total de pesos que debe almacenarse.

El entrenamiento posterior de Cohere usa dos etapas de ajuste fino supervisado seguidas de aprendizaje por refuerzo con recompensas verificables, enfocado en ingeniería de software y trabajo en terminal. El productor describe un entrenamiento con múltiples entornos de agentes en vez de una única estructura fija. Esto permite preparar una tarea en torno al comportamiento requerido y las herramientas disponibles, mientras que el entorno que la rodea sigue siendo responsable de obtener archivos, ejecutar comandos y devolver observaciones.

Prepara un cambio a nivel de repositorio

Proporciona el código y el comportamiento actuales, el cambio solicitado, los límites pertinentes de archivos o interfaces y la evidencia que establecerá la finalización. Para un error, incluye el error observado o la entrada que falla y el resultado esperado. Para una función, indica el comportamiento requerido y las restricciones de compatibilidad. Un entregable final útil es una propuesta de cambio de código con una explicación y los resultados de comprobaciones que realmente se ejecutaron.

Una solicitud ilustrativa puede pedir actualizar un analizador para admitir una entrada adicional y conservar los formatos existentes. Identifica entradas representativas y la parte del repositorio que define el comportamiento del analizador. El modelo puede usar código y observaciones de herramientas para desarrollar el cambio; un parche generado o una afirmación de que un comando debería ejecutarse no demuestra que el comando haya tenido éxito.

Herramientas de terminal y observaciones estructuradas

La ficha nativa del modelo documenta el entrenamiento para usar herramientas y recomienda describirlas mediante esquemas JSON en la plantilla de chat del modelo. Describe con claridad el propósito y los argumentos de cada herramienta. Una herramienta de ejecución de comandos puede devolver la salida y el estado reales, mientras que una herramienta de inspección de archivos puede devolver el material necesario para el siguiente paso. Mantén cada resultado asociado con su identificador de llamada para que el análisis posterior use la observación prevista.

El ejemplo del productor conserva una llamada de herramienta y el razonamiento del asistente en el historial, ejecuta la herramienta y añade su resultado antes de generar otra vez. Su ejemplo de plantilla nativa usa un diccionario estructurado para el resultado de la herramienta. Conserva esa representación de acuerdo con la integración documentada, en lugar de suponer que todas las API ajenas serializan los resultados de herramientas de la misma manera. Un esquema JSON que describe los argumentos de una herramienta es distinto de afirmar que se admite cualquier salida final restringida por un esquema.

Razonamiento intercalado e historial de varios turnos

North Mini Code admite razonamiento intercalado, que el productor recomienda habilitar para trabajar con agentes. Conserva el contenido de razonamiento generado por el modelo y las llamadas de herramientas en los pasos posteriores del agente y los turnos de conversación. El ejemplo nativo mantiene un campo de razonamiento con el mensaje del asistente y después devuelve la observación de la herramienta correspondiente. Esto preserva la información que el modelo usó al decidir qué inspeccionar o modificar a continuación.

Mantén el objetivo actual, el material fuente y las observaciones reales en el historial de la tarea. Para una tarea de repositorio más extensa, resume el resultado final en torno al comportamiento modificado y al entregable útil, conservando la evidencia necesaria para revisarlo. El razonamiento intercalado no implica que una respuesta visible breve no haya requerido análisis, ni demuestra que una acción descrita por el modelo ya haya ocurrido.

Tareas independientes de código y explicación

El fabricante también señala la programación científica y el razonamiento algorítmico fuera de un ciclo de agentes. Proporciona la definición del problema, el formato de entrada y salida, las restricciones, los supuestos numéricos pertinentes y el comportamiento esperado en casos límite. Solicita una función o un programa completo cuando ese sea el entregable requerido, con una explicación al nivel que necesite el lector.

Para explicar código, proporciona la implementación y el comportamiento o la dependencia específicos que se deban aclarar. Para código de visualización de datos, identifica los campos proporcionados y la comparación deseada en lugar de dejar implícito el propósito de la gráfica. Los ejemplos de desarrollo del productor incluyen explicación de código, edición, visualización e implementación a partir de una especificación. Son patrones de tareas para generar o modificar código, no una promesa de resultados correctos para cualquier repositorio o framework.

Contexto, salida y ajustes de generación

La ficha del modelo y la página de API del fabricante indican una ventana de contexto de 256K tokens y una salida máxima de 64K tokens. Prepara material sustancial del repositorio alrededor de esos límites separados y del tamaño del entregable final. Conserva los límites e identificadores de las fuentes y elimina material irrelevante, en vez de suponer que una ventana grande elimina la necesidad de instrucciones enfocadas.

La ficha nativa recomienda temperature 1.0 y top_p 0.95 para generar y usa la plantilla de chat del modelo, incluido un prompt de generación, para los flujos de texto y herramientas. Los límites de salida de sus ejemplos son ajustes para esos ejemplos, no un sustituto del máximo publicado del modelo. Cohere publica pesos BF16 y un archivo FP8 con nombre independiente. Selecciona el archivo adecuado al preparar un despliegue.

Un resultado útil de North Mini Code es un entregable de código inspeccionable o una explicación técnica vinculada con los requisitos proporcionados. Compara el resultado con el comportamiento original y la salida real de las herramientas, revisa los supuestos que afectan al código y conserva la fuente y las observaciones necesarias para la revisión. El modelo de programación de solo texto aporta razonamiento y contenido generado; la aplicación que lo rodea realiza las operaciones que convierten esas propuestas en una tarea de software completada.