Cohere: North Mini Code (free)

North Mini Code 1.0 es el modelo de Cohere para ingeniería de software con agentes, tareas de terminal y generación de código. Recibe texto y produce texto, incluidos código, explicaciones y solicitudes de herramientas. El fabricante publicó sus pesos bajo Apache 2.0 y lo identifica como el primer modelo de la familia de agentes de programación North. Es un perfil especializado en programación, no un modelo de comprensión de imágenes ni un evaluador genérico de decisiones.

Arquitectura dispersa y preparación para programación

El modelo tiene 30 mil millones de parámetros totales y unos 3 mil millones activos. Su Transformer solo decodificador utiliza una mezcla dispersa de expertos con 128 expertos, ocho activados por token, y una capa densa antes de las capas dispersas. La atención de ventana deslizante con posiciones rotatorias se intercala con atención global sin embeddings posicionales en una proporción de 3:1. La cifra de parámetros activos describe el cálculo empleado para un token, no el conjunto total de pesos que debe almacenarse.

El posentrenamiento de Cohere utiliza dos etapas de ajuste fino supervisado seguidas de aprendizaje por refuerzo con recompensas verificables, centrado en ingeniería de software y trabajo de terminal. El productor describe un entrenamiento con múltiples entornos de ejecución de agentes en lugar de una única estructura fija. Esto permite preparar una tarea alrededor del comportamiento requerido y las herramientas disponibles, mientras que el entorno que lo rodea sigue siendo responsable de obtener archivos, ejecutar comandos y devolver observaciones.

Prepara un cambio en el repositorio

Proporciona el código y el comportamiento actuales, el cambio solicitado, los límites pertinentes de archivos o interfaces y las pruebas que permitirán establecer que la tarea está completa. Para un error, incluye el fallo observado o la entrada que lo provoca y el resultado esperado. Para una función, indica el comportamiento requerido y las restricciones de compatibilidad. Un resultado final útil es una propuesta de cambio de código con una explicación y los resultados de comprobaciones que realmente se hayan ejecutado.

Una solicitud ilustrativa puede pedir que se actualice un analizador para admitir una entrada adicional conservando los formatos existentes. Identifica entradas representativas y la parte del repositorio que define el comportamiento del analizador. El modelo puede utilizar código y observaciones de herramientas para desarrollar el cambio; un parche generado o una afirmación de que un comando debería ejecutarse no demuestran que el comando haya tenido éxito.

Herramientas de terminal y observaciones estructuradas

La ficha nativa del modelo documenta el entrenamiento para usar herramientas y recomienda describirlas mediante esquemas JSON a través de la plantilla de chat del modelo. Describe con claridad la función y los argumentos de cada herramienta. Una herramienta de ejecución de comandos puede devolver la salida y el estado reales, mientras que una herramienta de inspección de archivos puede devolver el material que necesita el siguiente paso. Mantén cada resultado asociado al identificador de su llamada para que el análisis posterior utilice la observación prevista.

El ejemplo del productor conserva en el historial una llamada a herramienta y el razonamiento del asistente, ejecuta la herramienta y añade su resultado antes de generar de nuevo. El ejemplo de la plantilla nativa utiliza un diccionario estructurado para el resultado de la herramienta. Conserva esa representación conforme a la integración documentada en lugar de suponer que cualquier API ajena serializa los resultados de herramientas de la misma manera. Un esquema JSON que describe los argumentos de una herramienta no equivale a afirmar que se admite cualquier salida final restringida por un esquema.

Razonamiento intercalado e historial de varios turnos

North Mini Code admite razonamiento intercalado, que el productor recomienda activar para el trabajo con agentes. Lleva el contenido de razonamiento generado por el modelo y las llamadas a herramientas a los pasos posteriores del agente y los turnos de conversación. El ejemplo nativo conserva un campo de razonamiento en el mensaje del asistente y devuelve después la observación de la herramienta correspondiente. Así se conserva la información que utilizó el modelo al decidir qué inspeccionar o cambiar a continuación.

Mantén el objetivo actual, el material fuente y las observaciones reales en el historial de la tarea. Para una tarea de repositorio más larga, resume el resultado final alrededor del comportamiento cambiado y el artefacto útil, conservando las pruebas necesarias para revisarlo. El razonamiento intercalado no implica que una respuesta visible breve no haya requerido análisis, ni demuestra que una acción descrita por el modelo ya se haya realizado.

Tareas independientes de código y explicación

El fabricante también menciona la programación científica y el razonamiento algorítmico fuera de un bucle de agente. Proporciona la definición del problema, el formato de entrada y salida, las restricciones, las hipótesis numéricas pertinentes y el comportamiento esperado en los límites. Solicita una función o un programa completo cuando ese sea el resultado necesario, con una explicación adaptada a las necesidades del lector.

Para explicar código, proporciona la implementación y el comportamiento o la dependencia concretos que quieras aclarar. Para código de visualización de datos, identifica los campos proporcionados y la comparación deseada, en lugar de dejar implícito el propósito del gráfico. Los ejemplos de desarrollo del productor incluyen explicación y edición de código, visualización e implementación a partir de una especificación. Son patrones de tareas para generar o modificar código, no una promesa de resultados correctos para cualquier repositorio o framework.

Contexto, salida y ajustes de generación

La ficha del fabricante y la página de la API indican una ventana de contexto de 256K tokens y una salida máxima de 64K tokens. Prepara el material abundante del repositorio teniendo en cuenta esos límites por separado y el tamaño del resultado final. Mantén intactos los límites e identificadores de las fuentes y elimina el material irrelevante en lugar de suponer que una ventana grande elimina la necesidad de instrucciones enfocadas.

La ficha nativa recomienda temperatura 1.0 y top_p 0.95 para la generación y utiliza la plantilla de chat del modelo, incluido un prompt de generación, en flujos de texto y herramientas. Los límites de salida de sus ejemplos son ajustes de esos ejemplos, no sustitutos del máximo publicado del modelo. Cohere publica pesos BF16 y un artefacto FP8 identificado por separado. Selecciona el artefacto apropiado al preparar un despliegue.

Un resultado útil de North Mini Code es un artefacto de código inspeccionable o una explicación técnica vinculados a los requisitos proporcionados. Compara el resultado con el comportamiento original y la salida real de las herramientas, comprueba las hipótesis que afectan al código y conserva las fuentes y observaciones necesarias para la revisión. El modelo textual de programación aporta razonamiento y contenido generado; la aplicación que lo rodea realiza las operaciones que convierten esas propuestas en una tarea de software completada.