Cohere: North Mini Code (free)

North Mini Code 1.0 é o modelo da Cohere para engenharia de software com agentes, tarefas de terminal e geração de código. Recebe texto e produz texto, incluindo código, explicações e pedidos de ferramentas. O fabricante disponibilizou os pesos sob Apache 2.0 e identifica-o como o primeiro modelo da família de agentes de código North. É um perfil especializado de programação, e não um modelo de compreensão de imagens ou um avaliador genérico de decisões.

Arquitetura esparsa e preparação para programação

O modelo tem 30 mil milhões de parâmetros no total, com cerca de 3 mil milhões ativos. O seu Transformer apenas de descodificador utiliza uma mistura esparsa de especialistas com 128 especialistas, oito ativados por token e uma camada densa antes das camadas esparsas. A atenção de janela deslizante com posições rotativas é intercalada com atenção global sem embeddings posicionais numa proporção de 3:1. O número de parâmetros ativos descreve o cálculo utilizado para um token, e não o conjunto total de pesos que tem de ser armazenado.

O pós-treino da Cohere utiliza duas etapas de afinação supervisionada seguidas de aprendizagem por reforço com recompensas verificáveis, centradas na engenharia de software e no trabalho de terminal. O fabricante descreve treino em vários ambientes de execução de agentes, em vez de uma única estrutura fixa. Isto apoia a preparação de uma tarefa em torno do comportamento exigido e das ferramentas disponíveis, enquanto o ambiente envolvente continua responsável por obter ficheiros, executar comandos e devolver observações.

Prepare uma alteração ao nível do repositório

Forneça o código e o comportamento atuais, a alteração pedida, os limites relevantes de ficheiros ou interfaces e os elementos que estabelecerão a conclusão. Para um erro, inclua o erro observado ou a entrada com falha e o resultado esperado. Para uma funcionalidade, indique o comportamento exigido e as restrições de compatibilidade. Um resultado final útil é uma alteração de código proposta com uma explicação e resultados de verificações efetivamente executadas.

Um pedido ilustrativo pode solicitar a atualização de um analisador para uma entrada adicional suportada, preservando os formatos existentes. Identifique entradas representativas e a parte do repositório que define o comportamento do analisador. O modelo pode utilizar código e observações de ferramentas para desenvolver a alteração; uma alteração gerada ou uma afirmação de que um comando deve ser executado não é prova de que o comando tenha sido bem-sucedido.

Ferramentas de terminal e observações estruturadas

A ficha nativa do modelo documenta treino de utilização de ferramentas e recomenda descrições de ferramentas em esquema JSON através do formato de conversação do modelo. Descreva claramente a finalidade e os argumentos de uma ferramenta. Uma ferramenta de execução de comandos pode devolver a saída e o estado reais, enquanto uma ferramenta de inspeção de ficheiros pode devolver o material necessário à etapa seguinte. Mantenha cada resultado de ferramenta associado ao identificador da respetiva chamada, para que a análise posterior utilize a observação pretendida.

O exemplo do fabricante preserva uma chamada de ferramenta e o raciocínio do assistente no histórico, executa a ferramenta e acrescenta o resultado antes de voltar a gerar. O exemplo do formato nativo utiliza um dicionário estruturado para o resultado da ferramenta. Preserve essa representação segundo a integração documentada, em vez de presumir que todas as APIs sem relação serializam resultados de ferramentas da mesma forma. Um esquema JSON que descreve os argumentos de uma ferramenta é diferente de uma afirmação de suporte a saída final arbitrária sujeita a esquema.

Raciocínio intercalado e histórico com vários turnos

North Mini Code suporta raciocínio intercalado, que o fabricante recomenda ativar para trabalho com agentes. Transporte o conteúdo de raciocínio gerado pelo modelo e as chamadas de ferramentas para as etapas seguintes do agente e os turnos de conversa. O exemplo nativo mantém um campo de raciocínio com a mensagem do assistente e devolve depois a observação de ferramenta correspondente. Isto preserva a informação que o modelo utilizou ao decidir o que examinar ou alterar a seguir.

Mantenha o objetivo atual, o material de origem e as observações reais no histórico da tarefa. Para uma tarefa de repositório mais longa, resuma o resultado final em torno do comportamento alterado e do conteúdo útil, mantendo os elementos necessários à revisão. O raciocínio intercalado não implica que uma resposta visível curta não tenha exigido análise, nem estabelece que uma ação descrita pelo modelo já tenha ocorrido.

Tarefas autónomas de código e explicação

O fabricante identifica também programação científica e raciocínio algorítmico fora de um ciclo de agente. Forneça a definição do problema, os formatos de entrada e saída, as restrições, os pressupostos numéricos relevantes e o comportamento esperado nos casos-limite. Peça uma função ou um programa completo quando esse for o resultado exigido, com uma explicação ao nível necessário para o leitor.

Para explicação de código, forneça a implementação e o comportamento ou a dependência específicos a esclarecer. Para código de visualização de dados, identifique os campos fornecidos e a comparação pretendida, em vez de deixar implícita a finalidade do gráfico. Os exemplos de desenvolvimento do fabricante incluem explicação e edição de código, visualização e implementação a partir de uma especificação. São padrões de tarefas para gerar ou modificar código, e não uma promessa de resultados corretos para todos os repositórios ou ambientes de desenvolvimento.

Contexto, saída e definições de geração

A ficha do modelo e a página de API do fabricante indicam uma janela de contexto de 256K tokens e uma saída máxima de 64K tokens. Prepare material substancial do repositório em torno desses limites separados e da dimensão do resultado final. Mantenha intactos os limites e os identificadores das fontes e remova material irrelevante, em vez de presumir que uma janela grande elimina a necessidade de um pedido focado.

A ficha nativa do modelo recomenda temperature 1.0 e top_p 0.95 para geração e utiliza o formato de conversação do modelo, incluindo um prompt de geração, para fluxos de texto e ferramentas. Os limites de saída dos exemplos são definições desses exemplos, e não substitutos do máximo publicado do modelo. A Cohere publica pesos BF16 e um modelo FP8 com nome separado. Selecione o formato adequado ao preparar uma implementação.

Um resultado North Mini Code útil é um conteúdo de código ou uma explicação técnica inspecionável, ligado aos requisitos fornecidos. Compare o resultado com o comportamento original e a saída real das ferramentas, verifique os pressupostos que afetam o código e conserve a fonte e as observações necessárias à revisão. O modelo de programação exclusivamente textual fornece raciocínio e conteúdo gerado; a aplicação envolvente executa as operações que transformam essas propostas numa tarefa de software concluída.