Cohere: North Mini Code (free)

North Mini Code 1.0 è il modello di Cohere per ingegneria del software agentica, attività da terminale e generazione di codice. Riceve testo e produce testo, inclusi codice, spiegazioni e richieste a strumenti. Il produttore ne ha rilasciato i pesi con licenza Apache 2.0 e lo identifica come primo modello nella famiglia North di agenti di programmazione. È un profilo specializzato nella programmazione, non un modello di comprensione delle immagini o un valutatore generico di decisioni.

Architettura sparsa e preparazione delle attività di programmazione

Il modello ha 30 miliardi di parametri totali con circa 3 miliardi attivi. Il suo Transformer decoder-only usa una Mixture of Experts sparsa con 128 esperti, otto attivati per token, e un livello denso prima dei livelli sparsi. L'attenzione a finestra scorrevole con posizioni rotatorie è intercalata con attenzione globale senza embedding posizionali in rapporto 3:1. Il numero di parametri attivi descrive il calcolo usato per un token, non l'insieme totale dei pesi da memorizzare.

Il post-addestramento di Cohere usa due fasi di fine-tuning supervisionato seguite da apprendimento per rinforzo con ricompense verificabili, concentrandosi su ingegneria del software e lavoro da terminale. Il produttore descrive un addestramento su più sistemi di esecuzione per agenti invece che su un'unica struttura fissa. Questo favorisce la preparazione di un'attività attorno al comportamento richiesto e agli strumenti disponibili, mentre il sistema circostante resta responsabile di ottenere i file, eseguire i comandi e restituire le osservazioni.

Prepara una modifica a livello di repository

Fornisci il codice e il comportamento attuali, la modifica richiesta, i confini pertinenti dei file o delle interfacce e le prove che stabiliranno il completamento. Per un bug, includi l'errore osservato o l'input che fallisce e il risultato atteso. Per una funzionalità, indica il comportamento richiesto e i vincoli di compatibilità. Un artefatto finale utile è una modifica di codice proposta con una spiegazione e i risultati delle verifiche effettivamente eseguite.

Una richiesta esemplificativa può chiedere di aggiornare un parser per un ulteriore input supportato mantenendo i formati esistenti. Identifica gli input rappresentativi e la parte del repository che definisce il comportamento del parser. Il modello può usare codice e osservazioni degli strumenti per sviluppare la modifica; una patch generata o l'affermazione che un comando dovrebbe funzionare non dimostra che il comando sia riuscito.

Strumenti del terminale e osservazioni strutturate

La scheda nativa del modello documenta l'addestramento all'uso di strumenti e consiglia descrizioni in JSON Schema tramite il template di chat del modello. Descrivi chiaramente lo scopo e gli argomenti di uno strumento. Uno strumento di esecuzione di comandi può restituire output e stato effettivi, mentre uno strumento di ispezione dei file può restituire il materiale necessario al passaggio successivo. Mantieni ogni risultato associato al suo identificatore di chiamata, così che l'analisi successiva usi l'osservazione prevista.

L'esempio del produttore conserva nella cronologia una chiamata a uno strumento e il ragionamento dell'assistente, esegue lo strumento e aggiunge il risultato prima di generare di nuovo. Il suo esempio di template nativo usa un dizionario strutturato per il risultato dello strumento. Preserva tale rappresentazione secondo l'integrazione documentata, senza presumere che ogni API non correlata serializzi allo stesso modo i risultati degli strumenti. Uno schema JSON che descrive gli argomenti di uno strumento è diverso dall'affermare il supporto per output finali vincolati da schemi arbitrari.

Ragionamento intercalato e cronologia su più turni

North Mini Code supporta il ragionamento intercalato, che il produttore consiglia di abilitare per il lavoro agentico. Trasferisci il contenuto di ragionamento generato dal modello e le chiamate agli strumenti nei passaggi successivi dell'agente e nei turni della conversazione. L'esempio nativo mantiene un campo reasoning nel messaggio dell'assistente e restituisce in seguito l'osservazione corrispondente dello strumento. Questo preserva le informazioni usate dal modello per decidere cosa esaminare o modificare successivamente.

Mantieni nella cronologia l'obiettivo corrente, il materiale di partenza e le osservazioni effettive. Per un'attività di repository più lunga, riassumi il risultato finale attorno al comportamento modificato e all'artefatto utile, conservando le prove necessarie alla revisione. Il ragionamento intercalato non implica che una risposta visibile breve non abbia richiesto analisi, né stabilisce che un'azione descritta dal modello sia già avvenuta.

Attività autonome di programmazione e spiegazione

Il produttore identifica anche programmazione scientifica e ragionamento algoritmico al di fuori di un ciclo agentico. Fornisci la definizione del problema, il formato di input e output, i vincoli, le ipotesi numeriche pertinenti e il comportamento atteso nei casi limite. Chiedi una funzione o un programma completo quando è l'artefatto necessario, con una spiegazione al livello richiesto dal lettore.

Per la spiegazione del codice, fornisci l'implementazione e il comportamento o la dipendenza specifica da chiarire. Per il codice di visualizzazione dei dati, identifica i campi forniti e il confronto previsto, evitando di lasciare implicito lo scopo del grafico. Gli esempi di sviluppo del produttore comprendono spiegazione e modifica del codice, visualizzazione dei dati e implementazione a partire da una specifica. Sono schemi di attività per generare o modificare codice, non promesse di risultati corretti per ogni repository o framework.

Contesto, output e impostazioni di generazione

La scheda del modello e la pagina API del produttore elencano una finestra di contesto di 256K token e un output massimo di 64K token. Prepara materiale sostanziale del repository tenendo conto di questi limiti separati e delle dimensioni dell'artefatto finale. Mantieni intatti i confini e gli identificatori delle fonti ed elimina il materiale irrilevante, senza presumere che una finestra ampia elimini la necessità di un brief mirato.

La scheda nativa del modello consiglia temperature 1.0 e top_p 0.95 per la generazione e usa il template di chat del modello, incluso un prompt di generazione, per i flussi testuali e con strumenti. I limiti di output degli esempi sono impostazioni di quegli esempi, non sostituti del massimo pubblicato del modello. Cohere pubblica pesi BF16 e un artefatto FP8 con nome distinto. Seleziona l'artefatto appropriato quando prepari un deployment.

Un risultato utile di North Mini Code è un artefatto di codice esaminabile o una spiegazione tecnica collegata ai requisiti forniti. Confronta il risultato con il comportamento originale e con l'output effettivo degli strumenti, verifica le ipotesi che influiscono sul codice e conserva le fonti e le osservazioni necessarie alla revisione. Il modello di programmazione esclusivamente testuale fornisce ragionamento e contenuto generato; l'applicazione circostante esegue le operazioni che trasformano quelle proposte in un'attività software completata.