Cohere: North Mini Code (free)

North Mini Code 1.0 ist Coheres Modell für agentenbasierte Softwareentwicklung, Terminalaufgaben und Codegenerierung. Es verarbeitet Text und erzeugt Text, einschliesslich Code, Erklärungen und Werkzeuganforderungen. Der Hersteller veröffentlichte seine Gewichte unter Apache 2.0 und bezeichnet es als erstes Modell der North-Codeagentenfamilie. Es ist ein spezialisiertes Programmierprofil und kein Modell für Bildverständnis oder allgemeine Entscheidungsbewertung.

Dünn besetzte Architektur und Programmiervorbereitung

Das Modell hat insgesamt 30 Milliarden Parameter, von denen etwa 3 Milliarden aktiv sind. Sein reiner Decoder-Transformer verwendet ein dünn besetztes Mixture of Experts mit 128 Experten, davon acht pro Token aktiviert, sowie eine dichte Schicht vor den dünn besetzten Schichten. Sliding-Window-Attention mit rotierenden Positionen wechselt im Verhältnis 3:1 mit globaler Attention ohne Positions-Embeddings. Die Zahl aktiver Parameter beschreibt den Rechenaufwand pro Token und nicht den gesamten zu speichernden Gewichtssatz.

Coheres Nachtraining verwendet zwei Phasen überwachten Feintrainings, gefolgt von Reinforcement Learning mit überprüfbaren Belohnungen, ausgerichtet auf Softwareentwicklung und Terminalarbeit. Der Hersteller beschreibt Training über mehrere Agentenumgebungen statt eines festen Gerüsts. Dies unterstützt die Vorbereitung einer Aufgabe anhand des erforderlichen Verhaltens und verfügbarer Werkzeuge, während die umgebende Agentenumgebung für Dateibeschaffung, Befehlsausführung und Rückgabe von Beobachtungen verantwortlich bleibt.

Eine Änderung auf Repository-Ebene vorbereiten

Stellen Sie aktuellen Code und aktuelles Verhalten, die gewünschte Änderung, relevante Datei- oder Schnittstellengrenzen und die Belege bereit, die den Abschluss bestätigen sollen. Fügen Sie bei einem Fehler die beobachtete Fehlermeldung oder fehlschlagende Eingabe sowie das erwartete Ergebnis hinzu. Benennen Sie bei einer Funktionserweiterung das erforderliche Verhalten und Kompatibilitätsgrenzen. Ein brauchbares Endergebnis ist eine vorgeschlagene Codeänderung mit Erklärung und Ergebnissen tatsächlich ausgeführter Prüfungen.

Eine beispielhafte Anfrage kann die Anpassung eines Parsers für eine zusätzliche unterstützte Eingabe unter Bewahrung vorhandener Formate verlangen. Benennen Sie repräsentative Eingaben und den Repository-Teil, der das Parserverhalten definiert. Das Modell kann Code und Werkzeugbeobachtungen zur Entwicklung der Änderung verwenden; ein erzeugter Patch oder die Aussage, ein Befehl solle laufen, belegt nicht dessen Erfolg.

Terminalwerkzeuge und strukturierte Beobachtungen

Die native Modellkarte dokumentiert Training zur Werkzeugnutzung und empfiehlt Werkzeugbeschreibungen als JSON-Schema über die Chatvorlage des Modells. Beschreiben Sie Zweck und Argumente eines Werkzeugs klar. Ein Befehlsausführungswerkzeug kann die tatsächliche Ausgabe und den Status zurückgeben, während ein Dateiprüfwerkzeug das für den nächsten Schritt benötigte Material liefert. Ordnen Sie jedes Werkzeugergebnis seiner Aufrufkennung zu, damit spätere Analysen die beabsichtigte Beobachtung verwenden.

Das Herstellerbeispiel bewahrt einen Werkzeugaufruf und das Schlussfolgern des Assistenten im Verlauf, führt das Werkzeug aus und ergänzt vor erneuter Generierung sein Ergebnis. Das native Vorlagenbeispiel verwendet ein strukturiertes Dictionary für das Werkzeugergebnis. Bewahren Sie diese Darstellung gemäss der dokumentierten Integration, statt anzunehmen, jede andere API serialisiere Werkzeugergebnisse gleich. Ein JSON-Schema zur Beschreibung von Werkzeugargumenten unterscheidet sich von einer behaupteten Unterstützung beliebiger schemagebundener Endausgaben.

Verschachteltes Nachdenken und mehrstufiger Dialogverlauf

North Mini Code unterstützt verschachteltes Nachdenken, dessen Aktivierung der Hersteller für agentenbasierte Arbeit empfiehlt. Übernehmen Sie modellgenerierte Denkinhalte und Werkzeugaufrufe in nachfolgende Agentenschritte und Dialogbeiträge. Das native Beispiel bewahrt ein reasoning-Feld in der Assistentennachricht und gibt danach die zugehörige Werkzeugbeobachtung zurück. Dies erhält die Informationen, auf deren Grundlage das Modell die nächste Prüfung oder Änderung gewählt hat.

Bewahren Sie das aktuelle Ziel, Quellmaterial und tatsächliche Beobachtungen im Aufgabenverlauf. Fassen Sie bei längeren Repository-Aufgaben das Endergebnis anhand des geänderten Verhaltens und des nutzbaren Ergebnisses zusammen und behalten Sie die für die Prüfung nötigen Belege. Verschachteltes Schlussfolgern bedeutet weder, dass eine kurze sichtbare Antwort keine Analyse erforderte, noch belegt es, dass eine vom Modell beschriebene Aktion bereits stattgefunden hat.

Eigenständige Code- und Erklärungsaufgaben

Der Hersteller nennt auch wissenschaftliche Programmierung und algorithmisches Schlussfolgern ausserhalb einer Agentenschleife. Stellen Sie Problemdefinition, Ein- und Ausgabeformat, Randbedingungen, relevante numerische Annahmen und erwartetes Verhalten an Grenzfällen bereit. Fordern Sie eine vollständige Funktion oder ein vollständiges Programm an, wenn dies das erforderliche Ergebnis ist, mit einer dem Lesebedarf entsprechenden Erklärung.

Stellen Sie für Codeerklärungen die Implementierung und das konkret zu erläuternde Verhalten oder die Abhängigkeit bereit. Benennen Sie für Datenvisualisierungscode die bereitgestellten Felder und den beabsichtigten Vergleich, statt den Diagrammzweck unausgesprochen zu lassen. Die Entwicklungsbeispiele des Herstellers umfassen Codeerklärung, Bearbeitung, Visualisierung und Implementierung anhand einer Spezifikation. Dies sind Aufgabenmuster für Codeerzeugung oder Änderung, kein Versprechen korrekter Ergebnisse für jedes Repository oder Framework.

Kontext, Ausgabe und Generierungseinstellungen

Modellkarte und API-Seite des Herstellers nennen ein Kontextfenster von 256K Tokens und eine maximale Ausgabe von 64K Tokens. Richten Sie umfangreiches Repository-Material an diesen separaten Budgets und der Grösse des Endergebnisses aus. Bewahren Sie Quellgrenzen und Kennungen und entfernen Sie irrelevantes Material, statt anzunehmen, ein grosses Fenster mache eine fokussierte Aufgabenbeschreibung überflüssig.

Die native Modellkarte empfiehlt temperature 1.0 und top_p 0.95 für die Generierung und verwendet die Chatvorlage des Modells einschliesslich Generierungsprompt für Text- und Werkzeugabläufe. Ihre beispielhaften Ausgabelimits sind Einstellungen dieser Beispiele und kein Ersatz für das veröffentlichte Modellmaximum. Cohere veröffentlicht BF16-Gewichte und ein separat benanntes FP8-Artefakt. Wählen Sie bei einer Bereitstellung das passende Artefakt.

Ein brauchbares North-Mini-Code-Ergebnis ist überprüfbarer Code oder eine technische Erklärung mit Bezug zu den bereitgestellten Anforderungen. Vergleichen Sie das Ergebnis mit dem ursprünglichen Verhalten und tatsächlicher Werkzeugausgabe, prüfen Sie codewirksame Annahmen und bewahren Sie Quellen und Beobachtungen für die Prüfung. Das reine Textmodell für Programmierung liefert Schlussfolgern und erzeugte Inhalte; die umgebende Anwendung führt die Operationen aus, die diese Vorschläge in eine abgeschlossene Softwareaufgabe verwandeln.