Cohere: North Mini Code (free)

North Mini Code 1.0 ist Coheres Modell für agentengestützte Softwareentwicklung, Terminalaufgaben und Codeerzeugung. Es verarbeitet Text und erzeugt Text, einschließlich Code, Erklärungen und Werkzeuganfragen. Der Hersteller veröffentlichte seine Gewichte unter Apache 2.0 und bezeichnet es als erstes Modell der North-Codeagentenfamilie. Es ist ein spezialisiertes Programmierprofil statt eines Modells für Bildverständnis oder eines allgemeinen Modells zur Bewertung von Entscheidungen.

Dünn besetzte Architektur und Vorbereitung von Programmieraufgaben

Das Modell hat insgesamt 30 Milliarden Parameter, von denen etwa 3 Milliarden aktiv sind. Sein Decoder-only-Transformer verwendet eine dünn besetzte Mixture-of-Experts-Architektur mit 128 Experten, acht aktivierten Experten je Token und einem dichten Layer vor den dünn besetzten Layern. Sliding-Window-Attention mit rotierenden Positionen wird im Verhältnis 3:1 mit globaler Attention ohne Positions-Embeddings verschachtelt. Die Zahl aktiver Parameter beschreibt den Rechenaufwand für ein Token und nicht die gesamte zu speichernde Gewichtsmenge.

Coheres Nachtraining verwendet zwei Phasen überwachten Fine-Tunings, gefolgt von Reinforcement Learning mit verifizierbaren Belohnungen, ausgerichtet auf Softwareentwicklung und Terminalarbeit. Der Hersteller beschreibt Training über mehrere Agentenumgebungen hinweg statt mit einem einzigen festen Gerüst. Das unterstützt eine Aufgabenvorbereitung anhand des benötigten Verhaltens und der verfügbaren Werkzeuge, während die umgebende Agentenumgebung für das Beschaffen von Dateien, Ausführen von Befehlen und Zurückgeben von Beobachtungen verantwortlich bleibt.

Eine Änderung auf Repository-Ebene vorbereiten

Stellen Sie aktuellen Code und aktuelles Verhalten, die gewünschte Änderung, relevante Datei- oder Schnittstellengrenzen und die Belege für den Abschluss bereit. Fügen Sie bei einem Fehler den beobachteten Fehler oder die fehlschlagende Eingabe und das erwartete Ergebnis hinzu. Nennen Sie bei einer Funktion das erforderliche Verhalten und die Kompatibilitätsbedingungen. Ein nützliches Endergebnis ist eine vorgeschlagene Codeänderung mit Erklärung und Ergebnissen tatsächlich ausgeführter Prüfungen.

Eine beispielhafte Anfrage kann die Erweiterung eines Parsers um eine zusätzliche unterstützte Eingabe bei Erhalt bestehender Formate verlangen. Benennen Sie repräsentative Eingaben und den Repository-Teil, der das Verhalten des Parsers definiert. Das Modell kann Code und Werkzeugbeobachtungen zur Entwicklung der Änderung verwenden; ein erzeugter Patch oder die Aussage, ein Befehl solle ausgeführt werden, belegt nicht den Erfolg dieses Befehls.

Terminalwerkzeuge und strukturierte Beobachtungen

Die native Modellkarte dokumentiert Training zur Werkzeugnutzung und empfiehlt Werkzeugbeschreibungen in JSON-Schema über das Chat-Template des Modells. Beschreiben Sie Zweck und Argumente eines Werkzeugs klar. Ein Werkzeug zur Befehlsausführung kann tatsächliche Ausgabe und Status zurückgeben, während ein Werkzeug zur Dateiprüfung das im nächsten Schritt benötigte Material liefert. Ordnen Sie jedes Werkzeugergebnis seiner Aufrufkennung zu, damit spätere Analysen die beabsichtigte Beobachtung verwenden.

Das Herstellerbeispiel bewahrt einen Werkzeugaufruf und den Denkprozess des Assistenten im Verlauf, führt das Werkzeug aus und ergänzt dessen Ergebnis vor einer erneuten Erzeugung. Das native Template-Beispiel verwendet ein strukturiertes Dictionary für das Werkzeugergebnis. Bewahren Sie diese Darstellung gemäß der dokumentierten Integration, statt anzunehmen, jede sachfremde API serialisiere Werkzeugergebnisse auf dieselbe Weise. Ein JSON-Schema für Werkzeugargumente ist etwas anderes als die Behauptung, beliebige schemabeschränkte Endausgaben würden unterstützt.

Interleaved Thinking und Verlauf über mehrere Gesprächsschritte

North Mini Code unterstützt Interleaved Thinking, dessen Aktivierung der Hersteller für Agentenarbeit empfiehlt. Übernehmen Sie vom Modell erzeugte Denkinhalte und Werkzeugaufrufe in folgende Agentenschritte und Gesprächsrunden. Das native Beispiel bewahrt ein reasoning-Feld bei der Assistentennachricht und liefert anschließend die entsprechende Werkzeugbeobachtung zurück. So bleiben die Informationen erhalten, anhand derer das Modell über die nächste Prüfung oder Änderung entschieden hat.

Bewahren Sie aktuelles Ziel, Quellmaterial und tatsächliche Beobachtungen im Aufgabenverlauf. Fassen Sie bei einer längeren Repository-Aufgabe das Endergebnis anhand des geänderten Verhaltens und des nützlichen Arbeitsergebnisses zusammen und erhalten Sie die zur Prüfung nötigen Belege. Interleaved Thinking bedeutet weder, dass eine kurze sichtbare Antwort keine Analyse erforderte, noch belegt es, dass eine vom Modell beschriebene Aktion bereits stattgefunden hat.

Eigenständige Code- und Erklärungsaufgaben

Der Hersteller nennt auch wissenschaftliche Programmierung und algorithmisches Schlussfolgern außerhalb einer Agentenschleife. Stellen Sie Problemdefinition, Ein- und Ausgabeformat, Randbedingungen, relevante numerische Annahmen und erwartetes Verhalten in Grenzfällen bereit. Fordern Sie eine vollständige Funktion oder ein vollständiges Programm an, wenn dieses Ergebnis benötigt wird, samt Erklärung in der für den Leser passenden Tiefe.

Stellen Sie für eine Codeerklärung die Implementierung und das zu klärende Verhalten oder die Abhängigkeit bereit. Benennen Sie bei Code zur Datenvisualisierung die bereitgestellten Felder und den gewünschten Vergleich, statt den Diagrammzweck unausgesprochen zu lassen. Die Entwicklungsbeispiele des Herstellers enthalten Codeerklärung, Bearbeitung, Visualisierung und Implementierung anhand einer Spezifikation. Dies sind Aufgabenmuster zur Codeerzeugung oder -änderung, kein Versprechen korrekter Ergebnisse für jedes Repository oder Framework.

Kontext, Ausgabe und Erzeugungseinstellungen

Modellkarte und API-Seite des Herstellers nennen ein Kontextfenster von 256K Tokens und eine maximale Ausgabe von 64K Tokens. Planen Sie umfangreiches Repository-Material anhand dieser getrennten Budgets und der Größe des Endergebnisses. Bewahren Sie Quellgrenzen und Kennungen und entfernen Sie irrelevantes Material, statt anzunehmen, ein großes Fenster mache ein gezieltes Briefing überflüssig.

Die native Modellkarte empfiehlt für die Erzeugung temperature 1,0 und top_p 0,95 und verwendet das Chat-Template des Modells einschließlich eines Erzeugungsprompts für Text- und Werkzeugabläufe. Ihre beispielhaften Ausgabelimits sind Einstellungen dieser Beispiele und kein Ersatz für das veröffentlichte Modellmaximum. Cohere veröffentlicht BF16-Gewichte und ein separat benanntes FP8-Artefakt. Wählen Sie bei der Vorbereitung einer Bereitstellung das passende Artefakt.

Ein nützliches North-Mini-Code-Ergebnis ist prüfbarer Code oder eine technische Erklärung mit Bezug auf die bereitgestellten Anforderungen. Vergleichen Sie das Ergebnis mit dem ursprünglichen Verhalten und der tatsächlichen Werkzeugausgabe, prüfen Sie den Code beeinflussende Annahmen und bewahren Sie die für eine Prüfung nötigen Quellen und Beobachtungen. Das reine Textmodell für Programmierung liefert Schlussfolgerungen und erzeugte Inhalte; die umgebende Anwendung führt die Operationen aus, die aus diesen Vorschlägen eine abgeschlossene Softwareaufgabe machen.