Cohere: North Mini Code (free)

North Mini Code 1.0 är Coheres modell för agentbaserad mjukvaruutveckling, terminaluppgifter och kodgenerering. Den tar emot text och producerar text, inklusive kod, förklaringar och verktygsbegäranden. Tillverkaren släppte dess vikter under Apache 2.0 och identifierar den som den första modellen i North-familjen för kodagenter. Det är en specialiserad programmeringsprofil snarare än en modell för bildförståelse eller en allmän modell för poängsättning av beslut.

Gles arkitektur och förberedelser för programmering

Modellen har totalt 30 miljarder parametrar med omkring 3 miljarder aktiva. Dess Transformer med enbart avkodare använder en gles mixture-of-experts-arkitektur med 128 experter, åtta aktiverade per token, och ett tätt lager före de glesa lagren. Attention med glidande fönster och roterande positioner varvas med global attention utan positionsinbäddningar i förhållandet 3:1. Siffran för aktiva parametrar beskriver beräkningen som används för en token, inte hela uppsättningen vikter som måste lagras.

Coheres efterträning använder två steg av övervakad finjustering följt av förstärkningsinlärning med verifierbara belöningar, inriktat på mjukvaruutveckling och terminalarbete. Tillverkaren beskriver träning i flera agentmiljöer i stället för en fast struktur. Det stödjer förberedelse av en uppgift utifrån nödvändigt beteende och tillgängliga verktyg, medan den omgivande agentmiljön förblir ansvarig för att hämta filer, utföra kommandon och returnera observationer.

Förbered en ändring på kodarkivsnivå

Tillhandahåll aktuell kod och aktuellt beteende, den begärda ändringen, relevanta fil- eller gränssnittsgränser och de belägg som ska fastställa slutförandet. För ett fel, inkludera det observerade felet eller de indata som orsakar fel och det förväntade resultatet. För en funktion, ange det nödvändiga beteendet och kompatibilitetsbegränsningarna. En användbar slutlig artefakt är ett föreslaget kodingrepp med en förklaring och resultat från kontroller som faktiskt kördes.

En illustrativ begäran kan be om att uppdatera en parser för ytterligare en indatatyp som stöds och samtidigt bevara befintliga format. Identifiera representativa indata och den del av kodarkivet som definierar parserns beteende. Modellen kan använda kod och verktygsobservationer för att utveckla ändringen; en genererad patch eller ett påstående om att ett kommando borde köras är inget belägg för att kommandot lyckades.

Terminalverktyg och strukturerade observationer

Det ursprungliga modellkortet dokumenterar träning i verktygsanvändning och rekommenderar verktygsbeskrivningar i JSON-schema genom modellens chattmall. Beskriv ett verktygs syfte och argument tydligt. Ett verktyg för kommandokörning kan returnera faktiska utdata och status, medan ett verktyg för filgranskning kan returnera materialet som nästa steg behöver. Håll varje verktygsresultat kopplat till sin anropsidentifierare så att senare analys använder den avsedda observationen.

Tillverkarens exempel behåller ett verktygsanrop och assistentens resonemang i historiken, utför verktyget och lägger till dess resultat före nästa generering. Exemplet med den egna mallen använder ett strukturerat nyckel-värde-objekt för verktygsresultatet. Bevara den representationen enligt den dokumenterade integrationen i stället för att anta att varje orelaterat API serialiserar verktygsresultat på samma sätt. Ett JSON-schema som beskriver ett verktygs argument skiljer sig från ett påstående om stöd för godtyckliga schemabegränsade slutliga utdata.

Inflätat tänkande och historik över flera turer

North Mini Code stödjer inflätat tänkande, vilket tillverkaren rekommenderar att aktivera för agentbaserat arbete. För vidare modellgenererat tänkandeinnehåll och verktygsanrop till efterföljande agentsteg och samtalsturer. Det ursprungliga exemplet behåller ett reasoning-fält i assistentmeddelandet och returnerar den motsvarande verktygsobservationen efteråt. Det bevarar informationen modellen använde när den beslutade vad som skulle granskas eller ändras härnäst.

Behåll det aktuella målet, källmaterialet och de faktiska observationerna i uppgiftshistoriken. För en längre kodarkivsuppgift, sammanfatta slutresultatet utifrån det ändrade beteendet och den användbara artefakten och behåll samtidigt beläggen som behövs för granskning. Inflätat resonemang betyder inte att ett kort synligt svar krävde noll analys, och det fastställer inte heller att en åtgärd som modellen beskriver redan har ägt rum.

Fristående uppgifter för kod och förklaring

Tillverkaren identifierar också vetenskaplig programmering och algoritmiskt resonemang utanför en agentslinga. Tillhandahåll problemdefinitionen, indata- och utdataformatet, begränsningar, relevanta numeriska antaganden och förväntat beteende i gränsfall. Be om en fullständig funktion eller ett program när det är artefakten som krävs, med en förklaring på den nivå läsaren behöver.

För kodförklaring, tillhandahåll implementationen och det specifika beteende eller beroende som ska klargöras. För datavisualiseringskod, identifiera de tillhandahållna fälten och den avsedda jämförelsen i stället för att lämna diagrammets syfte underförstått. Tillverkarens utvecklingsexempel omfattar kodförklaring, redigering, visualisering och implementering utifrån en specifikation. Det är uppgiftsmönster för att generera eller ändra kod, inte ett löfte om korrekta resultat för varje kodarkiv eller ramverk.

Kontext, utdata och genereringsinställningar

Tillverkarens modellkort och API-sida anger ett kontextfönster på 256K token och maximalt 64K utdatatoken. Förbered omfattande material från kodarkivet utifrån dessa separata budgetar och den slutliga artefaktens storlek. Håll källgränser och identifierare intakta och ta bort irrelevant material i stället för att anta att ett stort fönster gör en fokuserad uppdragsbeskrivning överflödig.

Det ursprungliga modellkortet rekommenderar temperature 1,0 och top_p 0,95 för generering och använder modellens chattmall, inklusive en genereringsprompt, för text- och verktygsflöden. Exempelgränserna för utdata är inställningar för dessa exempel, inte en ersättning för modellens publicerade maximum. Cohere publicerar BF16-vikter och en separat namngiven FP8-artefakt. Välj lämplig artefakt när en driftsättning förbereds.

Ett användbart North Mini Code-resultat är en granskningsbar kodartefakt eller teknisk förklaring knuten till de tillhandahållna kraven. Jämför resultatet med det ursprungliga beteendet och faktiska verktygsutdata, kontrollera antaganden som påverkar koden och behåll källan och observationerna som behövs för granskning. Den textbaserade programmeringsmodellen tillhandahåller resonemang och genererat innehåll; den omgivande applikationen utför åtgärderna som gör förslagen till en slutförd mjukvaruuppgift.