Cohere: North Mini Code (free)

North Mini Code 1.0 er Coheres model til agentbaseret softwareudvikling, terminalopgaver og kodegenerering. Den modtager tekst og producerer tekst, herunder kode, forklaringer og værktøjsforespørgsler. Producenten udgav dens vægte under Apache 2.0 og identificerer den som den første model i North-familien af kodeagenter. Den er en specialiseret kodeprofil frem for en model til billedforståelse eller en generisk model til at score beslutninger.

Sparsom arkitektur og forberedelse til kodeopgaver

Modellen har i alt 30 milliarder parametre med omkring 3 milliarder aktive. Dens decoder-only-Transformer bruger en sparsom Mixture of Experts med 128 eksperter, otte aktiveret pr. token, og et tæt lag før de sparsomme lag. Opmærksomhed i glidende vinduer med roterende positioner veksler med global opmærksomhed uden positionsembeddings i et forhold på 3:1. Tallet for aktive parametre beskriver den beregning, der bruges til et token, ikke det samlede sæt vægte, som skal lagres.

Coheres eftertræning bruger to trin med superviseret finjustering efterfulgt af forstærkningslæring med verificerbare belønninger, fokuseret på softwareudvikling og terminalarbejde. Producenten beskriver træning på tværs af flere agentrammer i stedet for ét fast stillads. Dette understøtter forberedelse af en opgave omkring den nødvendige adfærd og de tilgængelige værktøjer, mens den omgivende agentramme fortsat er ansvarlig for at hente filer, udføre kommandoer og returnere observationer.

Forbered en ændring på kodearkivniveau

Lever den aktuelle kode og adfærd, den ønskede ændring, de relevante fil- eller grænsefladegrænser og den dokumentation, der skal fastslå fuldførelse. Ved en fejl skal du medtage den observerede fejl eller det fejlende input og det forventede resultat. Ved en funktion skal du angive den nødvendige adfærd og kompatibilitetsbegrænsningerne. En nyttig endelig leverance er en foreslået kodeændring med en forklaring og resultater fra kontroller, der faktisk er kørt.

En illustrativ anmodning kan bede om at opdatere en parser til et yderligere understøttet input, mens eksisterende formater bevares. Identificér repræsentative input og den del af kodearkivet, som definerer parserens adfærd. Modellen kan bruge kode og værktøjsobservationer til at udvikle ændringen; en genereret patch eller en erklæring om, at en kommando bør køre, er ikke dokumentation for, at kommandoen lykkedes.

Terminalværktøjer og strukturerede observationer

Det oprindelige modelkort dokumenterer træning i værktøjsbrug og anbefaler værktøjsbeskrivelser i JSON-schema gennem modellens chatskabelon. Beskriv tydeligt et værktøjs formål og argumenter. Et værktøj til kommandoafvikling kan returnere det faktiske output og status, mens et værktøj til filundersøgelse kan returnere det materiale, næste trin har brug for. Hold hvert værktøjsresultat knyttet til dets kaldsidentifikator, så senere analyse bruger den tilsigtede observation.

Producentens eksempel bevarer et værktøjskald og assistentens ræsonnement i historikken, udfører værktøjet og tilføjer dets resultat før næste generering. Eksemplet på den oprindelige skabelon bruger en struktureret dictionary til værktøjsresultatet. Bevar denne repræsentation i henhold til den dokumenterede integration frem for at antage, at alle uvedkommende API'er serialiserer værktøjsresultater på samme måde. Et JSON-skema, der beskriver et værktøjs argumenter, er noget andet end en påstand om understøttelse af vilkårligt skemabegrænset endeligt output.

Indflettet tænkning og historik over flere samtalerunder

North Mini Code understøtter indflettet tænkning, som producenten anbefaler at aktivere til agentarbejde. Før modelgenereret tænkningsindhold og værktøjskald videre til efterfølgende agenttrin og samtalerunder. Det oprindelige eksempel bevarer et reasoning-felt med assistentbeskeden og returnerer den tilsvarende værktøjsobservation bagefter. Dette bevarer de oplysninger, modellen brugte, da den besluttede, hvad den næste gang skulle undersøge eller ændre.

Hold det aktuelle mål, kildematerialet og de faktiske observationer i opgavehistorikken. Ved en længere opgave i et kodearkiv skal du opsummere det endelige resultat omkring den ændrede adfærd og den nyttige leverance og samtidig bevare den dokumentation, der er nødvendig for at gennemgå den. Indflettet ræsonnement indebærer ikke, at et kort synligt svar ikke krævede nogen analyse, og fastslår heller ikke, at en handling beskrevet af modellen allerede er sket.

Selvstændige kode- og forklaringsopgaver

Producenten identificerer også videnskabelig programmering og algoritmisk ræsonnement uden for en agentløkke. Lever problemdefinitionen, input- og outputformatet, begrænsninger, relevante numeriske antagelser og forventet adfærd i grænsetilfælde. Bed om en fuldstændig funktion eller et program, når det er den nødvendige leverance, med en forklaring på det niveau, læseren har brug for.

Ved kodeforklaring skal du levere implementeringen og den konkrete adfærd eller afhængighed, som skal afklares. Ved datavisualiseringskode skal du identificere de leverede felter og den tilsigtede sammenligning frem for at lade diagrammets formål være underforstået. Producentens udviklingseksempler omfatter kodeforklaring, redigering, visualisering og implementering ud fra en specifikation. Disse er opgavemønstre til generering eller ændring af kode og ikke et løfte om korrekte resultater for alle kodearkiver eller frameworks.

Kontekst, output og genereringsindstillinger

Producentens modelkort og API-side angiver et kontekstvindue på 256K tokens og et maksimalt output på 64K tokens. Forbered omfattende kodearkivmateriale med hensyn til disse særskilte rammer og den endelige leverances størrelse. Hold kildegrænser og identifikatorer intakte, og fjern uvedkommende materiale frem for at antage, at et stort vindue fjerner behovet for en fokuseret opgavebeskrivelse.

Det oprindelige modelkort anbefaler temperature 1.0 og top_p 0.95 til generering og bruger modellens chatskabelon, herunder en genereringsprompt, til tekst- og værktøjsarbejdsgange. Eksemplets outputgrænser er indstillinger for disse eksempler og ikke en erstatning for modellens offentliggjorte maksimum. Cohere offentliggør BF16-vægte og en særskilt navngivet FP8-artefakt. Vælg den passende artefakt, når en udrulning forberedes.

Et nyttigt North Mini Code-resultat er en kodeleverance, der kan undersøges, eller en teknisk forklaring knyttet til de leverede krav. Sammenlign resultatet med den oprindelige adfærd og faktisk værktøjsoutput, kontrollér antagelser, der påvirker koden, og bevar de kilder og observationer, der er nødvendige for gennemgangen. Den rent tekstbaserede kodemodel leverer ræsonnement og genereret indhold; den omgivende applikation udfører de handlinger, som omsætter disse forslag til en fuldført softwareopgave.