Cohere: North Mini Code (free)

North Mini Code 1.0 je model Cohere na agentové softvérové inžinierstvo, terminálové úlohy a generovanie kódu. Prijíma text a vytvára text vrátane kódu, vysvetlení a požiadaviek na nástroje. Výrobca vydal jeho váhy pod licenciou Apache 2.0 a označuje ho za prvý model rodiny North pre programovacích agentov. Ide o špecializovaný programovací profil, nie model na porozumenie obrázkom alebo všeobecné skórovanie rozhodnutí.

Riedka architektúra a príprava programovania

Model má celkovo 30 miliárd parametrov s približne 3 miliardami aktívnych. Jeho Transformer tvorený iba dekodérom používa riedku zmes expertov so 128 expertmi, ôsmimi aktivovanými na token a hustou vrstvou pred riedkymi vrstvami. Pozornosť v posuvnom okne s rotačnými pozíciami sa strieda s globálnou pozornosťou bez pozičných embeddingov v pomere 3:1. Údaj aktívnych parametrov opisuje výpočet pre token, nie celú množinu váh, ktorú treba ukladať.

Následný tréning Cohere používa dve fázy dolaďovania s dohľadom nasledované posilňovaným učením s overiteľnými odmenami, zamerané na softvérové inžinierstvo a prácu v termináli. Výrobca opisuje tréning vo viacerých agentových vykonávacích prostrediach namiesto jednej pevnej kostry. To podporuje prípravu úlohy podľa požadovaného správania a dostupných nástrojov, zatiaľ čo okolité vykonávacie prostredie zostáva zodpovedné za získanie súborov, vykonávanie príkazov a vracanie pozorovaní.

Pripravte zmenu na úrovni repozitára

Dodajte aktuálny kód a správanie, požadovanú zmenu, príslušné hranice súborov alebo rozhraní a dôkazy preukazujúce dokončenie. Pri chybe zahrňte pozorovanú chybu alebo zlyhávajúci vstup a očakávaný výsledok. Pri funkcii určte potrebné správanie a obmedzenia kompatibility. Užitočným konečným artefaktom je navrhnutá zmena kódu s vysvetlením a výsledkami kontrol, ktoré skutočne prebehli.

Ilustračná požiadavka môže žiadať aktualizáciu parsera o ďalší podporovaný vstup pri zachovaní existujúcich formátov. Určte reprezentatívne vstupy a časť repozitára definujúcu správanie parsera. Model môže na vývoj zmeny používať kód a pozorovania nástrojov; vygenerovaná oprava alebo tvrdenie, že príkaz má fungovať, nie sú dôkazom úspechu príkazu.

Terminálové nástroje a štruktúrované pozorovania

Natívna karta modelu dokumentuje tréning používania nástrojov a odporúča opisy nástrojov pomocou schémy JSON cez konverzačnú šablónu modelu. Účel a argumenty nástroja opíšte jasne. Nástroj vykonávania príkazov môže vrátiť skutočný výstup a stav, zatiaľ čo nástroj prezerania súborov môže vrátiť materiál potrebný pre ďalší krok. Každý výsledok nástroja uchovajte pri identifikátore jeho volania, aby neskoršia analýza používala zamýšľané pozorovanie.

Príklad výrobcu zachováva volanie nástroja a uvažovanie asistenta v histórii, vykoná nástroj a pridá jeho výsledok pred ďalším generovaním. Príklad natívnej šablóny používa štruktúrovaný slovník pre výsledok nástroja. Túto reprezentáciu zachovajte podľa dokumentovanej integrácie namiesto predpokladu, že každé nesúvisiace API serializuje výsledky nástrojov rovnako. Schéma JSON opisujúca argumenty nástroja sa líši od tvrdenia o podpore ľubovoľného konečného výstupu obmedzeného schémou.

Uvažovanie striedané s volaniami nástrojov a história viacerých obratov

North Mini Code podporuje uvažovanie striedané s volaniami nástrojov, ktoré výrobca odporúča zapnúť pri agentovej práci. Obsah uvažovania vygenerovaný modelom a volania nástrojov prenášajte do ďalších agentových krokov a obratov konverzácie. Natívny príklad uchováva pole reasoning pri správe asistenta a potom vracia zodpovedajúce pozorovanie nástroja. Tým zachováva informácie, ktoré model použil pri rozhodnutí, čo preskúmať alebo zmeniť ďalej.

V histórii úlohy uchovajte aktuálny cieľ, zdrojový materiál a skutočné pozorovania. Pri dlhšej úlohe s repozitárom zhrňte konečný výsledok podľa zmeneného správania a užitočného artefaktu a zachovajte dôkazy potrebné na kontrolu. Uvažovanie striedané s volaniami nástrojov neznamená, že krátka viditeľná odpoveď nepotrebovala analýzu, ani nepotvrdzuje, že akcia opísaná modelom už nastala.

Samostatné úlohy kódu a vysvetľovania

Výrobca uvádza aj vedecké programovanie a algoritmické uvažovanie mimo agentovej slučky. Dodajte definíciu problému, formát vstupu a výstupu, obmedzenia, relevantné číselné predpoklady a očakávané správanie na okrajoch. Keď je potrebným artefaktom úplná funkcia alebo program, vyžiadajte ich s vysvetlením na úrovni potrebnej pre čitateľa.

Pri vysvetľovaní kódu dodajte implementáciu a konkrétne správanie alebo závislosť na objasnenie. Pri kóde vizualizácie údajov určte dodané polia a zamýšľané porovnanie namiesto ponechania účelu grafu neurčeného. Vývojové príklady výrobcu zahŕňajú vysvetľovanie kódu, úpravy, vizualizáciu a implementáciu zo špecifikácie. Ide o vzory úloh na generovanie alebo úpravu kódu, nie prísľub správnych výsledkov pre každý repozitár či framework.

Kontext, výstup a nastavenia generovania

Karta modelu výrobcu a stránka API uvádzajú kontextové okno 256K tokenov a maximálny výstup 64K tokenov. Rozsiahly materiál repozitára pripravujte podľa týchto samostatných limitov a veľkosti konečného artefaktu. Zachovajte hranice zdrojov a identifikátory a odstráňte nerelevantný materiál namiesto predpokladu, že veľké okno odstraňuje potrebu cieleného zadania.

Natívna karta modelu odporúča pri generovaní temperature 1,0 a top_p 0,95 a pre textové aj nástrojové postupy používa konverzačnú šablónu modelu vrátane pokynu na generovanie. Limity výstupu príkladov sú nastaveniami týchto príkladov, nie náhradou zverejneného maxima modelu. Cohere zverejňuje váhy BF16 a samostatne pomenovaný artefakt FP8. Pri príprave nasadenia vyberte vhodný artefakt.

Užitočným výsledkom North Mini Code je kontrolovateľný kódový artefakt alebo technické vysvetlenie prepojené s dodanými požiadavkami. Výsledok porovnajte s pôvodným správaním a skutočným výstupom nástrojov, overte predpoklady ovplyvňujúce kód a zachovajte zdroj a pozorovania potrebné na kontrolu. Čisto textový programovací model poskytuje uvažovanie a vygenerovaný obsah; okolitá aplikácia vykonáva operácie meniace tieto návrhy na dokončenú softvérovú úlohu.