Cohere: North Mini Code (free)

North Mini Code 1.0 je model Cohere pro softwarové inženýrství s agenty, terminálové úlohy a generování kódu. Přijímá text a vytváří text včetně kódu, vysvětlení a požadavků na nástroje. Výrobce vydal váhy pod Apache 2.0 a označuje jej za první model rodiny programátorských agentů North. Jde o specializovaný programátorský profil, nikoli model pro porozumění obrázkům nebo obecné skórování rozhodnutí.

Řídká architektura a příprava na programování

Model má celkem 30 miliard parametrů a přibližně 3 miliardy aktivních. Jeho Transformer pouze s dekodérem používá řídkou směs expertů se 128 experty, osmi aktivovanými na token a hustou vrstvou před řídkými vrstvami. Pozornost v posuvném okně s rotačními pozicemi se prokládá s globální pozorností bez pozičních embeddingů v poměru 3:1. Údaj o aktivních parametrech popisuje výpočet použitý pro token, nikoli úplnou sadu vah, kterou je nutné uložit.

Následné trénování Cohere používá dvě fáze dolaďování s učitelem následované posilovaným učením s ověřitelnými odměnami, zaměřeným na softwarové inženýrství a práci v terminálu. Výrobce popisuje trénování napříč více prostředími agentů místo jediné pevné kostry. To podporuje přípravu úlohy podle požadovaného chování a dostupných nástrojů, zatímco okolní prostředí nadále odpovídá za získávání souborů, spouštění příkazů a vracení pozorování.

Připravte změnu na úrovni repozitáře

Dodejte aktuální kód a chování, požadovanou změnu, relevantní hranice souborů či rozhraní a důkazy, které doloží dokončení. U chyby zahrňte pozorovanou chybu nebo selhávající vstup a očekávaný výsledek. U funkce určete požadované chování a omezení kompatibility. Užitečným konečným výstupem je navržená změna kódu s vysvětlením a výsledky kontrol, které skutečně proběhly.

Ukázkový požadavek může žádat úpravu parseru pro další podporovaný vstup při zachování stávajících formátů. Určete reprezentativní vstupy a část repozitáře definující chování parseru. Model může použít kód a pozorování nástrojů k vytvoření změny; vygenerovaná úprava nebo tvrzení, že se má spustit příkaz, není důkazem jeho úspěchu.

Terminálové nástroje a strukturovaná pozorování

Nativní karta modelu dokumentuje trénování používání nástrojů a doporučuje popisy nástrojů ve schématu JSON prostřednictvím chatovací šablony modelu. Jasně popište účel a argumenty nástroje. Nástroj pro spouštění příkazů může vrátit skutečný výstup a stav, zatímco nástroj pro prohlížení souborů může vrátit materiál potřebný pro další krok. Každý výsledek nástroje propojte s identifikátorem jeho volání, aby pozdější analýza používala správné pozorování.

Příklad výrobce zachovává v historii volání nástroje a uvažování asistenta, provádí nástroj a před dalším generováním přidává jeho výsledek. Příklad nativní šablony používá pro výsledek nástroje strukturovaný slovník. Zachovejte tuto reprezentaci podle zdokumentované integrace místo předpokladu, že každé nesouvisející API serializuje výsledky nástrojů stejně. Schéma JSON popisující argumenty nástroje se liší od tvrzení o podpoře libovolného konečného výstupu omezeného schématem.

Prokládané uvažování a historie více tahů

North Mini Code podporuje prokládané uvažování, jehož zapnutí výrobce doporučuje pro práci agentů. Obsah uvažování vygenerovaný modelem a volání nástrojů přenášejte do následujících kroků agenta i tahů konverzace. Nativní příklad uchovává pole uvažování se zprávou asistenta a poté vrací odpovídající pozorování nástroje. Zachovává tak informace, které model použil při rozhodování o dalším prohlížení nebo změně.

V historii úlohy udržujte aktuální cíl, podklady a skutečná pozorování. U delší úlohy v repozitáři shrňte konečný výsledek podle změněného chování a užitečného výstupu a uchovejte důkazy potřebné ke kontrole. Prokládané uvažování neznamená, že krátká viditelná odpověď nevyžadovala analýzu, ani nedokládá, že akce popsaná modelem už proběhla.

Samostatné úlohy s kódem a vysvětlením

Výrobce uvádí také vědecké programování a algoritmické uvažování mimo smyčku agenta. Dodejte definici problému, formát vstupu a výstupu, omezení, relevantní číselné předpoklady a očekávané chování v krajních případech. Pokud je požadovaným výstupem úplná funkce nebo program, žádejte je s vysvětlením na úrovni potřebné pro čtenáře.

Pro vysvětlení kódu dodejte implementaci a konkrétní chování nebo závislost k objasnění. U kódu pro vizualizaci dat určete dodaná pole a zamýšlené porovnání místo ponechání účelu grafu nevysloveného. Vývojové příklady výrobce zahrnují vysvětlování a úpravy kódu, vizualizaci dat a implementaci podle specifikace. Jde o vzory úloh pro generování či úpravu kódu, nikoli slib správných výsledků pro každý repozitář nebo framework.

Kontext, výstup a nastavení generování

Karta modelu a stránka API výrobce uvádějí kontextové okno 256K tokenů a maximální výstup 64K tokenů. Rozsáhlý materiál repozitáře připravujte s ohledem na tyto oddělené limity a velikost konečného výstupu. Zachovejte hranice zdrojů a identifikátory a odstraňte nerelevantní materiál místo předpokladu, že velké okno odstraňuje potřebu cíleného zadání.

Nativní karta modelu doporučuje pro generování teplotu 1,0 a top_p 0,95 a používá chatovací šablonu modelu včetně zadání pro generování pro textové postupy a nástroje. Limity výstupu v příkladech jsou nastavení těchto příkladů, nikoli náhrada zveřejněného maxima modelu. Cohere zveřejňuje váhy BF16 a samostatně pojmenovaný artefakt FP8. Při přípravě nasazení zvolte vhodný artefakt.

Užitečným výsledkem North Mini Code je kontrolovatelný kódový výstup nebo technické vysvětlení navázané na dodané požadavky. Porovnejte výsledek s původním chováním a skutečným výstupem nástrojů, ověřte předpoklady ovlivňující kód a uchovejte zdroje a pozorování potřebné ke kontrole. Čistě textový programátorský model poskytuje uvažování a generovaný obsah; okolní aplikace provádí operace, které tyto návrhy mění v dokončenou softwarovou úlohu.