Cohere: North Mini Code (free)

A North Mini Code 1.0 a Cohere modellje ágensi szoftvermérnöki munkához, terminálfeladatokhoz és kódgeneráláshoz. Szöveget fogad és szöveget állít elő, beleértve a kódot, magyarázatokat és eszközkéréseket. A gyártó Apache 2.0 alatt adta ki a súlyait, és a North kódágenscsalád első modelljeként azonosítja. Specializált kódolási profil, nem képértelmező modell vagy általános döntéspontozó.

Ritka architektúra és kódolási felkészítés

A modell összesen 30 milliárd paraméterrel rendelkezik, körülbelül 3 milliárd aktív paraméterrel. Kizárólag dekóderes Transformere ritka szakértőkeveréket használ 128 szakértővel, tokenenként nyolc aktiválással és a ritka rétegeket megelőző sűrű réteggel. A forgatott pozíciókat alkalmazó csúszóablakos figyelem 3:1 arányban váltakozik a pozícióbeágyazás nélküli globális figyelemmel. Az aktív paraméterszám a tokenhez használt számítást írja le, nem a tárolandó teljes súlykészletet.

A Cohere utótanítása két felügyelt finomhangolási szakaszt használ, majd ellenőrizhető jutalmakkal végzett megerősítéses tanulást, szoftvermérnöki és terminálmunkára összpontosítva. A gyártó többféle ágensi futtatókörnyezeten átívelő tanítást ír le egyetlen rögzített váz helyett. Ez támogatja a feladat előkészítését a szükséges viselkedés és elérhető eszközök köré, miközben a környező futtatórendszer felel a fájlok megszerzéséért, parancsok végrehajtásáért és megfigyelések visszaadásáért.

Kódtárszintű módosítás előkészítése

Adja meg az aktuális kódot és viselkedést, a kért módosítást, a releváns fájl- vagy interfészhatárokat és a befejezést igazoló bizonyítékot. Hibánál mellékelje a megfigyelt hibát vagy hibát kiváltó bemenetet és az elvárt eredményt. Funkciónál adja meg a szükséges viselkedést és a kompatibilitási korlátokat. A hasznos végső eredménytermék javasolt kódmódosítás magyarázattal és ténylegesen lefutott ellenőrzések eredményeivel.

Szemléltető kérés lehet egy értelmező frissítése egy további támogatott bemenethez a meglévő formátumok megőrzésével. Azonosítsa a reprezentatív bemeneteket és a kódtár azon részét, amely az értelmező viselkedését meghatározza. A modell kódot és eszközmegfigyeléseket használhat a módosítás kidolgozásához; generált javítócsomag vagy egy parancs futtatására vonatkozó állítás nem bizonyítja, hogy a parancs sikerrel járt.

Termináleszközök és strukturált megfigyelések

A natív modellkártya eszközhasználati tanítást dokumentál, és JSON-sémás eszközleírásokat ajánl a modell csevegési sablonján keresztül. Világosan írja le az eszköz célját és argumentumait. A parancsvégrehajtó eszköz tényleges kimenetet és állapotot adhat vissza, míg a fájlvizsgáló eszköz a következő lépéshez szükséges anyagot. Minden eszközeredményt tartson a hívásazonosítójához kapcsolva, hogy a későbbi elemzés a megfelelő megfigyelést használja.

A gyártó példája megőrzi az eszközhívást és az asszisztens következtetését az előzményekben, végrehajtja az eszközt, majd az újabb generálás előtt hozzáadja az eredményét. Natív sablonpéldája strukturált szótárt használ az eszközeredményhez. A dokumentált integráció szerint őrizze meg ezt a reprezentációt, és ne feltételezze, hogy minden más, független API ugyanígy szerializálja az eszközeredményeket. Az eszköz argumentumait leíró JSON-séma különbözik a tetszőleges séma szerint korlátozott végső kimenet támogatásának állításától.

Közbeiktatott következtetés és többkörös előzmények

A North Mini Code támogatja a közbeiktatott következtetést, amelynek engedélyezését a gyártó ágensi munkához ajánlja. A modell által generált következtetési tartalmat és eszközhívásokat vigye tovább a következő ágenslépésekbe és beszélgetési körökbe. A natív példa egy reasoning mezőt őriz meg az asszisztens üzenetével, és utána adja vissza a megfelelő eszközmegfigyelést. Ez megőrzi a modell által a következő vizsgálat vagy módosítás eldöntéséhez használt információt.

Az aktuális célt, a forrásanyagot és a tényleges megfigyeléseket tartsa a feladatelőzményekben. Hosszabb kódtárfeladatnál a végső eredményt a módosított viselkedés és a hasznos eredménytermék köré összefoglalva adja át, megőrizve a felülvizsgálathoz szükséges bizonyítékot. A közbeiktatott következtetés nem jelenti azt, hogy a rövid látható válasz nem igényelt elemzést, és nem igazolja, hogy a modell által leírt művelet már megtörtént.

Önálló kódolási és magyarázati feladatok

A gyártó az ágenshurkon kívüli tudományos kódolást és algoritmikus következtetést is megjelöli. Adja meg a problémadefiníciót, a bemeneti és kimeneti formátumot, a korlátokat, a releváns számszerű feltételezéseket és az elvárt viselkedést szélső esetekben. Teljes függvényt vagy programot kérjen, ha arra van szükség eredménytermékként, az olvasó számára megfelelő szintű magyarázattal.

Kódmagyarázathoz adja meg a megvalósítást és a tisztázandó konkrét viselkedést vagy függőséget. Adatvizualizációs kódnál azonosítsa a megadott mezőket és a kívánt összehasonlítást, ahelyett hogy a diagram célját kimondatlanul hagyná. A gyártó fejlesztési példái kódmagyarázatot, szerkesztést, vizualizációt és specifikációból történő megvalósítást tartalmaznak. Ezek kód generálására vagy módosítására szolgáló feladatminták, nem ígéretek minden kódtár vagy keretrendszer helyes eredményére.

Kontextus, kimenet és generálási beállítások

A gyártó modellkártyája és API-oldala 256K tokenes kontextusablakot és legfeljebb 64K tokenes kimenetet sorol fel. A jelentős kódtáranyagot e külön keretek és a végső eredménytermék mérete alapján készítse elő. A forráshatárokat és azonosítókat tartsa érintetlenül, és távolítsa el az irreleváns anyagot, ne feltételezze, hogy a nagy ablak szükségtelenné teszi a célzott feladatleírást.

A natív modellkártya 1,0-es temperature és 0,95-ös top_p értéket ajánl generáláshoz, és a modell csevegési sablonját használja generálási utasítással együtt szöveges és eszközös munkafolyamatokhoz. Példabeli kimeneti korlátai az adott példák beállításai, nem a modell közzétett maximumának helyettesítői. A Cohere BF16 súlyokat és külön néven szereplő FP8 modellállományt tesz közzé. Telepítés előkészítésekor a megfelelő állományt válassza.

A hasznos North Mini Code-eredmény vizsgálható kódanyag vagy a megadott követelményekhez kapcsolt műszaki magyarázat. Hasonlítsa össze az eredményt az eredeti viselkedéssel és a tényleges eszközkimenettel, ellenőrizze a kódot befolyásoló feltételezéseket, és őrizze meg a felülvizsgálathoz szükséges forrást és megfigyeléseket. A kizárólag szöveges kódoló modell következtetést és generált tartalmat ad; a környező alkalmazás végzi el azokat a műveleteket, amelyek a javaslatokat befejezett szoftveres feladattá alakítják.