Cohere: North Mini Code (free)

North Mini Code 1.0 on Coheren malli agenttipohjaiseen ohjelmistotekniikkaan, päätetyöskentelyyn ja koodin tuottamiseen. Se vastaanottaa ja tuottaa tekstiä, kuten koodia, selityksiä ja työkalupyyntöjä. Valmistaja julkaisi sen painot Apache 2.0 -lisenssillä ja nimeää sen North-koodiagenttiperheen ensimmäiseksi malliksi. Se on erikoistunut ohjelmointiprofiili eikä kuvien ymmärtämismalli tai yleinen päätösten pisteyttäjä.

Harva arkkitehtuuri ja ohjelmointivalmistelu

Mallissa on yhteensä 30 miljardia parametria, joista noin 3 miljardia on aktiivisia. Sen pelkän dekooderin Transformer käyttää harvaa asiantuntijasekoitusta, jossa on 128 asiantuntijaa, kahdeksan aktivoituna tokenia kohti, sekä tiheä kerros ennen harvoja kerroksia. Kiertäviä positioita käyttävä liukuvan ikkunan huomio lomittuu ilman paikkaupotuksia toimivan globaalin huomion kanssa suhteessa 3:1. Aktiivisten parametrien määrä kuvaa tokenille käytettyä laskentaa, ei koko tallennettavaa painojoukkoa.

Coheren jälkikoulutus käyttää kahta ohjatun hienosäädön vaihetta, joita seuraa vahvistusoppiminen todennettavilla palkkioilla, painopisteenä ohjelmistotekniikka ja päätetyö. Valmistaja kuvaa koulutusta useissa agenttikehyksissä yhden kiinteän rungon sijaan. Tämä tukee tehtävän valmistelua vaaditun toiminnan ja saatavilla olevien työkalujen ympärille, mutta ympäröivä kehys vastaa edelleen tiedostojen hankkimisesta, komentojen suorittamisesta ja havaintojen palauttamisesta.

Valmistele ohjelmistovarastotason muutos

Anna nykyinen koodi ja toiminta, pyydetty muutos, olennaiset tiedosto- tai rajapintarajat ja näyttö, joka osoittaa valmistumisen. Sisällytä virheeseen havaittu virheilmoitus tai virheeseen johtava syöte sekä odotettu tulos. Kerro ominaisuudelle vaadittu toiminta ja yhteensopivuusrajoitteet. Hyödyllinen lopputuotos on koodimuutosehdotus, selitys ja tulokset todella suoritetuista tarkistuksista.

Havainnollistava pyyntö voi pyytää päivittämään jäsentimen tukemaan uutta syötettä säilyttäen nykyiset muodot. Yksilöi edustavat syötteet ja ohjelmistovaraston osa, joka määrittää jäsentimen toiminnan. Malli voi kehittää muutosta koodin ja työkaluhavaintojen avulla; tuotettu korjaus tai toteamus, että komennon pitäisi toimia, ei osoita komennon onnistumista.

Päätetyökalut ja rakenteiset havainnot

Natiivi mallikortti dokumentoi työkalujen käyttökoulutuksen ja suosittelee JSON-skeemallisia työkalukuvauksia mallin keskustelumallineen kautta. Kuvaa työkalun tarkoitus ja argumentit selkeästi. Komennonsuoritustyökalu voi palauttaa todellisen tulosteen ja tilan, kun taas tiedostontarkastelutyökalu voi palauttaa seuraavan vaiheen tarvitseman aineiston. Säilytä jokainen työkalutulos yhteydessä sen kutsutunnisteeseen, jotta myöhempi analyysi käyttää tarkoitettua havaintoa.

Valmistajan esimerkki säilyttää työkalukutsun ja avustajan päättelyn historiassa, suorittaa työkalun ja lisää sen tuloksen ennen seuraavaa generointia. Sen natiivi malline-esimerkki käyttää työkalutuloksena rakenteista sanakirjaa. Säilytä tämä esitysmuoto dokumentoidun integraation mukaan sen sijaan, että olettaisit kaikkien asiaan liittymättömien APIen sarjallistavan työkalutulokset samalla tavalla. Työkalun argumentteja kuvaava JSON-skeema on eri asia kuin väite mielivaltaisen skeemarajoitetun lopputulosteen tuesta.

Lomitettu päättely ja monivuorohistoria

North Mini Code tukee lomitettua päättelyä, jonka valmistaja suosittelee ottamaan käyttöön agenttityössä. Siirrä mallin tuottama päättelysisältö ja työkalukutsut seuraaviin agenttivaiheisiin ja keskusteluvuoroihin. Natiivi esimerkki säilyttää reasoning-kentän avustajan viestissä ja palauttaa vastaavan työkaluhavainnon sen jälkeen. Näin säilyvät tiedot, joita malli käytti päättäessään seuraavaksi tutkittavasta tai muutettavasta kohteesta.

Säilytä nykyinen tavoite, lähdeaineisto ja todelliset havainnot tehtävähistoriassa. Tiivistä pitkän ohjelmistovarastotehtävän lopputulos muuttuneen toiminnan ja hyödyllisen tuotoksen ympärille säilyttäen tarkistuksessa tarvittava näyttö. Lomitettu päättely ei tarkoita, ettei lyhyt näkyvä vastaus tarvitsisi analyysia, eikä se osoita, että mallin kuvaama toimenpide olisi jo tapahtunut.

Itsenäiset koodi- ja selitystehtävät

Valmistaja nimeää myös tieteellisen ohjelmoinnin ja algoritmisen päättelyn agenttisilmukan ulkopuolella. Anna ongelman määrittely, syöte- ja tulostemuoto, rajoitteet, olennaiset numeeriset oletukset ja odotettu toiminta rajatapauksissa. Pyydä täydellistä funktiota tai ohjelmaa, kun se on tarvittava tuotos, sekä lukijan tarvitseman tason selitys.

Anna koodin selitykseen toteutus ja täsmällinen selvennettävä toiminta tai riippuvuus. Yksilöi datan visualisointikoodissa annetut kentät ja aiottu vertailu sen sijaan, että jättäisit kaavion tarkoituksen avoimeksi. Valmistajan kehitysesimerkkeihin kuuluvat koodin selitys, muokkaus, visualisointi ja toteutus määrittelystä. Ne ovat tehtävämalleja koodin luomiseen tai muokkaamiseen eivätkä lupaus oikeista tuloksista jokaisessa ohjelmistovarastossa tai kehyksessä.

Konteksti, tuloste ja generointiasetukset

Valmistajan mallikortti ja API-sivu luettelevat 256K tokenin konteksti-ikkunan ja 64K tokenin enimmäistulosteen. Valmistele laaja ohjelmistovarastoaineisto näiden erillisten kiintiöiden ja lopputuotoksen koon mukaan. Säilytä lähderajat ja tunnisteet sekä poista epäolennainen aineisto sen sijaan, että olettaisit suuren ikkunan poistavan kohdennetun tehtävänannon tarpeen.

Natiivi mallikortti suosittelee generointiin lämpötilaa 1.0 ja top_p-arvoa 0.95 sekä käyttää mallin keskustelumallinetta generointikehotteineen teksti- ja työkalutyönkuluissa. Sen esimerkkien tulosterajat ovat näiden esimerkkien asetuksia eivätkä korvaa mallin julkaistua enimmäisrajaa. Cohere julkaisee BF16-painot ja erikseen nimetyn FP8-tuotoksen. Valitse sopiva tuotos valmistellessasi käyttöönottoa.

Hyödyllinen North Mini Code -tulos on tarkasteltava koodituotos tai tekninen selitys, joka liittyy annettuihin vaatimuksiin. Vertaa tulosta alkuperäiseen toimintaan ja todelliseen työkalutulosteeseen, tarkista koodiin vaikuttavat oletukset ja säilytä tarkistukseen tarvittavat lähteet ja havainnot. Vain tekstiä käyttävä ohjelmointimalli tarjoaa päättelyn ja tuotetun sisällön; ympäröivä sovellus suorittaa toimenpiteet, jotka muuttavat ehdotukset valmiiksi ohjelmistotehtäväksi.