NVIDIA: Nemotron 3 Ultra (free)

NVIDIA Nemotron 3 Ultra on Nemotron 3 -perheen suuren mittakaavan päättely- ja orkestrointimalli. Se on suunniteltu vaativiin monivaiheisiin agentteihin, pitkän kontekstin analyysiin sekä koodia, matematiikkaa ja luonnontiedettä koskevaan päättelyyn. Mallissa on yhteensä 550B parametria ja 55B aktiivista parametria. Se yhdistää Mamba-2-, huomio- ja Latent Mixture-of-Experts -kerrokset, ja Multi-Token Prediction -kerrokset tukevat sen generointirakennetta.

LatentMoE projisoi tiedon pienempään latenttiin esitykseen asiantuntijoiden käsittelyä varten. NVIDIA:n koulutusresepti yhdistää esikoulutuksen, ohjatun hienosäädön, vahvistusoppimisen ja usean toimialan on-policy-tislauksen. Näiden vaiheiden käytännön tarkoitus on parantaa päättelyä, ohjeiden noudattamista, työkalujen käyttöä ja agenttikäyttäytymistä useissa tehtävätyypeissä. Ultra tuottaa tekstiä: selityksen, ratkaisun, koodia, suunnitelman tai pyydetyn vastausrakenteen. Anna aineisto, jota vastauksen tulee käyttää, ja ehdot, jotka määräävät tuloksen oikeellisuuden.

Sisällytä matemaattiseen tai tieteelliseen päättelyyn täydellinen tehtävänanto, tunnetut arvot, yksiköt ja sallitut oletukset. Hyödyllinen pyyntö on: ”Johda tulos näistä ehdoista, yksilöi oletukset kussakin vaiheessa, tarkasta dimensiot ja selitä, mikä havainto kumoaisi johtopäätöksen.” Pyydä tiivis lopputulos ratkaisun vaiheiden selityksen jälkeen. Jos mukana on kokeellista aineistoa, erota mitattu lasketusta ja pyydä pitämään epävarmuus tai puuttuva tieto näkyvissä sen sijaan, että se sulautuisi varmaan vastaukseen.

Anna koodi- ja agenttityönkulkuihin tavoite, olennaiset tiedostot tekstinä ja aiempien vaiheiden todelliset tulosteet. Ultra on tarkoitettu tehtäviin, joissa on useita riippuvaisia päätöksiä, joten täsmällinen kirjaus valmistuneesta työstä ja jäljellä olevista kysymyksistä on hyödyllinen. Esimerkiksi: ”Tarkasta tämä migraatioehdotus skeemaa ja epäonnistuvia tarkastuksia vasten. Tunnista valmistumisen estävä riippuvuus, ehdota kohdennettu korjaus ja anna seuraavan tarkastuksen odotettu tulos.” Työkaluihin yhdistetty sovellus voi sitten suorittaa ehdotetun vaiheen ja palauttaa näyttöä seuraavaan päätökseen.

Valmistaja tukee päättelyn ottamista käyttöön tai poistamista käytöstä keskustelumallipohjan kautta. Päättely on oletusarvoisesti käytössä ja tuottaa päättelyjäljen sekä sen jälkeen vastauksen. Ultra-kortti dokumentoi myös keskitason päättelytilan, joka käyttää vähemmän päättelytokeneita kuin täysi ajattelu. Tämä on Ultra-kohtainen vaihtoehto; sitä ei tule sekoittaa Superille dokumentoituun kevyen päättelyn asetukseen. Aseta haluttu lopputuotos ja jätä sille tilaa päättelyn jälkeen. Keskeneräinen jälki ei korvaa valmistunutta vastausta alkuperäiseen kysymykseen.

Ultra tukee enintään 1M tokenin kontekstia. Merkitse suuren asiakirja- tai lähdetiedostokokoelman osiot ja kerro mallille täsmällisesti, mitä vertailla, seurata tai sovittaa yhteen. Säilytä lähdejärjestys, kun aikajärjestys tai riippuvuus on olennainen. Hyödyllinen pitkän asiakirjan tulos sisältää havainnon, sitä tukevan tekstikohdan ja sen merkityksen kysymykselle. Valitse olennaiset aineistot ja varaa tulostilaa; konteksti-ikkuna kuvaa työskentelysekvenssiä eikä erillistä taattua lopullisen vastauksen pituutta.

Valmistaja luettelee englannin, ranskan, espanjan, italian, saksan, japanin, hindin, korean, Brasilian portugalin ja kiinan. Ilmoita tuloskieli ja säilytä tekniset tunnisteet tai lähdelainaukset, kun täsmällinen sanamuoto on olennainen. Käytä monikielisessä analyysissä samoja kriteerejä jokaiselle asiakirjalle ja pyydä selittämään terminologian tai oletusten erot. Pelkkä sujuvuus ei riitä osoittamaan, että kaksi eri tavoin muotoiltua vaatimusta tarkoittavat samaa.

NVIDIA antaa nimenomaisia päättelyä käyttäviä työkalukutsuesimerkkejä. Määrittele kunkin funktion tarkoitus, argumentit ja odotettu tulos ja palauta sitten sen todellinen tuloste mallille. Sovellus suorittaa toiminnon; malli päättelee palautetun havainnon pohjalta. Pitkä agenttityönkulku on helpompi tarkastaa, kun ehdotetut toimet, toteutuneiden toimien tulokset ja ratkaisemattomat tarkastukset erotetaan selvästi. Pyydä loppuraporttiin vastaus, sitä tukeva näyttö, oletukset ja mahdolliset jäljellä olevat tehtävät. Varmenna laskelmat alkuperäisiä yksiköitä, koodimuutokset havaittuja tarkastuksia ja faktaväitteet annettuja lähteitä vasten.