NVIDIA: Nemotron 3 Ultra (free)

NVIDIA Nemotron 3 Ultra er den store resonnerings- og orkestreringsmodellen i Nemotron 3-familien. Den er utviklet for krevende agenter med flere trinn, analyse med lang kontekst og resonnering over kode, matematikk og naturvitenskap. Modellen har 550B totale og 55B aktive parametere. Den kombinerer Mamba-2-, oppmerksomhets- og Latent Mixture-of-Experts-lag, med Multi-Token Prediction-lag som støtter genereringsutformingen.

LatentMoE projiserer informasjon inn i en mindre latent representasjon for behandling hos ekspertene. NVIDIAs treningsoppskrift kombinerer forhåndstrening, veiledet finjustering, forsterkningslæring og on-policy-destillasjon på tvers av flere domener. Det praktiske formålet med disse trinnene er å forbedre resonnering, instruksjonsfølging, verktøybruk og agentatferd på tvers av flere oppgavetyper. Ultra produserer tekst: en forklaring, en løsning, kode, en plan eller en forespurt svarstruktur. Legg ved materialet svaret skal bruke, og vilkårene som bestemmer om resultatet er korrekt.

For matematisk eller naturvitenskapelig resonnering tar du med hele oppgaveteksten, kjente verdier, enheter og tillatte forutsetninger. En nyttig forespørsel er: «Utled resultatet fra disse vilkårene, identifiser forutsetningene i hvert trinn, kontroller dimensjonene og forklar hvilken observasjon som ville ugyldiggjøre konklusjonen.» Be om et kort sluttresultat etter den gjennomarbeidede forklaringen. Hvis eksperimentelle data er involvert, skiller du mellom det som ble målt og det som ble beregnet, og ber om at usikkerhet eller manglende informasjon forblir synlig fremfor å bli absorbert i et sikkert formulert svar.

For kode- og agentarbeidsflyter legger du ved målet, relevante filer som tekst og de faktiske utdataene fra tidligere trinn. Ultra er beregnet på oppgaver med flere avhengige beslutninger, så en uttrykkelig oversikt over fullført arbeid og gjenstående spørsmål er nyttig. For eksempel: «Gjennomgå dette migreringsforslaget mot skjemaet og de feilende kontrollene. Identifiser avhengigheten som hindrer fullføring, foreslå en avgrenset rettelse og oppgi forventet resultat av neste kontroll.» En verktøytilkoblet applikasjon kan deretter utføre et foreslått trinn og returnere dokumentasjon til neste beslutning.

Produsenten støtter aktivering eller deaktivering av resonnering gjennom chatmalen. Resonnering er aktivert som standard og produserer et resonneringsspor etterfulgt av svaret. Ultra-kortet dokumenterer også en resonneringsmodus med middels innsats som bruker færre resonneringstokener enn full tenking. Dette er et Ultra-spesifikt alternativ; det bør ikke forveksles med innstillingen for lav innsats som er dokumentert for Super. Angi ønsket sluttleveranse og la det være plass til den etter resonneringen. Et ufullført spor erstatter ikke et fullført svar på det opprinnelige spørsmålet.

Ultra støtter en kontekst på opptil 1M tokener. For en stor samling dokumenter eller kildefiler merker du delene og forteller modellen nøyaktig hva den skal sammenligne, spore eller avstemme. Behold kilderekkefølgen når kronologi eller avhengighet er viktig. Et nyttig resultat fra lange dokumenter inneholder funnet, det støttende utdraget og betydningen for spørsmålet. Velg det relevante materialet og sett av plass til utdata; kontekstvinduet beskriver arbeidssekvensen fremfor en separat garantert lengde på sluttsvaret.

Produsenten oppgir engelsk, fransk, spansk, italiensk, tysk, japansk, hindi, koreansk, brasiliansk portugisisk og kinesisk. Angi svarspråk og behold tekniske identifikatorer eller kildesitater der nøyaktig ordlyd er viktig. For en flerspråklig analyse bruker du de samme kriteriene for hvert dokument og ber om forklaring av forskjeller i terminologi eller forutsetninger. Flytende språk alene er ikke nok til å fastslå at to ulikt formulerte krav betyr det samme.

NVIDIA gir uttrykkelige eksempler på verktøykall med resonnering. Definer hver funksjons formål, argumenter og forventede resultat, og returner deretter de faktiske utdataene til modellen. Applikasjonen utfører operasjonen; modellen resonnerer over den returnerte observasjonen. En lang agentarbeidsflyt blir lettere å undersøke når foreslåtte handlinger, utførte resultater og uavklarte kontroller skilles tydelig. For en sluttrapport ber du om svaret, kildegrunnlaget som støtter det, forutsetningene og eventuelle gjenstående oppgaver. Kontroller beregninger mot de opprinnelige enhetene, kodeendringer mot observerte kontroller og faktapåstander mot de vedlagte kildene.