NVIDIA: Nemotron 3 Ultra (free)

NVIDIA Nemotron 3 Ultra er modellen til ræsonnement og orkestrering i stor skala i Nemotron 3-familien. Den er udviklet til krævende agenter med flere trin, analyse med lang kontekst og ræsonnement over kode, matematik og videnskab. Modellen har 550B parametre i alt og 55B aktive parametre. Den kombinerer Mamba-2-, attention- og Latent Mixture-of-Experts-lag med Multi-Token Prediction-lag, som understøtter dens genereringsdesign.

LatentMoE projicerer information ind i en mindre latent repræsentation til ekspertbehandling. NVIDIAs træningsopskrift kombinerer fortræning, superviseret finjustering, forstærkningslæring og on-policy-distillation på flere domæner. Det praktiske formål med disse trin er at forbedre ræsonnement, instruktionsfølgning, værktøjsbrug og agentadfærd på tværs af flere opgavetyper. Ultra producerer tekst: en forklaring, en løsning, kode, en plan eller en ønsket svarstruktur. Lever det materiale, som svaret skal bruge, og de betingelser, som afgør, om resultatet er korrekt.

Til matematisk eller videnskabeligt ræsonnement skal du medtage hele opgaveformuleringen, kendte værdier, enheder og tilladte antagelser. En nyttig anmodning er: “Udled resultatet fra disse betingelser, identificér antagelserne på hvert trin, kontrollér dimensionerne, og forklar hvilken observation der ville afkræfte konklusionen.” Bed om et kort slutresultat efter forklaringen af fremgangsmåden. Hvis der indgår forsøgsdata, skal du skelne mellem det målte og det beregnede og bede om, at usikkerhed eller manglende oplysninger forbliver synlige frem for at blive opslugt af et selvsikkert svar.

Til kode- og agentarbejdsgange skal du levere målet, relevante filer som tekst og de faktiske outputs fra tidligere trin. Ultra er beregnet til opgaver med flere indbyrdes afhængige beslutninger, så en eksplicit registrering af udført arbejde og resterende spørgsmål er nyttig. Eksempelvis: “Gennemgå dette migrationsforslag mod skemaet og de fejlslagne kontroller. Identificér den afhængighed, der blokerer afslutningen, foreslå en målrettet rettelse, og angiv det forventede resultat af næste kontrol.” En værktøjstilsluttet applikation kan derefter udføre et foreslået trin og returnere underbyggende observationer til næste beslutning.

Producenten understøtter aktivering og deaktivering af ræsonnement gennem chatskabelonen. Ræsonnement er aktiveret som standard og producerer et ræsonnementsspor efterfulgt af svaret. Ultra-kortet dokumenterer også en ræsonnementstilstand med mellemstor indsats, som bruger færre ræsonnementstokens end fuld tænkning. Det er en Ultra-specifik mulighed; den bør ikke forveksles med indstillingen med lav indsats, som er dokumenteret for Super. Angiv det ønskede slutprodukt, og efterlad plads til det efter ræsonnementet. Et uafsluttet spor erstatter ikke et færdigt svar på det oprindelige spørgsmål.

Ultra understøtter en kontekst på op til 1M tokens. Ved en stor samling dokumenter eller kildefiler skal du mærke afsnit og fortælle modellen præcis, hvad den skal sammenligne, følge eller afstemme. Bevar kildernes rækkefølge, når kronologi eller afhængigheder er vigtige. Et nyttigt resultat fra lange dokumenter indeholder fundet, den underbyggende passage og betydningen for spørgsmålet. Udvælg de relevante materialer, og reservér outputplads; kontekstvinduet beskriver arbejdssekvensen frem for en separat garanteret længde på det endelige svar.

Producenten angiver engelsk, fransk, spansk, italiensk, tysk, japansk, hindi, koreansk, brasiliansk portugisisk og kinesisk. Angiv outputsproget, og bevar tekniske identifikatorer eller kildecitater, hvor præcis ordlyd er vigtig. Til en flersproget analyse skal du bruge de samme kriterier for hvert dokument og bede om forklaring af forskelle i terminologi eller antagelser. Flydende sprog alene er ikke nok til at fastslå, at to forskelligt formulerede krav betyder det samme.

NVIDIA leverer eksplicitte eksempler på værktøjskald med ræsonnement. Definér hver funktions formål, argumenter og forventede resultat, og returnér derefter dens faktiske output til modellen. Applikationen udfører handlingen; modellen ræsonnerer over den returnerede observation. En lang agentarbejdsgang bliver lettere at undersøge, når foreslåede handlinger, udførte resultater og uafklarede kontroller er tydeligt adskilt. Til en slutrapport skal du bede om svaret, det underbyggende materiale, antagelserne og eventuelle resterende opgavepunkter. Verificér beregninger mod de oprindelige enheder, kodeændringer mod observerede kontroller og faktuelle påstande mod de leverede kilder.