NVIDIA: Nemotron 3 Ultra (free)

NVIDIA Nemotron 3 Ultra är modellen för storskaligt resonemang och orkestrering i Nemotron 3-familjen. Den är utformad för krävande agenter med flera steg, analys med lång kontext och resonemang om kod, matematik och naturvetenskap. Modellen har totalt 550 miljarder parametrar och 55 miljarder aktiva parametrar. Den kombinerar Mamba-2-lager, uppmärksamhetslager och Latent Mixture-of-Experts-lager, med lager för Multi-Token Prediction som stöder genereringskonstruktionen.

LatentMoE projicerar information till en mindre latent representation för expertbearbetning. NVIDIAs träningsförfarande kombinerar förträning, övervakad finjustering, förstärkningsinlärning och on-policy-distillering över flera domäner. Det praktiska syftet med dessa steg är att förbättra resonemang, instruktionsföljning, verktygsanvändning och agentbeteende inom flera typer av uppgifter. Ultra producerar text: en förklaring, en lösning, kod, en plan eller en begärd svarsstruktur. Tillhandahåll materialet som svaret ska använda och de villkor som avgör om resultatet är korrekt.

För matematiskt eller naturvetenskapligt resonemang ska du inkludera hela problemformuleringen, kända värden, enheter och tillåtna antaganden. En användbar begäran är: ”Härled resultatet från dessa villkor, identifiera antagandena i varje steg, kontrollera dimensionerna och förklara vilken observation som skulle ogiltigförklara slutsatsen.” Begär ett kort slutresultat efter den förklarande genomgången. Om experimentella data ingår ska du skilja mellan vad som mättes och vad som beräknades, och be om att osäkerhet eller saknad information förblir synlig i stället för att uppgå i ett självsäkert svar.

För kod- och agentarbetsflöden ska du tillhandahålla målet, relevanta filer som text och de verkliga resultaten från tidigare steg. Ultra är avsedd för uppgifter med flera beroende beslut, så en uttrycklig redovisning av slutfört arbete och återstående frågor är användbar. Till exempel: ”Granska detta migreringsförslag mot schemat och de kontroller som misslyckas. Identifiera beroendet som hindrar slutförandet, föreslå en avgränsad korrigering och ange det förväntade resultatet av nästa kontroll.” En verktygsansluten applikation kan sedan utföra ett föreslaget steg och returnera underlag för nästa beslut.

Tillverkaren stöder aktivering och inaktivering av resonemang via chattmallen. Resonemang är aktiverat som standard och ger ett resonemangsspår följt av svaret. Ultra-kortet dokumenterar också ett resonemangsläge med medelhög ansträngning som använder färre resonemangstoken än fullt tänkande. Detta är ett Ultra-specifikt alternativ; det ska inte förväxlas med inställningen för låg ansträngning som dokumenteras för Super. Ange den önskade slutleveransen och lämna utrymme för den efter resonemanget. Ett ofullbordat spår ersätter inte ett färdigt svar på den ursprungliga frågan.

Ultra stöder kontext på upp till en miljon token. För en stor samling dokument eller källfiler ska du märka avsnitten och tala om för modellen exakt vad den ska jämföra, följa eller stämma av. Behåll källordningen när kronologi eller beroenden har betydelse. Ett användbart resultat för långa dokument innehåller slutsatsen, det stödjande stycket och konsekvensen för frågan. Välj relevant material och reservera utrymme för utdata; kontextfönstret beskriver arbetssekvensen snarare än en separat garanterad längd på slutresultatet.

Tillverkaren anger engelska, franska, spanska, italienska, tyska, japanska, hindi, koreanska, brasiliansk portugisiska och kinesiska. Ange utdataspråket och bevara tekniska identifierare eller källcitat när exakt ordalydelse har betydelse. För en flerspråkig analys ska du använda samma kriterier för varje dokument och be om förklaringar av skillnader i terminologi eller antaganden. Enbart språkligt flyt räcker inte för att fastställa att två krav med olika ordalydelse betyder samma sak.

NVIDIA tillhandahåller uttryckliga exempel på verktygsanrop med resonemang. Definiera varje funktions syfte, argument och förväntade resultat, och returnera sedan dess faktiska utdata till modellen. Applikationen utför operationen; modellen resonerar kring den returnerade observationen. Ett långt agentarbetsflöde blir lättare att granska när föreslagna åtgärder, utförda resultat och olösta kontroller hålls tydligt åtskilda. För en slutrapport ska du begära svaret, underlaget som stöder det, antagandena och eventuella återstående uppgiftspunkter. Kontrollera beräkningar mot de ursprungliga enheterna, kodändringar mot observerade kontroller och sakpåståenden mot de tillhandahållna källorna.