NVIDIA: Nemotron 3 Super (free)

NVIDIA Nemotron 3 Super är en generell modell för resonemang och chatt, utformad för samverkande agenter och arbetsflöden med stora volymer, bland annat automatisering av IT-ärenden. Den har totalt 120 miljarder parametrar och aktiverar 12 miljarder. Dess hybridarkitektur kombinerar Mamba-2-lager, uppmärksamhetslager och Latent Mixture-of-Experts-lager. Lager för Multi-Token Prediction tillför en mekanism för att förutsäga framtida token och stöder NVIDIAs inbyggda förfaranden för spekulativ avkodning.

Modellen tar emot text och returnerar text, bland annat förklaringar, svarsutkast, kod och begäranden om verktygsanrop i en lämplig verktygsansluten applikation. Avsedda användningar omfattar agenter, chattbotar, retrieval-augmented generation, komplex instruktionsföljning och resonemang med lång kontext. En användbar prompt definierar den önskade leveransen och villkoren som styr den. Till exempel: ”Klassificera den här incidenten utifrån den tillhandahållna policyn, förklara prioriteten utifrån underlaget, skriv ett svarsutkast och lista de saknade fakta som krävs innan en lösning rekommenderas.”

För hantering av IT-ärenden ska du tillhandahålla ärendetexten, relevant historik, miljöuppgifter och tillämpliga regler för vidareförmedling eller eskalering. Begär separata fält för observerade symtom, sannolika orsaker, föreslagna kontroller och svaret till användaren. Skillnaden hindrar att en hypotes registreras som en bekräftad diagnos. Om ett diagnostikverktyg körs ska du föra in dess faktiska resultat i samtalet innan du begär nästa steg. En sammanfattning av ett slutfört ärende bör ange vad som observerades och löstes och vilken fråga som fortfarande är öppen.

För RAG och arbete med kunskapsbaser ska du märka de hämtade styckena och ange om modellen ska svara enbart utifrån dem. Begär svaret med stödjande källreferenser och eventuella motsägelser mellan materialen. Ett praktiskt exempel är: ”Jämför dessa avsnitt ur driftinstruktionerna, identifiera de steg som gäller för den angivna miljön och returnera en ordnad procedur med en kontroll efter varje viktigt steg.” Bevara versioner och villkor från källan; en tydlig procedur kan fortfarande vara fel om den kombinerar instruktioner för oförenliga miljöer.

För samverkande agentuppgifter ska du ge varje steg ett tydligt mål och bevara användbara mellanresultat. Super är avsedd att resonera kring verktygsobservationer och upprätthålla ett samtal i flera steg. Den omgivande applikationen kör verktygen och bevarar uppgiftens tillstånd. Be modellen förklara vad en ny observation förändrar, behålla tidigare slutsatser som fortfarande gäller och skilja en föreslagen åtgärd från ett registrerat resultat. För kodning ska du tillhandahålla relevanta filer och förväntat beteende och sedan begära ändrad kod, en förklaring av ändringen och de fall som behövs för att verifiera den.

NVIDIA dokumenterar tänkande som aktiverat som standard och ett läge för direkta svar där tänkandet inaktiveras via chattmallen. Super har också ett alternativ för resonemang med låg ansträngning, som använder färre resonemangstoken än fullt tänkande och föreslås som utgångspunkt före uttrycklig budgetjustering. Detta är Super-inställningen; Ultras separata alternativ med medelhög ansträngning ska inte kopieras till den. Välj ett format för det slutliga svaret och lämna utrymme för det efter resonemanget, särskilt när ett verktygsresultat eller en komplex källjämförelse kräver en förklaring.

Modellen stöder kontext på upp till en miljon token, medan tillverkarens Hugging Face-konfiguration som standard använder 256K eftersom längre kontext kräver mer minne. För långa indata ska du arbeta inom den konfiguration som gäller, behålla dokumentgränser och källbeteckningar och reservera utrymme för svaret. Begär det samband som ska följas genom materialet i stället för en oriktad sammanfattning av allt. Ett maximum på modellnivå är inget löfte om att varje serverkonfiguration använder samma fönster.

Tillverkaren anger engelska, franska, tyska, italienska, japanska, spanska och kinesiska. Ange slutresultatets språk samtidigt som kodidentifierare och källtermer som måste förbli exakta bevaras. För flerspråkigt supportarbete ska du be modellen bevara den tekniska innebörden och eskaleringskriterierna samtidigt som formuleringarna anpassas till läsaren. Granska obekant terminologi eller tvetydiga indata i stället för att behandla språkligt flyt som bevis för att tolkningen är korrekt.

En användbar slutleverans är kompakt och möjlig att kontrollera: svaret eller den ändrade artefakten, observationerna som stöder den, antagandena och det återstående arbetet. För genererade procedurer ska du granska kontrollerna mot den faktiska miljön. För kod ska du jämföra föreslagna ändringar med observerat beteende. För ett källbaserat svar ska du bekräfta att det citerade stycket stöder påståendet. Supers träning i resonemang och agentarbete hjälper till att ordna detta arbete; det faktiska resultatet fastställs av materialet och exekveringsposterna som används för att granska det.