NVIDIA: Nemotron 3 Super (free)

NVIDIA Nemotron 3 Super er en generell modell for resonnering og chat, utviklet for samarbeidende agenter og arbeidsflyter med stort volum, blant annet automatisering av IT-saker. Den har 120B totale parametere og aktiverer 12B. Hybridarkitekturen kombinerer Mamba-2-, oppmerksomhets- og Latent Mixture-of-Experts-lag. Multi-Token Prediction-lag legger til en mekanisme for å predikere fremtidige tokener og støtter NVIDIAs native oppskrifter for spekulativ dekoding.

Modellen tar imot tekst og returnerer tekst, blant annet forklaringer, svarutkast, kode og forespørsler om verktøykall i en passende verktøytilkoblet applikasjon. Tiltenkte bruksområder omfatter agenter, chatboter, generering utvidet med informasjonsgjenfinning, kompleks instruksjonsfølging og resonnering med lang kontekst. En nyttig ledetekst definerer ønsket artefakt og vilkårene som styrer det. For eksempel: «Klassifiser denne hendelsen etter den vedlagte policyen, forklar prioriteten ut fra kildegrunnlaget, lag et svarutkast og oppgi de manglende faktaene som kreves før en rettelse kan anbefales.»

For behandling av IT-saker legger du ved saksteksten, relevant historikk, miljødetaljer og gjeldende regler for ruting eller eskalering. Be om separate felt for observerte symptomer, sannsynlige årsaker, foreslåtte kontroller og svaret til brukeren. Skillet hindrer at en hypotese registreres som en bekreftet diagnose. Hvis et diagnoseverktøy kjøres, mater du det faktiske resultatet inn i samtalen før du ber om neste trinn. Et fullført sakssammendrag bør si hva som ble observert og løst, og hvilket spørsmål som fortsatt er åpent.

For RAG- og kunnskapsbasearbeid merker du de gjenfunne utdragene og angir om modellen bare skal svare ut fra dem. Be om svaret med støttende kildereferanser og eventuelle konflikter mellom materialene. Et praktisk eksempel er: «Sammenlign disse delene av driftsveiledningen, identifiser trinnene som gjelder for det oppgitte miljøet, og returner en ordnet prosedyre med en kontroll etter hvert viktig trinn.» Behold versjoner og vilkår fra kilden; en tydelig prosedyre kan fortsatt være feil hvis den kombinerer instruksjoner for inkompatible miljøer.

For samarbeidende agentoppgaver gir du hvert trinn et tydelig mål og bevarer nyttige mellomresultater. Super er beregnet på å resonnere over verktøyobservasjoner og holde en samtale med flere trinn. Den omkringliggende applikasjonen kjører verktøyene og vedlikeholder oppgavetilstanden. Be modellen forklare hva en ny observasjon endrer, beholde tidligere funn som fortsatt gjelder, og skille en foreslått handling fra et registrert resultat. For kodearbeid legger du ved de relevante filene og forventet atferd og ber deretter om revidert kode, en endringsforklaring og tilfellene som trengs for å verifisere den.

NVIDIA dokumenterer at tenking er aktivert som standard, og en direktesvarmodus med tenking deaktivert gjennom chatmalen. Super har også et alternativ for resonnering med lav innsats, som bruker færre resonneringstokener enn full tenking og foreslås som et utgangspunkt før uttrykkelig budsjettjustering. Dette er Super-innstillingen; Ultras separate alternativ med middels innsats skal ikke kopieres inn i den. Velg en endelig svarform og la det være plass til svaret etter resonneringen, særlig når et verktøyresultat eller en kompleks kildesammenligning trenger en forklaring.

Modellen støtter en kontekst på opptil 1M tokener, mens produsentens Hugging Face-konfigurasjon som standard bruker 256K fordi lengre kontekst krever mer minne. For lange inndata arbeider du innenfor den aktuelle konfigurasjonen, beholder dokumentgrenser og kildeetiketter og setter av plass til svaret. Be om sammenhengen som skal spores på tvers av materialet, fremfor en oppsummering av alt uten et konkret mål. En maksimumsgrense på modellnivå er ikke et løfte om at alle tjenestekonfigurasjoner bruker det samme vinduet.

Produsenten oppgir engelsk, fransk, tysk, italiensk, japansk, spansk og kinesisk. Angi sluttspråket, samtidig som kodeidentifikatorer og kildebegreper som må forbli eksakte, beholdes. For flerspråklig supportarbeid ber du modellen bevare den tekniske betydningen og eskaleringskriteriene mens ordlyden tilpasses leseren. Gjennomgå ukjent terminologi eller tvetydige inndata, fremfor å behandle flytende språk som bevis for at tolkningen er korrekt.

En nyttig sluttleveranse er kompakt og kontrollerbar: svaret eller det reviderte artefaktet, observasjonene som støtter det, forutsetningene og det gjenstående arbeidet. For genererte prosedyrer undersøker du kontrollene mot det faktiske miljøet. For kode sammenligner du foreslåtte endringer med observert atferd. For et kildebasert svar bekrefter du at det siterte utdraget støtter utsagnet. Supers resonnerings- og agenttrening bidrar til å organisere arbeidet; det faktiske resultatet fastslås av materialet og kjøreregistreringene som brukes til å undersøke det.