NVIDIA: Nemotron 3 Super (free)

NVIDIA Nemotron 3 Super è un modello generalista di ragionamento e chat progettato per agenti collaborativi e flussi ad alto volume, compresa l’automazione dei ticket IT. Ha 120B parametri totali e ne attiva 12B. La sua architettura ibrida combina strati Mamba-2, di attenzione e Latent Mixture-of-Experts. Gli strati Multi-Token Prediction aggiungono un meccanismo di predizione dei token futuri e supportano le procedure native di decodifica speculativa di NVIDIA.

Il modello accetta testo e restituisce testo, comprese spiegazioni, bozze di risposte, codice e richieste di chiamata a strumenti in un’applicazione adeguatamente collegata a strumenti. Gli usi previsti comprendono agenti, chatbot, generazione aumentata dal recupero di informazioni, esecuzione di istruzioni complesse e ragionamento su contesti lunghi. Un prompt utile definisce l’artefatto desiderato e le condizioni che lo governano. Per esempio: «Classifica questo incidente usando le regole fornite, spiega la priorità a partire dalle evidenze, prepara una risposta ed elenca i fatti mancanti necessari prima di consigliare una correzione».

Per l’elaborazione dei ticket IT, fornisci il testo del ticket, la cronologia pertinente, i dettagli dell’ambiente e le regole applicabili di instradamento o escalation. Chiedi campi separati per sintomi osservati, cause probabili, verifiche proposte e risposta all’utente. La distinzione impedisce che un’ipotesi venga registrata come diagnosi confermata. Se viene eseguito uno strumento diagnostico, inseriscine il risultato effettivo nella conversazione prima di chiedere un passaggio successivo. Un riepilogo di ticket completato deve indicare che cosa è stato osservato e risolto e quale domanda rimane aperta.

Per il lavoro con RAG e basi di conoscenza, etichetta i passaggi recuperati e specifica se il modello deve rispondere soltanto sulla loro base. Richiedi la risposta con riferimenti alle fonti a sostegno e gli eventuali conflitti fra i materiali. Un esempio pratico è: «Confronta queste sezioni del runbook, individua i passaggi applicabili all’ambiente fornito e restituisci una procedura ordinata con una verifica dopo ogni passaggio importante». Preserva versioni e condizioni dalla fonte; una procedura chiara può comunque essere errata se combina istruzioni per ambienti incompatibili.

Per attività con agenti collaborativi, assegna a ogni fase un obiettivo chiaro e preserva i risultati intermedi utili. Super è destinato a ragionare sulle osservazioni degli strumenti e a mantenere una conversazione in più passaggi. L’applicazione circostante esegue gli strumenti e conserva lo stato dell’attività. Chiedi al modello di spiegare che cosa cambia con una nuova osservazione, mantenere le constatazioni precedenti ancora valide e distinguere un’azione proposta da un risultato registrato. Per la programmazione, fornisci i file pertinenti e il comportamento atteso, poi richiedi codice rivisto, una spiegazione delle modifiche e i casi necessari per verificarlo.

NVIDIA documenta il ragionamento abilitato per impostazione predefinita e una modalità di risposta diretta con ragionamento disabilitato tramite il template di chat. Super dispone inoltre di un’opzione di ragionamento a impegno ridotto, che usa meno token di ragionamento rispetto al ragionamento completo ed è suggerita come punto di partenza prima di una regolazione esplicita del budget. Questa è l’impostazione di Super; l’opzione separata a impegno medio di Ultra non deve esservi trasferita. Seleziona una forma per la risposta finale e lascia spazio a quella risposta dopo il ragionamento, soprattutto quando un risultato di uno strumento o un confronto complesso fra fonti richiede una spiegazione.

Il modello supporta un contesto fino a 1M di token, mentre la configurazione Hugging Face del produttore usa per impostazione predefinita 256K perché un contesto più lungo richiede più memoria. Per input lunghi, lavora entro la configurazione applicabile, mantieni i confini dei documenti e le etichette delle fonti e riserva spazio alla risposta. Richiedi la relazione da seguire attraverso il materiale anziché un riepilogo senza direzione di ogni cosa. Un massimo a livello di modello non promette che ogni configurazione di erogazione usi la stessa finestra.

Il produttore elenca inglese, francese, tedesco, italiano, giapponese, spagnolo e cinese. Specifica la lingua finale mantenendo gli identificatori di codice e i termini delle fonti che devono rimanere esatti. Per l’assistenza multilingue, chiedi al modello di preservare il significato tecnico e i criteri di escalation adattando la formulazione al lettore. Verifica la terminologia poco familiare o l’input ambiguo anziché considerare la scorrevolezza come prova della correttezza dell’interpretazione.

Un risultato finale utile è compatto e verificabile: la risposta o l’artefatto rivisto, le osservazioni che lo sostengono, le ipotesi e il lavoro rimanente. Per le procedure generate, esamina le verifiche rispetto all’ambiente effettivo. Per il codice, confronta le modifiche proposte con il comportamento osservato. Per una risposta basata sulle fonti, conferma che il passaggio citato sostenga l’affermazione. Il ragionamento e l’addestramento agli agenti di Super aiutano a organizzare questo lavoro; il risultato effettivo è stabilito dal materiale e dai registri di esecuzione usati per esaminarlo.