NVIDIA: Nemotron 3 Super (free)

NVIDIA Nemotron 3 Super ist ein universelles Modell für Reasoning und Chat, das für zusammenarbeitende Agenten und Workflows mit hohem Volumen einschließlich der Automatisierung von IT-Tickets entwickelt wurde. Es hat insgesamt 120B Parameter und aktiviert 12B. Seine hybride Architektur kombiniert Mamba-2-, Attention- und Latent-Mixture-of-Experts-Schichten. Multi-Token-Prediction-Schichten ergänzen einen Mechanismus zur Vorhersage zukünftiger Token und unterstützen NVIDIAs native Rezepte für spekulatives Decodieren.

Das Modell akzeptiert Text und gibt Text zurück, darunter Erklärungen, Antwortentwürfe, Code und Anfragen für Werkzeugaufrufe in einer geeigneten, mit Werkzeugen verbundenen Anwendung. Zu den vorgesehenen Einsatzgebieten gehören Agenten, Chatbots, Retrieval-Augmented Generation, das Befolgen komplexer Anweisungen und Reasoning mit langem Kontext. Ein nützlicher Prompt definiert das gewünschte Artefakt und die dafür maßgeblichen Bedingungen. Zum Beispiel: „Klassifiziere diesen Vorfall anhand der bereitgestellten Richtlinie, begründe die Priorität anhand der Belege, entwirf eine Antwort und liste die fehlenden Fakten auf, die vor der Empfehlung einer Lösung benötigt werden.“

Stellen Sie für die Verarbeitung von IT-Tickets den Tickettext, relevante Historie, Angaben zur Umgebung und die geltenden Weiterleitungs- oder Eskalationsregeln bereit. Fordern Sie getrennte Felder für beobachtete Symptome, wahrscheinliche Ursachen, vorgeschlagene Prüfungen und die Antwort an den Nutzer an. Diese Unterscheidung verhindert, dass eine Hypothese als bestätigte Diagnose erfasst wird. Wird ein Diagnosewerkzeug ausgeführt, geben Sie sein tatsächliches Ergebnis in das Gespräch ein, bevor Sie den nächsten Schritt anfordern. Eine fertige Ticketzusammenfassung sollte angeben, was beobachtet und behoben wurde und welche Frage offen bleibt.

Kennzeichnen Sie für RAG- und Wissensdatenbankaufgaben die abgerufenen Passagen und legen Sie fest, ob das Modell ausschließlich daraus antworten soll. Fordern Sie die Antwort mit belegenden Quellenverweisen und gegebenenfalls Widersprüchen zwischen den Materialien an. Ein praktisches Beispiel lautet: „Vergleiche diese Runbook-Abschnitte, ermittle die Schritte, die für die angegebene Umgebung gelten, und gib ein geordnetes Vorgehen mit einer Prüfung nach jedem wichtigen Schritt zurück.“ Erhalten Sie Versionen und Bedingungen aus der Quelle; auch ein klares Vorgehen kann falsch sein, wenn es Anweisungen für inkompatible Umgebungen kombiniert.

Geben Sie bei Aufgaben zusammenarbeitender Agenten jeder Stufe ein klares Ziel und bewahren Sie nützliche Zwischenergebnisse auf. Super ist dafür vorgesehen, Reasoning auf Werkzeugbeobachtungen anzuwenden und ein mehrstufiges Gespräch fortzuführen. Die umgebende Anwendung führt die Werkzeuge aus und verwaltet den Aufgabenstand. Bitten Sie das Modell zu erklären, was eine neue Beobachtung verändert, weiterhin gültige frühere Befunde beizubehalten und eine vorgeschlagene Aktion von einem protokollierten Ergebnis zu unterscheiden. Stellen Sie für Programmieraufgaben die relevanten Dateien und das erwartete Verhalten bereit und fordern Sie anschließend überarbeiteten Code, eine Erklärung der Änderungen und die zu ihrer Überprüfung erforderlichen Fälle an.

NVIDIA dokumentiert standardmäßig aktiviertes Thinking und einen Direktantwortmodus, in dem Thinking über das Chat-Template deaktiviert wird. Super besitzt außerdem eine Reasoning-Option mit geringem Aufwand, die weniger Reasoning-Token als vollständiges Thinking nutzt und vor einer ausdrücklichen Budgetabstimmung als Ausgangspunkt empfohlen wird. Dies ist die Einstellung von Super; Ultras separate Option mit mittlerem Aufwand sollte nicht darauf übertragen werden. Wählen Sie eine Form für die endgültige Antwort und lassen Sie nach dem Reasoning Platz dafür, besonders wenn ein Werkzeugergebnis oder ein komplexer Quellenvergleich eine Erklärung erfordert.

Das Modell unterstützt einen Kontext von bis zu 1M Token, während die Hugging-Face-Konfiguration des Herstellers standardmäßig 256K verwendet, da längerer Kontext mehr Speicher benötigt. Arbeiten Sie bei langen Eingaben innerhalb der jeweils geltenden Konfiguration, erhalten Sie Dokumentgrenzen und Quellenkennzeichnungen und reservieren Sie Platz für die Antwort. Geben Sie vor, welche Beziehung im Material nachverfolgt werden soll, statt eine ungerichtete Zusammenfassung aller Inhalte anzufordern. Ein Modellmaximum verspricht nicht, dass jede Serving-Konfiguration dasselbe Fenster verwendet.

Der Hersteller nennt Englisch, Französisch, Deutsch, Italienisch, Japanisch, Spanisch und Chinesisch. Geben Sie die endgültige Sprache vor und erhalten Sie dabei Code-Kennungen und Quellbegriffe, die exakt bleiben müssen. Bitten Sie bei mehrsprachigen Supportaufgaben darum, die technische Bedeutung und die Eskalationskriterien zu erhalten und zugleich die Formulierung an die Lesenden anzupassen. Prüfen Sie unbekannte Terminologie oder mehrdeutige Eingaben, statt sprachliche Gewandtheit als Beleg für eine korrekte Interpretation zu betrachten.

Ein nützliches Endergebnis ist kompakt und überprüfbar: die Antwort oder das überarbeitete Artefakt, die stützenden Beobachtungen, die Annahmen und die verbleibende Arbeit. Prüfen Sie bei generierten Vorgehensweisen die Kontrollen anhand der tatsächlichen Umgebung. Vergleichen Sie bei Code vorgeschlagene Änderungen mit beobachtetem Verhalten. Bestätigen Sie bei einer quellenbasierten Antwort, dass die zitierte Passage die Aussage stützt. Supers Reasoning- und Agententraining helfen, diese Arbeit zu organisieren; das tatsächliche Ergebnis wird durch das Material und die Ausführungsprotokolle belegt, anhand derer es überprüft wird.