NVIDIA: Nemotron 3 Super (free)

NVIDIA Nemotron 3 Super ist ein universelles Modell für Schlussfolgerungen und Chat, das für zusammenarbeitende Agenten und Workflows mit hohem Volumen entwickelt wurde, darunter die Automatisierung von IT-Tickets. Es hat insgesamt 120B Parameter und aktiviert 12B. Seine hybride Architektur kombiniert Mamba-2-, Aufmerksamkeits- und Latent-Mixture-of-Experts-Schichten. Multi-Token-Prediction-Schichten ergänzen einen Mechanismus zur Vorhersage zukünftiger Tokens und unterstützen NVIDIAs native Verfahren für spekulatives Decoding.

Das Modell nimmt Text entgegen und gibt Text zurück, darunter Erklärungen, Antwortentwürfe, Code und Anfragen für Tool-Aufrufe in einer geeigneten Anwendung mit Tool-Anbindung. Zu seinen vorgesehenen Einsatzbereichen gehören Agenten, Chatbots, Retrieval-Augmented Generation, die Befolgung komplexer Anweisungen und Schlussfolgerungen mit langem Kontext. Ein nützlicher Prompt definiert das gewünschte Artefakt und die Bedingungen, die dafür gelten. Zum Beispiel: «Klassifizieren Sie diesen Vorfall anhand der bereitgestellten Richtlinie, begründen Sie die Priorität anhand der Belege, entwerfen Sie eine Antwort und führen Sie die fehlenden Fakten auf, die vor einer Lösungsempfehlung benötigt werden.»

Stellen Sie für die Verarbeitung von IT-Tickets den Tickettext, die relevante Vorgeschichte, Details zur Umgebung und die geltenden Weiterleitungs- oder Eskalationsregeln bereit. Fordern Sie separate Felder für beobachtete Symptome, wahrscheinliche Ursachen, vorgeschlagene Prüfungen und die Antwort an den Nutzer an. Diese Unterscheidung verhindert, dass eine Hypothese als bestätigte Diagnose erfasst wird. Wenn ein Diagnosewerkzeug ausgeführt wird, führen Sie dessen tatsächliches Ergebnis in das Gespräch ein, bevor Sie nach dem nächsten Schritt fragen. Eine abgeschlossene Ticketzusammenfassung sollte angeben, was beobachtet und behoben wurde und welche Frage offenbleibt.

Kennzeichnen Sie für RAG und die Arbeit mit Wissensbasen die abgerufenen Passagen und geben Sie an, ob das Modell ausschliesslich anhand dieser Passagen antworten soll. Fordern Sie die Antwort mit stützenden Quellenreferenzen und allen Widersprüchen zwischen den Materialien an. Ein praktisches Beispiel lautet: «Vergleichen Sie diese Runbook-Abschnitte, identifizieren Sie die Schritte, die für die bereitgestellte Umgebung gelten, und geben Sie ein geordnetes Verfahren mit einer Prüfung nach jedem wichtigen Schritt zurück.» Bewahren Sie Versionen und Bedingungen aus der Quelle; ein klares Verfahren kann dennoch falsch sein, wenn es Anweisungen für unvereinbare Umgebungen kombiniert.

Geben Sie bei Aufgaben mit zusammenarbeitenden Agenten jedem Schritt ein klares Ziel und bewahren Sie nützliche Zwischenergebnisse. Super soll über Tool-Beobachtungen schlussfolgern und ein mehrstufiges Gespräch aufrechterhalten. Die umgebende Anwendung führt die Tools aus und verwaltet den Aufgabenstatus. Fordern Sie das Modell auf zu erklären, was eine neue Beobachtung verändert, frühere weiterhin gültige Befunde beizubehalten und eine vorgeschlagene Aktion von einem protokollierten Ergebnis zu unterscheiden. Stellen Sie für Programmierung die relevanten Dateien und das erwartete Verhalten bereit und fordern Sie anschliessend überarbeiteten Code, eine Erklärung der Änderung und die zur Überprüfung erforderlichen Fälle an.

NVIDIA dokumentiert standardmässig aktiviertes Denken und einen Direktantwortmodus, in dem das Denken über die Chatvorlage deaktiviert wird. Super bietet ausserdem eine Analyseoption mit geringem Aufwand, die weniger Analysetokens als vollständiges Denken verwendet und als Ausgangspunkt vor einer expliziten Budgetabstimmung empfohlen wird. Dies ist die Super-Einstellung; Ultras separate Option mit mittlerem Aufwand darf nicht darauf übertragen werden. Wählen Sie eine Form für die endgültige Antwort und lassen Sie nach der Analyse Platz dafür, insbesondere wenn ein Tool-Ergebnis oder ein komplexer Quellenvergleich eine Erklärung erfordert.

Das Modell unterstützt einen Kontext von bis zu 1M Tokens, während die Hugging-Face-Konfiguration des Herstellers standardmässig 256K verwendet, weil längerer Kontext mehr Speicher benötigt. Arbeiten Sie bei langen Eingaben innerhalb der zutreffenden Konfiguration, bewahren Sie Dokumentgrenzen und Quellenbezeichnungen und reservieren Sie Antwortplatz. Fordern Sie den Zusammenhang an, der durch das Material verfolgt werden soll, statt einer ungerichteten Zusammenfassung von allem. Ein Maximum auf Modellebene verspricht nicht, dass jede Bereitstellungskonfiguration dasselbe Fenster verwendet.

Der Hersteller nennt Englisch, Französisch, Deutsch, Italienisch, Japanisch, Spanisch und Chinesisch. Legen Sie die endgültige Sprache fest und bewahren Sie dabei Codekennungen und Quellbegriffe, die exakt bleiben müssen. Fordern Sie das Modell bei mehrsprachigem Support auf, die technische Bedeutung und Eskalationskriterien beizubehalten und gleichzeitig die Formulierung an die lesende Person anzupassen. Prüfen Sie unbekannte Terminologie oder mehrdeutige Eingaben, statt sprachliche Flüssigkeit als Beleg für eine richtige Interpretation zu behandeln.

Ein nützliches Endergebnis ist kompakt und prüfbar: die Antwort oder das überarbeitete Artefakt, die stützenden Beobachtungen, die Annahmen und die verbleibende Arbeit. Prüfen Sie bei generierten Verfahren die vorgesehenen Prüfungen anhand der tatsächlichen Umgebung. Vergleichen Sie bei Code die vorgeschlagenen Änderungen mit dem beobachteten Verhalten. Bestätigen Sie bei einer quellengestützten Antwort, dass die zitierte Passage die Aussage stützt. Supers Analyse- und Agententraining helfen, diese Arbeit zu organisieren; das tatsächliche Ergebnis wird durch das Material und die Ausführungsprotokolle belegt, mit denen es geprüft wird.