NVIDIA: Nemotron 3 Super (free)

NVIDIA Nemotron 3 Super ist ein vielseitiges Modell für logisches Schlussfolgern und Chat, das für zusammenarbeitende Agenten und Abläufe mit hohem Volumen, einschließlich der Automatisierung von IT-Tickets, entwickelt wurde. Es hat insgesamt 120B Parameter und aktiviert 12B. Seine hybride Architektur kombiniert Mamba-2-, Attention- und Latent-Mixture-of-Experts-Schichten. Multi-Token-Prediction-Schichten ergänzen einen Mechanismus zur Vorhersage zukünftiger Tokens und unterstützen NVIDIAs native Verfahren für spekulative Decodierung.

Das Modell nimmt Text entgegen und gibt Text zurück, darunter Erklärungen, Antwortentwürfe, Code und Anfragen für Werkzeugaufrufe in einer entsprechend mit Werkzeugen verbundenen Anwendung. Zu seinen vorgesehenen Einsatzgebieten zählen Agenten, Chatbots, Retrieval-Augmented Generation, komplexe Anweisungsbefolgung und Schlussfolgern mit langem Kontext. Ein nützlicher Prompt definiert das gewünschte Ergebnis und die Bedingungen, denen es unterliegt. Zum Beispiel: „Klassifiziere diesen Vorfall anhand der bereitgestellten Richtlinie, erkläre die Priorität anhand der Belege, entwirf eine Antwort und liste die fehlenden Fakten auf, die vor der Empfehlung einer Behebung erforderlich sind.“

Stellen Sie für die Bearbeitung von IT-Tickets den Tickettext, den relevanten Verlauf, Umgebungsdetails und die geltenden Zuweisungs- oder Eskalationsregeln bereit. Fordern Sie getrennte Felder für beobachtete Symptome, wahrscheinliche Ursachen, vorgeschlagene Prüfungen und die Antwort an den Nutzer an. Diese Unterscheidung verhindert, dass eine Hypothese als bestätigte Diagnose erfasst wird. Wenn ein Diagnosewerkzeug ausgeführt wird, geben Sie sein tatsächliches Ergebnis in das Gespräch zurück, bevor Sie den nächsten Schritt anfordern. Eine abgeschlossene Ticketzusammenfassung sollte benennen, was beobachtet und behoben wurde und welche Frage offen bleibt.

Kennzeichnen Sie für RAG- und Wissensdatenbankarbeit die abgerufenen Passagen und legen Sie fest, ob das Modell ausschließlich daraus antworten soll. Fordern Sie die Antwort mit stützenden Quellenreferenzen und allen Widersprüchen zwischen den Materialien an. Ein zweckmäßiges Beispiel lautet: „Vergleiche diese Runbook-Abschnitte, ermittle die Schritte, die für die angegebene Umgebung gelten, und liefere ein geordnetes Verfahren mit einer Prüfung nach jedem wichtigen Schritt.“ Erhalten Sie Versionsangaben und Bedingungen aus der Quelle; auch ein klar formuliertes Verfahren kann falsch sein, wenn es Anweisungen für inkompatible Umgebungen vermischt.

Geben Sie bei Aufgaben für zusammenarbeitende Agenten jeder Stufe ein klares Ziel und erhalten Sie nützliche Zwischenergebnisse. Super soll aus Werkzeugbeobachtungen Schlüsse ziehen und ein mehrstufiges Gespräch führen. Die umgebende Anwendung führt die Werkzeuge aus und verwaltet den Aufgabenstatus. Bitten Sie das Modell zu erklären, was sich durch eine neue Beobachtung ändert, frühere weiterhin gültige Erkenntnisse beizubehalten und eine vorgeschlagene Aktion von einem aufgezeichneten Ergebnis zu unterscheiden. Stellen Sie für Programmieraufgaben die relevanten Dateien und das erwartete Verhalten bereit und fordern Sie anschließend überarbeiteten Code, eine Erklärung der Änderungen und die zu ihrer Prüfung erforderlichen Fälle an.

NVIDIA dokumentiert einen standardmäßig aktivierten Denkmodus und einen Modus für direkte Antworten, bei dem der Denkprozess über die Chatvorlage deaktiviert wird. Super besitzt außerdem eine Option zum Schlussfolgern mit geringem Aufwand, die weniger Denk-Tokens als der vollständige Denkmodus verwendet und als Ausgangspunkt vor einer expliziten Budgetabstimmung empfohlen wird. Dies ist die Einstellung für Super; Ultras eigenständige Option mit mittlerem Aufwand darf nicht darauf übertragen werden. Wählen Sie eine Form für die endgültige Antwort und lassen Sie nach dem Denkprozess Platz dafür, insbesondere wenn ein Werkzeugergebnis oder ein komplexer Quellenvergleich eine Erklärung erfordert.

Das Modell unterstützt Kontext bis zu 1M Tokens, während die Hugging-Face-Konfiguration des Herstellers standardmäßig 256K nutzt, weil längerer Kontext mehr Arbeitsspeicher benötigt. Arbeiten Sie bei langen Eingaben innerhalb der jeweils geltenden Konfiguration, erhalten Sie Dokumentgrenzen und Quellenbezeichnungen und reservieren Sie Platz für die Antwort. Benennen Sie die Beziehung, die über das Material hinweg nachvollzogen werden soll, statt eine ungerichtete Zusammenfassung von allem zu verlangen. Ein modellbezogener Höchstwert verspricht nicht, dass jede Bereitstellungskonfiguration dasselbe Fenster verwendet.

Der Hersteller nennt Englisch, Französisch, Deutsch, Italienisch, Japanisch, Spanisch und Chinesisch. Legen Sie die endgültige Sprache fest und erhalten Sie Code-Kennungen und Quellenbegriffe, die exakt bleiben müssen. Bitten Sie das Modell bei mehrsprachiger Supportarbeit, die technische Bedeutung und die Eskalationskriterien beizubehalten und zugleich die Formulierung an den Leser anzupassen. Prüfen Sie unbekannte Terminologie oder mehrdeutige Eingaben, statt sprachliche Flüssigkeit als Beleg für eine richtige Interpretation zu behandeln.

Ein nützliches Endergebnis ist kompakt und überprüfbar: die Antwort oder das überarbeitete Artefakt, die stützenden Beobachtungen, die Annahmen und die verbleibende Arbeit. Prüfen Sie bei erzeugten Verfahren die vorgesehenen Kontrollen anhand der tatsächlichen Umgebung. Vergleichen Sie bei Code die vorgeschlagenen Änderungen mit dem beobachteten Verhalten. Bestätigen Sie bei einer quellenbasierten Antwort, dass die zitierte Passage die Aussage stützt. Supers Training für Schlussfolgern und Agenten hilft dabei, diese Arbeit zu ordnen; das tatsächliche Ergebnis wird durch die Materialien und Ausführungsaufzeichnungen belegt, anhand derer es geprüft wird.