NVIDIA: Nemotron 3 Super (free)

NVIDIA Nemotron 3 Super is een algemeen inzetbaar redeneer- en chatmodel, ontworpen voor samenwerkende agents en workflows met grote volumes, waaronder automatisering van IT-tickets. Het heeft in totaal 120B parameters en activeert 12B. De hybride architectuur combineert Mamba-2-, attention- en Latent Mixture-of-Experts-lagen. Multi-Token Prediction-lagen voegen een mechanisme voor het voorspellen van toekomstige tokens toe en ondersteunen de native speculative-decodingrecepten van NVIDIA.

Het model accepteert tekst en geeft tekst terug, waaronder uitleg, conceptantwoorden, code en verzoeken om toolaanroepen in een passende applicatie met aangesloten tools. De beoogde toepassingen omvatten agents, chatbots, retrieval-augmented generation, het volgen van complexe instructies en redeneren met lange context. Een bruikbare prompt definieert het gewenste artefact en de voorwaarden die ervoor gelden. Bijvoorbeeld: ‘Classificeer dit incident met het aangeleverde beleid, onderbouw de prioriteit met de beschikbare aanwijzingen, stel een antwoord op en vermeld welke feiten ontbreken voordat een oplossing kan worden aanbevolen.’

Lever voor IT-ticketverwerking de tickettekst, relevante geschiedenis, omgevingsdetails en toepasselijke regels voor routering of escalatie aan. Vraag om afzonderlijke velden voor waargenomen symptomen, waarschijnlijke oorzaken, voorgestelde controles en het antwoord aan de gebruiker. Dit onderscheid voorkomt dat een hypothese als bevestigde diagnose wordt vastgelegd. Als een diagnostische tool wordt uitgevoerd, voeg dan het daadwerkelijke resultaat aan het gesprek toe voordat je om een volgende stap vraagt. Een voltooide ticketsamenvatting moet aangeven wat is waargenomen en opgelost en welke vraag openblijft.

Label voor RAG- en kennisbankwerk de opgehaalde passages en geef aan of het model uitsluitend op basis daarvan moet antwoorden. Vraag het antwoord op met ondersteunende bronverwijzingen en eventuele tegenstrijdigheden tussen de materialen. Een praktisch voorbeeld is: ‘Vergelijk deze runbooksecties, bepaal welke stappen op de aangeleverde omgeving van toepassing zijn en geef een geordende procedure terug met een controle na elke belangrijke stap.’ Behoud versies en voorwaarden uit de bron; een duidelijke procedure kan nog steeds onjuist zijn als zij instructies voor onverenigbare omgevingen combineert.

Geef voor taken met samenwerkende agents elke fase een duidelijk doel en bewaar bruikbare tussenresultaten. Super is bedoeld om over toolwaarnemingen te redeneren en een gesprek met meerdere stappen voort te zetten. De omringende applicatie voert de tools uit en bewaart de taakstatus. Vraag het model uit te leggen wat een nieuwe waarneming verandert, eerdere bevindingen die nog gelden te behouden en een voorgestelde actie van een vastgelegd resultaat te onderscheiden. Lever voor programmeren de relevante bestanden en het verwachte gedrag aan en vraag vervolgens om aangepaste code, uitleg van de wijziging en de gevallen die nodig zijn om deze te verifiëren.

NVIDIA documenteert dat denken standaard is ingeschakeld en dat er een directe antwoordmodus is waarin denken via de chattemplate wordt uitgeschakeld. Super heeft ook een optie voor redeneren met lage inspanning, die minder redeneertokens gebruikt dan volledig denkwerk en als startpunt wordt voorgesteld voordat het budget expliciet wordt afgestemd. Dit is de Super-instelling; neem de afzonderlijke optie voor gemiddelde inspanning van Ultra hierin niet over. Kies een definitieve antwoordvorm en laat na de redenering ruimte voor dat antwoord over, vooral wanneer een toolresultaat of een complexe bronvergelijking uitleg vereist.

Het model ondersteunt een context tot 1M tokens, terwijl de Hugging Face-configuratie van de maker standaard 256K gebruikt omdat langere context meer geheugen vereist. Werk voor lange invoer binnen de toepasselijke configuratie, behoud documentgrenzen en bronlabels en reserveer ruimte voor het antwoord. Vraag naar de relatie die door het materiaal moet worden gevolgd, in plaats van naar een ongerichte samenvatting van alles. Een maximum op modelniveau belooft niet dat elke servingconfiguratie hetzelfde venster gebruikt.

De maker noemt Engels, Frans, Duits, Italiaans, Japans, Spaans en Chinees. Specificeer de uiteindelijke taal en behoud code-identifiers en brontermen die exact moeten blijven. Vraag bij meertalig supportwerk om de technische betekenis en escalatiecriteria te behouden en de formulering aan de lezer aan te passen. Controleer onbekende terminologie of dubbelzinnige invoer in plaats van taalvaardigheid als bewijs voor een juiste interpretatie te behandelen.

Een bruikbaar eindresultaat is compact en controleerbaar: het antwoord of aangepaste artefact, de ondersteunende waarnemingen, de aannamen en het resterende werk. Controleer bij gegenereerde procedures de controles aan de hand van de daadwerkelijke omgeving. Vergelijk bij code de voorgestelde wijzigingen met het waargenomen gedrag. Bevestig voor een antwoord op basis van bronnen dat de aangehaalde passage de uitspraak onderbouwt. De redeneer- en agenttraining van Super helpt dit werk te ordenen; het daadwerkelijke resultaat wordt vastgesteld aan de hand van het materiaal en de uitvoeringsregistraties waarmee het wordt geïnspecteerd.