NVIDIA: Nemotron 3 Super (free)

NVIDIA Nemotron 3 Super is een algemeen model voor redeneren en chat, ontworpen voor samenwerkende agents en workflows met grote volumes, waaronder automatisering van IT-tickets. Het telt 120B parameters in totaal en activeert er 12B. De hybride architectuur combineert Mamba-2-, attention- en Latent Mixture-of-Experts-lagen. Multi-Token Prediction-lagen voegen een mechanisme toe om toekomstige tokens te voorspellen en ondersteunen NVIDIA’s native recepten voor speculative decoding.

Het model aanvaardt tekst en geeft tekst terug, waaronder uitleg, conceptantwoorden, code en verzoeken voor toolaanroepen in een geschikte applicatie met tools. De bedoelde toepassingen omvatten agents, chatbots, retrieval-augmented generation, het volgen van complexe instructies en redeneren met lange context. Een bruikbare prompt definieert het gewenste resultaat en de voorwaarden die ervoor gelden. Bijvoorbeeld: “Classificeer dit incident volgens het aangeleverde beleid, leg de prioriteit uit op basis van de onderbouwing, stel een antwoord op en vermeld welke ontbrekende feiten nodig zijn voordat u een oplossing aanbeveelt.”

Lever voor de verwerking van IT-tickets de tickettekst, relevante geschiedenis, omgevingsdetails en de toepasselijke routerings- of escalatieregels aan. Vraag om afzonderlijke velden voor waargenomen symptomen, waarschijnlijke oorzaken, voorgestelde controles en het antwoord aan de gebruiker. Dat onderscheid voorkomt dat een hypothese als bevestigde diagnose wordt vastgelegd. Geef, als een diagnosetool wordt uitgevoerd, het werkelijke resultaat aan het gesprek door voordat u om een volgende stap vraagt. Een voltooide ticketsamenvatting moet aangeven wat werd waargenomen en opgelost, en welke vraag openblijft.

Label voor RAG en kennisbankwerk de opgehaalde tekstfragmenten en geef aan of het model uitsluitend op basis daarvan moet antwoorden. Vraag om een antwoord met ondersteunende bronverwijzingen en eventuele tegenstrijdigheden tussen de materialen. Een praktisch voorbeeld is: “Vergelijk deze runbooksecties, identificeer welke stappen voor de opgegeven omgeving gelden en geef een geordende procedure terug met een controle na elke belangrijke stap.” Behoud versies en voorwaarden uit de bron; een duidelijke procedure kan nog altijd fout zijn als ze instructies voor onverenigbare omgevingen combineert.

Geef bij taken met samenwerkende agents elke fase een duidelijk doel en bewaar bruikbare tussenresultaten. Super is bedoeld om over toolwaarnemingen te redeneren en een gesprek in meerdere stappen voort te zetten. De omliggende applicatie voert de tools uit en bewaart de taaktoestand. Vraag het model uit te leggen wat een nieuwe waarneming verandert, eerdere bevindingen die nog gelden te behouden en onderscheid te maken tussen een voorgestelde actie en een vastgelegd resultaat. Lever voor programmeerwerk de relevante bestanden en het verwachte gedrag aan, en vraag vervolgens om herziene code, een uitleg van de wijziging en de gevallen die nodig zijn om ze te controleren.

NVIDIA documenteert dat denken standaard is ingeschakeld en dat een modus voor directe antwoorden het denken via het chatsjabloon uitschakelt. Super heeft ook een optie voor redeneren met lage inspanning, die minder redeneertokens gebruikt dan volledig denken en wordt voorgesteld als startpunt vóór expliciete budgetafstemming. Dit is de Super-instelling; de afzonderlijke optie met gemiddelde inspanning van Ultra mag er niet in worden overgenomen. Kies een vorm voor het eindantwoord en laat er na de redenering ruimte voor, vooral wanneer een toolresultaat of een complexe bronvergelijking uitleg vereist.

Het model ondersteunt een context tot 1M tokens, terwijl de Hugging Face-configuratie van de maker standaard 256K gebruikt omdat langere context meer geheugen vraagt. Werk bij lange invoer binnen de toepasselijke configuratie, behoud documentgrenzen en bronlabels en reserveer ruimte voor het antwoord. Vraag om het verband dat door het materiaal heen moet worden gevolgd, in plaats van om een ongerichte samenvatting van alles. Een maximum op modelniveau is geen belofte dat elke servingconfiguratie hetzelfde venster gebruikt.

De maker vermeldt Engels, Frans, Duits, Italiaans, Japans, Spaans en Chinees. Geef de eindtaal op en behoud code-identificaties en brontermen die exact moeten blijven. Vraag bij meertalig supportwerk om de technische betekenis en escalatiecriteria te behouden en tegelijk de formulering aan de lezer aan te passen. Controleer onbekende terminologie of dubbelzinnige invoer in plaats van vloeiendheid als bewijs van een juiste interpretatie te zien.

Een bruikbaar eindresultaat is beknopt en controleerbaar: het antwoord of herziene resultaat, de ondersteunende waarnemingen, de aannames en het resterende werk. Controleer bij gegenereerde procedures de controles aan de hand van de werkelijke omgeving. Vergelijk bij code de voorgestelde wijzigingen met het waargenomen gedrag. Bevestig bij een antwoord op basis van bronnen dat het aangehaalde fragment de bewering ondersteunt. De redeneer- en agenttraining van Super helpt dit werk te ordenen; het werkelijke resultaat wordt vastgesteld door het materiaal en de uitvoeringsregistraties waarmee het wordt gecontroleerd.