NVIDIA: Nemotron 3 Ultra (free)

NVIDIA Nemotron 3 Ultra je rozsiahly model na uvažovanie a orchestráciu v rodine Nemotron 3. Je navrhnutý pre náročných viackrokových agentov, analýzu dlhého kontextu a uvažovanie nad kódom, matematikou a vedou. Model má 550B celkových a 55B aktívnych parametrov. Kombinuje vrstvy Mamba-2, pozornosti a Latent Mixture-of-Experts, pričom vrstvy Multi-Token Prediction podporujú jeho návrh generovania.

LatentMoE premieta informácie do menšej latentnej reprezentácie na spracovanie expertmi. Tréningový postup NVIDIA kombinuje predtrénovanie, doladenie s učiteľom, posilňované učenie a viacdoménovú destiláciu on-policy. Praktickým účelom týchto fáz je zlepšiť uvažovanie, plnenie pokynov, používanie nástrojov a správanie agentov naprieč viacerými typmi úloh. Ultra vytvára text: vysvetlenie, riešenie, kód, plán alebo požadovanú štruktúru odpovede. Dodajte materiál, ktorý má odpoveď používať, a podmienky určujúce správnosť výsledku.

Pri matematickom alebo vedeckom uvažovaní zahrňte úplné zadanie, známe hodnoty, jednotky a dovolené predpoklady. Užitočná požiadavka znie: „Odvoďte výsledok z týchto podmienok, identifikujte predpoklady v každej fáze, skontrolujte rozmerovú správnosť a vysvetlite, ktoré pozorovanie by záver vyvrátilo.“ Po pracovnom vysvetlení žiadajte stručný konečný výsledok. Ak sú súčasťou experimentálne dáta, odlíšte namerané od vypočítaného a žiadajte, aby neistota alebo chýbajúce informácie zostali viditeľné namiesto ich skrytia v sebavedomej odpovedi.

Pri kóde a pracovných postupoch agentov dodajte cieľ, relevantné súbory ako text a skutočné výstupy predchádzajúcich krokov. Ultra je určený na úlohy s viacerými závislými rozhodnutiami, preto je užitočný výslovný záznam dokončenej práce a zostávajúcich otázok. Napríklad: „Skontrolujte tento návrh migrácie voči schéme a zlyhávajúcim kontrolám. Identifikujte závislosť blokujúcu dokončenie, navrhnite cielenú opravu a uveďte očakávaný výsledok ďalšej kontroly.“ Aplikácia pripojená k nástrojom potom môže vykonať navrhovaný krok a vrátiť podklady pre ďalšie rozhodnutie.

Výrobca podporuje zapnutie alebo vypnutie uvažovania cez šablónu chatu. Uvažovanie je predvolene zapnuté a vytvára záznam uvažovania nasledovaný odpoveďou. Karta Ultra dokumentuje aj režim uvažovania so stredným úsilím, ktorý používa menej tokenov uvažovania než plné premýšľanie. Ide o možnosť špecifickú pre Ultra; nemá sa zamieňať s nastavením nízkeho úsilia zdokumentovaným pre Super. Nastavte požadovaný konečný výstup a po uvažovaní naň nechajte priestor. Nedokončený záznam nenahrádza dokončenú odpoveď na pôvodnú otázku.

Ultra podporuje kontext až 1M tokenov. Pri veľkej zbierke dokumentov alebo zdrojových súborov označte sekcie a povedzte modelu presne, čo má porovnať, sledovať alebo zosúladiť. Zachovajte poradie zdrojov, keď záleží na chronológii alebo závislosti. Užitočný výsledok z dlhého dokumentu obsahuje zistenie, podpornú pasáž a dôsledok pre otázku. Vyberte relevantné materiály a vyhraďte priestor na výstup; kontextové okno opisuje pracovnú postupnosť, nie samostatnú zaručenú dĺžku konečnej odpovede.

Výrobca uvádza angličtinu, francúzštinu, španielčinu, taliančinu, nemčinu, japončinu, hindčinu, kórejčinu, brazílsku portugalčinu a čínštinu. Uveďte jazyk výstupu a zachovajte technické identifikátory alebo zdrojové citácie tam, kde záleží na presnom znení. Pri viacjazyčnej analýze používajte rovnaké kritériá pre každý dokument a žiadajte vysvetlenie rozdielov v terminológii alebo predpokladoch. Samotná plynulosť nestačí na potvrdenie, že dve odlišne formulované požiadavky znamenajú to isté.

NVIDIA poskytuje explicitné príklady volania nástrojov s uvažovaním. Definujte účel každej funkcie, argumenty a očakávaný výsledok a potom vráťte modelu jej skutočný výstup. Operáciu vykonáva aplikácia; model uvažuje nad vráteným pozorovaním. Dlhý pracovný postup agenta sa ľahšie kontroluje, keď sú jasne odlíšené navrhované operácie, výsledky vykonania a nevyriešené kontroly. Pri konečnej správe žiadajte odpoveď, podklady, ktoré ju podporujú, predpoklady a všetky zostávajúce položky úlohy. Výpočty overte voči pôvodným jednotkám, zmeny kódu voči pozorovaným kontrolám a faktické tvrdenia voči dodaným zdrojom.