NVIDIA: Nemotron 3 Ultra (free)

NVIDIA Nemotron 3 Ultra je rozsáhlý model pro uvažování a orchestraci v rodině Nemotron 3. Je navržen pro náročné vícekrokové agenty, analýzu dlouhého kontextu a uvažování nad kódem, matematikou a přírodními vědami. Model má celkem 550 miliard parametrů a 55 miliard aktivních parametrů. Kombinuje vrstvy Mamba-2, pozornosti a Latent Mixture-of-Experts, přičemž vrstvy Multi-Token Prediction podporují jeho způsob generování.

LatentMoE promítá informace do menší latentní reprezentace pro zpracování experty. Tréninkový postup NVIDIA kombinuje předtrénování, dolaďování s učitelem, posilované učení a distilaci typu on-policy ve více doménách. Praktickým účelem těchto fází je zlepšovat uvažování, plnění instrukcí, používání nástrojů a chování agentů napříč několika typy úloh. Ultra vytváří text: vysvětlení, řešení, kód, plán nebo požadovanou strukturu odpovědi. Dodejte materiál, z něhož má odpověď vycházet, a podmínky určující správnost výsledku.

Pro matematické nebo vědecké uvažování zahrňte úplné zadání, známé hodnoty, jednotky a přípustné předpoklady. Užitečný požadavek zní: „Odvoďte výsledek z těchto podmínek, určete předpoklady v každé fázi, zkontrolujte rozměry veličin a vysvětlete, které pozorování by závěr vyvrátilo.“ Po vysvětlení postupu požadujte stručný konečný výsledek. Pokud se pracuje s experimentálními daty, rozlišujte naměřené a vypočítané údaje a požadujte, aby nejistota či chybějící informace zůstaly viditelné, místo aby se rozpustily v sebejisté odpovědi.

Pro programování a agentní postupy poskytněte cíl, příslušné soubory jako text a skutečné výstupy předchozích kroků. Model Ultra je určen pro úlohy s několika závislými rozhodnutími, takže výslovný záznam dokončené práce a zbývajících otázek je užitečný. Například: „Zkontrolujte tento návrh migrace proti schématu a neúspěšným kontrolám. Určete závislost bránící dokončení, navrhněte cílenou opravu a uveďte očekávaný výsledek další kontroly.“ Aplikace připojená k nástrojům pak může provést navržený krok a vrátit důkazy pro další rozhodnutí.

Výrobce podporuje zapnutí nebo vypnutí uvažování pomocí chatové šablony. Uvažování je ve výchozím stavu zapnuto a vytváří záznam uvažování následovaný odpovědí. Karta Ultra také dokumentuje režim uvažování se středním úsilím, který používá méně tokenů uvažování než plné přemýšlení. Jde o možnost specifickou pro Ultra; neměla by se zaměňovat s nastavením nízkého úsilí zdokumentovaným pro Super. Určete požadovaný konečný výstup a ponechte pro něj prostor po uvažování. Nedokončený záznam nenahrazuje úplnou odpověď na původní otázku.

Ultra podporuje kontext až 1 milion tokenů. U velké kolekce dokumentů nebo zdrojových souborů označte oddíly a řekněte modelu přesně, co má porovnat, sledovat nebo uvést do souladu. Zachovejte pořadí zdrojů, pokud záleží na chronologii nebo závislostech. Užitečný výsledek z dlouhých dokumentů obsahuje zjištění, podpůrnou pasáž a důsledek pro zadanou otázku. Vyberte příslušné materiály a rezervujte prostor pro výstup; kontextové okno popisuje pracovní posloupnost, nikoli samostatnou zaručenou délku konečné odpovědi.

Výrobce uvádí angličtinu, francouzštinu, španělštinu, italštinu, němčinu, japonštinu, hindštinu, korejštinu, brazilskou portugalštinu a čínštinu. Určete jazyk výstupu a zachovejte technické identifikátory nebo citace zdrojů tam, kde záleží na přesném znění. Pro vícejazyčnou analýzu používejte stejná kritéria pro každý dokument a požadujte vysvětlení rozdílů v terminologii nebo předpokladech. Samotná jazyková plynulost nestačí k prokázání, že dva odlišně formulované požadavky znamenají totéž.

NVIDIA poskytuje výslovné příklady volání nástrojů s uvažováním. Definujte účel každé funkce, argumenty a očekávaný výsledek a poté vraťte modelu její skutečný výstup. Operaci provádí aplikace; model uvažuje nad vráceným pozorováním. Dlouhý agentní postup se snáze kontroluje, když jsou jasně rozlišeny navržené akce, výsledky provedených kroků a nevyřešené kontroly. Pro závěrečnou zprávu požadujte odpověď, důkazy, které ji podporují, předpoklady a případné zbývající části úkolu. Výpočty ověřujte proti původním jednotkám, změny kódu proti pozorovaným kontrolám a faktická tvrzení proti dodaným zdrojům.