NVIDIA: Nemotron 3 Super (free)

NVIDIA Nemotron 3 Super je univerzální model pro uvažování a chat, navržený pro spolupracující agenty a pracovní postupy ve velkých objemech, včetně automatizace IT požadavků. Má celkem 120 miliard parametrů a aktivuje 12 miliard. Jeho hybridní architektura kombinuje vrstvy Mamba-2, pozornosti a Latent Mixture-of-Experts. Vrstvy Multi-Token Prediction přidávají mechanismus předpovídání budoucích tokenů a podporují nativní postupy spekulativního dekódování NVIDIA.

Model přijímá text a vrací text, včetně vysvětlení, návrhů odpovědí, kódu a požadavků na volání nástrojů ve vhodné aplikaci s připojenými nástroji. Zamýšlené použití zahrnuje agenty, chatboty, generování rozšířené o vyhledávání, plnění složitých instrukcí a uvažování nad dlouhým kontextem. Užitečné zadání definuje požadovaný artefakt a podmínky, kterými se řídí. Například: „Klasifikujte tento incident podle dodaných zásad, vysvětlete prioritu na základě důkazů, navrhněte odpověď a uveďte chybějící fakta potřebná před doporučením opravy.“

Při zpracování IT požadavků poskytněte text požadavku, příslušnou historii, podrobnosti prostředí a platná pravidla směrování nebo eskalace. Požadujte samostatná pole pro pozorované příznaky, pravděpodobné příčiny, navržené kontroly a odpověď uživateli. Toto rozlišení brání tomu, aby se hypotéza zaznamenala jako potvrzená diagnóza. Pokud se spustí diagnostický nástroj, vložte jeho skutečný výsledek do konverzace před požadavkem na další krok. Dokončené shrnutí požadavku by mělo uvést, co bylo pozorováno a vyřešeno a která otázka zůstává otevřená.

Při práci s RAG a znalostní bází označte vyhledané pasáže a určete, zda má model odpovídat pouze z nich. Požadujte odpověď s odkazy na podpůrné zdroje a uvedením případných rozporů mezi materiály. Praktický příklad zní: „Porovnejte tyto oddíly provozní příručky, určete kroky platné pro dodané prostředí a vraťte uspořádaný postup s kontrolou po každém důležitém kroku.“ Zachovejte verze a podmínky ze zdroje; i jasný postup může být chybný, pokud kombinuje instrukce pro neslučitelná prostředí.

U úloh se spolupracujícími agenty stanovte každé fázi jasný cíl a uchovávejte užitečné mezivýsledky. Model Super je určen k uvažování nad pozorováními nástrojů a vedení vícekrokové konverzace. Okolní aplikace spouští nástroje a uchovává stav úlohy. Požadujte, aby model vysvětlil, co nové pozorování mění, zachoval dřívější stále platná zjištění a rozlišoval navrženou akci od zaznamenaného výsledku. Pro programování dodejte příslušné soubory a očekávané chování a poté požadujte upravený kód, vysvětlení změny a případy potřebné k jejímu ověření.

NVIDIA dokumentuje uvažování zapnuté ve výchozím stavu a režim přímé odpovědi s uvažováním vypnutým pomocí chatové šablony. Super má také možnost uvažování s nízkým úsilím, která používá méně tokenů uvažování než plné přemýšlení a doporučuje se jako výchozí bod před výslovným laděním rozpočtu. Jde o nastavení Super; samostatná možnost středního úsilí u Ultra by se do něj neměla přenášet. Zvolte formu konečné odpovědi a ponechte pro ni prostor po uvažování, zejména když výsledek nástroje nebo složité porovnání zdrojů vyžaduje vysvětlení.

Model podporuje kontext až 1 milion tokenů, zatímco konfigurace výrobce pro Hugging Face má ve výchozím stavu 256 tisíc, protože delší kontext vyžaduje více paměti. U dlouhých vstupů pracujte v rámci příslušné konfigurace, zachovejte hranice dokumentů a označení zdrojů a rezervujte prostor pro odpověď. Požadujte vztah, který má model v materiálu sledovat, místo neurčitého shrnutí všeho. Maximum na úrovni modelu není příslibem, že každá konfigurace obsluhy používá stejné okno.

Výrobce uvádí angličtinu, francouzštinu, němčinu, italštinu, japonštinu, španělštinu a čínštinu. Určete jazyk konečné odpovědi a současně zachovejte identifikátory kódu a zdrojové výrazy, které musí zůstat přesné. U vícejazyčné podpory požadujte zachování technického významu a kritérií eskalace při přizpůsobení formulace čtenáři. Neznámou terminologii nebo nejednoznačný vstup zkontrolujte, místo abyste plynulost považovali za důkaz správné interpretace.

Užitečný konečný výstup je kompaktní a ověřitelný: odpověď nebo upravený artefakt, pozorování, která jej podporují, předpoklady a zbývající práce. U vygenerovaných postupů prozkoumejte kontroly vůči skutečnému prostředí. U kódu porovnejte navržené změny s pozorovaným chováním. U odpovědi založené na zdrojích potvrďte, že citovaná pasáž podporuje dané tvrzení. Uvažování a agentní trénink Super pomáhají tuto práci uspořádat; skutečný výsledek určují podklady a záznamy provedení použité k jeho kontrole.