NVIDIA: Nemotron 3 Ultra (free)

NVIDIA Nemotron 3 Ultra to wielkoskalowy model rozumowania i orkiestracji z rodziny Nemotron 3. Jest przeznaczony do wymagających agentów wieloetapowych, analizy długiego kontekstu oraz rozumowania nad kodem, matematyką i naukami przyrodniczymi. Model ma 550 mld parametrów łącznie i 55 mld parametrów aktywnych. Łączy warstwy Mamba-2, uwagi i Latent Mixture-of-Experts, a warstwy Multi-Token Prediction wspierają jego konstrukcję generowania.

LatentMoE odwzorowuje informacje na mniejszą reprezentację ukrytą przeznaczoną do przetwarzania przez ekspertów. Procedura treningowa NVIDIA łączy trening wstępny, nadzorowane dostrajanie, uczenie ze wzmocnieniem i destylację on-policy w wielu dziedzinach. Praktycznym celem tych etapów jest poprawa rozumowania, wykonywania instrukcji, użycia narzędzi i zachowania agentów w kilku typach zadań. Ultra tworzy tekst: wyjaśnienie, rozwiązanie, kod, plan lub żądaną strukturę odpowiedzi. Dostarcz materiał, z którego odpowiedź ma korzystać, i warunki określające poprawność wyniku.

Przy rozumowaniu matematycznym lub naukowym uwzględnij pełną treść zadania, znane wartości, jednostki i dozwolone założenia. Przydatne polecenie brzmi: „Wyprowadź wynik z tych warunków, wskaż założenia na każdym etapie, sprawdź zgodność wymiarową i wyjaśnij, jaka obserwacja podważyłaby wniosek”. Poproś o zwięzły końcowy wynik po wyjaśnieniu toku pracy. Jeśli zadanie obejmuje dane eksperymentalne, rozróżnij to, co zmierzono, od tego, co obliczono, i poproś, aby niepewność lub brakujące informacje pozostały widoczne, zamiast znikać w pewnie brzmiącej odpowiedzi.

Przy kodzie i procesach agentowych podaj cel, odpowiednie pliki w postaci tekstu i rzeczywiste wyniki wcześniejszych kroków. Ultra jest przeznaczony do zadań obejmujących kilka zależnych decyzji, więc przydatny jest jawny zapis ukończonej pracy i pozostałych pytań. Na przykład: „Sprawdź tę propozycję migracji względem schematu i nieprzechodzących kontroli. Wskaż zależność blokującą ukończenie, zaproponuj ukierunkowaną poprawkę i podaj oczekiwany wynik następnej kontroli”. Aplikacja połączona z narzędziami może następnie wykonać proponowany krok i zwrócić dowody na potrzeby kolejnej decyzji.

Producent umożliwia włączanie lub wyłączanie rozumowania za pomocą szablonu rozmowy. Rozumowanie jest domyślnie włączone i tworzy zapis rozumowania, po którym następuje odpowiedź. Karta Ultra dokumentuje również tryb rozumowania ze średnim nakładem, który zużywa mniej tokenów rozumowania niż pełne myślenie. Jest to opcja właściwa Ultra; nie należy jej mylić z ustawieniem małego nakładu opisanym dla Super. Określ żądany końcowy materiał i pozostaw dla niego miejsce po rozumowaniu. Niedokończony zapis nie zastępuje ukończonej odpowiedzi na pierwotne pytanie.

Ultra obsługuje kontekst do 1 mln tokenów. Przy dużym zbiorze dokumentów lub plików źródłowych oznacz sekcje i dokładnie określ, co model ma porównać, prześledzić lub uzgodnić. Zachowaj kolejność źródeł, gdy znaczenie ma chronologia lub zależność. Użyteczny wynik pracy z długim dokumentem zawiera ustalenie, uzasadniający je fragment i znaczenie dla pytania. Wybierz istotne materiały i zarezerwuj przestrzeń na wynik; okno kontekstu opisuje sekwencję roboczą, a nie osobną gwarantowaną długość końcowej odpowiedzi.

Producent wymienia języki angielski, francuski, hiszpański, włoski, niemiecki, japoński, hindi, koreański, portugalski brazylijski i chiński. Określ język wyjściowy i zachowaj identyfikatory techniczne lub cytaty ze źródeł tam, gdzie dokładne brzmienie ma znaczenie. W analizie wielojęzycznej stosuj te same kryteria dla każdego dokumentu i poproś o wyjaśnienie różnic w terminologii lub założeniach. Sama płynność nie wystarcza do ustalenia, że dwa różnie sformułowane wymagania oznaczają to samo.

NVIDIA udostępnia jawne przykłady wywoływania narzędzi z rozumowaniem. Zdefiniuj cel każdej funkcji, argumenty i oczekiwany wynik, a następnie zwróć modelowi jej rzeczywiste wyjście. Aplikacja wykonuje operację, a model rozumuje na podstawie zwróconej obserwacji. Długi proces agentowy łatwiej sprawdzić, gdy proponowane działania, wyniki wykonania i nierozstrzygnięte kontrole są wyraźnie odróżnione. W końcowym raporcie poproś o odpowiedź, dowody ją uzasadniające, założenia i pozostałe elementy zadania. Sprawdzaj obliczenia względem oryginalnych jednostek, zmiany kodu względem zaobserwowanych kontroli, a twierdzenia o faktach względem dostarczonych źródeł.