NVIDIA: Nemotron 3 Super (free)

NVIDIA Nemotron 3 Super to uniwersalny model rozumowania i rozmów, przeznaczony do współpracujących agentów oraz procesów o dużym wolumenie, w tym automatyzacji zgłoszeń IT. Ma 120 mld parametrów łącznie i aktywuje 12 mld. Jego hybrydowa architektura łączy warstwy Mamba-2, uwagi i Latent Mixture-of-Experts. Warstwy Multi-Token Prediction dodają mechanizm przewidywania przyszłych tokenów i wspierają natywne procedury dekodowania spekulatywnego NVIDIA.

Model przyjmuje tekst i zwraca tekst, w tym wyjaśnienia, projekty odpowiedzi, kod i żądania wywołania narzędzi w odpowiedniej aplikacji połączonej z narzędziami. Jego zamierzone zastosowania obejmują agentów, chatboty, generowanie wspomagane wyszukiwaniem, wykonywanie złożonych instrukcji i rozumowanie w długim kontekście. Przydatne polecenie określa żądany materiał oraz warunki, którym podlega. Na przykład: „Sklasyfikuj ten incydent zgodnie z dostarczoną polityką, wyjaśnij priorytet na podstawie dowodów, przygotuj projekt odpowiedzi i wymień brakujące fakty potrzebne przed zaleceniem poprawki”.

Przy przetwarzaniu zgłoszeń IT dostarcz treść zgłoszenia, istotną historię, szczegóły środowiska i obowiązujące reguły kierowania lub eskalacji. Poproś o osobne pola dla zaobserwowanych objawów, prawdopodobnych przyczyn, proponowanych kontroli i odpowiedzi do użytkownika. To rozróżnienie zapobiega zapisaniu hipotezy jako potwierdzonej diagnozy. Jeśli uruchomione zostanie narzędzie diagnostyczne, wprowadź do rozmowy jego rzeczywisty wynik przed poproszeniem o kolejny krok. Ukończone podsumowanie zgłoszenia powinno określać, co zaobserwowano i rozwiązano oraz jakie pytanie pozostaje otwarte.

Przy RAG i pracy z bazą wiedzy oznacz pobrane fragmenty i określ, czy model ma odpowiadać wyłącznie na ich podstawie. Poproś o odpowiedź z odniesieniami do źródeł, które ją uzasadniają, oraz wskazaniem sprzeczności między materiałami. Praktyczny przykład brzmi: „Porównaj te sekcje instrukcji operacyjnej, wskaż kroki dotyczące dostarczonego środowiska i zwróć uporządkowaną procedurę z kontrolą po każdym ważnym kroku”. Zachowaj wersje i warunki ze źródła; jasna procedura nadal może być błędna, jeśli łączy instrukcje dla niezgodnych środowisk.

W zadaniach z udziałem współpracujących agentów nadaj każdemu etapowi jasny cel i zachowuj użyteczne wyniki pośrednie. Super jest przeznaczony do rozumowania na podstawie obserwacji narzędzi i utrzymywania wieloetapowej rozmowy. Otaczająca aplikacja wykonuje narzędzia i zachowuje stan zadania. Poproś model o wyjaśnienie, co zmienia nowa obserwacja, zachowanie wcześniejszych ustaleń, które nadal obowiązują, i odróżnienie proponowanego działania od zapisanego wyniku. Przy programowaniu dostarcz odpowiednie pliki i oczekiwane zachowanie, a następnie poproś o poprawiony kod, wyjaśnienie zmiany i przypadki potrzebne do jej sprawdzenia.

NVIDIA dokumentuje domyślnie włączone myślenie i tryb bezpośredniej odpowiedzi, w którym myślenie wyłącza się za pomocą szablonu rozmowy. Super ma także opcję rozumowania z małym nakładem, która zużywa mniej tokenów rozumowania niż pełne myślenie i jest sugerowana jako punkt wyjścia przed jawnym dostrajaniem budżetu. Jest to ustawienie Super; nie należy przenosić do niego odrębnej opcji średniego nakładu z Ultra. Wybierz formę końcowej odpowiedzi i pozostaw na nią miejsce po rozumowaniu, szczególnie gdy wynik narzędzia lub złożone porównanie źródeł wymaga wyjaśnienia.

Model obsługuje kontekst do 1 mln tokenów, natomiast konfiguracja Hugging Face producenta domyślnie używa 256 tys., ponieważ dłuższy kontekst wymaga więcej pamięci. Przy długich danych wejściowych pracuj w granicach właściwej konfiguracji, zachowuj granice dokumentów i oznaczenia źródeł oraz rezerwuj przestrzeń na odpowiedź. Poproś o prześledzenie relacji w materiale, zamiast o nieukierunkowane podsumowanie wszystkiego. Maksimum na poziomie modelu nie jest obietnicą, że każda konfiguracja udostępniania używa tego samego okna.

Producent wymienia języki angielski, francuski, niemiecki, włoski, japoński, hiszpański i chiński. Określ język końcowy, zachowując identyfikatory kodu i terminy źródłowe, które muszą pozostać dokładne. Przy wsparciu wielojęzycznym poproś model o zachowanie znaczenia technicznego i kryteriów eskalacji przy dostosowywaniu sformułowań do czytelnika. Sprawdzaj nieznaną terminologię lub niejednoznaczne dane wejściowe, zamiast traktować płynność jako dowód poprawnej interpretacji.

Użyteczny końcowy rezultat jest zwięzły i możliwy do sprawdzenia: odpowiedź lub poprawiony materiał, uzasadniające go obserwacje, założenia i pozostała praca. W wygenerowanych procedurach sprawdź kontrole względem rzeczywistego środowiska. Przy kodzie porównaj proponowane zmiany z zaobserwowanym zachowaniem. Przy odpowiedzi opartej na źródłach potwierdź, że cytowany fragment uzasadnia twierdzenie. Trening Super w rozumowaniu i pracy agentowej pomaga uporządkować te działania; rzeczywisty wynik ustala się na podstawie materiałów i zapisów wykonania użytych do jego sprawdzenia.