NVIDIA: Nemotron 3.5 Content Safety (free)

Nemotron 3.5 Content Safety to model ochronny NVIDIA mający 4 miliardy parametrów, dostrojony na bazie Gemma-3-4B. Jego udokumentowane przeznaczenie to moderacja promptów i odpowiedzi, klasyfikacja treści oraz procesy stosowania zasad bezpieczeństwa. NVIDIA opisuje wyniki, które oceniają prompt użytkownika i odpowiedź jako bezpieczne lub niebezpieczne, dodają etykiety kategorii bezpieczeństwa i opcjonalnie zawierają ślad rozumowania. Ocena jest wyjściem modelu, które aplikacja musi ocenić i zastosować. Każda wiadomość ma pole role o wartości system, developer, user lub assistant oraz content w postaci zwykłego ciągu tekstowego. Opcjonalne pole name jest ciągiem; ogranicz każdą wiadomość do tych pól. Wyślij stream:false lub pomiń stream.

Używaj dokładnego identyfikatora modelu nvidia/nemotron-3.5-content-safety:free z POST /v1/chat/completions i niepustą tablicą messages. Umieść materiał do oceny w tekstowej treści pola content i odróżnij prompt użytkownika od odpowiedzi modelu, gdy oceniane są oba. Praktyczny etap moderacji może jawnie oznaczać te dwa fragmenty i prosić model o wskazanie odpowiednich kategorii, przy zachowaniu powiązania oceny z dostarczoną treścią.

Ta edycja Ailoot przyjmuje tekst i zwraca tekst. Dla kolejki oceny przygotuj rzeczywisty wpis, szkic wiadomości obsługi klienta lub wygenerowaną odpowiedź wymagającą oceny, wraz z kontekstem wpływającym na znaczenie. Decyzje aplikacji, takie jak skierowanie oznaczonego elementu do oceny człowieka, pozostaw we własnym procesie. Wejścia multimedialne, parametry wywoływania narzędzi i jawne sterowanie pamięcią podręczną pozostają poza profilem żądania tej edycji.

Strona modelu podaje okno kontekstu 128 000 tokenów i do 8 192 tokenów odpowiedzi. Ailoot wymaga ponadto, aby cała treść żądania JSON w UTF-8, w tym instrukcje i nazwy pól, mieściła się w 128 000 bajtów. Dla jawnego limitu wyjścia ustaw dokładnie jeden z parametrów max_tokens lub max_completion_tokens na dodatnią liczbę całkowitą od 1 do 8 192. Jeśli żaden nie zostanie podany, Ailoot przekazuje limit wyjścia 4 096 tokenów. Uwzględnij całą rozmowę i żądaną ocenę. Opis modelu podaje obsługę 12 języków; zachowaj oryginalne brzmienie, gdy ocena zależy od języka źródłowego. Jeśli aplikacja oczekuje określonych etykiet, parsuj i weryfikuj zwrócony tekst względem wybranych reguł obsługi. Żądanie odpowiedzi wyglądającej jak JSON nie gwarantuje wyjścia wymuszonego schematem.

Użyj stream:false dla kompletnej odpowiedzi rozmowy JSON. Odczytaj choices[].message.content, zachowaj każdy zwrócony wariant i wszystkie dostarczone pola rozumowania oraz zachowaj finish_reason i usage. Przechowuj ocenę z dokładnym promptem i odpowiedzią, które ocenia, aby później można było przejrzeć decyzję. Ocena jednego tekstu dotyczy tego dostarczonego tekstu i kontekstu; istotnie zmienioną odpowiedź oceniaj jako osobny element.

Przygotuj materiał niezawierający informacji poufnych, zgodnie z udokumentowanymi warunkami użytkowania tej bezpłatnej edycji. Jeśli żądanie zakończy się bez kompletnej oceny, zachowaj identyfikator pierwotnego żądania i zwrócone dane podczas sprawdzania istniejącej próby. Ta karta dokumentuje bezpośredni wynik rozmowy i nie udostępnia oddzielnego zadania asynchronicznego ani procesu anulowania.