NVIDIA: Nemotron 3 Super (free)

NVIDIA Nemotron 3 Super 是通用推理與對話模型，為協作代理及大量工作流程而設計，包括 IT 工單自動化。它的總參數量為 120B，啟用參數量為 12B。其混合架構結合 Mamba-2、注意力及 Latent Mixture-of-Experts 層。Multi-Token Prediction 層加入預測未來 token 的機制，並支援 NVIDIA 的原生推測解碼方法。

模型接受文字並回傳文字，包括解釋、回覆草稿、程式碼，以及在適當連接工具的應用程式中使用的工具呼叫請求。預定用途包括代理、聊天機器人、檢索增強生成、複雜指令遵循及長上下文推理。實用的提示會定義所需產物，以及產物須遵循的條件。例如：「使用提供的政策對此事件分類、根據證據解釋優先順序、擬定回覆，並列出建議修正前仍需補齊的事實。」

處理 IT 工單時，請提供工單文字、相關歷史、環境細節，以及適用的分流或升級處理規則。請要求以不同欄位呈現觀察到的症狀、可能原因、建議檢查及給使用者的回覆。這項區分可避免將假設記錄為已確認的診斷。若執行了診斷工具，請先將實際結果放入對話，再要求下一步。完成的工單摘要應說明觀察到什麼、解決了什麼，以及哪個問題仍未釐清。

進行 RAG 及知識庫工作時，請為擷取的段落加上標籤，並說明模型是否只能依據這些段落回答。請要求答案附上支持它的來源參照，以及資料之間的任何衝突。實用的範例是：「比較這些操作手冊區段，找出適用於所提供環境的步驟，並回傳有順序的程序，在每個重要步驟後附上檢查。」請保留來源中的版本與條件；清楚的程序若混合了不相容環境的指示，仍可能是錯的。

進行協作代理任務時，請為每個階段設定清楚的目標，並保留有用的中間結果。Super 的用途包括根據工具觀察推理，以及維持多步驟對話。周邊應用程式執行工具並保留任務狀態。請要求模型解釋新觀察改變了什麼、保留仍然成立的先前發現，並區分建議動作與已記錄的結果。處理程式碼時，請提供相關檔案及預期行為，再要求修訂後的程式碼、變更說明，以及驗證所需的案例。

NVIDIA 文件記載，預設會啟用思考，也提供透過對話範本關閉思考的直接回答模式。Super 另外具有低投入程度推理選項，使用的推理 token 比完整思考少，製造商建議在明確調整預算前先從此選項開始。這是 Super 的設定；不應將 Ultra 獨立的中等投入程度選項套用於此。請選擇最終回覆形式，並在推理後為該回覆保留空間，尤其是工具結果或複雜來源比較需要解釋時。

模型支援最高 1M-token 的上下文，而製造商的 Hugging Face 設定因為較長上下文需要更多記憶體，預設為 256K。處理長輸入時，請在適用設定內工作、保留文件邊界與來源標籤，並預留回覆空間。請要求追蹤資料之間的關係，而非對所有內容作漫無方向的摘要。模型層級的最大值，不保證每種服務設定都使用相同視窗。

製造商列出的語言包括英語、法語、德語、義大利語、日語、西班牙語及中文。請指定最終語言，同時保留必須精確不變的程式碼識別碼及來源術語。進行多語言客服工作時，請要求模型在調整措辭以適應讀者的同時，保留技術含義及升級處理準則。請檢視不熟悉的術語或含糊輸入，避免將語言流暢視為解讀正確的證據。

實用的最終交付成果應精簡且可核查：答案或修訂後的產物、支持它的觀察結果、假設及剩餘工作。對於生成的程序，請依實際環境檢視檢查步驟。對於程式碼，請將建議變更與實際觀察到的行為比較。對於根據來源作出的回答，請確認引用段落支持該陳述。Super 的推理與代理訓練能協助組織這些工作；實際結果則由用來檢視它的資料與執行記錄確認。