NVIDIA: Nemotron 3 Super (free)

NVIDIA Nemotron 3 Superは、協働するエージェントと、ITチケットの自動化を含む大量処理のワークフローに向けて設計された、汎用の推論・チャットモデルです。総パラメータ数は120Bで、12Bが有効になります。ハイブリッドアーキテクチャは、Mamba-2層、アテンション層、Latent Mixture-of-Experts層を組み合わせています。Multi-Token Prediction層は、後続トークンを予測する仕組みを加え、NVIDIAのネイティブな投機的デコーディング手順を支えます。

モデルはテキストを受け取り、説明、返信の下書き、コード、適切にツール接続されたアプリケーションでのツール呼び出し要求など、テキストを返します。想定用途には、エージェント、チャットボット、検索拡張生成、複雑な指示への追従、長いコンテキストの推論が含まれます。有用なプロンプトは、求める成果物と、それを規定する条件を定義します。たとえば、「提示したポリシーを使ってこのインシデントを分類し、証拠に基づいて優先度を説明し、返信を下書きし、修正を推奨する前に必要な不足情報を列挙してください」と依頼できます。

ITチケット処理では、チケット本文、関連する履歴、環境の詳細、適用される振り分けまたはエスカレーションの規則を提示します。確認された症状、考えられる原因、提案する確認、ユーザーへの返信を、別々のフィールドで求めます。この区別により、仮説が確認済みの診断として記録されるのを防げます。診断ツールを実行した場合は、次のステップを求める前に実際の結果を会話に渡してください。完了時のチケット要約には、何を観測し、何を解決したか、どの問いが未解決かを示す必要があります。

RAGやナレッジベースの作業では、検索で取得した箇所にラベルを付け、それらだけに基づいて回答すべきかを指定します。根拠となる出典の参照と、資料間の矛盾を伴う回答を求めます。実用的な例は、「これらの運用手順書のセクションを比較し、提示した環境に適用されるステップを特定して、重要な各ステップの後に確認を置いた順序付きの手順を返してください」です。出典の版と条件を保持してください。両立しない環境の指示を混ぜれば、分かりやすい手順でも誤りになり得ます。

協働するエージェントのタスクでは、各段階に明確な目的を与え、有用な中間結果を保持します。Superは、ツールの観測結果に基づいて推論し、複数ステップの会話を維持することを想定しています。周囲のアプリケーションがツールを実行し、タスクの状態を保持します。新しい観測で何が変わるかを説明し、引き続き有効な以前の知見を残し、提案されたアクションと記録済みの結果を区別するようモデルに求めてください。コーディングでは、関連ファイルと期待する動作を提示し、修正済みコード、変更の説明、検証に必要なケースを求めます。

NVIDIAの文書では、思考は既定で有効であり、チャットテンプレートで思考を無効にする直接回答モードも示されています。Superには低労力の推論オプションもあり、完全な思考より少ない推論トークンを使います。明示的な予算調整に入る前の開始点として推奨されています。これはSuperの設定であり、Ultraに別途用意された中程度の労力のオプションを流用してはいけません。最終応答の形式を選び、推論後にその応答のための領域を残します。特に、ツールの結果や複雑な出典比較に説明が必要な場合は重要です。

モデルは最大1Mトークンのコンテキストに対応しますが、より長いコンテキストには多くのメモリが必要なため、開発元のHugging Face構成は既定で256Kになっています。長い入力では、適用される構成の範囲内で作業し、文書境界と出典ラベルを保ち、応答用の領域を確保します。すべてを方向性なく要約するのではなく、資料全体を通じて追跡すべき関係を求めてください。モデルとしての最大値は、どの提供構成でも同じウィンドウを使うという約束ではありません。

開発元は、英語、フランス語、ドイツ語、イタリア語、日本語、スペイン語、中国語を挙げています。最終出力の言語を指定しつつ、正確に保持する必要のあるコードの識別子や出典の用語は残します。多言語のサポート作業では、読み手に合わせて表現を調整しながら、技術的な意味とエスカレーションの基準を保つようモデルに求めます。流暢さを解釈の正しさの証拠とせず、不慣れな用語や曖昧な入力を確認してください。

有用な最終成果物は、簡潔で確認可能なものです。回答または修正した成果物、それを支える観測結果、前提、残る作業を含めます。生成した手順では、確認事項が実際の環境に合うかを調べます。コードでは、提案された変更を観測された動作と比較します。出典に基づく回答では、引用箇所がその記述を支えているかを確認します。Superの推論とエージェント学習は、この作業を整理するのに役立ちます。実際の結果を裏付けるのは、それを確認するために使う資料と実行記録です。