NVIDIA: Nemotron 3.5 Embed 8B (free)

{"about":"### ナレッジベースの意味検索\n\nNemotron 3.5 Embed 8Bは、質問と文書を埋め込みに変換するNVIDIAのモデルです。この数値表現により、質問の言葉が元資料と異なっていても内容を比較できます。社内ナレッジベース、情報案内サービス、回答前に文書を抽出するアプリケーションの検索部分に適しています。\n\n元のNVIDIAモデルは文章と文書画像を共通の表現空間で扱い、3.5世代ではページの視覚的内容を使った検索が加わっています。Ailootのこのモデルカードでは、そのテキスト処理を使い、文章を入力してベクトルを出力します。\n\nAilootではembeddingsを通してテキスト入力とベクトル出力を利用できます。アプリケーションは元資料の表現を受け取り、インデックス内の近い項目を探します。説明を伴うまとまった回答が必要なら、見つかった文章を利用者の質問と共に別の生成モデルへ渡せます。\n\n### 8B版の違い\n\nテキストの符号化はNemotron 3 Embed 8Bを基盤としています。NVIDIAは3.5世代を作る際、そのテキスト部分と埋め込み空間を保ち、元のモデルに追加機能を持たせました。公開モデルカードでは、トークン表現の平均化とL2正規化によって得る4,096個の値の出力が説明されています。ベクトルインデックスの次元数は、メソッドの実際の回答に合わせてください。\n\nテキスト検索はロシア語を含む34言語で評価されています。多言語の手順書や参考資料を検索する共通層の候補になります。抽出結果は文書群の構成、区切り方、利用者によくある質問に左右されるため、自分の分野の資料で確認すると役立ちます。\n\n### 作業手順\n\n1. 元文書を、完結した回答や説明を含む部分に分けます。\n2. 埋め込みを取得し、文章、見出し、元資料への参照と一緒に保存します。\n3. 同じモデルで利用者の質問を変換し、近い項目を探します。\n4. 見つかった部分を表示するか、資料に基づく回答のためにRAGで利用します。\n\n### 入力の大きさ\n\nこのAiloot版ではテキストコンテキストと入力の上限が32,768トークンと記載されています。長い文書の各部分を、共通の元資料参照を持つ独立した項目として保存できます。モデルの結果は文章の埋め込みであり、アプリケーションの後続処理に使用します。","alias_of":null,"aliases":[],"author":"NVIDIA","canonical_model":"nvidia/nemotron-3.5-embed-8b:free","ctx":32768,"formats":["embeddings"],"id":"nvidia/nemotron-3.5-embed-8b:free","input":["text"],"kind":"embedding","max_out":0,"methods":[{"cache_read":null,"cache_write":null,"cache_write_1h":null,"cache_write_5m":null,"conditional_meter":null,"ctx":32768,"family":"openai","fast_multiplier":1,"flex_multiplier":1,"fmt":"embeddings","http":"POST","img_in":null,"img_out":null,"in":0,"input":["text"],"label":"Эмбеддинги","max_out":0,"max_tool_calls":null,"out":0,"output":["embedding"],"path":"/v1/embeddings","request_model_id":"nvidia/nemotron-3.5-embed-8b:free","route_label":"Ultra","status_reads":[],"tiers":[],"tool_prices":null,"unit":"token","units":[]}],"model_aliases":[{"canonical_model_id":"nvidia/nemotron-3.5-embed-8b:free","request_model_id":"nvidia/nemotron-3.5-embed-8b:free","route_label":"Ultra"}],"name":"NVIDIA: Nemotron 3.5 Embed 8B (free)","price":{"in":0,"in_label":null,"out":null,"out_label":null,"sort_in":0,"sort_out":null,"varies":false},"public_id":"nvidia/nemotron-3.5-embed-8b:free","short":"文書の意味検索とRAGの構築に向けた、NVIDIAの多言語テキスト埋め込みモデルです。"}