nvidia/nemotron-3.5-embed-1b

{"about":"### テキストの意味検索\n\nNemotron 3.5 Embed 1Bは、テキストの内容を数値表現へ変換します。NVIDIAのこのモデルは、質問と適切な文章で言葉が異なる場合にも、意味に基づいて文書を探す用途に向けられています。参考資料、社内手順、記事、サポートの回答集の検索に利用できます。\n\n元のNVIDIAモデルは文章と文書画像を共通の表現空間で扱い、3.5世代ではページの視覚的内容を使った検索が加わっています。Ailootのこのモデルカードでは、そのテキスト処理を使い、文章を入力してベクトルを出力します。\n\nAilootではembeddingsメソッドを通してテキストを渡し、ベクトルを受け取ります。ベクトルは質問と文書の比較に使われ、利用者向けの完成した回答はアプリケーションの次の段階で作られます。資料の検索と、それに基づく回答作成を別々に構成できます。\n\n### 検索の構築方法\n\nまず資料を意味の完結した部分に分け、各部分の埋め込みを取得します。ベクトルを元の文章、文書名、識別子と一緒に保存します。検索では同じモデルで質問を変換し、インデックスから近いベクトルを選びます。見つかった文章を利用者に表示したり、文書に基づく回答のコンテキストとしてテキストモデルに渡したりできます。\n\n質問と文書にはそれぞれ別の表現を使い、同じ検索処理の中で比較します。文書群の準備では、主張とそれを説明する文脈を近くに残すと有用です。見つかった部分を単独で読み、元の文書と結び付けられます。\n\n### モデルの特徴\n\n1B版は、より大きなNemotron 3.5 Embed 8Bを教師モデルにして作られました。テキスト部分はNemotron 3 Embed 1Bに基づき、そのテキスト表現空間を保っています。元のモデルの説明では、L2正規化された2,048個の値からなるベクトルが記載されています。インデックスの設計では、選んだメソッドが実際に返す次元数を確認しながら考慮してください。\n\nテキスト検索はロシア語を含む34言語で評価されています。多言語ナレッジベースの候補となりますが、資料の抽出品質は、自分の分野の実際の質問や文書で確かめるとよいでしょう。\n\n### 入力と要求の大きさ\n\n現在のAilootテキストメソッドでは、1入力の上限は4,096トークンです。長い資料は、各部分に元資料への参照を付けて分割して索引化できます。このモデルカードの利用範囲は、テキスト入力と埋め込み出力です。","alias_of":null,"aliases":[],"author":"NVIDIA","canonical_model":"nvidia/nemotron-3.5-embed-1b","ctx":4096,"formats":["embeddings"],"id":"nvidia/nemotron-3.5-embed-1b","input":["text"],"kind":"embedding","max_out":0,"methods":[{"cache_read":null,"cache_write":null,"cache_write_1h":null,"cache_write_5m":null,"conditional_meter":null,"ctx":4096,"family":"openai","fast_multiplier":null,"flex_multiplier":null,"fmt":"embeddings","http":"POST","img_in":null,"img_out":null,"in":0.1,"input":["text"],"label":"Эмбеддинги","max_out":0,"max_tool_calls":null,"out":0,"output":["embedding"],"path":"/v1/embeddings","request_model_id":"nvidia/nemotron-3.5-embed-1b","route_label":"Core","status_reads":[],"tiers":[],"tool_prices":null,"unit":"token","units":[]}],"model_aliases":[{"canonical_model_id":"nvidia/nemotron-3.5-embed-1b","request_model_id":"nvidia/nemotron-3.5-embed-1b","route_label":"Core"}],"name":"nvidia/nemotron-3.5-embed-1b","price":{"in":0.1,"in_label":null,"out":null,"out_label":null,"sort_in":0.1,"sort_out":null,"varies":false},"public_id":"nvidia/nemotron-3.5-embed-1b","short":"多言語の意味検索とRAGでの資料抽出に向けたNVIDIAのテキスト埋め込みモデルです。"}