NVIDIA: Nemotron 3.5 Embed 1B (free)

{"about":"### 文字語意搜尋\n\nNemotron 3.5 Embed 1B 將文字轉換成表達內容的數值表徵。這個 NVIDIA 模型用於依語意搜尋文件，問題與合適片段即使措辭不同也能比對。結果可用於參考手冊、內部操作說明、文章與客服答案庫的搜尋。\n\nNVIDIA 原始模型將文字與文件影像結合在同一表徵空間；3.5 代新增依頁面視覺內容搜尋的能力。這張 Ailoot 模型卡使用其文字情境：輸入文字，輸出向量。\n\n在 Ailoot，模型透過 embeddings 方法接受文字並傳回向量。向量用於將查詢與文件比較；完整的使用者答案由應用程式的下一階段生成。因此可分別安排來源搜尋，以及依來源準備答案。\n\n### 如何建立搜尋流程\n\n先將資料切分成語意完整的片段，為每個片段取得嵌入向量。將向量與原文、文件名稱及識別碼一併儲存。搜尋時使用同一模型轉換問題，再從索引選出相近向量。找到的片段可直接呈現給使用者，或交給文字模型，作為依文件回答的上下文。\n\n查詢與文件使用各自的表徵，再於同一搜尋流程中比對。準備語料時，適合將主張與解釋它的上下文放在一起，讓找到的片段可獨立閱讀，也能連回原始文件。\n\n### 模型特色\n\n1B 版本使用較大的 Nemotron 3.5 Embed 8B 作為教師模型訓練而成。文字部分以 Nemotron 3 Embed 1B 為基礎，保留其文字表徵空間。原始模型說明標示輸出為經 L2 正規化的 2048 個數值。設計索引時可考量這項特性，同時檢查所選方法實際答案的維度。\n\n文字搜尋曾以 34 種語言評估，包括俄語。這種涵蓋範圍使模型可作為多語知識庫的候選；片段選取品質仍宜使用自身領域的真實問題及文件評估。\n\n### 輸入與請求大小\n\n目前 Ailoot 的文字方法設定單一輸入上限為 32768 個 token。較長資料可分段建立索引，各自保留來源參照。本模型卡提供的情境是文字輸入與嵌入向量輸出。","alias_of":null,"aliases":[],"author":"NVIDIA","canonical_model":"nvidia/nemotron-3.5-embed-1b:free","ctx":32768,"formats":["embeddings"],"id":"nvidia/nemotron-3.5-embed-1b:free","input":["text"],"kind":"embedding","max_out":0,"methods":[{"cache_read":null,"cache_write":null,"cache_write_1h":null,"cache_write_5m":null,"conditional_meter":null,"ctx":32768,"family":"openai","fast_multiplier":1,"flex_multiplier":1,"fmt":"embeddings","http":"POST","img_in":null,"img_out":null,"in":0,"input":["text"],"label":"Эмбеддинги","max_out":0,"max_tool_calls":null,"out":0,"output":["embedding"],"path":"/v1/embeddings","request_model_id":"nvidia/nemotron-3.5-embed-1b:free","route_label":"Ultra","status_reads":[],"tiers":[],"tool_prices":null,"unit":"token","units":[]}],"model_aliases":[{"canonical_model_id":"nvidia/nemotron-3.5-embed-1b:free","request_model_id":"nvidia/nemotron-3.5-embed-1b:free","route_label":"Ultra"}],"name":"NVIDIA: Nemotron 3.5 Embed 1B (free)","price":{"in":0,"in_label":null,"out":null,"out_label":null,"sort_in":0,"sort_out":null,"varies":false},"public_id":"nvidia/nemotron-3.5-embed-1b:free","short":"NVIDIA 的文字嵌入模型，用於多語語意搜尋及 RAG 來源選取。"}