NVIDIA: Nemotron 3.5 Embed 8B (free)

{"about":"### 知識庫中的語意搜尋\n\nNemotron 3.5 Embed 8B 是 NVIDIA 將查詢與文件轉為嵌入向量的模型。當提問措辭與來源用詞不同時，這些數值表徵有助於依內容比對文字。模型適合用作企業知識庫、參考服務，以及在回答前選取文件的應用程式搜尋層。\n\nNVIDIA 原始模型將文字與文件影像結合在同一表徵空間；3.5 代新增依頁面視覺內容搜尋的能力。這張 Ailoot 模型卡使用其文字情境：輸入文字，輸出向量。\n\nAiloot 透過 embeddings 提供文字輸入及向量輸出。應用程式取得原始資料的表徵，再用它搜尋索引中的相近項目。若需要附帶說明的連貫答案，可將找到的文字與使用者問題一併交給另一個生成模型。\n\n### 8B 版本有何不同\n\n文字編碼以 Nemotron 3 Embed 8B 為基礎。建立 3.5 代時，NVIDIA 保留了文字部分及其嵌入空間，並為原始模型擴充其他能力。公開模型卡描述輸出為 4096 個數值，透過 token 表徵平均及 L2 正規化取得。準備向量索引時，維度應與方法實際傳回的結果一致。\n\n文字搜尋曾以 34 種語言評估，包括俄語。對多語操作說明及參考資料而言，這使模型可考慮作為共用搜尋層。選取結果取決於知識庫組成、文件切分與常見使用者問題，適合用自身領域資料驗證。\n\n### 工作流程\n\n1. 將原始文件分成各自包含完整答案或說明的片段。\n2. 取得嵌入向量，連同文字、標題及來源參照一併儲存。\n3. 用同一模型轉換使用者問題，並尋找相近項目。\n4. 顯示找到的片段，或在 RAG 中用於準備有來源依據的答案。\n\n### 輸入大小\n\n此版本在 Ailoot 標示的文字上下文與輸入上限為 32768 個 token。長文件片段可作為獨立項目儲存，並共用原始資料參照。模型提供的結果是文字嵌入向量，供應用程式後續處理。","alias_of":null,"aliases":[],"author":"NVIDIA","canonical_model":"nvidia/nemotron-3.5-embed-8b:free","ctx":32768,"formats":["embeddings"],"id":"nvidia/nemotron-3.5-embed-8b:free","input":["text"],"kind":"embedding","max_out":0,"methods":[{"cache_read":null,"cache_write":null,"cache_write_1h":null,"cache_write_5m":null,"conditional_meter":null,"ctx":32768,"family":"openai","fast_multiplier":1,"flex_multiplier":1,"fmt":"embeddings","http":"POST","img_in":null,"img_out":null,"in":0,"input":["text"],"label":"Эмбеддинги","max_out":0,"max_tool_calls":null,"out":0,"output":["embedding"],"path":"/v1/embeddings","request_model_id":"nvidia/nemotron-3.5-embed-8b:free","route_label":"Ultra","status_reads":[],"tiers":[],"tool_prices":null,"unit":"token","units":[]}],"model_aliases":[{"canonical_model_id":"nvidia/nemotron-3.5-embed-8b:free","request_model_id":"nvidia/nemotron-3.5-embed-8b:free","route_label":"Ultra"}],"name":"NVIDIA: Nemotron 3.5 Embed 8B (free)","price":{"in":0,"in_label":null,"out":null,"out_label":null,"sort_in":0,"sort_out":null,"varies":false},"public_id":"nvidia/nemotron-3.5-embed-8b:free","short":"NVIDIA 的多語文字嵌入模型，用於文件語意搜尋與 RAG 建置。"}