Amazon: Titan Text Embeddings V2

{"about":"### 第二代 Titan 文字嵌入模型\n\nAmazon Titan Text Embeddings V2 將文字轉成數值表徵，用於搜尋及其他依語意相近程度運作的工作。模型針對擷取相關片段進行最佳化：使用者以自己的話提問，應用程式再將問題向量與知識庫資料的向量比較。因此不必完全符合關鍵字，也能找到所需資訊。\n\nV2 與 G1 的差別之一，是預設表徵更精簡：Amazon 文件中預設的向量大小為 **1,024 維**。對應用程式而言，這是所儲存與比較資料的特性。同一索引中的所有項目都必須採用一致的表徵方式；從其他嵌入模型切換時，需要依選定模型重新建立索引。\n\n### 適用情境\n\n- **RAG 與企業搜尋：**建立文件各章節的向量，再擷取片段交給另一個模型回答問題。\n- **語意相似度：**比較措辭不同的文字，尋找相近內容。\n- **分群：**透過表徵的接近程度，探索客服問題、評論與文件的主題。\n- **程式碼搜尋：**為原始碼與相關說明建立搜尋流程。\n\nAmazon 表示 V2 的訓練涵蓋超過 100 種自然語言及 13 種程式語言，包括 Python、JavaScript、Java、C++、Rust、Go 與 SQL。不過，模型仍主要針對英語文字最佳化。多語知識庫尤其應單獨測試提問語言與文件語言不同的查詢：某種語言曾納入訓練，不代表所有語言組合都有相同品質。\n\n### 在 Ailoot 中使用\n\n輸入為文字，輸出為**嵌入向量**。本模型卡的上限為 **8,192 個輸入 token**。建立搜尋索引時，可依標題、章節與段落等語意邊界切分長篇資料，再將各片段與其向量及原文參照一併儲存。\n\n### 實際工作循環\n\n從自己的資料集中選出真實問題與合適答案，建立嵌入向量並檢查搜尋結果。在同一組資料上調整片段大小與比較方式，同時保留與原文的關聯。Titan 負責產生數值表徵；比較、結果篩選與答案生成則由應用程式的後續階段執行。這種檢查有助於依專業用語及文件結構選擇索引設定。","alias_of":null,"aliases":[],"author":"Amazon","canonical_model":"amazon/titan-embed-text-v2","ctx":8192,"formats":["embeddings"],"id":"amazon/titan-embed-text-v2","input":["text"],"kind":"embedding","max_out":0,"methods":[{"cache_read":null,"cache_write":null,"cache_write_1h":null,"cache_write_5m":null,"conditional_meter":null,"ctx":8192,"family":"openai","fast_multiplier":1,"flex_multiplier":1,"fmt":"embeddings","http":"POST","img_in":null,"img_out":null,"in":0.04,"input":["text"],"label":"Эмбеддинги","max_out":0,"max_tool_calls":null,"out":0,"output":["embedding"],"path":"/v1/embeddings","request_model_id":"amazon/titan-embed-text-v2","route_label":"Ultra","status_reads":[],"tiers":[],"tool_prices":null,"unit":"token","units":[]}],"model_aliases":[{"canonical_model_id":"amazon/titan-embed-text-v2","request_model_id":"amazon/titan-embed-text-v2","route_label":"Ultra"}],"name":"Amazon: Titan Text Embeddings V2","price":{"in":0.04,"in_label":null,"out":null,"out_label":null,"sort_in":0.04,"sort_out":null,"varies":false},"public_id":"amazon/titan-embed-text-v2","short":"為 RAG、語意搜尋及分群建立文字向量，涵蓋多語資料與程式碼搜尋。"}