LiquidAI: LFM2.5-Embedding-350M (free)
LiquidAI LFM2.5-Embedding-350M 為每段文字產生一個 1024 維向量,用於多語與跨語言檢索。它以 11 種語言及 512 個 token 的短輸入為目標,並對查詢與文件使用不同前綴。
關於模型
此說明介紹模型的能力。Ailoot 可用的輸入、輸出與選項,依所選方法列於下方。
LFM2.5-Embedding-350M 是 LiquidAI 的稠密雙編碼器,適用於多語言與跨語言檢索。它為每篇文字產生一個 1024 維向量,針對十一種語言的短上下文搜尋。具名的 350M 模型系列採用 LFM2.5-350M-Base 的雙向調整版本;詳細模型表列出此嵌入版本約有 3.54 億參數。
雙向檢索表示
製造商調整骨幹,讓注意力與局部卷積能利用詞元兩側的上下文。CLS 式池化將處理後文字轉成一個稠密向量。模型表描述十七層:十個卷積區塊、六個注意力區塊與一個池化階段。這是有自己準備方式與輸出的檢索編碼器,不是基礎模型的文字生成任務。
另外具名的 LFM2.5-ColBERT-350M 保留逐詞元向量,供後期互動使用。這種表示需要不同的索引與比較方法。此處的 Embedding 模型為每份文件或查詢提供一個向量,文件記載的比較方式是餘弦相似度。
使用正確的非對稱提示
搜尋查詢請加上「query:」,來源段落加上「document:」。製造商將這些提示存於設定中,參考流程會套用對應提示名稱。由於模型以這些前綴訓練,製造商特別建議兩端使用相應角色。這個文件前綴與 E5 模型的「passage:」慣例不同。
實際商品搜尋資料集可收納支援語言的描述。將使用者搜尋措辭準備成查詢,各商品描述準備成文件。把原文、商品識別碼與語言連同向量儲存,讓搜尋結果能回傳對應紀錄。客服資料集應保留與問題相關的政策或指示,不要替換成無關的短標籤。
語言與段落大小
文件記載的語言組合為英文、西班牙文、德文、法文、義大利文、葡萄牙文、阿拉伯文、瑞典文、挪威文、日文與韓文。製造商明確以同語言檢索及跨語言檢索為目標。請準備目標讀者的實際問題,並檢查以這些語言回傳的文件文字。
文件長度規格為 512 詞元。將長來源切成連貫段落,保留檢索結果需要的標題、定義與條件。角色前綴與額外上下文也屬於準備後的輸入。FAQ 答案、商品說明或技術文件中聚焦的一節,比整份過大的手冊更適合作為單位。
訓練與配對
製造商描述三個訓練階段:英文對比式預訓練、多語言與跨語言蒸餾,再以困難負樣本挖掘進行微調。產生的模型適用於商品目錄、FAQ 與客服資料集、檔案或筆記搜尋,以及企業知識檢索。這些是文字表示的任務,不表示特定應用程式已部署。
開發者範例將查詢與文件向量正規化,再以內積排序,等同餘弦相似度。準備來源資料時預先計算語料庫表示,再嵌入搜尋查詢,回傳附有原文與識別碼的候選文件。請將選定模型與角色慣例保留在索引旁,讓數值比較使用相容表示。
實用結果是精簡的稠密搜尋索引,或可跨文件記載語言組合檢索來源資料的查詢向量。此確切 LFM2.5 Embedding 版本與搭配的 ColBERT、較早 LFM2 檢索模型及外部量化實作分開。選定段落的文字,就是讀者或後續 RAG 回答階段使用的證據。
Ailoot Ultra · 嵌入向量 POST /v1/embeddings liquid/lfm-2.5-embedding-350m:free
liquid/lfm-2.5-embedding-350m:free
liquid/lfm-2.5-embedding-350m:free入門
LiquidAI LFM2.5-Embedding-350M 為每段文字產生一個 1024 維向量,用於多語與跨語言檢索。它以 11 種語言及 512 個 token 的短輸入為目標,並對查詢與文件使用不同前綴。
- 接受的輸入
- 文字 · token_ids
- 結果
- embedding
Ailoot 可用 · 輸入與方法
Ailoot Ultra · 嵌入向量 POST /v1/embeddings
- 輸入
text,token_ids- 輸出
embedding- 上下文
- 512 tokens
- 輸出格式
- json
| 欄位 | 類型 | 要求 | 值與限制 | 預設值 |
|---|---|---|---|---|
欄位model | 類型string | 要求必填 | 值與限制 liquid/lfm-2.5-embedding-350m:free | 預設值— |
欄位input | 類型string|string[]|integer[]|integer[][] | 要求必填 | 值與限制 項目數下限: 1 條件: 批次不得為空,且各項目類型須一致。Token ID 須為非負整數。 輸入額度: 最大值: 512 · 文字單位: UTF8 位元組 · Token 單位: token 陣列元素 | 預設值— |
欄位encoding_format | 類型string | 要求選填 | 值與限制 float | 預設值float |
欄位dimensions | 類型integer | 要求不支援 | 值與限制 最小值: 1 | 預設值— |
欄位user | 類型json_value | 要求選填 | 值與限制 條件: 來源允許此 JSON 中繼資料欄位;確切的上游語意依模型而異。 | 預設值— |
欄位session_id | 類型json_value | 要求選填 | 值與限制 條件: 來源允許此 JSON 中繼資料欄位;確切的上游語意依模型而異。 | 預設值— |
欄位trace | 類型json_value | 要求選填 | 值與限制 條件: 來源允許此 JSON 中繼資料欄位;確切的上游語意依模型而異。 | 預設值— |
欄位provider | 類型object | 要求選填 | 值與限制 條件: provider.options 遭拒絕 | 預設值— |
輸入素材組合
text_to_embedding
方法參數與生命週期
| 參數 | 規格 |
|---|---|
參數content_type | 規格application/json |
參數required | 規格model, input |
參數input_shapes | 規格string, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
參數encoding_format | 規格float |
參數dimensions_override | 規格false |
參數max_input_budget_units | 規格512 |
參數multimodal_objects | 規格false |
參數material_types | 規格text, token_ids |
生命週期: synchronous_json
保留每個向量的索引與維度。
即使模型名稱標示為多模態,此指定路徑也不接受圖片物件。
方案
費率資訊不會增加請求選項。支援的參數列於所選方法中。
- 快速模式
- 標準費率 選取快速模式時
- flex 模式
- 標準費率 選取 flex 模式時
- 最高推理強度
- 標準費率 最高推理強度採用 default 調整值時
Ailoot 費率
各設定的價格
| 設定 | 費率表 | 費用 |
|---|---|---|
| 設定詞元基本費率 | 費率表基本費率 | 費用 輸入 · 輸入 Token $0 / 1K Token 輸出 · 輸出 Token $0 / 1K Token 輸入 · 讀取快取 — / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取,1 小時 — / 1K Token |
Ailoot 會在請求前預留估算金額。取得結果後,依實測用量結算最終費用。串流結算採用最終用量紀錄。預留金額與結算的運作方式 →
請求範例
Ailoot Ultra · 嵌入向量
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "liquid/lfm-2.5-embedding-350m:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='liquid/lfm-2.5-embedding-350m:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
接收並儲存結果
Ailoot Ultra · 嵌入向量
json
保留所有已完成的結果
請保留所有完整傳回的回應、檔案與內容區塊。
保留每個向量及其索引。向量數量必須與輸入數量相同,且維度必須一致。
需要檢查原始回應時
此流程未引入嵌入向量任務端點。
回應欄位
| 欄位 | 類型 |
|---|---|
欄位object | 類型string |
欄位model | 類型string |
欄位data[].index | 類型integer |
欄位data[].embedding | 類型finite float[] |
欄位usage | 類型object |
錯誤與後續步驟
| 回應 | 條件 | 下一步 |
|---|---|---|
回應400 · invalid_request_error | 條件必要欄位、素材表示方式或參數值無效 | 下一步提出新的建立請求前,先修正指定欄位。 |
別名
模型別名
Ailoot Ultra liquid/lfm-2.5-embedding-350m:free
方法路徑別名
請使用上方列出的 API 方法路徑。
相關呼叫用 ID
FAQ · LiquidAI: LFM2.5-Embedding-350M (free)
- 可以使用哪些輸入與結果?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:text,token_ids→embedding- 請求使用哪些欄位?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:model,input,encoding_format,provider- 適用哪些限制?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:ctx:512;input.budget.maximum:512(UTF8 位元組);input.min_items:1