BAAI: bge-large-en-v1.5
BAAI bge-large-en-v1.5 產生 1024 維的英文文字向量,用於檢索與語意比較。其 v1.5 準備方式支援選用的查詢指令,文件記載的序列長度為 512 個 token。
關於模型
此說明介紹模型的能力。Ailoot 可用的輸入、輸出與選項,依所選方法列於下方。
bge-large-en-v1.5 是 BAAI 的大型英文稠密嵌入版本。它將文字映射為 1024 維向量,用於段落檢索與語意比較。1.5 是製造商為改善相似度分布的實用性,以及不加指令時的檢索表現而推出的更新。Large 與 Base、Small、中文版本及多語 BGE-M3 模型是不同的檢查點。
設定段落檢索
以短查詢搜尋較長文件時,製造商建議加入查詢指令「Represent this sentence for searching relevant passages:」。請只加在查詢端;語料段落保留自己的來源文字,不加這段指令。其他用途直接使用文字即可。BAAI 也記載 v1.5 可不加前綴進行檢索,並建議依實際任務選擇表現最好的準備方式。
實用的知識庫可以為英文技術手冊的章節建立索引。若問題是哪項設定會改變輸出格式,應回傳解釋該設定及其條件的章節。請將標題、相關說明與來源位置與各段落一起保存。模型提供數值表示,而回傳的來源文字才是讀者或後續 RAG 階段使用的內容。
表示與比對
製造商的直接編碼範例使用第一個 CLS token 的最終隱藏狀態作為池化嵌入,再將向量正規化。正規化向量的內積就是餘弦相似度。因此,各段落可先準備一次並儲存,以便與新查詢向量比較;來源資料改變時,再更新其表示。
1024 維指定的是輸出向量長度。它與 768 維的 Base 表示不同,也不表示與另一個檢查點具有相容的共用向量空間。請將模型與準備慣例和儲存的索引保持關聯。更換嵌入版本時,應共同檢查語料與查詢的表示。
將來源內容安排在視窗內
文件記載的序列長度為 512 個 token。請將長手冊整理為內容連貫的章節,而不是一個超大輸入。讓條件或例外與其限定的規則相鄰,並保留足夠脈絡,使檢索到的章節能獨立理解。加入的查詢指令也占用輸入 token,因此模型視窗涵蓋準備後的完整輸入。
一個實用的段落邊界,可以包含標題及回答同一使用者問題的數個段落。請將母文件識別碼與版本保留在向量之外,讓成果能追溯至正確來源。進行比較時,使用實際要比較的文字,不要換成無關摘要,導致需要找出的差異消失。
解讀分數
製造商提醒,絕對相似度不應視為語意等價的通用規則。檢索重點在於相對分數順序,門檻則應依任務本身的文字分布校準。請用已有答案的問題,以及資料中沒有答案的問題檢查候選段落,確認回傳章節真正提供所需資訊,而不只是主題相近。
bge-large-en-v1.5 提供英文稠密向量。獨立的重排序器可改善候選順序,另一個語言模型則可依選定段落組成答案。此版本的實用產物,是與來源文字連結的可搜尋表示,並保留確切的 Large v1.5 模型選擇與輸入準備方式。
Ailoot Ultra · 嵌入向量 POST /v1/embeddings baai/bge-large-en-v1.5
baai/bge-large-en-v1.5入門
BAAI bge-large-en-v1.5 產生 1024 維的英文文字向量,用於檢索與語意比較。其 v1.5 準備方式支援選用的查詢指令,文件記載的序列長度為 512 個 token。
- 接受的輸入
- 文字 · token_ids
- 結果
- embedding
Ailoot 可用 · 輸入與方法
Ailoot Ultra · 嵌入向量 POST /v1/embeddings
- 輸入
text,token_ids- 輸出
embedding- 輸出格式
- json
| 欄位 | 類型 | 要求 | 值與限制 | 預設值 |
|---|---|---|---|---|
欄位model | 類型string | 要求必填 | 值與限制 baai/bge-large-en-v1.5 | 預設值— |
欄位input | 類型string|string[]|integer[]|integer[][] | 要求必填 | 值與限制 項目數下限: 1 條件: 批次不得為空,且各項目類型須一致。Token ID 須為非負整數。 輸入額度: 最大值: 512 · 文字單位: UTF8 位元組 · Token 單位: token 陣列元素 | 預設值— |
欄位encoding_format | 類型string | 要求選填 | 值與限制 float | 預設值float |
欄位dimensions | 類型integer | 要求不支援 | 值與限制 最小值: 1 | 預設值— |
欄位user | 類型json_value | 要求選填 | 值與限制 條件: 來源允許此 JSON 中繼資料欄位;確切的上游語意依模型而異。 | 預設值— |
欄位session_id | 類型json_value | 要求選填 | 值與限制 條件: 來源允許此 JSON 中繼資料欄位;確切的上游語意依模型而異。 | 預設值— |
欄位trace | 類型json_value | 要求選填 | 值與限制 條件: 來源允許此 JSON 中繼資料欄位;確切的上游語意依模型而異。 | 預設值— |
欄位provider | 類型object | 要求選填 | 值與限制 條件: provider.options 遭拒絕 | 預設值— |
輸入素材組合
text_to_embedding
方法參數與生命週期
| 參數 | 規格 |
|---|---|
參數content_type | 規格application/json |
參數required | 規格model, input |
參數input_shapes | 規格string, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
參數encoding_format | 規格float |
參數dimensions_override | 規格false |
參數max_input_budget_units | 規格512 |
參數multimodal_objects | 規格false |
參數material_types | 規格text, token_ids |
生命週期: synchronous_json
保留每個向量的索引與維度。
即使模型名稱標示為多模態,此指定路徑也不接受圖片物件。
方案
費率資訊不會增加請求選項。支援的參數列於所選方法中。
- 快速模式
- 未指定 選取快速模式時
- flex 模式
- 未指定 選取 flex 模式時
- 最高推理強度
- 未指定 最高推理強度採用 default 調整值時
Ailoot 費率
各設定的價格
| 設定 | 費率表 | 費用 |
|---|---|---|
| 設定詞元基本費率 | 費率表基本費率 | 費用 輸入 · 輸入 Token $0.00002 / 1K Token 輸出 · 輸出 Token $0 / 1K Token 輸入 · 讀取快取 — / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取,1 小時 — / 1K Token |
Ailoot 會在請求前預留估算金額。取得結果後,依實測用量結算最終費用。串流結算採用最終用量紀錄。預留金額與結算的運作方式 →
請求範例
Ailoot Ultra · 嵌入向量
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "baai/bge-large-en-v1.5", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='baai/bge-large-en-v1.5',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
接收並儲存結果
Ailoot Ultra · 嵌入向量
json
保留所有已完成的結果
請保留所有完整傳回的回應、檔案與內容區塊。
保留每個向量及其索引。向量數量必須與輸入數量相同,且維度必須一致。
需要檢查原始回應時
此流程未引入嵌入向量任務端點。
回應欄位
| 欄位 | 類型 |
|---|---|
欄位object | 類型string |
欄位model | 類型string |
欄位data[].index | 類型integer |
欄位data[].embedding | 類型finite float[] |
欄位usage | 類型object |
錯誤與後續步驟
| 回應 | 條件 | 下一步 |
|---|---|---|
回應400 · invalid_request_error | 條件必要欄位、素材表示方式或參數值無效 | 下一步提出新的建立請求前,先修正指定欄位。 |
別名
模型別名
Ailoot Ultra baai/bge-large-en-v1.5
方法路徑別名
請使用上方列出的 API 方法路徑。
相關呼叫用 ID
FAQ · BAAI: bge-large-en-v1.5
- 可以使用哪些輸入與結果?
POST /v1/embeddings·baai/bge-large-en-v1.5:text,token_ids→embedding- 請求使用哪些欄位?
POST /v1/embeddings·baai/bge-large-en-v1.5:model,input,encoding_format,provider- 適用哪些限制?
POST /v1/embeddings·baai/bge-large-en-v1.5:input.budget.maximum:512(UTF8 位元組);input.min_items:1