Sentence Transformers: multi-qa-mpnet-base-dot-v1
Sentence Transformers multi-qa-mpnet-base-dot-v1 將問題與段落編碼成 768 維向量，用於語意搜尋。它採用 CLS 池化及為內積評分設計的未正規化嵌入，輸入上限為 512 個 word piece。
關於模型
此說明介紹模型的能力。Ailoot 可用的輸入、輸出與選項，依所選方法列於下方。
multi-qa-mpnet-base-dot-v1 是用於依問題或查詢檢索文字段落的 Sentence Transformers 模型。訓練使用約 2 億 1,500 萬組問答配對。每個輸入都會轉成 768 維稠密向量，CLS 池化與內積評分是這個確切版本的特性。
準備問題與候選段落
請將查詢寫成資訊需求，並將語料庫項目準備成可閱讀的文字段落。例如，變更配送地址的問題，可以與分別說明地址變更、取消訂單及配送追蹤的段落比較。請在地址變更段落中保留相關條件，包括訂單是否已出貨。
請使用同一模型編碼查詢與段落。公開範例直接編碼，未加上 query/document 前綴，並依內積分數排序段落。請讓每個向量持續連結至原始段落及文件識別碼，讓排名結果能顯示實際建立索引的資料。
CLS 池化與內積版本
模型的參考方式取用第一個 token 的表示，稱為 CLS 池化。技術表明確指出嵌入未經正規化，並將內積列為適合的評分函數。設定資料集合端與查詢端時，請保留這個方式。
對這些向量進行 L2 正規化，會改變其評分幾何關係。採用正規化的 all-mpnet-base-v2 規格使用不同方式，是另一個檢查點，儘管同屬 MPNet 家族且輸出都有 768 個分量。請將確切版本與比較函數和已儲存的資料集合一起管理，不要只根據向量長度選擇。
長度限制與較長段落
列出的輸入上限為 512 個 word piece，較長文字會被截斷。製造商也指出，訓練輸入最長只有 250 個 word piece，較長文字的效果可能較差。因此，tokenizer 接受的長度與訓練長度的注意事項，描述的是不同的實際邊界。
大型說明文章請準備成回答特定問題的短節。若標題有助於識別主題，請予以保留，並將規則與正確理解它所需的例外放在一起。整頁作為單一輸入，可能因截斷而失去後面的資料；過小的片段則可能失去使它有用的條件。
在檢索與 RAG 中使用排名
稠密向量支援第一階段檢索。請將分數最高的候選段落連同來源參照回傳，再檢視是否回應實際問題。在 RAG 工作流程中，請將這些段落作為來源資料交給答案撰寫階段；檢索本身不會撰寫答案。
請使用已知相關段落的代表性問題，選擇結果數量並評估排名。也請包含詞彙相似但意圖不同的例子，例如修改地址與查看目前地址。請將分數解讀為相同模型與評分設定下候選項之間的相對值，而非正確性的校準機率。
這個檢查點的有用輸出，是語意搜尋用的問題與段落嵌入空間。準備與使用結果時，須保留未正規化向量、CLS 池化、內積分數，以及公開的長輸入注意事項。
Ailoot Ultra · 嵌入向量 POST /v1/embeddings sentence-transformers/multi-qa-mpnet-base-dot-v1
sentence-transformers/multi-qa-mpnet-base-dot-v1
sentence-transformers/multi-qa-mpnet-base-dot-v1入門
Sentence Transformers multi-qa-mpnet-base-dot-v1 將問題與段落編碼成 768 維向量，用於語意搜尋。它採用 CLS 池化及為內積評分設計的未正規化嵌入，輸入上限為 512 個 word piece。
- 接受的輸入
- 文字 · token_ids
- 結果
- embedding
Ailoot 可用 · 輸入與方法
Ailoot Ultra · 嵌入向量 POST /v1/embeddings
- 輸入
text,token_ids- 輸出
embedding- 輸出格式
- json
| 欄位 | 類型 | 要求 | 值與限制 | 預設值 |
|---|---|---|---|---|
欄位model | 類型string | 要求必填 | 值與限制 sentence-transformers/multi-qa-mpnet-base-dot-v1 | 預設值— |
欄位input | 類型string|string[]|integer[]|integer[][] | 要求必填 | 值與限制 項目數下限: 1 條件: 批次不得為空，且各項目類型須一致。Token ID 須為非負整數。 輸入額度： 最大值: 512 · 文字單位: UTF8 位元組 · Token 單位: token 陣列元素 | 預設值— |
欄位encoding_format | 類型string | 要求選填 | 值與限制 float | 預設值float |
欄位dimensions | 類型integer | 要求不支援 | 值與限制 最小值: 1 | 預設值— |
欄位user | 類型json_value | 要求選填 | 值與限制 條件: 來源允許此 JSON 中繼資料欄位；確切的上游語意依模型而異。 | 預設值— |
欄位session_id | 類型json_value | 要求選填 | 值與限制 條件: 來源允許此 JSON 中繼資料欄位；確切的上游語意依模型而異。 | 預設值— |
欄位trace | 類型json_value | 要求選填 | 值與限制 條件: 來源允許此 JSON 中繼資料欄位；確切的上游語意依模型而異。 | 預設值— |
欄位provider | 類型object | 要求選填 | 值與限制 條件: provider.options 遭拒絕 | 預設值— |
輸入素材組合
text_to_embedding
方法參數與生命週期
| 參數 | 規格 |
|---|---|
參數content_type | 規格application/json |
參數required | 規格model, input |
參數input_shapes | 規格string, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
參數encoding_format | 規格float |
參數dimensions_override | 規格false |
參數max_input_budget_units | 規格512 |
參數multimodal_objects | 規格false |
參數material_types | 規格text, token_ids |
生命週期： synchronous_json
保留每個向量的索引與維度。
即使模型名稱標示為多模態，此指定路徑也不接受圖片物件。
方案
費率資訊不會增加請求選項。支援的參數列於所選方法中。
- 快速模式
- 未指定 選取快速模式時
- flex 模式
- 未指定 選取 flex 模式時
- 最高推理強度
- 未指定 最高推理強度採用 default 調整值時
Ailoot 費率
各設定的價格
| 設定 | 費率表 | 費用 |
|---|---|---|
| 設定詞元基本費率 | 費率表基本費率 | 費用 輸入 · 輸入 Token $0.00001 / 1K Token 輸出 · 輸出 Token $0 / 1K Token 輸入 · 讀取快取 — / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取，1 小時 — / 1K Token |
Ailoot 會在請求前預留估算金額。取得結果後，依實測用量結算最終費用。串流結算採用最終用量紀錄。預留金額與結算的運作方式 →
請求範例
Ailoot Ultra · 嵌入向量
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "sentence-transformers/multi-qa-mpnet-base-dot-v1", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='sentence-transformers/multi-qa-mpnet-base-dot-v1',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
接收並儲存結果
Ailoot Ultra · 嵌入向量
json
保留所有已完成的結果
請保留所有完整傳回的回應、檔案與內容區塊。
保留每個向量及其索引。向量數量必須與輸入數量相同，且維度必須一致。
需要檢查原始回應時
此流程未引入嵌入向量任務端點。
回應欄位
| 欄位 | 類型 |
|---|---|
欄位object | 類型string |
欄位model | 類型string |
欄位data[].index | 類型integer |
欄位data[].embedding | 類型finite float[] |
欄位usage | 類型object |
錯誤與後續步驟
| 回應 | 條件 | 下一步 |
|---|---|---|
回應400 · invalid_request_error | 條件必要欄位、素材表示方式或參數值無效 | 下一步提出新的建立請求前，先修正指定欄位。 |
別名
模型別名
Ailoot Ultra sentence-transformers/multi-qa-mpnet-base-dot-v1
方法路徑別名
請使用上方列出的 API 方法路徑。
相關呼叫用 ID
FAQ · Sentence Transformers: multi-qa-mpnet-base-dot-v1
- 可以使用哪些輸入與結果？
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:text,token_ids→embedding- 請求使用哪些欄位？
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:model,input,encoding_format,provider- 適用哪些限制？
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:input.budget.maximum:512(UTF8 位元組);input.min_items:1