VoyageAI by MongoDB: rerank-2.5-lite
rerank-2.5-lite 是 Voyage AI 著重低延遲、遵循指令的重排序器,用於所附文字候選集。它保留 32,000-token 查詢—文件上下文與多語支援,回傳依序排列的相關性分數及原始文件索引。
關於模型
此說明介紹模型的能力。Ailoot 可用的輸入、輸出與選項,依所選方法列於下方。
rerank-2.5-lite 是 Voyage AI 2.5 重排序器發布版中的輕量成員。原廠將它描述為平衡延遲與相關性品質的通用模型,具備自然語言指令遵循與多語支援。輸入是查詢與候選文字,輸出是附有相關性分數、經精修排序的候選。
輕量的第二階段相關性判斷
Lite 模型以交叉編碼器方式,一起處理每個查詢—文件配對。它可以接在第一階段嵌入或詞彙搜尋之後,精修該階段選出的段落。這與準備可重複使用的嵌入索引不同:重排序器會一起檢查當前提交的查詢與文件文字,做出此次相關性判斷。
互動式說明搜尋請提交可能回答使用者問題的候選解釋。每段保留足夠內容,以傳達行為及其適用條件,並保留輸入索引與來源項目的關係。聚焦的候選集有助於明確定義重排序任務,也讓檢索證據仍能用於顯示或後續回答。
以指示表達使用者要優先考量什麼
如同 rerank-2.5,Lite 接受放在查詢前後的自然語言指示。原廠範例用它們強調文件部分、選擇偏好的來源類型,或為有歧義的詞彙補充背景。應用程式可提供固定相關性偏好,目前問題也可以加入更具體的偏好。
支援查詢範例可以詢問哪個段落解釋錯誤,並指示優先考量疑難排解步驟,而非一般產品描述。文件搜尋可以要求原始政策文字,而非政策討論。描述預期證據,並保持指示簡潔。指示會影響相關性分數;若有嚴格的版本、日期或權限限制,請在候選選擇時處理,不要將相關性偏好視為保證篩選條件。
閱讀排名並回傳來源段落
輸出依相關性遞減排序。每項結果包含原始文件索引與浮點數分數;選用的 return-documents 設定也會回傳對應輸入文字。top-k 選項決定回傳多少個領先結果,省略時則回傳所有已提交候選的排名。
使用那些索引取回來源段落及其識別碼。重新排名的候選可成為搜尋結果,或下一個 RAG 步驟的證據,但輸出是對所附文字排序,而非改寫後的答案。評估領先段落是否同時符合問題與相關性指示,並涵蓋資料集中實際出現的語言與文件類型。
限制與實用候選預算
2.5 Lite 版本的文件列明查詢上限為 8,000 tokens,查詢加上每份個別文件的限制為 32,000 tokens。它與較早的 rerank-2-lite 模型及其較小上下文不同。最多可提交 1,000 份文件,總輸入限制為 600,000 tokens,公式為查詢 tokens 乘以候選數,再加上候選文件 tokens 總和。
延遲敏感用途方面,原廠 FAQ 建議 rerank-2.5-lite 每次請求總 tokens 不超過 200,000。這是在所述最大值之下的實用指南,而非不同的每份文件視窗。較長查詢或指示會在每個候選配對中各計一次,因此候選數與查詢長度都會影響總量。
截斷預設啟用,會縮短超長的查詢/文件輸入以符合限制;停用後,超長查詢或配對會回傳錯誤。請刻意準備精簡且包含答案的候選,避免有用證據落在截斷邊界之外。透過 top-k 選擇較少輸出結果,不會將其他已提交候選從 token 計算中移除。檢查回傳來源段落,並依搜尋介面實際需要回答的問題調整輸入準備。
Ailoot Ultra · 重新排序 POST /v1/rerank voyageai/rerank-2.5-lite
voyageai/rerank-2.5-lite入門
rerank-2.5-lite 是 Voyage AI 著重低延遲、遵循指令的重排序器,用於所附文字候選集。它保留 32,000-token 查詢—文件上下文與多語支援,回傳依序排列的相關性分數及原始文件索引。
- 接受的輸入
- 文字
- 結果
- 已排序結果
Ailoot 可用 · 輸入與方法
Ailoot Ultra · 重新排序 POST /v1/rerank
- 輸入
text- 輸出
rerank- 輸出格式
- json
| 欄位 | 類型 | 要求 | 值與限制 | 預設值 |
|---|---|---|---|---|
欄位documents | 類型array | 要求必填 | 值與限制 | 預設值— |
欄位model | 類型string | 要求必填 | 值與限制 voyageai/rerank-2.5-lite | 預設值— |
欄位provider | 類型schema | 要求選填 | 值與限制 | 預設值— |
欄位query | 類型string | 要求必填 | 值與限制 | 預設值— |
欄位session_id | 類型string | 要求選填 | 值與限制 | 預設值— |
欄位top_n | 類型integer | 要求選填 | 值與限制 最小值: 1 | 預設值— |
欄位trace | 類型schema | 要求選填 | 值與限制 | 預設值— |
欄位user | 類型string | 要求選填 | 值與限制 | 預設值— |
欄位documents[].text | 類型string | 要求選填 | 值與限制 | 預設值— |
欄位documents[].image | 類型string | 要求選填 | 值與限制 | 預設值— |
輸入素材組合
text_rerank · 必填: query, documents array with minItems1
方法參數與生命週期
| 參數 | 規格 |
|---|---|
參數content_type | 規格application/json |
參數required | 規格model, query, documents |
參數material_types | 規格text |
參數optional_controls | 規格provider, session_id, top_n, trace, user |
參數multimodal_input_binding | 規格null |
生命週期: synchronous
請傳送完全相符的模型 ID,並保留完整的原生回應。
方案
費率資訊不會增加請求選項。支援的參數列於所選方法中。
- 快速模式
- 未指定 選取快速模式時
- flex 模式
- 未指定 選取 flex 模式時
- 最高推理強度
- 未指定 最高推理強度採用 default 調整值時
Ailoot 費率
各設定的價格
請逐一核對各項費用與所列條件。每組互為替代選項的設定只套用一種費率。
| 設定 | 費率表 | 計費單位 | 費用 |
|---|---|---|---|
| 設定基礎 token 費率 | 費率表基本費率 | 計費單位— | 費用 輸入 · 輸入 Token — / 1K Token 輸出 · 輸出 Token — / 1K Token 輸入 · 讀取快取 — / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取,1 小時 — / 1K Token |
| 設定Ultra | 費率表— | 計費單位/ 1K Token | 費用 輸入 $0.00004 / 1K Token |
Ailoot 會在請求前預留估算金額。取得結果後,依實測用量結算最終費用。串流結算採用最終用量紀錄。預留金額與結算的運作方式 →
請求範例
Ailoot Ultra · 重新排序
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "voyageai/rerank-2.5-lite",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='voyageai/rerank-2.5-lite'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
接收並儲存結果
Ailoot Ultra · 重新排序
json
保留所有已完成的結果
請保留所有完整傳回的回應、檔案與內容區塊。
會保留每個實際結果的索引、有限值 relevance_score 與原始文件物件。索引會對應原始文件陣列。完整的原始 JSON 會先儲存,並僅在結算後回傳。
需要檢查原始回應時
請保留原始操作與完整/部分回覆;切勿重送 POST。
回應欄位
| 欄位 | 類型 |
|---|---|
欄位model | 類型string |
欄位id | 類型string |
欄位provider | 類型string |
欄位results[].index | 類型integer |
欄位results[].relevance_score | 類型number |
欄位results[].document.text | 類型string |
欄位results[].document.image | 類型string |
欄位usage.search_units | 類型integer |
欄位usage.total_tokens | 類型integer |
欄位usage.cost | 類型number |
錯誤與後續步驟
| 回應 | 條件 | 下一步 |
|---|---|---|
回應400 · invalid_request_error | 條件必要欄位、表示方式或值無效 | 下一步請修正指出的請求欄位。 |
別名
模型別名
Ailoot Ultra voyageai/rerank-2.5-lite
方法路徑別名
請使用上方列出的 API 方法路徑。
相關呼叫用 ID
FAQ · VoyageAI by MongoDB: rerank-2.5-lite
- 可以使用哪些輸入與結果?
POST /v1/rerank·voyageai/rerank-2.5-lite:text→rerank- 請求使用哪些欄位?
POST /v1/rerank·voyageai/rerank-2.5-lite:documents,model,provider,query,session_id,top_n,trace,user- 適用哪些限制?
POST /v1/rerank·voyageai/rerank-2.5-lite:top_n.minimum:1