VoyageAI by MongoDB: rerank-3-lite
Voyage rerank-3-lite 會針對查詢,為候選文字文件評分並重新排序,著重反應迅速的搜尋。它支援相關性指示與 32,000-token 查詢—文件視窗,適合在搜尋及 RAG 工作流程中的向量或關鍵字檢索之後使用。
關於模型
此說明介紹模型的能力。Ailoot 可用的輸入、輸出與選項,依所選方法列於下方。
Voyage rerank-3-lite 是 Voyage Rerank 3 系列中著重低延遲的版本。它接收文字查詢與候選文件,一起評估每組查詢—文件配對,再依排名順序回傳相關性分數。它負責搜尋的第二階段:先由嵌入或關鍵字檢索器找出候選,再由 Lite 精修排序。結果是一份供搜尋或檢索增強生成工作流程使用的排名。
Rerank 3 Lite 的改變 原廠強調,相較 rerank-2.5-lite,長文件與程式碼檢索能力有所增強。兩個 Rerank 3 版本皆保留指令遵循與相同的 32K 上下文級別,而 Lite 為延遲敏感應用而設計。當使用者需要迅速取得相關結果時,它是互動式知識庫搜尋、支援文件檢索與程式碼查詢的實用候選。請依實際資料集的品質與回應時間需求選擇,不要假定較小版本就代表較小上下文視窗。
透過查詢引導相關性 自然語言指示可以隨查詢附上,解釋何謂相關。讓問題與相關性偏好保持簡潔一致。軟體支援搜尋可使用「找出重設裝置的程序;優先提供所述硬體修訂版的操作指示。」若產品名稱有歧義,加入產品類別,避免無關含義占據結果。查詢中的偏好會引導語意評分;建立候選清單前,請使用明確的資料集詮釋資料,選出正確產品、文件版本或存取範圍。
準備文字候選清單 輸入文件是字串。從來源素材擷取可讀文字,保留有用的標題、章節標題、識別碼與前後文。維持每個輸入位置與原始紀錄之間的穩定對應。疑難排解文章應包含症狀與相關程序,而非只有脫離上下文的一句話。原始碼搜尋請包含函式及附近資訊,以區分名稱相似的函式。重複導覽或制式內容擠壓有用段落時,請移除它們。
重排序器只能重新排列收到的文件。如果第一次搜尋從未擷取相關文章,此階段無法補回缺少的候選。結果看似錯誤時,請同時檢查候選清單與最終排序。長文件涵蓋多個主題時,可拆成連貫章節,並保留母文件參考,讓相關章節能被選出而不失去來源。
上下文與請求限制 原廠目前指南指定查詢最多 8,000 tokens,查詢加上每份個別文件合計最多 32,000 tokens。允許最多 1,000 份候選文件,總請求預算為 600,000 tokens,計算方式是查詢 tokens 乘上文件數,再加上全部文件 tokens。因此,長查詢會在每個配對中占用空間,並重複計入總預算。請使用適當模型的 tokenizer 計算提交文字,不要將字元、單字與 tokens 視為可互換。
例如,500-token 查詢搭配 100 份各 4,000 tokens 的文件,依該公式合計為 450,000 輸入 tokens。這示範預算計算,並非建議的候選清單大小或實測速度。文件記載的截斷選項預設啟用,過長文字可能在評分前被縮短。請刻意安排重要章節,避免截斷移除真正需要匹配的段落。
閱讀與使用結果 結果依相關性分數由高到低排序。每項結果指出文件原始輸入位置,讓應用程式能附上自己的標題、紀錄識別碼與來源。top_k 設定控制回傳多少個已排名候選;未指定時回傳全部候選。原廠 REST 介面也可回傳文件文字。顯示搜尋頁面或將證據傳入答案生成階段時,請將原始識別碼與選定結果一併保留。
相關性分數表示候選與查詢的匹配程度,並不確立候選陳述正確。請將最高排名項目與使用者實際問題比較,包括排除條件及文件版本差異。即使所有候選都無關,仍會有排名最高的項目。使用資料集具代表性的查詢,決定應用程式如何處理此情況。
升級與版本選擇 原廠將 rerank-3-lite 描述為 rerank-2.5-lite 的升級版,API 語意不變,分數也校準至對應前代版本的分布。保留既有紀錄對應與檢索階段,再用有意義的查詢比較結果順序,之後才採用既有分數門檻。回應時間重要的搜尋體驗可使用 Lite;若更重視困難候選的相關性,可將品質取向的 rerank-3 作為比較。
Ailoot Ultra · 重新排序 POST /v1/rerank voyageai/rerank-3-lite
voyageai/rerank-3-lite入門
Voyage rerank-3-lite 會針對查詢,為候選文字文件評分並重新排序,著重反應迅速的搜尋。它支援相關性指示與 32,000-token 查詢—文件視窗,適合在搜尋及 RAG 工作流程中的向量或關鍵字檢索之後使用。
- 接受的輸入
- 文字
- 結果
- 已排序結果
Ailoot 可用 · 輸入與方法
Ailoot Ultra · 重新排序 POST /v1/rerank
- 輸入
text- 輸出
rerank- 輸出格式
- json
| 欄位 | 類型 | 要求 | 值與限制 | 預設值 |
|---|---|---|---|---|
欄位documents | 類型array | 要求必填 | 值與限制 | 預設值— |
欄位model | 類型string | 要求必填 | 值與限制 voyageai/rerank-3-lite | 預設值— |
欄位provider | 類型schema | 要求選填 | 值與限制 | 預設值— |
欄位query | 類型string | 要求必填 | 值與限制 | 預設值— |
欄位session_id | 類型string | 要求選填 | 值與限制 | 預設值— |
欄位top_n | 類型integer | 要求選填 | 值與限制 最小值: 1 | 預設值— |
欄位trace | 類型schema | 要求選填 | 值與限制 | 預設值— |
欄位user | 類型string | 要求選填 | 值與限制 | 預設值— |
欄位documents[].text | 類型string | 要求選填 | 值與限制 | 預設值— |
欄位documents[].image | 類型string | 要求選填 | 值與限制 | 預設值— |
輸入素材組合
text_rerank · 必填: query, documents array with minItems1
方法參數與生命週期
| 參數 | 規格 |
|---|---|
參數content_type | 規格application/json |
參數required | 規格model, query, documents |
參數material_types | 規格text |
參數optional_controls | 規格provider, session_id, top_n, trace, user |
參數multimodal_input_binding | 規格null |
生命週期: synchronous
請傳送完全相符的模型 ID,並保留完整的原生回應。
方案
費率資訊不會增加請求選項。支援的參數列於所選方法中。
- 快速模式
- 未指定 選取快速模式時
- flex 模式
- 未指定 選取 flex 模式時
- 最高推理強度
- 未指定 最高推理強度採用 default 調整值時
Ailoot 費率
各設定的價格
請逐一核對各項費用與所列條件。每組互為替代選項的設定只套用一種費率。
| 設定 | 費率表 | 計費單位 | 費用 |
|---|---|---|---|
| 設定基礎 token 費率 | 費率表基本費率 | 計費單位— | 費用 輸入 · 輸入 Token — / 1K Token 輸出 · 輸出 Token — / 1K Token 輸入 · 讀取快取 — / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取,1 小時 — / 1K Token |
| 設定Ultra | 費率表— | 計費單位/ 1K Token | 費用 輸入 $0.00004 / 1K Token |
Ailoot 會在請求前預留估算金額。取得結果後,依實測用量結算最終費用。串流結算採用最終用量紀錄。預留金額與結算的運作方式 →
請求範例
Ailoot Ultra · 重新排序
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "voyageai/rerank-3-lite",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='voyageai/rerank-3-lite'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
接收並儲存結果
Ailoot Ultra · 重新排序
json
保留所有已完成的結果
請保留所有完整傳回的回應、檔案與內容區塊。
會保留每個實際結果的索引、有限值 relevance_score 與原始文件物件。索引會對應原始文件陣列。完整的原始 JSON 會先儲存,並僅在結算後回傳。
需要檢查原始回應時
請保留原始操作與完整/部分回覆;切勿重送 POST。
回應欄位
| 欄位 | 類型 |
|---|---|
欄位model | 類型string |
欄位id | 類型string |
欄位provider | 類型string |
欄位results[].index | 類型integer |
欄位results[].relevance_score | 類型number |
欄位results[].document.text | 類型string |
欄位results[].document.image | 類型string |
欄位usage.search_units | 類型integer |
欄位usage.total_tokens | 類型integer |
欄位usage.cost | 類型number |
錯誤與後續步驟
| 回應 | 條件 | 下一步 |
|---|---|---|
回應400 · invalid_request_error | 條件必要欄位、表示方式或值無效 | 下一步請修正指出的請求欄位。 |
別名
模型別名
Ailoot Ultra voyageai/rerank-3-lite
方法路徑別名
請使用上方列出的 API 方法路徑。
相關呼叫用 ID
FAQ · VoyageAI by MongoDB: rerank-3-lite
- 可以使用哪些輸入與結果?
POST /v1/rerank·voyageai/rerank-3-lite:text→rerank- 請求使用哪些欄位?
POST /v1/rerank·voyageai/rerank-3-lite:documents,model,provider,query,session_id,top_n,trace,user- 適用哪些限制?
POST /v1/rerank·voyageai/rerank-3-lite:top_n.minimum:1