Cohere: Rerank 4 Fast
Cohere Rerank 4 Fast 依查詢相關性排序候選文件,著重低延遲、高吞吐量檢索。它支援 32K 上下文、超過 100 種語言及半結構化文字,適用於搜尋及檢索增強工作流程。
關於模型
此說明介紹模型的能力。Ailoot 可用的輸入、輸出與選項,依所選方法列於下方。
Cohere Rerank 4 Fast 是較輕量的 Rerank 4 版本,定位於較低延遲與較高吞吐量的檢索任務。它接收查詢及候選文件,傳回相關性排序與分數。適合互動搜尋、重複佐證選擇,以及需要重新排列既有結果清單的應用程式。Fast 與 Rerank 4 Pro 是獨立版本,後者定位於檢索品質優先的較複雜案例。
開發商代碼為 rerank-v4.0-fast。與 Pro 相同,它具有 32,768 個 token 的上下文,並涵蓋超過 100 種語言。查詢與單一文件共享上下文;它不是向量維度,也不是整個已建立索引語料庫的額度。提供應比較的候選文字,避免期待模型從未提供的來源擷取文件。
文件記載的結果包含原始文件索引與 relevance_score。top_n 選擇傳回多少結果;省略時傳回完整排序清單。將來源識別碼與輸入一併保留,讓新順序能對應實際段落。產品搜尋應在查詢中描述所需產品屬性,再重排序候選描述;較高名次應持續連結產生該結果的產品紀錄。
模型可處理英文與非英文文件,以及半結構化紀錄。V2 工作流程中的文件輸入為字串,Cohere 建議以 YAML 表示結構化資料。將重要欄位放在前面,保留其順序,讓截斷不會丟棄判斷相關性所需內容。客服紀錄可包含標題、產品及程序文字;訊息可包含主旨與內文。這些明確關係,提供排序模型超越相符關鍵字清單的資訊。
Cohere 準備指南的模型專屬查詢限制為 16,384 個 token,查詢與文件共同使用上下文。指南描述較長文件的分塊處理,而 V2 參考文件另外透過 max_tokens_per_doc 將文件截斷預設為 4096 個 token。檢查有效文件設定,避免假設整個 32K 模型視窗總會被使用。針對實際檢索任務準備相關段落或合適文件額度。
建議效能方面,Cohere 建議單次請求不要超過 1,000 份文件。將較大候選集合分成可管理群組,同時保留識別碼。輸出分數正規化為 0 至 1,並取決於查詢及段落。排序才是關鍵結果;分數不是相關性的線性倍數,也不能證明段落正確。以領域內具代表性的查詢及接近相關邊界的段落,建立任何篩選門檻。
實用的 Fast 結果是可立即驅動搜尋顯示,或為回答撰寫階段選擇佐證的排序清單。將來源文字與分數一併保留,審閱最前面的結果是否真正處理要求條件。Fast 的角色是檢索排序,而非生成新說明或嵌入向量。調整相關性行為時,保持具名版本與輸入準備一致。
Ailoot Ultra · 重新排序 POST /v1/rerank cohere/rerank-4-fast
cohere/rerank-4-fast入門
Cohere Rerank 4 Fast 依查詢相關性排序候選文件,著重低延遲、高吞吐量檢索。它支援 32K 上下文、超過 100 種語言及半結構化文字,適用於搜尋及檢索增強工作流程。
- 接受的輸入
- 文字
- 結果
- 已排序結果
Ailoot 可用 · 輸入與方法
Ailoot Ultra · 重新排序 POST /v1/rerank
- 輸入
text- 輸出
rerank- 輸出格式
- json
| 欄位 | 類型 | 要求 | 值與限制 | 預設值 |
|---|---|---|---|---|
欄位documents | 類型array | 要求必填 | 值與限制 | 預設值— |
欄位model | 類型string | 要求必填 | 值與限制 cohere/rerank-4-fast | 預設值— |
欄位provider | 類型schema | 要求選填 | 值與限制 | 預設值— |
欄位query | 類型string | 要求必填 | 值與限制 | 預設值— |
欄位session_id | 類型string | 要求選填 | 值與限制 | 預設值— |
欄位top_n | 類型integer | 要求選填 | 值與限制 最小值: 1 | 預設值— |
欄位trace | 類型schema | 要求選填 | 值與限制 | 預設值— |
欄位user | 類型string | 要求選填 | 值與限制 | 預設值— |
欄位documents[].text | 類型string | 要求選填 | 值與限制 | 預設值— |
欄位documents[].image | 類型string | 要求選填 | 值與限制 | 預設值— |
輸入素材組合
text_rerank · 必填: query, documents array with minItems1
方法參數與生命週期
| 參數 | 規格 |
|---|---|
參數content_type | 規格application/json |
參數required | 規格model, query, documents |
參數material_types | 規格text |
參數optional_controls | 規格provider, session_id, top_n, trace, user |
參數multimodal_input_binding | 規格null |
生命週期: synchronous
請傳送完全相符的模型 ID,並保留完整的原生回應。
方案
費率資訊不會增加請求選項。支援的參數列於所選方法中。
- 快速模式
- 未指定 選取快速模式時
- flex 模式
- 未指定 選取 flex 模式時
- 最高推理強度
- 未指定 最高推理強度採用 default 調整值時
Ailoot 費率
各設定的價格
請逐一核對各項費用與所列條件。每組互為替代選項的設定只套用一種費率。
| 設定 | 費率表 | 計費單位 | 費用 |
|---|---|---|---|
| 設定基礎 token 費率 | 費率表基本費率 | 計費單位— | 費用 輸入 · 輸入 Token — / 1K Token 輸出 · 輸出 Token — / 1K Token 輸入 · 讀取快取 — / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取,1 小時 — / 1K Token |
| 設定Ultra | 費率表— | 計費單位每個搜尋單位 | 費用 total · 搜尋單位 $0.004 每個搜尋單位 |
Ailoot 會在請求前預留估算金額。取得結果後,依實測用量結算最終費用。串流結算採用最終用量紀錄。預留金額與結算的運作方式 →
請求範例
Ailoot Ultra · 重新排序
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "cohere/rerank-4-fast",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='cohere/rerank-4-fast'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
接收並儲存結果
Ailoot Ultra · 重新排序
json
保留所有已完成的結果
請保留所有完整傳回的回應、檔案與內容區塊。
會保留每個實際結果的索引、有限值 relevance_score 與原始文件物件。索引會對應原始文件陣列。完整的原始 JSON 會先儲存,並僅在結算後回傳。
需要檢查原始回應時
請保留原始操作與完整/部分回覆;切勿重送 POST。
回應欄位
| 欄位 | 類型 |
|---|---|
欄位model | 類型string |
欄位id | 類型string |
欄位provider | 類型string |
欄位results[].index | 類型integer |
欄位results[].relevance_score | 類型number |
欄位results[].document.text | 類型string |
欄位results[].document.image | 類型string |
欄位usage.search_units | 類型integer |
欄位usage.total_tokens | 類型integer |
欄位usage.cost | 類型number |
錯誤與後續步驟
| 回應 | 條件 | 下一步 |
|---|---|---|
回應400 · invalid_request_error | 條件必要欄位、表示方式或值無效 | 下一步請修正指出的請求欄位。 |
別名
模型別名
Ailoot Ultra cohere/rerank-4-fast
方法路徑別名
請使用上方列出的 API 方法路徑。
相關呼叫用 ID
FAQ · Cohere: Rerank 4 Fast
- 可以使用哪些輸入與結果?
POST /v1/rerank·cohere/rerank-4-fast:text→rerank- 請求使用哪些欄位?
POST /v1/rerank·cohere/rerank-4-fast:documents,model,provider,query,session_id,top_n,trace,user- 適用哪些限制?
POST /v1/rerank·cohere/rerank-4-fast:top_n.minimum:1