Cohere: Rerank v3.5
Cohere Rerank 3.5 依查詢相關性,重新排列候選文字與半結構化紀錄。它支援超過 100 種語言及 4096 個 token 的上下文,可在回答或顯示搜尋結果前,進一步調整關鍵字或語意搜尋結果。
關於模型
此說明介紹模型的能力。Ailoot 可用的輸入、輸出與選項,依所選方法列於下方。
Cohere Rerank 3.5 是用於候選文件及半結構化文字相關性排序的多語言模型。它評估每個候選與查詢的關係,傳回重新排序的結果清單及相關性分數。它可調整透過關鍵字或語意搜尋取得的候選,並為檢索增強回答選擇段落。其任務是改善佐證排序,而非生成自由形式回答或建立新的語料庫索引。
精確的開發商識別碼為 rerank-v3.5。它採用 4096 個 token 的上下文,與 Rerank 4 Pro 及 Fast 的 32K 上下文不同。查詢與文件 token 共同計入每個候選的視窗。模型專屬準備指南會截斷查詢前 2048 個 token 以後的內容,並描述尚未計入查詢前的文件區塊大小為 4093 個 token。保持查詢聚焦,並準備包含判斷所要求關係所需資訊的候選段落。
提供查詢及候選文字字串清單。每個結果包含指向原始文件位置的索引及相關性分數;top_n 選擇保留多少個排序結果。省略此參數時,文件記載的開發商工作流程會傳回全部結果。將文件識別碼與分數分開保留,讓最前面的段落仍可追溯至原始政策、產品紀錄或訊息。
Rerank 3.5 支援超過 100 種語言,包含英文與非英文資料。查詢可包含需求的多個面向,例如產品、使用者情況及期望程序。結構化紀錄方面,V2 發行版移除原始文件物件,並建議使用 YAML 字串。刻意安排有用欄位的順序,將關鍵內容放在較不相關的中繼資料之前,因為長字串可能被截斷。這適用於標題與內容、產品屬性,或訊息主旨與內文。
V2 開發商參考文件使用 max_tokens_per_doc 控制文件截斷,預設為 4096。Cohere 的準備指南也描述長文件分塊;有效輸入取決於所選工作流程及文件設定。若需要更多控制,自行準備可辨識的段落,避免假設長來源的每個章節都仍可見。保留足夠周邊脈絡,以區分包含答案的段落,與僅共享詞彙的段落。
請求效能方面,目前參考文件建議一次不要傳送超過 1,000 份文件。相關性分數正規化為 0 至 1,但數值取決於查詢及候選,並非正確性的線性尺度。使用排序找出有用佐證。若需要分數門檻,選擇具代表性的領域查詢及接近相關邊界的段落,讓門檻反映實際檢索任務。
實用客服流程可以為損壞品問題的候選退貨政策章節重排序,再將選定來源文字交給回答撰寫階段。電子郵件搜尋可以依特定問題排序訊息,並為每個結果保留原始訊息識別碼。實用產出是有序佐證清單。將 Rerank 3.5 較短的上下文及 V2 文件準備方式與結果一併保留,避免以較新模型限制取代。
Ailoot Ultra · 重新排序 POST /v1/rerank cohere/rerank-v3.5
cohere/rerank-v3.5入門
Cohere Rerank 3.5 依查詢相關性,重新排列候選文字與半結構化紀錄。它支援超過 100 種語言及 4096 個 token 的上下文,可在回答或顯示搜尋結果前,進一步調整關鍵字或語意搜尋結果。
- 接受的輸入
- 文字
- 結果
- 已排序結果
Ailoot 可用 · 輸入與方法
Ailoot Ultra · 重新排序 POST /v1/rerank
- 輸入
text- 輸出
rerank- 輸出格式
- json
| 欄位 | 類型 | 要求 | 值與限制 | 預設值 |
|---|---|---|---|---|
欄位documents | 類型array | 要求必填 | 值與限制 | 預設值— |
欄位model | 類型string | 要求必填 | 值與限制 cohere/rerank-v3.5 | 預設值— |
欄位provider | 類型schema | 要求選填 | 值與限制 | 預設值— |
欄位query | 類型string | 要求必填 | 值與限制 | 預設值— |
欄位session_id | 類型string | 要求選填 | 值與限制 | 預設值— |
欄位top_n | 類型integer | 要求選填 | 值與限制 最小值: 1 | 預設值— |
欄位trace | 類型schema | 要求選填 | 值與限制 | 預設值— |
欄位user | 類型string | 要求選填 | 值與限制 | 預設值— |
欄位documents[].text | 類型string | 要求選填 | 值與限制 | 預設值— |
欄位documents[].image | 類型string | 要求選填 | 值與限制 | 預設值— |
輸入素材組合
text_rerank · 必填: query, documents array with minItems1
方法參數與生命週期
| 參數 | 規格 |
|---|---|
參數content_type | 規格application/json |
參數required | 規格model, query, documents |
參數material_types | 規格text |
參數optional_controls | 規格provider, session_id, top_n, trace, user |
參數multimodal_input_binding | 規格null |
生命週期: synchronous
請傳送完全相符的模型 ID,並保留完整的原生回應。
方案
費率資訊不會增加請求選項。支援的參數列於所選方法中。
- 快速模式
- 未指定 選取快速模式時
- flex 模式
- 未指定 選取 flex 模式時
- 最高推理強度
- 未指定 最高推理強度採用 default 調整值時
Ailoot 費率
各設定的價格
請逐一核對各項費用與所列條件。每組互為替代選項的設定只套用一種費率。
| 設定 | 費率表 | 計費單位 | 費用 |
|---|---|---|---|
| 設定基礎 token 費率 | 費率表基本費率 | 計費單位— | 費用 輸入 · 輸入 Token — / 1K Token 輸出 · 輸出 Token — / 1K Token 輸入 · 讀取快取 — / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取,1 小時 — / 1K Token |
| 設定Ultra | 費率表— | 計費單位每個搜尋單位 | 費用 total · 搜尋單位 $0.002 每個搜尋單位 |
Ailoot 會在請求前預留估算金額。取得結果後,依實測用量結算最終費用。串流結算採用最終用量紀錄。預留金額與結算的運作方式 →
請求範例
Ailoot Ultra · 重新排序
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "cohere/rerank-v3.5",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='cohere/rerank-v3.5'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
接收並儲存結果
Ailoot Ultra · 重新排序
json
保留所有已完成的結果
請保留所有完整傳回的回應、檔案與內容區塊。
會保留每個實際結果的索引、有限值 relevance_score 與原始文件物件。索引會對應原始文件陣列。完整的原始 JSON 會先儲存,並僅在結算後回傳。
需要檢查原始回應時
請保留原始操作與完整/部分回覆;切勿重送 POST。
回應欄位
| 欄位 | 類型 |
|---|---|
欄位model | 類型string |
欄位id | 類型string |
欄位provider | 類型string |
欄位results[].index | 類型integer |
欄位results[].relevance_score | 類型number |
欄位results[].document.text | 類型string |
欄位results[].document.image | 類型string |
欄位usage.search_units | 類型integer |
欄位usage.total_tokens | 類型integer |
欄位usage.cost | 類型number |
錯誤與後續步驟
| 回應 | 條件 | 下一步 |
|---|---|---|
回應400 · invalid_request_error | 條件必要欄位、表示方式或值無效 | 下一步請修正指出的請求欄位。 |
別名
模型別名
Ailoot Ultra cohere/rerank-v3.5
方法路徑別名
請使用上方列出的 API 方法路徑。
相關呼叫用 ID
FAQ · Cohere: Rerank v3.5
- 可以使用哪些輸入與結果?
POST /v1/rerank·cohere/rerank-v3.5:text→rerank- 請求使用哪些欄位?
POST /v1/rerank·cohere/rerank-v3.5:documents,model,provider,query,session_id,top_n,trace,user- 適用哪些限制?
POST /v1/rerank·cohere/rerank-v3.5:top_n.minimum:1