NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
Llama Nemotron Rerank VL 1B V2是NVIDIA的交叉編碼器重排序模型,可依檢索資料與查詢的關聯程度排序。請傳送查詢與候選文字、圖片或兩者結合的文件,再使用回傳分數與原始索引,選擇搜尋結果或檢索增強回答所需段落。
關於模型
此說明介紹模型的能力。Ailoot 可用的輸入、輸出與選項,依所選方法列於下方。
Llama Nemotron Rerank VL 1B V2評估候選文字與文件圖片相對於文字查詢的關聯程度,包含圖表、表格與混合媒體頁面。NVIDIA將其描述為1.7B參數的交叉編碼器模型。在檢索工作流程中,請先執行初始搜尋,再將選定候選項目傳送至重排序模型。實用結果是重新排序的候選集與關聯分數,應用程式可用來選擇回答所需上下文,或安排搜尋結果頁面。
請使用POST /v1/rerank,並提供application/json主體。將model設為"nvidia/llama-nemotron-rerank-vl-1b-v2:free",query設為實際搜尋問題,documents設為非空陣列。每個候選項目可以是文字字串,或含有text及/或image的物件;結構化物件必須至少提供其中一個欄位。text為字串。image為遠端HTTP/HTTPS URL,或以data:image/開頭的base64 data URI。結合兩者的候選項目須提供兩個欄位。請保留輸入陣列的順序,以便將回傳索引對應至您儲存的文件ID。top_n為至少1的選用整數,用來要求回傳排名最高的文件數量。
例如,說明中心應用程式可先檢索配送、退貨與帳戶存取相關段落,再依客戶的配送問題重新排序這些段落。請傳入實際段落文字,不要使用檔名,或與儲存來源無關的搜尋引擎片段。在應用程式中,請讓各段落連結至其來源識別碼,讓選定證據之後可以引用或開啟。處理掃描文件、圖表、表格或資訊圖表時,請在文件物件中提供實際圖片,並在有助於識別內容時加入文字。
模型頁面記載每個查詢與文件的上限為10,240個詞元。準備候選清單前,請將較長來源資料拆成範圍受限的段落。請為各段落保留有用的前後文,包含會改變含義的標題或產品名稱。文件所述請求從您提供的候選項目開始;它不會代您搜尋文件集合。
重排序會回傳同步JSON結果。請讀取每個results項目,包含原始index、relevance_score與回傳document物件,後者可含有text及/或image,並保留任何回傳usage與回應識別碼。使用index將排序結果對應回輸入候選項目。請將關聯分數視為此查詢的排序訊號,而非經獨立驗證的事實回答。若下一步選擇多個段落,請保留完整結果。
此免費版本請使用公開或合成的候選資料;其文件所載使用條款排除機密資訊與個人資料。若請求結束時沒有完整結果,請在檢查該次嘗試時保留原始回應與請求識別碼。文件所述重排序流程會直接回傳結果,並未提供獨立的工作輪詢或取消工作流程。
Ailoot Ultra · Rerank POST /v1/rerank nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:free入門
Llama Nemotron Rerank VL 1B V2是NVIDIA的交叉編碼器重排序模型,可依檢索資料與查詢的關聯程度排序。請傳送查詢與候選文字、圖片或兩者結合的文件,再使用回傳分數與原始索引,選擇搜尋結果或檢索增強回答所需段落。
- 接受的輸入
- 文字
- 結果
- ranking
Ailoot 可用 · 輸入與方法
Ailoot Ultra · Rerank POST /v1/rerank
- 輸入
text- 輸出
ranking- 輸出格式
- JSON
| 欄位 | 類型 | 要求 | 值與限制 | 預設值 |
|---|---|---|---|---|
欄位model | 類型string | 要求必填 | 值與限制 nvidia/llama-nemotron-rerank-vl-1b-v2:free | 預設值— |
欄位query | 類型string | 要求必填 | 值與限制 | 預設值— |
欄位documents | 類型array | 要求必填 | 值與限制 | 預設值— |
欄位top_n | 類型integer | 要求選填 | 值與限制 最小值: 1 | 預設值— |
方法參數與生命週期
| 參數 | 規格 |
|---|---|
參數content_type | 規格application/json |
參數required | 規格model, query, documents |
參數optional | 規格top_n |
參數material_types | 規格text |
參數conditions | 規格 |
生命週期: synchronous_json
方案
費率資訊不會增加請求選項。支援的參數列於所選方法中。
- 快速模式
- 未指定 選取快速模式時
- flex 模式
- 未指定 選取 flex 模式時
- 最高推理強度
- 未指定 最高推理強度採用 default 調整值時
Ailoot 費率
各設定的價格
請逐一核對各項費用與所列條件。每組互為替代選項的設定只套用一種費率。
| 設定 | 費率表 | 計費數量 | 費用 |
|---|---|---|---|
| 設定基礎 token 費率 | 費率表基本費率 | 計費數量— | 費用 輸入 · 輸入 Token — / 1K Token 輸出 · 輸出 Token — / 1K Token 輸入 · 讀取快取 — / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取,1 小時 — / 1K Token |
| 設定每次請求 | 費率表— | 計費數量1 次請求 | 費用 輸入 $0 每次請求 |
Ailoot 會在請求前預留估算金額。取得結果後,依實測用量結算最終費用。串流結算採用最終用量紀錄。預留金額與結算的運作方式 →
請求範例
Ailoot Ultra · Rerank
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"documents": ["Paris is the capital of France.", "Berlin is the capital of Germany."], "model": "nvidia/llama-nemotron-rerank-vl-1b-v2:free", "query": "What is the capital of France?", "top_n": 3}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.
接收並儲存結果
Ailoot Ultra · Rerank
JSON
保留所有已完成的結果
請保留所有完整傳回的回應、檔案與內容區塊。
Retain the complete response, all actual results, original identifiers, usage and response headers.
需要檢查原始回應時
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
回應欄位
| 欄位 | 類型 |
|---|---|
欄位results | 類型array |
別名
模型別名
Ailoot Ultra nvidia/llama-nemotron-rerank-vl-1b-v2:free
方法路徑別名
請使用上方列出的 API 方法路徑。
相關呼叫用 ID
FAQ · NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
- 可以使用哪些輸入與結果?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:text→ranking- 請求使用哪些欄位?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:model,query,documents,top_n- 適用哪些限制?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:top_n.minimum:1