NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)

Llama Nemotron Rerank VL 1B V2は、グラフ、表、テキストと画像が混在するページを含め、候補のテキストや文書画像とテキストクエリとの関連性を評価します。NVIDIAはこれを1.7Bパラメータのクロスエンコーダモデルと説明しています。検索ワークフローでは、最初に通常の検索を実行し、選んだ候補をリランカーに送ります。有用な結果は、関連性スコアを付けて並べ替えられた候補セットで、アプリケーションは回答用のコンテキストの選択や検索結果ページの配置に使えます。

application/jsonのボディでPOST /v1/rerankを使用します。modelを"nvidia/llama-nemotron-rerank-vl-1b-v2:free"、queryを実際の検索質問、documentsを空でない配列に設定します。各候補は、テキスト文字列、またはtextやimageを持つオブジェクトにできます。構造化オブジェクトには、このうち少なくとも一方のフィールドが必要です。textは文字列です。imageはリモートのHTTP/HTTPS URL、またはdata:image/で始まるbase64データURIです。両方を組み合わせた候補は両フィールドを渡します。返されたインデックスを保存済みの文書IDに対応付けられるよう、入力配列の順序を保持してください。top_nは1以上の省略可能な整数で、返す上位文書の数を要求します。

たとえば、ヘルプセンターのアプリケーションは、配送、返品、アカウントアクセスに関する文章を取得してから、顧客の配送に関する質問に対してそれらを再順位付けできます。ファイル名や保存済みの元資料と無関係な検索エンジンの抜粋ではなく、実際の文章テキストを渡してください。選択した根拠を後から引用したり開いたりできるよう、各文章をアプリケーション内の出典識別子に結び付けておきます。スキャン文書、グラフ、表、インフォグラフィックでは、実際の画像を文書オブジェクトに渡し、内容を特定する助けになる場合はテキストも追加します。

モデルページには、クエリと文書あたり10,240トークンの上限が記載されています。候補一覧を準備する前に、長い元資料を上限内の文章に分割してください。意味に影響する場合の見出しや商品名など、有用な周辺コンテキストを各文章に付けます。文書化されたリクエストは、ユーザーが渡す候補から始まり、代わりに文書コレクションを検索するものではありません。

再順位付けは、同期JSON結果を返します。元のindex、relevance_score、返されたdocumentオブジェクトを含むすべてのresults項目を読み取り、返されたusageと応答識別子も保持してください。documentにはtextやimageが含まれることがあります。indexを使って、順位付けされた結果を入力候補へ対応付けます。関連性スコアは、このクエリに対する順位付けの手掛かりとして扱い、独立して検証された事実の回答とみなさないでください。次の手順に複数の文章を選ぶ場合は、完全な結果を保持します。

この無料版には、公開資料または合成した候補資料を用意してください。文書化された利用条件では、機密情報と個人データを使用できません。完全な結果が得られずリクエストが終了した場合は、その試行を確認する間、元の応答とリクエスト識別子を保持します。文書化された再順位付けの流れは結果を直接返し、別のジョブポーリングやキャンセルの手順はありません。