NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)

Llama Nemotron Rerank VL 1B V2 là mô hình xếp hạng lại kiểu mã hóa chéo của NVIDIA để sắp xếp tài liệu đã truy xuất theo độ liên quan đến truy vấn. Gửi truy vấn và các tài liệu ứng viên dạng văn bản, ảnh hoặc kết hợp, rồi dùng điểm số và chỉ số gốc được trả về để chọn các đoạn cho kết quả tìm kiếm hoặc câu trả lời tăng cường bằng truy xuất.

Ailoot Ultra · Rerank POST /v1/rerank nvidia/llama-nemotron-rerank-vl-1b-v2:free

Về mô hình

Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.

Llama Nemotron Rerank VL 1B V2 đánh giá độ liên quan của văn bản ứng viên và ảnh tài liệu đối với truy vấn văn bản, bao gồm biểu đồ, bảng và các trang có phương tiện hỗn hợp. NVIDIA mô tả đây là mô hình mã hóa chéo có 1,7 tỷ tham số. Trong quy trình truy xuất, chạy tìm kiếm ban đầu trước rồi gửi các ứng viên đã chọn đến mô hình xếp hạng lại. Kết quả hữu ích là tập hợp những ứng viên đó được sắp xếp lại kèm điểm liên quan, để ứng dụng dùng chọn ngữ cảnh cho câu trả lời hoặc sắp xếp trang kết quả tìm kiếm.

Dùng POST /v1/rerank với phần thân application/json. Đặt model thành "nvidia/llama-nemotron-rerank-vl-1b-v2:free", query thành câu hỏi tìm kiếm thực tế và documents thành mảng không rỗng. Mỗi ứng viên có thể là chuỗi văn bản hoặc đối tượng có text và/hoặc image; đối tượng có cấu trúc phải cung cấp ít nhất một trong các trường đó. text là chuỗi. image là URL HTTP/HTTPS từ xa hoặc URI dữ liệu base64 bắt đầu bằng data:image/. Ứng viên kết hợp cung cấp cả hai trường. Giữ thứ tự mảng đầu vào đó để có thể khớp chỉ số trả về với ID tài liệu bạn lưu. top_n là số nguyên tùy chọn ít nhất bằng 1, yêu cầu số tài liệu xếp hạng cao nhất cần trả về.

Ví dụ, ứng dụng trung tâm trợ giúp có thể truy xuất các đoạn về giao hàng, đổi trả và truy cập tài khoản, rồi xếp hạng lại chúng theo câu hỏi giao hàng của khách hàng. Truyền văn bản đoạn thực tế thay vì tên tệp hoặc trích đoạn từ công cụ tìm kiếm không liên quan đến nguồn đã lưu. Giữ mỗi đoạn gắn với định danh nguồn riêng trong ứng dụng để sau đó có thể trích dẫn hoặc mở bằng chứng đã chọn. Với tài liệu quét, biểu đồ, bảng hoặc đồ họa thông tin, cung cấp ảnh thực tế trong đối tượng tài liệu và thêm văn bản khi nó giúp xác định nội dung.

Trang mô hình ghi giới hạn 10.240 token cho mỗi truy vấn và tài liệu. Chia tài liệu nguồn dài hơn thành các đoạn có giới hạn trước khi chuẩn bị danh sách ứng viên. Giữ ngữ cảnh xung quanh hữu ích cùng mỗi đoạn, bao gồm tiêu đề hoặc tên sản phẩm khi chúng làm thay đổi ý nghĩa. Yêu cầu được ghi trong tài liệu bắt đầu từ những ứng viên bạn cung cấp; nó không tìm kiếm bộ sưu tập tài liệu thay bạn.

Việc xếp hạng lại trả về kết quả JSON đồng bộ. Đọc mọi mục results, bao gồm index gốc, relevance_score và đối tượng document được trả về, có thể chứa text và/hoặc image, đồng thời giữ mọi usage và định danh phản hồi được trả về. Dùng index để ánh xạ kết quả đã xếp hạng về ứng viên đầu vào. Coi điểm liên quan là tín hiệu xếp hạng cho truy vấn này, thay vì câu trả lời có nội dung đã được kiểm chứng độc lập. Giữ toàn bộ kết quả khi nhiều đoạn được chọn cho bước tiếp theo.

Chuẩn bị tài liệu ứng viên công khai hoặc tổng hợp cho phiên bản miễn phí này; điều khoản sử dụng được ghi trong tài liệu loại trừ thông tin bí mật và dữ liệu cá nhân. Nếu yêu cầu kết thúc mà chưa có kết quả đầy đủ, giữ phản hồi gốc và định danh yêu cầu trong khi kiểm tra lần thử đó. Quy trình xếp hạng lại được ghi trong tài liệu trả kết quả trực tiếp và không cung cấp quy trình thăm dò tác vụ hay hủy riêng.

Ailoot Ultra · Rerank POST /v1/rerank nvidia/llama-nemotron-rerank-vl-1b-v2:free

nvidia/llama-nemotron-rerank-vl-1b-v2:free

NVIDIA /nvidia/llama-nemotron-rerank-vl-1b-v2:free

Bắt đầu

Đầu vào được chấp nhận: Văn bản
Kết quả: ranking

Có trên Ailoot · đầu vào & phương thức

Ailoot Ultra · Rerank POST /v1/rerank

Đầu vào: text
Đầu ra: ranking
Định dạng đầu ra: JSON

Trường	Loại	Yêu cầu	Giá trị & giới hạn	Mặc định
Trường`model`	Loại`string`	Yêu cầuBắt buộc	Giá trị & giới hạn nvidia/llama-nemotron-rerank-vl-1b-v2:free	Mặc định—
Trường`query`	Loại`string`	Yêu cầuBắt buộc	Giá trị & giới hạn	Mặc định—
Trường`documents`	Loại`array`	Yêu cầuBắt buộc	Giá trị & giới hạn	Mặc định—
Trường`top_n`	Loại`integer`	Yêu cầuKhông bắt buộc	Giá trị & giới hạn Tối thiểu: 1	Mặc định—

Tham số phương thức và vòng đời

Tham số	Hợp đồng
Tham số`content_type`	Hợp đồngapplication/json
Tham số`required`	Hợp đồngmodel, query, documents
Tham số`optional`	Hợp đồngtop_n
Tham số`material_types`	Hợp đồngtext
Tham số`conditions`	Hợp đồng

Vòng đời: synchronous_json

Bảng giá

Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.

Chế độ nhanh: Chưa chỉ định Khi chọn chế độ nhanh
Chế độ Flex: Chưa chỉ định Khi chọn chế độ flex
Mức độ suy luận tối đa: Chưa chỉ định Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa

Mức phí Ailoot

Giá theo cấu hình

Đối chiếu từng khoản phí với điều kiện hiển thị. Dùng một mức phí cho mỗi nhóm cấu hình thay thế.

Cấu hình	Biểu mức phí	Lượng dùng để tính phí	Phí
Cấu hìnhGiá cơ sở cho token	Biểu mức phíMức phí cơ bản	Lượng dùng để tính phí—	Phí Đầu vào · Token đầu vào — / 1K token Đầu ra · Token đầu ra — / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token
Cấu hìnhMỗi yêu cầu	Biểu mức phí—	Lượng dùng để tính phímột yêu cầu	Phí Đầu vào $0 mỗi yêu cầu

Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →

Ví dụ yêu cầu

Ailoot Ultra · Rerank

curl · chỉ tạo một lần và giữ lại kết quả đầy đủ

set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"documents": ["Paris is the capital of France.", "Berlin is the capital of Germany."], "model": "nvidia/llama-nemotron-rerank-vl-1b-v2:free", "query": "What is the capital of France?", "top_n": 3}')

Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.

Nhận và lưu kết quả

Ailoot Ultra · Rerank

JSON

Lưu tất cả kết quả đã hoàn tất

Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.

Retain the complete response, all actual results, original identifiers, usage and response headers.

Nếu cần kiểm tra phản hồi gốc

Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.

Trường phản hồi

Trường	Loại
Trường`results`	Loạiarray

Bí danh

Bí danh mô hình

Ailoot Ultra nvidia/llama-nemotron-rerank-vl-1b-v2:free

Bí danh đường dẫn phương thức

Dùng các đường dẫn phương thức hiển thị ở trên.

ID gọi liên quan

nvidia/llama-nemotron-rerank-vl-1b-v2:free

FAQ · NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)

Có những đầu vào và kết quả nào?: POST /v1/rerank · nvidia/llama-nemotron-rerank-vl-1b-v2:free: text → ranking
Yêu cầu sử dụng những trường nào?: POST /v1/rerank · nvidia/llama-nemotron-rerank-vl-1b-v2:free: model, query, documents, top_n
Áp dụng những giới hạn nào?: POST /v1/rerank · nvidia/llama-nemotron-rerank-vl-1b-v2:free: top_n.minimum: 1

NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)