NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
Llama Nemotron Rerank VL 1B V2 เป็นโมเดลจัดอันดับซ้ำแบบ ครอสเอนโคเดอร์ ของ NVIDIA สำหรับเรียงเนื้อหาที่ค้นคืนมาตามความเกี่ยวข้องกับคำค้น ส่ง query และเอกสารตัวเลือกที่เป็นข้อความ ภาพ หรือแบบผสม แล้วใช้คะแนนและดัชนีเดิมที่ส่งกลับมาเพื่อเลือกข้อความสำหรับผลค้นหาหรือคำตอบที่เสริมด้วยการค้นคืนข้อมูล
เกี่ยวกับโมเดล
คำอธิบายนี้ครอบคลุมความสามารถของโมเดล อินพุต เอาต์พุต และตัวเลือกที่ใช้ได้ใน Ailoot แสดงด้านล่างตามเมธอดที่เลือก
Llama Nemotron Rerank VL 1B V2 ประเมินความเกี่ยวข้องของข้อความและภาพเอกสารตัวเลือกกับคำค้นข้อความ รวมถึงแผนภูมิ ตาราง และหน้าที่มีสื่อผสม NVIDIA อธิบายว่าเป็นโมเดล ครอสเอนโคเดอร์ ที่มีพารามิเตอร์ 1.7B ในกระบวนการค้นคืน ให้ค้นหาเบื้องต้นก่อนแล้วส่งตัวเลือกที่เลือกไปยังโมเดลจัดอันดับซ้ำ ผลลัพธ์ที่มีประโยชน์คือชุดตัวเลือกเหล่านั้นที่เรียงใหม่พร้อมคะแนนความเกี่ยวข้อง ซึ่งแอปพลิเคชันใช้เลือกบริบทสำหรับคำตอบหรือจัดหน้าผลค้นหาได้
ใช้ POST /v1/rerank พร้อมเนื้อหา application/json ตั้ง model เป็น "nvidia/llama-nemotron-rerank-vl-1b-v2:free" ตั้ง query เป็นคำถามค้นหาจริง และ documents เป็นอาร์เรย์ที่ไม่ว่าง ตัวเลือกแต่ละรายการอาจเป็นสตริงข้อความหรือออบเจ็กต์ที่มี text และ/หรือ image ออบเจ็กต์แบบมีโครงสร้างต้องมีอย่างน้อยหนึ่งฟิลด์นั้น text เป็นสตริง image เป็น URL HTTP/HTTPS ระยะไกลหรือ data URI แบบ base64 ที่ขึ้นต้นด้วย data:image/ ตัวเลือกแบบผสมใส่ทั้งสองฟิลด์ รักษาลำดับอาร์เรย์อินพุตนั้นไว้ เพื่อจับคู่ดัชนีที่ส่งกลับมากับ ID เอกสารที่เก็บไว้ top_n เป็นจำนวนเต็มที่เลือกใส่ได้อย่างน้อย 1 เพื่อร้องขอจำนวนเอกสารอันดับสูงสุดที่จะส่งคืน
เช่น แอปพลิเคชันศูนย์ช่วยเหลือสามารถค้นคืนข้อความเกี่ยวกับการจัดส่ง การคืนสินค้า และการเข้าถึงบัญชี แล้วจัดอันดับข้อความเหล่านั้นซ้ำเทียบกับคำถามการจัดส่งของลูกค้า ส่งข้อความจริงของแต่ละช่วง แทนชื่อไฟล์หรือข้อความสั้นจากเครื่องมือค้นหาที่ไม่เกี่ยวข้องกับต้นฉบับที่เก็บไว้ ให้แต่ละช่วงเชื่อมกับตัวระบุต้นฉบับของตนในแอปพลิเคชัน เพื่ออ้างอิงหรือเปิดหลักฐานที่เลือกในภายหลังได้ สำหรับเอกสารสแกน แผนภูมิ ตาราง หรืออินโฟกราฟิก ให้ป้อนภาพจริงในออบเจ็กต์เอกสาร และเพิ่มข้อความเมื่อช่วยระบุเนื้อหาได้
หน้าโมเดลระบุขีดจำกัด 10,240 โทเคนต่อ query และ document แบ่งเนื้อหาต้นฉบับที่ยาวกว่าเป็นช่วงที่มีขอบเขตก่อนเตรียมรายการตัวเลือก เก็บบริบทโดยรอบที่มีประโยชน์ไว้กับแต่ละช่วง รวมถึงหัวข้อหรือชื่อสินค้าเมื่อส่งผลต่อความหมาย คำขอตามเอกสารเริ่มจากตัวเลือกที่คุณให้ ไม่ได้ค้นชุดเอกสารให้คุณ
การจัดอันดับซ้ำส่งคืนผลลัพธ์ JSON แบบซิงโครนัส อ่านทุกรายการ results รวมถึง index เดิม relevance_score และออบเจ็กต์ document ที่ส่งกลับมา ซึ่งอาจมี text และ/หรือ image และเก็บ usage กับตัวระบุการตอบกลับที่ส่งกลับมาด้วย ใช้ index จับคู่ผลลัพธ์ที่จัดอันดับแล้วกลับไปยังตัวเลือกอินพุต มองคะแนนความเกี่ยวข้องเป็นสัญญาณจัดอันดับสำหรับคำค้นนี้ ไม่ใช่คำตอบข้อเท็จจริงที่ตรวจสอบอย่างอิสระแล้ว เก็บผลลัพธ์ทั้งหมดเมื่อเลือกหลายช่วงสำหรับขั้นตอนถัดไป
เตรียมเนื้อหาตัวเลือกที่เป็นสาธารณะหรือสังเคราะห์สำหรับรุ่นใช้ฟรีนี้ เงื่อนไขการใช้งานตามเอกสารไม่อนุญาตให้ใช้ข้อมูลลับและข้อมูลส่วนบุคคล หากคำขอสิ้นสุดโดยไม่ได้ผลลัพธ์ครบถ้วน ให้เก็บการตอบกลับเดิมและตัวระบุคำขอไว้ขณะตรวจสอบการดำเนินการนั้น กระบวนการ rerank ตามเอกสารส่งผลลัพธ์โดยตรงและไม่มีขั้นตอนตรวจสถานะงานหรือยกเลิกแยกต่างหาก
Ailoot Ultra · Rerank POST /v1/rerank nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:freeเริ่มต้น
Llama Nemotron Rerank VL 1B V2 เป็นโมเดลจัดอันดับซ้ำแบบ ครอสเอนโคเดอร์ ของ NVIDIA สำหรับเรียงเนื้อหาที่ค้นคืนมาตามความเกี่ยวข้องกับคำค้น ส่ง query และเอกสารตัวเลือกที่เป็นข้อความ ภาพ หรือแบบผสม แล้วใช้คะแนนและดัชนีเดิมที่ส่งกลับมาเพื่อเลือกข้อความสำหรับผลค้นหาหรือคำตอบที่เสริมด้วยการค้นคืนข้อมูล
- อินพุตที่รองรับ
- ข้อความ
- ผลลัพธ์
- ranking
ใช้งานได้ใน Ailoot · อินพุตและเมธอด
Ailoot Ultra · Rerank POST /v1/rerank
- ขาเข้า
text- ขาออก
ranking- รูปแบบเอาต์พุต
- JSON
| ฟิลด์ | ประเภท | ข้อกำหนด | ค่าและข้อจำกัด | ค่าเริ่มต้น |
|---|---|---|---|---|
ฟิลด์model | ประเภทstring | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด nvidia/llama-nemotron-rerank-vl-1b-v2:free | ค่าเริ่มต้น— |
ฟิลด์query | ประเภทstring | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์documents | ประเภทarray | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์top_n | ประเภทinteger | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ขั้นต่ำ: 1 | ค่าเริ่มต้น— |
พารามิเตอร์และวงจรการทำงานของเมธอด
| พารามิเตอร์ | ข้อกำหนด |
|---|---|
พารามิเตอร์content_type | ข้อกำหนดapplication/json |
พารามิเตอร์required | ข้อกำหนดmodel, query, documents |
พารามิเตอร์optional | ข้อกำหนดtop_n |
พารามิเตอร์material_types | ข้อกำหนดtext |
พารามิเตอร์conditions | ข้อกำหนด |
วงจรการทำงาน: synchronous_json
ราคา
ข้อมูลอัตราราคาไม่ได้เพิ่มตัวเลือกคำขอ พารามิเตอร์ที่รองรับระบุไว้สำหรับเมธอดที่เลือก
- โหมดรวดเร็ว
- ไม่ได้ระบุ เมื่อเลือกโหมดรวดเร็ว
- โหมดยืดหยุ่น
- ไม่ได้ระบุ เมื่อเลือกโหมด flex
- ระดับการใช้เหตุผลสูงสุด
- ไม่ได้ระบุ เมื่อใช้การปรับตามค่าเริ่มต้น (default) สำหรับระดับการใช้เหตุผลสูงสุด
อัตราค่าบริการ Ailoot
ราคาตามการตั้งค่า
เทียบค่าบริการแต่ละรายการกับเงื่อนไขที่แสดง เลือกใช้อัตราเดียวสำหรับแต่ละชุดการตั้งค่าที่เป็นตัวเลือกทดแทนกัน
| การตั้งค่า | ตารางอัตราค่าบริการ | ปริมาณที่คิดค่าบริการ | ค่าบริการ |
|---|---|---|---|
| การตั้งค่าอัตราค่าบริการโทเคนพื้นฐาน | ตารางอัตราค่าบริการอัตราพื้นฐาน | ปริมาณที่คิดค่าบริการ— | ค่าบริการ ขาเข้า · โทเค็นอินพุต — / 1K โทเค็น ขาออก · โทเค็นเอาต์พุต — / 1K โทเค็น ขาเข้า · การอ่านแคช — / 1K โทเค็น ขาเข้า · การเขียนแคช — / 1K โทเค็น ขาเข้า · การเขียนแคช, 1 ชั่วโมง — / 1K โทเค็น |
| การตั้งค่าต่อคำขอ | ตารางอัตราค่าบริการ— | ปริมาณที่คิดค่าบริการหนึ่งคำขอ | ค่าบริการ ขาเข้า $0 ต่อคำขอ |
Ailoot กันยอดเงินประมาณการไว้ก่อนส่งคำขอ หลังได้ผลลัพธ์ จะคิดค่าบริการสุดท้ายตามการใช้งานที่วัดได้ การคิดค่าบริการแบบสตรีมใช้บันทึกการใช้งานสุดท้าย วิธีกันยอดเงินและคิดค่าบริการสุดท้าย →
ตัวอย่างคำขอ
Ailoot Ultra · Rerank
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"documents": ["Paris is the capital of France.", "Berlin is the capital of Germany."], "model": "nvidia/llama-nemotron-rerank-vl-1b-v2:free", "query": "What is the capital of France?", "top_n": 3}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.
รับและบันทึกผลลัพธ์
Ailoot Ultra · Rerank
JSON
เก็บผลลัพธ์ที่เสร็จสมบูรณ์ทั้งหมด
เก็บทุกการตอบกลับ ไฟล์ และส่วนเนื้อหาที่ส่งกลับมาอย่างครบถ้วน
Retain the complete response, all actual results, original identifiers, usage and response headers.
เมื่อต้องตรวจสอบการตอบกลับต้นฉบับ
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
ฟิลด์การตอบกลับ
| ฟิลด์ | ประเภท |
|---|---|
ฟิลด์results | ประเภทarray |
ชื่ออื่น
ชื่ออื่นของโมเดล
Ailoot Ultra nvidia/llama-nemotron-rerank-vl-1b-v2:free
ชื่อพาธเมธอดอื่น
ใช้พาธเมธอดที่แสดงด้านบน
ID ที่เกี่ยวข้องสำหรับเรียกใช้โมเดล
FAQ · NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
- มีอินพุตและผลลัพธ์ใดบ้าง?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:text→ranking- คำขอใช้ฟิลด์ใดบ้าง?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:model,query,documents,top_n- มีข้อจำกัดใดบ้าง?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:top_n.minimum:1