VoyageAI by MongoDB: rerank-2.5-lite
rerank-2.5-lite เป็นตัวจัดอันดับใหม่ตามคำสั่งของ Voyage AI ที่เน้นเวลาตอบสนอง สำหรับชุดข้อความตัวเลือกที่ส่งให้ คงบริบทคำค้นกับเอกสาร 32,000 โทเคนและรองรับหลายภาษา ส่งรายการเรียงตามคะแนนความเกี่ยวข้องพร้อมดัชนีเอกสารเดิม
เกี่ยวกับโมเดล
คำอธิบายนี้ครอบคลุมความสามารถของโมเดล อินพุต เอาต์พุต และตัวเลือกที่ใช้ได้ใน Ailoot แสดงด้านล่างตามเมธอดที่เลือก
rerank-2.5-lite เป็นสมาชิกขนาดเบาในรุ่นตัวจัดอันดับใหม่ 2.5 ของ Voyage AI ผู้ผลิตอธิบายว่าเป็นโมเดลทั่วไปที่สมดุลเวลาตอบสนองกับคุณภาพความเกี่ยวข้อง พร้อมทำตามคำสั่งภาษาธรรมชาติและรองรับหลายภาษา อินพุตคือคำค้นกับข้อความตัวเลือก ผลลัพธ์คือลำดับตัวเลือกที่ปรับแล้วพร้อมคะแนนความเกี่ยวข้อง
การตัดสินความเกี่ยวข้องขั้นที่สองแบบเบา
โมเดล Lite ประมวลผลคำค้นกับเอกสารแต่ละคู่ร่วมกันแบบ cross-encoder ใช้ต่อจากการค้นหาขั้นแรกแบบ embedding หรือคำศัพท์เพื่อปรับข้อความที่ขั้นนั้นเลือก ต่างจากการเตรียมดัชนี embedding ที่ใช้ซ้ำ เพราะตัวจัดอันดับใหม่พิจารณาคำค้นกับข้อความเอกสารที่ส่งร่วมกันเพื่อการตัดสินความเกี่ยวข้องครั้งปัจจุบัน
สำหรับการค้นหาความช่วยเหลือแบบโต้ตอบ ให้ส่งคำอธิบายตัวเลือกที่อาจตอบคำถามผู้ใช้ เก็บเนื้อหาแต่ละส่วนให้พอสื่อพฤติกรรมและเงื่อนไขประกอบ และรักษาความเชื่อมโยงระหว่างดัชนีอินพุตกับรายการต้นทาง ชุดตัวเลือกที่มีประเด็นชัดช่วยให้งานจัดอันดับใหม่ชัดเจน โดยหลักฐานที่ค้นคืนยังใช้แสดงหรือทำคำตอบภายหลังได้
คำสั่งแสดงสิ่งที่ผู้ใช้ต้องการให้สำคัญก่อน
เช่นเดียวกับ rerank-2.5 รุ่น Lite รับคำสั่งภาษาธรรมชาติก่อนหรือหลังคำค้น ตัวอย่างของผู้ผลิตใช้เพื่อเน้นส่วนเอกสาร เลือกชนิดแหล่งที่ชอบ หรือเติมบริบทให้คำกำกวม แอปพลิเคชันอาจให้ความต้องการด้านความเกี่ยวข้องประจำ หรือคำถามปัจจุบันอาจเพิ่มความต้องการเฉพาะกว่า
คำค้นสนับสนุนตัวอย่างอาจถามว่าข้อความใดอธิบายข้อผิดพลาด พร้อมสั่งให้เน้นขั้นตอนแก้ปัญหากว่าคำบรรยายผลิตภัณฑ์ทั่วไป การค้นเอกสารอาจขอถ้อยคำนโยบายต้นฉบับแทนการอภิปรายเรื่องนโยบาย อธิบายหลักฐานที่ต้องการและคงคำสั่งให้กระชับ คำสั่งมีผลต่อคะแนนความเกี่ยวข้อง หากมีข้อจำกัดเวอร์ชัน วันที่ หรือสิทธิ์แบบเคร่งครัด ให้จัดการในขั้นเลือกตัวเลือก แทนการถือว่าความต้องการความเกี่ยวข้องเป็นตัวกรองที่รับประกัน
อ่านอันดับและส่งข้อความต้นฉบับกลับ
ผลเรียงตามความเกี่ยวข้องจากมากไปน้อย แต่ละรายการมีดัชนีเอกสารเดิมและคะแนนทศนิยม ตัวเลือก return-documents ยังส่งข้อความอินพุตที่ตรงกันกลับ ตัวเลือก top-k กำหนดจำนวนผลอันดับต้นที่ส่งกลับ หากไม่ระบุจะส่งอันดับของทุกตัวเลือกที่ส่งให้
ใช้ดัชนีเหล่านั้นเรียกข้อความต้นฉบับและตัวระบุกลับ ตัวเลือกที่จัดอันดับใหม่อาจเป็นผลค้นหาหรือหลักฐานสำหรับขั้น RAG ถัดไป แต่ผลลัพธ์เป็นการจัดลำดับข้อความที่ให้ ไม่ใช่คำตอบที่เขียนใหม่ ประเมินว่าข้อความอันดับต้นตรงทั้งคำถามและคำสั่งความเกี่ยวข้องหรือไม่ รวมถึงภาษาและชนิดเอกสารที่มีจริงในชุดข้อมูล
ขีดจำกัดและงบตัวเลือกที่ใช้ได้จริง
รุ่น 2.5 Lite มีคำค้นสูงสุด 8,000 โทเคนตามเอกสาร และขีดจำกัดคำค้นรวมเอกสารแต่ละฉบับ 32,000 โทเคน แยกจาก rerank-2-lite ก่อนหน้าที่มีบริบทเล็กกว่า ส่งเอกสารได้สูงสุด 1,000 ฉบับ และอินพุตรวมจำกัด 600,000 โทเคนตามสูตร โทเคนคำค้นคูณจำนวนตัวเลือก บวกผลรวมโทเคนเอกสารตัวเลือก
สำหรับการใช้งานที่ไวต่อเวลาตอบสนอง FAQ ของผู้ผลิตแนะนำ rerank-2.5-lite ที่โทเคนรวมไม่เกิน 200,000 ต่อคำขอ นี่เป็นคำแนะนำเชิงปฏิบัติต่ำกว่าค่าสูงสุดที่ระบุ ไม่ใช่หน้าต่างต่อเอกสารอีกแบบหนึ่ง คำค้นหรือคำสั่งยาวถูกนับหนึ่งครั้งสำหรับตัวเลือกแต่ละคู่ ดังนั้นทั้งจำนวนตัวเลือกและความยาวคำค้นมีผลต่อยอดรวม
การตัดทอนเปิดเป็นค่าเริ่มต้นและย่ออินพุตคำค้นหรือเอกสารที่เกินให้พอดี หากปิดจะคืนข้อผิดพลาดเมื่อคำค้นหรือคู่ยาวเกิน เตรียมตัวเลือกที่กระชับและมีคำตอบอย่างตั้งใจ เพื่อไม่ให้หลักฐานมีประโยชน์อยู่เลยจุดที่ถูกตัด การเลือกผลลัพธ์น้อยลงผ่าน top-k ไม่ได้นำตัวเลือกอื่นที่ส่งออกจากการนับโทเคน ตรวจข้อความต้นทางที่ส่งกลับและปรับการเตรียมอินพุตตามคำถามจริงที่ส่วนติดต่อค้นหาต้องตอบ
Ailoot Ultra · จัดอันดับใหม่ POST /v1/rerank voyageai/rerank-2.5-lite
voyageai/rerank-2.5-liteเริ่มต้น
rerank-2.5-lite เป็นตัวจัดอันดับใหม่ตามคำสั่งของ Voyage AI ที่เน้นเวลาตอบสนอง สำหรับชุดข้อความตัวเลือกที่ส่งให้ คงบริบทคำค้นกับเอกสาร 32,000 โทเคนและรองรับหลายภาษา ส่งรายการเรียงตามคะแนนความเกี่ยวข้องพร้อมดัชนีเอกสารเดิม
- อินพุตที่รองรับ
- ข้อความ
- ผลลัพธ์
- ผลลัพธ์ที่จัดอันดับแล้ว
ใช้งานได้ใน Ailoot · อินพุตและเมธอด
Ailoot Ultra · จัดอันดับใหม่ POST /v1/rerank
- ขาเข้า
text- ขาออก
rerank- รูปแบบเอาต์พุต
- json
| ฟิลด์ | ประเภท | ข้อกำหนด | ค่าและข้อจำกัด | ค่าเริ่มต้น |
|---|---|---|---|---|
ฟิลด์documents | ประเภทarray | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์model | ประเภทstring | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด voyageai/rerank-2.5-lite | ค่าเริ่มต้น— |
ฟิลด์provider | ประเภทschema | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์query | ประเภทstring | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์session_id | ประเภทstring | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์top_n | ประเภทinteger | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ขั้นต่ำ: 1 | ค่าเริ่มต้น— |
ฟิลด์trace | ประเภทschema | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์user | ประเภทstring | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์documents[].text | ประเภทstring | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์documents[].image | ประเภทstring | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ชุดผสมของสื่ออินพุต
text_rerank · จำเป็น: query, documents array with minItems1
พารามิเตอร์และวงจรการทำงานของเมธอด
| พารามิเตอร์ | ข้อกำหนด |
|---|---|
พารามิเตอร์content_type | ข้อกำหนดapplication/json |
พารามิเตอร์required | ข้อกำหนดmodel, query, documents |
พารามิเตอร์material_types | ข้อกำหนดtext |
พารามิเตอร์optional_controls | ข้อกำหนดprovider, session_id, top_n, trace, user |
พารามิเตอร์multimodal_input_binding | ข้อกำหนดnull |
วงจรการทำงาน: synchronous
ส่ง ID โมเดลที่ตรงตามที่กำหนดและเก็บการตอบกลับรูปแบบดั้งเดิมทั้งหมด
ราคา
ข้อมูลอัตราราคาไม่ได้เพิ่มตัวเลือกคำขอ พารามิเตอร์ที่รองรับระบุไว้สำหรับเมธอดที่เลือก
- โหมดรวดเร็ว
- ไม่ได้ระบุ เมื่อเลือกโหมดรวดเร็ว
- โหมดยืดหยุ่น
- ไม่ได้ระบุ เมื่อเลือกโหมด flex
- ระดับการใช้เหตุผลสูงสุด
- ไม่ได้ระบุ เมื่อใช้การปรับตามค่าเริ่มต้น (default) สำหรับระดับการใช้เหตุผลสูงสุด
อัตราค่าบริการ Ailoot
ราคาตามการตั้งค่า
เทียบค่าบริการแต่ละรายการกับเงื่อนไขที่แสดง เลือกใช้อัตราเดียวสำหรับแต่ละชุดการตั้งค่าที่เป็นตัวเลือกทดแทนกัน
| การตั้งค่า | ตารางอัตราค่าบริการ | หน่วยคิดค่าบริการ | ค่าบริการ |
|---|---|---|---|
| การตั้งค่าอัตราค่าบริการโทเคนพื้นฐาน | ตารางอัตราค่าบริการอัตราพื้นฐาน | หน่วยคิดค่าบริการ— | ค่าบริการ ขาเข้า · โทเค็นอินพุต — / 1K โทเค็น ขาออก · โทเค็นเอาต์พุต — / 1K โทเค็น ขาเข้า · การอ่านแคช — / 1K โทเค็น ขาเข้า · การเขียนแคช — / 1K โทเค็น ขาเข้า · การเขียนแคช, 1 ชั่วโมง — / 1K โทเค็น |
| การตั้งค่าUltra | ตารางอัตราค่าบริการ— | หน่วยคิดค่าบริการ/ 1K โทเค็น | ค่าบริการ ขาเข้า $0.00004 / 1K โทเค็น |
Ailoot กันยอดเงินประมาณการไว้ก่อนส่งคำขอ หลังได้ผลลัพธ์ จะคิดค่าบริการสุดท้ายตามการใช้งานที่วัดได้ การคิดค่าบริการแบบสตรีมใช้บันทึกการใช้งานสุดท้าย วิธีกันยอดเงินและคิดค่าบริการสุดท้าย →
ตัวอย่างคำขอ
Ailoot Ultra · จัดอันดับใหม่
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "voyageai/rerank-2.5-lite",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='voyageai/rerank-2.5-lite'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
รับและบันทึกผลลัพธ์
Ailoot Ultra · จัดอันดับใหม่
json
เก็บผลลัพธ์ที่เสร็จสมบูรณ์ทั้งหมด
เก็บทุกการตอบกลับ ไฟล์ และส่วนเนื้อหาที่ส่งกลับมาอย่างครบถ้วน
เก็บดัชนีผลลัพธ์จริงทุกค่า relevance_score ที่เป็นจำนวนจำกัดทุกค่า และออบเจ็กต์เอกสารต้นฉบับทั้งหมด ดัชนีผูกกับอาร์เรย์เอกสารต้นฉบับ JSON ต้นฉบับทั้งหมดจะถูกจัดเก็บและส่งกลับหลังชำระบัญชีแล้วเท่านั้น
เมื่อต้องตรวจสอบการตอบกลับต้นฉบับ
เก็บการดำเนินการเดิมและการตอบกลับทั้งหมด/บางส่วน อย่าส่ง POST ซ้ำ
ฟิลด์การตอบกลับ
| ฟิลด์ | ประเภท |
|---|---|
ฟิลด์model | ประเภทstring |
ฟิลด์id | ประเภทstring |
ฟิลด์provider | ประเภทstring |
ฟิลด์results[].index | ประเภทinteger |
ฟิลด์results[].relevance_score | ประเภทnumber |
ฟิลด์results[].document.text | ประเภทstring |
ฟิลด์results[].document.image | ประเภทstring |
ฟิลด์usage.search_units | ประเภทinteger |
ฟิลด์usage.total_tokens | ประเภทinteger |
ฟิลด์usage.cost | ประเภทnumber |
ข้อผิดพลาดและขั้นตอนถัดไป
| การตอบกลับ | เงื่อนไข | ขั้นตอนถัดไป |
|---|---|---|
การตอบกลับ400 · invalid_request_error | เงื่อนไขฟิลด์ที่จำเป็น รูปแบบข้อมูล หรือค่าไม่ถูกต้อง | ขั้นตอนถัดไปแก้ไขฟิลด์คำขอที่ระบุ |
ชื่ออื่น
ชื่ออื่นของโมเดล
Ailoot Ultra voyageai/rerank-2.5-lite
ชื่อพาธเมธอดอื่น
ใช้พาธเมธอดที่แสดงด้านบน
ID ที่เกี่ยวข้องสำหรับเรียกใช้โมเดล
FAQ · VoyageAI by MongoDB: rerank-2.5-lite
- มีอินพุตและผลลัพธ์ใดบ้าง?
POST /v1/rerank·voyageai/rerank-2.5-lite:text→rerank- คำขอใช้ฟิลด์ใดบ้าง?
POST /v1/rerank·voyageai/rerank-2.5-lite:documents,model,provider,query,session_id,top_n,trace,user- มีข้อจำกัดใดบ้าง?
POST /v1/rerank·voyageai/rerank-2.5-lite:top_n.minimum:1