VoyageAI by MongoDB: rerank-3-lite
Voyage rerank-3-lite ให้คะแนนและจัดเอกสารข้อความที่เป็นตัวเลือกใหม่ตามคำค้น โดยเน้นการค้นหาที่ตอบสนองรวดเร็ว รองรับคำสั่งความเกี่ยวข้องและหน้าต่างคำค้นกับเอกสาร 32,000 โทเคน จึงมีประโยชน์หลังค้นคืนแบบเวกเตอร์หรือคำสำคัญในขั้นตอนค้นหาและ RAG
เกี่ยวกับโมเดล
คำอธิบายนี้ครอบคลุมความสามารถของโมเดล อินพุต เอาต์พุต และตัวเลือกที่ใช้ได้ใน Ailoot แสดงด้านล่างตามเมธอดที่เลือก
Voyage rerank-3-lite เป็นรุ่นที่เน้นลดเวลาตอบสนองในชุด Rerank 3 ของ Voyage รับคำค้นแบบข้อความและเอกสารตัวเลือก ประเมินคำค้นกับเอกสารแต่ละคู่ร่วมกัน แล้วส่งคะแนนความเกี่ยวข้องตามอันดับ ทำหน้าที่ในขั้นที่สองของการค้นหา โดยตัวค้นคืนแบบ embedding หรือคำสำคัญหาตัวเลือกก่อน แล้ว Lite ปรับลำดับให้ดีขึ้น ผลคืออันดับสำหรับใช้ในการค้นหาหรือขั้นตอนสร้างคำตอบเสริมด้วยการค้นคืน
สิ่งที่เปลี่ยนใน Rerank 3 Lite ผู้ผลิตเน้นการค้นคืนจากเอกสารยาวและโค้ดที่ดีขึ้นเมื่อเทียบกับ rerank-2.5-lite Rerank 3 ทั้งสองรุ่นคงการทำตามคำสั่งและบริบทระดับ 32K เท่ากัน ส่วน Lite ออกแบบสำหรับแอปพลิเคชันที่ไวต่อเวลาตอบสนอง จึงเป็นตัวเลือกที่ใช้ได้จริงสำหรับการค้นหาฐานความรู้แบบโต้ตอบ การค้นคืนเอกสารฝ่ายสนับสนุน และการค้นโค้ดเมื่อผู้ใช้ต้องการผลเกี่ยวข้องอย่างรวดเร็ว เลือกตามคุณภาพและเวลาตอบสนองที่ชุดข้อมูลจริงต้องการ แทนการสมมติว่ารุ่นเล็กกว่ามีหน้าต่างบริบทเล็กกว่า
กำกับความเกี่ยวข้องด้วยคำค้น สามารถแนบคำสั่งภาษาธรรมชาติกับคำค้นเพื่ออธิบายว่าอะไรถือว่าเกี่ยวข้อง รักษาคำถามและความต้องการด้านความเกี่ยวข้องให้กระชับและสอดคล้องกัน สำหรับการค้นหาสนับสนุนซอฟต์แวร์ ใช้ “ค้นหาขั้นตอนรีเซ็ตอุปกรณ์ โดยให้ความสำคัญกับคำแนะนำสำหรับฮาร์ดแวร์รุ่นแก้ไขที่ระบุ” สำหรับชื่อผลิตภัณฑ์กำกวม ให้ใส่หมวดผลิตภัณฑ์เพื่อไม่ให้ความหมายที่ไม่เกี่ยวข้องครองผล ความต้องการในคำค้นกำกับการให้คะแนนเชิงความหมาย ใช้ metadata ของชุดข้อมูลอย่างชัดเจนเพื่อเลือกผลิตภัณฑ์ เวอร์ชันเอกสาร หรือขอบเขตการเข้าถึงให้ถูกต้องก่อนสร้างรายการตัวเลือก
เตรียมรายการตัวเลือกข้อความที่คัดมา เอกสารอินพุตเป็นสตริง ดึงข้อความที่อ่านได้จากต้นฉบับและเก็บชื่อเรื่อง หัวข้อ ตัวระบุ และบริบทแวดล้อมที่มีประโยชน์ คงการจับคู่จากตำแหน่งอินพุตแต่ละตำแหน่งไปยังบันทึกเดิมให้แน่นอน สำหรับบทความแก้ปัญหา ให้แนบอาการกับขั้นตอนที่เกี่ยวข้อง ไม่ใช่ประโยคที่แยกเดี่ยว สำหรับค้นซอร์สโค้ด ให้แนบฟังก์ชันและข้อมูลใกล้เคียงที่จำเป็นต่อการแยกจากฟังก์ชันชื่อคล้ายกัน ตัดข้อความนำทางหรือข้อความสำเร็จรูปซ้ำเมื่อเบียดพื้นที่เนื้อหาที่มีประโยชน์
ตัวจัดอันดับใหม่จัดลำดับได้เฉพาะเอกสารที่ได้รับ หากการค้นหาแรกไม่พบและไม่ส่งบทความที่เกี่ยวข้องมา ขั้นนี้ไม่สามารถกู้ตัวเลือกที่ขาดได้ ตรวจทั้งรายการที่คัดมาและอันดับสุดท้ายเมื่อผลดูผิด หากเอกสารยาวครอบคลุมหลายหัวข้อ ให้แยกเป็นส่วนที่มีเนื้อหาต่อเนื่องและเก็บการอ้างอิงเอกสารแม่ เพื่อให้เลือกส่วนเกี่ยวข้องได้โดยไม่สูญเสียต้นทาง
บริบทและขีดจำกัดคำขอ คู่มือปัจจุบันของผู้ผลิตกำหนดคำค้นสูงสุด 8,000 โทเคน และคำค้นรวมเอกสารแต่ละฉบับสูงสุด 32,000 โทเคน อนุญาตเอกสารตัวเลือกได้สูงสุด 1,000 ฉบับ และงบรวมคำขอ 600,000 โทเคน คำนวณจากโทเคนคำค้นคูณจำนวนเอกสาร บวกโทเคนเอกสารทั้งหมด คำค้นยาวจึงใช้พื้นที่ในทุกคู่และถูกนับซ้ำในงบรวม นับข้อความที่ส่งด้วย tokenizer ของโมเดลที่เหมาะสม แทนการถือว่าอักขระ คำ และโทเคนใช้แทนกันได้
ตัวอย่างเช่น คำค้น 500 โทเคนกับเอกสาร 100 ฉบับ ฉบับละ 4,000 โทเคน นับเป็นอินพุต 450,000 โทเคนตามสูตรนี้ นี่แสดงวิธีจัดงบ ไม่ใช่ขนาดรายการที่แนะนำหรือผลวัดความเร็ว ตัวเลือกตัดทอนตามเอกสารเปิดเป็นค่าเริ่มต้น ข้อความเกินขนาดจึงอาจถูกย่อก่อนให้คะแนน เตรียมส่วนสำคัญอย่างตั้งใจเพื่อไม่ให้การตัดทอนนำข้อความที่ต้องการจับคู่ออกไป
อ่านและใช้ผลลัพธ์ ผลเรียงจากคะแนนความเกี่ยวข้องสูงสุดลงมา แต่ละผลระบุตำแหน่งอินพุตเดิมของเอกสาร ทำให้แอปพลิเคชันแนบชื่อเรื่อง ตัวระบุบันทึก และต้นทางของตนได้ ค่า top_k ควบคุมจำนวนตัวเลือกตามอันดับที่ส่งกลับ หากไม่ระบุจะส่งกลับทั้งหมด ส่วนติดต่อ REST ของผู้ผลิตยังส่งข้อความเอกสารกลับได้ เก็บตัวระบุเดิมคู่กับผลที่เลือกเมื่อแสดงหน้าค้นหาหรือส่งหลักฐานไปยังขั้นสร้างคำตอบ
คะแนนความเกี่ยวข้องบอกว่าตัวเลือกตรงกับคำค้นเพียงใด ไม่ได้ยืนยันว่าข้อความในตัวเลือกถูกต้อง เทียบรายการอันดับสูงสุดกับคำถามจริงของผู้ใช้ รวมข้อยกเว้นและความต่างเวอร์ชันเอกสาร หากทุกตัวเลือกไม่เกี่ยวข้อง ก็ยังมีรายการอันดับสูงสุดอยู่ ตัดสินว่าแอปพลิเคชันจะจัดการกรณีนั้นอย่างไรโดยใช้คำถามที่เป็นตัวแทนจากชุดข้อมูล
การอัปเกรดและเลือกรุ่น ผู้ผลิตอธิบาย rerank-3-lite ว่าเป็นการอัปเกรด rerank-2.5-lite ที่คงความหมายการใช้งาน API และปรับเทียบคะแนนกับการกระจายของรุ่นก่อนหน้าที่ตรงกัน รักษาการจับคู่บันทึกและขั้นค้นคืนเดิม แล้วเปรียบเทียบลำดับที่ได้กับคำถามมีความหมายก่อนพึ่งเกณฑ์ตัดคะแนนเดิม ใช้ Lite สำหรับประสบการณ์ค้นหาที่เวลาตอบสนองสำคัญ และใช้ rerank-3 ที่เน้นคุณภาพเป็นตัวเปรียบเทียบเมื่อความเกี่ยวข้องของตัวเลือกยากเป็นลำดับสำคัญกว่า
Ailoot Ultra · จัดอันดับใหม่ POST /v1/rerank voyageai/rerank-3-lite
voyageai/rerank-3-liteเริ่มต้น
Voyage rerank-3-lite ให้คะแนนและจัดเอกสารข้อความที่เป็นตัวเลือกใหม่ตามคำค้น โดยเน้นการค้นหาที่ตอบสนองรวดเร็ว รองรับคำสั่งความเกี่ยวข้องและหน้าต่างคำค้นกับเอกสาร 32,000 โทเคน จึงมีประโยชน์หลังค้นคืนแบบเวกเตอร์หรือคำสำคัญในขั้นตอนค้นหาและ RAG
- อินพุตที่รองรับ
- ข้อความ
- ผลลัพธ์
- ผลลัพธ์ที่จัดอันดับแล้ว
ใช้งานได้ใน Ailoot · อินพุตและเมธอด
Ailoot Ultra · จัดอันดับใหม่ POST /v1/rerank
- ขาเข้า
text- ขาออก
rerank- รูปแบบเอาต์พุต
- json
| ฟิลด์ | ประเภท | ข้อกำหนด | ค่าและข้อจำกัด | ค่าเริ่มต้น |
|---|---|---|---|---|
ฟิลด์documents | ประเภทarray | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์model | ประเภทstring | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด voyageai/rerank-3-lite | ค่าเริ่มต้น— |
ฟิลด์provider | ประเภทschema | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์query | ประเภทstring | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์session_id | ประเภทstring | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์top_n | ประเภทinteger | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ขั้นต่ำ: 1 | ค่าเริ่มต้น— |
ฟิลด์trace | ประเภทschema | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์user | ประเภทstring | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์documents[].text | ประเภทstring | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์documents[].image | ประเภทstring | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ชุดผสมของสื่ออินพุต
text_rerank · จำเป็น: query, documents array with minItems1
พารามิเตอร์และวงจรการทำงานของเมธอด
| พารามิเตอร์ | ข้อกำหนด |
|---|---|
พารามิเตอร์content_type | ข้อกำหนดapplication/json |
พารามิเตอร์required | ข้อกำหนดmodel, query, documents |
พารามิเตอร์material_types | ข้อกำหนดtext |
พารามิเตอร์optional_controls | ข้อกำหนดprovider, session_id, top_n, trace, user |
พารามิเตอร์multimodal_input_binding | ข้อกำหนดnull |
วงจรการทำงาน: synchronous
ส่ง ID โมเดลที่ตรงตามที่กำหนดและเก็บการตอบกลับรูปแบบดั้งเดิมทั้งหมด
ราคา
ข้อมูลอัตราราคาไม่ได้เพิ่มตัวเลือกคำขอ พารามิเตอร์ที่รองรับระบุไว้สำหรับเมธอดที่เลือก
- โหมดรวดเร็ว
- ไม่ได้ระบุ เมื่อเลือกโหมดรวดเร็ว
- โหมดยืดหยุ่น
- ไม่ได้ระบุ เมื่อเลือกโหมด flex
- ระดับการใช้เหตุผลสูงสุด
- ไม่ได้ระบุ เมื่อใช้การปรับตามค่าเริ่มต้น (default) สำหรับระดับการใช้เหตุผลสูงสุด
อัตราค่าบริการ Ailoot
ราคาตามการตั้งค่า
เทียบค่าบริการแต่ละรายการกับเงื่อนไขที่แสดง เลือกใช้อัตราเดียวสำหรับแต่ละชุดการตั้งค่าที่เป็นตัวเลือกทดแทนกัน
| การตั้งค่า | ตารางอัตราค่าบริการ | หน่วยคิดค่าบริการ | ค่าบริการ |
|---|---|---|---|
| การตั้งค่าอัตราค่าบริการโทเคนพื้นฐาน | ตารางอัตราค่าบริการอัตราพื้นฐาน | หน่วยคิดค่าบริการ— | ค่าบริการ ขาเข้า · โทเค็นอินพุต — / 1K โทเค็น ขาออก · โทเค็นเอาต์พุต — / 1K โทเค็น ขาเข้า · การอ่านแคช — / 1K โทเค็น ขาเข้า · การเขียนแคช — / 1K โทเค็น ขาเข้า · การเขียนแคช, 1 ชั่วโมง — / 1K โทเค็น |
| การตั้งค่าUltra | ตารางอัตราค่าบริการ— | หน่วยคิดค่าบริการ/ 1K โทเค็น | ค่าบริการ ขาเข้า $0.00004 / 1K โทเค็น |
Ailoot กันยอดเงินประมาณการไว้ก่อนส่งคำขอ หลังได้ผลลัพธ์ จะคิดค่าบริการสุดท้ายตามการใช้งานที่วัดได้ การคิดค่าบริการแบบสตรีมใช้บันทึกการใช้งานสุดท้าย วิธีกันยอดเงินและคิดค่าบริการสุดท้าย →
ตัวอย่างคำขอ
Ailoot Ultra · จัดอันดับใหม่
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "voyageai/rerank-3-lite",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='voyageai/rerank-3-lite'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
รับและบันทึกผลลัพธ์
Ailoot Ultra · จัดอันดับใหม่
json
เก็บผลลัพธ์ที่เสร็จสมบูรณ์ทั้งหมด
เก็บทุกการตอบกลับ ไฟล์ และส่วนเนื้อหาที่ส่งกลับมาอย่างครบถ้วน
เก็บดัชนีผลลัพธ์จริงทุกค่า relevance_score ที่เป็นจำนวนจำกัดทุกค่า และออบเจ็กต์เอกสารต้นฉบับทั้งหมด ดัชนีผูกกับอาร์เรย์เอกสารต้นฉบับ JSON ต้นฉบับทั้งหมดจะถูกจัดเก็บและส่งกลับหลังชำระบัญชีแล้วเท่านั้น
เมื่อต้องตรวจสอบการตอบกลับต้นฉบับ
เก็บการดำเนินการเดิมและการตอบกลับทั้งหมด/บางส่วน อย่าส่ง POST ซ้ำ
ฟิลด์การตอบกลับ
| ฟิลด์ | ประเภท |
|---|---|
ฟิลด์model | ประเภทstring |
ฟิลด์id | ประเภทstring |
ฟิลด์provider | ประเภทstring |
ฟิลด์results[].index | ประเภทinteger |
ฟิลด์results[].relevance_score | ประเภทnumber |
ฟิลด์results[].document.text | ประเภทstring |
ฟิลด์results[].document.image | ประเภทstring |
ฟิลด์usage.search_units | ประเภทinteger |
ฟิลด์usage.total_tokens | ประเภทinteger |
ฟิลด์usage.cost | ประเภทnumber |
ข้อผิดพลาดและขั้นตอนถัดไป
| การตอบกลับ | เงื่อนไข | ขั้นตอนถัดไป |
|---|---|---|
การตอบกลับ400 · invalid_request_error | เงื่อนไขฟิลด์ที่จำเป็น รูปแบบข้อมูล หรือค่าไม่ถูกต้อง | ขั้นตอนถัดไปแก้ไขฟิลด์คำขอที่ระบุ |
ชื่ออื่น
ชื่ออื่นของโมเดล
Ailoot Ultra voyageai/rerank-3-lite
ชื่อพาธเมธอดอื่น
ใช้พาธเมธอดที่แสดงด้านบน
ID ที่เกี่ยวข้องสำหรับเรียกใช้โมเดล
FAQ · VoyageAI by MongoDB: rerank-3-lite
- มีอินพุตและผลลัพธ์ใดบ้าง?
POST /v1/rerank·voyageai/rerank-3-lite:text→rerank- คำขอใช้ฟิลด์ใดบ้าง?
POST /v1/rerank·voyageai/rerank-3-lite:documents,model,provider,query,session_id,top_n,trace,user- มีข้อจำกัดใดบ้าง?
POST /v1/rerank·voyageai/rerank-3-lite:top_n.minimum:1