Cohere: Rerank 4 Fast
Cohere Rerank 4 Fast เรียงเอกสารตัวเลือกตามความเกี่ยวข้องกับคำค้น โดยเน้นการค้นคืนที่มีความหน่วงต่ำและรองรับปริมาณงานสูง รองรับบริบท 32K มากกว่า 100 ภาษา และข้อความกึ่งมีโครงสร้างสำหรับการค้นหาและเวิร์กโฟลว์เสริมด้วยการค้นคืน
เกี่ยวกับโมเดล
คำอธิบายนี้ครอบคลุมความสามารถของโมเดล อินพุต เอาต์พุต และตัวเลือกที่ใช้ได้ใน Ailoot แสดงด้านล่างตามเมธอดที่เลือก
Cohere Rerank 4 Fast เป็น Rerank 4 รุ่นเบากว่าที่วางสำหรับงานค้นคืนความหน่วงต่ำกว่าและปริมาณงานสูงกว่า รับคำค้นกับเอกสารตัวเลือก แล้วส่งลำดับความเกี่ยวข้องและคะแนน มีประโยชน์ต่อการค้นหาโต้ตอบ การเลือกหลักฐานซ้ำ และแอปพลิเคชันที่ต้องเรียงรายการผลเดิมใหม่ Fast ยังเป็นรุ่นแยกจาก Rerank 4 Pro ซึ่งวางสำหรับกรณีซับซ้อนกว่าที่คุณภาพการค้นคืนสำคัญก่อน
รหัสผู้ผลิตคือ rerank-v4.0-fast เช่นเดียวกับ Pro มีบริบท 32,768 โทเค็นและครอบคลุมมากกว่า 100 ภาษา คำค้นและเอกสารหนึ่งฉบับใช้บริบทร่วมกัน ไม่ใช่มิติเวกเตอร์หรืองบของคลังข้อความที่ทำดัชนีทั้งหมด ส่งข้อความตัวเลือกที่ต้องเปรียบเทียบ แทนคาดให้โมเดลค้นคืนเอกสารจากแหล่งที่ไม่ได้ให้
ผลตามเอกสารมีดัชนีเอกสารเดิมและ relevance_score top_n เลือกจำนวนผลส่งคืน ส่วนการละไว้ส่งรายการจัดอันดับเต็ม เก็บตัวระบุแหล่งคู่ข้อมูลนำเข้าเพื่อเชื่อมลำดับใหม่กับข้อความจริง สำหรับค้นสินค้า ให้อธิบายคุณลักษณะที่ต้องการในคำค้นและจัดอันดับคำอธิบายตัวเลือกใหม่ อันดับที่สูงกว่าควรยังเชื่อมกับระเบียนสินค้าที่สร้างผลนั้น
โมเดลทำงานกับเอกสารอังกฤษ ภาษาอื่น และระเบียนกึ่งมีโครงสร้างได้ ในเวิร์กโฟลว์ V2 เอกสารนำเข้าเป็นสตริง และ Cohere แนะนำแทนข้อมูลมีโครงสร้างเป็น YAML วางฟิลด์สำคัญก่อนและรักษาลำดับเพื่อไม่ให้การตัดทอนทิ้งเนื้อหาที่ต้องใช้ตัดสินความเกี่ยวข้อง ระเบียนสนับสนุนอาจมีชื่อเรื่อง สินค้า และข้อความขั้นตอน ส่วนข้อความอาจมีหัวเรื่องกับเนื้อความ ความสัมพันธ์ชัดเหล่านี้ให้ข้อมูลกับตัวจัดอันดับมากกว่ารายการคำสำคัญที่ตรงกัน
ขีดจำกัดคำค้นเฉพาะโมเดลในคู่มือเตรียมของ Cohere คือ 16,384 โทเค็น โดยคำค้นและเอกสารใช้บริบทร่วมกัน คู่มืออธิบายการประมวลผลเอกสารยาวเป็นชิ้น ส่วนเอกสารอ้างอิง V2 กำหนดการตัดเอกสารเริ่มต้น 4096 โทเค็นผ่าน max_tokens_per_doc แยกต่างหาก ตรวจค่าตั้งเอกสารที่มีผลจริง แทนสมมติว่าหน้าต่างโมเดล 32K ทั้งหมดถูกใช้เสมอ เตรียมข้อความเกี่ยวข้องหรืองบเอกสารเหมาะสมสำหรับงานค้นคืนจริง
เพื่อประสิทธิภาพที่แนะนำ Cohere ไม่แนะนำเกิน 1,000 เอกสารในหนึ่งคำขอ แบ่งชุดตัวเลือกใหญ่เป็นกลุ่มจัดการได้พร้อมคงตัวระบุ คะแนนผลปรับมาตรฐานจาก 0 ถึง 1 และขึ้นกับคำค้นกับข้อความ ลำดับคือผลสำคัญ คะแนนไม่ใช่จำนวนเท่าของความเกี่ยวข้องแบบเชิงเส้นหรือหลักฐานว่าข้อความถูกต้อง กำหนดเกณฑ์กรองใด ๆ ด้วยคำค้นที่เป็นตัวแทนและข้อความก้ำกึ่งเกี่ยวข้องจากสาขานั้น
ผล Fast ที่ใช้ได้คือรายการจัดอันดับที่นำไปแสดงผลค้นหาหรือเลือกหลักฐานให้ขั้นตอนเขียนคำตอบได้ทันที เก็บต้นฉบับคู่คะแนนและตรวจว่าผลบนสุดตอบเงื่อนไขที่ขอจริงหรือไม่ บทบาท Fast คือจัดอันดับการค้นคืน แทนสร้างคำอธิบายใหม่หรือเวกเตอร์ embedding คงรุ่นที่ระบุชื่อและการเตรียมข้อมูลนำเข้าให้สอดคล้องเมื่อปรับพฤติกรรมความเกี่ยวข้อง
Ailoot Ultra · จัดอันดับใหม่ POST /v1/rerank cohere/rerank-4-fast
cohere/rerank-4-fastเริ่มต้น
Cohere Rerank 4 Fast เรียงเอกสารตัวเลือกตามความเกี่ยวข้องกับคำค้น โดยเน้นการค้นคืนที่มีความหน่วงต่ำและรองรับปริมาณงานสูง รองรับบริบท 32K มากกว่า 100 ภาษา และข้อความกึ่งมีโครงสร้างสำหรับการค้นหาและเวิร์กโฟลว์เสริมด้วยการค้นคืน
- อินพุตที่รองรับ
- ข้อความ
- ผลลัพธ์
- ผลลัพธ์ที่จัดอันดับแล้ว
ใช้งานได้ใน Ailoot · อินพุตและเมธอด
Ailoot Ultra · จัดอันดับใหม่ POST /v1/rerank
- ขาเข้า
text- ขาออก
rerank- รูปแบบเอาต์พุต
- json
| ฟิลด์ | ประเภท | ข้อกำหนด | ค่าและข้อจำกัด | ค่าเริ่มต้น |
|---|---|---|---|---|
ฟิลด์documents | ประเภทarray | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์model | ประเภทstring | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด cohere/rerank-4-fast | ค่าเริ่มต้น— |
ฟิลด์provider | ประเภทschema | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์query | ประเภทstring | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์session_id | ประเภทstring | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์top_n | ประเภทinteger | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ขั้นต่ำ: 1 | ค่าเริ่มต้น— |
ฟิลด์trace | ประเภทschema | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์user | ประเภทstring | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์documents[].text | ประเภทstring | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์documents[].image | ประเภทstring | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ชุดผสมของสื่ออินพุต
text_rerank · จำเป็น: query, documents array with minItems1
พารามิเตอร์และวงจรการทำงานของเมธอด
| พารามิเตอร์ | ข้อกำหนด |
|---|---|
พารามิเตอร์content_type | ข้อกำหนดapplication/json |
พารามิเตอร์required | ข้อกำหนดmodel, query, documents |
พารามิเตอร์material_types | ข้อกำหนดtext |
พารามิเตอร์optional_controls | ข้อกำหนดprovider, session_id, top_n, trace, user |
พารามิเตอร์multimodal_input_binding | ข้อกำหนดnull |
วงจรการทำงาน: synchronous
ส่ง ID โมเดลที่ตรงตามที่กำหนดและเก็บการตอบกลับรูปแบบดั้งเดิมทั้งหมด
ราคา
ข้อมูลอัตราราคาไม่ได้เพิ่มตัวเลือกคำขอ พารามิเตอร์ที่รองรับระบุไว้สำหรับเมธอดที่เลือก
- โหมดรวดเร็ว
- ไม่ได้ระบุ เมื่อเลือกโหมดรวดเร็ว
- โหมดยืดหยุ่น
- ไม่ได้ระบุ เมื่อเลือกโหมด flex
- ระดับการใช้เหตุผลสูงสุด
- ไม่ได้ระบุ เมื่อใช้การปรับตามค่าเริ่มต้น (default) สำหรับระดับการใช้เหตุผลสูงสุด
อัตราค่าบริการ Ailoot
ราคาตามการตั้งค่า
เทียบค่าบริการแต่ละรายการกับเงื่อนไขที่แสดง เลือกใช้อัตราเดียวสำหรับแต่ละชุดการตั้งค่าที่เป็นตัวเลือกทดแทนกัน
| การตั้งค่า | ตารางอัตราค่าบริการ | หน่วยคิดค่าบริการ | ค่าบริการ |
|---|---|---|---|
| การตั้งค่าอัตราค่าบริการโทเคนพื้นฐาน | ตารางอัตราค่าบริการอัตราพื้นฐาน | หน่วยคิดค่าบริการ— | ค่าบริการ ขาเข้า · โทเค็นอินพุต — / 1K โทเค็น ขาออก · โทเค็นเอาต์พุต — / 1K โทเค็น ขาเข้า · การอ่านแคช — / 1K โทเค็น ขาเข้า · การเขียนแคช — / 1K โทเค็น ขาเข้า · การเขียนแคช, 1 ชั่วโมง — / 1K โทเค็น |
| การตั้งค่าUltra | ตารางอัตราค่าบริการ— | หน่วยคิดค่าบริการต่อหน่วยการค้นหา | ค่าบริการ total · หน่วยการค้นหา $0.004 ต่อหน่วยการค้นหา |
Ailoot กันยอดเงินประมาณการไว้ก่อนส่งคำขอ หลังได้ผลลัพธ์ จะคิดค่าบริการสุดท้ายตามการใช้งานที่วัดได้ การคิดค่าบริการแบบสตรีมใช้บันทึกการใช้งานสุดท้าย วิธีกันยอดเงินและคิดค่าบริการสุดท้าย →
ตัวอย่างคำขอ
Ailoot Ultra · จัดอันดับใหม่
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "cohere/rerank-4-fast",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='cohere/rerank-4-fast'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
รับและบันทึกผลลัพธ์
Ailoot Ultra · จัดอันดับใหม่
json
เก็บผลลัพธ์ที่เสร็จสมบูรณ์ทั้งหมด
เก็บทุกการตอบกลับ ไฟล์ และส่วนเนื้อหาที่ส่งกลับมาอย่างครบถ้วน
เก็บดัชนีผลลัพธ์จริงทุกค่า relevance_score ที่เป็นจำนวนจำกัดทุกค่า และออบเจ็กต์เอกสารต้นฉบับทั้งหมด ดัชนีผูกกับอาร์เรย์เอกสารต้นฉบับ JSON ต้นฉบับทั้งหมดจะถูกจัดเก็บและส่งกลับหลังชำระบัญชีแล้วเท่านั้น
เมื่อต้องตรวจสอบการตอบกลับต้นฉบับ
เก็บการดำเนินการเดิมและการตอบกลับทั้งหมด/บางส่วน อย่าส่ง POST ซ้ำ
ฟิลด์การตอบกลับ
| ฟิลด์ | ประเภท |
|---|---|
ฟิลด์model | ประเภทstring |
ฟิลด์id | ประเภทstring |
ฟิลด์provider | ประเภทstring |
ฟิลด์results[].index | ประเภทinteger |
ฟิลด์results[].relevance_score | ประเภทnumber |
ฟิลด์results[].document.text | ประเภทstring |
ฟิลด์results[].document.image | ประเภทstring |
ฟิลด์usage.search_units | ประเภทinteger |
ฟิลด์usage.total_tokens | ประเภทinteger |
ฟิลด์usage.cost | ประเภทnumber |
ข้อผิดพลาดและขั้นตอนถัดไป
| การตอบกลับ | เงื่อนไข | ขั้นตอนถัดไป |
|---|---|---|
การตอบกลับ400 · invalid_request_error | เงื่อนไขฟิลด์ที่จำเป็น รูปแบบข้อมูล หรือค่าไม่ถูกต้อง | ขั้นตอนถัดไปแก้ไขฟิลด์คำขอที่ระบุ |
ชื่ออื่น
ชื่ออื่นของโมเดล
Ailoot Ultra cohere/rerank-4-fast
ชื่อพาธเมธอดอื่น
ใช้พาธเมธอดที่แสดงด้านบน
ID ที่เกี่ยวข้องสำหรับเรียกใช้โมเดล
FAQ · Cohere: Rerank 4 Fast
- มีอินพุตและผลลัพธ์ใดบ้าง?
POST /v1/rerank·cohere/rerank-4-fast:text→rerank- คำขอใช้ฟิลด์ใดบ้าง?
POST /v1/rerank·cohere/rerank-4-fast:documents,model,provider,query,session_id,top_n,trace,user- มีข้อจำกัดใดบ้าง?
POST /v1/rerank·cohere/rerank-4-fast:top_n.minimum:1