VoyageAI by MongoDB: rerank-2.5-lite
rerank-2.5-lite là bộ xếp hạng lại theo chỉ dẫn, hướng độ trễ của Voyage AI cho tập ứng viên văn bản cung cấp. Mô hình giữ ngữ cảnh truy vấn–tài liệu 32,000 token, hỗ trợ đa ngôn ngữ, trả danh sách có thứ tự gồm điểm liên quan và chỉ số tài liệu gốc.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
rerank-2.5-lite là thành viên nhẹ trong bản phát hành bộ xếp hạng lại 2.5 của Voyage AI. Nhà sản xuất mô tả mô hình đa dụng cân bằng độ trễ, chất lượng liên quan, tuân thủ chỉ dẫn ngôn ngữ tự nhiên và hỗ trợ đa ngôn ngữ. Đầu vào là truy vấn, văn bản ứng viên; đầu ra là thứ tự tinh chỉnh của ứng viên cùng điểm liên quan.
Quyết định độ liên quan giai đoạn hai nhẹ
Mô hình Lite xử lý đồng thời từng cặp truy vấn–tài liệu như cross-encoder. Nó có thể theo sau tìm kiếm embedding hoặc từ vựng giai đoạn đầu, tinh chỉnh các đoạn bước đó chọn. Khác chuẩn bị chỉ mục embedding tái sử dụng: bộ xếp hạng lại xem truy vấn, văn bản tài liệu gửi cùng nhau cho quyết định liên quan hiện tại.
Với tìm kiếm trợ giúp tương tác, gửi các giải thích ứng viên có thể trả lời câu hỏi người dùng. Giữ đủ mỗi đoạn để truyền đạt hành vi, điều kiện, giữ liên kết chỉ số đầu vào với mục nguồn. Tập ứng viên có trọng tâm làm tác vụ xếp lại rõ, đồng thời giữ bằng chứng truy xuất dùng được để hiển thị hoặc trả lời sau.
Chỉ dẫn thể hiện điều người dùng muốn ưu tiên
Như rerank-2.5, Lite nhận chỉ dẫn ngôn ngữ tự nhiên trước hoặc sau truy vấn. Ví dụ của nhà sản xuất dùng để nhấn thành phần tài liệu, chọn loại nguồn ưu tiên hoặc thêm bối cảnh cho từ mơ hồ. Ứng dụng có thể cung cấp ưu tiên liên quan thường trực, hoặc câu hỏi hiện tại có ưu tiên cụ thể hơn.
Truy vấn hỗ trợ minh họa có thể hỏi đoạn giải thích lỗi, chỉ dẫn ưu tiên bước xử lý sự cố hơn mô tả sản phẩm chung. Tìm tài liệu có thể yêu cầu nguyên văn chính sách thay vì bàn về chính sách. Mô tả bằng chứng mong muốn, giữ chỉ dẫn ngắn. Chỉ dẫn ảnh hưởng điểm liên quan; chuẩn bị mọi giới hạn chặt về phiên bản, ngày hoặc quyền khi chọn ứng viên, không coi ưu tiên liên quan là bộ lọc bảo đảm.
Đọc thứ hạng và trả đoạn nguồn
Đầu ra sắp độ liên quan giảm dần. Mỗi kết quả có chỉ số tài liệu gốc và điểm số thực dấu phẩy động; cài đặt return-documents tùy chọn còn trả văn bản đầu vào tương ứng. Tùy chọn top-k xác định số kết quả đầu trả về, bỏ trống thì trả xếp hạng mọi ứng viên đã gửi.
Dùng chỉ số để lấy lại đoạn nguồn, mã định danh. Ứng viên xếp lại có thể thành kết quả tìm kiếm hoặc bằng chứng bước RAG kế, nhưng đầu ra là sắp thứ tự văn bản cung cấp, không phải câu trả lời viết lại. Đánh giá đoạn đầu có đáp ứng cả câu hỏi và chỉ dẫn liên quan không, gồm trên ngôn ngữ, loại tài liệu thực trong tập.
Giới hạn và ngân sách ứng viên thực tiễn
Bản 2.5 Lite có truy vấn tối đa 8,000 token, giới hạn 32,000 token cho truy vấn cộng từng tài liệu được tài liệu hóa. Nó khác rerank-2-lite trước với ngữ cảnh nhỏ hơn. Gửi tối đa 1,000 tài liệu, tổng đầu vào giới hạn 600,000 token theo công thức: token truy vấn nhân số ứng viên cộng tổng token tài liệu ứng viên.
Với cách dùng nhạy độ trễ, FAQ khuyến nghị rerank-2.5-lite không quá 200,000 token tổng mỗi yêu cầu. Đây là hướng dẫn thực tiễn dưới mức tối đa, không phải cửa sổ mỗi tài liệu khác. Truy vấn hoặc chỉ dẫn dài được tính một lần cho mỗi cặp ứng viên, nên số ứng viên, độ dài truy vấn đều ảnh hưởng tổng.
Cắt ngắn bật mặc định, rút đầu vào truy vấn/tài liệu quá dài cho vừa; tắt thì trả lỗi khi truy vấn hoặc cặp quá dài. Chuẩn bị chủ đích ứng viên gọn chứa câu trả lời để bằng chứng hữu ích không nằm ngoài ranh giới bị cắt. Chọn ít kết quả đầu ra qua top-k không bỏ ứng viên khác khỏi phép tính token. Xem đoạn nguồn trả về, tinh chỉnh chuẩn bị đầu vào theo câu hỏi thực giao diện tìm kiếm cần trả lời.
Ailoot Ultra · Xếp hạng lại POST /v1/rerank voyageai/rerank-2.5-lite
voyageai/rerank-2.5-liteBắt đầu
rerank-2.5-lite là bộ xếp hạng lại theo chỉ dẫn, hướng độ trễ của Voyage AI cho tập ứng viên văn bản cung cấp. Mô hình giữ ngữ cảnh truy vấn–tài liệu 32,000 token, hỗ trợ đa ngôn ngữ, trả danh sách có thứ tự gồm điểm liên quan và chỉ số tài liệu gốc.
- Đầu vào được chấp nhận
- Văn bản
- Kết quả
- Kết quả đã xếp hạng
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Xếp hạng lại POST /v1/rerank
- Đầu vào
text- Đầu ra
rerank- Định dạng đầu ra
- json
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngdocuments | Loạiarray | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn voyageai/rerank-2.5-lite | Mặc định— |
Trườngprovider | Loạischema | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngquery | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngsession_id | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngtop_n | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườngtrace | Loạischema | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườnguser | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngdocuments[].text | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngdocuments[].image | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Tổ hợp tư liệu đầu vào
text_rerank · Bắt buộc: query, documents array with minItems1
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, query, documents |
Tham sốmaterial_types | Hợp đồngtext |
Tham sốoptional_controls | Hợp đồngprovider, session_id, top_n, trace, user |
Tham sốmultimodal_input_binding | Hợp đồngnull |
Vòng đời: synchronous
Gửi ID mô hình chính xác và giữ lại toàn bộ phản hồi gốc.
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Chưa chỉ định Khi chọn chế độ nhanh
- Chế độ Flex
- Chưa chỉ định Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Chưa chỉ định Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
Mức phí Ailoot
Giá theo cấu hình
Đối chiếu từng khoản phí với điều kiện hiển thị. Dùng một mức phí cho mỗi nhóm cấu hình thay thế.
| Cấu hình | Biểu mức phí | Đơn vị tính phí | Phí |
|---|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Đơn vị tính phí— | Phí Đầu vào · Token đầu vào — / 1K token Đầu ra · Token đầu ra — / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
| Cấu hìnhUltra | Biểu mức phí— | Đơn vị tính phí/ 1K token | Phí Đầu vào $0.00004 / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Xếp hạng lại
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "voyageai/rerank-2.5-lite",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='voyageai/rerank-2.5-lite'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Nhận và lưu kết quả
Ailoot Ultra · Xếp hạng lại
json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại mọi chỉ số kết quả thực tế, relevance_score hữu hạn và đối tượng tài liệu gốc. Các chỉ số liên kết với mảng tài liệu gốc. Toàn bộ JSON gốc chỉ được lưu và trả về sau khi quyết toán.
Nếu cần kiểm tra phản hồi gốc
Giữ nguyên thao tác ban đầu và phản hồi đầy đủ/một phần; không gửi lại POST.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngmodel | Loạistring |
Trườngid | Loạistring |
Trườngprovider | Loạistring |
Trườngresults[].index | Loạiinteger |
Trườngresults[].relevance_score | Loạinumber |
Trườngresults[].document.text | Loạistring |
Trườngresults[].document.image | Loạistring |
Trườngusage.search_units | Loạiinteger |
Trườngusage.total_tokens | Loạiinteger |
Trườngusage.cost | Loạinumber |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, biểu diễn hoặc giá trị không hợp lệ | Bước tiếp theoSửa trường yêu cầu được chỉ ra. |
Bí danh
Bí danh mô hình
Ailoot Ultra voyageai/rerank-2.5-lite
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · VoyageAI by MongoDB: rerank-2.5-lite
- Có những đầu vào và kết quả nào?
POST /v1/rerank·voyageai/rerank-2.5-lite:text→rerank- Yêu cầu sử dụng những trường nào?
POST /v1/rerank·voyageai/rerank-2.5-lite:documents,model,provider,query,session_id,top_n,trace,user- Áp dụng những giới hạn nào?
POST /v1/rerank·voyageai/rerank-2.5-lite:top_n.minimum:1