VoyageAI by MongoDB: rerank-3-lite
Voyage rerank-3-lite chấm điểm và sắp lại tài liệu văn bản ứng viên cho truy vấn, tập trung tìm kiếm phản hồi nhanh. Mô hình hỗ trợ chỉ dẫn độ liên quan và cửa sổ truy vấn–tài liệu 32,000 token, hữu ích sau truy xuất vector hoặc từ khóa trong tìm kiếm, RAG.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
Voyage rerank-3-lite là bản tập trung độ trễ của dòng Rerank 3 của Voyage. Mô hình nhận truy vấn văn bản và tài liệu ứng viên, đánh giá đồng thời từng cặp truy vấn–tài liệu, trả điểm liên quan theo thứ hạng. Nó phục vụ giai đoạn hai của tìm kiếm: bộ truy xuất embedding hoặc từ khóa tìm ứng viên, rồi Lite tinh chỉnh thứ tự. Kết quả là bảng xếp hạng dùng trong tìm kiếm hoặc quy trình sinh tăng cường truy xuất.
Điểm thay đổi ở Rerank 3 Lite Nhà sản xuất nhấn mạnh truy xuất tốt hơn với tài liệu dài, mã so với rerank-2.5-lite. Cả hai bản Rerank 3 giữ tuân thủ chỉ dẫn và cùng lớp ngữ cảnh 32K, còn Lite dành cho ứng dụng nhạy độ trễ. Đây là ứng viên thực tiễn cho tìm kiếm cơ sở tri thức tương tác, truy xuất tài liệu hỗ trợ và tra mã khi người dùng cần kết quả liên quan nhanh. Chọn theo yêu cầu chất lượng, thời gian phản hồi của bộ tài liệu thực, không giả định bản nhỏ hơn có cửa sổ ngữ cảnh nhỏ hơn.
Định hướng độ liên quan bằng truy vấn Chỉ dẫn ngôn ngữ tự nhiên có thể đi cùng truy vấn để giải thích thế nào là liên quan. Giữ câu hỏi và ưu tiên liên quan ngắn, nhất quán. Với tìm kiếm hỗ trợ phần mềm, dùng “Tìm quy trình đặt lại thiết bị; ưu tiên chỉ dẫn cho bản sửa đổi phần cứng đã nêu.” Với tên sản phẩm mơ hồ, thêm loại sản phẩm để nghĩa không liên quan không lấn át. Ưu tiên trong truy vấn hướng dẫn chấm điểm ngữ nghĩa; dùng metadata bộ tài liệu rõ ràng để chọn đúng sản phẩm, phiên bản tài liệu hoặc phạm vi truy cập trước khi lập danh sách ứng viên.
Chuẩn bị danh sách ngắn ứng viên văn bản Tài liệu đầu vào là chuỗi. Trích văn bản dễ đọc từ nguồn, giữ tiêu đề, đề mục, mã định danh và bối cảnh xung quanh hữu ích. Giữ ánh xạ ổn định từ mỗi vị trí đầu vào đến bản ghi gốc. Với bài xử lý sự cố, đưa triệu chứng và quy trình liên quan, không chỉ câu tách rời. Với tìm mã nguồn, đưa hàm và thông tin gần cần để phân biệt với hàm cùng tên. Bỏ điều hướng, nội dung khuôn mẫu lặp khi chúng lấn đoạn hữu ích.
Bộ xếp hạng lại chỉ sắp được tài liệu nó nhận. Nếu tìm kiếm đầu tiên không lấy bài liên quan, giai đoạn này không khôi phục được ứng viên thiếu. Kiểm tra cả danh sách ngắn và thứ tự cuối khi kết quả có vẻ sai. Khi tài liệu dài có nhiều chủ đề, tách phần mạch lạc, giữ tham chiếu tài liệu mẹ để chọn phần liên quan mà không mất nguồn.
Giới hạn ngữ cảnh và yêu cầu Hướng dẫn hiện tại của nhà sản xuất quy định truy vấn tối đa 8,000 token và tổng tối đa 32,000 token cho truy vấn cộng từng tài liệu. Cho phép tối đa 1,000 tài liệu ứng viên, tổng ngân sách yêu cầu 600,000 token, tính bằng token truy vấn nhân số tài liệu cộng mọi token tài liệu. Truy vấn dài vì thế chiếm chỗ trong mỗi cặp và đóng góp lặp vào tổng ngân sách. Đếm văn bản gửi bằng tokenizer phù hợp, không coi ký tự, từ và token hoán đổi được.
Chẳng hạn, truy vấn 500 token với 100 tài liệu, mỗi tài liệu 4,000 token, tính thành 450,000 token đầu vào theo công thức. Đây là minh họa ngân sách, không phải kích thước danh sách ngắn khuyến nghị hay kết quả tốc độ đo được. Tùy chọn cắt ngắn được tài liệu hóa bật mặc định; văn bản quá lớn có thể bị rút trước chấm điểm. Chuẩn bị các phần quan trọng có chủ đích để cắt ngắn không bỏ đúng đoạn cần khớp.
Đọc và dùng kết quả Kết quả sắp từ điểm liên quan cao nhất xuống. Mỗi kết quả chỉ vị trí đầu vào gốc, cho ứng dụng gắn tiêu đề, mã bản ghi và nguồn riêng. Cài đặt top_k điều khiển số ứng viên xếp hạng trả về; thiếu nó thì trả tất cả. Giao diện REST của nhà sản xuất còn có thể trả văn bản tài liệu. Giữ mã gốc cùng kết quả chọn khi hiển thị trang tìm kiếm hoặc chuyển bằng chứng sang bước sinh câu trả lời.
Điểm liên quan thể hiện ứng viên khớp truy vấn thế nào; không xác lập phát biểu trong ứng viên đúng. So các mục đầu với câu hỏi thực của người dùng, gồm điều loại trừ và khác biệt phiên bản tài liệu. Nếu mọi ứng viên không liên quan, vẫn có mục xếp cao nhất. Quyết định cách ứng dụng xử lý trường hợp ấy bằng truy vấn đại diện của bộ tài liệu.
Nâng cấp và chọn phiên bản Nhà sản xuất mô tả rerank-3-lite nâng cấp từ rerank-2.5-lite, giữ ngữ nghĩa API và điểm hiệu chỉnh theo phân phối của bản tiền nhiệm tương ứng. Giữ ánh xạ bản ghi, giai đoạn truy xuất hiện có, rồi so thứ tự kết quả trên truy vấn có ý nghĩa trước khi dựa vào ngưỡng điểm cũ. Dùng Lite cho tìm kiếm coi trọng thời gian phản hồi; dùng bản rerank-3 tập trung chất lượng làm đối chiếu khi độ liên quan của ứng viên khó quan trọng hơn.
Ailoot Ultra · Xếp hạng lại POST /v1/rerank voyageai/rerank-3-lite
voyageai/rerank-3-liteBắt đầu
Voyage rerank-3-lite chấm điểm và sắp lại tài liệu văn bản ứng viên cho truy vấn, tập trung tìm kiếm phản hồi nhanh. Mô hình hỗ trợ chỉ dẫn độ liên quan và cửa sổ truy vấn–tài liệu 32,000 token, hữu ích sau truy xuất vector hoặc từ khóa trong tìm kiếm, RAG.
- Đầu vào được chấp nhận
- Văn bản
- Kết quả
- Kết quả đã xếp hạng
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Xếp hạng lại POST /v1/rerank
- Đầu vào
text- Đầu ra
rerank- Định dạng đầu ra
- json
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngdocuments | Loạiarray | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn voyageai/rerank-3-lite | Mặc định— |
Trườngprovider | Loạischema | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngquery | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngsession_id | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngtop_n | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườngtrace | Loạischema | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườnguser | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngdocuments[].text | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngdocuments[].image | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Tổ hợp tư liệu đầu vào
text_rerank · Bắt buộc: query, documents array with minItems1
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, query, documents |
Tham sốmaterial_types | Hợp đồngtext |
Tham sốoptional_controls | Hợp đồngprovider, session_id, top_n, trace, user |
Tham sốmultimodal_input_binding | Hợp đồngnull |
Vòng đời: synchronous
Gửi ID mô hình chính xác và giữ lại toàn bộ phản hồi gốc.
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Chưa chỉ định Khi chọn chế độ nhanh
- Chế độ Flex
- Chưa chỉ định Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Chưa chỉ định Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
Mức phí Ailoot
Giá theo cấu hình
Đối chiếu từng khoản phí với điều kiện hiển thị. Dùng một mức phí cho mỗi nhóm cấu hình thay thế.
| Cấu hình | Biểu mức phí | Đơn vị tính phí | Phí |
|---|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Đơn vị tính phí— | Phí Đầu vào · Token đầu vào — / 1K token Đầu ra · Token đầu ra — / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
| Cấu hìnhUltra | Biểu mức phí— | Đơn vị tính phí/ 1K token | Phí Đầu vào $0.00004 / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Xếp hạng lại
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "voyageai/rerank-3-lite",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='voyageai/rerank-3-lite'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Nhận và lưu kết quả
Ailoot Ultra · Xếp hạng lại
json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại mọi chỉ số kết quả thực tế, relevance_score hữu hạn và đối tượng tài liệu gốc. Các chỉ số liên kết với mảng tài liệu gốc. Toàn bộ JSON gốc chỉ được lưu và trả về sau khi quyết toán.
Nếu cần kiểm tra phản hồi gốc
Giữ nguyên thao tác ban đầu và phản hồi đầy đủ/một phần; không gửi lại POST.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngmodel | Loạistring |
Trườngid | Loạistring |
Trườngprovider | Loạistring |
Trườngresults[].index | Loạiinteger |
Trườngresults[].relevance_score | Loạinumber |
Trườngresults[].document.text | Loạistring |
Trườngresults[].document.image | Loạistring |
Trườngusage.search_units | Loạiinteger |
Trườngusage.total_tokens | Loạiinteger |
Trườngusage.cost | Loạinumber |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, biểu diễn hoặc giá trị không hợp lệ | Bước tiếp theoSửa trường yêu cầu được chỉ ra. |
Bí danh
Bí danh mô hình
Ailoot Ultra voyageai/rerank-3-lite
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · VoyageAI by MongoDB: rerank-3-lite
- Có những đầu vào và kết quả nào?
POST /v1/rerank·voyageai/rerank-3-lite:text→rerank- Yêu cầu sử dụng những trường nào?
POST /v1/rerank·voyageai/rerank-3-lite:documents,model,provider,query,session_id,top_n,trace,user- Áp dụng những giới hạn nào?
POST /v1/rerank·voyageai/rerank-3-lite:top_n.minimum:1