VoyageAI by MongoDB: rerank-3
Voyage rerank-3 là bản Rerank 3 tập trung chất lượng để chấm độ liên quan truy vấn–tài liệu. Mô hình sắp lại ứng viên văn bản đã truy xuất, hỗ trợ chỉ dẫn liên quan bằng ngôn ngữ tự nhiên, xử lý cặp 32,000 token cho tìm tài liệu dài, mã và cơ sở tri thức.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
Voyage rerank-3 là bộ xếp hạng lại văn bản nhằm cải thiện chất lượng bằng chứng truy xuất. Với truy vấn và danh sách tài liệu ứng viên, mô hình xem đồng thời từng cặp, trả ứng viên theo độ liên quan. Embedding và tìm từ khóa có thể thu hẹp bộ lớn thành danh sách ngắn dễ xử lý; rerank-3 đánh giá độ liên quan chi tiết hơn trên danh sách đó. Đầu ra là bằng chứng tìm kiếm có điểm để ứng dụng hiển thị hoặc đưa sang bước sinh câu trả lời riêng.
Rerank 3 tập trung chất lượng Nhà sản xuất định vị rerank-3 tập trung chính xác, rerank-3-lite dành cho tìm kiếm nhạy độ trễ. Thế hệ ba cập nhật nền và hỗn hợp huấn luyện, cải thiện đặc biệt truy xuất tài liệu dài, mã nguồn so với bản 2.5 tương ứng. Hãng đánh giá trên tài liệu kỹ thuật, mã, nội dung đa ngôn ngữ và miền tài liệu khác. Kết quả hỗ trợ vai trò truy xuất; chọn phiên bản bằng câu hỏi, ứng viên quan trọng cho bộ tài liệu của bạn.
Tài liệu dài với đủ ngữ cảnh Ứng viên dài có thể chứa bối cảnh hữu ích xa sau đoạn mở. Cung cấp phần hoặc tài liệu mạch lạc cùng tiêu đề, tài liệu xung quanh liên quan để mô hình đánh giá quan hệ câu hỏi thực với nội dung. Với tìm chính sách sản phẩm, giữ đề mục và ngoại lệ quanh đoạn quan tâm. Nếu nhiều phần truy xuất cùng nguồn, giữ mã tài liệu, phần; ứng dụng có thể cho biết bằng chứng chọn bắt nguồn ở đâu.
Cửa sổ ngữ cảnh dùng chung cho truy vấn và từng ứng viên. Hướng dẫn hiện tại quy định 32,000 token cho cặp đó, gồm truy vấn tối đa 8,000 token. Vì thế truy vấn 3,000 token để lại tối đa 29,000 token mỗi tài liệu. Chuẩn bị đầu vào để nội dung thiết yếu vừa chỗ, nhất là khi lời mở dài hoặc khuôn mẫu lặp có thể chiếm cửa sổ. Tùy chọn cắt ngắn mặc định bật, có thể rút truy vấn hoặc tài liệu quá lớn trước chấm điểm. Kiểm tra phần được giữ khi vị trí đoạn quan trọng.
Truy xuất mã và kỹ thuật Với giai đoạn truy xuất của trợ lý lập trình, ứng viên có thể chứa triển khai hàm, tài liệu API hoặc giải thích kỹ thuật dạng văn bản. Đưa ký hiệu, chữ ký và bối cảnh cần để phân biệt ứng viên giống nhau. Truy vấn như “Tìm hàm chuẩn hóa đường dẫn nhưng giữ dấu phân cách cuối” nêu hành vi cụ thể cần khớp. Gắn ràng buộc ngôn ngữ, nền tảng hoặc phiên bản liên quan. Sau xếp hạng, xem mã chọn và phụ thuộc trước khi dùng làm ngữ cảnh; điểm liên quan không chứng minh triển khai đáp ứng mọi yêu cầu.
Chỉ dẫn xác định độ liên quan Mô hình giữ khả năng xếp hạng lại theo chỉ dẫn có từ Rerank 2.5. Thêm chỉ dẫn ngắn trước hoặc sau truy vấn khi ý định người dùng cần làm rõ. Với tìm tài liệu nghiên cứu, giải thích trọng tâm là tiêu đề, phương pháp cụ thể hay miền ứng dụng. Với danh mục nội bộ, nêu yêu cầu về cài đặt, xử lý sự cố hay tương thích. Giữ chỉ dẫn khớp câu hỏi; ưu tiên bổ sung xung đột yêu cầu chính có thể đổi điều bảng xếp hạng tối ưu.
Chuẩn bị tài liệu ứng viên và ngân sách Đầu vào là danh sách chuỗi văn bản. Trích văn bản dùng được từ nguồn, giữ ranh giới phần có ý nghĩa và ánh xạ bản ghi theo thứ tự cạnh danh sách. Nhà sản xuất cho tối đa 1,000 tài liệu mỗi yêu cầu. Hãng còn quy định trần tổng đầu vào 600,000 token: token truy vấn nhân số tài liệu cộng tổng token mọi tài liệu. Khác giới hạn ngữ cảnh mỗi cặp. Giảm truy vấn dư có thể giữ cả dung lượng cặp lẫn ngân sách tổng.
Đếm token theo mô hình liên quan, không giả định số từ hoặc ký tự là số token. Với ứng viên lớn, chọn đoạn mạch lạc hoặc chia theo đề mục hữu ích, giữ thông tin nguồn mẹ. Xếp hạng lại hữu ích nhất sau khi tìm kiếm đầu đã đưa lên ứng viên hợp lý: không thể xếp nguồn thiếu chưa vào danh sách.
Kết quả xếp hạng và dùng hạ nguồn Kết quả chứa điểm liên quan và chỉ số tham chiếu tài liệu đầu vào gốc, sắp độ liên quan giảm dần. Tùy chọn top_k giới hạn số kết quả xếp hạng trả; nếu thiếu, trả mọi ứng viên đầu vào. Giao diện REST còn cho kèm văn bản tài liệu. Dùng chỉ số gốc để lấy tiêu đề, mã định danh nguồn và metadata ứng dụng cần, rồi hiển thị mục chọn hoặc đưa văn bản liên quan vào ngữ cảnh bằng chứng của câu trả lời.
Đối chiếu kết quả đầu với câu hỏi, giữ danh tính nguồn rõ. Thứ hạng tương đối cao không xác minh độ đúng thực tế của tài liệu, và danh sách chỉ gồm ứng viên kém vẫn có mục đầu. Tách chọn độ liên quan khỏi quyết định bằng chứng chọn có đủ trả lời người dùng không.
Chuyển phiên bản Nhà sản xuất mô tả rerank-3 là bản kế nhiệm thay trực tiếp rerank-2.5, cùng ngữ nghĩa API, điểm hiệu chỉnh theo phân phối bản tiền nhiệm tương ứng. Tương thích đó hỗ trợ giữ giai đoạn truy xuất và ánh xạ bản ghi hiện có. So thứ tự kết quả có ý nghĩa và mọi ngưỡng điểm trên tập tài liệu hiện tại trước khi tin việc chuyển đổi. Giữ rerank-3, rerank-3-lite là lựa chọn riêng: giới hạn, tuân thủ chỉ dẫn chung không khiến ưu tiên chất lượng, độ trễ giống nhau.
Ailoot Ultra · Xếp hạng lại POST /v1/rerank voyageai/rerank-3
voyageai/rerank-3Bắt đầu
Voyage rerank-3 là bản Rerank 3 tập trung chất lượng để chấm độ liên quan truy vấn–tài liệu. Mô hình sắp lại ứng viên văn bản đã truy xuất, hỗ trợ chỉ dẫn liên quan bằng ngôn ngữ tự nhiên, xử lý cặp 32,000 token cho tìm tài liệu dài, mã và cơ sở tri thức.
- Đầu vào được chấp nhận
- Văn bản
- Kết quả
- Kết quả đã xếp hạng
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Xếp hạng lại POST /v1/rerank
- Đầu vào
text- Đầu ra
rerank- Định dạng đầu ra
- json
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngdocuments | Loạiarray | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn voyageai/rerank-3 | Mặc định— |
Trườngprovider | Loạischema | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngquery | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngsession_id | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngtop_n | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườngtrace | Loạischema | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườnguser | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngdocuments[].text | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngdocuments[].image | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Tổ hợp tư liệu đầu vào
text_rerank · Bắt buộc: query, documents array with minItems1
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, query, documents |
Tham sốmaterial_types | Hợp đồngtext |
Tham sốoptional_controls | Hợp đồngprovider, session_id, top_n, trace, user |
Tham sốmultimodal_input_binding | Hợp đồngnull |
Vòng đời: synchronous
Gửi ID mô hình chính xác và giữ lại toàn bộ phản hồi gốc.
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Chưa chỉ định Khi chọn chế độ nhanh
- Chế độ Flex
- Chưa chỉ định Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Chưa chỉ định Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
Mức phí Ailoot
Giá theo cấu hình
Đối chiếu từng khoản phí với điều kiện hiển thị. Dùng một mức phí cho mỗi nhóm cấu hình thay thế.
| Cấu hình | Biểu mức phí | Đơn vị tính phí | Phí |
|---|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Đơn vị tính phí— | Phí Đầu vào · Token đầu vào — / 1K token Đầu ra · Token đầu ra — / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
| Cấu hìnhUltra | Biểu mức phí— | Đơn vị tính phí/ 1K token | Phí Đầu vào $0.0001 / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Xếp hạng lại
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "voyageai/rerank-3",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='voyageai/rerank-3'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Nhận và lưu kết quả
Ailoot Ultra · Xếp hạng lại
json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại mọi chỉ số kết quả thực tế, relevance_score hữu hạn và đối tượng tài liệu gốc. Các chỉ số liên kết với mảng tài liệu gốc. Toàn bộ JSON gốc chỉ được lưu và trả về sau khi quyết toán.
Nếu cần kiểm tra phản hồi gốc
Giữ nguyên thao tác ban đầu và phản hồi đầy đủ/một phần; không gửi lại POST.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngmodel | Loạistring |
Trườngid | Loạistring |
Trườngprovider | Loạistring |
Trườngresults[].index | Loạiinteger |
Trườngresults[].relevance_score | Loạinumber |
Trườngresults[].document.text | Loạistring |
Trườngresults[].document.image | Loạistring |
Trườngusage.search_units | Loạiinteger |
Trườngusage.total_tokens | Loạiinteger |
Trườngusage.cost | Loạinumber |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, biểu diễn hoặc giá trị không hợp lệ | Bước tiếp theoSửa trường yêu cầu được chỉ ra. |
Bí danh
Bí danh mô hình
Ailoot Ultra voyageai/rerank-3
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · VoyageAI by MongoDB: rerank-3
- Có những đầu vào và kết quả nào?
POST /v1/rerank·voyageai/rerank-3:text→rerank- Yêu cầu sử dụng những trường nào?
POST /v1/rerank·voyageai/rerank-3:documents,model,provider,query,session_id,top_n,trace,user- Áp dụng những giới hạn nào?
POST /v1/rerank·voyageai/rerank-3:top_n.minimum:1