Cohere: Rerank v3.5
Cohere Rerank 3.5 sắp xếp lại các văn bản ứng viên và bản ghi bán cấu trúc theo mức độ liên quan đến truy vấn. Mô hình hỗ trợ hơn 100 ngôn ngữ và ngữ cảnh 4.096 token để tinh chỉnh kết quả tìm kiếm theo từ khóa hoặc ngữ nghĩa trước khi tạo câu trả lời hay hiển thị kết quả tìm kiếm.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
Cohere Rerank 3.5 là mô hình đa ngôn ngữ dùng để xếp hạng mức độ liên quan của tài liệu ứng viên và văn bản bán cấu trúc. Mô hình đánh giá từng ứng viên trong mối quan hệ với truy vấn, rồi trả về danh sách kết quả đã sắp xếp lại kèm điểm liên quan. Mô hình có thể tinh chỉnh tập ứng viên tìm được bằng từ khóa hoặc ngữ nghĩa và chọn đoạn trích cho câu trả lời có tăng cường truy xuất. Nhiệm vụ của nó là cải thiện thứ tự bằng chứng, thay vì tạo câu trả lời tự do hoặc lập chỉ mục mới cho kho văn bản.
Mã định danh chính xác của nhà phát triển là rerank-v3.5. Mô hình dùng ngữ cảnh 4.096 token, khác với ngữ cảnh 32K của Rerank 4 Pro và Fast. Token của truy vấn và tài liệu cùng được tính vào cửa sổ cho từng ứng viên đó. Hướng dẫn chuẩn bị riêng cho mô hình cắt truy vấn sau 2.048 token đầu tiên và mô tả các đoạn tài liệu dài 4.093 token trước khi tính đến truy vấn. Giữ truy vấn tập trung và chuẩn bị các đoạn ứng viên chứa thông tin cần thiết để đánh giá mối quan hệ được yêu cầu.
Cung cấp truy vấn cùng danh sách các chuỗi văn bản ứng viên. Mỗi kết quả có một chỉ số trỏ đến vị trí ban đầu của tài liệu và một điểm liên quan; top_n chọn số kết quả đã xếp hạng cần giữ lại. Khi không có tham số này, quy trình được nhà phát triển mô tả trả về mọi kết quả. Giữ mã định danh tài liệu độc lập với điểm số để vẫn có thể truy ngược đoạn đứng đầu về chính sách, bản ghi sản phẩm hoặc tin nhắn gốc.
Rerank 3.5 hỗ trợ hơn 100 ngôn ngữ, bao gồm nội dung tiếng Anh và các ngôn ngữ khác. Truy vấn có thể chứa nhiều khía cạnh của nhu cầu, như sản phẩm, tình huống của người dùng và quy trình mong muốn. Với bản ghi có cấu trúc, bản V2 đã bỏ đối tượng tài liệu thô và khuyến nghị dùng chuỗi YAML. Sắp xếp có chủ đích các trường hữu ích, đặt nội dung mang tính quyết định trước siêu dữ liệu ít liên quan hơn, vì chuỗi dài có thể bị cắt. Cách này áp dụng cho tiêu đề và nội dung, thuộc tính sản phẩm hoặc tiêu đề và thân tin nhắn.
Tài liệu tham chiếu V2 của nhà phát triển dùng max_tokens_per_doc để cắt tài liệu, với giá trị mặc định là 4096. Hướng dẫn chuẩn bị của Cohere còn mô tả việc chia tài liệu dài thành đoạn; đầu vào thực tế phụ thuộc vào quy trình đã chọn và các thiết lập tài liệu của quy trình đó. Để kiểm soát tốt hơn, hãy tự chuẩn bị các đoạn có thể nhận diện, thay vì giả định mọi phần của nguồn dài đều còn hiển thị. Giữ đủ ngữ cảnh xung quanh để phân biệt đoạn chứa câu trả lời với đoạn chỉ dùng chung từ vựng.
Về hiệu năng yêu cầu, tài liệu tham chiếu hiện tại khuyến nghị không gửi quá 1.000 tài liệu cùng lúc. Điểm liên quan được chuẩn hóa từ 0 đến 1, nhưng giá trị phụ thuộc vào truy vấn và các ứng viên, không phải thang đo tuyến tính về độ đúng. Dùng thứ hạng để xác định bằng chứng hữu ích. Nếu cần ngưỡng điểm, chọn các truy vấn tiêu biểu của lĩnh vực và những đoạn nằm sát ranh giới liên quan để ngưỡng phản ánh đúng tác vụ truy xuất thực tế.
Một quy trình hỗ trợ thực tế có thể xếp hạng lại các mục ứng viên trong chính sách đổi trả cho câu hỏi về hàng bị hỏng, rồi chuyển văn bản nguồn đã chọn sang bước viết câu trả lời. Tìm kiếm email có thể xếp hạng thư theo một vấn đề cụ thể và giữ mã thư gốc cùng từng kết quả. Sản phẩm hữu ích là danh sách bằng chứng theo thứ tự. Giữ thông tin về ngữ cảnh ngắn hơn của Rerank 3.5 và cách chuẩn bị tài liệu V2 gắn với kết quả đó, thay vì thay bằng giới hạn của mô hình đời sau.
Ailoot Ultra · Xếp hạng lại POST /v1/rerank cohere/rerank-v3.5
cohere/rerank-v3.5Bắt đầu
Cohere Rerank 3.5 sắp xếp lại các văn bản ứng viên và bản ghi bán cấu trúc theo mức độ liên quan đến truy vấn. Mô hình hỗ trợ hơn 100 ngôn ngữ và ngữ cảnh 4.096 token để tinh chỉnh kết quả tìm kiếm theo từ khóa hoặc ngữ nghĩa trước khi tạo câu trả lời hay hiển thị kết quả tìm kiếm.
- Đầu vào được chấp nhận
- Văn bản
- Kết quả
- Kết quả đã xếp hạng
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Xếp hạng lại POST /v1/rerank
- Đầu vào
text- Đầu ra
rerank- Định dạng đầu ra
- json
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngdocuments | Loạiarray | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn cohere/rerank-v3.5 | Mặc định— |
Trườngprovider | Loạischema | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngquery | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngsession_id | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngtop_n | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườngtrace | Loạischema | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườnguser | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngdocuments[].text | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngdocuments[].image | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Tổ hợp tư liệu đầu vào
text_rerank · Bắt buộc: query, documents array with minItems1
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, query, documents |
Tham sốmaterial_types | Hợp đồngtext |
Tham sốoptional_controls | Hợp đồngprovider, session_id, top_n, trace, user |
Tham sốmultimodal_input_binding | Hợp đồngnull |
Vòng đời: synchronous
Gửi ID mô hình chính xác và giữ lại toàn bộ phản hồi gốc.
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Chưa chỉ định Khi chọn chế độ nhanh
- Chế độ Flex
- Chưa chỉ định Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Chưa chỉ định Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
Mức phí Ailoot
Giá theo cấu hình
Đối chiếu từng khoản phí với điều kiện hiển thị. Dùng một mức phí cho mỗi nhóm cấu hình thay thế.
| Cấu hình | Biểu mức phí | Đơn vị tính phí | Phí |
|---|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Đơn vị tính phí— | Phí Đầu vào · Token đầu vào — / 1K token Đầu ra · Token đầu ra — / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
| Cấu hìnhUltra | Biểu mức phí— | Đơn vị tính phímỗi đơn vị tìm kiếm | Phí total · Đơn vị tìm kiếm $0.002 mỗi đơn vị tìm kiếm |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Xếp hạng lại
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "cohere/rerank-v3.5",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='cohere/rerank-v3.5'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Nhận và lưu kết quả
Ailoot Ultra · Xếp hạng lại
json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại mọi chỉ số kết quả thực tế, relevance_score hữu hạn và đối tượng tài liệu gốc. Các chỉ số liên kết với mảng tài liệu gốc. Toàn bộ JSON gốc chỉ được lưu và trả về sau khi quyết toán.
Nếu cần kiểm tra phản hồi gốc
Giữ nguyên thao tác ban đầu và phản hồi đầy đủ/một phần; không gửi lại POST.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngmodel | Loạistring |
Trườngid | Loạistring |
Trườngprovider | Loạistring |
Trườngresults[].index | Loạiinteger |
Trườngresults[].relevance_score | Loạinumber |
Trườngresults[].document.text | Loạistring |
Trườngresults[].document.image | Loạistring |
Trườngusage.search_units | Loạiinteger |
Trườngusage.total_tokens | Loạiinteger |
Trườngusage.cost | Loạinumber |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, biểu diễn hoặc giá trị không hợp lệ | Bước tiếp theoSửa trường yêu cầu được chỉ ra. |
Bí danh
Bí danh mô hình
Ailoot Ultra cohere/rerank-v3.5
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · Cohere: Rerank v3.5
- Có những đầu vào và kết quả nào?
POST /v1/rerank·cohere/rerank-v3.5:text→rerank- Yêu cầu sử dụng những trường nào?
POST /v1/rerank·cohere/rerank-v3.5:documents,model,provider,query,session_id,top_n,trace,user- Áp dụng những giới hạn nào?
POST /v1/rerank·cohere/rerank-v3.5:top_n.minimum:1