Sentence Transformers: multi-qa-mpnet-base-dot-v1
Sentence Transformers multi-qa-mpnet-base-dot-v1 mã hóa câu hỏi và đoạn văn thành vector 768 chiều cho tìm kiếm ngữ nghĩa. Mô hình dùng phép gộp CLS và embedding chưa chuẩn hóa, được thiết kế để chấm điểm bằng tích vô hướng, với giới hạn đầu vào 512 đơn vị word piece.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
multi-qa-mpnet-base-dot-v1 là mô hình Sentence Transformers được thiết kế để truy xuất đoạn văn cho câu hỏi hoặc truy vấn. Quá trình huấn luyện dùng khoảng 215 triệu cặp hỏi–đáp. Mỗi đầu vào trở thành vector dense 768 chiều; phép gộp CLS và chấm điểm bằng tích vô hướng xác định phiên bản cụ thể này.
Chuẩn bị câu hỏi và các đoạn ứng viên
Viết truy vấn thể hiện nhu cầu thông tin và chuẩn bị các mục trong kho thành những đoạn văn đọc được. Ví dụ, câu hỏi về đổi địa chỉ giao hàng có thể được so sánh với các đoạn riêng về đổi địa chỉ, hủy đơn và theo dõi giao hàng. Giữ các điều kiện liên quan trong đoạn đổi địa chỉ, gồm đơn hàng đã được gửi đi hay chưa.
Mã hóa truy vấn và các đoạn bằng cùng mô hình này. Ví dụ được công bố thực hiện trực tiếp, không có tiền tố query/document, rồi sắp xếp các đoạn theo điểm tích vô hướng. Giữ mỗi vector liên kết với đoạn gốc và định danh tài liệu để kết quả xếp hạng thể hiện tài liệu thực sự được lập chỉ mục.
Phép gộp CLS và phiên bản dùng tích vô hướng
Công thức tham chiếu của mô hình lấy biểu diễn token đầu tiên, gọi là phép gộp CLS. Bảng kỹ thuật nêu rõ các embedding không được chuẩn hóa và liệt kê tích vô hướng là hàm chấm điểm phù hợp. Giữ công thức đó khi thiết lập bộ sưu tập và phía truy vấn.
Chuẩn hóa L2 những vector này làm thay đổi hình học của phép chấm điểm. Hồ sơ all-mpnet-base-v2 đã chuẩn hóa dùng công thức khác và là checkpoint riêng, dù cùng họ MPNet và đầu ra 768 thành phần. Giữ phiên bản cụ thể và hàm so sánh cùng bộ sưu tập lưu trữ thay vì chọn chỉ dựa trên độ dài vector.
Giới hạn độ dài và đoạn dài hơn
Giới hạn đầu vào được nêu là 512 đơn vị word piece; văn bản dài hơn bị cắt. Nhà sản xuất còn lưu ý đầu vào huấn luyện chỉ dài đến 250 đơn vị word piece và văn bản dài hơn có thể hoạt động kém hơn. Vì vậy, độ dài tokenizer chấp nhận và lưu ý về độ dài huấn luyện mô tả hai ranh giới thực tế khác nhau.
Với bài trợ giúp lớn, chuẩn bị những phần ngắn trả lời câu hỏi cụ thể. Giữ tiêu đề khi nó xác định chủ đề và giữ quy tắc cùng ngoại lệ cần để hiểu đúng. Đầu vào toàn trang có thể mất nội dung phía sau do bị cắt, còn mảnh quá nhỏ có thể mất điều kiện làm nó hữu ích.
Dùng thứ hạng trong truy xuất và RAG
Các vector dense hỗ trợ giai đoạn truy xuất đầu tiên. Trả về các đoạn ứng viên có điểm cao nhất cùng tham chiếu nguồn, rồi kiểm tra chúng có giải quyết câu hỏi thực tế không. Trong quy trình RAG, cung cấp những đoạn đó cho giai đoạn viết câu trả lời làm tài liệu nguồn; bản thân truy xuất không soạn câu trả lời.
Dùng câu hỏi đại diện cùng các đoạn liên quan đã biết để chọn số kết quả và đánh giá thứ hạng. Bao gồm ví dụ có từ vựng giống nhưng ý định khác, như sửa địa chỉ so với xem địa chỉ hiện tại. Diễn giải điểm tương đối giữa các ứng viên dưới cùng mô hình và thiết lập chấm điểm, thay vì coi đó là xác suất đúng đã hiệu chỉnh.
Đầu ra hữu ích của checkpoint này là không gian embedding câu hỏi và đoạn văn cho tìm kiếm ngữ nghĩa. Vector chưa chuẩn hóa, phép gộp CLS, điểm tích vô hướng và lưu ý đầu vào dài được công bố là các chi tiết cần giữ khi chuẩn bị và sử dụng kết quả.
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings sentence-transformers/multi-qa-mpnet-base-dot-v1
sentence-transformers/multi-qa-mpnet-base-dot-v1
sentence-transformers/multi-qa-mpnet-base-dot-v1Bắt đầu
Sentence Transformers multi-qa-mpnet-base-dot-v1 mã hóa câu hỏi và đoạn văn thành vector 768 chiều cho tìm kiếm ngữ nghĩa. Mô hình dùng phép gộp CLS và embedding chưa chuẩn hóa, được thiết kế để chấm điểm bằng tích vô hướng, với giới hạn đầu vào 512 đơn vị word piece.
- Đầu vào được chấp nhận
- Văn bản · token_ids
- Kết quả
- embedding
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings
- Đầu vào
text,token_ids- Đầu ra
embedding- Định dạng đầu ra
- json
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn sentence-transformers/multi-qa-mpnet-base-dot-v1 | Mặc định— |
Trườnginput | Loạistring|string[]|integer[]|integer[][] | Yêu cầuBắt buộc | Giá trị & giới hạn Số mục tối thiểu: 1 Điều kiện: Lô không rỗng và đồng nhất. ID token là số nguyên không âm. Ngân sách đầu vào: Tối đa: 512 · Đơn vị văn bản: byte UTF8 · Đơn vị token: phần tử của mảng token | Mặc định— |
Trườngencoding_format | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn float | Mặc địnhfloat |
Trườngdimensions | Loạiinteger | Yêu cầuKhông hỗ trợ | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườnguser | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngsession_id | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngtrace | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngprovider | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: provider.options bị từ chối | Mặc định— |
Tổ hợp tư liệu đầu vào
text_to_embedding
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, input |
Tham sốinput_shapes | Hợp đồngstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Tham sốencoding_format | Hợp đồngfloat |
Tham sốdimensions_override | Hợp đồngfalse |
Tham sốmax_input_budget_units | Hợp đồng512 |
Tham sốmultimodal_objects | Hợp đồngfalse |
Tham sốmaterial_types | Hợp đồngtext, token_ids |
Vòng đời: synchronous_json
Giữ lại chỉ mục và số chiều của mọi vector.
Việc mô hình mang tên đa phương thức không có nghĩa là đường dẫn cụ thể này chấp nhận đối tượng ảnh.
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Chưa chỉ định Khi chọn chế độ nhanh
- Chế độ Flex
- Chưa chỉ định Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Chưa chỉ định Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
Mức phí Ailoot
Giá theo cấu hình
| Cấu hình | Biểu mức phí | Phí |
|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Phí Đầu vào · Token đầu vào $0.00001 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Biểu diễn nhúng
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "sentence-transformers/multi-qa-mpnet-base-dot-v1", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='sentence-transformers/multi-qa-mpnet-base-dot-v1',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Nhận và lưu kết quả
Ailoot Ultra · Biểu diễn nhúng
json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại mọi vector kèm chỉ mục của nó. Số lượng vector phải bằng số lượng đầu vào; số chiều phải nhất quán.
Nếu cần kiểm tra phản hồi gốc
Không có điểm cuối tác vụ embedding nào được bổ sung.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngobject | Loạistring |
Trườngmodel | Loạistring |
Trườngdata[].index | Loạiinteger |
Trườngdata[].embedding | Loạifinite float[] |
Trườngusage | Loạiobject |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, cách biểu diễn tài liệu hoặc giá trị tham số không hợp lệ | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi yêu cầu tạo mới. |
Bí danh
Bí danh mô hình
Ailoot Ultra sentence-transformers/multi-qa-mpnet-base-dot-v1
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · Sentence Transformers: multi-qa-mpnet-base-dot-v1
- Có những đầu vào và kết quả nào?
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:text,token_ids→embedding- Yêu cầu sử dụng những trường nào?
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:model,input,encoding_format,provider- Áp dụng những giới hạn nào?
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:input.budget.maximum:512(byte UTF8);input.min_items:1