Sentence Transformers: all-mpnet-base-v2
Sentence Transformers all-mpnet-base-v2 chuyển câu và đoạn ngắn thành vector 768 chiều cho truy xuất, phân cụm và độ tương đồng. Công thức được công bố dùng phép gộp trung bình và chuẩn hóa L2, với cắt mặc định ở 384 đơn vị word piece.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
all-mpnet-base-v2 là mô hình Sentence Transformers biểu diễn câu và đoạn ngắn thành vector dense 768 chiều. Mô hình được tinh chỉnh từ mô hình MPNet base bằng học tương phản trên bộ sưu tập một tỷ cặp câu. Nhà sản xuất xác định truy xuất thông tin, phân cụm và độ tương đồng câu là các mục đích sử dụng.
Mã hóa câu hoặc đoạn ngắn
Chuẩn bị văn bản cần so sánh, giữ ý chính và chi tiết phân biệt. Với bộ sưu tập tài liệu nội bộ, phần ngắn có thể mô tả cách yêu cầu thay thiết bị hoặc thông tin bắt buộc trong báo cáo bảo trì. Giữ tiêu đề tài liệu và vị trí nguồn sẵn có bên cạnh vector.
Truy vấn được tạo embedding bằng cùng mô hình có thể truy xuất các phần liên quan dù diễn đạt khác nhau. Kiểm tra những phần đó để tìm chỉ dẫn thực tế người đọc cần. Với quy trình tương đồng, so sánh chính các câu ứng viên sau truy xuất, đặc biệt khi một câu có ngoại lệ hoặc điều kiện mà câu kia không có.
Phép gộp trung bình và chuẩn hóa
Ví dụ mã hóa tham chiếu lấy trung bình các biểu diễn token theo ngữ cảnh bằng mặt nạ chú ý, loại phần đệm khỏi giá trị trung bình. Sau đó chuẩn hóa L2 các embedding câu kết quả. Giữ cả hai bước khi tạo vector cho bộ sưu tập và các truy vấn sau.
Mỗi vector có 768 thành phần. Độ tương đồng cosine có thể so sánh các biểu diễn đã chuẩn hóa đó, còn văn bản nguồn cung cấp bằng chứng phía sau kết quả. Cùng số thành phần không làm mô hình này tương thích với multi-qa-mpnet-base-dot-v1: phiên bản riêng đó quy định phép gộp CLS và vector chưa chuẩn hóa để chấm điểm bằng tích vô hướng.
Cắt mặc định và chuẩn bị đoạn
Nhà sản xuất cho biết đầu vào quá 384 đơn vị word piece mặc định bị cắt. Giữ phần liên quan trong ranh giới tokenizer đó. Với quy trình dài, chia theo ranh giới phần có ý nghĩa và thêm đủ ngữ cảnh cục bộ để giải thích bước đó áp dụng cho điều gì. Mảnh như “Submit within five days” cần sự kiện hoặc quy trình bắt đầu thời hạn.
Quy trình huấn luyện giới hạn chuỗi ở 128 token, khác với mặc định mã hóa 384 đơn vị word piece được công bố. Dùng tài liệu đại diện khi đánh giá đoạn dài hơn hoặc từ vựng riêng của bộ sưu tập. Nhiều văn bản hơn vừa đầu vào không chứng minh rằng mọi chi tiết sẽ tác động ngang nhau đến kết quả truy xuất.
Truy xuất, nhóm và so sánh
Với tìm kiếm, giữ liên kết vector với tài liệu để các ứng viên được xếp hạng có thể trả về những phần gốc. Trong quy trình RAG, phần được chọn trở thành ngữ cảnh cho giai đoạn viết câu trả lời. Mô hình cung cấp biểu diễn số; nó không sinh phản hồi có dẫn nguồn hoặc quyết định tài liệu nào có thẩm quyền.
Với phân cụm, so sánh bản ghi trong từng nhóm đề xuất trước khi gán nhãn. Tập ghi chú bảo trì có thể dùng ngôn ngữ tương tự nhưng nói về thiết bị hoặc điều kiện hỏng khác nhau. Đưa các chi tiết phân biệt đó vào văn bản được mã hóa và kiểm tra chúng trong tài liệu trả về thay vì chỉ dựa vào điểm.
Checkpoint all-mpnet-base-v2 cụ thể này là hồ sơ embedding câu tiếng Anh với thiết lập gộp trung bình, chuẩn hóa và cắt mặc định riêng. Lưu những thiết lập đó cùng bộ sưu tập đã lập chỉ mục và dùng vector để hỗ trợ tìm, so sánh các đoạn nguồn quan trọng với nhiệm vụ.
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings sentence-transformers/all-mpnet-base-v2
sentence-transformers/all-mpnet-base-v2
sentence-transformers/all-mpnet-base-v2Bắt đầu
Sentence Transformers all-mpnet-base-v2 chuyển câu và đoạn ngắn thành vector 768 chiều cho truy xuất, phân cụm và độ tương đồng. Công thức được công bố dùng phép gộp trung bình và chuẩn hóa L2, với cắt mặc định ở 384 đơn vị word piece.
- Đầu vào được chấp nhận
- Văn bản · token_ids
- Kết quả
- embedding
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings
- Đầu vào
text,token_ids- Đầu ra
embedding- Định dạng đầu ra
- json
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn sentence-transformers/all-mpnet-base-v2 | Mặc định— |
Trườnginput | Loạistring|string[]|integer[]|integer[][] | Yêu cầuBắt buộc | Giá trị & giới hạn Số mục tối thiểu: 1 Điều kiện: Lô không rỗng và đồng nhất. ID token là số nguyên không âm. Ngân sách đầu vào: Tối đa: 512 · Đơn vị văn bản: byte UTF8 · Đơn vị token: phần tử của mảng token | Mặc định— |
Trườngencoding_format | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn float | Mặc địnhfloat |
Trườngdimensions | Loạiinteger | Yêu cầuKhông hỗ trợ | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườnguser | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngsession_id | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngtrace | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngprovider | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: provider.options bị từ chối | Mặc định— |
Tổ hợp tư liệu đầu vào
text_to_embedding
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, input |
Tham sốinput_shapes | Hợp đồngstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Tham sốencoding_format | Hợp đồngfloat |
Tham sốdimensions_override | Hợp đồngfalse |
Tham sốmax_input_budget_units | Hợp đồng512 |
Tham sốmultimodal_objects | Hợp đồngfalse |
Tham sốmaterial_types | Hợp đồngtext, token_ids |
Vòng đời: synchronous_json
Giữ lại chỉ mục và số chiều của mọi vector.
Việc mô hình mang tên đa phương thức không có nghĩa là đường dẫn cụ thể này chấp nhận đối tượng ảnh.
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Chưa chỉ định Khi chọn chế độ nhanh
- Chế độ Flex
- Chưa chỉ định Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Chưa chỉ định Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
Mức phí Ailoot
Giá theo cấu hình
| Cấu hình | Biểu mức phí | Phí |
|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Phí Đầu vào · Token đầu vào $0.00001 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Biểu diễn nhúng
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "sentence-transformers/all-mpnet-base-v2", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='sentence-transformers/all-mpnet-base-v2',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Nhận và lưu kết quả
Ailoot Ultra · Biểu diễn nhúng
json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại mọi vector kèm chỉ mục của nó. Số lượng vector phải bằng số lượng đầu vào; số chiều phải nhất quán.
Nếu cần kiểm tra phản hồi gốc
Không có điểm cuối tác vụ embedding nào được bổ sung.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngobject | Loạistring |
Trườngmodel | Loạistring |
Trườngdata[].index | Loạiinteger |
Trườngdata[].embedding | Loạifinite float[] |
Trườngusage | Loạiobject |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, cách biểu diễn tài liệu hoặc giá trị tham số không hợp lệ | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi yêu cầu tạo mới. |
Bí danh
Bí danh mô hình
Ailoot Ultra sentence-transformers/all-mpnet-base-v2
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · Sentence Transformers: all-mpnet-base-v2
- Có những đầu vào và kết quả nào?
POST /v1/embeddings·sentence-transformers/all-mpnet-base-v2:text,token_ids→embedding- Yêu cầu sử dụng những trường nào?
POST /v1/embeddings·sentence-transformers/all-mpnet-base-v2:model,input,encoding_format,provider- Áp dụng những giới hạn nào?
POST /v1/embeddings·sentence-transformers/all-mpnet-base-v2:input.budget.maximum:512(byte UTF8);input.min_items:1