Sentence Transformers: all-MiniLM-L12-v2
Sentence Transformers all-MiniLM-L12-v2 mã hóa câu và đoạn ngắn thành vector 384 chiều cho tìm kiếm, độ tương đồng và phân cụm. Công thức tham chiếu dùng phép gộp trung bình và chuẩn hóa, với cắt mặc định ở 256 đơn vị word piece.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
all-MiniLM-L12-v2 là bộ mã hóa Sentence Transformers cho câu và đoạn ngắn. Mô hình tạo một vector dense 384 chiều cho mỗi văn bản để tìm kiếm ngữ nghĩa, truy xuất thông tin, phân cụm và so sánh độ tương đồng câu. Mô hình dùng kiến trúc nền MiniLM-L12-H384-uncased và được tinh chỉnh bằng học tương phản trên bộ sưu tập một tỷ cặp câu.
Mã hóa đơn vị muốn truy xuất
Dùng câu hoặc đoạn ngắn thể hiện một ý hữu ích. Với bộ sưu tập mô tả sản phẩm, giữ đặc điểm và điều kiện phân biệt mặt hàng: “The adapter connects a wired headset to a USB-C port” cung cấp nhiều thông tin hơn “Audio accessory.” Lưu định danh bản ghi và mô tả gốc bên cạnh vector.
Sau đó có thể so sánh truy vấn tìm kiếm với các mô tả đã mã hóa. Kiểm tra ứng viên trả về theo yêu cầu chính xác như loại đầu nối hoặc khả năng tương thích thiết bị trước khi đưa ra lựa chọn cuối cùng. Vector biểu diễn ý nghĩa văn bản; ứng dụng tìm kiếm bao quanh truy xuất các bản ghi tương ứng.
Phép gộp trung bình và vector chuẩn hóa
Ví dụ mã hóa được công bố lấy trung bình biểu diễn token với mặt nạ chú ý để các vị trí đệm không góp vào giá trị trung bình. Sau đó áp dụng chuẩn hóa L2. Những bước đó thuộc công thức tham chiếu để lấy vector câu, không phải chỉ dẫn lấy tùy ý một token từ transformer nền.
Giữ cấu hình mô hình, phép gộp và chuẩn hóa nhất quán giữa văn bản đã lập chỉ mục và truy vấn mới. Các biểu diễn 384 thành phần kết quả có thể được so sánh bằng độ tương đồng cosine. Lưu cấu hình đó cùng bộ sưu tập; bộ mã hóa 384 chiều khác không trở nên tương thích chỉ vì vector có cùng độ dài.
Độ dài đầu vào mặc định và phạm vi huấn luyện
Nhà sản xuất quy định mặc định cắt phần quá 256 đơn vị word piece. Đây là giới hạn tokenizer, không phải số từ thông thường hoặc ký tự. Với bản ghi dài hơn, chọn các phần ngắn mạch lạc và giữ tiêu đề hoặc chi tiết nhận dạng cần để diễn giải từng phần.
Quy trình huấn luyện của mô hình dùng chuỗi đến 128 token. Thiết lập huấn luyện đó khác với mặc định 256 đơn vị word piece được công bố khi mã hóa. Đoạn vừa giới hạn mặc định vẫn có thể khác đáng kể so với tài liệu câu ngắn dùng trong huấn luyện, vì vậy đánh giá mô tả dài hoặc chuyên môn bằng ví dụ đại diện.
Quy trình tương đồng và phân cụm
Với tập thông điệp hỗ trợ, embedding có thể cung cấp đầu vào số cho giai đoạn nhóm. Xem xét vài thông điệp trong mỗi nhóm đề xuất và các thông điệp gần ranh giới trước khi gán nhãn dễ đọc cho con người. Với xem xét nội dung trùng lặp, truy xuất bản ghi tương tự và so sánh cách diễn đạt thực tế; hai đoạn có thể bàn cùng chủ đề nhưng đưa chỉ dẫn khác nhau.
Phiên bản L12-v2 cụ thể này là hồ sơ embedding câu tiếng Anh. Nó khác với all-MiniLM-L6-v2 và các checkpoint paraphrase-MiniLM. Tên họ chung không chuyển giao cấu hình chuỗi hoặc công thức gộp. Dùng các vector dense gọn cùng bản ghi nguồn và đánh giá riêng cho nhiệm vụ, thay vì coi giá trị tương đồng là câu trả lời đã xác minh hoặc quyết định biên tập cuối cùng.
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings sentence-transformers/all-minilm-l12-v2
sentence-transformers/all-minilm-l12-v2
sentence-transformers/all-minilm-l12-v2Bắt đầu
Sentence Transformers all-MiniLM-L12-v2 mã hóa câu và đoạn ngắn thành vector 384 chiều cho tìm kiếm, độ tương đồng và phân cụm. Công thức tham chiếu dùng phép gộp trung bình và chuẩn hóa, với cắt mặc định ở 256 đơn vị word piece.
- Đầu vào được chấp nhận
- Văn bản · token_ids
- Kết quả
- embedding
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings
- Đầu vào
text,token_ids- Đầu ra
embedding- Định dạng đầu ra
- json
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn sentence-transformers/all-minilm-l12-v2 | Mặc định— |
Trườnginput | Loạistring|string[]|integer[]|integer[][] | Yêu cầuBắt buộc | Giá trị & giới hạn Số mục tối thiểu: 1 Điều kiện: Lô không rỗng và đồng nhất. ID token là số nguyên không âm. Ngân sách đầu vào: Tối đa: 512 · Đơn vị văn bản: byte UTF8 · Đơn vị token: phần tử của mảng token | Mặc định— |
Trườngencoding_format | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn float | Mặc địnhfloat |
Trườngdimensions | Loạiinteger | Yêu cầuKhông hỗ trợ | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườnguser | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngsession_id | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngtrace | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngprovider | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: provider.options bị từ chối | Mặc định— |
Tổ hợp tư liệu đầu vào
text_to_embedding
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, input |
Tham sốinput_shapes | Hợp đồngstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Tham sốencoding_format | Hợp đồngfloat |
Tham sốdimensions_override | Hợp đồngfalse |
Tham sốmax_input_budget_units | Hợp đồng512 |
Tham sốmultimodal_objects | Hợp đồngfalse |
Tham sốmaterial_types | Hợp đồngtext, token_ids |
Vòng đời: synchronous_json
Giữ lại chỉ mục và số chiều của mọi vector.
Việc mô hình mang tên đa phương thức không có nghĩa là đường dẫn cụ thể này chấp nhận đối tượng ảnh.
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Chưa chỉ định Khi chọn chế độ nhanh
- Chế độ Flex
- Chưa chỉ định Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Chưa chỉ định Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
Mức phí Ailoot
Giá theo cấu hình
| Cấu hình | Biểu mức phí | Phí |
|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Phí Đầu vào · Token đầu vào $0.00001 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Biểu diễn nhúng
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "sentence-transformers/all-minilm-l12-v2", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='sentence-transformers/all-minilm-l12-v2',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Nhận và lưu kết quả
Ailoot Ultra · Biểu diễn nhúng
json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại mọi vector kèm chỉ mục của nó. Số lượng vector phải bằng số lượng đầu vào; số chiều phải nhất quán.
Nếu cần kiểm tra phản hồi gốc
Không có điểm cuối tác vụ embedding nào được bổ sung.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngobject | Loạistring |
Trườngmodel | Loạistring |
Trườngdata[].index | Loạiinteger |
Trườngdata[].embedding | Loạifinite float[] |
Trườngusage | Loạiobject |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, cách biểu diễn tài liệu hoặc giá trị tham số không hợp lệ | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi yêu cầu tạo mới. |
Bí danh
Bí danh mô hình
Ailoot Ultra sentence-transformers/all-minilm-l12-v2
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · Sentence Transformers: all-MiniLM-L12-v2
- Có những đầu vào và kết quả nào?
POST /v1/embeddings·sentence-transformers/all-minilm-l12-v2:text,token_ids→embedding- Yêu cầu sử dụng những trường nào?
POST /v1/embeddings·sentence-transformers/all-minilm-l12-v2:model,input,encoding_format,provider- Áp dụng những giới hạn nào?
POST /v1/embeddings·sentence-transformers/all-minilm-l12-v2:input.budget.maximum:512(byte UTF8);input.min_items:1