Intfloat: E5-Large-v2
intfloat E5-Large-v2 mã hóa truy vấn và các đoạn văn tiếng Anh thành vector 1024 chiều. Mô hình 24 lớp dùng vai trò query/passage, phép gộp trung bình và giới hạn đầu vào 512 token cho tìm kiếm, độ tương đồng ngữ nghĩa và các đặc trưng số của văn bản.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
E5-Large-v2 là mô hình embedding văn bản tiếng Anh gồm hai mươi bốn lớp của intfloat, với đầu ra 1024 chiều. Mô hình được thiết kế để biểu diễn truy vấn và đoạn văn dưới dạng số cho truy xuất và các tác vụ embedding khác. Quy ước chuẩn bị E5 là một phần của quá trình huấn luyện: văn bản đầu vào có tiền tố vai trò và các biểu diễn token đã mã hóa được gộp thành một vector cho văn bản đó.
Thể hiện rõ vai trò truy vấn và đoạn văn
Với truy xuất bất đối xứng, bắt đầu câu hỏi bằng “query:” và văn bản trong kho bằng “passage:”. Những vai trò này phân biệt điều người dùng đang tìm với tài liệu có thể trả lời. Với so sánh đối xứng, tìm kiếm cách diễn đạt tương đương, phân cụm hoặc đặc trưng phân loại, nhà sản xuất khuyến nghị “query:” cho các văn bản được tạo embedding.
Một bộ sưu tập thực tế có thể lập chỉ mục các phần giải thích hỗ trợ bằng tiếng Anh. Chuẩn bị câu hỏi như “query: What should I check before replacing the connector?” rồi ghép với các đoạn nguồn mô tả việc kiểm tra và ngoại lệ. Văn bản của đoạn giữ tiền tố tương ứng. Lưu định danh nguồn và cách diễn đạt gốc bên cạnh từng vector để kết quả có thể trả về tài liệu người dùng cần đọc.
Tiền tố không phải nhãn trang trí có thể bỏ khỏi một phía của tác vụ. Nhà sản xuất cho biết bỏ chúng làm giảm hiệu năng truy xuất vì mô hình được huấn luyện với cách chuẩn bị đó. Áp dụng vai trò đã chọn nhất quán khi xây dựng kho văn bản và khi tạo embedding cho truy vấn về sau.
Phép gộp trung bình và vector chuẩn hóa
Ví dụ mã hóa chính thức lấy trung bình các biểu diễn token, đồng thời dùng mặt nạ chú ý để loại những vị trí đệm. Sau đó vector kết quả được chuẩn hóa. Tích vô hướng giữa vector truy vấn và đoạn văn đã chuẩn hóa cho độ tương đồng cosine để xếp hạng ứng viên. Công thức gộp trung bình này thuộc E5-Large-v2; công thức lấy token đầu tiên từ họ mô hình khác là một cách chuẩn bị riêng.
Có 1024 giá trị đầu ra tạo thành embedding, không phải câu trả lời bằng văn bản hay nhãn danh mục trực tiếp. Giai đoạn tìm kiếm so sánh các giá trị đó với biểu diễn kho văn bản tương thích và giai đoạn tiếp theo sử dụng văn bản của đoạn được chọn. Nếu vector làm đặc trưng cho phân cụm hoặc bộ phân loại, giữ liên kết giữa từng vector và bản ghi đầu vào mà nó biểu diễn đặc trưng.
Văn bản tiếng Anh trong cửa sổ ngữ cảnh
Thẻ mô hình quy định chỉ dùng văn bản tiếng Anh và cắt đầu vào dài xuống tối đa 512 token. Giữ từng đoạn tài liệu mạch lạc trong cửa sổ đó, bao gồm tiền tố vai trò và ngữ cảnh nguồn hữu ích. Sổ tay dài nên được chuẩn bị thành các phần có tiêu đề, điều kiện và chỉ dẫn vẫn hiểu được khi truy xuất riêng.
Ví dụ, một mệnh đề mô tả thiết lập có thể cần định nghĩa của thiết lập đó và một ngoại lệ ở câu tiếp theo. Giữ đơn vị nhỏ này cùng nhau thay vì chỉ chia theo số ký tự. Lưu tài liệu cha và phiên bản nguồn cùng đoạn để bản cập nhật thay thế đúng tài liệu.
Đọc thứ hạng như bằng chứng truy xuất
Nhà sản xuất giải thích rằng thứ tự điểm cosine quan trọng hơn giá trị tuyệt đối. Không nên diễn giải điểm là xác suất đã hiệu chỉnh rằng đoạn văn trả lời câu hỏi. Kiểm tra các đoạn đã biết có chứa câu trả lời và tài liệu không liên quan ở gần khi chọn số kết quả giữ lại hoặc nơi lọc tập ứng viên.
Đầu ra hữu ích là biểu diễn kho văn bản hoặc truy vấn, tín hiệu so sánh ngữ nghĩa hay đặc trưng số cho tác vụ khác. Checkpoint English Large v2 cụ thể này vẫn tách biệt với E5-Base-v2 và Multilingual-E5-Large. Chỉ có số chiều trùng nhau không làm các vector của chúng trở thành một không gian embedding chung đã được tài liệu xác nhận.
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings intfloat/e5-large-v2
intfloat/e5-large-v2Bắt đầu
intfloat E5-Large-v2 mã hóa truy vấn và các đoạn văn tiếng Anh thành vector 1024 chiều. Mô hình 24 lớp dùng vai trò query/passage, phép gộp trung bình và giới hạn đầu vào 512 token cho tìm kiếm, độ tương đồng ngữ nghĩa và các đặc trưng số của văn bản.
- Đầu vào được chấp nhận
- Văn bản · token_ids
- Kết quả
- embedding
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings
- Đầu vào
text,token_ids- Đầu ra
embedding- Định dạng đầu ra
- json
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn intfloat/e5-large-v2 | Mặc định— |
Trườnginput | Loạistring|string[]|integer[]|integer[][] | Yêu cầuBắt buộc | Giá trị & giới hạn Số mục tối thiểu: 1 Điều kiện: Lô không rỗng và đồng nhất. ID token là số nguyên không âm. Ngân sách đầu vào: Tối đa: 512 · Đơn vị văn bản: byte UTF8 · Đơn vị token: phần tử của mảng token | Mặc định— |
Trườngencoding_format | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn float | Mặc địnhfloat |
Trườngdimensions | Loạiinteger | Yêu cầuKhông hỗ trợ | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườnguser | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngsession_id | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngtrace | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngprovider | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: provider.options bị từ chối | Mặc định— |
Tổ hợp tư liệu đầu vào
text_to_embedding
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, input |
Tham sốinput_shapes | Hợp đồngstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Tham sốencoding_format | Hợp đồngfloat |
Tham sốdimensions_override | Hợp đồngfalse |
Tham sốmax_input_budget_units | Hợp đồng512 |
Tham sốmultimodal_objects | Hợp đồngfalse |
Tham sốmaterial_types | Hợp đồngtext, token_ids |
Vòng đời: synchronous_json
Giữ lại chỉ mục và số chiều của mọi vector.
Việc mô hình mang tên đa phương thức không có nghĩa là đường dẫn cụ thể này chấp nhận đối tượng ảnh.
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Chưa chỉ định Khi chọn chế độ nhanh
- Chế độ Flex
- Chưa chỉ định Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Chưa chỉ định Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
Mức phí Ailoot
Giá theo cấu hình
| Cấu hình | Biểu mức phí | Phí |
|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Phí Đầu vào · Token đầu vào $0.00002 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Biểu diễn nhúng
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "intfloat/e5-large-v2", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='intfloat/e5-large-v2',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Nhận và lưu kết quả
Ailoot Ultra · Biểu diễn nhúng
json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại mọi vector kèm chỉ mục của nó. Số lượng vector phải bằng số lượng đầu vào; số chiều phải nhất quán.
Nếu cần kiểm tra phản hồi gốc
Không có điểm cuối tác vụ embedding nào được bổ sung.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngobject | Loạistring |
Trườngmodel | Loạistring |
Trườngdata[].index | Loạiinteger |
Trườngdata[].embedding | Loạifinite float[] |
Trườngusage | Loạiobject |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, cách biểu diễn tài liệu hoặc giá trị tham số không hợp lệ | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi yêu cầu tạo mới. |
Bí danh
Bí danh mô hình
Ailoot Ultra intfloat/e5-large-v2
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · Intfloat: E5-Large-v2
- Có những đầu vào và kết quả nào?
POST /v1/embeddings·intfloat/e5-large-v2:text,token_ids→embedding- Yêu cầu sử dụng những trường nào?
POST /v1/embeddings·intfloat/e5-large-v2:model,input,encoding_format,provider- Áp dụng những giới hạn nào?
POST /v1/embeddings·intfloat/e5-large-v2:input.budget.maximum:512(byte UTF8);input.min_items:1