Thenlper: GTE-Large
Alibaba DAMO Academy GTE-large chuyển văn bản tiếng Anh thành vector 1024 chiều cho truy xuất, độ tương đồng ngữ nghĩa và xếp hạng lại dựa trên embedding. Công thức tham chiếu dùng phép gộp trung bình, chuẩn hóa tùy chọn và độ dài chuỗi tối đa 512 token.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
GTE-large là mô hình General Text Embeddings cỡ lớn do Alibaba DAMO Academy huấn luyện. Đây là bộ mã hóa văn bản tiếng Anh chủ yếu dựa trên nền tảng BERT, với biểu diễn dense 1024 chiều cho mỗi đầu vào. Nhà sản xuất huấn luyện họ GTE trên các cặp văn bản liên quan ở nhiều lĩnh vực và xác định truy xuất, độ tương đồng văn bản ngữ nghĩa cùng xếp hạng lại văn bản là các ứng dụng phía sau.
Biểu diễn nội dung một phần
Chuẩn bị đoạn tiếng Anh cần so sánh với truy vấn tìm kiếm. Với bộ sưu tập báo cáo kỹ thuật, giữ chủ thể, quan sát và điều kiện liên quan của phần ngắn. Báo cáo mô tả rung chỉ dưới một mức tải cụ thể nên giữ điều kiện đó, thay vì chỉ để phát biểu chung về rung.
Giữ định danh nguồn, tiêu đề tài liệu và vị trí phần cùng các vector lưu trữ. Truy vấn có thể truy xuất phần ứng viên, còn báo cáo gốc vẫn có để xác minh thiết bị, điều kiện và kết luận. Embedding cung cấp biểu diễn số cho nội dung đoạn.
Phép gộp, chuẩn hóa và sử dụng vector
Công thức được công bố dùng phép gộp trung bình các biểu diễn token với mặt nạ chú ý, loại phần đệm khỏi giá trị trung bình. Công thức còn minh họa chuẩn hóa L2 tùy chọn, sau đó so sánh tích vô hướng của các vector đã chuẩn hóa. Ví dụ Sentence Transformers dùng độ tương đồng cosine.
Giữ cùng cách chuẩn bị, phép gộp và thiết lập so sánh cho bộ sưu tập lẫn phía truy vấn. Mỗi biểu diễn có 1024 thành phần. Số thành phần lớn hơn là chi tiết của phiên bản; nó không chứng minh vector GTE-large có thể trộn với biểu diễn GTE-base 768 chiều hoặc bộ mã hóa 1024 chiều khác.
Quy trình xếp hạng lại có thể so sánh embedding truy vấn với tập embedding ứng viên đã được truy xuất rồi sắp lại các bản ghi. Giữ sự phân biệt giữa phép so sánh vector đó với mô hình riêng đánh giá chung một cặp truy vấn–đoạn.
Độ dài đầu vào và giới hạn tiếng Anh
Thẻ mô hình giới hạn rõ mô hình cụ thể này cho văn bản tiếng Anh và cắt đầu vào dài xuống tối đa 512 token. Chia báo cáo kỹ thuật dài thành các phần mạch lạc và giữ đủ ngữ cảnh cục bộ để mỗi phần có thể hiểu độc lập. Nếu một câu phụ thuộc điều kiện hoặc giới hạn đi kèm trước đó, giữ phần ấy trong cùng đơn vị được lập chỉ mục khi vừa.
Ranh giới token khác số từ nhìn thấy được. Kiểm tra độ dài phần đã chuẩn bị và bảo đảm chi tiết mà tìm kiếm mục tiêu cần không nằm ngoài phần được giữ sau khi cắt.
Kiểm tra bằng chứng được truy xuất
Với ứng dụng tìm báo cáo, trình bày các phần ứng viên cùng vị trí nguồn và kiểm tra nội dung thực tế. Quan sát tương tự có thể có nguyên nhân hoặc khuyến nghị khác nhau. Điểm vector giúp sắp thứ tự ứng viên dưới thiết lập so sánh đã chọn; nó không chứng minh kết luận báo cáo áp dụng cho tình huống mới.
Với RAG, dùng các phần được chọn làm ngữ cảnh nguồn cho giai đoạn viết câu trả lời và giữ liên kết tài liệu. Hồ sơ GTE-large cụ thể cung cấp embedding dense tiếng Anh 1024 chiều với ranh giới đầu vào 512 token. Các phiên bản GTE đa ngôn ngữ và mở rộng ngữ cảnh về sau có định danh riêng, nên tên họ của checkpoint này không ngụ ý phạm vi ngôn ngữ hoặc thiết lập đầu vào của chúng.
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings thenlper/gte-large
thenlper/gte-largeBắt đầu
Alibaba DAMO Academy GTE-large chuyển văn bản tiếng Anh thành vector 1024 chiều cho truy xuất, độ tương đồng ngữ nghĩa và xếp hạng lại dựa trên embedding. Công thức tham chiếu dùng phép gộp trung bình, chuẩn hóa tùy chọn và độ dài chuỗi tối đa 512 token.
- Đầu vào được chấp nhận
- Văn bản · token_ids
- Kết quả
- embedding
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings
- Đầu vào
text,token_ids- Đầu ra
embedding- Định dạng đầu ra
- json
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn thenlper/gte-large | Mặc định— |
Trườnginput | Loạistring|string[]|integer[]|integer[][] | Yêu cầuBắt buộc | Giá trị & giới hạn Số mục tối thiểu: 1 Điều kiện: Lô không rỗng và đồng nhất. ID token là số nguyên không âm. Ngân sách đầu vào: Tối đa: 512 · Đơn vị văn bản: byte UTF8 · Đơn vị token: phần tử của mảng token | Mặc định— |
Trườngencoding_format | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn float | Mặc địnhfloat |
Trườngdimensions | Loạiinteger | Yêu cầuKhông hỗ trợ | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườnguser | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngsession_id | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngtrace | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngprovider | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: provider.options bị từ chối | Mặc định— |
Tổ hợp tư liệu đầu vào
text_to_embedding
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, input |
Tham sốinput_shapes | Hợp đồngstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Tham sốencoding_format | Hợp đồngfloat |
Tham sốdimensions_override | Hợp đồngfalse |
Tham sốmax_input_budget_units | Hợp đồng512 |
Tham sốmultimodal_objects | Hợp đồngfalse |
Tham sốmaterial_types | Hợp đồngtext, token_ids |
Vòng đời: synchronous_json
Giữ lại chỉ mục và số chiều của mọi vector.
Việc mô hình mang tên đa phương thức không có nghĩa là đường dẫn cụ thể này chấp nhận đối tượng ảnh.
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Chưa chỉ định Khi chọn chế độ nhanh
- Chế độ Flex
- Chưa chỉ định Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Chưa chỉ định Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
Mức phí Ailoot
Giá theo cấu hình
| Cấu hình | Biểu mức phí | Phí |
|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Phí Đầu vào · Token đầu vào $0.00002 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Biểu diễn nhúng
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "thenlper/gte-large", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='thenlper/gte-large',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Nhận và lưu kết quả
Ailoot Ultra · Biểu diễn nhúng
json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại mọi vector kèm chỉ mục của nó. Số lượng vector phải bằng số lượng đầu vào; số chiều phải nhất quán.
Nếu cần kiểm tra phản hồi gốc
Không có điểm cuối tác vụ embedding nào được bổ sung.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngobject | Loạistring |
Trườngmodel | Loạistring |
Trườngdata[].index | Loạiinteger |
Trườngdata[].embedding | Loạifinite float[] |
Trườngusage | Loạiobject |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, cách biểu diễn tài liệu hoặc giá trị tham số không hợp lệ | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi yêu cầu tạo mới. |
Bí danh
Bí danh mô hình
Ailoot Ultra thenlper/gte-large
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · Thenlper: GTE-Large
- Có những đầu vào và kết quả nào?
POST /v1/embeddings·thenlper/gte-large:text,token_ids→embedding- Yêu cầu sử dụng những trường nào?
POST /v1/embeddings·thenlper/gte-large:model,input,encoding_format,provider- Áp dụng những giới hạn nào?
POST /v1/embeddings·thenlper/gte-large:input.budget.maximum:512(byte UTF8);input.min_items:1