Thenlper: GTE-Base
Alibaba DAMO Academy GTE-base tạo embedding văn bản tiếng Anh thành vector 768 chiều cho truy xuất và độ tương đồng ngữ nghĩa. Mô hình cụ thể dùng phép gộp trung bình, hỗ trợ chuỗi đến 512 token và mô tả phép so sánh theo cosine với chuẩn hóa tùy chọn.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
GTE-base là mô hình General Text Embeddings cỡ base do Alibaba DAMO Academy huấn luyện. Bộ mã hóa tiếng Anh này chủ yếu dựa trên nền tảng BERT và tạo vector dense 768 chiều. Quá trình huấn luyện dùng kho lớn các cặp liên quan ở nhiều lĩnh vực; truy xuất thông tin, độ tương đồng văn bản ngữ nghĩa và xếp hạng lại văn bản dựa trên embedding nằm trong các ứng dụng được nêu.
Chuẩn bị truy vấn và đoạn tiếng Anh
Dùng văn bản tiếng Anh đọc được cho cả nhu cầu thông tin và tài liệu cần tìm. Ví dụ, truy vấn về thay bộ phận bị mòn có thể được so sánh với các phần bảo trì ngắn mô tả tiêu chí thay thế, bước kiểm tra và chỉ dẫn đặt hàng. Giữ tên bộ phận và các điều kiện phân biệt những phần đó.
Ví dụ được công bố mã hóa trực tiếp câu hỏi và văn bản ứng viên, không thêm chỉ dẫn nhiệm vụ. Giữ cách chuẩn bị nhất quán cho bộ sưu tập và truy vấn sau. Lưu đoạn gốc và định danh bên cạnh vector để kết quả xếp hạng thể hiện thông tin đã được biểu diễn.
Phép gộp trung bình và so sánh
Công thức tham chiếu lấy trung bình các biểu diễn token của mô hình bằng mặt nạ chú ý, ngăn vị trí đệm góp vào kết quả. Sau đó công thức minh họa chuẩn hóa L2 tùy chọn và so sánh các vector đã chuẩn hóa bằng tích vô hướng. Ví dụ riêng dùng độ tương đồng cosine.
Chọn và giữ thiết lập chuẩn hóa, so sánh nhất quán cho lập chỉ mục và truy xuất. Đầu ra chứa 768 thành phần số, không chứa câu trả lời được sinh ra. Với giai đoạn xếp hạng lại ứng viên, mã hóa các đoạn ứng viên bằng cùng mô hình rồi sắp theo độ tương đồng với truy vấn. Đây vẫn là so sánh dựa trên embedding, không phải tuyên bố mô hình đọc chung mọi cặp truy vấn–đoạn như cross-encoder.
Phạm vi tiếng Anh và đầu vào 512 token
Thẻ cụ thể giới hạn mô hình này cho văn bản tiếng Anh và nêu đầu vào dài bị cắt xuống tối đa 512 token. Vì vậy, sổ tay dài nên thành các phần có ý nghĩa trước khi lập chỉ mục. Giữ cảnh báo, ngoại lệ hoặc điều kiện và giới hạn đi kèm cùng quy tắc mà chúng làm rõ khi những chi tiết đó cần để diễn giải đoạn.
Với truy vấn về khoảng thời gian bảo trì, phần chứa khoảng thời gian và điều kiện vận hành hữu ích hơn mảnh chỉ có một con số. Giữ tiêu đề hoặc định danh thiết bị khi nó làm rõ chỉ dẫn. Kiểm tra độ dài tokenizer thay vì dựa vào số từ nhìn thấy được.
Dùng đoạn nguồn phía sau điểm
Truy xuất trả về ứng viên từ bộ sưu tập đã lập chỉ mục. Kiểm tra các đoạn đứng đầu theo đúng nhiệm vụ và giữ vị trí nguồn khi chuyển vào giai đoạn viết câu trả lời RAG. Đoạn liên quan có thể bàn về kiểm tra mà không cho phép thay thế; sự phân biệt đó cần tiếp tục hiện rõ trong tài liệu nguồn.
GTE-base khác với GTE-large có vector 1024 chiều và các phiên bản GTE đa ngôn ngữ hoặc mở rộng ngữ cảnh sau này. Định danh mô hình được công bố xác định phạm vi tiếng Anh, biểu diễn 768 thành phần và ranh giới 512 token. Dùng đúng hồ sơ này cùng truy vấn đại diện và bản ghi nguồn khi đánh giá bộ sưu tập truy xuất.
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings thenlper/gte-base
thenlper/gte-baseBắt đầu
Alibaba DAMO Academy GTE-base tạo embedding văn bản tiếng Anh thành vector 768 chiều cho truy xuất và độ tương đồng ngữ nghĩa. Mô hình cụ thể dùng phép gộp trung bình, hỗ trợ chuỗi đến 512 token và mô tả phép so sánh theo cosine với chuẩn hóa tùy chọn.
- Đầu vào được chấp nhận
- Văn bản · token_ids
- Kết quả
- embedding
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings
- Đầu vào
text,token_ids- Đầu ra
embedding- Định dạng đầu ra
- json
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn thenlper/gte-base | Mặc định— |
Trườnginput | Loạistring|string[]|integer[]|integer[][] | Yêu cầuBắt buộc | Giá trị & giới hạn Số mục tối thiểu: 1 Điều kiện: Lô không rỗng và đồng nhất. ID token là số nguyên không âm. Ngân sách đầu vào: Tối đa: 512 · Đơn vị văn bản: byte UTF8 · Đơn vị token: phần tử của mảng token | Mặc định— |
Trườngencoding_format | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn float | Mặc địnhfloat |
Trườngdimensions | Loạiinteger | Yêu cầuKhông hỗ trợ | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườnguser | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngsession_id | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngtrace | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngprovider | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: provider.options bị từ chối | Mặc định— |
Tổ hợp tư liệu đầu vào
text_to_embedding
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, input |
Tham sốinput_shapes | Hợp đồngstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Tham sốencoding_format | Hợp đồngfloat |
Tham sốdimensions_override | Hợp đồngfalse |
Tham sốmax_input_budget_units | Hợp đồng512 |
Tham sốmultimodal_objects | Hợp đồngfalse |
Tham sốmaterial_types | Hợp đồngtext, token_ids |
Vòng đời: synchronous_json
Giữ lại chỉ mục và số chiều của mọi vector.
Việc mô hình mang tên đa phương thức không có nghĩa là đường dẫn cụ thể này chấp nhận đối tượng ảnh.
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Chưa chỉ định Khi chọn chế độ nhanh
- Chế độ Flex
- Chưa chỉ định Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Chưa chỉ định Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
Mức phí Ailoot
Giá theo cấu hình
| Cấu hình | Biểu mức phí | Phí |
|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Phí Đầu vào · Token đầu vào $0.00001 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Biểu diễn nhúng
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "thenlper/gte-base", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='thenlper/gte-base',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Nhận và lưu kết quả
Ailoot Ultra · Biểu diễn nhúng
json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại mọi vector kèm chỉ mục của nó. Số lượng vector phải bằng số lượng đầu vào; số chiều phải nhất quán.
Nếu cần kiểm tra phản hồi gốc
Không có điểm cuối tác vụ embedding nào được bổ sung.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngobject | Loạistring |
Trườngmodel | Loạistring |
Trườngdata[].index | Loạiinteger |
Trườngdata[].embedding | Loạifinite float[] |
Trườngusage | Loạiobject |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, cách biểu diễn tài liệu hoặc giá trị tham số không hợp lệ | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi yêu cầu tạo mới. |
Bí danh
Bí danh mô hình
Ailoot Ultra thenlper/gte-base
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · Thenlper: GTE-Base
- Có những đầu vào và kết quả nào?
POST /v1/embeddings·thenlper/gte-base:text,token_ids→embedding- Yêu cầu sử dụng những trường nào?
POST /v1/embeddings·thenlper/gte-base:model,input,encoding_format,provider- Áp dụng những giới hạn nào?
POST /v1/embeddings·thenlper/gte-base:input.budget.maximum:512(byte UTF8);input.min_items:1