BAAI: bge-large-en-v1.5
BAAI bge-large-en-v1.5 tạo vector văn bản tiếng Anh 1024 chiều để truy xuất và so sánh ngữ nghĩa. Cách chuẩn bị v1.5 hỗ trợ chỉ dẫn truy vấn tùy chọn, với độ dài chuỗi 512 token được tài liệu quy định.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
bge-large-en-v1.5 là phiên bản nhúng dày đặc tiếng Anh cỡ Large của BAAI. Mô hình ánh xạ văn bản thành vector 1024 chiều để truy xuất đoạn văn và so sánh ngữ nghĩa. Phiên bản 1.5 là cập nhật của nhà sản xuất nhằm tạo phân bố độ tương đồng hữu ích hơn và cải thiện truy xuất không cần chỉ dẫn. Large vẫn là checkpoint riêng, khác Base, Small, các phiên bản tiếng Trung và mô hình BGE-M3 đa ngôn ngữ.
Thiết lập truy xuất đoạn văn
Với truy vấn tìm kiếm ngắn trên tài liệu dài hơn, nhà sản xuất khuyến nghị chỉ dẫn truy vấn “Represent this sentence for searching relevant passages:”. Thêm chỉ dẫn ở phía truy vấn; các đoạn trong kho ngữ liệu giữ văn bản nguồn mà không kèm chỉ dẫn. Với mục đích khác, văn bản trực tiếp là đủ. BAAI cũng mô tả truy xuất không dùng tiền tố ở v1.5 và khuyến nghị chọn cách chuẩn bị tốt nhất cho tác vụ thực tế.
Một bộ tri thức thực tế có thể lập chỉ mục các phần của tài liệu kỹ thuật tiếng Anh. Câu hỏi về thiết lập thay đổi định dạng đầu ra nên trả về phần giải thích thiết lập và điều kiện của nó. Giữ tiêu đề, giải thích liên quan và vị trí nguồn với từng đoạn. Mô hình cung cấp biểu diễn số; văn bản nguồn trả về là phần người đọc hoặc giai đoạn RAG sau sử dụng.
Biểu diễn và đối sánh
Ví dụ mã hóa trực tiếp của nhà sản xuất dùng trạng thái ẩn cuối của token CLS đầu tiên làm biểu diễn nhúng gộp, rồi chuẩn hóa vector. Tích vô hướng giữa các vector chuẩn hóa cho độ tương đồng cosin. Vì vậy có thể chuẩn bị mỗi đoạn một lần, lưu để so sánh với vector truy vấn đến; tài liệu nguồn thay đổi sẽ nhận biểu diễn cập nhật.
1024 chiều xác định độ dài vector đầu ra. Chúng khác biểu diễn Base 768 chiều và không xác lập một không gian chung tương thích với checkpoint khác. Gắn mô hình và quy ước chuẩn bị với chỉ mục đã lưu. Thay phiên bản nhúng đòi hỏi kiểm tra cùng lúc biểu diễn kho ngữ liệu và truy vấn.
Đưa nguồn vừa cửa sổ
Độ dài chuỗi được tài liệu ghi là 512 token. Chuẩn bị tài liệu dài thành các phần thống nhất thay vì một đầu vào quá lớn. Giữ điều kiện hoặc ngoại lệ bên cạnh quy tắc mà nó bổ sung, đồng thời thêm đủ ngữ cảnh để phần được truy xuất tự nó vẫn có nghĩa. Chỉ dẫn truy vấn thêm vào cũng chiếm token đầu vào, nên cửa sổ mô hình tính toàn bộ đầu vào đã chuẩn bị.
Ranh giới đoạn hữu ích có thể gồm tiêu đề và các đoạn trả lời một câu hỏi người dùng. Giữ mã định danh cùng phiên bản tài liệu mẹ ngoài vector để truy ngược kết quả đến đúng nguồn. Với tác vụ so sánh, dùng văn bản thực tế cần so sánh thay vì thay bằng tóm tắt không liên quan làm mất sự khác biệt cần tìm.
Diễn giải điểm số
Nhà sản xuất cảnh báo không coi mức tương đồng tuyệt đối là quy tắc phổ quát cho tương đương ngữ nghĩa. Thứ tự điểm tương đối là trọng tâm của truy xuất, còn ngưỡng nên hiệu chỉnh theo phân bố văn bản của chính tác vụ. Kiểm tra đoạn ứng viên với câu hỏi có đáp án đã biết và câu hỏi không có đáp án trong tài liệu. Nhờ đó thấy phần trả về có cung cấp thông tin yêu cầu hay chỉ giống chủ đề.
bge-large-en-v1.5 cung cấp vector dày đặc tiếng Anh. Một mô hình xếp hạng lại riêng có thể tinh chỉnh thứ tự ứng viên, và mô hình ngôn ngữ riêng có thể soạn câu trả lời từ đoạn đã chọn. Đầu ra hữu ích của phiên bản này là biểu diễn có thể tìm kiếm gắn với văn bản nguồn, giữ đúng lựa chọn mô hình Large v1.5 và cách chuẩn bị đầu vào.
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings baai/bge-large-en-v1.5
baai/bge-large-en-v1.5Bắt đầu
BAAI bge-large-en-v1.5 tạo vector văn bản tiếng Anh 1024 chiều để truy xuất và so sánh ngữ nghĩa. Cách chuẩn bị v1.5 hỗ trợ chỉ dẫn truy vấn tùy chọn, với độ dài chuỗi 512 token được tài liệu quy định.
- Đầu vào được chấp nhận
- Văn bản · token_ids
- Kết quả
- embedding
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings
- Đầu vào
text,token_ids- Đầu ra
embedding- Định dạng đầu ra
- json
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn baai/bge-large-en-v1.5 | Mặc định— |
Trườnginput | Loạistring|string[]|integer[]|integer[][] | Yêu cầuBắt buộc | Giá trị & giới hạn Số mục tối thiểu: 1 Điều kiện: Lô không rỗng và đồng nhất. ID token là số nguyên không âm. Ngân sách đầu vào: Tối đa: 512 · Đơn vị văn bản: byte UTF8 · Đơn vị token: phần tử của mảng token | Mặc định— |
Trườngencoding_format | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn float | Mặc địnhfloat |
Trườngdimensions | Loạiinteger | Yêu cầuKhông hỗ trợ | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườnguser | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngsession_id | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngtrace | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngprovider | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: provider.options bị từ chối | Mặc định— |
Tổ hợp tư liệu đầu vào
text_to_embedding
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, input |
Tham sốinput_shapes | Hợp đồngstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Tham sốencoding_format | Hợp đồngfloat |
Tham sốdimensions_override | Hợp đồngfalse |
Tham sốmax_input_budget_units | Hợp đồng512 |
Tham sốmultimodal_objects | Hợp đồngfalse |
Tham sốmaterial_types | Hợp đồngtext, token_ids |
Vòng đời: synchronous_json
Giữ lại chỉ mục và số chiều của mọi vector.
Việc mô hình mang tên đa phương thức không có nghĩa là đường dẫn cụ thể này chấp nhận đối tượng ảnh.
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Chưa chỉ định Khi chọn chế độ nhanh
- Chế độ Flex
- Chưa chỉ định Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Chưa chỉ định Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
Mức phí Ailoot
Giá theo cấu hình
| Cấu hình | Biểu mức phí | Phí |
|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Phí Đầu vào · Token đầu vào $0.00002 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Biểu diễn nhúng
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "baai/bge-large-en-v1.5", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='baai/bge-large-en-v1.5',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Nhận và lưu kết quả
Ailoot Ultra · Biểu diễn nhúng
json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại mọi vector kèm chỉ mục của nó. Số lượng vector phải bằng số lượng đầu vào; số chiều phải nhất quán.
Nếu cần kiểm tra phản hồi gốc
Không có điểm cuối tác vụ embedding nào được bổ sung.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngobject | Loạistring |
Trườngmodel | Loạistring |
Trườngdata[].index | Loạiinteger |
Trườngdata[].embedding | Loạifinite float[] |
Trườngusage | Loạiobject |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, cách biểu diễn tài liệu hoặc giá trị tham số không hợp lệ | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi yêu cầu tạo mới. |
Bí danh
Bí danh mô hình
Ailoot Ultra baai/bge-large-en-v1.5
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · BAAI: bge-large-en-v1.5
- Có những đầu vào và kết quả nào?
POST /v1/embeddings·baai/bge-large-en-v1.5:text,token_ids→embedding- Yêu cầu sử dụng những trường nào?
POST /v1/embeddings·baai/bge-large-en-v1.5:model,input,encoding_format,provider- Áp dụng những giới hạn nào?
POST /v1/embeddings·baai/bge-large-en-v1.5:input.budget.maximum:512(byte UTF8);input.min_items:1