VoyageAI by MongoDB: voyage-4-lite
Voyage AI voyage-4-lite là phiên bản embedding văn bản hướng đến độ trễ trong họ Voyage 4. Mô hình hỗ trợ đầu vào 32.000 token, bốn lựa chọn số chiều vector và biểu diễn lượng tử hóa, với không gian embedding chung tương thích với các mô hình văn bản Voyage 4 khác.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
voyage-4-lite là mô hình embedding văn bản hướng đến độ trễ trong họ Voyage 4 của Voyage AI. Mô hình biểu diễn truy vấn và tài liệu thành vector số cho truy xuất đa dụng. Đặc điểm phân biệt của họ là không gian embedding chung với voyage-4, voyage-4-large và voyage-4-nano, cho phép chọn riêng mô hình truy vấn và tài liệu.
Bắt đầu từ vai trò truy xuất
Chuẩn bị nhu cầu thông tin của người dùng làm truy vấn và tài liệu có thể tìm kiếm làm các document. Voyage khuyến nghị các kiểu đầu vào query/document cho truy xuất; công thức công bố thêm chỉ dẫn truy xuất tương ứng khi vector hóa văn bản.
Với bộ sưu tập sổ tay nhân viên, truy vấn về chuyển ngày nghỉ chưa dùng sang kỳ tiếp theo nên được so sánh với các phần chính sách cụ thể. Giữ quy tắc, điều kiện và mọi ngoại lệ liên quan trong đoạn được lập chỉ mục. Lưu tài liệu gốc và định danh phần bên cạnh vector để ứng dụng trả về văn bản chính sách thực tế.
Kiểu đầu vào không được chỉ định biểu diễn trực tiếp văn bản, còn vai trò query/document điều chỉnh cho truy xuất. Nhà sản xuất cho biết embedding tạo ra có hoặc không có các thiết lập vai trò đó đều tương thích, nhưng chính sách chuẩn bị nhất quán giúp đánh giá bộ sưu tập dễ hơn.
Không gian chung trong họ văn bản Voyage 4
Voyage mô tả rõ quy trình truy xuất bất đối xứng: tài liệu có thể được mã hóa bằng voyage-4-large và tìm bằng vector truy vấn từ voyage-4-lite. Đây là tuyên bố tương thích ở cấp họ, không phải kết luận rút ra từ hai mô hình trả về vector cùng độ dài.
Giữ số chiều vector và biểu diễn đã chọn đồng bộ giữa bộ sưu tập và phía truy vấn. Không gian chung còn cho phép thay mô hình truy vấn trong họ văn bản Voyage 4 có tên này mà không cần vector hóa lại tài liệu hiện có. Đánh giá thứ hạng kết quả bằng câu hỏi đại diện khi chọn phiên bản truy vấn.
Vai trò của phiên bản Lite là lựa chọn embedding truy vấn và văn bản nhỏ hơn, tập trung vào độ trễ. Nhà sản xuất gắn kiến trúc mixture-of-experts riêng với voyage-4-large; tên họ không chứng minh Lite có kiến trúc đó.
Ngữ cảnh, số chiều và định dạng kết quả
Độ dài ngữ cảnh được công bố là 32.000 token cho mỗi văn bản. Vector mặc định có 1024 chiều; 256, 512 và 2048 cũng có qua học Matryoshka. Luồng embedding văn bản của nhà sản xuất mô tả biểu diễn dấu phẩy động, số nguyên 8 bit có dấu hoặc không dấu và nhị phân đóng gói bit cho voyage-4-lite.
Với vector dấu phẩy động thông thường, hướng dẫn tương đồng của Voyage mô tả embedding có độ dài đơn vị, làm độ tương đồng cosine và tích vô hướng tương đương. Dạng lượng tử hóa cần xử lý biểu diễn tương ứng. Ví dụ, danh sách nhị phân đóng gói bit lưu tám bit embedding trong mỗi byte; độ dài danh sách khác số chiều vector ngữ nghĩa.
Trong công thức batch được Voyage mô tả, danh sách có tối đa 1000 văn bản và tổng cộng một triệu token cho đúng phiên bản Lite này. Mặc định với đầu vào quá dài là cắt từng văn bản ở ranh giới ngữ cảnh; thiết lập thay thế từ chối đầu vào quá dài. Giới hạn batch và từng văn bản là hai giới hạn riêng.
Chuẩn bị và kiểm tra kết quả truy xuất
Chia tài liệu nguồn dài thành các phần mạch lạc có thể trả về làm bằng chứng. Ngữ cảnh 32.000 token cho phép đầu vào dài, nhưng đơn vị truy xuất hữu ích vẫn nên dẫn tới phần nguồn liên quan. Bao gồm tiêu đề hoặc chi tiết nhận dạng cần để diễn giải quy tắc.
Với RAG, truy xuất các phần ứng viên và chuyển văn bản gốc cho giai đoạn viết câu trả lời cùng liên kết nguồn. Mô hình embedding tạo vector, không sinh câu trả lời về chính sách. Độ tương đồng xếp hạng ứng viên theo mô hình và thiết lập so sánh đã chọn; xem đoạn thực tế để kiểm tra đúng điều kiện được hỏi.
Sự kết hợp hữu ích riêng của voyage-4-lite là mô hình văn bản tập trung độ trễ, biểu diễn linh hoạt, ngữ cảnh 32.000 token và tương thích được tài liệu xác nhận trong họ văn bản Voyage 4. Lưu các thuộc tính đó cùng bộ sưu tập đã lập chỉ mục và dùng kết quả truy xuất dựa trên nguồn để hỗ trợ ứng dụng bao quanh.
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings voyageai/voyage-4-lite
voyageai/voyage-4-liteBắt đầu
Voyage AI voyage-4-lite là phiên bản embedding văn bản hướng đến độ trễ trong họ Voyage 4. Mô hình hỗ trợ đầu vào 32.000 token, bốn lựa chọn số chiều vector và biểu diễn lượng tử hóa, với không gian embedding chung tương thích với các mô hình văn bản Voyage 4 khác.
- Đầu vào được chấp nhận
- Văn bản · token_ids
- Kết quả
- embedding
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings
- Đầu vào
text,token_ids- Đầu ra
embedding- Ngữ cảnh
- 32.000 tokens
- Định dạng đầu ra
- json
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn voyageai/voyage-4-lite | Mặc định— |
Trườnginput | Loạistring|string[]|integer[]|integer[][] | Yêu cầuBắt buộc | Giá trị & giới hạn Số mục tối thiểu: 1 Điều kiện: Lô không rỗng và đồng nhất. ID token là số nguyên không âm. Ngân sách đầu vào: Tối đa: 32.000 · Đơn vị văn bản: byte UTF8 · Đơn vị token: phần tử của mảng token | Mặc định— |
Trườngencoding_format | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn float | Mặc địnhfloat |
Trườngdimensions | Loạiinteger | Yêu cầuKhông hỗ trợ | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườnguser | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngsession_id | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngtrace | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngprovider | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: provider.options bị từ chối | Mặc định— |
Tổ hợp tư liệu đầu vào
text_to_embedding
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, input |
Tham sốinput_shapes | Hợp đồngstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Tham sốencoding_format | Hợp đồngfloat |
Tham sốdimensions_override | Hợp đồngfalse |
Tham sốmax_input_budget_units | Hợp đồng32000 |
Tham sốmultimodal_objects | Hợp đồngfalse |
Tham sốmaterial_types | Hợp đồngtext, token_ids |
Vòng đời: synchronous_json
Giữ lại chỉ mục và số chiều của mọi vector.
Việc mô hình mang tên đa phương thức không có nghĩa là đường dẫn cụ thể này chấp nhận đối tượng ảnh.
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Mức giá tiêu chuẩn Khi chọn chế độ nhanh
- Chế độ Flex
- Mức giá tiêu chuẩn Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Mức giá tiêu chuẩn Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
Mức phí Ailoot
Giá theo cấu hình
| Cấu hình | Biểu mức phí | Phí |
|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Phí Đầu vào · Token đầu vào $0.00004 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Biểu diễn nhúng
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "voyageai/voyage-4-lite", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='voyageai/voyage-4-lite',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Nhận và lưu kết quả
Ailoot Ultra · Biểu diễn nhúng
json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại mọi vector kèm chỉ mục của nó. Số lượng vector phải bằng số lượng đầu vào; số chiều phải nhất quán.
Nếu cần kiểm tra phản hồi gốc
Không có điểm cuối tác vụ embedding nào được bổ sung.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngobject | Loạistring |
Trườngmodel | Loạistring |
Trườngdata[].index | Loạiinteger |
Trườngdata[].embedding | Loạifinite float[] |
Trườngusage | Loạiobject |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, cách biểu diễn tài liệu hoặc giá trị tham số không hợp lệ | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi yêu cầu tạo mới. |
Bí danh
Bí danh mô hình
Ailoot Ultra voyageai/voyage-4-lite
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · VoyageAI by MongoDB: voyage-4-lite
- Có những đầu vào và kết quả nào?
POST /v1/embeddings·voyageai/voyage-4-lite:text,token_ids→embedding- Yêu cầu sử dụng những trường nào?
POST /v1/embeddings·voyageai/voyage-4-lite:model,input,encoding_format,provider- Áp dụng những giới hạn nào?
POST /v1/embeddings·voyageai/voyage-4-lite:ctx:32000;input.budget.maximum:32000(byte UTF8);input.min_items:1