VoyageAI by MongoDB: voyage-4
voyage-4 tạo embedding văn bản cho truy xuất đa dụng và đa ngôn ngữ, với không gian vector chung trong họ Voyage 4. Mô hình hỗ trợ đầu vào 32.000 token, đầu ra có thể chọn từ 256–2048 chiều và vai trò query/document cho tìm kiếm cùng RAG.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
voyage-4 là mô hình embedding văn bản cỡ trung của Voyage AI trong họ Voyage 4. Mô hình chuyển văn bản truy vấn và tài liệu thành vector số cho truy xuất đa dụng và đa ngôn ngữ. Khả năng đặc trưng của họ là không gian embedding chung: voyage-4, voyage-4-large, voyage-4-lite và voyage-4-nano tạo biểu diễn tương thích, cho phép phía truy vấn và tài liệu của nhiệm vụ tìm kiếm dùng các mô hình khác nhau trong họ.
Không gian chung và truy xuất bất đối xứng
Nhà sản xuất gọi việc dùng mô hình truy vấn và kho tài liệu khác nhau là truy xuất bất đối xứng. Một mẫu được mô tả là chuẩn bị kho bằng voyage-4-large rồi tìm bằng embedding truy vấn voyage-4. Kho được tạo embedding một lần hoặc khi tài liệu nguồn thay đổi, còn vector truy vấn được tạo khi có lượt tìm kiếm. Không gian chung cho phép thay lựa chọn mô hình phía truy vấn trong họ mà không cần tạo lại embedding kho chỉ vì chuyển đổi đó.
Giữ số chiều đầu ra và biểu diễn tương thích giữa các vector được so sánh. Tuyên bố không gian chung nói về các mô hình văn bản Voyage 4 có tên; hai mô hình không liên quan trả về mảng cùng độ dài không đủ xác lập điều đó. Vì vậy, nhiệm vụ thực tế có thể dùng voyage-4 ở cả hai phía tìm kiếm hoặc dùng vector truy vấn của nó với chỉ mục tài liệu voyage-4-large hiện có khi thiết lập biểu diễn khớp.
Vai trò query và document
Với truy xuất, Voyage khuyến nghị xác định văn bản đầu vào là query hoặc document. Tùy chọn vai trò đầu vào cung cấp chỉ dẫn truy xuất tương ứng trước khi vector hóa. Chuẩn bị các đoạn trong kho làm document và cách diễn đạt tìm kiếm của người dùng làm query, giữ văn bản nguồn thực tế cùng định danh bên cạnh từng vector được lưu.
Ví dụ, bộ sưu tập tìm kiến thức có thể lập chỉ mục chỉ dẫn kỹ thuật và giải thích sản phẩm. Truy vấn về điều xảy ra sau lần nhập dữ liệu thất bại nên trả về đoạn nguồn mô tả hành vi đó. Giữ tiêu đề, điều kiện liên quan và vị trí nguồn cùng đoạn để kết quả tìm kiếm có thể được kiểm tra hoặc dùng bởi giai đoạn trả lời RAG sau. Embedding là biểu diễn truy xuất bằng số; đoạn văn bên dưới là bằng chứng dùng ở giai đoạn sau đó.
Số chiều và kiểu dữ liệu đầu ra
Cửa sổ ngữ cảnh cho từng văn bản được mô tả là 32.000 token. Có thể chọn 256, 512, 1024 và 2048 chiều, mặc định 1024. Học Matryoshka cung cấp các kích thước biểu diễn lồng nhau. Đầu ra có thể dùng dấu phẩy động 32 bit, số nguyên 8 bit có dấu hoặc không dấu, hoặc giá trị nhị phân đóng gói, nhờ cách chuẩn bị của họ có tính đến lượng tử hóa.
Với đầu ra nhị phân đóng gói, mỗi byte trả về lưu tám bit embedding, nên độ dài danh sách byte bằng một phần tám số chiều đã chọn. Số byte và số chiều embedding có ý nghĩa khác nhau. Chọn biểu diễn mà chỉ mục tìm kiếm diễn giải được và kiểm tra độ liên quan của ứng viên trên các câu hỏi, ngôn ngữ bộ sưu tập thực sự dùng trước khi chọn cấu hình nén.
Độ dài đầu vào, batch và cắt
Hướng dẫn embedding văn bản hiện tại của nhà sản xuất cho phép tối đa 1.000 chuỗi và tổng 320.000 token trong yêu cầu voyage-4. Hạn mức batch tách biệt với cửa sổ 32.000 token cho mỗi đầu vào. Mặc định bật cắt: văn bản quá dài được rút ngắn để vừa. Nếu tắt cắt, mục quá dài sẽ tạo lỗi.
Với báo cáo dài hoặc bản chép lời, chuẩn bị các đoạn có chứa câu trả lời có chủ đích thay vì dựa vào việc cắt ở ranh giới đầu vào. Giữ mỗi đoạn liên kết với tài liệu cha và phiên bản nguồn. Đầu vào embedding voyage-4 thông thường là từng văn bản; xử lý nhóm đoạn theo ngữ cảnh thuộc các mô hình embedding theo ngữ cảnh được mô tả riêng.
Dùng kết quả truy xuất
Lưu vector cùng văn bản đoạn và định danh nguồn ổn định, so sánh từng vector truy vấn với các vector tài liệu tương thích rồi trả về đoạn ứng viên. Bản phát hành của họ đánh giá truy xuất trên tài liệu gồm tài liệu kỹ thuật, hội thoại, tài liệu dài, mã, luật, tài chính và văn bản web. Bộ xếp hạng lại riêng có thể tinh chỉnh ứng viên và giai đoạn trả lời sau có thể dùng văn bản của chúng. Đánh giá các đoạn trả về theo nhiệm vụ; tương thích không gian chung cho phép kết hợp mô hình, còn mức hữu ích của kết quả vẫn phụ thuộc tài liệu nguồn và câu hỏi.
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings voyageai/voyage-4
voyageai/voyage-4Bắt đầu
voyage-4 tạo embedding văn bản cho truy xuất đa dụng và đa ngôn ngữ, với không gian vector chung trong họ Voyage 4. Mô hình hỗ trợ đầu vào 32.000 token, đầu ra có thể chọn từ 256–2048 chiều và vai trò query/document cho tìm kiếm cùng RAG.
- Đầu vào được chấp nhận
- Văn bản · token_ids
- Kết quả
- embedding
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings
- Đầu vào
text,token_ids- Đầu ra
embedding- Ngữ cảnh
- 32.000 tokens
- Định dạng đầu ra
- json
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn voyageai/voyage-4 | Mặc định— |
Trườnginput | Loạistring|string[]|integer[]|integer[][] | Yêu cầuBắt buộc | Giá trị & giới hạn Số mục tối thiểu: 1 Điều kiện: Lô không rỗng và đồng nhất. ID token là số nguyên không âm. Ngân sách đầu vào: Tối đa: 32.000 · Đơn vị văn bản: byte UTF8 · Đơn vị token: phần tử của mảng token | Mặc định— |
Trườngencoding_format | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn float | Mặc địnhfloat |
Trườngdimensions | Loạiinteger | Yêu cầuKhông hỗ trợ | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườnguser | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngsession_id | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngtrace | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngprovider | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: provider.options bị từ chối | Mặc định— |
Tổ hợp tư liệu đầu vào
text_to_embedding
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, input |
Tham sốinput_shapes | Hợp đồngstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Tham sốencoding_format | Hợp đồngfloat |
Tham sốdimensions_override | Hợp đồngfalse |
Tham sốmax_input_budget_units | Hợp đồng32000 |
Tham sốmultimodal_objects | Hợp đồngfalse |
Tham sốmaterial_types | Hợp đồngtext, token_ids |
Vòng đời: synchronous_json
Giữ lại chỉ mục và số chiều của mọi vector.
Việc mô hình mang tên đa phương thức không có nghĩa là đường dẫn cụ thể này chấp nhận đối tượng ảnh.
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Mức giá tiêu chuẩn Khi chọn chế độ nhanh
- Chế độ Flex
- Mức giá tiêu chuẩn Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Mức giá tiêu chuẩn Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
Mức phí Ailoot
Giá theo cấu hình
| Cấu hình | Biểu mức phí | Phí |
|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Phí Đầu vào · Token đầu vào $0.00012 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Biểu diễn nhúng
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "voyageai/voyage-4", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='voyageai/voyage-4',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Nhận và lưu kết quả
Ailoot Ultra · Biểu diễn nhúng
json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại mọi vector kèm chỉ mục của nó. Số lượng vector phải bằng số lượng đầu vào; số chiều phải nhất quán.
Nếu cần kiểm tra phản hồi gốc
Không có điểm cuối tác vụ embedding nào được bổ sung.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngobject | Loạistring |
Trườngmodel | Loạistring |
Trườngdata[].index | Loạiinteger |
Trườngdata[].embedding | Loạifinite float[] |
Trườngusage | Loạiobject |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, cách biểu diễn tài liệu hoặc giá trị tham số không hợp lệ | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi yêu cầu tạo mới. |
Bí danh
Bí danh mô hình
Ailoot Ultra voyageai/voyage-4
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · VoyageAI by MongoDB: voyage-4
- Có những đầu vào và kết quả nào?
POST /v1/embeddings·voyageai/voyage-4:text,token_ids→embedding- Yêu cầu sử dụng những trường nào?
POST /v1/embeddings·voyageai/voyage-4:model,input,encoding_format,provider- Áp dụng những giới hạn nào?
POST /v1/embeddings·voyageai/voyage-4:ctx:32000;input.budget.maximum:32000(byte UTF8);input.min_items:1