Voyage AI: Voyage 3.5 Lite
Voyage 3.5 Lite tạo embedding văn bản cho tìm kiếm ngữ nghĩa, chú trọng độ trễ và hiệu quả truy xuất. Mô hình hỗ trợ cửa sổ ngữ cảnh 32 000 token, bốn kích thước vector và đầu ra lượng tử hóa cho tìm kiếm cơ sở tri thức, đối chiếu tài liệu và RAG.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
Voyage 3.5 Lite chuyển văn bản thành embedding để truy xuất theo ngữ nghĩa. Voyage AI mô tả phiên bản này được tối ưu về độ trễ và chi phí, phù hợp để cân nhắc cho trải nghiệm tìm kiếm thường xuyên tạo embedding từ câu hỏi đến hoặc duy trì tập lớn các đoạn có thể tìm kiếm. Đầu ra là biểu diễn số của văn bản được cung cấp, để ứng dụng truy xuất so sánh với vector lưu cho tài liệu nguồn.
Bắt đầu bằng tập tài liệu có ranh giới phù hợp với nhiệm vụ người dùng. Với trung tâm trợ giúp, một đoạn có thể giải thích quy trình cùng điều kiện tiên quyết. Với kho thảo luận, giữ đủ chuỗi trả lời để nhận biết câu trả lời đang nói đến điều gì. Kết quả cần dẫn đến phần bằng chứng đọc được, vì vậy hãy lưu văn bản gốc, liên kết nguồn ổn định và siêu dữ liệu tài liệu cùng từng embedding.
Viết truy vấn thử nghiệm theo cách người dùng đặt câu hỏi. «Tôi đổi địa chỉ trên hóa đơn ở đâu?» là phép kiểm tra tìm kiếm hữu ích hơn việc chép tiêu đề bài liên quan. Bao gồm câu hỏi ngắn, cách diễn đạt lại, chữ viết tắt chuyên ngành và trường hợp đề cập nhiều khái niệm. Xem các đoạn được trả về và xác định việc bỏ lỡ kết quả đến từ nội dung nguồn còn thiếu, ranh giới đoạn chưa phù hợp hay lựa chọn truy xuất.
Nhà sản xuất tài liệu hóa cửa sổ ngữ cảnh 32 000 token. Dung lượng này cho phép đầu vào văn bản đáng kể, còn độ dài đoạn vẫn là lựa chọn thiết kế cho trải nghiệm tìm kiếm. Giữ câu trả lời ngắn gọn cùng các điều kiện cần thiết; tránh tách định nghĩa khỏi thuật ngữ mà nó giải thích. Trích xuất văn bản đọc được từ nguồn và bỏ điều hướng lặp trên mọi trang khi nó che khuất thông tin người dùng muốn tìm.
Voyage 3.5 Lite hỗ trợ 2 048, 1 024, 512 và 256 chiều. Các biểu diễn dấu phẩy động, số nguyên tám bit và nhị phân cung cấp thêm lựa chọn cho chỉ mục vector. Thử biểu diễn nhỏ hơn hoặc đã lượng tử hóa trên cùng câu hỏi và kho văn bản dùng cho mốc so sánh ở độ chính xác đầy đủ. Ghi lại mô hình, số chiều và kiểu dữ liệu đã chọn cùng chỉ mục để vector truy vấn dùng thiết lập tương ứng.
Trong quy trình truy xuất của nhà sản xuất, xác định các đoạn được lập chỉ mục là tài liệu và lượt tìm kiếm đến là truy vấn. Giữ ánh xạ từ từng vector trả về đến văn bản đầu vào khi xử lý nhiều đoạn cùng lúc. Thao tác embedding thành công cung cấp vector; ứng dụng vẫn cần đặt chúng vào đúng bản ghi và cung cấp đoạn nguồn khi người dùng mở kết quả.
Dùng phiên bản này cho tập hỗ trợ có thể tìm kiếm, công cụ tìm tài liệu hoặc bước truy xuất của trợ lý. Với tài liệu đa ngôn ngữ, đánh giá những tổ hợp ngôn ngữ có trong tập của mình, thay vì chỉ dựa vào một thử nghiệm tiếng Anh. Giữ quyền truy cập và siêu dữ liệu ngôn ngữ sẵn có cho ứng dụng để lọc và hiển thị sự phù hợp liên quan trong đúng ngữ cảnh.
Với tập đang tăng trưởng, cập nhật vector của các đoạn đã đổi cùng phiên bản nguồn. Giữ tập câu hỏi thực tế gồm các trường hợp khớp dễ, cách diễn đạt lại khó và tài liệu tương tự có câu trả lời khác nhau. Đo chất lượng truy xuất và hành vi của toàn bộ quy trình tìm kiếm dưới tải dự kiến. Cách nhà sản xuất định vị bản Lite giúp chọn ứng viên; số chiều, chiến lược chia đoạn và thiết lập chỉ mục cuối cùng dựa trên kết quả với tài liệu của mình.
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings voyage-3.5-lite
voyage-3.5-liteBắt đầu
Voyage 3.5 Lite tạo embedding văn bản cho tìm kiếm ngữ nghĩa, chú trọng độ trễ và hiệu quả truy xuất. Mô hình hỗ trợ cửa sổ ngữ cảnh 32 000 token, bốn kích thước vector và đầu ra lượng tử hóa cho tìm kiếm cơ sở tri thức, đối chiếu tài liệu và RAG.
- Đầu vào được chấp nhận
- Văn bản
- Kết quả
- embedding
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings
- Đầu vào
text- Đầu ra
embedding
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn voyage-3.5-lite Điều kiện: Dùng bộ chọn mô hình Ailoot chính xác. | Mặc định— |
Trườnginput | Loạistring or array<string> | Yêu cầuBắt buộc | Giá trị & giới hạn Điều kiện: Một văn bản hoặc danh sách văn bản; giữ lại một vectơ cùng chỉ số tương ứng cho mỗi mục dữ liệu được trả về. | Mặc định— |
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, input |
Tham sốoptional | Hợp đồng |
Tham sốmaterial_types | Hợp đồngtext |
Tham sốconditions | Hợp đồngGửi văn bản với mô hình đã chọn; giữ lại mọi vectơ được trả về và chỉ số tương ứng. |
Vòng đời: synchronous
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Chưa chỉ định Khi chọn chế độ nhanh
- Chế độ Flex
- Chưa chỉ định Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Chưa chỉ định Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
Mức phí Ailoot
Giá theo cấu hình
| Cấu hình | Biểu mức phí | Phí |
|---|---|---|
| Cấu hìnhĐơn giá token cơ bản | Biểu mức phíMức phí cơ bản | Phí Đầu vào · Token đầu vào $0.0001 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Biểu diễn nhúng
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
cat > request.json <<'JSON'
{
"model": "voyage-3.5-lite",
"input": "The quick brown fox jumps over the lazy dog"
}
JSON
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o embeddings.json
# Keep every data item and its index, the full usage object and response headers.
Nhận và lưu kết quả
Bí danh
Bí danh mô hình
Ailoot Ultra voyage-3.5-lite
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · Voyage AI: Voyage 3.5 Lite
- Có những đầu vào và kết quả nào?
POST /v1/embeddings·voyage-3.5-lite:text→embedding- Yêu cầu sử dụng những trường nào?
POST /v1/embeddings·voyage-3.5-lite:model,input