Perplexity: Embed V1 4B
Perplexity pplx-embed-v1-4B mã hóa văn bản độc lập thành vector truy xuất 2560 chiều với ngữ cảnh 32K. Mô hình không cần tiền tố chỉ dẫn và trực tiếp tạo biểu diễn nhúng INT8 chưa chuẩn hóa, được so sánh bằng độ tương đồng cosin.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
pplx-embed-v1-4B là phiên bản embedding văn bản độc lập lớn hơn của Perplexity trong họ v1. Mô hình biểu diễn truy vấn hoặc tài liệu thành vector 2560 chiều cho tìm kiếm ngữ nghĩa và truy xuất. Nhà sản xuất xây dựng họ này trên Qwen3 với tiền huấn luyện tiếp tục bằng khuếch tán và dùng phép gộp trung bình cho biểu diễn văn bản. Bộ mã hóa độc lập này khác với pplx-embed-context-v1, vốn biểu diễn các đoạn tài liệu bằng ngữ cảnh xung quanh.
Tạo embedding trực tiếp từ văn bản thực tế
Mô hình không yêu cầu chuỗi chỉ dẫn hoặc tiền tố query/passage. Chuẩn bị văn bản cần biểu diễn thay vì thêm quy ước vai trò mượn từ họ khác. Bộ sưu tập tìm kiếm có thể chứa tài liệu nguồn, đoạn tập trung hoặc bản ghi văn bản ngắn. Giữ cách diễn đạt gốc và định danh từng mục bên cạnh vector để kết quả truy xuất vẫn đọc được và truy vết được.
Một nhiệm vụ thực tế là truy xuất phần giải thích kỹ thuật cho câu hỏi về các điều kiện của nó. Giữ tiêu đề phần, quy tắc và ngoại lệ cùng nhau. Cách diễn đạt truy vấn được tạo embedding độc lập, sau đó so sánh với các biểu diễn kho văn bản đã chuẩn bị. Giai đoạn RAG tiếp theo dùng văn bản đoạn trả về, không phải chính vector, làm tài liệu nguồn.
Biểu diễn gốc và so sánh
Nhà sản xuất nêu rõ các embedding gốc chưa chuẩn hóa và được lượng tử hóa INT8. So sánh chúng bằng độ tương đồng cosine. Tích vô hướng thô trên các giá trị chưa chuẩn hóa này không tương đương phép so sánh cosine được tài liệu mô tả. Vì vậy, loại biểu diễn và hàm tương đồng cần được xem xét cùng nhau khi chọn cách chỉ mục tìm kiếm lưu và so sánh đầu ra.
Thẻ mô hình còn mô tả đầu ra nhị phân và đánh dấu hỗ trợ biểu diễn Matryoshka. Các thành phần nhị phân và cách lưu đóng gói của chúng khác với mảng số dấu phẩy động thông thường, nên chỉ mục phải diễn giải đúng biểu diễn được chọn. Số chiều embedding đầy đủ mô tả các thành phần biểu diễn, không phải số byte trong mọi cách mã hóa. Giữ số chiều và kiểu đầu ra nhất quán giữa phía truy vấn và tài liệu.
Độ dài và ranh giới tài liệu
Ngữ cảnh công bố của mô hình là 32K. Điều này cho phép biểu diễn lượng văn bản đáng kể, nhưng mức chia đoạn vẫn cần theo nội dung mà tìm kiếm phải trả về. Một phần hoàn chỉnh có thể giữ định nghĩa cùng các điều kiện và giới hạn đi kèm; trích đoạn tập trung có thể chỉ thẳng tới chỉ dẫn. Nên chuẩn bị tài liệu quá lớn theo cửa sổ đầu vào đã chọn thay vì cho rằng phần cuối bị bỏ vẫn được biểu diễn.
Lưu định danh tài liệu cha và phiên bản nguồn bên ngoài vector. Nếu văn bản thay đổi, cập nhật biểu diễn kho văn bản tương ứng và giữ liên kết với nguồn mới. Với bộ sưu tập chứa nhiều ngôn ngữ, kiểm tra câu hỏi thực tế và đoạn ứng viên trong tập ngôn ngữ mục tiêu thay vì suy ra độ liên quan ngang nhau chỉ từ nhãn đa ngôn ngữ.
Phiên bản độc lập và theo ngữ cảnh
Mô hình v1-4B tạo embedding độc lập cho mỗi văn bản được cung cấp. Thêm nhiều chuỗi vào một batch không biến nó thành bộ mã hóa đoạn context-v1 riêng. Khi tài liệu xung quanh cần định hình biểu diễn từng đoạn, nhiệm vụ đó thuộc phiên bản theo ngữ cảnh với cách chuẩn bị riêng.
pplx-embed-v1-0.6B nhỏ hơn trả về 1024 chiều, còn phiên bản 4B này trả về 2560. Giữ định danh chính xác và biểu diễn chỉ mục riêng biệt trừ khi có lộ trình tương thích được tài liệu xác lập. Kết quả hữu ích ở đây là vector truy vấn hoặc văn bản nguồn độc lập, với phép so sánh cosine và biểu diễn lượng tử hóa đã chọn được ghi lại cho tác vụ truy xuất.
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings perplexity/pplx-embed-v1-4b
perplexity/pplx-embed-v1-4bBắt đầu
Perplexity pplx-embed-v1-4B mã hóa văn bản độc lập thành vector truy xuất 2560 chiều với ngữ cảnh 32K. Mô hình không cần tiền tố chỉ dẫn và trực tiếp tạo biểu diễn nhúng INT8 chưa chuẩn hóa, được so sánh bằng độ tương đồng cosin.
- Đầu vào được chấp nhận
- Văn bản · token_ids
- Kết quả
- embedding
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings
- Đầu vào
text,token_ids- Đầu ra
embedding- Ngữ cảnh
- 32.000 tokens
- Định dạng đầu ra
- json
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn perplexity/pplx-embed-v1-4b | Mặc định— |
Trườnginput | Loạistring|string[]|integer[]|integer[][] | Yêu cầuBắt buộc | Giá trị & giới hạn Số mục tối thiểu: 1 Điều kiện: Lô không rỗng và đồng nhất. ID token là số nguyên không âm. Ngân sách đầu vào: Tối đa: 32.000 · Đơn vị văn bản: byte UTF8 · Đơn vị token: phần tử của mảng token | Mặc định— |
Trườngencoding_format | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn float | Mặc địnhfloat |
Trườngdimensions | Loạiinteger | Yêu cầuKhông hỗ trợ | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườnguser | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngsession_id | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngtrace | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngprovider | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: provider.options bị từ chối | Mặc định— |
Tổ hợp tư liệu đầu vào
text_to_embedding
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, input |
Tham sốinput_shapes | Hợp đồngstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Tham sốencoding_format | Hợp đồngfloat |
Tham sốdimensions_override | Hợp đồngfalse |
Tham sốmax_input_budget_units | Hợp đồng32000 |
Tham sốmultimodal_objects | Hợp đồngfalse |
Tham sốmaterial_types | Hợp đồngtext, token_ids |
Vòng đời: synchronous_json
Giữ lại chỉ mục và số chiều của mọi vector.
Việc mô hình mang tên đa phương thức không có nghĩa là đường dẫn cụ thể này chấp nhận đối tượng ảnh.
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Mức giá tiêu chuẩn Khi chọn chế độ nhanh
- Chế độ Flex
- Mức giá tiêu chuẩn Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Mức giá tiêu chuẩn Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
Mức phí Ailoot
Giá theo cấu hình
| Cấu hình | Biểu mức phí | Phí |
|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Phí Đầu vào · Token đầu vào $0.00006 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Biểu diễn nhúng
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "perplexity/pplx-embed-v1-4b", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='perplexity/pplx-embed-v1-4b',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Nhận và lưu kết quả
Ailoot Ultra · Biểu diễn nhúng
json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại mọi vector kèm chỉ mục của nó. Số lượng vector phải bằng số lượng đầu vào; số chiều phải nhất quán.
Nếu cần kiểm tra phản hồi gốc
Không có điểm cuối tác vụ embedding nào được bổ sung.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngobject | Loạistring |
Trườngmodel | Loạistring |
Trườngdata[].index | Loạiinteger |
Trườngdata[].embedding | Loạifinite float[] |
Trườngusage | Loạiobject |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, cách biểu diễn tài liệu hoặc giá trị tham số không hợp lệ | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi yêu cầu tạo mới. |
Bí danh
Bí danh mô hình
Ailoot Ultra perplexity/pplx-embed-v1-4b
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · Perplexity: Embed V1 4B
- Có những đầu vào và kết quả nào?
POST /v1/embeddings·perplexity/pplx-embed-v1-4b:text,token_ids→embedding- Yêu cầu sử dụng những trường nào?
POST /v1/embeddings·perplexity/pplx-embed-v1-4b:model,input,encoding_format,provider- Áp dụng những giới hạn nào?
POST /v1/embeddings·perplexity/pplx-embed-v1-4b:ctx:32000;input.budget.maximum:32000(byte UTF8);input.min_items:1