Qwen: Qwen3 Embedding 8B
Qwen3-Embedding-8B chuyển văn bản thành vector ngữ nghĩa cho tìm kiếm đa ngôn ngữ, truy xuất mã, phân loại và phân cụm. Mô hình hỗ trợ độ dài chuỗi 32K token và số chiều embedding tùy chỉnh từ 32 đến 4.096.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
Qwen3-Embedding-8B là mô hình embedding văn bản 8B của Qwen, xây từ mô hình nền Qwen3 dense. Mô hình biểu diễn văn bản bằng vector số thay vì tạo câu trả lời hội thoại. Qwen liệt kê truy xuất văn bản, truy xuất mã, phân loại, phân cụm và khai thác văn bản song ngữ trong các lĩnh vực ứng dụng được hỗ trợ. Hệ thống tìm kiếm có thể dùng vector để so sánh câu hỏi với đoạn liên quan; tập tài liệu có thể dùng để tìm nội dung liên quan ngữ nghĩa hoặc tổ chức bản ghi thành nhóm.
Mô hình cụ thể hỗ trợ độ dài chuỗi 32K token và embedding tối đa 4.096 chiều. Mô hình cũng hỗ trợ số chiều đầu ra do người dùng xác định từ 32 đến 4.096 qua Matryoshka Representation Learning. Điều này khiến độ dài vector là lựa chọn thiết kế có chủ đích: vector ngắn hơn thay đổi kích thước biểu diễn, còn đầu ra đầy đủ giữ số chiều tối đa của mô hình. Giữ số chiều đã chọn nhất quán cho tài liệu và truy vấn được so sánh trong cùng chỉ mục. Qwen3-Embedding-4B là phiên bản riêng có số chiều tối đa khác, không phải nguồn vector có thể thay thế cho bộ sưu tập 8B hiện có.
Nhà phát triển mô tả hỗ trợ hơn 100 ngôn ngữ, gồm ngôn ngữ lập trình, và truy xuất đa ngôn ngữ, xuyên ngôn ngữ cùng mã. Bộ sưu tập thực tế có thể chứa tài liệu ở nhiều ngôn ngữ trong khi truy vấn tìm ý nghĩa liên quan, hoặc đoạn mã nguồn được lập chỉ mục cho câu hỏi ngôn ngữ tự nhiên. Giữ mã định danh, tiêu đề và thuật ngữ lĩnh vực quan trọng trong đầu vào. Với mã, giữ giải thích xung quanh hàm hoặc mô-đun cùng đoạn trích khi bối cảnh đó là phần câu hỏi. Đầu ra vẫn là biểu diễn vector; trả văn bản tài liệu phù hợp là bước tiếp theo của ứng dụng tìm kiếm.
Mô hình nhận biết chỉ dẫn. Qwen khuyến nghị một câu chỉ dẫn phù hợp tác vụ truy xuất và, với sử dụng đa ngôn ngữ, viết chỉ dẫn bằng tiếng Anh. Ví dụ trực tiếp định dạng truy vấn bằng Instruct: rồi mô tả tác vụ, và Query: rồi câu hỏi. Tài liệu truy xuất không cần cùng tiền tố chỉ dẫn trong ví dụ đó. Yêu cầu gốc phù hợp có thể mô tả việc tìm đoạn kỹ thuật giải thích lỗi người dùng, rồi đặt mô tả lỗi cụ thể trong truy vấn. Chỉ dẫn mô tả loại quan hệ ngữ nghĩa mà tìm kiếm nên ưu tiên.
Ví dụ Qwen mã hóa truy vấn và tài liệu riêng, so sánh vector bằng độ tương đồng cosine và cho thấy quy trình cấp thấp gộp trạng thái ẩn của token cuối, chuẩn hóa embedding trước khi so sánh tích vô hướng. Quy trình hữu ích giữ vector từng đoạn gắn với mã định danh nguồn, so sánh truy vấn đã chuẩn bị với vector lưu trữ và trả đoạn tương ứng theo thứ tự tương đồng. Thiết lập cắt ngắn 8.192 token trong ví dụ là thiết lập xử lý đầu vào được chọn, khác độ dài chuỗi 32K được công bố của mô hình. Rà soát nội dung được giữ khi chuẩn bị đầu vào dài.
Mô hình embedding và xếp hạng lại là các thành phần khác nhau trong bản phát hành Qwen. Mô hình embedding biểu diễn một đoạn văn bản và cho phép tìm kiếm tương đồng ban đầu. Reranker riêng đánh giá quan hệ giữa truy vấn và các đoạn ứng viên, có thể tinh chỉnh thứ tự. Qwen mô tả kết hợp hai mô-đun, nhưng Qwen3-Embedding-8B tự nó trả embedding thay vì đánh giá liên quan của reranker hay câu trả lời viết. Với truy xuất rồi trả lời, giữ văn bản nguồn phù hợp và chuyển bằng chứng đó cho giai đoạn trả lời. Chọn và giữ mô hình, số chiều và chỉ dẫn truy vấn nhất quán cho bộ sưu tập được tìm kiếm.
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings qwen/qwen3-embedding-8b
qwen/qwen3-embedding-8bBắt đầu
Qwen3-Embedding-8B chuyển văn bản thành vector ngữ nghĩa cho tìm kiếm đa ngôn ngữ, truy xuất mã, phân loại và phân cụm. Mô hình hỗ trợ độ dài chuỗi 32K token và số chiều embedding tùy chỉnh từ 32 đến 4.096.
- Đầu vào được chấp nhận
- Văn bản · token_ids
- Kết quả
- embedding
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings
- Đầu vào
text,token_ids- Đầu ra
embedding- Ngữ cảnh
- 32.768 tokens
- Định dạng đầu ra
- json
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn qwen/qwen3-embedding-8b | Mặc định— |
Trườnginput | Loạistring|string[]|integer[]|integer[][] | Yêu cầuBắt buộc | Giá trị & giới hạn Số mục tối thiểu: 1 Điều kiện: Lô không rỗng và đồng nhất. ID token là số nguyên không âm. Ngân sách đầu vào: Tối đa: 32.768 · Đơn vị văn bản: byte UTF8 · Đơn vị token: phần tử của mảng token | Mặc định— |
Trườngencoding_format | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn float | Mặc địnhfloat |
Trườngdimensions | Loạiinteger | Yêu cầuKhông hỗ trợ | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườnguser | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngsession_id | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngtrace | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngprovider | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: provider.options bị từ chối | Mặc định— |
Tổ hợp tư liệu đầu vào
text_to_embedding
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, input |
Tham sốinput_shapes | Hợp đồngstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Tham sốencoding_format | Hợp đồngfloat |
Tham sốdimensions_override | Hợp đồngfalse |
Tham sốmax_input_budget_units | Hợp đồng32768 |
Tham sốmultimodal_objects | Hợp đồngfalse |
Tham sốmaterial_types | Hợp đồngtext, token_ids |
Vòng đời: synchronous_json
Giữ lại chỉ mục và số chiều của mọi vector.
Việc mô hình mang tên đa phương thức không có nghĩa là đường dẫn cụ thể này chấp nhận đối tượng ảnh.
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Mức giá tiêu chuẩn Khi chọn chế độ nhanh
- Chế độ Flex
- Mức giá tiêu chuẩn Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Mức giá tiêu chuẩn Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
Mức phí Ailoot
Giá theo cấu hình
| Cấu hình | Biểu mức phí | Phí |
|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Phí Đầu vào · Token đầu vào $0.00002 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Biểu diễn nhúng
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "qwen/qwen3-embedding-8b", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='qwen/qwen3-embedding-8b',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Nhận và lưu kết quả
Ailoot Ultra · Biểu diễn nhúng
json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại mọi vector kèm chỉ mục của nó. Số lượng vector phải bằng số lượng đầu vào; số chiều phải nhất quán.
Nếu cần kiểm tra phản hồi gốc
Không có điểm cuối tác vụ embedding nào được bổ sung.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngobject | Loạistring |
Trườngmodel | Loạistring |
Trườngdata[].index | Loạiinteger |
Trườngdata[].embedding | Loạifinite float[] |
Trườngusage | Loạiobject |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, cách biểu diễn tài liệu hoặc giá trị tham số không hợp lệ | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi yêu cầu tạo mới. |
Bí danh
Bí danh mô hình
Ailoot Ultra qwen/qwen3-embedding-8b
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · Qwen: Qwen3 Embedding 8B
- Có những đầu vào và kết quả nào?
POST /v1/embeddings·qwen/qwen3-embedding-8b:text,token_ids→embedding- Yêu cầu sử dụng những trường nào?
POST /v1/embeddings·qwen/qwen3-embedding-8b:model,input,encoding_format,provider- Áp dụng những giới hạn nào?
POST /v1/embeddings·qwen/qwen3-embedding-8b:ctx:32768;input.budget.maximum:32768(byte UTF8);input.min_items:1