Qwen: Qwen3 Embedding 8B
Qwen3-Embedding-8B 將文字轉成語意向量,用於多語言搜尋、程式碼檢索、分類與分群。它支援 32K token 序列長度,以及 32 至 4,096 的自訂嵌入維度。
關於模型
此說明介紹模型的能力。Ailoot 可用的輸入、輸出與選項,依所選方法列於下方。
Qwen3-Embedding-8B 是 Qwen 的 8B 文字嵌入模型,以稠密 Qwen3 基礎模型建立。它將文字表示為數值向量,不生成對話答案。Qwen 將文字檢索、程式碼檢索、分類、分群及雙語平行文本探勘列為支援應用領域。搜尋系統可使用向量比較問題與相關段落;文件集合可尋找語意相關資料,或將記錄整理成群組。
此確切模型支援 32K token 序列長度及最高 4,096 維嵌入。透過 Matryoshka Representation Learning,也支援 32 至 4,096 的使用者定義輸出維度。向量長度因此是刻意的設計選擇:較短向量改變表示大小,完整輸出則保留模型最大維度。請讓同一索引比較的文件與查詢使用一致的選定維度。Qwen3-Embedding-4B 是最大維度不同的另一版本,不是既有 8B 集合可互換的向量來源。
提供者描述支援超過 100 種語言,包括程式語言,並支援多語言、跨語言及程式碼檢索。實際集合可包含多種語言文件,由查詢尋找相關意義,或索引原始碼段落供自然語言問題使用。請在輸入保留重要識別碼、標題及領域術語。程式碼的函式或模組周邊解釋若是問題的一部分,請和摘錄一起保留。輸出仍是向量表示;回傳相符文件文字是搜尋應用程式的下一步。
模型能理解指示。Qwen 建議為檢索任務提供一個量身設定的單句指示;多語言使用時,建議以英文撰寫。直接範例將查詢格式設為 Instruct: 後接任務說明,Query: 後接問題。該範例的檢索文件不需要相同指示前綴。適合的獨立簡述可說明要尋找解釋使用者錯誤的技術段落,再於查詢放入具體錯誤描述。指示描述搜尋應優先考慮哪種語意關係。
Qwen 範例分別編碼查詢與文件,以餘弦相似度比較向量,也示範較低層程序:池化最後一個 token 的隱藏狀態,正規化嵌入後再以內積比較。實用流程讓每段向量連結至來源識別碼,將準備好的查詢與儲存向量比較,再按相似度回傳對應段落。範例的 8,192 token 截斷設定是選定的輸入處理設定,不同於模型記載的 32K 序列長度。準備長輸入時,請檢查保留下來的內容。
Qwen 發布資料中的嵌入與重排模型是不同元件。嵌入模型表示一段文字,支援初步相似度搜尋。另一個重排模型評估查詢與候選段落關係,並可調整順序。Qwen 描述結合兩個模組,但 Qwen3-Embedding-8B 本身回傳嵌入,不回傳重排模型的相關性判斷或書面答案。檢索後若需回答,請保留相符來源文字,將證據交給回答階段。請為要搜尋的集合選擇並維持一致的模型、維度及查詢指示。
Ailoot Ultra · 嵌入向量 POST /v1/embeddings qwen/qwen3-embedding-8b
qwen/qwen3-embedding-8b入門
Qwen3-Embedding-8B 將文字轉成語意向量,用於多語言搜尋、程式碼檢索、分類與分群。它支援 32K token 序列長度,以及 32 至 4,096 的自訂嵌入維度。
- 接受的輸入
- 文字 · token_ids
- 結果
- embedding
Ailoot 可用 · 輸入與方法
Ailoot Ultra · 嵌入向量 POST /v1/embeddings
- 輸入
text,token_ids- 輸出
embedding- 上下文
- 32,768 tokens
- 輸出格式
- json
| 欄位 | 類型 | 要求 | 值與限制 | 預設值 |
|---|---|---|---|---|
欄位model | 類型string | 要求必填 | 值與限制 qwen/qwen3-embedding-8b | 預設值— |
欄位input | 類型string|string[]|integer[]|integer[][] | 要求必填 | 值與限制 項目數下限: 1 條件: 批次不得為空,且各項目類型須一致。Token ID 須為非負整數。 輸入額度: 最大值: 32,768 · 文字單位: UTF8 位元組 · Token 單位: token 陣列元素 | 預設值— |
欄位encoding_format | 類型string | 要求選填 | 值與限制 float | 預設值float |
欄位dimensions | 類型integer | 要求不支援 | 值與限制 最小值: 1 | 預設值— |
欄位user | 類型json_value | 要求選填 | 值與限制 條件: 來源允許此 JSON 中繼資料欄位;確切的上游語意依模型而異。 | 預設值— |
欄位session_id | 類型json_value | 要求選填 | 值與限制 條件: 來源允許此 JSON 中繼資料欄位;確切的上游語意依模型而異。 | 預設值— |
欄位trace | 類型json_value | 要求選填 | 值與限制 條件: 來源允許此 JSON 中繼資料欄位;確切的上游語意依模型而異。 | 預設值— |
欄位provider | 類型object | 要求選填 | 值與限制 條件: provider.options 遭拒絕 | 預設值— |
輸入素材組合
text_to_embedding
方法參數與生命週期
| 參數 | 規格 |
|---|---|
參數content_type | 規格application/json |
參數required | 規格model, input |
參數input_shapes | 規格string, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
參數encoding_format | 規格float |
參數dimensions_override | 規格false |
參數max_input_budget_units | 規格32768 |
參數multimodal_objects | 規格false |
參數material_types | 規格text, token_ids |
生命週期: synchronous_json
保留每個向量的索引與維度。
即使模型名稱標示為多模態,此指定路徑也不接受圖片物件。
方案
費率資訊不會增加請求選項。支援的參數列於所選方法中。
- 快速模式
- 標準費率 選取快速模式時
- flex 模式
- 標準費率 選取 flex 模式時
- 最高推理強度
- 標準費率 最高推理強度採用 default 調整值時
Ailoot 費率
各設定的價格
| 設定 | 費率表 | 費用 |
|---|---|---|
| 設定詞元基本費率 | 費率表基本費率 | 費用 輸入 · 輸入 Token $0.00002 / 1K Token 輸出 · 輸出 Token $0 / 1K Token 輸入 · 讀取快取 — / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取,1 小時 — / 1K Token |
Ailoot 會在請求前預留估算金額。取得結果後,依實測用量結算最終費用。串流結算採用最終用量紀錄。預留金額與結算的運作方式 →
請求範例
Ailoot Ultra · 嵌入向量
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "qwen/qwen3-embedding-8b", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='qwen/qwen3-embedding-8b',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
接收並儲存結果
Ailoot Ultra · 嵌入向量
json
保留所有已完成的結果
請保留所有完整傳回的回應、檔案與內容區塊。
保留每個向量及其索引。向量數量必須與輸入數量相同,且維度必須一致。
需要檢查原始回應時
此流程未引入嵌入向量任務端點。
回應欄位
| 欄位 | 類型 |
|---|---|
欄位object | 類型string |
欄位model | 類型string |
欄位data[].index | 類型integer |
欄位data[].embedding | 類型finite float[] |
欄位usage | 類型object |
錯誤與後續步驟
| 回應 | 條件 | 下一步 |
|---|---|---|
回應400 · invalid_request_error | 條件必要欄位、素材表示方式或參數值無效 | 下一步提出新的建立請求前,先修正指定欄位。 |
別名
模型別名
Ailoot Ultra qwen/qwen3-embedding-8b
方法路徑別名
請使用上方列出的 API 方法路徑。
相關呼叫用 ID
FAQ · Qwen: Qwen3 Embedding 8B
- 可以使用哪些輸入與結果?
POST /v1/embeddings·qwen/qwen3-embedding-8b:text,token_ids→embedding- 請求使用哪些欄位?
POST /v1/embeddings·qwen/qwen3-embedding-8b:model,input,encoding_format,provider- 適用哪些限制?
POST /v1/embeddings·qwen/qwen3-embedding-8b:ctx:32768;input.budget.maximum:32768(UTF8 位元組);input.min_items:1