VoyageAI by MongoDB: voyage-4-lite
Voyage AI voyage-4-lite 是 Voyage 4 家族中以低延遲為導向的文字嵌入版本。它支援 32,000 token 輸入、四種向量維度及量化表示,並具有與其他 Voyage 4 文字模型相容的共用嵌入空間。
關於模型
此說明介紹模型的能力。Ailoot 可用的輸入、輸出與選項,依所選方法列於下方。
voyage-4-lite 是 Voyage AI 的 Voyage 4 家族中以低延遲為導向的文字嵌入模型。它將查詢與文件表示為數值向量,用於通用檢索。其家族特色是與 voyage-4、voyage-4-large、voyage-4-nano 共用嵌入空間,讓查詢與文件模型可以分別選擇。
從檢索角色開始
請將使用者的資訊需求準備為查詢,將可搜尋資料準備為文件。Voyage 建議檢索時使用 query/document 輸入型別;公開方式會在文字向量化時加入對應檢索指示。
員工手冊集合中,詢問未使用休假如何結轉至下一期間的查詢,應與具體政策章節比較。索引段落請保留規則、條件及相關例外。請將原始文件與章節識別碼和向量一起保留,讓應用程式回傳實際政策文字。
未指定輸入型別時會直接表示文字,query/document 角色則為檢索調整表示。製造商說明,有無角色設定產生的嵌入彼此相容,但維持一致的準備政策,會讓資料集合更容易評估。
Voyage 4 文字家族的共用空間
Voyage 明確記載非對稱檢索流程:文件可由 voyage-4-large 編碼,再以 voyage-4-lite 的查詢向量搜尋。這是家族層級的相容性說明,不是因為兩個模型回傳相同向量長度而推導的結論。
請讓資料集合端與查詢端選定的向量維度和表示一致。共用空間也允許在這個具名 Voyage 4 文字家族內更換查詢模型,而不重新向量化既有文件。選擇查詢版本時,請以代表性問題評估產生的排名。
Lite 版本的角色是較小、重視延遲的查詢與文字嵌入選項。製造商特別將混合專家架構歸屬於 voyage-4-large;家族名稱不能證明 Lite 也使用該架構。
上下文、維度與結果格式
公開上下文長度為每段文字 32,000 token。預設向量為 1024 維,透過 Matryoshka 學習也提供 256、512、2048 維。製造商的文字嵌入流程記載 voyage-4-lite 可使用浮點數、有號與無號 8 位元整數,以及位元打包二進位表示。
對標準浮點向量,Voyage 相似度指南描述單位長度嵌入,因此餘弦與內積相似度等價。量化形式需要對應表示處理。例如,位元打包二進位清單在每個位元組儲存八個嵌入位元,因此清單長度不同於語意向量維度。
Voyage 文件所載批次方式中,這個確切 Lite 版本的清單最多包含 1000 段文字與總計一百萬 token。預設超長處理會將個別文字截斷至上下文邊界;另一個設定則拒絕超長輸入。批次限制與單段文字限制是不同的。
準備與檢視檢索結果
請將長來源資料拆成語意連貫、可作為證據回傳的章節。32,000 token 上下文允許長輸入,但有用的檢索單位仍應指向相關來源章節。請納入解讀規則所需的標題或識別細節。
RAG 請檢索候選章節,將原文連同來源關聯交給答案撰寫階段。嵌入模型產生向量,不生成政策答案。相似度依選定模型與比較設定排序候選項;請在實際段落中審查所問的確切條件。
voyage-4-lite 有用的版本專屬組合,是低延遲導向的文字模型、彈性表示、32,000 token 上下文,以及 Voyage 4 文字家族內有文件記載的相容性。請將這些特性和索引資料集合一起保留,並以有來源依據的檢索結果支援周邊應用程式。
Ailoot Ultra · 嵌入向量 POST /v1/embeddings voyageai/voyage-4-lite
voyageai/voyage-4-lite入門
Voyage AI voyage-4-lite 是 Voyage 4 家族中以低延遲為導向的文字嵌入版本。它支援 32,000 token 輸入、四種向量維度及量化表示,並具有與其他 Voyage 4 文字模型相容的共用嵌入空間。
- 接受的輸入
- 文字 · token_ids
- 結果
- embedding
Ailoot 可用 · 輸入與方法
Ailoot Ultra · 嵌入向量 POST /v1/embeddings
- 輸入
text,token_ids- 輸出
embedding- 上下文
- 32,000 tokens
- 輸出格式
- json
| 欄位 | 類型 | 要求 | 值與限制 | 預設值 |
|---|---|---|---|---|
欄位model | 類型string | 要求必填 | 值與限制 voyageai/voyage-4-lite | 預設值— |
欄位input | 類型string|string[]|integer[]|integer[][] | 要求必填 | 值與限制 項目數下限: 1 條件: 批次不得為空,且各項目類型須一致。Token ID 須為非負整數。 輸入額度: 最大值: 32,000 · 文字單位: UTF8 位元組 · Token 單位: token 陣列元素 | 預設值— |
欄位encoding_format | 類型string | 要求選填 | 值與限制 float | 預設值float |
欄位dimensions | 類型integer | 要求不支援 | 值與限制 最小值: 1 | 預設值— |
欄位user | 類型json_value | 要求選填 | 值與限制 條件: 來源允許此 JSON 中繼資料欄位;確切的上游語意依模型而異。 | 預設值— |
欄位session_id | 類型json_value | 要求選填 | 值與限制 條件: 來源允許此 JSON 中繼資料欄位;確切的上游語意依模型而異。 | 預設值— |
欄位trace | 類型json_value | 要求選填 | 值與限制 條件: 來源允許此 JSON 中繼資料欄位;確切的上游語意依模型而異。 | 預設值— |
欄位provider | 類型object | 要求選填 | 值與限制 條件: provider.options 遭拒絕 | 預設值— |
輸入素材組合
text_to_embedding
方法參數與生命週期
| 參數 | 規格 |
|---|---|
參數content_type | 規格application/json |
參數required | 規格model, input |
參數input_shapes | 規格string, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
參數encoding_format | 規格float |
參數dimensions_override | 規格false |
參數max_input_budget_units | 規格32000 |
參數multimodal_objects | 規格false |
參數material_types | 規格text, token_ids |
生命週期: synchronous_json
保留每個向量的索引與維度。
即使模型名稱標示為多模態,此指定路徑也不接受圖片物件。
方案
費率資訊不會增加請求選項。支援的參數列於所選方法中。
- 快速模式
- 標準費率 選取快速模式時
- flex 模式
- 標準費率 選取 flex 模式時
- 最高推理強度
- 標準費率 最高推理強度採用 default 調整值時
Ailoot 費率
各設定的價格
| 設定 | 費率表 | 費用 |
|---|---|---|
| 設定詞元基本費率 | 費率表基本費率 | 費用 輸入 · 輸入 Token $0.00004 / 1K Token 輸出 · 輸出 Token $0 / 1K Token 輸入 · 讀取快取 — / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取,1 小時 — / 1K Token |
Ailoot 會在請求前預留估算金額。取得結果後,依實測用量結算最終費用。串流結算採用最終用量紀錄。預留金額與結算的運作方式 →
請求範例
Ailoot Ultra · 嵌入向量
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "voyageai/voyage-4-lite", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='voyageai/voyage-4-lite',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
接收並儲存結果
Ailoot Ultra · 嵌入向量
json
保留所有已完成的結果
請保留所有完整傳回的回應、檔案與內容區塊。
保留每個向量及其索引。向量數量必須與輸入數量相同,且維度必須一致。
需要檢查原始回應時
此流程未引入嵌入向量任務端點。
回應欄位
| 欄位 | 類型 |
|---|---|
欄位object | 類型string |
欄位model | 類型string |
欄位data[].index | 類型integer |
欄位data[].embedding | 類型finite float[] |
欄位usage | 類型object |
錯誤與後續步驟
| 回應 | 條件 | 下一步 |
|---|---|---|
回應400 · invalid_request_error | 條件必要欄位、素材表示方式或參數值無效 | 下一步提出新的建立請求前,先修正指定欄位。 |
別名
模型別名
Ailoot Ultra voyageai/voyage-4-lite
方法路徑別名
請使用上方列出的 API 方法路徑。
相關呼叫用 ID
FAQ · VoyageAI by MongoDB: voyage-4-lite
- 可以使用哪些輸入與結果?
POST /v1/embeddings·voyageai/voyage-4-lite:text,token_ids→embedding- 請求使用哪些欄位?
POST /v1/embeddings·voyageai/voyage-4-lite:model,input,encoding_format,provider- 適用哪些限制?
POST /v1/embeddings·voyageai/voyage-4-lite:ctx:32000;input.budget.maximum:32000(UTF8 位元組);input.min_items:1