Mistral: Mistral Embed 2312
Mistral Embed 2312 將文字轉成 1,024 維向量,用於語意搜尋、檢索及相關文字分析。製造商頁面記載 8k 上下文;結果是連結至各輸入的數值表示,而非生成的答案。
關於模型
此說明介紹模型的能力。Ailoot 可用的輸入、輸出與選項,依所選方法列於下方。
Mistral Embed 2312 是 Mistral AI 用於以數值表示意義的文字嵌入模型。它接受文字字串或字串清單,為每個輸入回傳嵌入。結果是供應用程式用於相似度、檢索、分類或分群的向量,而非對話式解釋。製造商的固定模型頁面標示 mistral-embed-2312。
輸入、上下文與向量形狀
確切模型頁面記載 8k 上下文標籤。請在適用的輸入容量內準備每個文字項目,並將項目識別與向量一起保留。較長來源文件可分成實用段落,同時保留文件標題、章節及來源位置,供日後回傳正確資料。
製造商的 Mistral Embed 指南指定每個文字嵌入為 1,024 維,不受輸入可見長度影響。因此,短問題與較長段落雖然內容及 token 數不同,向量形狀仍相同。這是輸出表示維度,不是答案 token 額度,也不是保留多少來源單字的衡量方式。
文件所載回應包含嵌入與 token 用量資訊,端點範例會將每個向量對應至輸入索引。處理多段文字時,請保留該關聯。要顯示有用的搜尋命中,或向後續步驟提供來源資料,應用程式除了數值結果,也需要原始文字及識別碼。
語意相似度
指南說明,相關文字在嵌入空間中往往距離較近。這有助於找出使用不同措辭表達相同主題或需求的段落。例如,知識庫查詢可能詢問如何恢復存取,而相關程序以另一種措辭描述同一操作。應用程式可比較查詢向量與儲存段落向量,不必只依賴字詞完全相符。
製造商範例使用單位長度正規化的嵌入。對這類向量,餘弦相似度、內積與歐幾里得距離雖然數值不相同,卻會產生一致的相似度排名。請選擇一種適合的比較方法,並在查詢與文件表示中一致套用。
相似度不能證明兩個敘述可互換。請保留來源文字,並檢視問題所關心的條件、日期或識別碼。兩段文字可能討論同一主題,卻描述不同程序或例外。嵌入提供檢索訊號;解讀選定段落則是任務的另一部分。
檢索與來源導向答案
實用文件流程會為知識庫段落準備向量,儲存識別碼與原文,再將新問題與資料集合比較。請將相關段落連同來源位置回傳。應用程式可以直接顯示段落,或交給文字生成模型,讓它根據檢索資料撰寫有依據的答案。
為提供有用的搜尋結果,請保留文件標題、章節、段落,以及尋找段落所用的識別碼。客服助理便能檢索與使用者問題相關的程序,並傳給答案撰寫階段。Mistral Embed 執行數值表示步驟,不會自行起草最終解釋或執行外部動作。
其他記載用途
製造商也將改述偵測、分類、分群及批次處理列為嵌入工作流程。比較任務可檢索意義相關的段落供審查。分類流程可將輸入與帶標籤例子比較,或將向量作為另一個分類器的特徵。分群流程可將相似項目聚集,供後續人員或應用程式層級描述。
準備資料前,請先定義表示的用途。用於語意搜尋的段落應保留檢索後會需要的資訊;分類例子應包含區別類別的措辭。請維持一致的準備方式,使查詢與儲存項目表示可比較的資料。
版本與輸出邊界
文件及其查詢請使用同一模型版本與相容表示。另一個模型產生的向量即使座標數相同,也不會自動位於相同語意空間。替換模型或表示時,必須讓儲存項目與查詢持續對齊。
本項目描述文字輸入與數值向量輸出,採用製造商的 8k 上下文,以及 Mistral Embed 記載的 1,024 維表示。Codestral Embed 的可設定維度與量化格式,屬於另一個具名程式碼模型,不應在此預設可用。圖片、音訊、文章生成與工具執行,是此文字嵌入結果以外的不同能力。
Ailoot Ultra · 嵌入向量 POST /v1/embeddings mistralai/mistral-embed-2312
mistralai/mistral-embed-2312入門
Mistral Embed 2312 將文字轉成 1,024 維向量,用於語意搜尋、檢索及相關文字分析。製造商頁面記載 8k 上下文;結果是連結至各輸入的數值表示,而非生成的答案。
- 接受的輸入
- 文字 · token_ids
- 結果
- embedding
Ailoot 可用 · 輸入與方法
Ailoot Ultra · 嵌入向量 POST /v1/embeddings
- 輸入
text,token_ids- 輸出
embedding- 上下文
- 8,192 tokens
- 輸出格式
- json
| 欄位 | 類型 | 要求 | 值與限制 | 預設值 |
|---|---|---|---|---|
欄位model | 類型string | 要求必填 | 值與限制 mistralai/mistral-embed-2312 | 預設值— |
欄位input | 類型string|string[]|integer[]|integer[][] | 要求必填 | 值與限制 項目數下限: 1 條件: 批次不得為空,且各項目類型須一致。Token ID 須為非負整數。 輸入額度: 最大值: 8,192 · 文字單位: UTF8 位元組 · Token 單位: token 陣列元素 | 預設值— |
欄位encoding_format | 類型string | 要求選填 | 值與限制 float | 預設值float |
欄位dimensions | 類型integer | 要求不支援 | 值與限制 最小值: 1 | 預設值— |
欄位user | 類型json_value | 要求選填 | 值與限制 條件: 來源允許此 JSON 中繼資料欄位;確切的上游語意依模型而異。 | 預設值— |
欄位session_id | 類型json_value | 要求選填 | 值與限制 條件: 來源允許此 JSON 中繼資料欄位;確切的上游語意依模型而異。 | 預設值— |
欄位trace | 類型json_value | 要求選填 | 值與限制 條件: 來源允許此 JSON 中繼資料欄位;確切的上游語意依模型而異。 | 預設值— |
欄位provider | 類型object | 要求選填 | 值與限制 條件: provider.options 遭拒絕 | 預設值— |
輸入素材組合
text_to_embedding
方法參數與生命週期
| 參數 | 規格 |
|---|---|
參數content_type | 規格application/json |
參數required | 規格model, input |
參數input_shapes | 規格string, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
參數encoding_format | 規格float |
參數dimensions_override | 規格false |
參數max_input_budget_units | 規格8192 |
參數multimodal_objects | 規格false |
參數material_types | 規格text, token_ids |
生命週期: synchronous_json
保留每個向量的索引與維度。
即使模型名稱標示為多模態,此指定路徑也不接受圖片物件。
方案
費率資訊不會增加請求選項。支援的參數列於所選方法中。
- 快速模式
- 標準費率 選取快速模式時
- flex 模式
- 標準費率 選取 flex 模式時
- 最高推理強度
- 標準費率 最高推理強度採用 default 調整值時
Ailoot 費率
各設定的價格
| 設定 | 費率表 | 費用 |
|---|---|---|
| 設定詞元基本費率 | 費率表基本費率 | 費用 輸入 · 輸入 Token $0.0002 / 1K Token 輸出 · 輸出 Token $0 / 1K Token 輸入 · 讀取快取 — / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取,1 小時 — / 1K Token |
Ailoot 會在請求前預留估算金額。取得結果後,依實測用量結算最終費用。串流結算採用最終用量紀錄。預留金額與結算的運作方式 →
請求範例
Ailoot Ultra · 嵌入向量
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "mistralai/mistral-embed-2312", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='mistralai/mistral-embed-2312',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
接收並儲存結果
Ailoot Ultra · 嵌入向量
json
保留所有已完成的結果
請保留所有完整傳回的回應、檔案與內容區塊。
保留每個向量及其索引。向量數量必須與輸入數量相同,且維度必須一致。
需要檢查原始回應時
此流程未引入嵌入向量任務端點。
回應欄位
| 欄位 | 類型 |
|---|---|
欄位object | 類型string |
欄位model | 類型string |
欄位data[].index | 類型integer |
欄位data[].embedding | 類型finite float[] |
欄位usage | 類型object |
錯誤與後續步驟
| 回應 | 條件 | 下一步 |
|---|---|---|
回應400 · invalid_request_error | 條件必要欄位、素材表示方式或參數值無效 | 下一步提出新的建立請求前,先修正指定欄位。 |
別名
模型別名
Ailoot Ultra mistralai/mistral-embed-2312
方法路徑別名
請使用上方列出的 API 方法路徑。
相關呼叫用 ID
FAQ · Mistral: Mistral Embed 2312
- 可以使用哪些輸入與結果?
POST /v1/embeddings·mistralai/mistral-embed-2312:text,token_ids→embedding- 請求使用哪些欄位?
POST /v1/embeddings·mistralai/mistral-embed-2312:model,input,encoding_format,provider- 適用哪些限制?
POST /v1/embeddings·mistralai/mistral-embed-2312:ctx:8192;input.budget.maximum:8192(UTF8 位元組);input.min_items:1