NVIDIA: Nemotron 3 Embed 1B (free)
NVIDIA Nemotron 3 Embed 1B 將多語查詢與段落表示為 2048 維向量，用於搜尋與 RAG。文件記載的系列支援 32,768 個 token 的序列，以及經重新正規化後的縮小向量尺寸。
關於模型
此說明介紹模型的能力。Ailoot 可用的輸入、輸出與選項，依所選方法列於下方。
Nemotron 3 Embed 1B 是 NVIDIA 用於多語言、跨語言檢索及語意相似度的文字嵌入家族。它將問題或段落轉成稠密向量，供搜尋系統與其他文字表示比較。製造商在三十四種語言及語言變體設定下評估文件所載 1B 版本，包括英文、阿拉伯文、中文、俄文、日文、韓文與 Hinglish。
編碼器與表示
製造商模型卡描述以 Ministral 3 衍生、經剪枝的雙向 Transformer。它約有 11.4 億個參數，透過平均 token 層級表示，為每段文字取得一個嵌入。原生輸出是 2048 維浮點向量。這是檢索表示，不是對被嵌入問題的書面答案。
製造商也支援保留表示的前段，例如 1024 或 512 維。縮短向量在切取後必須重新進行 L2 正規化。請讓搜尋任務的查詢端與語料庫端使用一致的表示長度及正規化。向量長度與輸入序列長度是不同屬性。
查詢與段落準備
文件所載檢索慣例對問題使用 “query:”，對文件文字使用 “passage:”。提供者範例在編碼前套用角色，再以內積比較正規化向量，等同於餘弦相似度。請採用選定流程所期待的準備方式，不要將原始語料庫表示與不同準備方式的查詢混用。
實際集合可包含技術解釋、政策或程式碼相關文件。詢問函式如何處理特定情況的問題，應檢索描述該行為的來源段落或程式碼摘錄。請將識別碼、標題及相關條件和實際段落文字一起保留。向量使候選項可被搜尋；保留的來源才是讀者或後續 RAG 答案階段使用的資料。
較長來源資料
文件所載最大序列長度是 32,768 token。即使模型可容納大量文字，也請刻意選擇段落邊界。完整章節可保留定義與例外，聚焦摘錄可讓具體答案更易檢視。超過模型視窗的輸入需要分塊或截斷，因此不應將省略尾段視為已被表示的內容。
請將每個嵌入項目連結至上層文件及版本。報告應保留問題所關心結論周邊的解釋與章節標題。程式碼搜尋應將函式名稱、相關介面及行為和摘錄一起保留。檢索階段回傳候選項時，便能提供具體來源產物。
家族版本與結果使用
NVIDIA 記載 1B 家族的 BF16 與 NVFP4 版本。量化模型卡表示這兩個版本共用嵌入空間，並建議更換版本時以代表性資料檢查檢索品質。宣告共用表示，是製造商對這個具名配對的說明，不是所有輸出 2048 個值的模型都適用的一般規則。
實用結果是查詢向量，或記錄模型、維度選擇及準備方式的索引來源集合。請將候選文字和識別碼一起回傳，檢視是否提供所需資訊。製造商明確指出，檢索模型不能保證為每個問題找到正確段落；後續重排或答案階段會將候選項作為自己的任務處理。
Ailoot Ultra · 嵌入向量 POST /v1/embeddings nvidia/nemotron-3-embed-1b:free
nvidia/nemotron-3-embed-1b:free
nvidia/nemotron-3-embed-1b:free入門
NVIDIA Nemotron 3 Embed 1B 將多語查詢與段落表示為 2048 維向量，用於搜尋與 RAG。文件記載的系列支援 32,768 個 token 的序列，以及經重新正規化後的縮小向量尺寸。
- 接受的輸入
- 文字 · token_ids
- 結果
- embedding
Ailoot 可用 · 輸入與方法
Ailoot Ultra · 嵌入向量 POST /v1/embeddings
- 輸入
text,token_ids- 輸出
embedding- 上下文
- 32,768 tokens
- 輸出格式
- json
| 欄位 | 類型 | 要求 | 值與限制 | 預設值 |
|---|---|---|---|---|
欄位model | 類型string | 要求必填 | 值與限制 nvidia/nemotron-3-embed-1b:free | 預設值— |
欄位input | 類型string|string[]|integer[]|integer[][] | 要求必填 | 值與限制 項目數下限: 1 條件: 批次不得為空，且各項目類型須一致。Token ID 須為非負整數。 輸入額度： 最大值: 32,768 · 文字單位: UTF8 位元組 · Token 單位: token 陣列元素 | 預設值— |
欄位encoding_format | 類型string | 要求選填 | 值與限制 float | 預設值float |
欄位dimensions | 類型integer | 要求不支援 | 值與限制 最小值: 1 | 預設值— |
欄位user | 類型json_value | 要求選填 | 值與限制 條件: 來源允許此 JSON 中繼資料欄位；確切的上游語意依模型而異。 | 預設值— |
欄位session_id | 類型json_value | 要求選填 | 值與限制 條件: 來源允許此 JSON 中繼資料欄位；確切的上游語意依模型而異。 | 預設值— |
欄位trace | 類型json_value | 要求選填 | 值與限制 條件: 來源允許此 JSON 中繼資料欄位；確切的上游語意依模型而異。 | 預設值— |
欄位provider | 類型object | 要求選填 | 值與限制 條件: provider.options 遭拒絕 | 預設值— |
輸入素材組合
text_to_embedding
方法參數與生命週期
| 參數 | 規格 |
|---|---|
參數content_type | 規格application/json |
參數required | 規格model, input |
參數input_shapes | 規格string, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
參數encoding_format | 規格float |
參數dimensions_override | 規格false |
參數max_input_budget_units | 規格32768 |
參數multimodal_objects | 規格false |
參數material_types | 規格text, token_ids |
生命週期： synchronous_json
保留每個向量的索引與維度。
即使模型名稱標示為多模態，此指定路徑也不接受圖片物件。
方案
費率資訊不會增加請求選項。支援的參數列於所選方法中。
- 快速模式
- 標準費率 選取快速模式時
- flex 模式
- 標準費率 選取 flex 模式時
- 最高推理強度
- 標準費率 最高推理強度採用 default 調整值時
Ailoot 費率
各設定的價格
| 設定 | 費率表 | 費用 |
|---|---|---|
| 設定詞元基本費率 | 費率表基本費率 | 費用 輸入 · 輸入 Token $0 / 1K Token 輸出 · 輸出 Token $0 / 1K Token 輸入 · 讀取快取 — / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取，1 小時 — / 1K Token |
Ailoot 會在請求前預留估算金額。取得結果後，依實測用量結算最終費用。串流結算採用最終用量紀錄。預留金額與結算的運作方式 →
請求範例
Ailoot Ultra · 嵌入向量
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/nemotron-3-embed-1b:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/nemotron-3-embed-1b:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
接收並儲存結果
Ailoot Ultra · 嵌入向量
json
保留所有已完成的結果
請保留所有完整傳回的回應、檔案與內容區塊。
保留每個向量及其索引。向量數量必須與輸入數量相同，且維度必須一致。
需要檢查原始回應時
此流程未引入嵌入向量任務端點。
回應欄位
| 欄位 | 類型 |
|---|---|
欄位object | 類型string |
欄位model | 類型string |
欄位data[].index | 類型integer |
欄位data[].embedding | 類型finite float[] |
欄位usage | 類型object |
錯誤與後續步驟
| 回應 | 條件 | 下一步 |
|---|---|---|
回應400 · invalid_request_error | 條件必要欄位、素材表示方式或參數值無效 | 下一步提出新的建立請求前，先修正指定欄位。 |
別名
模型別名
Ailoot Ultra nvidia/nemotron-3-embed-1b:free
方法路徑別名
請使用上方列出的 API 方法路徑。
相關呼叫用 ID
FAQ · NVIDIA: Nemotron 3 Embed 1B (free)
- 可以使用哪些輸入與結果？
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:text,token_ids→embedding- 請求使用哪些欄位？
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:model,input,encoding_format,provider- 適用哪些限制？
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:ctx:32768;input.budget.maximum:32768(UTF8 位元組);input.min_items:1