NVIDIA: Nemotron 3.5 Lightning (free)
NVIDIA Nemotron 3.5 Lightning 是文字推理與對話模型，總參數量為 30B，啟用參數量為 3B。其 Mamba–MoE 混合架構支援長上下文分析、程式設計及以工具為基礎的工作流程，製造商的對話範本並記載了思考與直接回答模式。
- Ailoot Ultra · OpenAI Chat
POST /v1/chat/completionsnvidia/nemotron-3.5-lightning:free - Ailoot Ultra · Anthropic Messages
POST /v1/messagesnvidia/nemotron-3.5-lightning:free
關於模型
此說明介紹模型的能力。Ailoot 可用的輸入、輸出與選項，依所選方法列於下方。
NVIDIA Nemotron 3.5 Lightning 是用於推理、對話及專門代理工作流程的語言模型。它的總參數量為 30B，啟用參數量為 3B，採用交錯配置 Mamba-2、混合專家及注意力層的混合架構。Multi-Token Prediction 層為未來 token 加入訓練訊號，並支援模型最佳化的生成方法。模型處理文字並產生文字，包括解釋、程式碼，以及根據所提供資料作出的回答。
製造商說明的應用包括聊天機器人、檢索增強生成、指令遵循及代理。若要根據知識庫回答，請提供問題及相關段落，並加上穩定的來源標籤。請要求模型依據這些段落回答、指出每項重要主張由哪個段落支持，並說明哪些資訊仍未知。例如：「使用這些支援文章，說明兩種安裝方法的差異，並回傳各自的先決條件、步驟及檢查方式。」請讓缺少的先決條件明確可見，避免誘使模型自行杜撰。
處理程式設計工作時，請提供相關程式碼、預期行為及觀察到的錯誤。實用的請求會要求聚焦的修訂，以及受影響案例的說明。若連接工具的代理執行了檢查，請先回傳實際輸出，再要求下一次變更。模型的訓練包括程式碼、多步驟工具使用及結構化輸出任務，但完成的產物仍須符合原始要求。請要求修訂後的程式碼、每項重大變更的理由，以及確認問題已解決所需的觀察結果。
製造商文件記載，預設會啟用思考，也提供透過對話範本關閉思考的直接回答模式。推理模式適合含有多個相依條件的任務；直接回答則可用於簡單的轉換或擷取。製造商在用戶端範例中建議使用 temperature 1.0 及 top-p 0.95。請將這些視為製造商方法中的設定，並明確選擇最終回覆結構，例如精簡解釋、比較表，或先回答再附上支持證據。
模型支援最高 1M-token 的上下文。已發布的 BF16 部署方法也區分了此模型能力，與因記憶體限制而使用 256K 視窗的設定。請依適用的工作視窗準備長篇資料，保留文件結構，並為回覆留下空間。當提示明確指定要找出的關係時，長上下文最有用，例如文件間的矛盾、來源檔案之間的相依關係，或支持某個結論的證據。這不代表應納入無關歷史，也不代表可以假設最終答案能占滿整個視窗。
模型主要著重英語及程式語言，也列出西班牙語、法語、德語、義大利語及日語。請說明所需輸出語言，並在拼寫重要時保留名稱、識別碼及引用的來源術語。處理多語言文件時，請指定要翻譯、摘要還是比較資料；這些請求會產生不同的產物。請要求標示不確定的術語，避免流暢的翻譯悄悄改變技術含義。
NVIDIA 發布主要供客製化與全精度研究使用的 BF16 參考版本，以及另附最佳化推論方法的 NVFP4 版本。比較部署指引時，這項區別很重要：某個版本的硬體設定或吞吐量結果，不會自動描述另一個版本。模型名稱識別 Lightning 系列，而確切的檢查點與服務設定決定所採用的方法。請將模型層級能力，與特定方法的效能及記憶體假設分開看待。
使用工具進行工作時，請提供清楚的函式說明，並回傳每個已執行步驟的實際結果。只有周邊應用程式執行某項建議操作並記錄發生的情況後，該操作才會成為可用的證據。請要求最終答案區分來源觀察、推導結論及尚未完成的檢查。當計算、命令或擷取段落與計畫中的結果衝突時，請利用此衝突修正結論，避免只替未驗證的假設寫出精緻摘要。
Ailoot Ultra · OpenAI Chat POST /v1/chat/completions nvidia/nemotron-3.5-lightning:free
nvidia/nemotron-3.5-lightning:free
nvidia/nemotron-3.5-lightning:free入門
NVIDIA Nemotron 3.5 Lightning 是文字推理與對話模型，總參數量為 30B，啟用參數量為 3B。其 Mamba–MoE 混合架構支援長上下文分析、程式設計及以工具為基礎的工作流程，製造商的對話範本並記載了思考與直接回答模式。
- 接受的輸入
- 文字
- 結果
- 文字
Ailoot 可用 · 輸入與方法
Ailoot Ultra · OpenAI Chat POST /v1/chat/completions
- 輸入
text- 輸出
text- 上下文
- 1,000,000 tokens
- 輸出上限
- 65,536 tokens
- 輸出格式
- JSON
| 欄位 | 類型 | 要求 | 值與限制 | 預設值 |
|---|---|---|---|---|
欄位model | 類型string | 要求必填 | 值與限制 nvidia/nemotron-3.5-lightning:free | 預設值— |
欄位messages | 類型array | 要求必填 | 值與限制 | 預設值— |
欄位stream | 類型boolean | 要求選填 | 值與限制 false | 預設值false |
欄位max_tokens | 類型integer | 要求選填 | 值與限制 最小值: 1 最大值: 65,536 | 預設值— |
欄位max_completion_tokens | 類型integer | 要求選填 | 值與限制 最小值: 1 最大值: 65,536 | 預設值— |
欄位n | 類型integer | 要求選填 | 值與限制 最小值: 1 最大值: 128 | 預設值— |
欄位temperature | 類型number | 要求選填 | 值與限制 | 預設值— |
欄位top_p | 類型number | 要求選填 | 值與限制 | 預設值— |
欄位seed | 類型integer | 要求選填 | 值與限制 | 預設值— |
欄位stop | 類型 | 要求選填 | 值與限制 | 預設值— |
欄位frequency_penalty | 類型number | 要求選填 | 值與限制 | 預設值— |
欄位presence_penalty | 類型number | 要求選填 | 值與限制 | 預設值— |
欄位user | 類型string | 要求選填 | 值與限制 | 預設值— |
方法參數與生命週期
| 參數 | 規格 |
|---|---|
參數content_type | 規格application/json |
參數required | 規格model, messages |
參數optional | 規格stream, max_tokens, max_completion_tokens, n, temperature, top_p, seed, stop, frequency_penalty, presence_penalty, user |
參數material_types | 規格text |
參數conditions | 規格Use literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1000000 bytes. |
生命週期： synchronous_json
方案
費率資訊不會增加請求選項。支援的參數列於所選方法中。
- 快速模式
- 標準費率 選取快速模式時
- flex 模式
- 標準費率 選取 flex 模式時
- 最高推理強度
- 標準費率 最高推理強度採用 default 調整值時
- 顯式快取計價
- 未啟用 請求顯式快取時
- 純文字零費率
- Text input and output only. Cache, tools, media and streaming are unavailable. 適用於純文字輸入與輸出
Ailoot 費率
各設定的價格
| 設定 | 費率表 | 費用 |
|---|---|---|
| 設定基礎 token 費率 | 費率表基本費率 | 費用 輸入 · 輸入 Token $0 / 1K Token 輸出 · 輸出 Token $0 / 1K Token 輸入 · 讀取快取 — / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取，1 小時 — / 1K Token |
Ailoot 會在請求前預留估算金額。取得結果後，依實測用量結算最終費用。串流結算採用最終用量紀錄。預留金額與結算的運作方式 →
請求範例
Ailoot Ultra · OpenAI Chat
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/nemotron-3.5-lightning:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.
接收並儲存結果
Ailoot Ultra · OpenAI Chat
JSON
保留所有已完成的結果
請保留所有完整傳回的回應、檔案與內容區塊。
Retain the complete response, all actual results, original identifiers, usage and response headers.
需要檢查原始回應時
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
別名
模型別名
Ailoot Ultra nvidia/nemotron-3.5-lightning:free
方法路徑別名
請使用上方列出的 API 方法路徑。
相關呼叫用 ID
Ailoot Ultra · Anthropic Messages POST /v1/messages nvidia/nemotron-3.5-lightning:free
nvidia/nemotron-3.5-lightning:free
nvidia/nemotron-3.5-lightning:free入門
NVIDIA Nemotron 3.5 Lightning 是文字推理與對話模型，總參數量為 30B，啟用參數量為 3B。其 Mamba–MoE 混合架構支援長上下文分析、程式設計及以工具為基礎的工作流程，製造商的對話範本並記載了思考與直接回答模式。
- 接受的輸入
- 文字
- 結果
- 文字
Ailoot 可用 · 輸入與方法
Ailoot Ultra · Anthropic Messages POST /v1/messages
- 輸入
text- 輸出
text- 上下文
- 1,000,000 tokens
- 輸出上限
- 65,536 tokens
- 輸出格式
- JSON
| 欄位 | 類型 | 要求 | 值與限制 | 預設值 |
|---|---|---|---|---|
欄位model | 類型string | 要求必填 | 值與限制 nvidia/nemotron-3.5-lightning:free | 預設值— |
欄位messages | 類型array | 要求必填 | 值與限制 | 預設值— |
欄位stream | 類型boolean | 要求選填 | 值與限制 false | 預設值false |
欄位system | 類型string | 要求選填 | 值與限制 | 預設值— |
欄位max_tokens | 類型integer | 要求必填 | 值與限制 最小值: 1 最大值: 65,536 | 預設值— |
欄位temperature | 類型number | 要求選填 | 值與限制 | 預設值— |
欄位top_p | 類型number | 要求選填 | 值與限制 | 預設值— |
欄位top_k | 類型integer | 要求選填 | 值與限制 | 預設值— |
欄位stop_sequences | 類型array | 要求選填 | 值與限制 | 預設值— |
欄位metadata | 類型object | 要求選填 | 值與限制 | 預設值— |
方法參數與生命週期
| 參數 | 規格 |
|---|---|
參數content_type | 規格application/json |
參數required | 規格model, messages, max_tokens |
參數optional | 規格stream, system, temperature, top_p, top_k, stop_sequences, metadata |
參數material_types | 規格text |
參數conditions | 規格Use literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1000000 bytes. |
生命週期： synchronous_json
方案
費率資訊不會增加請求選項。支援的參數列於所選方法中。
- 快速模式
- 標準費率 選取快速模式時
- flex 模式
- 標準費率 選取 flex 模式時
- 最高推理強度
- 標準費率 最高推理強度採用 default 調整值時
- 純文字零費率
- Text input and output only. Cache, tools, media and streaming are unavailable. 適用於純文字輸入與輸出
Ailoot 費率
各設定的價格
| 設定 | 費率表 | 費用 |
|---|---|---|
| 設定基礎 token 費率 | 費率表基本費率 | 費用 輸入 · 輸入 Token $0 / 1K Token 輸出 · 輸出 Token $0 / 1K Token 輸入 · 讀取快取 — / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取，1 小時 — / 1K Token |
Ailoot 會在請求前預留估算金額。取得結果後，依實測用量結算最終費用。串流結算採用最終用量紀錄。預留金額與結算的運作方式 →
請求範例
Ailoot Ultra · Anthropic Messages
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/nemotron-3.5-lightning:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false, "max_tokens": 256}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.
接收並儲存結果
Ailoot Ultra · Anthropic Messages
JSON
保留所有已完成的結果
請保留所有完整傳回的回應、檔案與內容區塊。
Retain the complete response, all actual results, original identifiers, usage and response headers.
需要檢查原始回應時
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
別名
模型別名
Ailoot Ultra nvidia/nemotron-3.5-lightning:free
方法路徑別名
請使用上方列出的 API 方法路徑。
相關呼叫用 ID
FAQ · NVIDIA: Nemotron 3.5 Lightning (free)
- 可以使用哪些輸入與結果？
POST /v1/chat/completions·nvidia/nemotron-3.5-lightning:free:text→textPOST /v1/messages·nvidia/nemotron-3.5-lightning:free:text→text- 請求使用哪些欄位？
POST /v1/chat/completions·nvidia/nemotron-3.5-lightning:free:model,messages,stream,max_tokens,max_completion_tokens,n,temperature,top_p,seed,stop,frequency_penalty,presence_penalty,userPOST /v1/messages·nvidia/nemotron-3.5-lightning:free:model,messages,stream,system,max_tokens,temperature,top_p,top_k,stop_sequences,metadata- 適用哪些限制？
POST /v1/chat/completions·nvidia/nemotron-3.5-lightning:free:ctx:1000000;max_out:65536;max_tokens.minimum:1;max_tokens.maximum:65536;max_completion_tokens.minimum:1;max_completion_tokens.maximum:65536;n.minimum:1;n.maximum:128POST /v1/messages·nvidia/nemotron-3.5-lightning:free:ctx:1000000;max_out:65536;max_tokens.minimum:1;max_tokens.maximum:65536