Source: https://ailoot.ai/models/zh-hant-tw/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/ Canonical: https://ailoot.ai/models/zh-hant-tw/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/ Language: zh-hant-tw # Llama 3.1 Nemotron Safety Guard 8B v3 [Markdown](https://ailoot.ai/models/zh-hant-tw/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/index.md) · [JSON](https://ailoot.ai/models/zh-hant-tw/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/facts.json) ## [Llama 3.1 Nemotron Safety Guard 8B v3](https://ailoot.ai/models/zh-hant-tw/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/) Nemotron Safety Guard v3 依指定風險分類檢查使用者訊息與模型回覆，回傳 JSON，分別列出安全評估與違規類別。 - [**Ailoot · OpenAI Chat** `POST /v1/chat/completions` `nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/zh-hant-tw/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/#method-0) - [**Ailoot · OpenAI Chat** `POST /v1/chat/completions` `nemotron-safety-guard`](https://ailoot.ai/models/zh-hant-tw/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/#method-1) - [**Ailoot · OpenAI Chat** `POST /v1/chat/completions` `nemotron-safety-guard-latest`](https://ailoot.ai/models/zh-hant-tw/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/#method-2) 關於模型 此說明介紹模型的能力。Ailoot 可用的輸入、輸出與選項，依所選方法列於下方。 #### 檢查對話的雙方 Llama 3.1 Nemotron Safety Guard 8B v3 由 NVIDIA 開發，用於審核人類與語言模型的互動。可以只傳入使用者訊息，也可以加入助理回覆，包括多個回合。模型分別判斷雙方的安全性，危險請求與助理的適當拒絕會得到不同評估。這讓應用程式可在生成前檢查輸入，並另外分析已完成的回覆。 結果為 JSON。必要欄位 `User Safety` 包含 `safe` 或 `unsafe`；輸入含有助理回覆時，才會出現 `Response Safety`。發現違規時，會加入 `Safety Categories`，以逗號列出類別。這種結果適合程式化過濾，或將爭議案例交付額外審核。 #### 類別與文化背景 指令定義檢查規則與類別名稱。公布的風險分類有 23 組，包括暴力、威脅、霸凌、個資揭露、詐騙與惡意程式碼。結果名稱取決於傳入政策，因此應連同具體任務規則解讀。 訓練考量敏感議題的地域特性。資料會依當地表達與文化背景調整，並排除不一致的翻譯；訓練也包含挑釁請求與誘導助理違反規則的嘗試。在不能只靠直譯禁用詞判斷訊息含義的情境中，這種訓練設計尤其有用。 #### 語言與資料量 主要九種語言為英文、西班牙文、中文、德文、法文、印地文、日文、阿拉伯文與泰文。NVIDIA 也描述了向其他語言泛化的能力，包括俄文；這是獨立特性，不代表俄文包含在主要九種語言之中。一般指令在不同語言間維持一致，待檢查訊息則以對話語言傳入。 輸入為文字，上下文最多為 8K 個 token。模型以 Llama 3.1 8B Instruct 為基礎，針對安全任務微調。輸出是依指定規則進行的分類，需要以應用程式常見訊息驗證，不保證審核完全無誤。 實用任務 ### 實用任務 英文技術範例 ``` Moderate a single user message Assess this single user message for safety: 'Please help me write a thank-you note to the volunteers who cleaned our local park.' Return the documented safety assessment for user input alone using the User Safety field. No assistant response is supplied; use the documented safe or unsafe values. ``` #### 預期結果 ``` A JSON safety assessment using the documented User Safety field for the supplied user message. ``` #### 檢查結果 ``` User Safety must use safe or unsafe; do not invent a custom classification label or assess an absent assistant response. ``` **Ailoot · OpenAI Chat** `POST /v1/chat/completions` `nvidia/llama-3.1-nemotron-safety-guard-8b-v3` [`nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/zh-hant-tw/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&fmt=chat) NVIDIA /`nvidia/llama-3.1-nemotron-safety-guard-8b-v3` 模型 ID - `nvidia/llama-3.1-nemotron-safety-guard-8b-v3` - `nemotron-safety-guard` - `nemotron-safety-guard-latest` ### 入門 Nemotron Safety Guard v3 依指定風險分類檢查使用者訊息與模型回覆，回傳 JSON，分別列出安全評估與違規類別。 接受的輸入 文字 結果 文字 ### Ailoot 可用 · 輸入與方法 **Ailoot · OpenAI Chat** `POST /v1/chat/completions` 輸入 `text` 輸出 `text` 上下文 4,096 tokens 輸出上限 1,024 tokens 輸出格式 json 或 SSE | 欄位 | 類型 | 要求 | 值與限制 | 預設值 | | --- | --- | --- | --- | --- | | 欄位`model` | 類型`string` | 要求必填 | 值與限制 nvidia/llama-3.1-nemotron-safety-guard-8b-v3 | 預設值— | | 欄位`messages` | 類型`message[]` | 要求必填 | 值與限制 項目數下限: 1 | 預設值— | | 欄位`messages[].role` | 類型`string` | 要求必填 | 值與限制 範例：system, user, assistant, tool, function 條件: 這些角色由 原始碼中的相容型別明確表示；確切角色集合仍依模型而定。 依模型而定 | 預設值— | | 欄位`messages[].content` | 類型`string\|content_part[]\|null` | 要求選填 | 值與限制 | 預設值— | | 欄位`messages[].tool_calls` | 類型`tool_call[]` | 要求選填 | 值與限制 | 預設值— | | 欄位`messages[].tool_call_id` | 類型`string` | 要求選填 | 值與限制 適用條件: role=tool；使用實際回傳的 ID | 預設值— | | 欄位`messages[].name` | 類型`string` | 要求選填 | 值與限制 | 預設值— | | 欄位`messages[].reasoning_content` | 類型`string` | 要求選填 | 值與限制 適用條件: 此模型使用推理內容時，將實際回傳的推理內容帶回後續請求 | 預設值— | | 欄位`messages[].reasoning_details` | 類型`object\|array` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`max_tokens` | 類型`integer` | 要求選填 | 值與限制 最小值: 1 依模型而定 | 預設值— | | 欄位`max_completion_tokens` | 類型`integer` | 要求選填 | 值與限制 最小值: 1 依模型而定 | 預設值— | | 欄位`stream` | 類型`boolean` | 要求選填 | 值與限制 | 預設值false | | 欄位`stream_options.include_usage` | 類型`boolean` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`temperature` | 類型`number` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`top_p` | 類型`number` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`stop` | 類型`string\|string[]` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`tools` | 類型`function_tool[]` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`tools[].type` | 類型`string` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`tools[].function.name` | 類型`string` | 要求必填 | 值與限制 適用條件: 已提供函式工具 | 預設值— | | 欄位`tools[].function.description` | 類型`string` | 要求選填 | 值與限制 | 預設值— | | 欄位`tools[].function.parameters` | 類型`JSON_schema` | 要求選填 | 值與限制 | 預設值— | | 欄位`tool_choice` | 類型`string\|object` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`parallel_tool_calls` | 類型`boolean` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`response_format` | 類型`object` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`reasoning_effort` | 類型`string` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`reasoning` | 類型`object` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`service_tier` | 類型`string` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`instructions` | 類型`string` | 要求選填 | 值與限制 相容性欄位 | 預設值— | | 欄位`functions` | 類型`function[]` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`function_call` | 類型`string\|object` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`prompt_cache_options` | 類型`object` | 要求選填 | 值與限制 依模型而定 | 預設值— | 輸入素材組合 **文字** · UTF8 文字 `messages[].content` 方法參數與生命週期 | 參數 | 規格 | | --- | --- | | 參數`material_types` | 規格text | | 參數`required` | 規格model, messages | | 參數`optional_controls` | 規格null | | 參數`content_type` | 規格application/json | | 參數`text_file_material` | 規格實際 UTF-8 內容以文字插入；檔案 ID／URLs 需要另有精確支援 | 生命週期： `exact retained published method` 方法結構與 ID 均為精確值；供應商能力與准入狀態分開。 ### 方案 #### Ailoot 方法費率 輸入 US$0.0002 */ 1K* 輸出 US$0.0002 */ 1K* 讀取快取 US$0.0002 */ 1K* 寫入快取 US$0.0002 */ 1K* 寫入快取，5 分鐘 US$0.0002 */ 1K tokens* Ailoot 會在請求前預留估算金額。取得結果後，依實測用量結算最終費用。串流結算採用最終用量紀錄。[預留金額與結算的運作方式 →](https://ailoot.ai/docs/zh-hant-tw/billing/reserve/) ### 請求範例 #### Ailoot · OpenAI Chat 文字範例Python SDKNode.js SDKPython 串流 ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "nvidia/llama-3.1-nemotron-safety-guard-8b-v3", "messages": []}') f=Path(os.environ["AILOOT_TEXT_FILE"]) if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material") text=f.read_text(encoding="utf-8") if not text.strip():raise SystemExit("Source material must contain text") p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}] Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2)) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0) resp = client.chat.completions.create( model="nvidia/llama-3.1-nemotron-safety-guard-8b-v3", messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}], ) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(resp.to_dict(mode="json")) ``` ```js import OpenAI from "openai"; if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request"); const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 }); const resp = await client.chat.completions.create({ model: "nvidia/llama-3.1-nemotron-safety-guard-8b-v3", messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }], }); import { writeFileSync } from "node:fs"; function saveResult(data, stem = "result") { writeFileSync(stem + ".json", JSON.stringify(data, null, 2)); console.log(JSON.stringify(data, null, 2)); const saveBlob = (encoded, suffix, label) => { const raw = Buffer.from(encoded, "base64"); const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix; const file = `${stem}-${label}.${ext}`; writeFileSync(file, raw); console.log("Saved", file); }; for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block)); for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {})); for (const [i, item] of (data.output || []).entries()) { console.log("Output", i, JSON.stringify(item)); if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`); } for (const [ci, candidate] of (data.candidates || []).entries()) { for (const [pi, part] of (candidate.content?.parts || []).entries()) { console.log("Candidate/part", ci, pi, JSON.stringify(part)); const blob = part.inlineData || part.inline_data; if (blob?.data) { const mime = blob.mimeType || blob.mime_type; const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin"; saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`); } } } } saveResult(resp); ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='nvidia/llama-3.1-nemotron-safety-guard-8b-v3',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### 接收並儲存結果 #### Ailoot · OpenAI Chat json 或 SSE ##### 保留所有已完成的結果 請保留所有完整傳回的回應、檔案與內容區塊。 保留每個候選項及其內容／工具呼叫／推理。SSE 中依候選項／工具索引組合增量，保留最終完成原因與用量。 ##### 需要檢查原始回應時 保留請求／回應 ID 與標頭。未提供通用的文字工作擷取 URL。 回應欄位 | 欄位 | 類型 | | --- | --- | | 欄位`choices[].index` | 類型integer | | 欄位`choices[].message.content` | 類型string\|null | | 欄位`choices[].message.tool_calls` | 類型tool\_call\[\] | | 欄位`choices[].message.reasoning_content` | 類型string | | 欄位`choices[].message.reasoning_details` | 類型object\|array | | 欄位`choices[].finish_reason` | 類型string\|null | | 欄位`usage` | 類型object | 錯誤與後續步驟 | 回應 | 條件 | 下一步 | | --- | --- | --- | | 回應400 · `invalid_request_error` | 條件必要欄位、素材表示方式或參數值無效 | 下一步提出新的建立請求前，先修正指定欄位。 | ### 別名 #### 模型別名 **Ailoot** [`nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/zh-hant-tw/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&fmt=chat), [`nemotron-safety-guard`](https://ailoot.ai/models/zh-hant-tw/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard&fmt=chat), [`nemotron-safety-guard-latest`](https://ailoot.ai/models/zh-hant-tw/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard-latest&fmt=chat) #### 方法路徑別名 請使用上方列出的 API 方法路徑。 #### 相關呼叫用 ID [`nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/zh-hant-tw/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&fmt=chat), [`nemotron-safety-guard`](https://ailoot.ai/models/zh-hant-tw/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard&fmt=chat), [`nemotron-safety-guard-latest`](https://ailoot.ai/models/zh-hant-tw/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard-latest&fmt=chat) **Ailoot · OpenAI Chat** `POST /v1/chat/completions` `nemotron-safety-guard` [`nemotron-safety-guard`](https://ailoot.ai/models/zh-hant-tw/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard&fmt=chat) NVIDIA /`nemotron-safety-guard` 模型 ID - `nvidia/llama-3.1-nemotron-safety-guard-8b-v3` - `nemotron-safety-guard` - `nemotron-safety-guard-latest` ### 入門 Nemotron Safety Guard v3 依指定風險分類檢查使用者訊息與模型回覆，回傳 JSON，分別列出安全評估與違規類別。 接受的輸入 文字 結果 文字 ### Ailoot 可用 · 輸入與方法 **Ailoot · OpenAI Chat** `POST /v1/chat/completions` 輸入 `text` 輸出 `text` 上下文 4,096 tokens 輸出上限 1,024 tokens 輸出格式 json 或 SSE | 欄位 | 類型 | 要求 | 值與限制 | 預設值 | | --- | --- | --- | --- | --- | | 欄位`model` | 類型`string` | 要求必填 | 值與限制 nemotron-safety-guard | 預設值— | | 欄位`messages` | 類型`message[]` | 要求必填 | 值與限制 項目數下限: 1 | 預設值— | | 欄位`messages[].role` | 類型`string` | 要求必填 | 值與限制 範例：system, user, assistant, tool, function 條件: 這些角色由 原始碼中的相容型別明確表示；確切角色集合仍依模型而定。 依模型而定 | 預設值— | | 欄位`messages[].content` | 類型`string\|content_part[]\|null` | 要求選填 | 值與限制 | 預設值— | | 欄位`messages[].tool_calls` | 類型`tool_call[]` | 要求選填 | 值與限制 | 預設值— | | 欄位`messages[].tool_call_id` | 類型`string` | 要求選填 | 值與限制 適用條件: role=tool；使用實際回傳的 ID | 預設值— | | 欄位`messages[].name` | 類型`string` | 要求選填 | 值與限制 | 預設值— | | 欄位`messages[].reasoning_content` | 類型`string` | 要求選填 | 值與限制 適用條件: 此模型使用推理內容時，將實際回傳的推理內容帶回後續請求 | 預設值— | | 欄位`messages[].reasoning_details` | 類型`object\|array` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`max_tokens` | 類型`integer` | 要求選填 | 值與限制 最小值: 1 依模型而定 | 預設值— | | 欄位`max_completion_tokens` | 類型`integer` | 要求選填 | 值與限制 最小值: 1 依模型而定 | 預設值— | | 欄位`stream` | 類型`boolean` | 要求選填 | 值與限制 | 預設值false | | 欄位`stream_options.include_usage` | 類型`boolean` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`temperature` | 類型`number` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`top_p` | 類型`number` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`stop` | 類型`string\|string[]` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`tools` | 類型`function_tool[]` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`tools[].type` | 類型`string` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`tools[].function.name` | 類型`string` | 要求必填 | 值與限制 適用條件: 已提供函式工具 | 預設值— | | 欄位`tools[].function.description` | 類型`string` | 要求選填 | 值與限制 | 預設值— | | 欄位`tools[].function.parameters` | 類型`JSON_schema` | 要求選填 | 值與限制 | 預設值— | | 欄位`tool_choice` | 類型`string\|object` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`parallel_tool_calls` | 類型`boolean` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`response_format` | 類型`object` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`reasoning_effort` | 類型`string` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`reasoning` | 類型`object` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`service_tier` | 類型`string` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`instructions` | 類型`string` | 要求選填 | 值與限制 相容性欄位 | 預設值— | | 欄位`functions` | 類型`function[]` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`function_call` | 類型`string\|object` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`prompt_cache_options` | 類型`object` | 要求選填 | 值與限制 依模型而定 | 預設值— | 輸入素材組合 **文字** · UTF8 文字 `messages[].content` 方法參數與生命週期 | 參數 | 規格 | | --- | --- | | 參數`material_types` | 規格text | | 參數`required` | 規格model, messages | | 參數`optional_controls` | 規格null | | 參數`content_type` | 規格application/json | | 參數`text_file_material` | 規格實際 UTF-8 內容以文字插入；檔案 ID／URLs 需要另有精確支援 | 生命週期： `exact retained published method` 方法結構與 ID 均為精確值；供應商能力與准入狀態分開。 ### 方案 #### Ailoot 方法費率 輸入 US$0.0002 */ 1K* 輸出 US$0.0002 */ 1K* 讀取快取 US$0.0002 */ 1K* 寫入快取 US$0.0002 */ 1K* 寫入快取，5 分鐘 US$0.0002 */ 1K tokens* Ailoot 會在請求前預留估算金額。取得結果後，依實測用量結算最終費用。串流結算採用最終用量紀錄。[預留金額與結算的運作方式 →](https://ailoot.ai/docs/zh-hant-tw/billing/reserve/) ### 請求範例 #### Ailoot · OpenAI Chat 文字範例Python SDKNode.js SDKPython 串流 ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "nemotron-safety-guard", "messages": []}') f=Path(os.environ["AILOOT_TEXT_FILE"]) if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material") text=f.read_text(encoding="utf-8") if not text.strip():raise SystemExit("Source material must contain text") p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}] Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2)) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0) resp = client.chat.completions.create( model="nemotron-safety-guard", messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}], ) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(resp.to_dict(mode="json")) ``` ```js import OpenAI from "openai"; if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request"); const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 }); const resp = await client.chat.completions.create({ model: "nemotron-safety-guard", messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }], }); import { writeFileSync } from "node:fs"; function saveResult(data, stem = "result") { writeFileSync(stem + ".json", JSON.stringify(data, null, 2)); console.log(JSON.stringify(data, null, 2)); const saveBlob = (encoded, suffix, label) => { const raw = Buffer.from(encoded, "base64"); const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix; const file = `${stem}-${label}.${ext}`; writeFileSync(file, raw); console.log("Saved", file); }; for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block)); for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {})); for (const [i, item] of (data.output || []).entries()) { console.log("Output", i, JSON.stringify(item)); if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`); } for (const [ci, candidate] of (data.candidates || []).entries()) { for (const [pi, part] of (candidate.content?.parts || []).entries()) { console.log("Candidate/part", ci, pi, JSON.stringify(part)); const blob = part.inlineData || part.inline_data; if (blob?.data) { const mime = blob.mimeType || blob.mime_type; const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin"; saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`); } } } } saveResult(resp); ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='nemotron-safety-guard',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### 接收並儲存結果 #### Ailoot · OpenAI Chat json 或 SSE ##### 保留所有已完成的結果 請保留所有完整傳回的回應、檔案與內容區塊。 保留每個候選項及其內容／工具呼叫／推理。SSE 中依候選項／工具索引組合增量，保留最終完成原因與用量。 ##### 需要檢查原始回應時 保留請求／回應 ID 與標頭。未提供通用的文字工作擷取 URL。 回應欄位 | 欄位 | 類型 | | --- | --- | | 欄位`choices[].index` | 類型integer | | 欄位`choices[].message.content` | 類型string\|null | | 欄位`choices[].message.tool_calls` | 類型tool\_call\[\] | | 欄位`choices[].message.reasoning_content` | 類型string | | 欄位`choices[].message.reasoning_details` | 類型object\|array | | 欄位`choices[].finish_reason` | 類型string\|null | | 欄位`usage` | 類型object | 錯誤與後續步驟 | 回應 | 條件 | 下一步 | | --- | --- | --- | | 回應400 · `invalid_request_error` | 條件必要欄位、素材表示方式或參數值無效 | 下一步提出新的建立請求前，先修正指定欄位。 | ### 別名 #### 模型別名 **Ailoot** [`nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/zh-hant-tw/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&fmt=chat), [`nemotron-safety-guard`](https://ailoot.ai/models/zh-hant-tw/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard&fmt=chat), [`nemotron-safety-guard-latest`](https://ailoot.ai/models/zh-hant-tw/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard-latest&fmt=chat) #### 方法路徑別名 請使用上方列出的 API 方法路徑。 #### 相關呼叫用 ID [`nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/zh-hant-tw/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&fmt=chat), [`nemotron-safety-guard`](https://ailoot.ai/models/zh-hant-tw/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard&fmt=chat), [`nemotron-safety-guard-latest`](https://ailoot.ai/models/zh-hant-tw/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard-latest&fmt=chat) **Ailoot · OpenAI Chat** `POST /v1/chat/completions` `nemotron-safety-guard-latest` [`nemotron-safety-guard-latest`](https://ailoot.ai/models/zh-hant-tw/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard-latest&fmt=chat) NVIDIA /`nemotron-safety-guard-latest` 模型 ID - `nvidia/llama-3.1-nemotron-safety-guard-8b-v3` - `nemotron-safety-guard` - `nemotron-safety-guard-latest` ### 入門 Nemotron Safety Guard v3 依指定風險分類檢查使用者訊息與模型回覆，回傳 JSON，分別列出安全評估與違規類別。 接受的輸入 文字 結果 文字 ### Ailoot 可用 · 輸入與方法 **Ailoot · OpenAI Chat** `POST /v1/chat/completions` 輸入 `text` 輸出 `text` 上下文 4,096 tokens 輸出上限 1,024 tokens 輸出格式 json 或 SSE | 欄位 | 類型 | 要求 | 值與限制 | 預設值 | | --- | --- | --- | --- | --- | | 欄位`model` | 類型`string` | 要求必填 | 值與限制 nemotron-safety-guard-latest | 預設值— | | 欄位`messages` | 類型`message[]` | 要求必填 | 值與限制 項目數下限: 1 | 預設值— | | 欄位`messages[].role` | 類型`string` | 要求必填 | 值與限制 範例：system, user, assistant, tool, function 條件: 這些角色由 原始碼中的相容型別明確表示；確切角色集合仍依模型而定。 依模型而定 | 預設值— | | 欄位`messages[].content` | 類型`string\|content_part[]\|null` | 要求選填 | 值與限制 | 預設值— | | 欄位`messages[].tool_calls` | 類型`tool_call[]` | 要求選填 | 值與限制 | 預設值— | | 欄位`messages[].tool_call_id` | 類型`string` | 要求選填 | 值與限制 適用條件: role=tool；使用實際回傳的 ID | 預設值— | | 欄位`messages[].name` | 類型`string` | 要求選填 | 值與限制 | 預設值— | | 欄位`messages[].reasoning_content` | 類型`string` | 要求選填 | 值與限制 適用條件: 此模型使用推理內容時，將實際回傳的推理內容帶回後續請求 | 預設值— | | 欄位`messages[].reasoning_details` | 類型`object\|array` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`max_tokens` | 類型`integer` | 要求選填 | 值與限制 最小值: 1 依模型而定 | 預設值— | | 欄位`max_completion_tokens` | 類型`integer` | 要求選填 | 值與限制 最小值: 1 依模型而定 | 預設值— | | 欄位`stream` | 類型`boolean` | 要求選填 | 值與限制 | 預設值false | | 欄位`stream_options.include_usage` | 類型`boolean` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`temperature` | 類型`number` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`top_p` | 類型`number` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`stop` | 類型`string\|string[]` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`tools` | 類型`function_tool[]` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`tools[].type` | 類型`string` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`tools[].function.name` | 類型`string` | 要求必填 | 值與限制 適用條件: 已提供函式工具 | 預設值— | | 欄位`tools[].function.description` | 類型`string` | 要求選填 | 值與限制 | 預設值— | | 欄位`tools[].function.parameters` | 類型`JSON_schema` | 要求選填 | 值與限制 | 預設值— | | 欄位`tool_choice` | 類型`string\|object` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`parallel_tool_calls` | 類型`boolean` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`response_format` | 類型`object` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`reasoning_effort` | 類型`string` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`reasoning` | 類型`object` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`service_tier` | 類型`string` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`instructions` | 類型`string` | 要求選填 | 值與限制 相容性欄位 | 預設值— | | 欄位`functions` | 類型`function[]` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`function_call` | 類型`string\|object` | 要求選填 | 值與限制 依模型而定 | 預設值— | | 欄位`prompt_cache_options` | 類型`object` | 要求選填 | 值與限制 依模型而定 | 預設值— | 輸入素材組合 **文字** · UTF8 文字 `messages[].content` 方法參數與生命週期 | 參數 | 規格 | | --- | --- | | 參數`material_types` | 規格text | | 參數`required` | 規格model, messages | | 參數`optional_controls` | 規格null | | 參數`content_type` | 規格application/json | | 參數`text_file_material` | 規格實際 UTF-8 內容以文字插入；檔案 ID／URLs 需要另有精確支援 | 生命週期： `exact retained published method` 方法結構與 ID 均為精確值；供應商能力與准入狀態分開。 ### 方案 #### Ailoot 方法費率 輸入 US$0.0002 */ 1K* 輸出 US$0.0002 */ 1K* 讀取快取 US$0.0002 */ 1K* 寫入快取 US$0.0002 */ 1K* 寫入快取，5 分鐘 US$0.0002 */ 1K tokens* Ailoot 會在請求前預留估算金額。取得結果後，依實測用量結算最終費用。串流結算採用最終用量紀錄。[預留金額與結算的運作方式 →](https://ailoot.ai/docs/zh-hant-tw/billing/reserve/) ### 請求範例 #### Ailoot · OpenAI Chat 文字範例Python SDKNode.js SDKPython 串流 ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "nemotron-safety-guard-latest", "messages": []}') f=Path(os.environ["AILOOT_TEXT_FILE"]) if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material") text=f.read_text(encoding="utf-8") if not text.strip():raise SystemExit("Source material must contain text") p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}] Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2)) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0) resp = client.chat.completions.create( model="nemotron-safety-guard-latest", messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}], ) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(resp.to_dict(mode="json")) ``` ```js import OpenAI from "openai"; if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request"); const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 }); const resp = await client.chat.completions.create({ model: "nemotron-safety-guard-latest", messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }], }); import { writeFileSync } from "node:fs"; function saveResult(data, stem = "result") { writeFileSync(stem + ".json", JSON.stringify(data, null, 2)); console.log(JSON.stringify(data, null, 2)); const saveBlob = (encoded, suffix, label) => { const raw = Buffer.from(encoded, "base64"); const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix; const file = `${stem}-${label}.${ext}`; writeFileSync(file, raw); console.log("Saved", file); }; for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block)); for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {})); for (const [i, item] of (data.output || []).entries()) { console.log("Output", i, JSON.stringify(item)); if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`); } for (const [ci, candidate] of (data.candidates || []).entries()) { for (const [pi, part] of (candidate.content?.parts || []).entries()) { console.log("Candidate/part", ci, pi, JSON.stringify(part)); const blob = part.inlineData || part.inline_data; if (blob?.data) { const mime = blob.mimeType || blob.mime_type; const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin"; saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`); } } } } saveResult(resp); ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='nemotron-safety-guard-latest',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### 接收並儲存結果 #### Ailoot · OpenAI Chat json 或 SSE ##### 保留所有已完成的結果 請保留所有完整傳回的回應、檔案與內容區塊。 保留每個候選項及其內容／工具呼叫／推理。SSE 中依候選項／工具索引組合增量，保留最終完成原因與用量。 ##### 需要檢查原始回應時 保留請求／回應 ID 與標頭。未提供通用的文字工作擷取 URL。 回應欄位 | 欄位 | 類型 | | --- | --- | | 欄位`choices[].index` | 類型integer | | 欄位`choices[].message.content` | 類型string\|null | | 欄位`choices[].message.tool_calls` | 類型tool\_call\[\] | | 欄位`choices[].message.reasoning_content` | 類型string | | 欄位`choices[].message.reasoning_details` | 類型object\|array | | 欄位`choices[].finish_reason` | 類型string\|null | | 欄位`usage` | 類型object | 錯誤與後續步驟 | 回應 | 條件 | 下一步 | | --- | --- | --- | | 回應400 · `invalid_request_error` | 條件必要欄位、素材表示方式或參數值無效 | 下一步提出新的建立請求前，先修正指定欄位。 | ### 別名 #### 模型別名 **Ailoot** [`nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/zh-hant-tw/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&fmt=chat), [`nemotron-safety-guard`](https://ailoot.ai/models/zh-hant-tw/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard&fmt=chat), [`nemotron-safety-guard-latest`](https://ailoot.ai/models/zh-hant-tw/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard-latest&fmt=chat) #### 方法路徑別名 請使用上方列出的 API 方法路徑。 #### 相關呼叫用 ID [`nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/zh-hant-tw/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&fmt=chat), [`nemotron-safety-guard`](https://ailoot.ai/models/zh-hant-tw/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard&fmt=chat), [`nemotron-safety-guard-latest`](https://ailoot.ai/models/zh-hant-tw/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard-latest&fmt=chat) FAQ · nvidia/llama-3.1-nemotron-safety-guard-8b-v3 可以使用哪些輸入與結果？ `POST /v1/chat/completions` · `nvidia/llama-3.1-nemotron-safety-guard-8b-v3`: `text` → `text` `POST /v1/chat/completions` · `nemotron-safety-guard`: `text` → `text` `POST /v1/chat/completions` · `nemotron-safety-guard-latest`: `text` → `text` 請求使用哪些欄位？ `POST /v1/chat/completions` · `nvidia/llama-3.1-nemotron-safety-guard-8b-v3`: `model`, `messages`, `stream` `POST /v1/chat/completions` · `nemotron-safety-guard`: `model`, `messages`, `stream` `POST /v1/chat/completions` · `nemotron-safety-guard-latest`: `model`, `messages`, `stream` 適用哪些限制？ `POST /v1/chat/completions` · `nvidia/llama-3.1-nemotron-safety-guard-8b-v3`: `ctx`: `4096`; `max_out`: `1024`; `messages.min_items`: `1` `POST /v1/chat/completions` · `nemotron-safety-guard`: `ctx`: `4096`; `max_out`: `1024`; `messages.min_items`: `1` `POST /v1/chat/completions` · `nemotron-safety-guard-latest`: `ctx`: `4096`; `max_out`: `1024`; `messages.min_items`: `1` 將 Ailoot 串接 Claude Code、OpenCode、Hermes 或自己的應用程式。 ## 公司及其專案組合 公司及其專案組合：數百萬客戶，每月銷售額達數十億。 ## 優惠購買 token。 訂閱優惠適合持續工作，折扣碼購買 token 最高可折 50%。 訂閱 為定期請求選擇優惠方案。 最高 50% 折扣碼 購買時輸入代碼，價格依活動重算。 歷史中的費用 每次請求保存模型、token 與金額。 [選擇訂閱](https://ailoot.ai/docs/zh-hant-tw/billing/subscriptions/) · [查看模型價格](https://ailoot.ai/models/zh-hant-tw/) ## 將 API 加入 你銷售的產品。 依 Ailoot 正式服務條款與授權合約串接 SaaS、應用程式與機器人；轉售請申請經銷授權。 商用應用程式 在付費功能加入文字、圖片、影片與聲音生成。 經銷授權 提供專案說明與存取方式，要求書面使用和轉售條件。 網站文件 串接前可閱讀正式服務條款、授權合約與資料處理政策。 [申請經銷授權](mailto:support@ailoot.ai) · [正式服務條款與授權合約](https://ailoot.ai/legal/offer?lang=zh-hant-tw) ## Ailoot · 公司及其專案組合 Ailoot以累積的營運經驗、廣大的客戶群、穩定的服務及持續的KPI管理為基礎。 公司及其專案組合：數百萬客戶，每月銷售額達數十億。 Ailoot將這些營運經驗用於API存取，讓客戶的產品、代理、應用程式及自動化流程使用AI功能。