Hermes 3 Llama 3.1 70B 是 Nous Research 在 Hermes 3 系列中的 70B 通用語言模型版本。它接受文字，生成回應、書面段落、程式碼、結構化紀錄或建議工具呼叫。原廠強調使用者引導能力、推理、角色扮演、多回合對話及長上下文連貫性，以及改善的函式呼叫與程式碼生成。
系統指令可定義角色、規則、風格及輸出需求。角色扮演時，請提供情境、觀點與角色界線；分析任務則提供來源段落及結論準則。實用簡報為：「說明這些需求的差異，保留技術名稱，並指出支持每項發現的段落。」
進行程式開發時，請提供相關實作、觀察到的失敗、預期行為，以及必須維持穩定的介面。要求建議程式碼成品與說明，需要修訂時再使用實際驗證觀察。模型的引導能力有助於塑造回應，但簡報仍必須定義實用結果。
Hermes 3 使用 ChatML，區分 system、user 及 assistant 回合，並設有明確界線。開發者建議透過模型自身範本格式化對話，並加入助理生成提示詞。系統訊息是選用的；使用時，應描述任務上下文與期望行為，而非取代使用者實際請求。
請將對話歷史保留在正確角色中。持續寫作任務應保留已確立事實，並告知模型哪些段落可變更。處理來源時，請將材料標為證據並與指令分開。這有助於後續回應保留任務限制，避免將引用文字混淆為新命令。
此確切模型卡以特定系統表示、函式簽章及參數結構描述訓練函式使用。模型在工具呼叫標記內回傳含有所選函式名稱與引數的 JSON 物件。周邊應用程式解析該建議、執行函式，再回傳具名工具回應。模型接著使用回傳資料產生回答。
請精確定義函式，並要求引數使用真實值，而非對外部系統的假設。查詢函式可提供缺少的產品欄位或計算結果，回答則說明回傳資訊的意義。生成呼叫與執行結果不同；請將觀察與任務一併保留。
Hermes 3 也記載了以結構描述為條件的系統指令，用於僅包含 JSON 的回應。請定義欄位與型別，並說明來源缺少資訊時的表示方式。同時檢查生成物件的結構及其與輸入的一致性。符合結構描述的回應，不應被視為某個值已經查得或經過驗證的證明。
公開的 70B 模型設定有 131,072 個位置。來源文字、對話及生成內容共用所選工作流程的上下文，範例生成大小並非通用硬性回答限制。請為結果預留空間，並讓長輸入保持與問題相關。
實用交付成果是根據所提供上下文及實際工具觀察的可審查文字、程式碼建議或結構化紀錄。此確切的 70B Hermes 3 版本，與較大的 405B 模型及 Hermes 4 的混合推理格式和控制保持區別。
", "aboutText": "Hermes 3 Llama 3.1 70B 是 Nous Research 在 Hermes 3 系列中的 70B 通用語言模型版本。它接受文字，生成回應、書面段落、程式碼、結構化紀錄或建議工具呼叫。原廠強調使用者引導能力、推理、角色扮演、多回合對話及長上下文連貫性，以及改善的函式呼叫與程式碼生成。\n\n### 引導任務與回應\n\n系統指令可定義角色、規則、風格及輸出需求。角色扮演時，請提供情境、觀點與角色界線；分析任務則提供來源段落及結論準則。實用簡報為：「說明這些需求的差異，保留技術名稱，並指出支持每項發現的段落。」\n\n進行程式開發時，請提供相關實作、觀察到的失敗、預期行為，以及必須維持穩定的介面。要求建議程式碼成品與說明，需要修訂時再使用實際驗證觀察。模型的引導能力有助於塑造回應，但簡報仍必須定義實用結果。\n\n### ChatML 對話\n\nHermes 3 使用 ChatML，區分 system、user 及 assistant 回合，並設有明確界線。開發者建議透過模型自身範本格式化對話，並加入助理生成提示詞。系統訊息是選用的；使用時，應描述任務上下文與期望行為，而非取代使用者實際請求。\n\n請將對話歷史保留在正確角色中。持續寫作任務應保留已確立事實，並告知模型哪些段落可變更。處理來源時，請將材料標為證據並與指令分開。這有助於後續回應保留任務限制，避免將引用文字混淆為新命令。\n\n### 函式呼叫\n\n此確切模型卡以特定系統表示、函式簽章及參數結構描述訓練函式使用。模型在工具呼叫標記內回傳含有所選函式名稱與引數的 JSON 物件。周邊應用程式解析該建議、執行函式，再回傳具名工具回應。模型接著使用回傳資料產生回答。\n\n請精確定義函式，並要求引數使用真實值，而非對外部系統的假設。查詢函式可提供缺少的產品欄位或計算結果，回答則說明回傳資訊的意義。生成呼叫與執行結果不同；請將觀察與任務一併保留。\n\n### JSON 模式與限制\n\nHermes 3 也記載了以結構描述為條件的系統指令，用於僅包含 JSON 的回應。請定義欄位與型別，並說明來源缺少資訊時的表示方式。同時檢查生成物件的結構及其與輸入的一致性。符合結構描述的回應，不應被視為某個值已經查得或經過驗證的證明。\n\n公開的 70B 模型設定有 131,072 個位置。來源文字、對話及生成內容共用所選工作流程的上下文，範例生成大小並非通用硬性回答限制。請為結果預留空間，並讓長輸入保持與問題相關。\n\n實用交付成果是根據所提供上下文及實際工具觀察的可審查文字、程式碼建議或結構化紀錄。此確切的 70B Hermes 3 版本，與較大的 405B 模型及 Hermes 4 的混合推理格式和控制保持區別。", "editorialOverlay": { "copy_fields": { "practical_html": "英文技術範例
Continue a constrained roleplay\n\nPlay Irena, the archivist who knows a bridge is unsafe but fears closing it will isolate the town. I play the mayor. Begin with two or three lines of dialogue that reveal the conflict through subtext. Keep Irena’s knowledge consistent and stop before choosing the mayor’s answer or actions.Two or three in-character lines, with optional short stage direction and room for the mayor’s response.Check that the safety-versus-isolation conflict is present and that the user’s character remains under user control.nousresearch/hermes-3-llama-3.1-70bHermes 3 Llama 3.1 70B 是 Nous Research 可引導的通用文字模型，適用於多回合對話、角色扮演、程式碼及代理任務。其 ChatML 型態包含結構描述引導的 JSON 與帶標記函式呼叫，公開設定具有 131,072 個位置。
此說明介紹模型的能力。Ailoot 可用的輸入、輸出與選項，依所選方法列於下方。
Hermes 3 Llama 3.1 70B 是 Nous Research 在 Hermes 3 系列中的 70B 通用語言模型版本。它接受文字，生成回應、書面段落、程式碼、結構化紀錄或建議工具呼叫。原廠強調使用者引導能力、推理、角色扮演、多回合對話及長上下文連貫性，以及改善的函式呼叫與程式碼生成。
系統指令可定義角色、規則、風格及輸出需求。角色扮演時，請提供情境、觀點與角色界線；分析任務則提供來源段落及結論準則。實用簡報為：「說明這些需求的差異，保留技術名稱，並指出支持每項發現的段落。」
進行程式開發時，請提供相關實作、觀察到的失敗、預期行為，以及必須維持穩定的介面。要求建議程式碼成品與說明，需要修訂時再使用實際驗證觀察。模型的引導能力有助於塑造回應，但簡報仍必須定義實用結果。
Hermes 3 使用 ChatML，區分 system、user 及 assistant 回合，並設有明確界線。開發者建議透過模型自身範本格式化對話，並加入助理生成提示詞。系統訊息是選用的；使用時，應描述任務上下文與期望行為，而非取代使用者實際請求。
請將對話歷史保留在正確角色中。持續寫作任務應保留已確立事實，並告知模型哪些段落可變更。處理來源時，請將材料標為證據並與指令分開。這有助於後續回應保留任務限制，避免將引用文字混淆為新命令。
此確切模型卡以特定系統表示、函式簽章及參數結構描述訓練函式使用。模型在工具呼叫標記內回傳含有所選函式名稱與引數的 JSON 物件。周邊應用程式解析該建議、執行函式，再回傳具名工具回應。模型接著使用回傳資料產生回答。
請精確定義函式，並要求引數使用真實值，而非對外部系統的假設。查詢函式可提供缺少的產品欄位或計算結果，回答則說明回傳資訊的意義。生成呼叫與執行結果不同；請將觀察與任務一併保留。
Hermes 3 也記載了以結構描述為條件的系統指令，用於僅包含 JSON 的回應。請定義欄位與型別，並說明來源缺少資訊時的表示方式。同時檢查生成物件的結構及其與輸入的一致性。符合結構描述的回應，不應被視為某個值已經查得或經過驗證的證明。
公開的 70B 模型設定有 131,072 個位置。來源文字、對話及生成內容共用所選工作流程的上下文，範例生成大小並非通用硬性回答限制。請為結果預留空間，並讓長輸入保持與問題相關。
實用交付成果是根據所提供上下文及實際工具觀察的可審查文字、程式碼建議或結構化紀錄。此確切的 70B Hermes 3 版本，與較大的 405B 模型及 Hermes 4 的混合推理格式和控制保持區別。
POST /v1/chat/completionstexttext| 欄位 | 類型 | 要求 | 值與限制 | 預設值 |
|---|---|---|---|---|
欄位model | 類型string | 要求必填 | 值與限制 nousresearch/hermes-3-llama-3.1-70b | 預設值— |
欄位messages | 類型message[] | 要求必填 | 值與限制 項目數下限: 1 | 預設值— |
欄位messages[].role | 類型string | 要求必填 | 值與限制 範例：system, user, assistant, tool, function 條件: 這些角色由 原始碼中的相容型別明確表示；確切角色集合仍依模型而定。 依模型而定 | 預設值— |
欄位messages[].content | 類型string|content_part[]|null | 要求選填 | 值與限制 | 預設值— |
欄位messages[].tool_calls | 類型tool_call[] | 要求選填 | 值與限制 | 預設值— |
欄位messages[].tool_call_id | 類型string | 要求選填 | 值與限制 適用條件: role=tool；使用實際回傳的 ID | 預設值— |
欄位messages[].name | 類型string | 要求選填 | 值與限制 | 預設值— |
欄位messages[].reasoning_content | 類型string | 要求選填 | 值與限制 適用條件: 此模型使用推理內容時，將實際回傳的推理內容帶回後續請求 | 預設值— |
欄位messages[].reasoning_details | 類型object|array | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位max_tokens | 類型integer | 要求選填 | 值與限制 最小值: 1 依模型而定 | 預設值— |
欄位max_completion_tokens | 類型integer | 要求選填 | 值與限制 最小值: 1 依模型而定 | 預設值— |
欄位stream | 類型boolean | 要求選填 | 值與限制 | 預設值false |
欄位stream_options.include_usage | 類型boolean | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位temperature | 類型number | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位top_p | 類型number | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位stop | 類型string|string[] | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位tools | 類型function_tool[] | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位tools[].type | 類型string | 要求選填 | 值與限制 function 依模型而定 | 預設值— |
欄位tools[].function.name | 類型string | 要求必填 | 值與限制 適用條件: 已提供函式工具 | 預設值— |
欄位tools[].function.description | 類型string | 要求選填 | 值與限制 | 預設值— |
欄位tools[].function.parameters | 類型JSON_schema | 要求選填 | 值與限制 | 預設值— |
欄位tool_choice | 類型string|object | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位parallel_tool_calls | 類型boolean | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位response_format | 類型object | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位reasoning_effort | 類型string | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位reasoning | 類型object | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位service_tier | 類型string | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位instructions | 類型string | 要求選填 | 值與限制 相容性欄位 | 預設值— |
欄位functions | 類型function[] | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位function_call | 類型string|object | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位prompt_cache_options | 類型object | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位modalities | 類型string[] | 要求選填 | 值與限制 text | 預設值— |
欄位provider | 類型object | 要求選填 | 值與限制 條件: 此 Ultra 文字路由拒絕 provider.options | 預設值— |
欄位cache_control.ttl | 類型string | 要求選填 | 值與限制 條件: 實際提示詞快取位置拒絕 1h | 預設值— |
文字 · UTF8 文字
messages[].content
| 參數 | 規格 |
|---|---|
參數content_type | 規格application/json |
參數required | 規格model, messages |
參數material_types | 規格text |
參數messages | 規格具有 role/content 結構的訊息陣列 |
參數file_material | 規格實際 UTF-8 文件以原文文字插入；不推定檔案 ID |
參數optional_controls | 規格stream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
參數control_scope | 規格依模型而定；使用者函式工具與託管工具不同 |
參數output_modalities | 規格text |
參數hosted_operations | 規格false |
參數multimodal_input_binding | 規格null |
生命週期： synchronous_or_streamed
將確切模型 ID 與 messages 一併送出。
上下文長度不是輸出上限。
文字檔案可提供原文文字；圖片／音訊／檔案物件輸入需要精確綁定。
費率資訊不會增加請求選項。支援的參數列於所選方法中。
請逐一核對各項費用與所列條件。每組互為替代選項的設定只套用一種費率。
| 設定 | 費率表 | 上下文 Token 數大於 | 上下文 Token 數小於或等於 | 費用 |
|---|---|---|---|---|
| 設定詞元基本費率 | 費率表基本費率 | 上下文 Token 數大於— | 上下文 Token 數小於或等於無上限 | 費用 輸入 · 輸入 Token $0.0014 / 1K Token 輸出 · 輸出 Token $0.0014 / 1K Token 輸入 · 讀取快取 — / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取，1 小時 — / 1K Token |
| 設定請求長度級距 1 | 費率表— | 上下文 Token 數大於0 | 上下文 Token 數小於或等於無上限 | 費用 輸入 · 輸入 Token $0.0014 / 1K Token 輸出 · 輸出 Token $0.0014 / 1K Token 輸入 · 讀取快取 — / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取，1 小時 — / 1K Token |
Ailoot 會在請求前預留估算金額。取得結果後，依實測用量結算最終費用。串流結算採用最終用量紀錄。預留金額與結算的運作方式 →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-3-llama-3.1-70b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-3-llama-3.1-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-3-llama-3.1-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson 或 SSE
請保留所有完整傳回的回應、檔案與內容區塊。
保留每個候選項及其內容／工具呼叫／推理。SSE 中依候選項／工具索引組合增量，保留最終完成原因與用量。
保留請求／回應 ID 與標頭。未提供通用的文字工作擷取 URL。
| 欄位 | 類型 |
|---|---|
欄位choices[].index | 類型integer |
欄位choices[].message.content | 類型string|null |
欄位choices[].message.tool_calls | 類型tool_call[] |
欄位choices[].message.reasoning_content | 類型string |
欄位choices[].message.reasoning_details | 類型object|array |
欄位choices[].finish_reason | 類型string|null |
欄位usage | 類型object |
| 回應 | 條件 | 下一步 |
|---|---|---|
回應400 · invalid_request_error | 條件必要欄位、素材表示方式或參數值無效 | 下一步提出新的建立請求前，先修正指定欄位。 |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-70b
請使用上方列出的 API 方法路徑。
nousresearch/hermes-3-llama-3.1-70bHermes 3 Llama 3.1 70B 是 Nous Research 可引導的通用文字模型，適用於多回合對話、角色扮演、程式碼及代理任務。其 ChatML 型態包含結構描述引導的 JSON 與帶標記函式呼叫，公開設定具有 131,072 個位置。
此說明介紹模型的能力。Ailoot 可用的輸入、輸出與選項，依所選方法列於下方。
Hermes 3 Llama 3.1 70B 是 Nous Research 在 Hermes 3 系列中的 70B 通用語言模型版本。它接受文字，生成回應、書面段落、程式碼、結構化紀錄或建議工具呼叫。原廠強調使用者引導能力、推理、角色扮演、多回合對話及長上下文連貫性，以及改善的函式呼叫與程式碼生成。
系統指令可定義角色、規則、風格及輸出需求。角色扮演時，請提供情境、觀點與角色界線；分析任務則提供來源段落及結論準則。實用簡報為：「說明這些需求的差異，保留技術名稱，並指出支持每項發現的段落。」
進行程式開發時，請提供相關實作、觀察到的失敗、預期行為，以及必須維持穩定的介面。要求建議程式碼成品與說明，需要修訂時再使用實際驗證觀察。模型的引導能力有助於塑造回應，但簡報仍必須定義實用結果。
Hermes 3 使用 ChatML，區分 system、user 及 assistant 回合，並設有明確界線。開發者建議透過模型自身範本格式化對話，並加入助理生成提示詞。系統訊息是選用的；使用時，應描述任務上下文與期望行為，而非取代使用者實際請求。
請將對話歷史保留在正確角色中。持續寫作任務應保留已確立事實，並告知模型哪些段落可變更。處理來源時，請將材料標為證據並與指令分開。這有助於後續回應保留任務限制，避免將引用文字混淆為新命令。
此確切模型卡以特定系統表示、函式簽章及參數結構描述訓練函式使用。模型在工具呼叫標記內回傳含有所選函式名稱與引數的 JSON 物件。周邊應用程式解析該建議、執行函式，再回傳具名工具回應。模型接著使用回傳資料產生回答。
請精確定義函式，並要求引數使用真實值，而非對外部系統的假設。查詢函式可提供缺少的產品欄位或計算結果，回答則說明回傳資訊的意義。生成呼叫與執行結果不同；請將觀察與任務一併保留。
Hermes 3 也記載了以結構描述為條件的系統指令，用於僅包含 JSON 的回應。請定義欄位與型別，並說明來源缺少資訊時的表示方式。同時檢查生成物件的結構及其與輸入的一致性。符合結構描述的回應，不應被視為某個值已經查得或經過驗證的證明。
公開的 70B 模型設定有 131,072 個位置。來源文字、對話及生成內容共用所選工作流程的上下文，範例生成大小並非通用硬性回答限制。請為結果預留空間，並讓長輸入保持與問題相關。
實用交付成果是根據所提供上下文及實際工具觀察的可審查文字、程式碼建議或結構化紀錄。此確切的 70B Hermes 3 版本，與較大的 405B 模型及 Hermes 4 的混合推理格式和控制保持區別。
POST /v1/messagestextjson, sse| 欄位 | 類型 | 要求 | 值與限制 | 預設值 |
|---|---|---|---|---|
欄位model | 類型string | 要求必填 | 值與限制 nousresearch/hermes-3-llama-3.1-70b | 預設值— |
欄位messages | 類型message[] | 要求必填 | 值與限制 | 預設值— |
欄位messages[].role | 類型string | 要求必填 | 值與限制 user, assistant | 預設值— |
欄位messages[].content | 類型string | 要求必填 | 值與限制 | 預設值— |
欄位max_tokens | 類型integer | 要求必填 | 值與限制 | 預設值— |
欄位stream | 類型boolean | 要求選填 | 值與限制 | 預設值false |
文字 · UTF-8 文字
messages[].content 字串
| 參數 | 規格 |
|---|---|
參數content_type | 規格application/json |
參數required | 規格model, messages, max_tokens |
參數optional_controls | 規格stream |
參數material_types | 規格text |
參數text_file_material | 規格讀取實際 UTF-8 文件，將文字放入指定的 input 或訊息內容字串。 |
生命週期： synchronous_or_streamed
費率資訊不會增加請求選項。支援的參數列於所選方法中。
請逐一核對各項費用與所列條件。每組互為替代選項的設定只套用一種費率。
| 設定 | 費率表 | 上下文 Token 數大於 | 上下文 Token 數小於或等於 | 費用 |
|---|---|---|---|---|
| 設定詞元基本費率 | 費率表基本費率 | 上下文 Token 數大於— | 上下文 Token 數小於或等於無上限 | 費用 輸入 · 輸入 Token $0.0014 / 1K Token 輸出 · 輸出 Token $0.0014 / 1K Token 輸入 · 讀取快取 — / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取，1 小時 — / 1K Token |
| 設定請求長度級距 1 | 費率表— | 上下文 Token 數大於0 | 上下文 Token 數小於或等於無上限 | 費用 輸入 · 輸入 Token $0.0014 / 1K Token 輸出 · 輸出 Token $0.0014 / 1K Token 輸入 · 讀取快取 — / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取，1 小時 — / 1K Token |
Ailoot 會在請求前預留估算金額。取得結果後，依實測用量結算最終費用。串流結算採用最終用量紀錄。預留金額與結算的運作方式 →
{\n "model": "nousresearch/hermes-3-llama-3.1-70b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON 或 SSE
請保留所有完整傳回的回應、檔案與內容區塊。
保留所有內容區塊、思考簽章與實際工具使用 ID。組合所有 SSE 區塊增量；第一個文字區塊不是完整輸出。
保留請求／回應 ID 與標頭。未提供通用的文字工作擷取 URL。
| 欄位 | 類型 |
|---|---|
欄位id | 類型string |
欄位model | 類型string |
欄位content[] | 類型text|thinking|tool_use|other content block |
欄位stop_reason | 類型string|null |
欄位usage | 類型object |
| 回應 | 條件 | 下一步 |
|---|---|---|
回應400 · invalid_request_error | 條件必要欄位、素材表示方式或參數值無效 | 下一步提出新的建立請求前，先修正指定欄位。 |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-70b
請使用上方列出的 API 方法路徑。
英文技術範例
Continue a constrained roleplay\n\nPlay Irena, the archivist who knows a bridge is unsafe but fears closing it will isolate the town. I play the mayor. Begin with two or three lines of dialogue that reveal the conflict through subtext. Keep Irena’s knowledge consistent and stop before choosing the mayor’s answer or actions.Two or three in-character lines, with optional short stage direction and room for the mayor’s response.Check that the safety-versus-isolation conflict is present and that the user’s character remains under user control.