Llama 3.1 8B Instruct 是 Meta 的 80 億參數文字模型，適用於多語言對話與依指令工作的助理。它接受書面對話與來源資料，產生文字或程式碼。這是 8B 規模的 Instruct 版本，與其預訓練基礎模型及同系列 70B、405B 模型不同。
架構、上下文與語言
模型採用自迴歸 Transformer 架構與分組查詢注意力。經指令微調的系列使用監督式微調與人類回饋強化學習，對齊其對話回應。製造商為此文字版本列出 128k 上下文；它並非後續 Llama 4 模型的視覺或長上下文規格。
八種官方支援語言為英語、德語、法語、義大利語、葡萄牙語、印地語、西班牙語及泰語。預訓練資料涵蓋較廣語言集合，與模型卡明確支援的語言不同。請說明最終語言，以及多語言結果中應保持不變的名稱、變數識別碼或術語。
此系列以約十五兆 token 預訓練，資料截止於 2023 年 12 月。微調包含指令資料與超過二千五百萬筆合成範例。這描述模型訓練，不代表新問題到來時能存取私人知識庫或即時資訊。
明確的文字操作
客服導向的要求可提供使用者訊息與相關參考段落，再要求答案及其支持條件。精簡記錄可分開呈現問題、已提供資訊與下一個必要步驟。當應用程式需要處理結果時，請定義欄位名稱與缺失值處理方式。
進行摘要時，請提供實際段落或交流內容，並指定讀者、長度與要保留的事實。請要求與單一主題相關的決策或未解問題，不要對無關資料進行無方向的摘要。後續可要求較短回覆，或更清楚解釋某個條件，同時保留相同來源事實。
編輯時，請指定讀者與語氣，並指出不得改變的含義。實際任務可以要求更清楚的訊息，接著附上簡短修改清單；若將直接使用，也可只要求修訂訊息。分類任務應提供允許標籤及彼此差異，不要依賴標籤名稱定義規則。
程式碼與範例生成
文件所載輸出也包含程式碼。請先提供語言、必要輸入與預期結果，再要求函式。要求說明時，請提供既有函式與具體輸入，並詢問哪些步驟決定回傳值。要求修正時，請納入觀察到的故障與預期行為，並保留必須相容的介面。
實用輸出可分開呈現程式碼提案、假設與範例輸入。應用程式或開發者執行實際編譯、執行或程式碼庫變更。書面原始碼是待檢視產物，不會僅因模型回傳它，就成為已完成的外部操作。
此系列也支援將生成輸出用作合成範例與蒸餾。明確的文字要求可依提供規則、以指定格式產生變體。請保留規則與標籤，讓每個範例都可檢視；生成範例無法獨立確立訓練資料集的正確性。
對話角色與工具使用
模型卡示範以獨立系統與使用者訊息組成聊天範本。請在系統上下文定義助理角色與回應要求，再將問題與來源資料作為任務提供。後續提問或提供會改變結果的新證據時，請保留相關先前訊息。
Llama 3.1 記錄多種工具使用格式。應用程式描述函式，模型生成呼叫及引數提案，應用程式執行，再以工具角色回傳結果。下一個答案即可使用回傳資訊。請在對話中維持原始操作與結果的關聯。
例如，查詢可回傳段落缺少的當前參考值，計算工具則可提供說明所需數值結果。啟用工具的助理需要環境提供這些操作。模型的文字行為本身不會建立外部來源連線，也不會完成外部變更。
實際邊界
製造商的 128k 上下文標示應與精確的 8B Instruct 版本及適用設定一起保留。256 token 的生成範例只是使用選擇；已讀來源未說明獨立的硬性最大答案容量。8B 規模不應繼承其他成員的參數量，或另一系列具名推理控制項。
這是僅限文字的模型。視覺輸入、音訊理解與語音生成需要另外指定的元件。請先定義最終產物，再提供資料：精簡回覆、擷取記錄、修訂段落、說明或程式碼提案。請保留檢視該產物含義與格式所需的來源資訊。
", "aboutText": "Llama 3.1 8B Instruct 是 Meta 的 80 億參數文字模型，適用於多語言對話與依指令工作的助理。它接受書面對話與來源資料，產生文字或程式碼。這是 8B 規模的 Instruct 版本，與其預訓練基礎模型及同系列 70B、405B 模型不同。\n\n架構、上下文與語言\n\n模型採用自迴歸 Transformer 架構與分組查詢注意力。經指令微調的系列使用監督式微調與人類回饋強化學習，對齊其對話回應。製造商為此文字版本列出 128k 上下文；它並非後續 Llama 4 模型的視覺或長上下文規格。\n\n八種官方支援語言為英語、德語、法語、義大利語、葡萄牙語、印地語、西班牙語及泰語。預訓練資料涵蓋較廣語言集合，與模型卡明確支援的語言不同。請說明最終語言，以及多語言結果中應保持不變的名稱、變數識別碼或術語。\n\n此系列以約十五兆 token 預訓練，資料截止於 2023 年 12 月。微調包含指令資料與超過二千五百萬筆合成範例。這描述模型訓練，不代表新問題到來時能存取私人知識庫或即時資訊。\n\n明確的文字操作\n\n客服導向的要求可提供使用者訊息與相關參考段落，再要求答案及其支持條件。精簡記錄可分開呈現問題、已提供資訊與下一個必要步驟。當應用程式需要處理結果時，請定義欄位名稱與缺失值處理方式。\n\n進行摘要時，請提供實際段落或交流內容，並指定讀者、長度與要保留的事實。請要求與單一主題相關的決策或未解問題，不要對無關資料進行無方向的摘要。後續可要求較短回覆，或更清楚解釋某個條件，同時保留相同來源事實。\n\n編輯時，請指定讀者與語氣，並指出不得改變的含義。實際任務可以要求更清楚的訊息，接著附上簡短修改清單；若將直接使用，也可只要求修訂訊息。分類任務應提供允許標籤及彼此差異，不要依賴標籤名稱定義規則。\n\n程式碼與範例生成\n\n文件所載輸出也包含程式碼。請先提供語言、必要輸入與預期結果，再要求函式。要求說明時，請提供既有函式與具體輸入，並詢問哪些步驟決定回傳值。要求修正時，請納入觀察到的故障與預期行為，並保留必須相容的介面。\n\n實用輸出可分開呈現程式碼提案、假設與範例輸入。應用程式或開發者執行實際編譯、執行或程式碼庫變更。書面原始碼是待檢視產物，不會僅因模型回傳它，就成為已完成的外部操作。\n\n此系列也支援將生成輸出用作合成範例與蒸餾。明確的文字要求可依提供規則、以指定格式產生變體。請保留規則與標籤，讓每個範例都可檢視；生成範例無法獨立確立訓練資料集的正確性。\n\n對話角色與工具使用\n\n模型卡示範以獨立系統與使用者訊息組成聊天範本。請在系統上下文定義助理角色與回應要求，再將問題與來源資料作為任務提供。後續提問或提供會改變結果的新證據時，請保留相關先前訊息。\n\nLlama 3.1 記錄多種工具使用格式。應用程式描述函式，模型生成呼叫及引數提案，應用程式執行，再以工具角色回傳結果。下一個答案即可使用回傳資訊。請在對話中維持原始操作與結果的關聯。\n\n例如，查詢可回傳段落缺少的當前參考值，計算工具則可提供說明所需數值結果。啟用工具的助理需要環境提供這些操作。模型的文字行為本身不會建立外部來源連線，也不會完成外部變更。\n\n實際邊界\n\n製造商的 128k 上下文標示應與精確的 8B Instruct 版本及適用設定一起保留。256 token 的生成範例只是使用選擇；已讀來源未說明獨立的硬性最大答案容量。8B 規模不應繼承其他成員的參數量，或另一系列具名推理控制項。\n\n這是僅限文字的模型。視覺輸入、音訊理解與語音生成需要另外指定的元件。請先定義最終產物，再提供資料：精簡回覆、擷取記錄、修訂段落、說明或程式碼提案。請保留檢視該產物含義與格式所需的來源資訊。", "editorialOverlay": { "copy_fields": { "practical_html": "英文技術範例
Translate a delivery notice into German\n\nTranslate this customer notice into German: 'Order BN-42 will leave our warehouse on Thursday. Delivery normally takes three business days. We will send tracking details after dispatch.' Preserve BN-42, distinguish dispatch from delivery and use a polite professional tone. Return only the translation; do not turn the normal transit time into a guaranteed arrival date.One German customer notice preserving the identifier, event sequence and qualified transit time.The translation distinguishes warehouse dispatch from delivery and retains the word's sense of a normal estimate.meta-llama/llama-3.1-8b-instructLlama 3.1 8B Instruct 是 Meta 較小的文字指令模型，適用於多語言對話、摘要及根據來源資料作答。它具備 8B 參數、製造商所載的 128k 上下文、分組查詢注意力與文件所載的工具使用格式，回傳文字或程式碼。
此說明介紹模型的能力。Ailoot 可用的輸入、輸出與選項，依所選方法列於下方。
Llama 3.1 8B Instruct 是 Meta 的 80 億參數文字模型，適用於多語言對話與依指令工作的助理。它接受書面對話與來源資料，產生文字或程式碼。這是 8B 規模的 Instruct 版本，與其預訓練基礎模型及同系列 70B、405B 模型不同。
架構、上下文與語言
模型採用自迴歸 Transformer 架構與分組查詢注意力。經指令微調的系列使用監督式微調與人類回饋強化學習，對齊其對話回應。製造商為此文字版本列出 128k 上下文；它並非後續 Llama 4 模型的視覺或長上下文規格。
八種官方支援語言為英語、德語、法語、義大利語、葡萄牙語、印地語、西班牙語及泰語。預訓練資料涵蓋較廣語言集合，與模型卡明確支援的語言不同。請說明最終語言，以及多語言結果中應保持不變的名稱、變數識別碼或術語。
此系列以約十五兆 token 預訓練，資料截止於 2023 年 12 月。微調包含指令資料與超過二千五百萬筆合成範例。這描述模型訓練，不代表新問題到來時能存取私人知識庫或即時資訊。
明確的文字操作
客服導向的要求可提供使用者訊息與相關參考段落，再要求答案及其支持條件。精簡記錄可分開呈現問題、已提供資訊與下一個必要步驟。當應用程式需要處理結果時，請定義欄位名稱與缺失值處理方式。
進行摘要時，請提供實際段落或交流內容，並指定讀者、長度與要保留的事實。請要求與單一主題相關的決策或未解問題，不要對無關資料進行無方向的摘要。後續可要求較短回覆，或更清楚解釋某個條件，同時保留相同來源事實。
編輯時，請指定讀者與語氣，並指出不得改變的含義。實際任務可以要求更清楚的訊息，接著附上簡短修改清單；若將直接使用，也可只要求修訂訊息。分類任務應提供允許標籤及彼此差異，不要依賴標籤名稱定義規則。
程式碼與範例生成
文件所載輸出也包含程式碼。請先提供語言、必要輸入與預期結果，再要求函式。要求說明時，請提供既有函式與具體輸入，並詢問哪些步驟決定回傳值。要求修正時，請納入觀察到的故障與預期行為，並保留必須相容的介面。
實用輸出可分開呈現程式碼提案、假設與範例輸入。應用程式或開發者執行實際編譯、執行或程式碼庫變更。書面原始碼是待檢視產物，不會僅因模型回傳它，就成為已完成的外部操作。
此系列也支援將生成輸出用作合成範例與蒸餾。明確的文字要求可依提供規則、以指定格式產生變體。請保留規則與標籤，讓每個範例都可檢視；生成範例無法獨立確立訓練資料集的正確性。
對話角色與工具使用
模型卡示範以獨立系統與使用者訊息組成聊天範本。請在系統上下文定義助理角色與回應要求，再將問題與來源資料作為任務提供。後續提問或提供會改變結果的新證據時，請保留相關先前訊息。
Llama 3.1 記錄多種工具使用格式。應用程式描述函式，模型生成呼叫及引數提案，應用程式執行，再以工具角色回傳結果。下一個答案即可使用回傳資訊。請在對話中維持原始操作與結果的關聯。
例如，查詢可回傳段落缺少的當前參考值，計算工具則可提供說明所需數值結果。啟用工具的助理需要環境提供這些操作。模型的文字行為本身不會建立外部來源連線，也不會完成外部變更。
實際邊界
製造商的 128k 上下文標示應與精確的 8B Instruct 版本及適用設定一起保留。256 token 的生成範例只是使用選擇；已讀來源未說明獨立的硬性最大答案容量。8B 規模不應繼承其他成員的參數量，或另一系列具名推理控制項。
這是僅限文字的模型。視覺輸入、音訊理解與語音生成需要另外指定的元件。請先定義最終產物，再提供資料：精簡回覆、擷取記錄、修訂段落、說明或程式碼提案。請保留檢視該產物含義與格式所需的來源資訊。
POST /v1/chat/completionstexttext| 欄位 | 類型 | 要求 | 值與限制 | 預設值 |
|---|---|---|---|---|
欄位model | 類型string | 要求必填 | 值與限制 meta-llama/llama-3.1-8b-instruct | 預設值— |
欄位messages | 類型message[] | 要求必填 | 值與限制 項目數下限: 1 | 預設值— |
欄位messages[].role | 類型string | 要求必填 | 值與限制 範例：system, user, assistant, tool, function 條件: 這些角色由 原始碼中的相容型別明確表示；確切角色集合仍依模型而定。 依模型而定 | 預設值— |
欄位messages[].content | 類型string|content_part[]|null | 要求選填 | 值與限制 | 預設值— |
欄位messages[].tool_calls | 類型tool_call[] | 要求選填 | 值與限制 | 預設值— |
欄位messages[].tool_call_id | 類型string | 要求選填 | 值與限制 適用條件: role=tool；使用實際回傳的 ID | 預設值— |
欄位messages[].name | 類型string | 要求選填 | 值與限制 | 預設值— |
欄位messages[].reasoning_content | 類型string | 要求選填 | 值與限制 適用條件: 此模型使用推理內容時，將實際回傳的推理內容帶回後續請求 | 預設值— |
欄位messages[].reasoning_details | 類型object|array | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位max_tokens | 類型integer | 要求選填 | 值與限制 最小值: 1 依模型而定 | 預設值— |
欄位max_completion_tokens | 類型integer | 要求選填 | 值與限制 最小值: 1 依模型而定 | 預設值— |
欄位stream | 類型boolean | 要求選填 | 值與限制 | 預設值false |
欄位stream_options.include_usage | 類型boolean | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位temperature | 類型number | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位top_p | 類型number | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位stop | 類型string|string[] | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位tools | 類型function_tool[] | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位tools[].type | 類型string | 要求選填 | 值與限制 function 依模型而定 | 預設值— |
欄位tools[].function.name | 類型string | 要求必填 | 值與限制 適用條件: 已提供函式工具 | 預設值— |
欄位tools[].function.description | 類型string | 要求選填 | 值與限制 | 預設值— |
欄位tools[].function.parameters | 類型JSON_schema | 要求選填 | 值與限制 | 預設值— |
欄位tool_choice | 類型string|object | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位parallel_tool_calls | 類型boolean | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位response_format | 類型object | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位reasoning_effort | 類型string | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位reasoning | 類型object | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位service_tier | 類型string | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位instructions | 類型string | 要求選填 | 值與限制 相容性欄位 | 預設值— |
欄位functions | 類型function[] | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位function_call | 類型string|object | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位prompt_cache_options | 類型object | 要求選填 | 值與限制 依模型而定 | 預設值— |
欄位modalities | 類型string[] | 要求選填 | 值與限制 text | 預設值— |
欄位provider | 類型object | 要求選填 | 值與限制 條件: 此 Ultra 文字路由拒絕 provider.options | 預設值— |
欄位cache_control.ttl | 類型string | 要求選填 | 值與限制 條件: 實際提示詞快取位置拒絕 1h | 預設值— |
文字 · UTF8 文字
messages[].content
| 參數 | 規格 |
|---|---|
參數content_type | 規格application/json |
參數required | 規格model, messages |
參數material_types | 規格text |
參數messages | 規格具有 role/content 結構的訊息陣列 |
參數file_material | 規格實際 UTF-8 文件以原文文字插入；不推定檔案 ID |
參數optional_controls | 規格stream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
參數control_scope | 規格依模型而定；使用者函式工具與託管工具不同 |
參數output_modalities | 規格text |
參數hosted_operations | 規格false |
參數multimodal_input_binding | 規格null |
生命週期： synchronous_or_streamed
將確切模型 ID 與 messages 一併送出。
上下文長度不是輸出上限。
文字檔案可提供原文文字；圖片／音訊／檔案物件輸入需要精確綁定。
費率資訊不會增加請求選項。支援的參數列於所選方法中。
請逐一核對各項費用與所列條件。每組互為替代選項的設定只套用一種費率。
| 設定 | 費率表 | 上下文 Token 數大於 | 上下文 Token 數小於或等於 | 費用 |
|---|---|---|---|---|
| 設定詞元基本費率 | 費率表基本費率 | 上下文 Token 數大於— | 上下文 Token 數小於或等於無上限 | 費用 輸入 · 輸入 Token $0.00044 / 1K Token 輸出 · 輸出 Token $0.00044 / 1K Token 輸入 · 讀取快取 $0.00044 / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取，1 小時 — / 1K Token |
| 設定請求長度級距 1 | 費率表— | 上下文 Token 數大於0 | 上下文 Token 數小於或等於無上限 | 費用 輸入 · 輸入 Token $0.00044 / 1K Token 輸出 · 輸出 Token $0.00044 / 1K Token 輸入 · 讀取快取 $0.00044 / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取，1 小時 — / 1K Token |
Ailoot 會在請求前預留估算金額。取得結果後，依實測用量結算最終費用。串流結算採用最終用量紀錄。預留金額與結算的運作方式 →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.1-8b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.1-8b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.1-8b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson 或 SSE
請保留所有完整傳回的回應、檔案與內容區塊。
保留每個候選項及其內容／工具呼叫／推理。SSE 中依候選項／工具索引組合增量，保留最終完成原因與用量。
保留請求／回應 ID 與標頭。未提供通用的文字工作擷取 URL。
| 欄位 | 類型 |
|---|---|
欄位choices[].index | 類型integer |
欄位choices[].message.content | 類型string|null |
欄位choices[].message.tool_calls | 類型tool_call[] |
欄位choices[].message.reasoning_content | 類型string |
欄位choices[].message.reasoning_details | 類型object|array |
欄位choices[].finish_reason | 類型string|null |
欄位usage | 類型object |
| 回應 | 條件 | 下一步 |
|---|---|---|
回應400 · invalid_request_error | 條件必要欄位、素材表示方式或參數值無效 | 下一步提出新的建立請求前，先修正指定欄位。 |
Ailoot Ultra meta-llama/llama-3.1-8b-instruct
請使用上方列出的 API 方法路徑。
meta-llama/llama-3.1-8b-instructLlama 3.1 8B Instruct 是 Meta 較小的文字指令模型，適用於多語言對話、摘要及根據來源資料作答。它具備 8B 參數、製造商所載的 128k 上下文、分組查詢注意力與文件所載的工具使用格式，回傳文字或程式碼。
此說明介紹模型的能力。Ailoot 可用的輸入、輸出與選項，依所選方法列於下方。
Llama 3.1 8B Instruct 是 Meta 的 80 億參數文字模型，適用於多語言對話與依指令工作的助理。它接受書面對話與來源資料，產生文字或程式碼。這是 8B 規模的 Instruct 版本，與其預訓練基礎模型及同系列 70B、405B 模型不同。
架構、上下文與語言
模型採用自迴歸 Transformer 架構與分組查詢注意力。經指令微調的系列使用監督式微調與人類回饋強化學習，對齊其對話回應。製造商為此文字版本列出 128k 上下文；它並非後續 Llama 4 模型的視覺或長上下文規格。
八種官方支援語言為英語、德語、法語、義大利語、葡萄牙語、印地語、西班牙語及泰語。預訓練資料涵蓋較廣語言集合，與模型卡明確支援的語言不同。請說明最終語言，以及多語言結果中應保持不變的名稱、變數識別碼或術語。
此系列以約十五兆 token 預訓練，資料截止於 2023 年 12 月。微調包含指令資料與超過二千五百萬筆合成範例。這描述模型訓練，不代表新問題到來時能存取私人知識庫或即時資訊。
明確的文字操作
客服導向的要求可提供使用者訊息與相關參考段落，再要求答案及其支持條件。精簡記錄可分開呈現問題、已提供資訊與下一個必要步驟。當應用程式需要處理結果時，請定義欄位名稱與缺失值處理方式。
進行摘要時，請提供實際段落或交流內容，並指定讀者、長度與要保留的事實。請要求與單一主題相關的決策或未解問題，不要對無關資料進行無方向的摘要。後續可要求較短回覆，或更清楚解釋某個條件，同時保留相同來源事實。
編輯時，請指定讀者與語氣，並指出不得改變的含義。實際任務可以要求更清楚的訊息，接著附上簡短修改清單；若將直接使用，也可只要求修訂訊息。分類任務應提供允許標籤及彼此差異，不要依賴標籤名稱定義規則。
程式碼與範例生成
文件所載輸出也包含程式碼。請先提供語言、必要輸入與預期結果，再要求函式。要求說明時，請提供既有函式與具體輸入，並詢問哪些步驟決定回傳值。要求修正時，請納入觀察到的故障與預期行為，並保留必須相容的介面。
實用輸出可分開呈現程式碼提案、假設與範例輸入。應用程式或開發者執行實際編譯、執行或程式碼庫變更。書面原始碼是待檢視產物，不會僅因模型回傳它，就成為已完成的外部操作。
此系列也支援將生成輸出用作合成範例與蒸餾。明確的文字要求可依提供規則、以指定格式產生變體。請保留規則與標籤，讓每個範例都可檢視；生成範例無法獨立確立訓練資料集的正確性。
對話角色與工具使用
模型卡示範以獨立系統與使用者訊息組成聊天範本。請在系統上下文定義助理角色與回應要求，再將問題與來源資料作為任務提供。後續提問或提供會改變結果的新證據時，請保留相關先前訊息。
Llama 3.1 記錄多種工具使用格式。應用程式描述函式，模型生成呼叫及引數提案，應用程式執行，再以工具角色回傳結果。下一個答案即可使用回傳資訊。請在對話中維持原始操作與結果的關聯。
例如，查詢可回傳段落缺少的當前參考值，計算工具則可提供說明所需數值結果。啟用工具的助理需要環境提供這些操作。模型的文字行為本身不會建立外部來源連線，也不會完成外部變更。
實際邊界
製造商的 128k 上下文標示應與精確的 8B Instruct 版本及適用設定一起保留。256 token 的生成範例只是使用選擇；已讀來源未說明獨立的硬性最大答案容量。8B 規模不應繼承其他成員的參數量，或另一系列具名推理控制項。
這是僅限文字的模型。視覺輸入、音訊理解與語音生成需要另外指定的元件。請先定義最終產物，再提供資料：精簡回覆、擷取記錄、修訂段落、說明或程式碼提案。請保留檢視該產物含義與格式所需的來源資訊。
POST /v1/messagestextjson, sse| 欄位 | 類型 | 要求 | 值與限制 | 預設值 |
|---|---|---|---|---|
欄位model | 類型string | 要求必填 | 值與限制 meta-llama/llama-3.1-8b-instruct | 預設值— |
欄位messages | 類型message[] | 要求必填 | 值與限制 | 預設值— |
欄位messages[].role | 類型string | 要求必填 | 值與限制 user, assistant | 預設值— |
欄位messages[].content | 類型string | 要求必填 | 值與限制 | 預設值— |
欄位max_tokens | 類型integer | 要求必填 | 值與限制 | 預設值— |
欄位stream | 類型boolean | 要求選填 | 值與限制 | 預設值false |
文字 · UTF-8 文字
messages[].content 字串
| 參數 | 規格 |
|---|---|
參數content_type | 規格application/json |
參數required | 規格model, messages, max_tokens |
參數optional_controls | 規格stream |
參數material_types | 規格text |
參數text_file_material | 規格讀取實際 UTF-8 文件，將文字放入指定的 input 或訊息內容字串。 |
生命週期： synchronous_or_streamed
費率資訊不會增加請求選項。支援的參數列於所選方法中。
請逐一核對各項費用與所列條件。每組互為替代選項的設定只套用一種費率。
| 設定 | 費率表 | 上下文 Token 數大於 | 上下文 Token 數小於或等於 | 費用 |
|---|---|---|---|---|
| 設定詞元基本費率 | 費率表基本費率 | 上下文 Token 數大於— | 上下文 Token 數小於或等於無上限 | 費用 輸入 · 輸入 Token $0.00044 / 1K Token 輸出 · 輸出 Token $0.00044 / 1K Token 輸入 · 讀取快取 $0.00044 / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取，1 小時 — / 1K Token |
| 設定請求長度級距 1 | 費率表— | 上下文 Token 數大於0 | 上下文 Token 數小於或等於無上限 | 費用 輸入 · 輸入 Token $0.00044 / 1K Token 輸出 · 輸出 Token $0.00044 / 1K Token 輸入 · 讀取快取 $0.00044 / 1K Token 輸入 · 寫入快取 — / 1K Token 輸入 · 寫入快取，1 小時 — / 1K Token |
Ailoot 會在請求前預留估算金額。取得結果後，依實測用量結算最終費用。串流結算採用最終用量紀錄。預留金額與結算的運作方式 →
{\n "model": "meta-llama/llama-3.1-8b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON 或 SSE
請保留所有完整傳回的回應、檔案與內容區塊。
保留所有內容區塊、思考簽章與實際工具使用 ID。組合所有 SSE 區塊增量；第一個文字區塊不是完整輸出。
保留請求／回應 ID 與標頭。未提供通用的文字工作擷取 URL。
| 欄位 | 類型 |
|---|---|
欄位id | 類型string |
欄位model | 類型string |
欄位content[] | 類型text|thinking|tool_use|other content block |
欄位stop_reason | 類型string|null |
欄位usage | 類型object |
| 回應 | 條件 | 下一步 |
|---|---|---|
回應400 · invalid_request_error | 條件必要欄位、素材表示方式或參數值無效 | 下一步提出新的建立請求前，先修正指定欄位。 |
Ailoot Ultra meta-llama/llama-3.1-8b-instruct
請使用上方列出的 API 方法路徑。
英文技術範例
Translate a delivery notice into German\n\nTranslate this customer notice into German: 'Order BN-42 will leave our warehouse on Thursday. Delivery normally takes three business days. We will send tracking details after dispatch.' Preserve BN-42, distinguish dispatch from delivery and use a polite professional tone. Return only the translation; do not turn the normal transit time into a guaranteed arrival date.One German customer notice preserving the identifier, event sequence and qualified transit time.The translation distinguishes warehouse dispatch from delivery and retains the word's sense of a normal estimate.