LiteLLM
MarkdownSDK · OpenAI Chat
完整指南
| 格式 | 設定位置 |
|---|---|
| OpenAI Chat | litellm.completion(model="openai/<id>", api_base=..., api_key=...) |
設定
複製設定,並將sk-...替換為您的 Ailoot 控制台金鑰。若應用程式支援,最好將金鑰存放在環境變數AILOOT_API_KEY中。
執行前,請使用 Ailoot 金鑰呼叫 GET /v1/models。選擇支援方法包含 POST /v1/chat/completions 的確切模型 ID,並填入設定。使用代理程式時,也請確認工具支援及客戶端版本所需的功能。
import os
import litellm
r = litellm.completion(
model="openai/claude-sonnet-5-5",
api_base="https://api.ailoot.ai/v1",
api_key=os.environ["AILOOT_API_KEY"],
messages=[{"role": "user", "content": "你好"}])
print(r.choices[0].message.content)
# 嵌入向量:litellm.embedding(model="openai/nemotron-3-embed", api_base="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], input=["文字"])模型範例:openai/claude-sonnet-5-5, openai/qwen3.8-max, openai/nemotron-3-embed。若要使用其他模型,請從此處選取:目錄 —請確認模型支援所需格式。
重要須知
驗證
- OpenAI 格式的位址為
https://api.ailoot.ai/v1(若應用程式要求完整位址,則使用完整路徑)。 - 提出一個簡短問題。若收到錯誤,請查看代碼與Request ID,並對照此頁面:錯誤與限制。
- 剛完成設定就遇到 404,幾乎總是位址不正確,可能多加或漏加了
/v1。 - 402 表示餘額不足以涵蓋保留金額。代理需要保留的金額比聊天更多:原因。
應用程式說明文件:https://docs.litellm.ai/docs/providers/openai_compatible
還有疑問嗎?請提供 Request ID與問題描述,我們會協助釐清。聯絡支援