LlamaIndex
Markdown框架 · OpenAI Chat
完整指南
| 格式 | 設定位置 |
|---|---|
| OpenAI Chat | llama-index-llms-openai-like 套件,使用 OpenAILike(api_base=..., api_key=..., model=..., is_chat_model=True) 類別 |
設定
複製設定,並將sk-...替換為您的 Ailoot 控制台金鑰。若應用程式支援,最好將金鑰存放在環境變數AILOOT_API_KEY中。
執行前,請使用 Ailoot 金鑰呼叫 GET /v1/models。選擇支援方法包含 POST /v1/chat/completions 的確切模型 ID,並填入設定。使用代理程式時,也請確認工具支援及客戶端版本所需的功能。
pip install llama-index-llms-openai-likeimport os
from llama_index.llms.openai_like import OpenAILike
llm = OpenAILike(
model="deepseek-v4-pro",
api_base="https://api.ailoot.ai/v1",
api_key=os.environ["AILOOT_API_KEY"],
is_chat_model=True,
is_function_calling_model=True,
context_window=128000)
print(llm.complete("你好"))模型範例:deepseek-v4-pro, claude-sonnet-5-5, gpt-6.1-sol。若要使用其他模型,請從此處選取:目錄 —請確認模型支援所需格式。
重要須知
驗證
- OpenAI 格式的位址為
https://api.ailoot.ai/v1(若應用程式要求完整位址,則使用完整路徑)。 - 提出一個簡短問題。若收到錯誤,請查看代碼與Request ID,並對照此頁面:錯誤與限制。
- 剛完成設定就遇到 404,幾乎總是位址不正確,可能多加或漏加了
/v1。 - 402 表示餘額不足以涵蓋保留金額。代理需要保留的金額比聊天更多:原因。
應用程式說明文件:https://developers.llamaindex.ai/python/framework-api-reference/llms/openai_like/
還有疑問嗎?請提供 Request ID與問題描述,我們會協助釐清。聯絡支援