LiteLLM Proxy
Markdown独自ゲートウェイ · OpenAI Chat
完全ガイド
| 形式 | 設定場所 |
|---|---|
| OpenAI Chat | config.yaml → model_list → litellm_params (model, api_base, api_key);起動コマンド:litellm --config config.yaml |
設定
設定をコピーし、 sk-... を、Ailootのダッシュボードで取得した自分のキーに置き換えてください。キーは、次の環境変数で保管することを推奨します:AILOOT_API_KEY。アプリケーションが対応している場合に使用してください。
実行前に、AilootキーでGET /v1/modelsを取得します。対応メソッドにPOST /v1/chat/completionsを含む正確なモデルIDを選び、設定に使用してください。エージェントでは、クライアントのバージョンに必要なツールと機能の対応も確認します。
model_list:
- model_name: claude-sonnet
litellm_params:
model: openai/claude-sonnet-5-5
api_base: https://api.ailoot.ai/v1
api_key: os.environ/AILOOT_API_KEY
- model_name: gpt-sol
litellm_params:
model: openai/gpt-6.1-sol
api_base: https://api.ailoot.ai/v1
api_key: os.environ/AILOOT_API_KEY
# 起動: litellm --config config.yamlこの設定は、次の変数からキーを取得します:AILOOT_API_KEY。アプリケーションの起動前に設定してください:
export AILOOT_API_KEY="sk-..." # ~/.zshrcまたは~/.bashrcに追加するsetx AILOOT_API_KEY "sk-..." # その後、ターミナルを再起動するモデルの例:openai/claude-sonnet-5-5, openai/gpt-6.1-sol。別のモデルを選ぶ際の参照先:カタログ 。必要な形式に対応しているか確認してください。
注意事項
確認
- OpenAI形式のアドレス:
https://api.ailoot.ai/v1(アプリケーションが完全なアドレスを求める場合は、完全なパス)。 - 短い質問を送信してください。エラーが返った場合は、コードとRequest IDを確認し、次のページと照合してください:エラーと制限。
- 設定直後の404は、ほとんどの場合、アドレスの間違いです。追加しすぎ、または不足している部分:
/v1。 - 402は、仮確保に必要な残高の不足です。エージェントはチャットより多くの金額を仮確保します。参照:理由。
アプリケーションのドキュメント:https://docs.litellm.ai/docs/providers/openai_compatible
ご不明な点はありますか?Request IDと状況の説明をお送りください。調査をお手伝いします。サポートに問い合わせる