LiteLLM Proxy

Vlastná brána · OpenAI Chat

Úplný sprievodca

Formát	Kde nastaviť
OpenAI Chat	config.yaml → model_list → litellm_params (model, api_base, api_key); spustenie litellm --config config.yaml

Nastavenie

Skopírujte konfiguráciu a nahraďte sk-... vlastným kľúčom z účtu Ailoot. Kľúč je lepšie uchovávať v premennej prostredia AILOOT_API_KEY, ak to aplikácia podporuje.

Pred spustením zavolajte GET /v1/models so svojím kľúčom Ailoot. Vyberte presné ID modelu, ktorého metódy zahŕňajú POST /v1/chat/completions, a použite ho v konfigurácii. Pri agentoch overte aj podporu nástrojov a funkcie potrebné pre vašu verziu klienta.

model_list:
  - model_name: claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-5-5
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY
  - model_name: gpt-sol
    litellm_params:
      model: openai/gpt-6.1-sol
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY

# spustenie: litellm --config config.yaml

Toto nastavenie načítava kľúč z premennej AILOOT_API_KEY. Nastavte ju pred spustením aplikácie:

export AILOOT_API_KEY="sk-..."   # pridajte do ~/.zshrc alebo ~/.bashrc

setx AILOOT_API_KEY "sk-..."   # potom reštartujte terminál

Príklad modelu: openai/claude-sonnet-5-5, openai/gpt-6.1-sol. Iný model vyberte z katalógu – overte, či podporuje požadovaný formát.

Čo treba vedieť

Overenie

Pre formát OpenAI je adresa https://api.ailoot.ai/v1 (alebo úplná cesta, ak aplikácia vyžaduje úplnú adresu).
Položte krátku otázku. Ak príde chyba, pozrite si kód a Request ID a porovnajte ich so stránkou Chyby a limity.
404 hneď po nastavení takmer vždy znamená nesprávnu adresu: nadbytočný alebo chýbajúci /v1.
402 znamená, že zostatok nestačí na rezerváciu. Agenti rezervujú viac než chat: prečo.

Dokumentácia aplikácie: https://docs.litellm.ai/docs/providers/openai_compatible

Máte ďalšie otázky? Pošlite Request ID a opis problému – pomôžeme vám ho vyriešiť.Napísať podpore