LiteLLM Proxy

Másolja le a konfigurációt, és cserélje ki a sk-... értéket a saját Ailoot-fiókkulcsára. Érdemes a kulcsot a következő környezeti AILOOT_API_KEYváltozóban tárolni, ha az alkalmazás támogatja.

Indítás előtt hívd meg a GET /v1/models végpontot az Ailoot-kulcsoddal. Válassz pontos modellazonosítót, amelynek metódusai között szerepel POST /v1/chat/completions, és ezt használd a beállításban. Ügynököknél ellenőrizd az eszközkezelést és a kliensverziódhoz szükséges funkciókat is.

model_list:
  - model_name: claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-5-5
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY
  - model_name: gpt-sol
    litellm_params:
      model: openai/gpt-6.1-sol
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY

# indítás: litellm --config config.yaml

Ez a beállítás a kulcsot ebből a változóból olvassa: AILOOT_API_KEY. Az alkalmazás indítása előtt állítsa be:

export AILOOT_API_KEY="sk-..."   # adja hozzá a ~/.zshrc vagy ~/.bashrc fájlhoz

setx AILOOT_API_KEY "sk-..."   # ezután indítsa újra a terminált

Példamodell: openai/claude-sonnet-5-5, openai/gpt-6.1-sol. Más modelleket a katalógusból válasszon — ellenőrizze, hogy támogatják-e a szükséges formátumot.

• OpenAI formátumnál a cím: https://api.ailoot.ai/v1 (vagy a teljes útvonal, ha az alkalmazás teljes címet kér).
• Tegyen fel egy rövid kérdést. Ha hiba érkezik, nézze meg a kódot és a Request ID-t, majd vesse össze ezzel az oldallal: Hibák és korlátok.
• A közvetlenül a beállítás után érkező 404-es hiba szinte mindig hibás címet jelent: felesleges vagy hiányzó /v1.
• 402 — az egyenleg nem fedezi a zárolást. Az ügynökök többet zárolnak, mint a csevegők: miért?.

Az alkalmazás dokumentációja: https://docs.litellm.ai/docs/providers/openai_compatible