LiteLLM Proxy

Kopier konfigurasjonen og erstatt sk-... med din egen nøkkel fra Ailoot-kontrollpanelet. Lagre helst nøkkelen i miljøvariabelen AILOOT_API_KEY, hvis appen støtter det.

Kall GET /v1/models med Ailoot-nøkkelen din før oppstart. Velg en nøyaktig modell-ID med metodene POST /v1/chat/completions, og bruk den i konfigurasjonen. Kontroller også verktøystøtte og funksjonene klientversjonen din trenger for agenter.

model_list:
  - model_name: claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-5-5
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY
  - model_name: gpt-sol
    litellm_params:
      model: openai/gpt-6.1-sol
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY

# start: litellm --config config.yaml

Dette oppsettet leser nøkkelen fra variabelen AILOOT_API_KEY. Angi den før du starter appen:

export AILOOT_API_KEY="sk-..."   # legg til i ~/.zshrc eller ~/.bashrc

setx AILOOT_API_KEY "sk-..."   # start deretter terminalen på nytt

Eksempelmodell: openai/claude-sonnet-5-5, openai/gpt-6.1-sol. Velg andre modeller fra katalogen — kontroller at modellen har riktig format.

• For OpenAI-format er adressen https://api.ailoot.ai/v1 (eller hele endepunktet hvis appen ber om fullstendig adresse).
• Still et kort spørsmål. Hvis du får en feil, kontroller kode og Request ID og se siden Feil og grenser.
• 404 rett etter konfigurering betyr nesten alltid feil adresse: en ekstra eller manglende /v1.
• 402 — saldoen dekker ikke reservasjonen. Agenter reserverer mer enn chat: hvorfor.

Appens dokumentasjon: https://docs.litellm.ai/docs/providers/openai_compatible