LiteLLM Proxy

Kopiér konfigurationen, og erstat sk-... med din egen nøgle fra Ailoots kontrolpanel. Opbevar helst nøglen i en miljøvariabel AILOOT_API_KEY, hvis applikationen understøtter det.

Kald GET /v1/models med din Ailoot-nøgle før start. Vælg et præcist model-ID, hvis metoder omfatter POST /v1/chat/completions, og brug det i konfigurationen. Kontrollér også værktøjsstøtte og de funktioner, din klientversion kræver til agenter.

model_list:
  - model_name: claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-5-5
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY
  - model_name: gpt-sol
    litellm_params:
      model: openai/gpt-6.1-sol
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY

# start: litellm --config config.yaml

Denne konfiguration læser nøglen fra variablen AILOOT_API_KEY. Angiv den, før applikationen startes:

export AILOOT_API_KEY="sk-..."   # tilføj i ~/.zshrc eller ~/.bashrc

setx AILOOT_API_KEY "sk-..."   # genstart derefter terminalen

Eksempel på model: openai/claude-sonnet-5-5, openai/gpt-6.1-sol. Find enhver anden model i kataloget — kontrollér, at den har det nødvendige format.

• For OpenAI-format er adressen https://api.ailoot.ai/v1 (eller hele stien, hvis applikationen kræver den fulde adresse).
• Stil et kort spørgsmål. Hvis du får en fejl, skal du se på koden og Request ID og sammenholde dem med siden Fejl og grænser.
• 404 umiddelbart efter konfigurationen betyder næsten altid forkert adresse: et ekstra eller manglende /v1.
• 402 — saldoen rækker ikke til reservationen. Agenter reserverer mere end chat: hvorfor.

Applikationens dokumentation: https://docs.litellm.ai/docs/providers/openai_compatible