documentatie
SDK’s en frameworks

LiteLLM Proxy

Markdown

Eigen gateway · OpenAI Chat

Volledige gids
FormaatWaar je het instelt
OpenAI Chatconfig.yaml → model_list → litellm_params (model, api_base, api_key); starten met litellm --config config.yaml

Configuratie

Kopieer de configuratie en vervang sk-... door je eigen sleutel uit het Ailoot-dashboard. Bewaar de sleutel bij voorkeur in de omgevingsvariabele AILOOT_API_KEY als de app dit ondersteunt.

Vraag vóór het starten GET /v1/models op met uw Ailoot-sleutel. Kies een exacte model-ID met de methoden POST /v1/chat/completions en gebruik deze in de configuratie. Controleer voor agents ook de hulpmiddelen en functies die uw clientversie nodig heeft.

model_list:
  - model_name: claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-5-5
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY
  - model_name: gpt-sol
    litellm_params:
      model: openai/gpt-6.1-sol
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY

# starten: litellm --config config.yaml

Deze configuratie leest de sleutel uit de variabele AILOOT_API_KEY. Stel die in voordat je de app start:

export AILOOT_API_KEY="sk-..."   # voeg toe aan ~/.zshrc of ~/.bashrc

Voorbeeldmodel: openai/claude-sonnet-5-5, openai/gpt-6.1-sol. Kies elk ander model uit de catalogus — controleer of het gewenste formaat beschikbaar is.

Belangrijk om te weten

Controleren

  • Voor het OpenAI-formaat is het adres https://api.ailoot.ai/v1 (of het volledige pad als de app om het volledige adres vraagt).
  • Stel een korte vraag. Krijg je een fout, bekijk dan de code en Request ID en vergelijk die met de pagina Fouten en limieten.
  • Een 404 direct na het instellen wijst vrijwel altijd op een verkeerd adres: een extra of ontbrekende /v1.
  • 402 — onvoldoende saldo voor de reservering. Agents reserveren meer dan chats: waarom.

Appdocumentatie: https://docs.litellm.ai/docs/providers/openai_compatible

Nog vragen? Stuur de Request ID en een beschrijving — we helpen je verder.Contact opnemen met support