LiteLLM Proxy
MarkdownEigen gateway · OpenAI Chat
Volledige gids
| Formaat | Waar je het instelt |
|---|---|
| OpenAI Chat | config.yaml → model_list → litellm_params (model, api_base, api_key); starten met litellm --config config.yaml |
Configuratie
Kopieer de configuratie en vervang sk-... door je eigen sleutel uit het Ailoot-dashboard. Bewaar de sleutel bij voorkeur in de omgevingsvariabele AILOOT_API_KEY als de app dit ondersteunt.
Vraag vóór het starten GET /v1/models op met uw Ailoot-sleutel. Kies een exacte model-ID met de methoden POST /v1/chat/completions en gebruik deze in de configuratie. Controleer voor agents ook de hulpmiddelen en functies die uw clientversie nodig heeft.
model_list:
- model_name: claude-sonnet
litellm_params:
model: openai/claude-sonnet-5-5
api_base: https://api.ailoot.ai/v1
api_key: os.environ/AILOOT_API_KEY
- model_name: gpt-sol
litellm_params:
model: openai/gpt-6.1-sol
api_base: https://api.ailoot.ai/v1
api_key: os.environ/AILOOT_API_KEY
# starten: litellm --config config.yamlDeze configuratie leest de sleutel uit de variabele AILOOT_API_KEY. Stel die in voordat je de app start:
export AILOOT_API_KEY="sk-..." # voeg toe aan ~/.zshrc of ~/.bashrcsetx AILOOT_API_KEY "sk-..." # start daarna de terminal opnieuwVoorbeeldmodel: openai/claude-sonnet-5-5, openai/gpt-6.1-sol. Kies elk ander model uit de catalogus — controleer of het gewenste formaat beschikbaar is.
Belangrijk om te weten
Controleren
- Voor het OpenAI-formaat is het adres
https://api.ailoot.ai/v1(of het volledige pad als de app om het volledige adres vraagt). - Stel een korte vraag. Krijg je een fout, bekijk dan de code en Request ID en vergelijk die met de pagina Fouten en limieten.
- Een 404 direct na het instellen wijst vrijwel altijd op een verkeerd adres: een extra of ontbrekende
/v1. - 402 — onvoldoende saldo voor de reservering. Agents reserveren meer dan chats: waarom.
Appdocumentatie: https://docs.litellm.ai/docs/providers/openai_compatible