LiteLLM Proxy

Copiez la configuration et remplacez sk-... par votre clé de l’espace client Ailoot. Il est préférable de conserver la clé dans la variable d’environnement AILOOT_API_KEY, si l’application le permet.

Avant de démarrer, appelez GET /v1/models avec votre clé Ailoot. Choisissez un identifiant exact de modèle dont les méthodes incluent POST /v1/chat/completions, puis utilisez-le dans la configuration. Pour les agents, vérifiez aussi les outils et les fonctions nécessaires à votre version du client.

model_list:
  - model_name: claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-5-5
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY
  - model_name: gpt-sol
    litellm_params:
      model: openai/gpt-6.1-sol
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY

# Lancement : litellm --config config.yaml

Cette configuration lit la clé dans la variable AILOOT_API_KEY. Définissez-la avant de lancer l’application :

export AILOOT_API_KEY="sk-..."   # Ajoutez à ~/.zshrc ou ~/.bashrc

setx AILOOT_API_KEY "sk-..."   # Puis redémarrez le terminal

Exemple de modèle : openai/claude-sonnet-5-5, openai/gpt-6.1-sol. Choisissez tout autre modèle dans le catalogue — vérifiez qu’il prend en charge le format requis.

• Pour le format OpenAI, l’adresse est https://api.ailoot.ai/v1 (ou le chemin complet si l’application demande une adresse complète).
• Posez une question courte. En cas d’erreur, consultez le code et le Request ID, puis reportez-vous à la page Erreurs et limites.
• Une erreur 404 immédiatement après la configuration indique presque toujours une adresse incorrecte : la présence superflue ou l’absence de /v1.
• Une erreur 402 signifie que le solde ne couvre pas la réservation. Les agents réservent plus qu’un chat : explication.

Documentation de l’application : https://docs.litellm.ai/docs/providers/openai_compatible