LiteLLM Proxy

Copia la configuración y sustituye sk-... por tu clave del panel de control de Ailoot. Es mejor guardar la clave en la variable de entorno AILOOT_API_KEY si la aplicación lo permite.

Antes de iniciar, consulte GET /v1/models con su clave de Ailoot. Elija un ID exacto de modelo cuyos métodos incluyan POST /v1/chat/completions y úselo en la configuración. Para agentes, compruebe también las herramientas y funciones que requiere su versión del cliente.

model_list:
  - model_name: claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-5-5
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY
  - model_name: gpt-sol
    litellm_params:
      model: openai/gpt-6.1-sol
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY

# ejecución: litellm --config config.yaml

Esta configuración lee la clave de la variable AILOOT_API_KEY. Defínela antes de iniciar la aplicación:

export AILOOT_API_KEY="sk-..."   # añade a ~/.zshrc o ~/.bashrc

setx AILOOT_API_KEY "sk-..."   # después reinicia el terminal

Modelo de ejemplo: openai/claude-sonnet-5-5, openai/gpt-6.1-sol. Para cualquier otro modelo, consulta el catálogo y comprueba que tenga el formato necesario.

• Para el formato OpenAI, la URL es https://api.ailoot.ai/v1 (o la ruta completa, si la aplicación pide la URL completa).
• Haz una pregunta corta. Si recibes un error, consulta el código y el Request ID y compáralos con la página Errores y límites.
• Un 404 justo después de configurar casi siempre indica una URL incorrecta: sobra o falta /v1.
• 402: no hay suficiente saldo para la reserva. Los agentes reservan más que un chat: por qué.

Documentación de la aplicación: https://docs.litellm.ai/docs/providers/openai_compatible