docs
SDK e frameworks

LiteLLM Proxy

Markdown

Gateway próprio · OpenAI Chat

Guia completo
FormatoOnde configurar
OpenAI Chatconfig.yaml → model_list → litellm_params (model, api_base, api_key); início: litellm --config config.yaml

Configuração

Copie a configuração e substitua sk-... pela sua chave da área pessoal Ailoot. É preferível guardar a chave na variável de ambiente AILOOT_API_KEY, se a aplicação o permitir.

Antes de iniciar, consulte GET /v1/models com a sua chave Ailoot. Escolha um ID exato de modelo cujos métodos incluam POST /v1/chat/completions e use-o na configuração. Para agentes, verifique também as ferramentas e funcionalidades necessárias à sua versão do cliente.

model_list:
  - model_name: claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-5-5
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY
  - model_name: gpt-sol
    litellm_params:
      model: openai/gpt-6.1-sol
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY

# execução: litellm --config config.yaml

Esta configuração lê a chave da variável AILOOT_API_KEY. Defina-a antes de iniciar a aplicação:

export AILOOT_API_KEY="sk-..."   # adicione a ~/.zshrc ou ~/.bashrc

Exemplo de modelo: openai/claude-sonnet-5-5, openai/gpt-6.1-sol. Escolha qualquer outro modelo no catálogo — verifique se suporta o formato necessário.

O que deve saber

Verificação

  • Para o formato OpenAI, o endereço é https://api.ailoot.ai/v1 (ou o caminho completo, se a aplicação pedir o endereço completo).
  • Faça uma pergunta curta. Se receber um erro, consulte o código e o Request ID e compare com a página Erros e limites.
  • Um 404 logo após a configuração quase sempre indica um endereço incorreto: um segmento a mais ou em falta, /v1.
  • 402 — o saldo não chega para a reserva. Os agentes reservam mais do que um chat: porquê.

Documentação da aplicação: https://docs.litellm.ai/docs/providers/openai_compatible

Ainda tem dúvidas? Envie o Request ID e uma descrição — ajudamos a esclarecer.Contactar o suporte