LiteLLM Proxy

Свой шлюз · OpenAI Chat

Полное руководство

Формат	Где настроить
OpenAI Chat	config.yaml → model_list → litellm_params (model, api_base, api_key); запуск litellm --config config.yaml

Настройка

Скопируйте конфигурацию и замените sk-... своим ключом из кабинета Ailoot. Лучше хранить ключ в переменной окружения AILOOT_API_KEY, если приложение это умеет.

До запуска запросите GET /v1/models со своим ключом Ailoot. Выберите точный ID модели, у которой методы включают POST /v1/chat/completions, и укажите этот ID в настройках. Для агентов также проверьте поддержку инструментов и возможностей, нужных вашей версии клиента.

model_list:
  - model_name: claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-5-5
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY
  - model_name: gpt-sol
    litellm_params:
      model: openai/gpt-6.1-sol
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY

# запуск: litellm --config config.yaml

Эта настройка читает ключ из переменной AILOOT_API_KEY. Задайте её до запуска приложения:

export AILOOT_API_KEY="sk-..."   # добавьте в ~/.zshrc или ~/.bashrc

setx AILOOT_API_KEY "sk-..."   # затем перезапустите терминал

Пример модели: openai/claude-sonnet-5-5, openai/gpt-6.1-sol. Любую другую модель берите из каталога — проверьте, что у неё есть нужный формат.

Важно знать

Проверка

Для формата OpenAI адрес — https://api.ailoot.ai/v1 (или полный путь, если приложение просит полный адрес).
Задайте короткий вопрос. Если пришла ошибка — посмотрите код и Request ID и сверьтесь со страницей Ошибки и лимиты.
404 сразу после настройки почти всегда означает неверный адрес: лишний или недостающий /v1.
402 — не хватает баланса на резерв. Агенты резервируют больше, чем чат: почему.

Документация приложения: https://docs.litellm.ai/docs/providers/openai_compatible

Остались вопросы? Пришлите Request ID и описание — поможем разобраться.Написать в поддержку