LiteLLM

Скопируйте конфигурацию и замените sk-... своим ключом из кабинета Ailoot. Лучше хранить ключ в переменной окружения AILOOT_API_KEY, если приложение это умеет.

До запуска запросите GET /v1/models со своим ключом Ailoot. Выберите точный ID модели, у которой методы включают POST /v1/chat/completions, и укажите этот ID в настройках. Для агентов также проверьте поддержку инструментов и возможностей, нужных вашей версии клиента.

import os
import litellm
r = litellm.completion(
    model="openai/claude-sonnet-5-5",
    api_base="https://api.ailoot.ai/v1",
    api_key=os.environ["AILOOT_API_KEY"],
    messages=[{"role": "user", "content": "Привет"}])
print(r.choices[0].message.content)
# эмбеддинги: litellm.embedding(model="openai/nemotron-3-embed", api_base="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], input=["текст"])

Пример модели: openai/claude-sonnet-5-5, openai/qwen3.8-max, openai/nemotron-3-embed. Любую другую модель берите из каталога — проверьте, что у неё есть нужный формат.

• Для формата OpenAI адрес — https://api.ailoot.ai/v1 (или полный путь, если приложение просит полный адрес).
• Задайте короткий вопрос. Если пришла ошибка — посмотрите код и Request ID и сверьтесь со страницей Ошибки и лимиты.
• 404 сразу после настройки почти всегда означает неверный адрес: лишний или недостающий /v1.
• 402 — не хватает баланса на резерв. Агенты резервируют больше, чем чат: почему.

Документация приложения: https://docs.litellm.ai/docs/providers/openai_compatible