LiteLLM Proxy

Skopiuj konfigurację i zastąp sk-... własnym kluczem z panelu Ailoot. Najlepiej przechowywać klucz w zmiennej środowiskowej AILOOT_API_KEY, jeśli aplikacja to obsługuje.

Przed uruchomieniem wywołaj GET /v1/models ze swoim kluczem Ailoot. Wybierz dokładny identyfikator modelu, którego metody obejmują POST /v1/chat/completions, i użyj go w konfiguracji. Dla agentów sprawdź także obsługę narzędzi i funkcje wymagane przez twoją wersję klienta.

model_list:
  - model_name: claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-5-5
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY
  - model_name: gpt-sol
    litellm_params:
      model: openai/gpt-6.1-sol
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY

# uruchomienie: litellm --config config.yaml

Ta konfiguracja odczytuje klucz ze zmiennej AILOOT_API_KEY. Ustaw ją przed uruchomieniem aplikacji:

export AILOOT_API_KEY="sk-..."   # dodaj do ~/.zshrc lub ~/.bashrc

setx AILOOT_API_KEY "sk-..."   # następnie uruchom terminal ponownie

Przykładowy model: openai/claude-sonnet-5-5, openai/gpt-6.1-sol. Inne modele wybieraj z katalogu — sprawdź, czy model obsługuje wymagany format.

• Adres dla formatu OpenAI — https://api.ailoot.ai/v1 (lub pełna ścieżka, jeśli aplikacja wymaga pełnego adresu).
• Zadaj krótkie pytanie. Jeśli otrzymasz błąd, sprawdź kod i Request ID, a następnie zajrzyj na stronę Błędy i limity.
• 404 bezpośrednio po konfiguracji niemal zawsze oznacza błędny adres: nadmiarowe lub brakujące /v1.
• 402 — saldo nie wystarcza na rezerwę. Agenci rezerwują więcej niż czat: dlaczego.

Dokumentacja aplikacji: https://docs.litellm.ai/docs/providers/openai_compatible