LiteLLM
MarkdownSDK · OpenAI Chat
Pełny przewodnik
| Format | Gdzie skonfigurować |
|---|---|
| OpenAI Chat | litellm.completion(model="openai/<id>", api_base=..., api_key=...) |
Konfiguracja
Skopiuj konfigurację i zastąp sk-... własnym kluczem z panelu Ailoot. Najlepiej przechowywać klucz w zmiennej środowiskowej AILOOT_API_KEY, jeśli aplikacja to obsługuje.
Przed uruchomieniem wywołaj GET /v1/models ze swoim kluczem Ailoot. Wybierz dokładny identyfikator modelu, którego metody obejmują POST /v1/chat/completions, i użyj go w konfiguracji. Dla agentów sprawdź także obsługę narzędzi i funkcje wymagane przez twoją wersję klienta.
import os
import litellm
r = litellm.completion(
model="openai/claude-sonnet-5-5",
api_base="https://api.ailoot.ai/v1",
api_key=os.environ["AILOOT_API_KEY"],
messages=[{"role": "user", "content": "Cześć"}])
print(r.choices[0].message.content)
# embeddingi: litellm.embedding(model="openai/nemotron-3-embed", api_base="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], input=["tekst"])Przykładowy model: openai/claude-sonnet-5-5, openai/qwen3.8-max, openai/nemotron-3-embed. Inne modele wybieraj z katalogu — sprawdź, czy model obsługuje wymagany format.
Warto wiedzieć
Sprawdzenie
- Adres dla formatu OpenAI —
https://api.ailoot.ai/v1(lub pełna ścieżka, jeśli aplikacja wymaga pełnego adresu). - Zadaj krótkie pytanie. Jeśli otrzymasz błąd, sprawdź kod i Request ID, a następnie zajrzyj na stronę Błędy i limity.
- 404 bezpośrednio po konfiguracji niemal zawsze oznacza błędny adres: nadmiarowe lub brakujące
/v1. - 402 — saldo nie wystarcza na rezerwę. Agenci rezerwują więcej niż czat: dlaczego.
Dokumentacja aplikacji: https://docs.litellm.ai/docs/providers/openai_compatible
Dodatkowe pytania? Prześlij Request ID i opis — pomożemy wyjaśnić sprawę.Napisz do wsparcia