LiteLLM
MarkdownSDK · OpenAI Chat
Teljes útmutató
| Formátum | Hol állítható be? |
|---|---|
| OpenAI Chat | litellm.completion(model="openai/<id>", api_base=..., api_key=...) |
Beállítás
Másolja le a konfigurációt, és cserélje ki a sk-... értéket a saját Ailoot-fiókkulcsára. Érdemes a kulcsot a következő környezeti AILOOT_API_KEYváltozóban tárolni, ha az alkalmazás támogatja.
Indítás előtt hívd meg a GET /v1/models végpontot az Ailoot-kulcsoddal. Válassz pontos modellazonosítót, amelynek metódusai között szerepel POST /v1/chat/completions, és ezt használd a beállításban. Ügynököknél ellenőrizd az eszközkezelést és a kliensverziódhoz szükséges funkciókat is.
import os
import litellm
r = litellm.completion(
model="openai/claude-sonnet-5-5",
api_base="https://api.ailoot.ai/v1",
api_key=os.environ["AILOOT_API_KEY"],
messages=[{"role": "user", "content": "Szia"}])
print(r.choices[0].message.content)
# beágyazások: litellm.embedding(model="openai/nemotron-3-embed", api_base="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], input=["szöveg"])Példamodell: openai/claude-sonnet-5-5, openai/qwen3.8-max, openai/nemotron-3-embed. Más modelleket a katalógusból válasszon — ellenőrizze, hogy támogatják-e a szükséges formátumot.
Fontos tudnivalók
Ellenőrzés
- OpenAI formátumnál a cím:
https://api.ailoot.ai/v1(vagy a teljes útvonal, ha az alkalmazás teljes címet kér). - Tegyen fel egy rövid kérdést. Ha hiba érkezik, nézze meg a kódot és a Request ID-t, majd vesse össze ezzel az oldallal: Hibák és korlátok.
- A közvetlenül a beállítás után érkező 404-es hiba szinte mindig hibás címet jelent: felesleges vagy hiányzó
/v1. - 402 — az egyenleg nem fedezi a zárolást. Az ügynökök többet zárolnak, mint a csevegők: miért?.
Az alkalmazás dokumentációja: https://docs.litellm.ai/docs/providers/openai_compatible