LiteLLM

Kopirajte konfiguracijo in zamenjajte sk-... s svojim ključem iz nadzorne plošče Ailoot. Ključ je bolje shraniti v okoljsko spremenljivko AILOOT_API_KEY, če aplikacija to omogoča.

Pred zagonom pokličite GET /v1/models s svojim ključem Ailoot. Izberite točen ID modela, katerega metode vključujejo POST /v1/chat/completions, in ga uporabite v nastavitvah. Pri agentih preverite tudi podporo orodjem in funkcije, ki jih potrebuje vaša različica odjemalca.

import os
import litellm
r = litellm.completion(
    model="openai/claude-sonnet-5-5",
    api_base="https://api.ailoot.ai/v1",
    api_key=os.environ["AILOOT_API_KEY"],
    messages=[{"role": "user", "content": "Živjo"}])
print(r.choices[0].message.content)
# vektorske predstavitve: litellm.embedding(model="openai/nemotron-3-embed", api_base="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], input=["besedilo"])

Primer modela: openai/claude-sonnet-5-5, openai/qwen3.8-max, openai/nemotron-3-embed. Drug model izberite iz kataloga – preverite, ali podpira zahtevani format.

• Pri formatu OpenAI je naslov https://api.ailoot.ai/v1 (ali celotna pot, če aplikacija zahteva celotni naslov).
• Zastavite kratko vprašanje. Če prejmete napako, preverite kodo in Request ID ter si oglejte stran Napake in omejitve.
• 404 takoj po konfiguraciji skoraj vedno pomeni napačen naslov: odvečen ali manjkajoč /v1.
• 402 – stanje ne zadošča za rezervacijo. Agenti rezervirajo več kot klepet: zakaj.

Dokumentacija aplikacije: https://docs.litellm.ai/docs/providers/openai_compatible