docs
SDK-k és keretrendszerek

LiteLLM

Markdown

SDK · OpenAI Chat

Teljes útmutató
FormátumHol állítható be?
OpenAI Chatlitellm.completion(model="openai/<id>", api_base=..., api_key=...)

Beállítás

Másolja le a konfigurációt, és cserélje ki a sk-... értéket a saját Ailoot-fiókkulcsára. Érdemes a kulcsot a következő környezeti AILOOT_API_KEYváltozóban tárolni, ha az alkalmazás támogatja.

Indítás előtt hívd meg a GET /v1/models végpontot az Ailoot-kulcsoddal. Válassz pontos modellazonosítót, amelynek metódusai között szerepel POST /v1/chat/completions, és ezt használd a beállításban. Ügynököknél ellenőrizd az eszközkezelést és a kliensverziódhoz szükséges funkciókat is.

import os
import litellm
r = litellm.completion(
    model="openai/claude-sonnet-5-5",
    api_base="https://api.ailoot.ai/v1",
    api_key=os.environ["AILOOT_API_KEY"],
    messages=[{"role": "user", "content": "Szia"}])
print(r.choices[0].message.content)
# beágyazások: litellm.embedding(model="openai/nemotron-3-embed", api_base="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], input=["szöveg"])

Példamodell: openai/claude-sonnet-5-5, openai/qwen3.8-max, openai/nemotron-3-embed. Más modelleket a katalógusból válasszon — ellenőrizze, hogy támogatják-e a szükséges formátumot.

Fontos tudnivalók

Ellenőrzés

  • OpenAI formátumnál a cím: https://api.ailoot.ai/v1 (vagy a teljes útvonal, ha az alkalmazás teljes címet kér).
  • Tegyen fel egy rövid kérdést. Ha hiba érkezik, nézze meg a kódot és a Request ID-t, majd vesse össze ezzel az oldallal: Hibák és korlátok.
  • A közvetlenül a beállítás után érkező 404-es hiba szinte mindig hibás címet jelent: felesleges vagy hiányzó /v1.
  • 402 — az egyenleg nem fedezi a zárolást. Az ügynökök többet zárolnak, mint a csevegők: miért?.

Az alkalmazás dokumentációja: https://docs.litellm.ai/docs/providers/openai_compatible

Maradt kérdése? Küldje el a Request ID-t és a probléma leírását — segítünk tisztázni.Írjon a támogatásnak