dokumentácia
SDK a frameworky

LiteLLM

Markdown

SDK · OpenAI Chat

Úplný sprievodca
FormátKde nastaviť
OpenAI Chatlitellm.completion(model="openai/<id>", api_base=..., api_key=...)

Nastavenie

Skopírujte konfiguráciu a nahraďte sk-... vlastným kľúčom z účtu Ailoot. Kľúč je lepšie uchovávať v premennej prostredia AILOOT_API_KEY, ak to aplikácia podporuje.

Pred spustením zavolajte GET /v1/models so svojím kľúčom Ailoot. Vyberte presné ID modelu, ktorého metódy zahŕňajú POST /v1/chat/completions, a použite ho v konfigurácii. Pri agentoch overte aj podporu nástrojov a funkcie potrebné pre vašu verziu klienta.

import os
import litellm
r = litellm.completion(
    model="openai/claude-sonnet-5-5",
    api_base="https://api.ailoot.ai/v1",
    api_key=os.environ["AILOOT_API_KEY"],
    messages=[{"role": "user", "content": "Ahoj"}])
print(r.choices[0].message.content)
# embeddingy: litellm.embedding(model="openai/nemotron-3-embed", api_base="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], input=["text"])

Príklad modelu: openai/claude-sonnet-5-5, openai/qwen3.8-max, openai/nemotron-3-embed. Iný model vyberte z katalógu – overte, či podporuje požadovaný formát.

Čo treba vedieť

Overenie

  • Pre formát OpenAI je adresa https://api.ailoot.ai/v1 (alebo úplná cesta, ak aplikácia vyžaduje úplnú adresu).
  • Položte krátku otázku. Ak príde chyba, pozrite si kód a Request ID a porovnajte ich so stránkou Chyby a limity.
  • 404 hneď po nastavení takmer vždy znamená nesprávnu adresu: nadbytočný alebo chýbajúci /v1.
  • 402 znamená, že zostatok nestačí na rezerváciu. Agenti rezervujú viac než chat: prečo.

Dokumentácia aplikácie: https://docs.litellm.ai/docs/providers/openai_compatible

Máte ďalšie otázky? Pošlite Request ID a opis problému – pomôžeme vám ho vyriešiť.Napísať podpore