LiteLLM

Nukopijuokite konfigūraciją ir pakeiskite sk-... savo raktu iš Ailoot paskyros. Geriau raktą laikyti aplinkos kintamajame AILOOT_API_KEY, jei programa tai palaiko.

Prieš paleisdami iškvieskite GET /v1/models su savo Ailoot raktu. Pasirinkite tikslų modelio ID, kurio metodai apima POST /v1/chat/completions, ir naudokite jį konfigūracijoje. Agentams taip pat patikrinkite įrankių palaikymą ir jūsų kliento versijai reikalingas funkcijas.

import os
import litellm
r = litellm.completion(
    model="openai/claude-sonnet-5-5",
    api_base="https://api.ailoot.ai/v1",
    api_key=os.environ["AILOOT_API_KEY"],
    messages=[{"role": "user", "content": "Labas"}])
print(r.choices[0].message.content)
# vektoriniai atvaizdai: litellm.embedding(model="openai/nemotron-3-embed", api_base="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], input=["tekstas"])

Modelio pavyzdys: openai/claude-sonnet-5-5, openai/qwen3.8-max, openai/nemotron-3-embed. Bet kurį kitą modelį rinkitės iš katalogo — patikrinkite, ar jis turi reikiamą formatą.

• OpenAI formato adresas — https://api.ailoot.ai/v1 (arba visas kelias, jei programa prašo viso adreso).
• Užduokite trumpą klausimą. Jei gavote klaidą, peržiūrėkite kodą ir Request ID bei palyginkite su puslapiu Klaidos ir limitai.
• 404 iškart po nustatymo beveik visada reiškia neteisingą adresą: perteklinį arba trūkstamą /v1.
• 402 — nepakanka balanso rezervui. Agentai rezervuoja daugiau nei pokalbis: kodėl.

Programos dokumentacija: https://docs.litellm.ai/docs/providers/openai_compatible