LiteLLM

Kopiera konfigurationen och ersätt sk-... med din egen nyckel från Ailoot-kontrollpanelen. Förvara helst nyckeln i miljövariabeln AILOOT_API_KEY, om appen stöder det.

Anropa GET /v1/models med din Ailoot-nyckel innan du startar. Välj ett exakt modell-ID vars metoder omfattar POST /v1/chat/completions och använd det i konfigurationen. Kontrollera även verktygsstöd och funktionerna som din klientversion behöver för agenter.

import os
import litellm
r = litellm.completion(
    model="openai/claude-sonnet-5-5",
    api_base="https://api.ailoot.ai/v1",
    api_key=os.environ["AILOOT_API_KEY"],
    messages=[{"role": "user", "content": "Hej"}])
print(r.choices[0].message.content)
# Embeddings: litellm.embedding(model="openai/nemotron-3-embed", api_base="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], input=["text"])

Exempelmodell: openai/claude-sonnet-5-5, openai/qwen3.8-max, openai/nemotron-3-embed. Hämta andra modeller från katalogen — kontrollera att modellen har rätt format.

• För OpenAI-format är adressen https://api.ailoot.ai/v1 (eller fullständig sökväg om appen kräver en fullständig adress).
• Ställ en kort fråga. Om du får ett fel kontrollerar du koden och Request ID och läser sidan Fel och gränser.
• 404 direkt efter konfigurering betyder nästan alltid fel adress: ett extra eller saknat /v1.
• 402 — saldot täcker inte reserveringen. Agenter reserverar mer än chatt: varför.

Appens dokumentation: https://docs.litellm.ai/docs/providers/openai_compatible