LiteLLM

Kopiér konfigurationen, og erstat sk-... med din egen nøgle fra Ailoots kontrolpanel. Opbevar helst nøglen i en miljøvariabel AILOOT_API_KEY, hvis applikationen understøtter det.

Kald GET /v1/models med din Ailoot-nøgle før start. Vælg et præcist model-ID, hvis metoder omfatter POST /v1/chat/completions, og brug det i konfigurationen. Kontrollér også værktøjsstøtte og de funktioner, din klientversion kræver til agenter.

import os
import litellm
r = litellm.completion(
    model="openai/claude-sonnet-5-5",
    api_base="https://api.ailoot.ai/v1",
    api_key=os.environ["AILOOT_API_KEY"],
    messages=[{"role": "user", "content": "Hej"}])
print(r.choices[0].message.content)
# embeddings: litellm.embedding(model="openai/nemotron-3-embed", api_base="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], input=["tekst"])

Eksempel på model: openai/claude-sonnet-5-5, openai/qwen3.8-max, openai/nemotron-3-embed. Find enhver anden model i kataloget — kontrollér, at den har det nødvendige format.

• For OpenAI-format er adressen https://api.ailoot.ai/v1 (eller hele stien, hvis applikationen kræver den fulde adresse).
• Stil et kort spørgsmål. Hvis du får en fejl, skal du se på koden og Request ID og sammenholde dem med siden Fejl og grænser.
• 404 umiddelbart efter konfigurationen betyder næsten altid forkert adresse: et ekstra eller manglende /v1.
• 402 — saldoen rækker ikke til reservationen. Agenter reserverer mere end chat: hvorfor.

Applikationens dokumentation: https://docs.litellm.ai/docs/providers/openai_compatible