LiteLLM

Kopieren Sie die Konfiguration und ersetzen Sie sk-... durch Ihren Schlüssel aus dem Ailoot-Kundenbereich. Speichern Sie den Schlüssel möglichst in der Umgebungsvariablen AILOOT_API_KEY, sofern die Anwendung dies unterstützt.

Rufen Sie vor dem Start GET /v1/models mit Ihrem Ailoot-Schlüssel ab. Wählen Sie eine genaue Modell-ID mit den Methoden POST /v1/chat/completions und tragen Sie diese ID in die Konfiguration ein. Prüfen Sie bei Agenten auch die Werkzeugunterstützung und die für Ihre Clientversion benötigten Funktionen.

import os
import litellm
r = litellm.completion(
    model="openai/claude-sonnet-5-5",
    api_base="https://api.ailoot.ai/v1",
    api_key=os.environ["AILOOT_API_KEY"],
    messages=[{"role": "user", "content": "Hallo"}])
print(r.choices[0].message.content)
# Embeddings: litellm.embedding(model="openai/nemotron-3-embed", api_base="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], input=["Text"])

Beispielmodell: openai/claude-sonnet-5-5, openai/qwen3.8-max, openai/nemotron-3-embed. Weitere Modelle finden Sie im Katalog — prüfen Sie, ob das benötigte Format verfügbar ist.

• Für das OpenAI-Format lautet die Adresse https://api.ailoot.ai/v1 (oder der vollständige Pfad, falls die Anwendung eine vollständige Adresse verlangt).
• Stellen Sie eine kurze Frage. Bei einem Fehler prüfen Sie Code und Request ID und vergleichen Sie sie mit der Seite Fehler und Limits.
• 404 direkt nach der Einrichtung bedeutet fast immer eine falsche Adresse: Ein überflüssiges oder fehlendes /v1.
• 402 — Guthaben reicht nicht für die Reservierung. Agenten reservieren mehr als ein Chat: warum.

Dokumentation der Anwendung: https://docs.litellm.ai/docs/providers/openai_compatible