LiteLLM

Kopieren Sie die Konfiguration und ersetzen Sie sk-... durch Ihren Schlüssel aus dem Ailoot-Kundenbereich. Speichern Sie den Schlüssel am besten in der Umgebungsvariablen AILOOT_API_KEY, sofern die Anwendung dies unterstützt.

Rufen Sie vor dem Start GET /v1/models mit Ihrem Ailoot-Schlüssel ab. Wählen Sie eine genaue Modell-ID mit den Methoden POST /v1/chat/completions und tragen Sie diese ID in die Konfiguration ein. Prüfen Sie bei Agenten auch die Werkzeugunterstützung und die für Ihre Clientversion benötigten Funktionen.

import os
import litellm
r = litellm.completion(
    model="openai/claude-sonnet-5-5",
    api_base="https://api.ailoot.ai/v1",
    api_key=os.environ["AILOOT_API_KEY"],
    messages=[{"role": "user", "content": "Hallo"}])
print(r.choices[0].message.content)
# Embeddings: litellm.embedding(model="openai/nemotron-3-embed", api_base="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], input=["Text"])

Beispielmodell: openai/claude-sonnet-5-5, openai/qwen3.8-max, openai/nemotron-3-embed. Andere Modelle wählen Sie aus dem Katalog — prüfen Sie, ob das erforderliche Format verfügbar ist.

• Für das OpenAI-Format lautet die Adresse https://api.ailoot.ai/v1 (oder der vollständige Pfad, wenn die Anwendung eine vollständige Adresse verlangt).
• Stellen Sie eine kurze Frage. Bei einem Fehler prüfen Sie Code und Request ID und vergleichen Sie diese mit der Seite Fehler und Limits.
• 404 direkt nach der Einrichtung bedeutet fast immer eine falsche Adresse: ein zusätzliches oder fehlendes /v1.
• 402 — das Guthaben reicht für die Reservierung nicht aus. Agenten reservieren mehr als ein Chat: warum.

Dokumentation der Anwendung: https://docs.litellm.ai/docs/providers/openai_compatible