LiteLLM

Kopieren Sie die Konfiguration und ersetzen Sie sk-... durch Ihren eigenen Schlüssel aus dem Ailoot-Kundenbereich. Speichern Sie den Schlüssel besser in der Umgebungsvariablen AILOOT_API_KEY, sofern die Anwendung dies unterstützt.

Rufen Sie vor dem Start GET /v1/models mit Ihrem Ailoot-Schlüssel ab. Wählen Sie eine genaue Modell-ID mit den Methoden POST /v1/chat/completions und tragen Sie diese ID in die Konfiguration ein. Prüfen Sie bei Agenten auch die Werkzeugunterstützung und die für Ihre Clientversion benötigten Funktionen.

import os
import litellm
r = litellm.completion(
    model="openai/claude-sonnet-5-5",
    api_base="https://api.ailoot.ai/v1",
    api_key=os.environ["AILOOT_API_KEY"],
    messages=[{"role": "user", "content": "Hallo"}])
print(r.choices[0].message.content)
# Embeddings: litellm.embedding(model="openai/nemotron-3-embed", api_base="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], input=["Text"])

Beispielmodell: openai/claude-sonnet-5-5, openai/qwen3.8-max, openai/nemotron-3-embed. Wählen Sie jedes andere Modell aus dem Katalog und prüfen Sie, ob es das benötigte Format unterstützt.

• Für das OpenAI-Format lautet die Adresse https://api.ailoot.ai/v1 (oder der vollständige Pfad, wenn die Anwendung eine vollständige Adresse verlangt).
• Stellen Sie eine kurze Frage. Prüfen Sie bei einem Fehler den Code und die Request ID und vergleichen Sie mit der Seite Fehler und Limits.
• 404 direkt nach der Konfiguration bedeutet fast immer eine falsche Adresse: ein zusätzliches oder fehlendes /v1.
• 402 bedeutet, dass das Guthaben für die Reservierung nicht ausreicht. Agenten reservieren mehr als Chats: warum.

Dokumentation der Anwendung: https://docs.litellm.ai/docs/providers/openai_compatible