LiteLLM Proxy

Kopieren Sie die Konfiguration und ersetzen Sie sk-... durch Ihren Schlüssel aus dem Ailoot-Kundenbereich. Speichern Sie den Schlüssel am besten in der Umgebungsvariablen AILOOT_API_KEY, sofern die Anwendung dies unterstützt.

Rufen Sie vor dem Start GET /v1/models mit Ihrem Ailoot-Schlüssel ab. Wählen Sie eine genaue Modell-ID mit den Methoden POST /v1/chat/completions und tragen Sie diese ID in die Konfiguration ein. Prüfen Sie bei Agenten auch die Werkzeugunterstützung und die für Ihre Clientversion benötigten Funktionen.

model_list:
  - model_name: claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-5-5
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY
  - model_name: gpt-sol
    litellm_params:
      model: openai/gpt-6.1-sol
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY

# Start: litellm --config config.yaml

Diese Konfiguration liest den Schlüssel aus der Variablen AILOOT_API_KEY. Setzen Sie sie vor dem Start der Anwendung:

export AILOOT_API_KEY="sk-..."   # in ~/.zshrc oder ~/.bashrc einfügen

setx AILOOT_API_KEY "sk-..."   # danach das Terminal neu starten

Beispielmodell: openai/claude-sonnet-5-5, openai/gpt-6.1-sol. Andere Modelle wählen Sie aus dem Katalog — prüfen Sie, ob das erforderliche Format verfügbar ist.

• Für das OpenAI-Format lautet die Adresse https://api.ailoot.ai/v1 (oder der vollständige Pfad, wenn die Anwendung eine vollständige Adresse verlangt).
• Stellen Sie eine kurze Frage. Bei einem Fehler prüfen Sie Code und Request ID und vergleichen Sie diese mit der Seite Fehler und Limits.
• 404 direkt nach der Einrichtung bedeutet fast immer eine falsche Adresse: ein zusätzliches oder fehlendes /v1.
• 402 — das Guthaben reicht für die Reservierung nicht aus. Agenten reservieren mehr als ein Chat: warum.

Dokumentation der Anwendung: https://docs.litellm.ai/docs/providers/openai_compatible