AnythingLLM

Kopieren Sie die Konfiguration und ersetzen Sie sk-... durch Ihren eigenen Schlüssel aus dem Ailoot-Kundenbereich. Speichern Sie den Schlüssel besser in der Umgebungsvariablen AILOOT_API_KEY, sofern die Anwendung dies unterstützt.

Rufen Sie vor dem Start GET /v1/models mit Ihrem Ailoot-Schlüssel ab. Wählen Sie eine genaue Modell-ID mit den Methoden POST /v1/chat/completions und tragen Sie diese ID in die Konfiguration ein. Prüfen Sie bei Agenten auch die Werkzeugunterstützung und die für Ihre Clientversion benötigten Funktionen.

UI: Base URL = https://api.ailoot.ai/v1
API Key = sk-...
Chat Model Name = deepseek-v4-pro
Token context window = je nach Modell

Docker .env:
LLM_PROVIDER='generic-openai'
GENERIC_OPEN_AI_BASE_PATH='https://api.ailoot.ai/v1'
GENERIC_OPEN_AI_MODEL_PREF='deepseek-v4-pro'
GENERIC_OPEN_AI_MODEL_TOKEN_LIMIT=128000
GENERIC_OPEN_AI_API_KEY='sk-...'

Beispielmodell: deepseek-v4-pro. Wählen Sie jedes andere Modell aus dem Katalog und prüfen Sie, ob es das benötigte Format unterstützt.

• Für das OpenAI-Format lautet die Adresse https://api.ailoot.ai/v1 (oder der vollständige Pfad, wenn die Anwendung eine vollständige Adresse verlangt).
• Stellen Sie eine kurze Frage. Prüfen Sie bei einem Fehler den Code und die Request ID und vergleichen Sie mit der Seite Fehler und Limits.
• 404 direkt nach der Konfiguration bedeutet fast immer eine falsche Adresse: ein zusätzliches oder fehlendes /v1.
• 402 bedeutet, dass das Guthaben für die Reservierung nicht ausreicht. Agenten reservieren mehr als Chats: warum.

Dokumentation der Anwendung: https://docs.anythingllm.com/setup/llm-configuration/cloud/openai-generic