LlamaIndex

Kopieren Sie die Konfiguration und ersetzen Sie sk-... durch Ihren eigenen Schlüssel aus dem Ailoot-Kundenbereich. Speichern Sie den Schlüssel besser in der Umgebungsvariablen AILOOT_API_KEY, sofern die Anwendung dies unterstützt.

Rufen Sie vor dem Start GET /v1/models mit Ihrem Ailoot-Schlüssel ab. Wählen Sie eine genaue Modell-ID mit den Methoden POST /v1/chat/completions und tragen Sie diese ID in die Konfiguration ein. Prüfen Sie bei Agenten auch die Werkzeugunterstützung und die für Ihre Clientversion benötigten Funktionen.

pip install llama-index-llms-openai-like

import os
from llama_index.llms.openai_like import OpenAILike
llm = OpenAILike(
    model="deepseek-v4-pro",
    api_base="https://api.ailoot.ai/v1",
    api_key=os.environ["AILOOT_API_KEY"],
    is_chat_model=True,
    is_function_calling_model=True,
    context_window=128000)
print(llm.complete("Hallo"))

Beispielmodell: deepseek-v4-pro, claude-sonnet-5-5, gpt-6.1-sol. Wählen Sie jedes andere Modell aus dem Katalog und prüfen Sie, ob es das benötigte Format unterstützt.

• Für das OpenAI-Format lautet die Adresse https://api.ailoot.ai/v1 (oder der vollständige Pfad, wenn die Anwendung eine vollständige Adresse verlangt).
• Stellen Sie eine kurze Frage. Prüfen Sie bei einem Fehler den Code und die Request ID und vergleichen Sie mit der Seite Fehler und Limits.
• 404 direkt nach der Konfiguration bedeutet fast immer eine falsche Adresse: ein zusätzliches oder fehlendes /v1.
• 402 bedeutet, dass das Guthaben für die Reservierung nicht ausreicht. Agenten reservieren mehr als Chats: warum.

Dokumentation der Anwendung: https://developers.llamaindex.ai/python/framework-api-reference/llms/openai_like/