LiteLLM

העתיקו את ההגדרה והחליפו את sk-... במפתח שלכם מהאזור האישי של Ailoot. עדיף לשמור את המפתח במשתנה הסביבה AILOOT_API_KEY, אם האפליקציה תומכת בכך.

לפני ההפעלה, קראו ל־GET /v1/models עם מפתח Ailoot שלכם. בחרו מזהה מדויק של מודל שהשיטות שלו כוללות POST /v1/chat/completions, והשתמשו בו בהגדרות. עבור סוכנים, בדקו גם תמיכה בכלים ואת התכונות הדרושות לגרסת הלקוח שלכם.

import os
import litellm
r = litellm.completion(
    model="openai/claude-sonnet-5-5",
    api_base="https://api.ailoot.ai/v1",
    api_key=os.environ["AILOOT_API_KEY"],
    messages=[{"role": "user", "content": "שלום"}])
print(r.choices[0].message.content)
# ייצוגים וקטוריים: litellm.embedding(model="openai/nemotron-3-embed", api_base="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], input=["טקסט"])

דוגמת מודל: openai/claude-sonnet-5-5, openai/qwen3.8-max, openai/nemotron-3-embed. בחרו כל מודל אחר מתוך הקטלוג — בדקו שהוא תומך בפורמט הנדרש.

• עבור פורמט OpenAI, הכתובת היא https://api.ailoot.ai/v1 (או הנתיב המלא, אם האפליקציה מבקשת כתובת מלאה).
• שאלו שאלה קצרה. אם מתקבלת שגיאה — בדקו את הקוד ואת ה-Request ID והשוו לעמוד שגיאות ומגבלות.
• 404 מיד לאחר ההגדרה כמעט תמיד מציין כתובת שגויה: רכיב מיותר או חסר של /v1.
• 402 — אין די יתרה לרזרבה. סוכנים שומרים רזרבה גדולה יותר מצ'אט: למה.

תיעוד האפליקציה: https://docs.litellm.ai/docs/providers/openai_compatible