LiteLLM Proxy

שער משלכם · OpenAI Chat

המדריך המלא

פורמט	היכן להגדיר
OpenAI Chat	config.yaml ← model_list ← litellm_params (model, api_base, api_key); הפעלה: litellm --config config.yaml

הגדרה

העתיקו את ההגדרה והחליפו את sk-... במפתח שלכם מהאזור האישי של Ailoot. עדיף לשמור את המפתח במשתנה הסביבה AILOOT_API_KEY, אם האפליקציה תומכת בכך.

לפני ההפעלה, קראו ל־GET /v1/models עם מפתח Ailoot שלכם. בחרו מזהה מדויק של מודל שהשיטות שלו כוללות POST /v1/chat/completions, והשתמשו בו בהגדרות. עבור סוכנים, בדקו גם תמיכה בכלים ואת התכונות הדרושות לגרסת הלקוח שלכם.

model_list:
  - model_name: claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-5-5
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY
  - model_name: gpt-sol
    litellm_params:
      model: openai/gpt-6.1-sol
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY

# הפעלה: litellm --config config.yaml

ההגדרה הזאת קוראת את המפתח מהמשתנה AILOOT_API_KEY. הגדירו אותו לפני הפעלת האפליקציה:

export AILOOT_API_KEY="sk-..."   # הוסיפו ל-~/.zshrc או ל-~/.bashrc

setx AILOOT_API_KEY "sk-..."   # לאחר מכן הפעילו מחדש את המסוף

דוגמת מודל: openai/claude-sonnet-5-5, openai/gpt-6.1-sol. בחרו כל מודל אחר מתוך הקטלוג — בדקו שהוא תומך בפורמט הנדרש.

חשוב לדעת

בדיקה

עבור פורמט OpenAI, הכתובת היא https://api.ailoot.ai/v1 (או הנתיב המלא, אם האפליקציה מבקשת כתובת מלאה).
שאלו שאלה קצרה. אם מתקבלת שגיאה — בדקו את הקוד ואת ה-Request ID והשוו לעמוד שגיאות ומגבלות.
404 מיד לאחר ההגדרה כמעט תמיד מציין כתובת שגויה: רכיב מיותר או חסר של /v1.
402 — אין די יתרה לרזרבה. סוכנים שומרים רזרבה גדולה יותר מצ'אט: למה.

תיעוד האפליקציה: https://docs.litellm.ai/docs/providers/openai_compatible

נשארו שאלות? שלחו Request ID ותיאור — נעזור לברר.פנייה לתמיכה