LiteLLM Proxy

Αντιγράψτε τη διαμόρφωση και αντικαταστήστε το sk-... με το δικό σας κλειδί από τον πίνακα ελέγχου Ailoot. Είναι προτιμότερο να αποθηκεύετε το κλειδί στη μεταβλητή περιβάλλοντος AILOOT_API_KEY, εφόσον το υποστηρίζει η εφαρμογή.

Πριν από την εκκίνηση, καλέστε το GET /v1/models με το κλειδί Ailoot σας. Επιλέξτε ακριβές ID μοντέλου με μεθόδους που περιλαμβάνουν POST /v1/chat/completions και χρησιμοποιήστε το στη ρύθμιση. Για πράκτορες, ελέγξτε επίσης τα εργαλεία και τις λειτουργίες που απαιτεί η έκδοση του πελάτη σας.

model_list:
  - model_name: claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-5-5
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY
  - model_name: gpt-sol
    litellm_params:
      model: openai/gpt-6.1-sol
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY

# εκτέλεση: litellm --config config.yaml

Αυτή η διαμόρφωση διαβάζει το κλειδί από τη μεταβλητή AILOOT_API_KEY. Ορίστε την πριν ξεκινήσετε την εφαρμογή:

export AILOOT_API_KEY="sk-..."   # προσθέστε στο ~/.zshrc ή στο ~/.bashrc

setx AILOOT_API_KEY "sk-..."   # έπειτα επανεκκινήστε το τερματικό

Παράδειγμα μοντέλου: openai/claude-sonnet-5-5, openai/gpt-6.1-sol. Επιλέξτε οποιοδήποτε άλλο μοντέλο από τον κατάλογο — ελέγξτε ότι υποστηρίζει την απαιτούμενη μορφή.

• Για τη μορφή OpenAI, η διεύθυνση είναι https://api.ailoot.ai/v1 (ή η πλήρης διαδρομή, αν η εφαρμογή ζητά πλήρη διεύθυνση).
• Κάντε μια σύντομη ερώτηση. Αν λάβετε σφάλμα, ελέγξτε τον κωδικό και το Request ID και συμβουλευτείτε τη σελίδα Σφάλματα και όρια.
• Το 404 αμέσως μετά τη διαμόρφωση σχεδόν πάντα υποδηλώνει λανθασμένη διεύθυνση: περιττό ή ελλείπον /v1.
• 402 — το υπόλοιπο δεν επαρκεί για τη δέσμευση. Οι πράκτορες δεσμεύουν περισσότερα χρήματα από μια συνομιλία: γιατί.

Τεκμηρίωση εφαρμογής: https://docs.litellm.ai/docs/providers/openai_compatible