LiteLLM
MarkdownSDK · OpenAI Chat
Πλήρης οδηγός
| Μορφή | Πού θα το ρυθμίσετε |
|---|---|
| OpenAI Chat | litellm.completion(model="openai/<id>", api_base=..., api_key=...) |
Διαμόρφωση
Αντιγράψτε τη διαμόρφωση και αντικαταστήστε το sk-... με το δικό σας κλειδί από τον πίνακα ελέγχου Ailoot. Είναι προτιμότερο να αποθηκεύετε το κλειδί στη μεταβλητή περιβάλλοντος AILOOT_API_KEY, εφόσον το υποστηρίζει η εφαρμογή.
Πριν από την εκκίνηση, καλέστε το GET /v1/models με το κλειδί Ailoot σας. Επιλέξτε ακριβές ID μοντέλου με μεθόδους που περιλαμβάνουν POST /v1/chat/completions και χρησιμοποιήστε το στη ρύθμιση. Για πράκτορες, ελέγξτε επίσης τα εργαλεία και τις λειτουργίες που απαιτεί η έκδοση του πελάτη σας.
import os
import litellm
r = litellm.completion(
model="openai/claude-sonnet-5-5",
api_base="https://api.ailoot.ai/v1",
api_key=os.environ["AILOOT_API_KEY"],
messages=[{"role": "user", "content": "Γεια"}])
print(r.choices[0].message.content)
# διανυσματικές αναπαραστάσεις: litellm.embedding(model="openai/nemotron-3-embed", api_base="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], input=["κείμενο"])Παράδειγμα μοντέλου: openai/claude-sonnet-5-5, openai/qwen3.8-max, openai/nemotron-3-embed. Επιλέξτε οποιοδήποτε άλλο μοντέλο από τον κατάλογο — ελέγξτε ότι υποστηρίζει την απαιτούμενη μορφή.
Τι πρέπει να γνωρίζετε
Έλεγχος
- Για τη μορφή OpenAI, η διεύθυνση είναι
https://api.ailoot.ai/v1(ή η πλήρης διαδρομή, αν η εφαρμογή ζητά πλήρη διεύθυνση). - Κάντε μια σύντομη ερώτηση. Αν λάβετε σφάλμα, ελέγξτε τον κωδικό και το Request ID και συμβουλευτείτε τη σελίδα Σφάλματα και όρια.
- Το 404 αμέσως μετά τη διαμόρφωση σχεδόν πάντα υποδηλώνει λανθασμένη διεύθυνση: περιττό ή ελλείπον
/v1. - 402 — το υπόλοιπο δεν επαρκεί για τη δέσμευση. Οι πράκτορες δεσμεύουν περισσότερα χρήματα από μια συνομιλία: γιατί.
Τεκμηρίωση εφαρμογής: https://docs.litellm.ai/docs/providers/openai_compatible