Hogyan működik

A formátumot a kérés útvonala határozza meg, nem a modell. Ugyanaz a Claude modell OpenAI Chat, OpenAI Responses vagy Anthropic Messages útvonalon is hívható — a válasz a meghívott útvonal formátumában érkezik.

• Új szöveges kérés elküldése előtt az Ailoot zárolja a bemenet és egy tipikus válasz becsült költségét, figyelembe véve a válaszkorlátot (max_tokens) és az adott modell feltételeit. Ha a zárolandó összeg meghaladja a szabad egyenleget vagy a kulcs keretét, a továbbított válaszkorlát csak akkor csökkenthető, ha az adott modell az adott metódusnál valóban betartja azt; az értéke nem lehet sem 256 tokennél, sem a beállított minimális válaszhossznál kisebb. Kép-, videó- és hangkimenet esetén továbbra is az eredmény teljes költségét zároljuk.
• A válasz után egyszeri terhelés történik a tényleges használat alapján. A fel nem használt zárolt összeg azonnal visszakerül az egyenlegre.
• Ha a válasz drágább a zárolt összegnél, a különbözetet a szabad egyenlegből vonjuk le. Az egyenleg soha nem lesz negatív.
• Ha még a minimális zároláshoz sincs elegendő pénz, a kérést nem küldjük el: érthető 402-es hibát kap, terhelés nem történik.
• Az eredmény nélküli hiba nem díjköteles.

A részletek és a számítási példa ezen az oldalon találhatók: Zárolás és terhelés.

Minden válasz kap egy kérésazonosítót: a X-Request-ID fejlécben és a hiba szövegében. A hibák a meghívott formátum JSON-jában érkeznek, ezért az SDK-k helyesen felismerik őket. Ha valami nem sikerült, küldje el a Request ID-t a támogatásnak — így egy perc alatt megtaláljuk a kérést.

{
  "code": "API_KEY_REQUIRED",
  "error": {
    "code": "invalid_api_key",
    "message": "No API key was sent with the request. Nothing was charged. Please check that the full key is sent in the Authorization header as \"Bearer <key>\". Request ID: 3b28d3de-5b02-4d07-9f3c-4b9a7d0e68d6.",
    "param": null,
    "reason": "invalid_api_key",
    "request_id": "3b28d3de-5b02-4d07-9f3c-4b9a7d0e68d6",
    "type": "invalid_request_error"
  },
  "message": "No API key was sent with the request. Nothing was charged. …"
}

A folyamatos válaszok (stream: true) Server-Sent Events formátumban érkeznek. Az Ailoot a díjköteles szöveges választ a költség kiszámítása után adja át. Ezért a stream: true beállítással a formátum továbbra is folyamatos (SSE), de a szöveg a modell befejezésekor egyetlen blokkban érkezik, nem szavanként. Ha a válasz elkészítése körülbelül 15 másodpercnél tovább tart, a Chat Completions, Responses és Messages folyamokban először szolgáltatási sorok érkeznek: : ping (körülbelül 10 másodpercenként), majd ez a sor: : ailoot-charged-usd … a terhelt összeggel, végül maguk az adatok. Az SDK-k ezeket a sorokat kihagyják.

Gemini formátumban nincsenek szolgáltatási sorok: a :streamGenerateContent válasz egészben érkezik a költség kiszámítása után. Következtető modelleknél hagyjon tartalékot a kliens időkorlátjában: több perc is normális.

X-Request-ID minden válaszban szerepel. A többi fejlécet az Ailoot a kifizetett szöveges válaszokhoz adja hozzá:

Ha a folyam szolgáltatási sorokkal már elindult, ezek az adatok az adatok előtti megjegyzéssorban érkeznek, nem fejlécben.

Ha a modell támogatja a gyorsítótárazást, egy ismételten elküldött hosszú prefixum (rendszerutasítás, dokumentumok) olcsóbb lehet. A gyorsítótár olvasási és írási árai a modell adatlapján, a katalógusban találhatók. A gyorsítótár-találatról a modell fejlesztője dönt, az Ailoot nem garantálja.