Jak to funguje

Formát určuje cesta požadavku, nikoli model. Stejný model Claude lze zavolat přes OpenAI Chat, OpenAI Responses nebo Anthropic Messages – odpověď přijde ve formátu použité cesty.

• Před odesláním nového textového požadavku Ailoot rezervuje odhad nákladů na vstup a obvyklou odpověď s ohledem na limit (max_tokens) a podmínky konkrétního modelu. Pokud se rezervace nevejde do volného zůstatku nebo limitu klíče, lze předávaný limit snížit pouze u modelu a metody, které ho skutečně dodržují, a nikdy pod 256 tokenů ani pod stanovené minimum odpovědi. U obrázků, videa a zvuku na výstupu zůstává rezervována celá cena výsledku.
• Po odpovědi se částka odečte jednou podle skutečné spotřeby. Nevyužitá rezerva se okamžitě vrátí na zůstatek.
• Pokud odpověď vyjde dráž než rezerva, rozdíl se odečte z volného zůstatku. Zůstatek nikdy neklesne pod nulu.
• Pokud prostředky nestačí ani na minimální rezervu, požadavek se neodesílá: dostanete srozumitelnou chybu 402 a nic se neodečte.
• Chyba, po které nevznikne výsledek, se neúčtuje.

Podrobnosti a příklad výpočtu najdete na stránce Rezervace a stržení částky.

Každá odpověď dostane identifikátor požadavku: v hlavičce X-Request-ID a v textu chyby. Chyby přicházejí v JSON zvoleného formátu, takže je SDK správně rozpozná. Pokud se něco nepovede, pošlete Request ID na podporu – tak požadavek najdeme do minuty.

{
  "code": "API_KEY_REQUIRED",
  "error": {
    "code": "invalid_api_key",
    "message": "No API key was sent with the request. Nothing was charged. Please check that the full key is sent in the Authorization header as \"Bearer <key>\". Request ID: 3b28d3de-5b02-4d07-9f3c-4b9a7d0e68d6.",
    "param": null,
    "reason": "invalid_api_key",
    "request_id": "3b28d3de-5b02-4d07-9f3c-4b9a7d0e68d6",
    "type": "invalid_request_error"
  },
  "message": "No API key was sent with the request. Nothing was charged. …"
}

Streamované odpovědi (stream: true) používají Server-Sent Events. Placenou textovou odpověď Ailoot vrací po výpočtu ceny. Proto při stream: true formát zůstává streamovaný (SSE), text však přichází jako jeden blok po dokončení odpovědi modelu, nikoli po jednotlivých slovech. Pokud příprava odpovědi trvá déle než přibližně 15 sekund, ve streamech Chat Completions, Responses a Messages nejprve přicházejí pomocné řádky : ping (přibližně každých 10 sekund), poté řádek : ailoot-charged-usd … s odečtenou částkou a samotná data. SDK tyto řádky přeskakují.

Ve formátu Gemini nejsou pomocné řádky: odpověď :streamGenerateContent přichází celá po výpočtu. U modelů s podporou uvažování nastavte časový limit klienta s rezervou: několik minut je běžných.

X-Request-ID je součástí každé odpovědi. Ostatní hlavičky Ailoot přidává k placeným textovým odpovědím:

Pokud stream již začal pomocnými řádky, tyto údaje přijdou jako řádek s komentářem před daty, nikoli jako hlavička.

Pokud model podporuje ukládání do mezipaměti, opakovaně odeslaný dlouhý prefix (systémová instrukce, dokumenty) může být levnější. Ceny čtení a zápisu do mezipaměti jsou uvedeny na kartě modelu v katalogu. O tom, zda se opakovaný prefix načte z mezipaměti (cache hit), rozhoduje vývojář modelu; Ailoot to nezaručuje.