Бұл қалай жұмыс істейді

Форматты модель емес, сұрау жолы анықтайды. Бір Claude моделін OpenAI Chat, OpenAI Responses немесе Anthropic Messages арқылы шақыруға болады — жауап шақырған жолдың форматында келеді.

• Жаңа мәтіндік сұрауды жіберер алдында Ailoot кіріс пен әдеттегі жауаптың бағаланған құнын резервтейді; есептеу кезінде лимит (max_tokens) және нақты модельдің шарттары ескеріледі. Резерв бос балансқа немесе кілт лимитіне сыймаса, жіберілетін лимитті оны шынымен сақтайтын модель мен әдісте ғана азайтуға болады; ол 256 токеннен және жауаптың белгіленген ең аз мөлшерінен төмен түспейді. Шығыстағы суреттер, бейне және дыбыс үшін нәтиже құнының толық резерві сақталады.
• Жауаптан кейін — нақты шығын бойынша бір рет есептен шығару. Пайдаланылмаған резерв балансқа бірден қайтарылады.
• Жауап резервтен қымбат болса, айырмасы бос баланстан алынады. Баланс ешқашан теріс болмайды.
• Ең аз резервке де қаражат жетпесе, сұрау жіберілмейді: түсінікті 402 қатесін аласыз, ештеңе есептен шығарылмайды.
• Нәтижесіз аяқталған қатеге ақы алынбайды.

Толық мәлімет пен есептеу мысалы — мына бетте: Резерв және есептен шығару.

Әр жауап сұрау идентификаторын алады: мына тақырыпта: X-Request-ID және қате мәтінінде. Қателер шақырған форматтың JSON түрінде келеді, сондықтан SDK оларды дұрыс таниды. Бірдеңе дұрыс болмаса, Request ID-ді мына қызметке жіберіңіз: қолдау қызметіне — сонда сұрауды бір минутта табамыз.

{
  "code": "API_KEY_REQUIRED",
  "error": {
    "code": "invalid_api_key",
    "message": "No API key was sent with the request. Nothing was charged. Please check that the full key is sent in the Authorization header as \"Bearer <key>\". Request ID: 3b28d3de-5b02-4d07-9f3c-4b9a7d0e68d6.",
    "param": null,
    "reason": "invalid_api_key",
    "request_id": "3b28d3de-5b02-4d07-9f3c-4b9a7d0e68d6",
    "type": "invalid_request_error"
  },
  "message": "No API key was sent with the request. Nothing was charged. …"
}

Ағындық жауаптар (stream: true) Server-Sent Events түрінде келеді. Ailoot ақылы мәтіндік жауапты құны есептелгеннен кейін береді. Сондықтан мына параметрмен: stream: true формат ағындық (SSE) болып қалады, бірақ мәтін жеке сөздермен біртіндеп емес, модель аяқтағанда бір блокпен келеді. Жауап шамамен 15 секундтан ұзақ дайындалса, Chat Completions, Responses және Messages ағындарында алдымен мына қызметтік жолдар келеді: : ping (шамамен әр 10 секунд сайын), содан кейін мына жол: : ailoot-charged-usd … есептен шығарылған сомамен және деректердің өзімен келеді. SDK мұндай жолдарды өткізіп жібереді.

Gemini форматында қызметтік жолдар жоқ: мына жауап: :streamGenerateContent есептеуден кейін толық келеді. Пайымдайтын модельдерге клиенттің күту уақытын жеткілікті қорымен орнатыңыз: бірнеше минут — қалыпты жағдай.

X-Request-ID әр жауапта келеді. Қалған тақырыптарды Ailoot ақылы мәтіндік жауаптарға қосады:

Ағын қызметтік жолдармен басталып кеткен болса, бұл мәліметтер тақырыппен емес, деректер алдындағы түсініктеме жолымен келеді.

Модель кэштеуді қолдаса, қайта жіберілген ұзын префикс (жүйелік нұсқау, құжаттар) арзанырақ болуы мүмкін. Кэшті оқу және жазу бағалары мына жердегі модель карточкасында көрсетілген: каталогта. Кэшке түсуін модель әзірлеушісі анықтайды, Ailoot бұған кепілдік бермейді.