OpenAI: GPT-4o (batch)
GPT-4o мәтін мен суретті түсінуді мәтін жазу, бағдарламалау, Structured Outputs және қолданба құралдарымен біріктіреді. Оны деректерге сүйенген жауап дайындауға, көрнекі материалды түсіндіруге немесе ауқымды дереккөздер жинағынан белгіленген өрістерді қайтаруға пайдаланыңыз.
Модель туралы
Бұл сипаттама модель мүмкіндіктерін қамтиды. Ailoot жүйесінде таңдалған әдіс үшін қолжетімді кіріс, шығыс және параметрлер төменде берілген.
GPT-4o — OpenAI компаниясының мәтін мен суретті түсінуге, мәтін жазуға және қолданбадағы жұмысқа арналған әмбебап GPT моделі. «o» әрпі «omni» сөзін білдіреді; осы құжатталған модель мәтін мен суреттерді қабылдап, Structured Outputs қоса алғанда мәтін қайтарады. Практикалық сұрау жазбаша тапсырманы фотосуреттермен, скриншоттармен немесе құжат беттерімен біріктіріп, анық түсіндірме, өңделген материал немесе қолданбаның келесі кезеңіне арналған белгіленген өрістерді сұрай алады.
Есеп үшін бастапқы құжаттарды және есеп көмектесуі тиіс шешімді беріңіз. Маңызды күндерді, өлшем бірліктерін және дерек белгілерін атап, бақылауларды, жорамалдарды және жетіспейтін ақпаратты ажырататын салыстыруды сұраңыз. Көрнекі тапсырмада маңызды нысанды, графикті немесе интерфейс күйін көрсетіп, айналасындағы контексті қосыңыз. Код өзгерісі үшін өзгеріс әсер ететін кодты, қажетті әрекетті және сақталуы тиіс шектеулерді беріңіз. Бұлар бүкіл тапсырманы нұсқау мәтінінен жорамалдауды күтпей, модельдің мәтіндік және көрнекі мүмкіндіктерін нақты пайдалануға көмектеседі.
OpenAI компаниясының қазіргі GPT-4o профилі 128 000 токендік контекст терезесін, ең көбі 16 384 токен шығысты және білім шегін 2023 жылғы 1 қазан деп көрсетеді. Өндіруші GPT-4o моделінің бірнеше күнмен белгіленген нұсқасын бөлек тізімдейді. Әңгіме, кіріс материал және жасалған жауап контекст көлемін бірге пайдаланады, сондықтан үлкен құжат жинағын да реттеп, қорытынды материалға орын қалдыру керек. Өзгеретін немесе жабық жүйеден алынатын фактілерді тікелей беру не анық бапталған құрал арқылы алу қажет.
Кескінмен жұмыс нұсқаулығы PNG, JPEG, WebP және анимациясыз GIF пішімдерін қабылдайды. GPT-4o low, high және auto сурет егжей-тегжейін қолдайды; high мен auto суретті бөліктерге бөліп өңдейді. Ұсақ жазуларды үлкейтіп, мәтінді дұрыс бағытта ұстаңыз және графикті талдағанда шартты белгілерді немесе айналадағы сызбаны сақтаңыз. Құжатталған шектеулерге кеңістіктегі орынды дәл анықтау, нысандар санын жуық бағалау, кейбір латын емес жазулар және панорамалық не «балық көзі» көріністері жатады. Модель суретті қате сипаттауы да мүмкін, сондықтан дереккөзді сақтап, түсіндірмені негіздейтін нақты бақылауларды сұраңыз. OpenAI компаниясының құжатталған кескін процесінде сұраудың жалпы дерек көлемі 512 MB шамасымен шектеледі және бір сұрау 1 500 суретке дейін қамти алады; суреттер мен мәтін модель контекстіне де сыюы тиіс.
OpenAI файл кірісі процесі кескінді түсінетін модельге PDF ішінен алынған мәтінді де, бет суреттерін де береді. PDF емес кеңсе құжаттары кірістірілген графиктерін емес, алынған мәтінді береді, ал кестелер үшін әр парақтың ең көбі алғашқы 1 000 жолы қосымша өңделеді. Әр файл 50 MB-тан аз, ал сұраудағы файлдардың жиынтық көлемі 50 MB-тан аспауы тиіс. Chat Completions PDF файл бөліктерін қолдайды; құжатталған Responses процесі қосымша файл пішімдерін қабылдайды. Көрнекі дәлдік маңызды болса, PDF көрінісін таңдап, нәтижеде дереккөз идентификаторларын көрінетін күйде сақтаңыз.
Ағынмен беру жауапты жасалу барысында қайтара алады. Structured Outputs аяқталған жауапты JSON Schema қолдайтын ішкі жиынтықпен шектейді, бұл құжаттан дерек алуға немесе белгіленген өрістері бар қолданба нысанына пайдалы. JSON режимі тек JSON дұрыстығын қамтамасыз етеді. Күтілетін түрлерді, рұқсат етілген мәндерді және дерек жоқ жағдайды өңдеуді анықтап, анық бас тартуларды немесе толық емес жауаптарды бөлек өңдеңіз. Схема мәннің фактілік дұрыстығын дәлелдемейді, сондықтан сұралған өрістер берілген материалға дейін қадағалануы тиіс.
Өндіруші функция шақыруды, веб іздеуді, файл іздеуді, кодты интерпретациялауды және MCP байланыстарын қолдайды. Арнайы функцияларға мағыналы сипаттамалар мен аргумент схемалары қажет; қолданба сұралған әрекетті орындап, нәтижесін модельдің келесі қадамына қайтарады. GPT-4o бапталған Responses процесінде бөлек сурет жасау құралын да басқара алады. Құрал жасаған сурет — жеке материал, ал GPT-4o моделінің өзінің құжатталған жауабы — мәтін. Агенттің қорытынды түсіндірмесі ұсынылған құрал шақыруын орындалған операция деп қабылдамай, нақты алынған немесе есептелген бақылауларға сүйенуі тиіс.
Predicted Outputs GPT-4o үшін негізінен белгілі мәтінді немесе кодты шағын өзгерістермен қайта жасау кезінде қолжетімді. Бар мазмұн мен нақты өзгертуді беріп, қайтарылған материалды тексеріңіз. Тек мәтінге арналған бұл жол функция шақырумен біріктірілмейді және logprobs, max_completion_tokens пен бірнеше басқа параметрді қоспайды. Жауап сыртқы операциядан алынатын жаңа ақпаратқа тәуелді болса, құрал қолданатын сұрау — бөлек таңдау.
OpenAI GPT-4o моделін қосымша үйретуді құжаттайды, ал оңтайландыру нұсқаулығы сурет мысалдары арқылы кескінге қосымша үйрету үшін 2024 жылғы 6 тамыз нұсқасын нақты атайды. Белгілі нұсқаға тән бұл баптау процесі модель бүркеншік атына берілетін кәдімгі сұраудан бөлек. Күнделікті мәтін жазу, талдау немесе дерек алу үшін пайдалы тапсырма мен қажетті шығыс үлгісінен бастаңыз. Кейінгі хабарлама тапсырма деректері мен шектеулерін сақтай отырып, жетіспейтін бір фактіні анықтай, өрісті түзете немесе сол материалды жетілдіре алады.
Ailoot Ultra · Пакеттік өңдеу POST /v1/batches openai/gpt-4o:batch
openai/gpt-4o:batchБастау
GPT-4o мәтін мен суретті түсінуді мәтін жазу, бағдарламалау, Structured Outputs және қолданба құралдарымен біріктіреді. Оны деректерге сүйенген жауап дайындауға, көрнекі материалды түсіндіруге немесе ауқымды дереккөздер жинағынан белгіленген өрістерді қайтаруға пайдаланыңыз.
- Қабылданатын кіріс деректері
- Мәтін
- Нәтижелер
- Мәтін
Ailoot жүйесінде қолжетімді · кіріс деректері мен әдістер
Ailoot Ultra · Пакеттік өңдеу POST /v1/batches
- Кіріс
text- Шығыс
text- Шығыс пішімі
- Жауаптың ішіндегі results[].response.body JSON деректері
| Өріс | Түрі | Талап | Мәндер мен шектеулер | Әдепкі |
|---|---|---|---|---|
Өрісendpoint | Түріstring | ТалапМіндетті | Мәндер мен шектеулер /v1/chat/completions | Әдепкі— |
Өрісmodel | Түріstring | ТалапМіндетті | Мәндер мен шектеулер openai/gpt-4o:batch | Әдепкі— |
Өрісrequests | Түріbatch_item[] | ТалапМіндетті | Мәндер мен шектеулер Элементтердің ең аз саны: 1 | Әдепкі— |
Өрісrequests[].custom_id | Түріstring | ТалапМіндетті | Мәндер мен шектеулер | Әдепкі— |
Өрісrequests[].body.messages | Түріmessage[] | ТалапМіндетті | Мәндер мен шектеулер | Әдепкі— |
Өрісcompletion_window | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер 24h | Әдепкі— |
Өрісprovider | Түріobject|null | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— |
Өрісrequests[].body.model | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер openai/gpt-4o:batch, openai/gpt-4o | Әдепкі— |
Өрісprovider.only | Түріstring[] | ТалапМіндетті емес | Мәндер мен шектеулер openai | Әдепкі— |
Өрісprovider.allow_fallbacks | Түріboolean|null | ТалапМіндетті емес | Мәндер мен шектеулер false, null | Әдепкі— |
Әдіс параметрлері мен өмірлік циклі
| Параметр | Параметр талаптары |
|---|---|
Параметрcontent_type | Параметр талаптарыapplication/json |
Параметрrequired | Параметр талаптарыendpoint, model, requests |
Параметрmaterial_types | Параметр талаптарыtext |
Параметрrepresentation | Параметр талаптарыСұрау ішіне енгізілген requests[]; әр элементте custom_id және body бар |
Параметрrequest_endpoint_profile | Параметр талаптары/v1/chat/completions |
Параметрfile_material | Параметр талаптарыСұрауды жіберуші нақты UTF-8 JSONL деректерін жергілікті ортада оқып, requests[] ішіне енгізе алады. Жүктеу мақсаты, input_file_id немесе файлға сілтеме қолданылмайды. Клиент материалы жоқ немесе бос болса, дайындық POST жіберілгенге дейін тоқтатылады. |
Параметрserialization_order | Параметр талаптарыendpoint, model, provider (берілген болса), completion_window (берілген болса), requests өрісін соңында орналастырыңыз |
Параметрoptional_controls | Параметр талаптарыprovider.only, provider.allow_fallbacks, completion_window |
Параметрschema_scope | Параметр талаптарыҚұжаттамада сипатталған, сұраудың ішіне енгізілетін Batch құрылымындағы мәтіндік Chat Completions сұрауларының денелері. |
Өмірлік цикл: asynchronous
GET /v1/batches/{operation_id} · Бастапқы жасау жауабындағы нақты response.id; сол пайдаланушы/кілт/топ
Тарифтер
Тариф анықтамасы сұрау мүмкіндіктерін қоспайды. Қолдау көрсетілетін параметрлер таңдалған әдісте берілген.
- Жылдам режим
- Көрсетілмеген Жылдам режим таңдалғанда
- Икемді режим
- Көрсетілмеген flex режимі таңдалғанда
- Ой қорытудың ең жоғары деңгейі
- Көрсетілмеген Ой қорыту деңгейі ең жоғары болып, default түзетуі қолданылғанда
- Айқын кэштеу бағасы
- Қосылмаған Айқын кэштеу сұралғанда
Ailoot мөлшерлемелері
Баптаулар бойынша бағалар
Әр төлемді көрсетілген шарттармен салыстырыңыз. Балама баптаулардың әр жиыны үшін бір мөлшерлемені қолданыңыз.
| Баптау | Мөлшерлемелер кестесі | Контекст токендерінің саны мынадан көп | Контекст токендерінің саны мынадан аспайды, шегі кіреді | Төлем |
|---|---|---|---|---|
| БаптауТокендердің базалық тарифтері | Мөлшерлемелер кестесіНегізгі мөлшерлеме | Контекст токендерінің саны мынадан көп— | Контекст токендерінің саны мынадан аспайды, шегі кіредіЖоғарғы шегі жоқ | Төлем Кіріс · Кіріс токендері $0.0025 / 1K токен Шығыс · Шығыс токендері $0.01 / 1K токен Кіріс · Кэшті оқу $0.00125 / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
| БаптауСұрау ұзындығының 1-деңгейі | Мөлшерлемелер кестесі— | Контекст токендерінің саны мынадан көп0 | Контекст токендерінің саны мынадан аспайды, шегі кіредіЖоғарғы шегі жоқ | Төлем Кіріс · Кіріс токендері $0.0025 / 1K токен Шығыс · Шығыс токендері $0.01 / 1K токен Кіріс · Кэшті оқу $0.00125 / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →
Сұрау мысалдары
Ailoot Ultra · Пакеттік өңдеу
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"openai/gpt-4o:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['openai/gpt-4o:batch', 'openai/gpt-4o']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"openai/gpt-4o:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Нәтижелерді алу және сақтау
Ailoot Ultra · Пакеттік өңдеу
Жауаптың ішіндегі results[].response.body JSON деректері
GET /v1/batches/{operation_id}
Тапсырма күйін тексеру
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Барлық дайын нәтижені сақтау
Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.
Бастапқы күй туралы толық JSON деректерін, әрбір нәтижені/custom_id мәнін және жауаптың немесе қатенің толық денесін сақтаңыз. Аяқталған results[] деректерін сүзгілемей JSONL түрінде сақтаңыз.
Бастапқы жауапты тексеру қажет болса
Бастапқы операцияның ID мәнін сақтаңыз. 503 result_pending_check жауабында X-Should-Retry:false көрсетіледі; нәтижесі белгісіз бастапқы пакетті ешқашан қайта жібермеңіз.
Жауап өрістері
| Өріс | Түрі |
|---|---|
Өрісresults[].custom_id | Түріstring |
Өрісresults[].response.body.choices[].message.content | Түріstring|null |
Өрісresults[].error | Түріobject|null |
Өрісusage | Түріobject|null |
Өрісid | Түріstring |
Өрісmodel | Түріstring |
Өрісendpoint | Түріstring |
Өрісstatus | Түріstring |
Өрісrequest_counts | Түріobject |
Өрісresults[].id | Түріstring |
Өрісresults[].response.status_code | Түріinteger |
Өрісresults[].response.request_id | Түріstring |
Қателер және келесі қадамдар
| Жауап | Шарт | Келесі қадам |
|---|---|---|
Жауап400 · invalid_request_error | ШартҚұжаттамада сипатталған сұрау ішіндегі құрылым жарамсыз, кілттер қайталанады, элементтің сәйкестігі бұзылған немесе бапталған модель мүмкіндіктері арасында қайшылық бар. | Келесі қадамЖаңадан жібермес бұрын көрсетілген өрістерді түзетіңіз. |
Жауап401 · authentication_error | ШартЖарамсыз API кілті. | Келесі қадамПайдалануға рұқсат берілген Ailoot кілтін қолданыңыз. |
Жауап403 · permission_error | ШартПакеттік өңдеу тобы қолжетімсіз. | Келесі қадамКілттің/топтың қол жеткізу құқығын тексеріңіз. |
Жауап422 · invalid_request_error | ШартBatch төлемді баланстан алады; жазылыммен төленетін жасау сұрауы қабылданбайды. | Келесі қадамБаланстан төлем алынатын, пайдалануға рұқсат берілген топты қолданыңыз. |
Жауап422 · price_unavailable | ШартBatch кіріс деректерінің құнын алдын ала есептеу мүмкін емес. | Келесі қадамЖауапты сақтаңыз; осы әдістер тобы үшін құжаттамада сипатталған кіріс деректерін қолданыңыз. |
Жауап402 · billing_error | ШартПакеттік өңдеу үшін қаражатты резервтеу қолжетімсіз. | Келесі қадамЖаңа сұрау жібермес бұрын сұрауды қабылдау мәселесін шешіңіз. |
Жауап503 · price_unavailable | ШартBatch әдісінің бағасы/жүйенің төл тарифтері қолжетімсіз. | Келесі қадамЖауапты сақтаңыз; бағаларды басқа мәндермен алмастырмаңыз. |
Жауап503 · api_error | ШартПровайдердің осы нақты маршруты қолжетімсіз. | Келесі қадамМаршрутты түзету үшін жауапты сақтаңыз. |
Жауап503 · result_pending_check | ШартБастапқы нәтижені тексеру қажет; X-Should-Retry:false. | Келесі қадамБастапқы operation_id/id мәнін сақтап, оның күйін оқыңыз; бастапқы POST сұрауын ешқашан қайталамаңыз. |
Жауап404 · not_found | ШартBatch күйін тексеретін операция жоқ немесе басқа субъектіге тиесілі. | Келесі қадамБастапқы id мәнін дәл қолданыңыз және сол пайдаланушыны/кілтті/топты пайдаланыңыз. |
Балама атаулар
Модельдердің балама атаулары
Ailoot Ultra openai/gpt-4o:batch
Әдіс жолдарының балама атаулары
Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.
Шақыруға арналған байланысты ID
FAQ · OpenAI: GPT-4o (batch)
- Қандай кіріс деректері мен нәтижелер қолжетімді?
POST /v1/batches·openai/gpt-4o:batch:text→text- Сұрау қандай өрістерді пайдаланады?
POST /v1/batches·openai/gpt-4o:batch:endpoint,model,requests,completion_window,provider- Қандай шектеулер қолданылады?
POST /v1/batches·openai/gpt-4o:batch:requests.min_items:1