Source: https://ailoot.ai/models/lt/openai-gpt-4-turbo-u003a-batch/ Canonical: https://ailoot.ai/models/lt/openai-gpt-4-turbo-u003a-batch/ Language: lt # OpenAI: GPT-4 Turbo (batch) [Markdown](https://ailoot.ai/models/lt/openai-gpt-4-turbo-u003a-batch/index.md) · [JSON](https://ailoot.ai/models/lt/openai-gpt-4-turbo-u003a-batch/facts.json) ## [OpenAI: GPT-4 Turbo (batch)](https://ailoot.ai/models/lt/openai-gpt-4-turbo-u003a-batch/) GPT-4 Turbo priima tekstą bei vaizdus ir grąžina tekstą dokumentų, vaizdinėms ir programavimo užduotims. Gamintojo specifikacija derina 128 000 žetonų konteksto langą su 4 096 žetonų išvesties riba, srautiniu perdavimu ir funkcijų iškvietimu. - [**Ailoot Ultra · Paketinis apdorojimas** `POST /v1/batches` `openai/gpt-4-turbo:batch`](https://ailoot.ai/models/lt/openai-gpt-4-turbo-u003a-batch/#method-0) Apie modelį Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau. GPT-4 Turbo yra OpenAI GPT-4 šeimos modelis teksto ir vaizdinei įvesčiai su tekstine išvestimi. Dabartinė gamintojo Turbo kortelė nurodo vaizdus suprantantį modelį, išlaikydama atskirus peržiūros versijų vardus. Jį galima naudoti klausimui apie pateiktus dokumentus, vaizdą ar rašytinių bei vaizdinių duomenų derinį. Dokumento užduočiai pateikite aktualias dalis ir klausimą, į kurį jos turi atsakyti. Pavyzdinė užklausa — palyginti procedūrą su reikalavimų rinkiniu ir pateikti glaustą sutapimų, skirtumų bei atvirų klausimų paaiškinimą. Nurodykite, kuris šaltinis turi pirmenybę ir kokie faktai turi išlikti nepakitę perrašant rezultatą jo skaitytojui. Vaizdinei užduočiai pateikite ekrano kopiją, nuotrauką ar diagramą ir nurodykite svarbią detalę. Pridėkite rašytinį kontekstą, kai vien vaizdas nepatvirtina naudotojo tikslo ar etiketės reikšmės. Siūlomas atsakymas į pagalbos užklausą gali sujungti aktualų stebėjimą su klausimu trūkstamai informacijai išsiaiškinti. Kodo klausime galima pateikti realizaciją ir veikimą, kurį reikia paaiškinti ar pakeisti. OpenAI nurodo 128 000 žetonų konteksto langą, didžiausią 4 096 žetonų išvestį ir žinių ribą — 2023 m. gruodžio 1 d. Dėl palyginti trumpos išvesties ribos svarbu pasirinkti prašomą artefaktą: prašykite atsakymo, dalies ar išvadų rinkinio, kurio užduočiai iš tikrųjų reikia. Pradinė medžiaga ir generuojamas atsakymas dalijasi prieinamu kontekstu. Paties gamintojo kortelė palaiko srautinį perdavimą ir funkcijų iškvietimą, o schema pagrįstą Structured Outputs, papildomą mokymą ir Predicted Outputs žymi kaip nepalaikomus. JSON režimo gairėse GPT-4 modelių šeima įvardijama galiojantiems JSON atsakymams; šis režimas negarantuoja konkrečios schemos. Programa patikrina grąžintus laukus ir vykdo savo aprašytas operacijas, tada grąžina tikrus įrankių rezultatus tolesniam žingsniui. Apibrėžkite auditoriją, toną ir užbaigimo kriterijų. Analitiniam rezultatui atskirkite šaltinio faktus, išvadą ir neišspręstą sąlygą. Redaguojamam dokumentui nurodykite prasmę ir terminus, kurie turi išlikti. Naudingas galutinis artefaktas yra konkretus atsakymas ar dalis, kurios svarbius teiginius galima patikrinti pagal pradinę medžiagą ir patobulinti vėlesniu pranešimu. **Ailoot Ultra · Paketinis apdorojimas** `POST /v1/batches` `openai/gpt-4-turbo:batch` [`openai/gpt-4-turbo:batch`](https://ailoot.ai/models/lt/#m=openai%2Fgpt-4-turbo%3Abatch&route=Ultra&caller=openai%2Fgpt-4-turbo%3Abatch&fmt=batches) OpenAI /`openai/gpt-4-turbo:batch` ### Pradžia GPT-4 Turbo priima tekstą bei vaizdus ir grąžina tekstą dokumentų, vaizdinėms ir programavimo užduotims. Gamintojo specifikacija derina 128 000 žetonų konteksto langą su 4 096 žetonų išvesties riba, srautiniu perdavimu ir funkcijų iškvietimu. Leidžiamos įvestys Tekstas Rezultatai Tekstas ### Prieinama Ailoot · įvestys ir metodai **Ailoot Ultra · Paketinis apdorojimas** `POST /v1/batches` Įvestis `text` Išvestis `text` Išvesties formatas tiesiogiai įterptas results\[\].response.body JSON | Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta | | --- | --- | --- | --- | --- | | Laukas`endpoint` | Tipas`string` | ReikalavimasPrivaloma | Reikšmės ir ribos /v1/chat/completions | Numatyta— | | Laukas`model` | Tipas`string` | ReikalavimasPrivaloma | Reikšmės ir ribos openai/gpt-4-turbo:batch | Numatyta— | | Laukas`requests` | Tipas`batch_item[]` | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 | Numatyta— | | Laukas`requests[].custom_id` | Tipas`string` | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— | | Laukas`requests[].body.messages` | Tipas`message[]` | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— | | Laukas`completion_window` | Tipas`string` | ReikalavimasNeprivaloma | Reikšmės ir ribos 24h | Numatyta— | | Laukas`provider` | Tipas`object\|null` | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— | | Laukas`requests[].body.model` | Tipas`string` | ReikalavimasNeprivaloma | Reikšmės ir ribos openai/gpt-4-turbo:batch, openai/gpt-4-turbo | Numatyta— | | Laukas`provider.only` | Tipas`string[]` | ReikalavimasNeprivaloma | Reikšmės ir ribos openai | Numatyta— | | Laukas`provider.allow_fallbacks` | Tipas`boolean\|null` | ReikalavimasNeprivaloma | Reikšmės ir ribos false, null | Numatyta— | Metodo parametrai ir gyvavimo ciklas | Parametras | Specifikacija | | --- | --- | | Parametras`content_type` | Specifikacijaapplication/json | | Parametras`required` | Specifikacijaendpoint, model, requests | | Parametras`material_types` | Specifikacijatext | | Parametras`representation` | Specifikacijatiesiogiai įterptas requests\[\] masyvas; kiekvienas elementas turi custom\_id ir body laukus | | Parametras`request_endpoint_profile` | Specifikacija/v1/chat/completions | | Parametras`file_material` | SpecifikacijaKlientas gali vietoje perskaityti faktinį UTF-8 JSONL turinį į requests\[\] masyvą. Įkėlimo purpose, input\_file\_id ar failo nuoroda nenaudojami. Jei kliento medžiagos nėra arba ji tuščia, parengimas sustabdomas prieš POST. | | Parametras`serialization_order` | Specifikacijaendpoint, model, provider (jei pateiktas), completion\_window (jei pateiktas), requests pateikite paskiausiai | | Parametras`optional_controls` | Specifikacijaprovider.only, provider.allow\_fallbacks, completion\_window | | Parametras`schema_scope` | SpecifikacijaTekstinių Chat Completions užklausų turiniai dokumentuotoje Batch paketo struktūroje, pateikiamoje pačioje užklausoje. | Gyvavimo ciklas: `asynchronous` `GET /v1/batches/{operation_id}` · faktinė pradinės kūrimo užklausos atsakymo response.id reikšmė; tas pats naudotojas, raktas ir grupė ### Planai Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo. Spartusis režimas Nenurodyta Pasirinkus spartųjį režimą Flex režimas Nenurodyta Pasirinkus flex režimą Didžiausios samprotavimo pastangos Nenurodyta Kai didžiausioms samprotavimo pastangoms taikomas numatytasis koregavimas (default) Išreikštinio podėlio kainodara Neįjungta Kai prašoma išreikštinio podėlio #### Ailoot įkainiai #### Kainos pagal konfigūraciją Kiekvieną mokestį susiekite su nurodytomis sąlygomis. Kiekvienam alternatyvių konfigūracijų rinkiniui taikykite vieną įkainį. | Konfigūracija | Įkainių lentelė | Konteksto tokenų daugiau nei | Konteksto tokenų iki imtinai | Mokestis | | --- | --- | --- | --- | --- | | KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Konteksto tokenų daugiau nei— | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai **$0.01** / 1K tokenų Išvestis · Išvesties tokenai **$0.03** / 1K tokenų Įvestis · Talpyklos skaitymas **—** / 1K tokenų Įvestis · Rašymas į talpyklą **—** / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val **—** / 1K tokenų | | KonfigūracijaUžklausos ilgio pakopa 1 | Įkainių lentelė— | Konteksto tokenų daugiau nei0 | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai **$0.01** / 1K tokenų Išvestis · Išvesties tokenai **$0.03** / 1K tokenų Įvestis · Talpyklos skaitymas **—** / 1K tokenų Įvestis · Rašymas į talpyklą **—** / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val **—** / 1K tokenų | Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. [Kaip veikia rezervavimas ir atsiskaitymas →](https://ailoot.ai/docs/lt/billing/reserve/) ### Užklausų pavyzdžiai #### Ailoot Ultra · Paketinis apdorojimas curl · išsaugotas testinių duomenų rinkinysPython HTTP · tikri kliento JSONL duomenysPython · išsaugokite kiekvieną užbaigtą rezultatą ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" python3 - <<'PY_REQUEST' import json from pathlib import Path body=json.loads('{"endpoint":"/v1/chat/completions","model":"openai/gpt-4-turbo:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}') Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8") PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json ``` ```python import json, os from pathlib import Path from urllib.request import Request, urlopen def prepare_requests(customer_path): path = Path(customer_path) if not path.is_file(): raise ValueError("Customer JSONL file is missing") items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()] if not items: raise ValueError("Customer JSONL contains no requests") ids = set() for item in items: if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body") cid = item["custom_id"] if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique") ids.add(cid) if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages") supplied_model = item["body"].get("model") if supplied_model is not None and supplied_model not in ['openai/gpt-4-turbo:batch', 'openai/gpt-4-turbo']: raise ValueError("body.model must be an exact documented caller or wire ID") return {"endpoint":"/v1/chat/completions", "model":"openai/gpt-4-turbo:batch", "requests":items} if __name__ == "__main__": material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "") if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file") body = prepare_requests(material) key = os.environ.get("AILOOT_API_KEY", "") if not key: raise SystemExit("Set AILOOT_API_KEY") request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST") with urlopen(request) as response: raw = response.read() Path("batch-create-response.json").write_bytes(raw) print(raw.decode("utf-8")) ``` ```python import json from pathlib import Path raw = Path("batch-status-response.json").read_bytes() response = json.loads(raw) if response.get("status") != "completed": raise SystemExit("Keep the original operation; read its status without resubmitting") results = response.get("results") if not isinstance(results, list) or not results: raise SystemExit("Preserve the original response; completed results are missing") Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8") # Preserve batch-status-response.json with aggregate usage and every result/error. ``` ### Gauti ir išsaugoti rezultatus #### Ailoot Ultra · Paketinis apdorojimas tiesiogiai įterptas results\[\].response.body JSON - `GET /v1/batches/{operation_id}` ##### Tikrinti užduoties būseną curl · pirminės operacijos būsena ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" BATCH_OPERATION_ID="$(python3 - <<'PY_ID' import json from pathlib import Path from urllib.parse import quote response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8")) operation = response.get("id") if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit") print(quote(operation, safe="")) PY_ID )" curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \ -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json ``` ##### Išsaugoti visus baigtus rezultatus Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį. Išsaugokite visą pradinės būsenos JSON, kiekvieną rezultatą ir custom\_id bei visą atsakymo arba klaidos turinį. Užbaigtus results\[\] išsaugokite JSONL formatu nieko nefiltruodami. ##### Jei reikia patikrinti pradinį atsakymą Išsaugokite pradinį operacijos ID. Atsakyme 503 result\_pending\_check pateikiama X-Should-Retry:false; niekada pakartotinai neteikite pradinio paketo, kurio baigtis nežinoma. Atsakymo laukai | Laukas | Tipas | | --- | --- | | Laukas`results[].custom_id` | Tipasstring | | Laukas`results[].response.body.choices[].message.content` | Tipasstring\|null | | Laukas`results[].error` | Tipasobject\|null | | Laukas`usage` | Tipasobject\|null | | Laukas`id` | Tipasstring | | Laukas`model` | Tipasstring | | Laukas`endpoint` | Tipasstring | | Laukas`status` | Tipasstring | | Laukas`request_counts` | Tipasobject | | Laukas`results[].id` | Tipasstring | | Laukas`results[].response.status_code` | Tipasinteger | | Laukas`results[].response.request_id` | Tipasstring | Klaidos ir tolesni veiksmai | Atsakymas | Sąlyga | Kitas žingsnis | | --- | --- | --- | | Atsakymas400 · `invalid_request_error` | SąlygaNeteisinga dokumentuota tiesiogiai įterpto paketo struktūra, pasikartojantys raktai, netinkama elemento tapatybė arba konfliktas su sukonfigūruotomis modelio galimybėmis. | Kitas žingsnisPrieš bet kokį naują pateikimą pataisykite nurodytus laukus. | | Atsakymas401 · `authentication_error` | SąlygaNegaliojantis API raktas. | Kitas žingsnisNaudokite leistiną Ailoot raktą. | | Atsakymas403 · `permission_error` | SąlygaPaketinio apdorojimo grupė neprieinama. | Kitas žingsnisPatikrinkite rakto ir grupės prieigos teises. | | Atsakymas422 · `invalid_request_error` | SąlygaPaketinis apdorojimas apmokamas iš balanso; kūrimo užklausos su prenumeratos apmokėjimu atmetamos. | Kitas žingsnisNaudokite leistiną grupę, kurios užklausos apmokamos iš balanso. | | Atsakymas422 · `price_unavailable` | SąlygaNepavyksta apskaičiuoti paketinio apdorojimo įvesties kainos. | Kitas žingsnisIšsaugokite atsakymą; naudokite dokumentuotą šios API šeimos įvestį. | | Atsakymas402 · `billing_error` | SąlygaPaketiniam apdorojimui reikalingas rezervas neprieinamas. | Kitas žingsnisPrieš teikdami naują užklausą išspręskite užklausos priėmimo problemą. | | Atsakymas503 · `price_unavailable` | SąlygaPaketinio apdorojimo metodo kaina arba savieji sistemos įkainiai neprieinami. | Kitas žingsnisIšsaugokite atsakymą; nekeiskite kainų kitomis. | | Atsakymas503 · `api_error` | SąlygaKonkretus tiekėjo maršrutas neprieinamas. | Kitas žingsnisIšsaugokite atsakymą maršrutui pataisyti. | | Atsakymas503 · `result_pending_check` | SąlygaPradinį rezultatą reikia patikrinti; X-Should-Retry:false. | Kitas žingsnisIšsaugokite pradinę operation\_id/id reikšmę ir tikrinkite operacijos būseną; niekada nekartokite pradinės POST užklausos. | | Atsakymas404 · `not_found` | SąlygaPaketinio apdorojimo būsenos operacijos nėra arba ji susieta su kita tapatybe. | Kitas žingsnisNaudokite tikslią pradinę id reikšmę ir tą patį naudotoją, raktą bei grupę. | ### Pseudonimai #### Modelių pseudonimai **Ailoot Ultra** [`openai/gpt-4-turbo:batch`](https://ailoot.ai/models/lt/#m=openai%2Fgpt-4-turbo%3Abatch&route=Ultra&caller=openai%2Fgpt-4-turbo%3Abatch&fmt=batches) #### Metodų kelių pseudonimai Naudokite aukščiau nurodytus metodų kelius. #### Susiję ID iškvietimui [`openai/gpt-4-turbo:batch`](https://ailoot.ai/models/lt/#m=openai%2Fgpt-4-turbo%3Abatch&route=Ultra&caller=openai%2Fgpt-4-turbo%3Abatch&fmt=batches) FAQ · OpenAI: GPT-4 Turbo (batch) Kokios įvestys ir rezultatai prieinami? `POST /v1/batches` · `openai/gpt-4-turbo:batch`: `text` → `text` Kokius laukus naudoja užklausa? `POST /v1/batches` · `openai/gpt-4-turbo:batch`: `endpoint`, `model`, `requests`, `completion_window`, `provider` Kokie apribojimai taikomi? `POST /v1/batches` · `openai/gpt-4-turbo:batch`: `requests.min_items`: `1` Prijunkite Ailoot prie Claude Code, OpenCode, Hermes arba savo programos. ## Įmonė ir jos projektų portfelis Įmonė ir jos projektų portfelis: milijonai klientų; mėnesio pardavimai siekia milijardus. ## Pirkite žetonus su nuolaida. Prenumeratos nuolaida reguliariam darbui. Kodai — iki 50% žetonų pirkimui. Prenumerata Pasirinkite planą su nuolaida reguliarioms užklausoms. Nuolaidos kodas iki 50% Įveskite kodą perkant. Kaina perskaičiuojama pagal galiojančios akcijos sąlygas. Išlaidos istorijoje Kiekvienai užklausai išsaugomi modelis, žetonai ir suma. [Pasirinkti prenumeratą](https://ailoot.ai/docs/lt/billing/subscriptions/) · [Peržiūrėti modelių kainas](https://ailoot.ai/models/lt/) ## Prijunkite API prie produkto, kurį parduodate. SaaS, programos ir botai pagal Ailoot ofertą bei licencijos sutartį. Perpardavimui paprašykite perpardavėjo licencijos. Komercinė programa Teksto, vaizdų, video ir garso kūrimą integruokite į mokamas paslaugos funkcijas. Perpardavėjo licencija Atsiųskite projekto aprašymą ir prieigos schemą. Paprašykite rašytinių naudojimo ir perpardavimo sąlygų. Dokumentai svetainėje Oferta, licencijos sutartis ir duomenų tvarkymo politika prieinamos prieš prisijungiant. [Paprašyti perpardavėjo licencijos](mailto:support@ailoot.ai) · [Oferta ir licencijos sutartis](https://ailoot.ai/legal/offer?lang=lt) ## Ailoot · Įmonė ir jos projektų portfelis Ailoot remiasi sukaupta veiklos patirtimi, plačia klientų baze, stabiliomis paslaugomis ir nuolatine KPI kontrole. Įmonė ir jos projektų portfelis: milijonai klientų; mėnesio pardavimai siekia milijardus. Ailoot šią veiklos patirtį pritaiko teikdama API prieigą prie DI funkcijų klientų produktuose, agentuose, programose ir automatizavimo sprendimuose.