A GPT-4 Turbo az OpenAI GPT-4 családba tartozó modellje szöveges és vizuális bemenethez, szöveges kimenettel. A gyártó jelenlegi Turbo kártyája a képeket is értelmező modellre hivatkozik, elkülönítve az előzetes kiadások neveit. Megadott dokumentumokra, képre vagy írásos és vizuális bizonyíték kombinációjára vonatkozó kérdéshez használható.
Dokumentumfeladathoz adja meg a releváns szakaszokat és az általuk megválaszolandó kérdést. Példafeladat lehet egy eljárás követelményrendszerrel való összehasonlítása, majd az egyezéseket, eltéréseket és nyitott kérdéseket leíró tömör magyarázat készítése. Nevezze meg az elsőbbséget élvező forrást és az eredmény olvasónak történő átdolgozásakor változatlanul megőrzendő tényeket.
Vizuális feladathoz adja meg a képernyőképet, fényképet vagy ábrát, és nevezze meg a fontos részletet. Mellékeljen írásos kontextust, ha a kép önmagában nem igazolja a felhasználó célját vagy egy felirat jelentését. Egy támogatási válaszjavaslat a releváns megfigyelést a hiányzó információt tisztázó kérdéssel kombinálhatja. Kódra vonatkozó kérdés tartalmazhatja a megvalósítást és a magyarázandó vagy módosítandó működést.
Az OpenAI 128 000 tokenes kontextusablakot, legfeljebb 4 096 tokenes kimenetet és 2023. december 1-jei tudáshatárt sorol fel. A viszonylag rövid kimeneti korlát fontossá teszi a kért eredményt: a feladat által ténylegesen igényelt választ, szakaszt vagy megállapításkészletet kérje. A forrásanyag és a generált válasz a rendelkezésre álló kontextuson osztozik.
A gyártó saját modellkártyája streamelést és függvényhívást támogat, a sémaalapú Structured Outputs, a finomhangolás és a Predicted Outputs funkciót pedig nem támogatottként tünteti fel. A JSON mód útmutatója a GPT-4 modellcsaládot érvényes JSON-válaszokhoz sorolja fel; ez a mód nem garantál meghatározott sémát. Az alkalmazás ellenőrzi a visszaadott mezőket, végrehajtja a leírt műveleteit, majd tényleges eszközeredményeket ad vissza a következő lépéshez.
Határozza meg a közönséget, a hangnemet és a befejezési feltételt. Elemzési eredménynél különítse el a forrástényeket, a következtetést és a még tisztázatlan feltételt. Szerkesztett dokumentumnál adja meg a megőrzendő jelentést és terminológiát. A hasznos végső eredmény célzott válasz vagy szakasz, amelynek fontos állításai az eredeti anyag alapján ellenőrizhetők, és egy későbbi üzenetben finomíthatók.
", "aboutText": "A GPT-4 Turbo az OpenAI GPT-4 családba tartozó modellje szöveges és vizuális bemenethez, szöveges kimenettel. A gyártó jelenlegi Turbo kártyája a képeket is értelmező modellre hivatkozik, elkülönítve az előzetes kiadások neveit. Megadott dokumentumokra, képre vagy írásos és vizuális bizonyíték kombinációjára vonatkozó kérdéshez használható.\n\nDokumentumfeladathoz adja meg a releváns szakaszokat és az általuk megválaszolandó kérdést. Példafeladat lehet egy eljárás követelményrendszerrel való összehasonlítása, majd az egyezéseket, eltéréseket és nyitott kérdéseket leíró tömör magyarázat készítése. Nevezze meg az elsőbbséget élvező forrást és az eredmény olvasónak történő átdolgozásakor változatlanul megőrzendő tényeket.\n\nVizuális feladathoz adja meg a képernyőképet, fényképet vagy ábrát, és nevezze meg a fontos részletet. Mellékeljen írásos kontextust, ha a kép önmagában nem igazolja a felhasználó célját vagy egy felirat jelentését. Egy támogatási válaszjavaslat a releváns megfigyelést a hiányzó információt tisztázó kérdéssel kombinálhatja. Kódra vonatkozó kérdés tartalmazhatja a megvalósítást és a magyarázandó vagy módosítandó működést.\n\nAz OpenAI 128 000 tokenes kontextusablakot, legfeljebb 4 096 tokenes kimenetet és 2023. december 1-jei tudáshatárt sorol fel. A viszonylag rövid kimeneti korlát fontossá teszi a kért eredményt: a feladat által ténylegesen igényelt választ, szakaszt vagy megállapításkészletet kérje. A forrásanyag és a generált válasz a rendelkezésre álló kontextuson osztozik.\n\nA gyártó saját modellkártyája streamelést és függvényhívást támogat, a sémaalapú Structured Outputs, a finomhangolás és a Predicted Outputs funkciót pedig nem támogatottként tünteti fel. A JSON mód útmutatója a GPT-4 modellcsaládot érvényes JSON-válaszokhoz sorolja fel; ez a mód nem garantál meghatározott sémát. Az alkalmazás ellenőrzi a visszaadott mezőket, végrehajtja a leírt műveleteit, majd tényleges eszközeredményeket ad vissza a következő lépéshez.\n\nHatározza meg a közönséget, a hangnemet és a befejezési feltételt. Elemzési eredménynél különítse el a forrástényeket, a következtetést és a még tisztázatlan feltételt. Szerkesztett dokumentumnál adja meg a megőrzendő jelentést és terminológiát. A hasznos végső eredmény célzott válasz vagy szakasz, amelynek fontos állításai az eredeti anyag alapján ellenőrizhetők, és egy későbbi üzenetben finomíthatók.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "f51815f0637d233c4f33938e51fed273e1559d81dea49cdf299047e550305b7a", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "hu", "methods": [ { "html": "openai/gpt-4-turbo:batchA GPT-4 Turbo szöveget és képeket fogad, és szöveget ad vissza dokumentumos, vizuális és programozási feladatokhoz. Gyártói specifikációja 128 000 tokenes kontextusablakot kapcsol össze 4 096 tokenes kimeneti korláttal, streameléssel és függvényhívással.
Ez a leírás a modell képességeit ismerteti. Az Ailootban elérhető bemenetek, kimenetek és lehetőségek alább, a kiválasztott metódusnál láthatók.
A GPT-4 Turbo az OpenAI GPT-4 családba tartozó modellje szöveges és vizuális bemenethez, szöveges kimenettel. A gyártó jelenlegi Turbo kártyája a képeket is értelmező modellre hivatkozik, elkülönítve az előzetes kiadások neveit. Megadott dokumentumokra, képre vagy írásos és vizuális bizonyíték kombinációjára vonatkozó kérdéshez használható.
Dokumentumfeladathoz adja meg a releváns szakaszokat és az általuk megválaszolandó kérdést. Példafeladat lehet egy eljárás követelményrendszerrel való összehasonlítása, majd az egyezéseket, eltéréseket és nyitott kérdéseket leíró tömör magyarázat készítése. Nevezze meg az elsőbbséget élvező forrást és az eredmény olvasónak történő átdolgozásakor változatlanul megőrzendő tényeket.
Vizuális feladathoz adja meg a képernyőképet, fényképet vagy ábrát, és nevezze meg a fontos részletet. Mellékeljen írásos kontextust, ha a kép önmagában nem igazolja a felhasználó célját vagy egy felirat jelentését. Egy támogatási válaszjavaslat a releváns megfigyelést a hiányzó információt tisztázó kérdéssel kombinálhatja. Kódra vonatkozó kérdés tartalmazhatja a megvalósítást és a magyarázandó vagy módosítandó működést.
Az OpenAI 128 000 tokenes kontextusablakot, legfeljebb 4 096 tokenes kimenetet és 2023. december 1-jei tudáshatárt sorol fel. A viszonylag rövid kimeneti korlát fontossá teszi a kért eredményt: a feladat által ténylegesen igényelt választ, szakaszt vagy megállapításkészletet kérje. A forrásanyag és a generált válasz a rendelkezésre álló kontextuson osztozik.
A gyártó saját modellkártyája streamelést és függvényhívást támogat, a sémaalapú Structured Outputs, a finomhangolás és a Predicted Outputs funkciót pedig nem támogatottként tünteti fel. A JSON mód útmutatója a GPT-4 modellcsaládot érvényes JSON-válaszokhoz sorolja fel; ez a mód nem garantál meghatározott sémát. Az alkalmazás ellenőrzi a visszaadott mezőket, végrehajtja a leírt műveleteit, majd tényleges eszközeredményeket ad vissza a következő lépéshez.
Határozza meg a közönséget, a hangnemet és a befejezési feltételt. Elemzési eredménynél különítse el a forrástényeket, a következtetést és a még tisztázatlan feltételt. Szerkesztett dokumentumnál adja meg a megőrzendő jelentést és terminológiát. A hasznos végső eredmény célzott válasz vagy szakasz, amelynek fontos állításai az eredeti anyag alapján ellenőrizhetők, és egy későbbi üzenetben finomíthatók.
POST /v1/batchestexttext| Mező | Típus | Követelmény | Értékek és korlátok | Alapértelmezett |
|---|---|---|---|---|
Mezőendpoint | Típusstring | KövetelményKötelező | Értékek és korlátok /v1/chat/completions | Alapértelmezett— |
Mezőmodel | Típusstring | KövetelményKötelező | Értékek és korlátok openai/gpt-4-turbo:batch | Alapértelmezett— |
Mezőrequests | Típusbatch_item[] | KövetelményKötelező | Értékek és korlátok Minimális elemszám: 1 | Alapértelmezett— |
Mezőrequests[].custom_id | Típusstring | KövetelményKötelező | Értékek és korlátok | Alapértelmezett— |
Mezőrequests[].body.messages | Típusmessage[] | KövetelményKötelező | Értékek és korlátok | Alapértelmezett— |
Mezőcompletion_window | Típusstring | KövetelményOpcionális | Értékek és korlátok 24h | Alapértelmezett— |
Mezőprovider | Típusobject|null | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőrequests[].body.model | Típusstring | KövetelményOpcionális | Értékek és korlátok openai/gpt-4-turbo:batch, openai/gpt-4-turbo | Alapértelmezett— |
Mezőprovider.only | Típusstring[] | KövetelményOpcionális | Értékek és korlátok openai | Alapértelmezett— |
Mezőprovider.allow_fallbacks | Típusboolean|null | KövetelményOpcionális | Értékek és korlátok false, null | Alapértelmezett— |
| Paraméter | Szerződés |
|---|---|
Paramétercontent_type | Szerződésapplication/json |
Paraméterrequired | Szerződésendpoint, model, requests |
Paramétermaterial_types | Szerződéstext |
Paraméterrepresentation | SzerződésA kérésbe ágyazott requests[]; minden elemhez custom_id és body tartozik |
Paraméterrequest_endpoint_profile | Szerződés/v1/chat/completions |
Paraméterfile_material | SzerződésA hívó helyben beolvashatja a tényleges UTF-8 JSONL-adatokat a requests[] tömbbe. A kérés nem használ feltöltési célt, input_file_id mezőt vagy fájlhivatkozást. Hiányzó vagy üres ügyfélanyag esetén az előkészítés még a POST előtt leáll. |
Paraméterserialization_order | Szerződésendpoint, model, provider (ha meg van adva), completion_window (ha meg van adva), requests utoljára |
Paraméteroptional_controls | Szerződésprovider.only, provider.allow_fallbacks, completion_window |
Paraméterschema_scope | SzerződésText Chat Completions-kéréstörzsek a dokumentált, kérésbe ágyazott Batch-borítékban. |
Életciklus: asynchronous
GET /v1/batches/{operation_id} · Az eredeti létrehozási válasz tényleges response.id értéke; ugyanaz a felhasználó/kulcs/csoport
A díjszabás nem ad új kérési lehetőségeket. A támogatott paraméterek a kiválasztott módszernél szerepelnek.
Minden díjat a megjelenített feltételekhez rendeljen. Az alternatív beállítások minden csoportjához egy díjtételt használjon.
| Beállítás | Díjtáblázat | Kontextustokenek, több mint | Kontextustokenek, legfeljebb | Díj |
|---|---|---|---|---|
| BeállításTokenenkénti alapárak | DíjtáblázatAlapdíj | Kontextustokenek, több mint— | Kontextustokenek, legfeljebbNincs felső korlát | Díj Bemenet · Bemeneti tokenek $0.01 / 1K token Kimenet · Kimeneti tokenek $0.03 / 1K token Bemenet · Gyorsítótár olvasása — / 1K token Bemenet · Írás a gyorsítótárba — / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
| BeállításA kéréshossz szerinti 1. ársáv | Díjtáblázat— | Kontextustokenek, több mint0 | Kontextustokenek, legfeljebbNincs felső korlát | Díj Bemenet · Bemeneti tokenek $0.01 / 1K token Kimenet · Kimeneti tokenek $0.03 / 1K token Bemenet · Gyorsítótár olvasása — / 1K token Bemenet · Írás a gyorsítótárba — / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
Az Ailoot a kérés előtt becsült összeget foglal le. Az eredmény után a mért használat alapján elszámolja a végső díjat. Folyamatos átvitel esetén a végső használati rekordot használja. A foglalás és az elszámolás működése →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"openai/gpt-4-turbo:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['openai/gpt-4-turbo:batch', 'openai/gpt-4-turbo']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"openai/gpt-4-turbo:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\nBeágyazott results[].response.body JSON-adatok
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nŐrizzen meg minden teljes visszaadott választ, fájlt és tartalomrészt.
Őrizze meg a teljes eredeti állapot-JSON-t, minden eredményt/custom_id értéket, valamint a teljes válasz- vagy hibatörzset. A befejezett results[] elemeket szűrés nélkül mentse JSONL-ként.
Őrizze meg az eredeti műveletazonosítót. A 503 result_pending_check válasz X-Should-Retry:false fejlécet tartalmaz; soha ne küldje be újra az ismeretlen kimenetelű eredeti köteget.
| Mező | Típus |
|---|---|
Mezőresults[].custom_id | Típusstring |
Mezőresults[].response.body.choices[].message.content | Típusstring|null |
Mezőresults[].error | Típusobject|null |
Mezőusage | Típusobject|null |
Mezőid | Típusstring |
Mezőmodel | Típusstring |
Mezőendpoint | Típusstring |
Mezőstatus | Típusstring |
Mezőrequest_counts | Típusobject |
Mezőresults[].id | Típusstring |
Mezőresults[].response.status_code | Típusinteger |
Mezőresults[].response.request_id | Típusstring |
| Válasz | Feltétel | Következő lépés |
|---|---|---|
Válasz400 · invalid_request_error | FeltételÉrvénytelen a dokumentált, kérésbe ágyazott boríték, ismétlődő kulcsok vagy az elemek azonosságával kapcsolatos hiba található benne, vagy ütközés van a beállított modellképességekkel. | Következő lépésBármilyen új beküldés előtt javítsa ki a megjelölt mezőket. |
Válasz401 · authentication_error | FeltételÉrvénytelen API-kulcs. | Következő lépésHasználja az engedélyezett Ailoot-kulcsot. |
Válasz403 · permission_error | FeltételA Batch-csoport nem érhető el. | Következő lépésEllenőrizze a kulcs/csoport jogosultságát. |
Válasz422 · invalid_request_error | FeltételA Batch az egyenlegből számol el; az előfizetés terhére indított létrehozási kérés elutasításra kerül. | Következő lépésHasználja az engedélyezett, egyenlegből elszámoló csoportot. |
Válasz422 · price_unavailable | FeltételA Batch-bemenethez nem készíthető árajánlat. | Következő lépésŐrizze meg a választ; használja az API-család dokumentált bemenetét. |
Válasz402 · billing_error | FeltételA Batch költségfedezeti foglalása nem érhető el. | Következő lépésAz új kérés előtt rendezze a befogadási feltételeket. |
Válasz503 · price_unavailable | FeltételA Batch-módszer ára vagy natív díjtételei nem érhetők el. | Következő lépésŐrizze meg a választ; ne helyettesítse az árakat más árakkal. |
Válasz503 · api_error | FeltételA pontos szolgáltatói útvonal nem érhető el. | Következő lépésŐrizze meg a választ az útvonal javításához. |
Válasz503 · result_pending_check | FeltételAz eredeti eredmény ellenőrzést igényel; X-Should-Retry:false. | Következő lépésŐrizze meg az eredeti operation_id/id értéket, és kérdezze le az állapotát; soha ne ismételje meg az eredeti POST kérést. |
Válasz404 · not_found | FeltételA Batch állapotlekérdezési művelete nem létezik, vagy más identitáshoz tartozik. | Következő lépésHasználja az eredeti id pontos értékét és ugyanazt a felhasználót/kulcsot/csoportot. |
Ailoot Ultra openai/gpt-4-turbo:batch
Használja a fent látható metódusútvonalakat.