OpenAI: GPT-4o (batch)
GPT-4o משלב הבנת טקסט ותמונות עם כתיבה, תכנות, Structured Outputs וכלי יישום. השתמשו בו לפיתוח תשובה המבוססת על ראיות, לפרשנות של חומר חזותי או להחזרת שדות מוגדרים מתוך אוסף מקורות נרחב.
על המודל
התיאור הזה מציג את יכולות המודל. הקלט, הפלט והאפשרויות הזמינים ב-Ailoot מפורטים בהמשך לפי השיטה שנבחרה.
GPT-4o הוא מודל GPT הרב־תכליתי של OpenAI להבנת טקסט ותמונות, לכתיבה ולעבודה עם יישומים. האות “o” מייצגת “omni”, ואילו המודל המתועד הזה מקבל טקסט ותמונות ומחזיר טקסט, לרבות Structured Outputs. בקשה מעשית יכולה לשלב תדריך כתוב עם תצלומים, צילומי מסך או עמודי מסמך ולבקש הסבר ברור, תוצר ערוך או שדות מוגדרים לשלב נוסף ביישום.
לדוח, ספקו את מסמכי המקור ואת ההחלטה שהדוח צריך לתמוך בה. ציינו את התאריכים, היחידות ותוויות הראיות הרלוונטיים, ואז בקשו השוואה המפרידה בין תצפיות, הנחות ומידע חסר. למשימה חזותית, הצביעו על האובייקט, הגרף או מצב הממשק החשובים והוסיפו את ההקשר שסביבם. לשינוי קוד, ספקו את הקוד המושפע, את ההתנהגות הרצויה ואת האילוצים שחייבים להישמר. אלה דרכים קונקרטיות להשתמש ביכולות הטקסט והתמונה של המודל מבלי להסתמך על כך שהפרומפט ירמוז על כל המשימה.
מפרט GPT-4o הנוכחי של OpenAI כולל חלון הקשר של 128,000 טוקנים, פלט מרבי של 16,384 טוקנים ומועד סיום עדכון הידע ב־1 באוקטובר 2023. היצרן מציין בנפרד כמה גרסאות GPT-4o מתוארכות. השיחה, חומר הקלט והתשובה שנוצרת חולקים את תקציב ההקשר, ולכן גם אוסף מסמכים גדול דורש ארגון ומקום לתוצר הסופי שלו. עובדות שמשתנות או מגיעות ממערכת פרטית יש לספק ישירות או להשיג באמצעות כלי שהוגדר במפורש.
מדריך הראייה מקבל PNG, JPEG, WebP ו־GIF שאינו מונפש. GPT-4o תומך בפירוט תמונה low, high ו־auto; high ו־auto משתמשים בעיבוד המבוסס על חלוקה לאריחים. הגדילו תוויות קטנות, שמרו את הטקסט בכיוון ישר ושמרו את המקרא או את התרשים שסביבו בעת פרשנות של גרף. המגבלות המתועדות כוללות מיקום מרחבי מדויק, ספירת אובייקטים משוערת, חלק מצורות הכתב שאינן לטיניות ומראות פנורמיים או בעדשת עין הדג. המודל עשוי גם לתאר תמונה באופן שגוי, ולכן שמרו את המקור ובקשו את התצפיות המסוימות התומכות בפרשנות. בתהליך הראייה המתועד של OpenAI, נפח הנתונים הכולל בבקשה מוגבל ל־512 MB ובקשה יכולה לכלול עד 1,500 תמונות; התמונות והטקסט צריכים גם להיכנס להקשר המודל.
תהליך קלט הקבצים של OpenAI נותן למודל בעל יכולת ראייה הן טקסט שחולץ והן תמונות עמודים מתוך PDF. מסמכי משרד שאינם PDF מספקים טקסט שחולץ במקום הגרפים המוטמעים בהם, וגיליונות אלקטרוניים מועשרים על סמך עד 1,000 השורות הראשונות בכל גיליון. כל קובץ חייב להיות קטן מ־50 MB, עם 50 MB במצטבר לבקשה. Chat Completions תומך בחלקי קבצי PDF; תהליך Responses המתועד מקבל פורמטים נוספים. בחרו ייצוג PDF כאשר הנאמנות החזותית חשובה ושמרו מזהי מקורות גלויים בתוצאה.
הזרמה יכולה להחזיר את התשובה תוך כדי יצירתה. Structured Outputs מגבילה תשובה שהושלמה לתת־הקבוצה הנתמכת של JSON Schema, ולכן מועילה לחילוץ ממסמכים או לאובייקט יישום עם שדות מוגדרים. מצב JSON עוסק רק בתקינות JSON. הגדירו את הטיפוסים הצפויים, את הערכים המותרים ואת הטיפול בהיעדר ראיות, ואז טפלו בנפרד בסירובים מפורשים או בתשובות שלא הושלמו. סכמה אינה מוכיחה שערך נכון מבחינה עובדתית, ולכן השדות המבוקשים צריכים להישאר ניתנים למעקב אל החומר שסופק.
היצרן תומך בקריאה לפונקציות, בחיפוש ברשת, בחיפוש בקבצים, במפרש קוד ובחיבורי MCP. פונקציות מותאמות אישית דורשות תיאורים בעלי משמעות וסכמות ארגומנטים; היישום מבצע את הפעולה שהתבקשה ומחזיר את תוצאתה לשלב הבא של המודל. GPT-4o יכול גם לכוון כלי נפרד ליצירת תמונות בתהליך Responses שהוגדר לכך. תמונה שנוצרה בכלי היא תוצר משלה, ואילו התשובה המובנית והמתועדת של GPT-4o היא טקסט. ההסבר הסופי של סוכן צריך להשתמש בתצפיות שאוחזרו או חושבו בפועל, במקום להתייחס לקריאה מוצעת לכלי כאל פעולה שהושלמה.
Predicted Outputs זמינה ל־GPT-4o בעת יצירה מחדש של טקסט או קוד הידועים ברובם עם שינויים קטנים. ספקו את התוכן הקיים ואת השינוי המדויק, ואז בדקו את התוצר שהוחזר. מסלול טקסט בלבד זה אינו משתלב עם קריאה לפונקציות ואינו כולל logprobs, max_completion_tokens וכמה בקרות נוספות. בקשה המבוססת על כלים היא אפשרות נפרדת כאשר התשובה תלויה במידע חדש מפעולה חיצונית.
OpenAI מתעדת כוונון עדין עבור GPT-4o, ומדריך האופטימיזציה שלה מציין במפורש את גרסת 6 באוגוסט 2024 לכוונון עדין של ראייה עם דוגמאות תמונה. תהליך התאמה זה, הייחודי לגרסה, נפרד מבקשה רגילה לכינוי המודל. לכתיבה, לניתוח או לחילוץ יומיומיים, התחילו בתדריך שימושי ובדוגמה לפלט הרצוי. בקשת המשך יכולה לפתור עובדה חסרה אחת, לעדכן שדה או לחדד את אותו תוצר תוך שימור ראיות המשימה והאילוצים שלה.
Ailoot Ultra · Batch POST /v1/batches openai/gpt-4o:batch
openai/gpt-4o:batchהתחלה
GPT-4o משלב הבנת טקסט ותמונות עם כתיבה, תכנות, Structured Outputs וכלי יישום. השתמשו בו לפיתוח תשובה המבוססת על ראיות, לפרשנות של חומר חזותי או להחזרת שדות מוגדרים מתוך אוסף מקורות נרחב.
- סוגי קלט נתמכים
- טקסט
- תוצאות
- טקסט
זמין ב-Ailoot · קלט ושיטות
Ailoot Ultra · Batch POST /v1/batches
- סוגי קלט
text- סוגי פלט
text- פורמט פלט
- JSON מוטמע מתוך results[].response.body
| שדה | סוג | דרישה | ערכים ומגבלות | ברירת מחדל |
|---|---|---|---|---|
שדהendpoint | סוגstring | דרישהחובה | ערכים ומגבלות /v1/chat/completions | ברירת מחדל— |
שדהmodel | סוגstring | דרישהחובה | ערכים ומגבלות openai/gpt-4o:batch | ברירת מחדל— |
שדהrequests | סוגbatch_item[] | דרישהחובה | ערכים ומגבלות מספר פריטים מזערי: 1 | ברירת מחדל— |
שדהrequests[].custom_id | סוגstring | דרישהחובה | ערכים ומגבלות | ברירת מחדל— |
שדהrequests[].body.messages | סוגmessage[] | דרישהחובה | ערכים ומגבלות | ברירת מחדל— |
שדהcompletion_window | סוגstring | דרישהרשות | ערכים ומגבלות 24h | ברירת מחדל— |
שדהprovider | סוגobject|null | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהrequests[].body.model | סוגstring | דרישהרשות | ערכים ומגבלות openai/gpt-4o:batch, openai/gpt-4o | ברירת מחדל— |
שדהprovider.only | סוגstring[] | דרישהרשות | ערכים ומגבלות openai | ברירת מחדל— |
שדהprovider.allow_fallbacks | סוגboolean|null | דרישהרשות | ערכים ומגבלות false, null | ברירת מחדל— |
פרמטרים ומחזור חיים של השיטה
| פרמטר | מפרט |
|---|---|
פרמטרcontent_type | מפרטapplication/json |
פרמטרrequired | מפרטendpoint, model, requests |
פרמטרmaterial_types | מפרטtext |
פרמטרrepresentation | מפרטrequests[] מוטמעים; לכל פריט יש custom_id ו־body |
פרמטרrequest_endpoint_profile | מפרט/v1/chat/completions |
פרמטרfile_material | מפרטהגורם הקורא רשאי לקרוא מקומית תוכן JSONL אמיתי בקידוד UTF-8 לתוך requests[]. לא נעשה שימוש בשדה purpose להעלאה, ב־input_file_id או בהפניה לקובץ. חומר לקוח חסר או ריק עוצר את ההכנה לפני POST. |
פרמטרserialization_order | מפרטendpoint, model, provider (אם צוין), completion_window (אם צוין), requests בסוף |
פרמטרoptional_controls | מפרטprovider.only, provider.allow_fallbacks, completion_window |
פרמטרschema_scope | מפרטגופי בקשות טקסט של Chat Completions במעטפת Batch המוטמעת המתועדת. |
מחזור חיים: asynchronous
GET /v1/batches/{operation_id} · ערך response.id מבקשת היצירה המקורית שהוחזר בפועל; אותם משתמש/מפתח/קבוצה
תעריפים
מידע תעריפים אינו מוסיף אפשרויות לבקשה. הפרמטרים הנתמכים מפורטים בשיטה שנבחרה.
- מצב מהיר
- לא צוין כאשר נבחר מצב מהיר
- מצב Flex
- לא צוין כאשר נבחר מצב flex
- מאמץ חשיבה מרבי
- לא צוין כאשר מאמץ החשיבה המרבי משתמש בהתאמת ברירת המחדל (default)
- תמחור מטמון מפורש
- לא מופעל כאשר מתבקש מטמון מפורש
תעריפי Ailoot
מחירים לפי תצורה
התאימו כל חיוב לתנאים המוצגים. השתמשו בתעריף אחד לכל קבוצה של תצורות חלופיות.
| תצורה | טבלת תעריפים | טוקנים בהקשר, יותר מ- | טוקנים בהקשר, עד וכולל | חיוב |
|---|---|---|---|---|
| תצורהתעריפי הבסיס לטוקנים | טבלת תעריפיםתעריף בסיס | טוקנים בהקשר, יותר מ-— | טוקנים בהקשר, עד וכוללללא גבול עליון | חיוב קלט · טוקני קלט $0.0025 / 1K טוקנים פלט · טוקני פלט $0.01 / 1K טוקנים קלט · קריאה מהמטמון $0.00125 / 1K טוקנים קלט · כתיבה למטמון — / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
| תצורהרמת אורך בקשה 1 | טבלת תעריפים— | טוקנים בהקשר, יותר מ-0 | טוקנים בהקשר, עד וכוללללא גבול עליון | חיוב קלט · טוקני קלט $0.0025 / 1K טוקנים פלט · טוקני פלט $0.01 / 1K טוקנים קלט · קריאה מהמטמון $0.00125 / 1K טוקנים קלט · כתיבה למטמון — / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
לפני הבקשה Ailoot משריינת סכום משוער. לאחר קבלת התוצאה היא מסדירה את החיוב הסופי לפי השימוש המדוד. הסדרת חיוב בהזרמה משתמשת ברשומת השימוש הסופית. איך פועלים שריון הסכום והסדרת החיוב →
דוגמאות לבקשות
Ailoot Ultra · Batch
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"openai/gpt-4o:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['openai/gpt-4o:batch', 'openai/gpt-4o']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"openai/gpt-4o:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
קבלה ושמירה של תוצאות
Ailoot Ultra · Batch
JSON מוטמע מתוך results[].response.body
GET /v1/batches/{operation_id}
בדיקת מצב המשימה
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
שמירת כל התוצאות שהושלמו
שמרו כל תגובה מלאה, קובץ ומקטע תוכן שהוחזרו.
שמרו את JSON הסטטוס המקורי במלואו, כל תוצאה/custom_id ואת גוף התשובה או השגיאה המלא. שמרו את results[] שהושלמו כ־JSONL ללא סינון.
כשצריך לבדוק את התגובה המקורית
שמרו את מזהה הפעולה המקורי. לתשובת 503 result_pending_check יש X-Should-Retry:false; לעולם אל תשלחו מחדש אצווה מקורית שתוצאתה אינה ידועה.
שדות התגובה
| שדה | סוג |
|---|---|
שדהresults[].custom_id | סוגstring |
שדהresults[].response.body.choices[].message.content | סוגstring|null |
שדהresults[].error | סוגobject|null |
שדהusage | סוגobject|null |
שדהid | סוגstring |
שדהmodel | סוגstring |
שדהendpoint | סוגstring |
שדהstatus | סוגstring |
שדהrequest_counts | סוגobject |
שדהresults[].id | סוגstring |
שדהresults[].response.status_code | סוגinteger |
שדהresults[].response.request_id | סוגstring |
שגיאות והשלבים הבאים
| תגובה | תנאי | השלב הבא |
|---|---|---|
תגובה400 · invalid_request_error | תנאימעטפת מוטמעת מתועדת לא תקינה, מפתחות כפולים, זהות פריט לא תקינה או סתירה ביכולות המודל שהוגדרו. | השלב הבאתקנו את השדות שצוינו לפני כל שליחה חדשה. |
תגובה401 · authentication_error | תנאימפתח API לא תקין. | השלב הבאהשתמשו במפתח Ailoot המורשה. |
תגובה403 · permission_error | תנאיקבוצת Batch אינה זמינה. | השלב הבאבדקו את הרשאות המפתח/הקבוצה. |
תגובה422 · invalid_request_error | תנאיBatch מחויב מהיתרה; יצירה בחיוב מנוי נדחית. | השלב הבאהשתמשו בקבוצה המורשית שהחיוב שלה מנוכה מהיתרה. |
תגובה422 · price_unavailable | תנאילא ניתן לחשב הצעת מחיר לקלט Batch. | השלב הבאשמרו את התשובה; השתמשו בקלט המתועד למשפחת ה־API. |
תגובה402 · billing_error | תנאיהסכום לשריון עבור Batch אינו זמין. | השלב הבאפתרו את הבעיה המונעת את קבלת הבקשה לפני שליחת בקשה חדשה. |
תגובה503 · price_unavailable | תנאיהמחיר לשיטת Batch או התעריפים המקוריים אינם זמינים. | השלב הבאשמרו את התשובה; אל תחליפו את המחירים. |
תגובה503 · api_error | תנאינתיב הספק המדויק אינו זמין. | השלב הבאשמרו את התשובה לצורך תיקון נתיב הניתוב. |
תגובה503 · result_pending_check | תנאיהתוצאה המקורית דורשת בדיקה; X-Should-Retry:false. | השלב הבאשמרו את operation_id/id המקורי וקראו את הסטטוס שלו; לעולם אל תחזרו על ה־POST המקורי. |
תגובה404 · not_found | תנאיהפעולה לבדיקת סטטוס Batch אינה קיימת או שייכת לזהות אחרת. | השלב הבאהשתמשו בערך id המקורי המדויק ובאותם משתמש/מפתח/קבוצה. |
כינויים
כינויים למודל
Ailoot Ultra openai/gpt-4o:batch
כינויים לנתיבי שיטות
השתמשו בנתיבי השיטות המוצגים למעלה.
מזהי מודלים קשורים IDs
FAQ · OpenAI: GPT-4o (batch)
- אילו קלטים ותוצאות זמינים?
POST /v1/batches·openai/gpt-4o:batch:text→text- באילו שדות הבקשה משתמשת?
POST /v1/batches·openai/gpt-4o:batch:endpoint,model,requests,completion_window,provider- אילו מגבלות חלות?
POST /v1/batches·openai/gpt-4o:batch:requests.min_items:1