GPT-4 32K הוא פרופיל הטקסט של GPT-4 עם הקשר מורחב מבית OpenAI, למשימות שדורשות יותר חומר קשור בבקשה אחת. היצרן מתעד הקשר של 32,768 טוקנים, בהשוואה ל-8,192 טוקנים בפרופיל GPT-4 המקורי. הוא מקבל טקסט ומחזיר טקסט, כולל הסברים בשפה טבעית, טיוטות וקוד. ההבדל המגדיר שלו הוא ההקשר הגדול יותר, ולא חלון ה-128K או היכולות הרב-מודאליות של פרופילי GPT-4 Turbo מאוחרים יותר.
ספקו את המסמכים או הקוד הרלוונטיים למשימה שנוסחה בבירור. בהשוואת דרישות אפשר להציב כמה מפרטים יחד ולשאול אילו תנאים תואמים, אילו סותרים זה את זה ואיזה מקור קובע את ההחלטה. תנו לכל מקור מזהה ובקשו את הקטע שתומך בממצא חשוב. ריכוז הראיות הקשורות זו לזו יכול לסייע למודל להשוות ביניהן, אך התוצאה עדיין צריכה לשמור על הקשר בין מסקנה לבין המקור שלה.
בשאלה על בסיס קוד, כללו את הפונקציות הרלוונטיות, את הפונקציות שקוראות להן ואת ההתנהגות שנבדקת. בקשו הסבר על התלות או שינוי ממוקד הקשור להתנהגות הזאת. ההקשר הגדול יותר יכול להכיל קוד מסביב שמועיל למשימה, אבל הוא אינו מבטל את הצורך להגדיר את השאלה או את קריטריון ההשלמה. הצעת קוד צריכה לזהות את מקרה הקלט שמניע אותה ואת התוצאה הצפויה שאפשר לבדוק.
ההכרזה על GPT-4 מתארת יכולת הכוונה באמצעות הודעות system: המפתח יכול לציין את המשימה, הטון והסגנון של המודל. השתמשו בהוראה הזאת כדי לקבוע אם התשובה צריכה להיות הסבר קצר, השוואה, טיוטה או רשומה עם שדות בעלי שמות. הגדירו כיצד צריך להציג מידע חסר והבחינו בין עובדות שסופקו לבין הנחות. משימת עיבוד מסמכים יכולה לבקש רשימת תנאים, כשמזהה המקור והקטע הרלוונטי מופיעים לצד כל תנאי.
שמרו על ההוראות האלה עם התפתחות השיחה. כללו את התוצאה הקודמת בפועל כאשר הבקשה הבאה מתקנת אותה, וזהו מה צריך להשתנות. בקשת המשך מועילה מצמצמת את נקודת המחלוקת בהשוואה או מבקשת תיקון בחלק אחד של טיוטה, במקום להניח שפרומפט חדש ומבודד שומר על כל המשימה הקודמת.
עדכון 0613 של היצרן מוסיף את שיפורי הקריאה לפונקציות של GPT-4 למהדורה עם ההקשר המורחב. המפתח מתאר פונקציה ואת הפרמטרים שלה, והמודל יכול להחזיר אובייקט JSON המכיל ארגומנטים לפונקציה הזאת. היישום מבצע את הפעולה ומספק את התוצאה שהוחזרה. היכולת השימושית היא בקשה מובנית הקשורה להתנהגות היישום, ולא השלמה ישירה של פעולה חיצונית על ידי המודל.
עבור עוזר מידע, פונקציה יכולה לאחזר את הרשומה האמיתית הדרושה כדי להשיב על שאלה. שמרו את המזהה שהתבקש ואת הרשומה שהוחזרה קשורים זה לזה, ולאחר מכן בקשו תשובה המבוססת על התוצאה הזאת. בדקו אם הפעולה המוצעת נתמכת בבקשת המשתמש ואם הפונקציה אכן השלימה אותה. ממשק הפונקציות המעודכן נפרד מהתוספות המאוחרות של מצב JSON וקריאה מקבילית ב-GPT-4 Turbo.
ההכרזה המקורית על GPT-4 מזהה הזיות עובדתיות, שגיאות הסקה וידע מוגבל על אירועים חדשים יותר כמגבלות משמעותיות. ספקו ראיות עדכניות לשאלה שהתשובה עליה השתנתה, ובדקו את המספרים החשובים, השמות והתנהגות הקוד מול המקור. הסבר בטוח בעצמו עדיין עלול לפרש תנאי באופן שגוי או להכניס ליקוי.
התאימו את היקף התוצר המבוקש למשימה ולהקשר הזמין. המספר 32K הוא קיבולת הקשר, ולא הבטחה לתשובה מוגמרת באותו אורך או להבנה מושלמת של כל קטע שנכלל. שמרו יחד את פרופיל המודל שנבחר, ההוראות, חומר המקור והתוצאה. כך השוואת מסמכים ארוכים, הסבר על קוד או טיוטה מתוקנת יהיו מוחשיים מספיק לבדיקה ולהמשך עבודה.
", "aboutText": "GPT-4 32K הוא פרופיל הטקסט של GPT-4 עם הקשר מורחב מבית OpenAI, למשימות שדורשות יותר חומר קשור בבקשה אחת. היצרן מתעד הקשר של 32,768 טוקנים, בהשוואה ל-8,192 טוקנים בפרופיל GPT-4 המקורי. הוא מקבל טקסט ומחזיר טקסט, כולל הסברים בשפה טבעית, טיוטות וקוד. ההבדל המגדיר שלו הוא ההקשר הגדול יותר, ולא חלון ה-128K או היכולות הרב-מודאליות של פרופילי GPT-4 Turbo מאוחרים יותר.\n\n### השתמשו בהקשר לראיות הקשורות זו לזו\n\nספקו את המסמכים או הקוד הרלוונטיים למשימה שנוסחה בבירור. בהשוואת דרישות אפשר להציב כמה מפרטים יחד ולשאול אילו תנאים תואמים, אילו סותרים זה את זה ואיזה מקור קובע את ההחלטה. תנו לכל מקור מזהה ובקשו את הקטע שתומך בממצא חשוב. ריכוז הראיות הקשורות זו לזו יכול לסייע למודל להשוות ביניהן, אך התוצאה עדיין צריכה לשמור על הקשר בין מסקנה לבין המקור שלה.\n\nבשאלה על בסיס קוד, כללו את הפונקציות הרלוונטיות, את הפונקציות שקוראות להן ואת ההתנהגות שנבדקת. בקשו הסבר על התלות או שינוי ממוקד הקשור להתנהגות הזאת. ההקשר הגדול יותר יכול להכיל קוד מסביב שמועיל למשימה, אבל הוא אינו מבטל את הצורך להגדיר את השאלה או את קריטריון ההשלמה. הצעת קוד צריכה לזהות את מקרה הקלט שמניע אותה ואת התוצאה הצפויה שאפשר לבדוק.\n\n### ציינו את המשימה ואת סגנון התשובה\n\nההכרזה על GPT-4 מתארת יכולת הכוונה באמצעות הודעות system: המפתח יכול לציין את המשימה, הטון והסגנון של המודל. השתמשו בהוראה הזאת כדי לקבוע אם התשובה צריכה להיות הסבר קצר, השוואה, טיוטה או רשומה עם שדות בעלי שמות. הגדירו כיצד צריך להציג מידע חסר והבחינו בין עובדות שסופקו לבין הנחות. משימת עיבוד מסמכים יכולה לבקש רשימת תנאים, כשמזהה המקור והקטע הרלוונטי מופיעים לצד כל תנאי.\n\nשמרו על ההוראות האלה עם התפתחות השיחה. כללו את התוצאה הקודמת בפועל כאשר הבקשה הבאה מתקנת אותה, וזהו מה צריך להשתנות. בקשת המשך מועילה מצמצמת את נקודת המחלוקת בהשוואה או מבקשת תיקון בחלק אחד של טיוטה, במקום להניח שפרומפט חדש ומבודד שומר על כל המשימה הקודמת.\n\n### קריאה לפונקציות בקו 32K המעודכן\n\nעדכון 0613 של היצרן מוסיף את שיפורי הקריאה לפונקציות של GPT-4 למהדורה עם ההקשר המורחב. המפתח מתאר פונקציה ואת הפרמטרים שלה, והמודל יכול להחזיר אובייקט JSON המכיל ארגומנטים לפונקציה הזאת. היישום מבצע את הפעולה ומספק את התוצאה שהוחזרה. היכולת השימושית היא בקשה מובנית הקשורה להתנהגות היישום, ולא השלמה ישירה של פעולה חיצונית על ידי המודל.\n\nעבור עוזר מידע, פונקציה יכולה לאחזר את הרשומה האמיתית הדרושה כדי להשיב על שאלה. שמרו את המזהה שהתבקש ואת הרשומה שהוחזרה קשורים זה לזה, ולאחר מכן בקשו תשובה המבוססת על התוצאה הזאת. בדקו אם הפעולה המוצעת נתמכת בבקשת המשתמש ואם הפונקציה אכן השלימה אותה. ממשק הפונקציות המעודכן נפרד מהתוספות המאוחרות של מצב JSON וקריאה מקבילית ב-GPT-4 Turbo.\n\n### בדקו את התשובה מול החומר\n\nההכרזה המקורית על GPT-4 מזהה הזיות עובדתיות, שגיאות הסקה וידע מוגבל על אירועים חדשים יותר כמגבלות משמעותיות. ספקו ראיות עדכניות לשאלה שהתשובה עליה השתנתה, ובדקו את המספרים החשובים, השמות והתנהגות הקוד מול המקור. הסבר בטוח בעצמו עדיין עלול לפרש תנאי באופן שגוי או להכניס ליקוי.\n\nהתאימו את היקף התוצר המבוקש למשימה ולהקשר הזמין. המספר 32K הוא קיבולת הקשר, ולא הבטחה לתשובה מוגמרת באותו אורך או להבנה מושלמת של כל קטע שנכלל. שמרו יחד את פרופיל המודל שנבחר, ההוראות, חומר המקור והתוצאה. כך השוואת מסמכים ארוכים, הסבר על קוד או טיוטה מתוקנת יהיו מוחשיים מספיק לבדיקה ולהמשך עבודה.", "editorialOverlay": { "copy_fields": { "practical_html": "דוגמה טכנית באנגלית
Compare requirements using a precedence rule\n\nCompare three labelled specifications. BASE: exports include all orders and run nightly. ADDENDUM: exports include paid orders only; cadence is unchanged. OPERATIONS: exports run hourly. The signed ADDENDUM overrides BASE, while OPERATIONS is an unsigned proposal. Produce the effective requirements and unresolved proposal, citing the governing source for each.An effective-requirements table plus a separate unresolved-proposal entry with source references.Paid orders and nightly cadence are retained as effective; hourly cadence remains an unsigned proposal.gpt-4-32k-0613GPT-4 32K הוא פרופיל הטקסט של GPT-4 עם הקשר מורחב לעבודה עם אוספים גדולים יותר של מסמכים או קוד. ההקשר המתועד שלו, של 32,768 טוקנים, מאפשר לעבוד עם חומר קשור במשימה אחת, כשהוראות system מנחות את התשובה וקריאה לפונקציות מתועדת במהדורת 0613 המעודכנת.
התיאור הזה מציג את יכולות המודל. הקלט, הפלט והאפשרויות הזמינים ב-Ailoot מפורטים בהמשך לפי השיטה שנבחרה.
GPT-4 32K הוא פרופיל הטקסט של GPT-4 עם הקשר מורחב מבית OpenAI, למשימות שדורשות יותר חומר קשור בבקשה אחת. היצרן מתעד הקשר של 32,768 טוקנים, בהשוואה ל-8,192 טוקנים בפרופיל GPT-4 המקורי. הוא מקבל טקסט ומחזיר טקסט, כולל הסברים בשפה טבעית, טיוטות וקוד. ההבדל המגדיר שלו הוא ההקשר הגדול יותר, ולא חלון ה-128K או היכולות הרב-מודאליות של פרופילי GPT-4 Turbo מאוחרים יותר.
ספקו את המסמכים או הקוד הרלוונטיים למשימה שנוסחה בבירור. בהשוואת דרישות אפשר להציב כמה מפרטים יחד ולשאול אילו תנאים תואמים, אילו סותרים זה את זה ואיזה מקור קובע את ההחלטה. תנו לכל מקור מזהה ובקשו את הקטע שתומך בממצא חשוב. ריכוז הראיות הקשורות זו לזו יכול לסייע למודל להשוות ביניהן, אך התוצאה עדיין צריכה לשמור על הקשר בין מסקנה לבין המקור שלה.
בשאלה על בסיס קוד, כללו את הפונקציות הרלוונטיות, את הפונקציות שקוראות להן ואת ההתנהגות שנבדקת. בקשו הסבר על התלות או שינוי ממוקד הקשור להתנהגות הזאת. ההקשר הגדול יותר יכול להכיל קוד מסביב שמועיל למשימה, אבל הוא אינו מבטל את הצורך להגדיר את השאלה או את קריטריון ההשלמה. הצעת קוד צריכה לזהות את מקרה הקלט שמניע אותה ואת התוצאה הצפויה שאפשר לבדוק.
ההכרזה על GPT-4 מתארת יכולת הכוונה באמצעות הודעות system: המפתח יכול לציין את המשימה, הטון והסגנון של המודל. השתמשו בהוראה הזאת כדי לקבוע אם התשובה צריכה להיות הסבר קצר, השוואה, טיוטה או רשומה עם שדות בעלי שמות. הגדירו כיצד צריך להציג מידע חסר והבחינו בין עובדות שסופקו לבין הנחות. משימת עיבוד מסמכים יכולה לבקש רשימת תנאים, כשמזהה המקור והקטע הרלוונטי מופיעים לצד כל תנאי.
שמרו על ההוראות האלה עם התפתחות השיחה. כללו את התוצאה הקודמת בפועל כאשר הבקשה הבאה מתקנת אותה, וזהו מה צריך להשתנות. בקשת המשך מועילה מצמצמת את נקודת המחלוקת בהשוואה או מבקשת תיקון בחלק אחד של טיוטה, במקום להניח שפרומפט חדש ומבודד שומר על כל המשימה הקודמת.
עדכון 0613 של היצרן מוסיף את שיפורי הקריאה לפונקציות של GPT-4 למהדורה עם ההקשר המורחב. המפתח מתאר פונקציה ואת הפרמטרים שלה, והמודל יכול להחזיר אובייקט JSON המכיל ארגומנטים לפונקציה הזאת. היישום מבצע את הפעולה ומספק את התוצאה שהוחזרה. היכולת השימושית היא בקשה מובנית הקשורה להתנהגות היישום, ולא השלמה ישירה של פעולה חיצונית על ידי המודל.
עבור עוזר מידע, פונקציה יכולה לאחזר את הרשומה האמיתית הדרושה כדי להשיב על שאלה. שמרו את המזהה שהתבקש ואת הרשומה שהוחזרה קשורים זה לזה, ולאחר מכן בקשו תשובה המבוססת על התוצאה הזאת. בדקו אם הפעולה המוצעת נתמכת בבקשת המשתמש ואם הפונקציה אכן השלימה אותה. ממשק הפונקציות המעודכן נפרד מהתוספות המאוחרות של מצב JSON וקריאה מקבילית ב-GPT-4 Turbo.
ההכרזה המקורית על GPT-4 מזהה הזיות עובדתיות, שגיאות הסקה וידע מוגבל על אירועים חדשים יותר כמגבלות משמעותיות. ספקו ראיות עדכניות לשאלה שהתשובה עליה השתנתה, ובדקו את המספרים החשובים, השמות והתנהגות הקוד מול המקור. הסבר בטוח בעצמו עדיין עלול לפרש תנאי באופן שגוי או להכניס ליקוי.
התאימו את היקף התוצר המבוקש למשימה ולהקשר הזמין. המספר 32K הוא קיבולת הקשר, ולא הבטחה לתשובה מוגמרת באותו אורך או להבנה מושלמת של כל קטע שנכלל. שמרו יחד את פרופיל המודל שנבחר, ההוראות, חומר המקור והתוצאה. כך השוואת מסמכים ארוכים, הסבר על קוד או טיוטה מתוקנת יהיו מוחשיים מספיק לבדיקה ולהמשך עבודה.
POST /v1/chat/completionstexttext| שדה | סוג | דרישה | ערכים ומגבלות | ברירת מחדל |
|---|---|---|---|---|
שדהmodel | סוגstring | דרישהחובה | ערכים ומגבלות gpt-4-32k-0613 | ברירת מחדל— |
שדהmessages | סוגmessage[] | דרישהחובה | ערכים ומגבלות מספר פריטים מזערי: 1 | ברירת מחדל— |
שדהmessages[].role | סוגstring | דרישהחובה | ערכים ומגבלות דוגמאות: system, user, assistant, tool, function תנאים: התפקידים האלה מיוצגים במפורש בטיפוסי התאימות בקוד המקור; מערך התפקידים המדויק נשאר ייחודי לכל מודל. תלוי במודל | ברירת מחדל— |
שדהmessages[].content | סוגstring|content_part[]|null | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהmessages[].tool_calls | סוגtool_call[] | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהmessages[].tool_call_id | סוגstring | דרישהרשות | ערכים ומגבלות חל כאשר: role=tool; השתמשו במזהה שהוחזר בפועל | ברירת מחדל— |
שדהmessages[].name | סוגstring | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהmessages[].reasoning_content | סוגstring | דרישהרשות | ערכים ומגבלות חל כאשר: החזירו בהמשך את ההנמקה שהתקבלה בפועל כאשר המודל הזה משתמש בה | ברירת מחדל— |
שדהmessages[].reasoning_details | סוגobject|array | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהmax_tokens | סוגinteger | דרישהרשות | ערכים ומגבלות מינימום: 1 תלוי במודל | ברירת מחדל— |
שדהmax_completion_tokens | סוגinteger | דרישהרשות | ערכים ומגבלות מינימום: 1 תלוי במודל | ברירת מחדל— |
שדהstream | סוגboolean | דרישהרשות | ערכים ומגבלות | ברירת מחדלfalse |
שדהstream_options.include_usage | סוגboolean | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהtemperature | סוגnumber | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהtop_p | סוגnumber | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהstop | סוגstring|string[] | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהtools | סוגfunction_tool[] | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהtools[].type | סוגstring | דרישהרשות | ערכים ומגבלות function תלוי במודל | ברירת מחדל— |
שדהtools[].function.name | סוגstring | דרישהחובה | ערכים ומגבלות חל כאשר: סופק כלי פונקציה | ברירת מחדל— |
שדהtools[].function.description | סוגstring | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהtools[].function.parameters | סוגJSON_schema | דרישהרשות | ערכים ומגבלות | ברירת מחדל— |
שדהtool_choice | סוגstring|object | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהparallel_tool_calls | סוגboolean | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהresponse_format | סוגobject | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהreasoning_effort | סוגstring | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהreasoning | סוגobject | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהservice_tier | סוגstring | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהinstructions | סוגstring | דרישהרשות | ערכים ומגבלות שדה תאימות | ברירת מחדל— |
שדהfunctions | סוגfunction[] | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהfunction_call | סוגstring|object | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהprompt_cache_options | סוגobject | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— |
שדהmodalities | סוגstring[] | דרישהרשות | ערכים ומגבלות text | ברירת מחדל— |
שדהprovider | סוגobject | דרישהרשות | ערכים ומגבלות תנאים: provider.options נדחה במסלול הטקסט הזה של Ultra | ברירת מחדל— |
שדהcache_control.ttl | סוגstring | דרישהרשות | ערכים ומגבלות תנאים: 1h נדחה במיקומים המשמשים בפועל למטמון הנחיות | ברירת מחדל— |
טקסט · טקסט UTF8
messages[].content
| פרמטר | מפרט |
|---|---|
פרמטרcontent_type | מפרטapplication/json |
פרמטרrequired | מפרטmodel, messages |
פרמטרmaterial_types | מפרטtext |
פרמטרmessages | מפרטמערך הודעות במבנה role/content |
פרמטרfile_material | מפרטמסמך UTF-8 בפועל מוכנס כטקסט מילולי; לא מוסק מזהה קובץ |
פרמטרoptional_controls | מפרטstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
פרמטרcontrol_scope | מפרטייחודי למודל; כלי פונקציות של המשתמש שונים מכלים מתארחים |
פרמטרoutput_modalities | מפרטtext |
פרמטרhosted_operations | מפרטfalse |
פרמטרmultimodal_input_binding | מפרטnull |
מחזור חיים: synchronous_or_streamed
שלחו את מזהה המודל המדויק עם messages.
אורך ההקשר אינו תקרת פלט.
קובץ טקסט יכול לספק טקסט מילולי; קלטי תמונה/אודיו/אובייקט קובץ דורשים קישור מדויק.
מידע תעריפים אינו מוסיף אפשרויות לבקשה. הפרמטרים הנתמכים מפורטים בשיטה שנבחרה.
| תצורה | טבלת תעריפים | חיוב |
|---|---|---|
| תצורהתעריפי הבסיס לטוקנים | טבלת תעריפיםתעריף בסיס | חיוב קלט · טוקני קלט $0.12 / 1K טוקנים פלט · טוקני פלט $0.24 / 1K טוקנים קלט · קריאה מהמטמון $0 / 1K טוקנים קלט · כתיבה למטמון $0 / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
לפני הבקשה Ailoot משריינת סכום משוער. לאחר קבלת התוצאה היא מסדירה את החיוב הסופי לפי השימוש המדוד. הסדרת חיוב בהזרמה משתמשת ברשומת השימוש הסופית. איך פועלים שריון הסכום והסדרת החיוב →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "gpt-4-32k-0613", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='gpt-4-32k-0613',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='gpt-4-32k-0613',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson או SSE
שמרו כל תגובה מלאה, קובץ ומקטע תוכן שהוחזרו.
שמרו כל בחירה ואת התוכן, קריאות הכלים וההנמקה שלה. ב-SSE הרכיבו עדכונים לפי אינדקס הבחירה/הכלי ושמרו את סיבת הסיום הסופית ואת השימוש.
שמרו מזהי בקשות/תגובות וכותרות. לא מסופק URL כללי לאחזור משימת טקסט.
| שדה | סוג |
|---|---|
שדהchoices[].index | סוגinteger |
שדהchoices[].message.content | סוגstring|null |
שדהchoices[].message.tool_calls | סוגtool_call[] |
שדהchoices[].message.reasoning_content | סוגstring |
שדהchoices[].message.reasoning_details | סוגobject|array |
שדהchoices[].finish_reason | סוגstring|null |
שדהusage | סוגobject |
| תגובה | תנאי | השלב הבא |
|---|---|---|
תגובה400 · invalid_request_error | תנאישדות נדרשים, ייצוג חומר או ערך פרמטר שאינם תקינים | השלב הבאתקנו את השדות שצוינו לפני בקשת יצירה חדשה. |
Ailoot Ultra gpt-4-32k-0613
השתמשו בנתיבי השיטות המוצגים למעלה.
gpt-4-32k-0613GPT-4 32K הוא פרופיל הטקסט של GPT-4 עם הקשר מורחב לעבודה עם אוספים גדולים יותר של מסמכים או קוד. ההקשר המתועד שלו, של 32,768 טוקנים, מאפשר לעבוד עם חומר קשור במשימה אחת, כשהוראות system מנחות את התשובה וקריאה לפונקציות מתועדת במהדורת 0613 המעודכנת.
התיאור הזה מציג את יכולות המודל. הקלט, הפלט והאפשרויות הזמינים ב-Ailoot מפורטים בהמשך לפי השיטה שנבחרה.
GPT-4 32K הוא פרופיל הטקסט של GPT-4 עם הקשר מורחב מבית OpenAI, למשימות שדורשות יותר חומר קשור בבקשה אחת. היצרן מתעד הקשר של 32,768 טוקנים, בהשוואה ל-8,192 טוקנים בפרופיל GPT-4 המקורי. הוא מקבל טקסט ומחזיר טקסט, כולל הסברים בשפה טבעית, טיוטות וקוד. ההבדל המגדיר שלו הוא ההקשר הגדול יותר, ולא חלון ה-128K או היכולות הרב-מודאליות של פרופילי GPT-4 Turbo מאוחרים יותר.
ספקו את המסמכים או הקוד הרלוונטיים למשימה שנוסחה בבירור. בהשוואת דרישות אפשר להציב כמה מפרטים יחד ולשאול אילו תנאים תואמים, אילו סותרים זה את זה ואיזה מקור קובע את ההחלטה. תנו לכל מקור מזהה ובקשו את הקטע שתומך בממצא חשוב. ריכוז הראיות הקשורות זו לזו יכול לסייע למודל להשוות ביניהן, אך התוצאה עדיין צריכה לשמור על הקשר בין מסקנה לבין המקור שלה.
בשאלה על בסיס קוד, כללו את הפונקציות הרלוונטיות, את הפונקציות שקוראות להן ואת ההתנהגות שנבדקת. בקשו הסבר על התלות או שינוי ממוקד הקשור להתנהגות הזאת. ההקשר הגדול יותר יכול להכיל קוד מסביב שמועיל למשימה, אבל הוא אינו מבטל את הצורך להגדיר את השאלה או את קריטריון ההשלמה. הצעת קוד צריכה לזהות את מקרה הקלט שמניע אותה ואת התוצאה הצפויה שאפשר לבדוק.
ההכרזה על GPT-4 מתארת יכולת הכוונה באמצעות הודעות system: המפתח יכול לציין את המשימה, הטון והסגנון של המודל. השתמשו בהוראה הזאת כדי לקבוע אם התשובה צריכה להיות הסבר קצר, השוואה, טיוטה או רשומה עם שדות בעלי שמות. הגדירו כיצד צריך להציג מידע חסר והבחינו בין עובדות שסופקו לבין הנחות. משימת עיבוד מסמכים יכולה לבקש רשימת תנאים, כשמזהה המקור והקטע הרלוונטי מופיעים לצד כל תנאי.
שמרו על ההוראות האלה עם התפתחות השיחה. כללו את התוצאה הקודמת בפועל כאשר הבקשה הבאה מתקנת אותה, וזהו מה צריך להשתנות. בקשת המשך מועילה מצמצמת את נקודת המחלוקת בהשוואה או מבקשת תיקון בחלק אחד של טיוטה, במקום להניח שפרומפט חדש ומבודד שומר על כל המשימה הקודמת.
עדכון 0613 של היצרן מוסיף את שיפורי הקריאה לפונקציות של GPT-4 למהדורה עם ההקשר המורחב. המפתח מתאר פונקציה ואת הפרמטרים שלה, והמודל יכול להחזיר אובייקט JSON המכיל ארגומנטים לפונקציה הזאת. היישום מבצע את הפעולה ומספק את התוצאה שהוחזרה. היכולת השימושית היא בקשה מובנית הקשורה להתנהגות היישום, ולא השלמה ישירה של פעולה חיצונית על ידי המודל.
עבור עוזר מידע, פונקציה יכולה לאחזר את הרשומה האמיתית הדרושה כדי להשיב על שאלה. שמרו את המזהה שהתבקש ואת הרשומה שהוחזרה קשורים זה לזה, ולאחר מכן בקשו תשובה המבוססת על התוצאה הזאת. בדקו אם הפעולה המוצעת נתמכת בבקשת המשתמש ואם הפונקציה אכן השלימה אותה. ממשק הפונקציות המעודכן נפרד מהתוספות המאוחרות של מצב JSON וקריאה מקבילית ב-GPT-4 Turbo.
ההכרזה המקורית על GPT-4 מזהה הזיות עובדתיות, שגיאות הסקה וידע מוגבל על אירועים חדשים יותר כמגבלות משמעותיות. ספקו ראיות עדכניות לשאלה שהתשובה עליה השתנתה, ובדקו את המספרים החשובים, השמות והתנהגות הקוד מול המקור. הסבר בטוח בעצמו עדיין עלול לפרש תנאי באופן שגוי או להכניס ליקוי.
התאימו את היקף התוצר המבוקש למשימה ולהקשר הזמין. המספר 32K הוא קיבולת הקשר, ולא הבטחה לתשובה מוגמרת באותו אורך או להבנה מושלמת של כל קטע שנכלל. שמרו יחד את פרופיל המודל שנבחר, ההוראות, חומר המקור והתוצאה. כך השוואת מסמכים ארוכים, הסבר על קוד או טיוטה מתוקנת יהיו מוחשיים מספיק לבדיקה ולהמשך עבודה.
POST /v1/messagestextjson, sse| שדה | סוג | דרישה | ערכים ומגבלות | ברירת מחדל |
|---|---|---|---|---|
שדהmodel | סוגstring | דרישהחובה | ערכים ומגבלות gpt-4-32k-0613 | ברירת מחדל— |
שדהmessages | סוגmessage[] | דרישהחובה | ערכים ומגבלות | ברירת מחדל— |
שדהmessages[].role | סוגstring | דרישהחובה | ערכים ומגבלות user, assistant | ברירת מחדל— |
שדהmessages[].content | סוגstring | דרישהחובה | ערכים ומגבלות | ברירת מחדל— |
שדהmax_tokens | סוגinteger | דרישהחובה | ערכים ומגבלות | ברירת מחדל— |
שדהstream | סוגboolean | דרישהרשות | ערכים ומגבלות | ברירת מחדלfalse |
טקסט · טקסט UTF-8
מחרוזת messages[].content
| פרמטר | מפרט |
|---|---|
פרמטרcontent_type | מפרטapplication/json |
פרמטרrequired | מפרטmodel, messages, max_tokens |
פרמטרoptional_controls | מפרטstream |
פרמטרmaterial_types | מפרטtext |
פרמטרtext_file_material | מפרטקראו את מסמך UTF-8 בפועל והכניסו את הטקסט שלו לקלט שצוין או למחרוזת תוכן ההודעה. |
מחזור חיים: synchronous_or_streamed
מידע תעריפים אינו מוסיף אפשרויות לבקשה. הפרמטרים הנתמכים מפורטים בשיטה שנבחרה.
| תצורה | טבלת תעריפים | חיוב |
|---|---|---|
| תצורהתעריפי הבסיס לטוקנים | טבלת תעריפיםתעריף בסיס | חיוב קלט · טוקני קלט $0.12 / 1K טוקנים פלט · טוקני פלט $0.24 / 1K טוקנים קלט · קריאה מהמטמון $0 / 1K טוקנים קלט · כתיבה למטמון $0 / 1K טוקנים קלט · כתיבה למטמון, 1 שעה — / 1K טוקנים |
לפני הבקשה Ailoot משריינת סכום משוער. לאחר קבלת התוצאה היא מסדירה את החיוב הסופי לפי השימוש המדוד. הסדרת חיוב בהזרמה משתמשת ברשומת השימוש הסופית. איך פועלים שריון הסכום והסדרת החיוב →
{\n "model": "gpt-4-32k-0613",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'gpt-4-32k-0613', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'gpt-4-32k-0613', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON או SSE
שמרו כל תגובה מלאה, קובץ ומקטע תוכן שהוחזרו.
שמרו את כל בלוקי התוכן, חתימות החשיבה ומזהי השימוש בכלים בפועל. הרכיבו את כל עדכוני הבלוקים של SSE; בלוק הטקסט הראשון אינו הפלט המלא.
שמרו מזהי בקשות/תגובות וכותרות. לא מסופק URL כללי לאחזור משימת טקסט.
| שדה | סוג |
|---|---|
שדהid | סוגstring |
שדהmodel | סוגstring |
שדהcontent[] | סוגtext|thinking|tool_use|other content block |
שדהstop_reason | סוגstring|null |
שדהusage | סוגobject |
| תגובה | תנאי | השלב הבא |
|---|---|---|
תגובה400 · invalid_request_error | תנאישדות נדרשים, ייצוג חומר או ערך פרמטר שאינם תקינים | השלב הבאתקנו את השדות שצוינו לפני בקשת יצירה חדשה. |
Ailoot Ultra gpt-4-32k-0613
השתמשו בנתיבי השיטות המוצגים למעלה.
דוגמה טכנית באנגלית
Compare requirements using a precedence rule\n\nCompare three labelled specifications. BASE: exports include all orders and run nightly. ADDENDUM: exports include paid orders only; cadence is unchanged. OPERATIONS: exports run hourly. The signed ADDENDUM overrides BASE, while OPERATIONS is an unsigned proposal. Produce the effective requirements and unresolved proposal, citing the governing source for each.An effective-requirements table plus a separate unresolved-proposal entry with source references.Paid orders and nightly cadence are retained as effective; hourly cadence remains an unsigned proposal.