בלוג

שאלו מומחה טכנולוגיה: מהי הסקה?

Markdown

מומחי Google מסבירים הסקה בבינה מלאכותית בריאיון מקיף העוסק בהתאמת דפוסים, סוגי מודלים, חיזוי, סיווג, הערכה, פרטיות, AI Overviews, מערכות מבוססות סוכנים ויעילות.

הסקה היא חלק מרכזי במה שהופך את הבינה המלאכותית ליכולה יותר. בריאיון הזה של Google Techspert, שני מומחי Google מסבירים מהי הסקה וכיצד היא עוזרת למערכות בינה מלאכותית להפיק תוצאות שימושיות.

באפריל הציגה Google את Ironwood, יחידת עיבוד הטנזור (TPU) שלה מהדור השביעי, שנועדה להפעיל הסקה בבינה מלאכותית גנרטיבית. מעבדי TPU הם שבבים שמפעילים מערכות בינה מלאכותית, והם אינם חדשים ל-Google, אבל הדור הזה תוכנן לעזור למערכות בינה מלאכותית להתקדם מעבר למתן תגובות ולהפוך ליוזמות. הסקה היא התהליך שמאפשר למערכות בינה מלאכותית להשתמש במודלים כדי להפיק תוצאות המבוססות על ידע.

אני יודע מה פירוש המילה הסקה — על סמך המידע שניתן לכם, אתם יכולים להגיע למסקנה כלשהי. האם לזה מתכוונים גם כשמדברים על בינה מלאכותית?

מומחה Google: בערך, כן. זו הפשטת יתר, אבל לדעתי הדרך הקלה ביותר להבין הסקה היא כהתאמת דפוסים. במובן הרחב ביותר, כשמדברים על בינה מלאכותית גנרטיבית ועל הסקה, השאלה היא: האם מודלים של בינה מלאכותית יכולים להתאים דפוסים כדי לחזות מה אתם רוצים? לדוגמה, אם הייתי אומר „חמאת בוטנים ו____” ומבקש מקהל אמריקאי להשלים את החסר, סביר שהאנשים היו אומרים „ריבה”. זו דוגמה טובה להסקה של דפוסי דיבור, וזה משהו שהסקה בבינה מלאכותית יכולה לעשות, אבל היכולות שלה מרחיקות הרבה מעבר לכך.

מומחה Google: באופן כללי, הסקה היא הדרך שבה אנחנו משתמשים במודל כדי לעשות משהו מועיל. ראשית, צריך לאמן את המודל: מודל של בינה מלאכותית מכיל את פרמטרי המודל, את ארכיטקטורת המודל ואת התצורה — הקוד הדרוש לו לביצוע משימות — וכל אלה משתלבים כדי לממש את הפונקציונליות שלו. לכן, הסקה היא מה שמאפשר לנו לקחת את כל זה ולהשתמש בו בפועל.

באילו סוגי מודלים של בינה מלאכותית משתמשים בהסקה?

מומחה Google: בינה מלאכותית המבוססת על למידה עמוקה, כמו מודלים של שפה, מודלים ליצירת תמונות ומודלים של אודיו, משתמשת בהסקה, כי היא חוזה מה „יקרה” על סמך דפוסי נתונים קודמים שלמדה.

מומחה Google: גם מודלים להמלצות משתמשים בהסקה.

מהי דוגמה למודל המלצות?

מומחה Google: רוב המודלים של מודעות הם מודלים להמלצות, וכך גם המודל שממליץ לכם על סרטוני YouTube. אלה מודלים של בינה מלאכותית „מסורתית” (המכונה לפעמים „קלאסית”) — לא בינה מלאכותית גנרטיבית כמו LLMs ומודלים ליצירת תמונות או סרטונים — והם משתמשים בהסקה כבר זמן רב.

אז הסקה אינה דבר חדש בבינה מלאכותית, היא פשוט השתפרה ככל שהבינה המלאכותית נעשתה מסוגלת יותר?

מומחה Google: כן. והסקה אינה מאפשרת למודלים של בינה מלאכותית רק לחזות, אלא גם לסווג. המודל יכול לתייג דברים על סמך מה שלמד. הנה דוגמה מפורסמת: לפני שנים רבות, Google נתנה למודל של בינה מלאכותית תמונה ושאלה אם הוא יכול לזהות בה חתול. באמצעות נתונים — והסקה — המודל הצליח ללמד את עצמו מהו חתול ואיך הוא נראה, ולזהות את החתול נכון.

אני זוכר את זה!

מומחה Google: זו הייתה דוגמה למודל שהשתמש בהסקה.

מומחה Google: לאחרונה יותר, אתם זוכרים שלפני כמה שנים אנשים דיברו על תמונות שנוצרו באמצעות בינה מלאכותית ובעצם התעלמו מחוקי הפיזיקה? למשל, הידיים של אנשים לא הוצגו לעיתים קרובות בצורה נכונה. המודלים של היום עושים זאת הרבה יותר טוב. הם טובים יותר בהבנת פיזיקה ומרקמים, בין היתר. כך גם בתרגום טקסט. לדוגמה, בעבר תרגום שפות היה סטטיסטי. הוא היה שימושי, אבל לא מדויק לגמרי, ובוודאי לא שיחתי. אבל התרגום הסטטיסטי הוביל אותנו לתרגום באמצעות בינה מלאכותית גנרטיבית, שכיום אנשים רבים מרגישים בנוח להשתמש בו, אפילו במוצרים הפונים ללקוחות שלהם. אנחנו עדיין משתמשים בתהליך שנקרא הסקה, אבל הבינה המלאכותית שבבסיסו ויכולת החישוב שלנו השתפרו במידה ניכרת.

האם אפשר למדוד עד כמה ההסקה עובדת היטב?

מומחה Google: אפשר, כשמודדים את ביצועי המודל במשימות מסוימות. אנחנו גם משתמשים בהסקה כדי להעריך ולאמן מודלים ולשפר אותם. לכן, בזמן שאנחנו מאמנים את המודל, אנחנו ממשיכים להריץ הסקה כדי לנסות לשפר את איכות המודל במקביל.

ואני מניח שבגלל מערכי אימון כאלה, רואים שרמות ההסקה משתפרות יותר ויותר לפי מדדי ביצועים של התעשייה.

מומחה Google: כן. אבל יש גם את שאלת התפיסה האנושית — עד כמה כולנו שמנו לב שהדברים האלה משתפרים? ובאופן כללי, די הרבה. דבר נוסף שחשוב לנו מאוד ב-Google כשאנחנו עובדים על הסקה הוא פרטיות: אנחנו מקפידים על המידע שאנחנו צריכים לשמור כדי שהחוויות האלה יעבדו.

מהן כמה דוגמאות לבינה מלאכותית של Google שבהן אפשר לראות הסקה משופרת?

מומחה Google: אחד ממקרי השימוש הטובים ביותר שלנו בהסקה ב-Google הוא AI Overviews. אתם מקלידים שאילתה ב-Search, ומערכת מורכבת מאוד מפזרת אותה בין כמה מודלים כדי לנסות לקבל תוצאות. היא משתמשת בהסקה כדי להבין את השאילתה שלכם ולדעת איזו תשובה אתם רוצים, ולבסוף מסכמת את מה שלמדה למשהו שימושי מאוד. הסקה חיונית גם לרבות מהפעילויות מבוססות הסוכנים ש-Google מקדמת. עם סוכנים, בנוסף לבקשה ממודל של בינה מלאכותית לספק מידע על סמך ההסקה שלו, אפשר גם לגרום לו לבצע דברים עבורכם. זה מעין הרחבה של האופן שבו הבנו הסקה בעבר.

אז ההסקה משתפרת בשימוש בנתונים, או בידע, כדי להציע תשובות ואפילו לפעול. באילו דרכים נוספות היא משתנה?

מומחה Google: ובכן, דבר אחד חשוב במיוחד הוא העלות. אנחנו מנסים להפוך את ההסקה למשתלמת ככל האפשר. נניח שאנחנו מנסים להנגיש לאנשים גרסה קטנה ומשתלמת יותר של Gemini. נעבוד על ההסקה של המודל כדי למצוא דרכים לשנות את פרדיגמת החישוב, או את הקוד שמרכיב את המודל, בלי לשנות את הסמנטיקה, כלומר את המשימה העיקרית שהוא אמור לבצע, וכך להפחית את העלות. בעצם, אנחנו יוצרים גרסה קטנה ויעילה יותר של המודל כדי שיותר אנשים יוכלו ליהנות מהיכולות שלו.

איך מורידים את העלות?

מומחה Google: אחת הדרכים היא לבצע אופטימיזציה לחומרה. זו הסיבה ש-Google משיקה השנה את Ironwood. הוא מותאם להסקה בזכות תכנון שמעמיד את ההסקה בראש סדר העדיפויות: יותר כוח חישוב וזיכרון, ואופטימיזציה לסוגים מסוימים של מספרים. מבחינת תוכנה, Google משפרת את המהדרים ואת מסגרות העבודה שלה. עם הזמן, המטרה היא שהסקה בבינה מלאכותית תהיה יעילה יותר: איכות טובה יותר, עם טביעת רגל קטנה יותר ועלות נמוכה יותר, כדי שתוכל להועיל.

עיינו בתיעוד ה-API של Ailoot בכתובת ailoot.ai/docs.