# מהי הסקת מסקנות?

> למדו מהי הסקת מסקנות של בינה מלאכותית, כיצד פועלות הסקה באצווה, הסקה בקצה, הסקה בזמן אמת והסקה בזרימה, וכיצד צוותים יכולים להתמודד עם אתגרי דיוק, ביצועים ועלויות.

Source: https://ailoot.ai/blog/he/what-is-ai-inferencing/
Canonical: https://ailoot.ai/blog/he/what-is-ai-inferencing/
Language: he
Publisher: Ailoot (https://ailoot.ai/)
Translation: guide-100078
Revision: sha256-26179ac90ef36466081ae9e0f7e2a26587db29d8a9e9dfe90913e73f8670accf


## מהי הסקת מסקנות (AI)?

הסקת מסקנות היא התהליך שבו מודל של בינה מלאכותית מפיק תחזיות או פלטים מנתונים חדשים. לאחר האימון, מודל AI למד פרמטרים וייצוגים. כשהוא מקבל נתונים חדשים, הוא משתמש בהם כדי להפיק פלט. הסקת מסקנות מתרחשת בשלב זמן הריצה או הפריסה של יישום AI ומאפשרת מגוון שימושים בעולם האמיתי.

## מדוע הסקת מסקנות חשובה?

הסקת מסקנות של AI היא תהליך הפקת פלטים מנתונים שלא נראו קודם. לאחר למידת דפוסים כלליים מתוך מערכי נתוני אימון, מודל מיישם את הדפוסים האלה על נתונים חדשים.

לדוגמה, אפשר לאמן מודל AI על סריקות של תמונות רפואיות שאנשי מקצוע בתחום הרפואה תייגו. במהלך האימון, המודל לומד רמזים חזותיים וקשרים בנתונים. לאחר מכן הוא יכול לזהות גידולים אפשריים או חריגות בסריקות חדשות באמצעות הסקת מסקנות. אנשי מקצוע בתחום הרפואה יכולים להעריך את דיוק התהליך באמצעות הסקת מסקנות מאותן סריקות.

בהשוואה לטכניקות [אנליטיקה](https://aws.amazon.com/what-is/data-analytics/) מסורתיות, שבהן אנשים מגדירים כללים ובוחרים טכניקות סטטיסטיות, אימון מודל מאפשר למודל לגלות דפוסים מורכבים שקשה לקודד ידנית. דפוסים אלה נובעים מהפרמטרים של המודל. הסקת מסקנות מיישמת אותם על נתונים חדשים.

## מהם סוגי הסקת המסקנות בלמידת מכונה?

יש כמה סוגים של הסקת מסקנות ב[למידת מכונה](https://aws.amazon.com/what-is/machine-learning/) (ML).

### **הסקת מסקנות באצווה**

הסקת מסקנות באצווה מפיקה תחזיות באמצעות קבוצות של כמה קלטי נתונים. היא שימושית ביישומים שאינם קריטיים מבחינת זמן ושיכולים להמתין לפלטים. לדוגמה, יישום AI גנרטיבי לניתוח עסקי עשוי לעבד עדכונים פעם בשעה במקום בזמן אמת.

### **הסקת מסקנות בקצה**

הסקת מסקנות של AI ב[קצה](https://aws.amazon.com/what-is/edge-computing/) מריצה מודל במכשיר של משתמש או בקרבת מקור הנתונים. מכיוון שאין צורך לשלוח נתונים למרכז מרכזי לצורך עיבוד, הסקת מסקנות בקצה יכולה להפחית את השהיית הרשת. היא שימושית במקומות מרוחקים עם קישוריות מוגבלת או במכשירים שבהם הסקת מסקנות חיונית. מהירות העיבוד תלויה במכשיר ובהשהיה של המודל.

### **הסקת מסקנות בזמן אמת**

הסקת מסקנות בזמן אמת מפיקה פלטים מיד בתגובה לבקשות קלט. מודלים מקבלים נתונים מקלט משתמש או ממקורות נתונים מחוברים, וכך נוצר הצורך בפלט מיידי. הסקת מסקנות בזמן אמת מסתמכת על מערכות AI בעלות השהיה נמוכה ונפוצה במערכות שבהן הזמן קריטי. לדוגמה, כלי רכב אוטונומיים משתמשים בה כדי לתמוך בקבלת החלטות בזמן.

### **הסקת מסקנות בזרימה**

הסקת מסקנות בזרימה משתמשת בצינור נתונים שמעביר מידע באופן רציף למודל, שמפיק פלטים בזמן אמת. בדומה להסקת מסקנות בזמן אמת, היא מגיבה לנתונים נכנסים, אך מפיקה פלטים באופן רציף על סמך [זרם הקלט](https://aws.amazon.com/what-is/streaming-data/). הסקת מסקנות בזמן אמת מגיבה לקלט של משתמש או לבקשות בזמן אמת, ואילו הסקת מסקנות בזרימה מעבדת זרם רציף של נתונים חדשים.

## כיצד פועלת הסקת מסקנות?

כמה טכנולוגיות ומערכות נתונים פועלות יחד כדי לספק תשתית להסקת מסקנות של AI.

### **תשתית למודלים של למידת מכונה**

הסקת מסקנות של AI מתאפשרת לאחר אימון המודל. לפני הפריסה, מודל עשוי לעבור אימון, כוונון עדין, אימות ואופטימיזציה של הסקת מסקנות.

מודל מאומן בסביבת ייצור עשוי לדרוש כוח מחשוב משמעותי מיחידות עיבוד גרפיות (GPUs), יחידות עיבוד מרכזיות (CPUs) ומאיצי AI ייעודיים כגון [AWS Inferentia](https://aws.amazon.com/ai/machine-learning/inferentia/). משאבי מחשוב זקוקים גם לאחסון, לרשתות ולצינורות נתונים.

### **קלט משתמש ועיבוד מקדים של נתונים**

ייתכן שיהיה צורך לעבד נתונים מראש לפני הזנתם למודל. לדוגמה, מודלים לראייה עשויים להשתמש בנרמול, ואילו [מודלים גדולים של שפה](https://aws.amazon.com/what-is/large-language-model/) (LLMs) עשויים להשתמש בטוקניזציה. אפשר גם לנקות נתונים כדי לשפר את איכותם.

### **תהליך הסקת המסקנות**

תהליך הסקת המסקנות מקבל נתונים נקיים ומבצע מעבר קדימה, המעביר את הנתונים שעברו עיבוד מקדים דרך שכבות המודל כדי להפיק פלט. התהליך כולל סדרה של חישובים.

### **הפקת פלט ועיבוד לאחר מכן**

לאחר המעבר קדימה, מודל מפיק פלט על סמך דפוסים שנלמדו מנתוני האימון.

עיבוד לאחר מכן יכול לסרוק, לסנן ולעצב פלטים בהתאם למנגנוני הגנה ולמדיניות. לדוגמה, מנגנוני הגנה יכולים לסייע במניעת גסויות או תוכן מזיק, ועיצוב יכול להתאים פלט לסגנון התקשורת של עסק.

## מהם האתגרים בהסקת מסקנות עבור מודלי AI?

כמה אתגרים עלולים להשפיע על יכולתו של מודל AI להסיק מסקנות.

### **סחיפת מודל**

סחיפת מודל מתרחשת כאשר מודל נעשה פחות יעיל לאורך זמן, ככל שהנתונים בעולם האמיתי משתנים ביחס לנתונים שעליהם אומן. סחיפת נתונים מתרחשת כאשר דפוסים בנתוני הקלט משתנים. אם משקלי המודל נשארים קבועים על סמך נתוני אימון קודמים, השינויים האלה עלולים לגרום לפלטים לא מדויקים.

סחיפת מושגים מתרחשת כאשר הקשר בין קלטי המודל לפלטיו משתנה או נעשה מורכב יותר. לדוגמה, מודל AI שאומן לזהות הודעות דיוג משתמש בדפוסים שלמד כדי להפיק תחזיות. אם טכנולוגיות חדשות משנות את האופן שבו מתבצעות מתקפות דיוג, הפלט של המודל עלול להיות פחות מדויק. ייתכן שיהיה צורך באימון מחדש כדי להביא את השינויים האלה בחשבון.

בשני המקרים, מודל שפעל היטב בעבר עשוי להתחיל להפיק תשובות פחות מדויקות או שגויות.

### **מהירות וביצועים**

פריסת מודל AI בקנה מידה גדול מחייבת תשתית שמסוגלת לספק פלטים באופן אמין. ארגונים עשויים להזדקק למעבדים גרפיים, להשהיה נמוכה, למהירויות רשת גבוהות וליחידות עיבוד נוספות בעלות ביצועים גבוהים עבור מודלים מורכבים.

דרכים נוספות לשיפור המהירות והביצועים כוללות שיפור ארכיטקטורת התשתית, שימוש בחומרה ייעודית ויישום של טכניקות אופטימיזציה להסקת מסקנות, כגון קוונטיזציה, כדי להקטין את גודל המודל.

בחירה בגישת הסקת מסקנות אחרת, כגון הסקת מסקנות באצווה, יכולה לשפר את הביצועים עבור מקרי שימוש מסוימים.

### **עלות**

הפעלת עומסי עבודה של הסקת מסקנות עלולה להוביל לעלויות בלתי צפויות. בקנה מידה גדול, או במגוון הקשרים, כוח המחשוב ונפח הבקשות להסקת מסקנות עלולים להגדיל את ההוצאות. ארגונים יכולים לנהל עלויות באמצעות אסטרטגיות כגון הקטנת גודל המודל, ביצוע עיבוד במקביל ושימוש בתשתית ענן להגדלה אוטומטית של הקיבולת עבור הסקת מסקנות מקוונת.

## שיטות מומלצות לשיפור הדיוק והשימושיות של AI

שיפור הדיוק והשימושיות של הסקת מסקנות של AI תלוי בחלקו בתהליכי האימון והאופטימיזציה. שיטות אלה יכולות לעזור.

### **השקעה באיכות הנתונים**

איכותם של מערכי נתוני האימון משפיעה ישירות על יכולתו של מודל להפיק תחזיות לגבי נתונים חדשים ולייצר פלטים מועילים. נתונים איכותיים שמתויגים היטב, עקביים ונקיים מרעש יכולים לשפר את יכולתו של מודל לזהות דפוסים. קבעו תהליכים קפדניים להכנת נתונים, לרבות ניקוי, אימות, תקנון ופתרון של אי-עקביות.

### **שימוש בכוח אדם מיומן**

ככל האפשר, שתפו בתהליך אנשים בעלי מומחיות באימון מודלים ובארכיטקטורה של מחסנית הטכנולוגיה שבכוונתכם להשתמש בה. מומחים בתחום יכולים לסייע בתיוג הנתונים ולהפוך אותם לאיכותיים ומקיפים יותר. אימון מודל על נתונים איכותיים יכול לשפר את דיוק הפלטים שלו.

### **הוספת יכולת הסבר לצורך תאימות**

פלטים של הסקת מסקנות צריכים להיות ניתנים להסבר. טכניקות להסברתיות יכולות לעזור להראות אילו מאפייני קלט השפיעו על פלט מסוים. סוגים שונים של מודלי ML משתמשים בטכניקות שונות. לדוגמה, אפשר ליישם Shapley Additive exPlanations (SHAP) על כל מודל, והיא מתאימה במיוחד למודלים מבוססי עצים, למודלים ליניאריים ולרשתות עצביות. יכולת הסבר יכולה גם לעזור לארגונים לעמוד במסגרות תאימות AI, לרבות הזכות להסבר לפי GDPR בנוגע להחלטות שהתקבלו באמצעות AI.

## כיצד AWS יכולה לתמוך בהסקת מסקנות של AI?

AWS מתארת שירותים ותשתית ייעודית לשלבים שונים במחזור החיים של [למידת מכונה](https://aws.amazon.com/ai/machine-learning/) ושל מודלי AI.

[Amazon SageMaker AI](https://aws.amazon.com/sagemaker/ai/) מספקת סביבת למידת מכונה לבנייה, לאימון, לאופטימיזציה, לבדיקה ולניהול של מודלים מותאמים אישית.

Amazon SageMaker AI הוא שירות מנוהל במלואו, עם כלים ללמידת מכונה עבור מגוון מקרי שימוש. הוא תומך בבנייה, באימון ובפריסה של מודלים בקנה מידה גדול באמצעות כלים כגון מחברות, מנפי שגיאות, מנתחי ביצועים, צינורות נתונים ו-MLOps בסביבת פיתוח משולבת (IDE).

SageMaker AI תומך בדרישות ממשל לאורך האימון והסקת המסקנות באמצעות בקרות גישה ושקיפות בפרויקטי ML. הוא גם מספק כלים לבניית מודלי בסיס (FMs), שהם מודלים גדולים שאומנו על מערכי נתונים נרחבים, וכן לכוונון עדין, לניסויים, לאימון מחדש ולפריסה שלהם.

AWS מציעה תשתית ענן להסקת מסקנות של AI, לרבות GPUs ייעודיים ב-[Amazon EC2](https://aws.amazon.com/ec2/) ושבבי למידת מכונה כגון [AWS Inferentia](https://aws.amazon.com/ai/machine-learning/inferentia/).

התחילו להשתמש בהסקת מסקנות של מודלי ML ב-AWS באמצעות [יצירת חשבון בחינם](https://aws.amazon.com/free/) עוד היום.

## מיישמים את המדריך הזה עם Ailoot

חברו מודלים של בינה מלאכותית ליישומים, לסוכנים ולאוטומציות שלכם באמצעות ממשק Ailoot API אחד. בחרו את המודל המתאים למשימה שלכם ופעלו לפי [התיעוד של Ailoot](https://ailoot.ai/docs/) כדי להתחיל.

## Ailoot · החברה ופורטפוליו הפרויקטים שלה

Ailoot נשענת על ניסיון תפעולי מצטבר, בסיס לקוחות רחב, שירות יציב ובקרה שוטפת של KPI.

החברה ופורטפוליו הפרויקטים שלה: מיליוני לקוחות; מכירות בהיקף של מיליארדים מדי חודש.

Ailoot משתמשת בניסיון התפעולי הזה כדי לספק גישת API ליכולות AI במוצרי לקוחות, בסוכנים, באפליקציות ובאוטומציות.
