ה-AI מגיע עכשיו גם למתקפות סייבר: ׳׳בקרוב נראה הרבה כאלה ובהיקף משמעותי׳׳

עד עכשיו התגאו חברות האבטחה בשימוש ב-AI. אבל בשנים האחרונות, הטכנולוגיה מגיעה גם לידי הרעים, ותסמכו עליהם שהם ידעו מה לעשות איתה

מקור: Pixabay

עולם הסייבר לא מפסיק לעבור שינויים, בין אם זה בצד התוקף ובין אם זה בצד המגן. התוקפים כל הזמן מחפשים דרכים חדשות לעקוף את מנגנוני ההגנה ולהגדיל את הפגיעה במטרות שלהם, בזמן שהמגנים – בין אם אלו ארגונים או חברות המייצרות מוצרי הגנה שונים – מחפשים דרכים לחזק את ההגנות שלהם. אבל לצד הטכניקות והשיטות הידועות, נכנס בשנים האחרונות אלמנט חדש, שעד עכשיו פעל בעיקר בצד המגן, ויכול לשנות את המשחק כשהוא מגיע עכשיו גם לידי התוקפים.

אז איך משתמשים האקרים ב-AI?

בינה מלאכותית הופכת להיות חלק משמעותי בעולם אבטחת המידע, כשחברות העוסקות בהגנת סייבר משתמשות בה יותר ויותר לטובת פיתוח הכלים והפלטפורמות שלהן. מנגד, גם התוקפים – בהם יחידים, קבוצות האקרים ומדינות – מנסים לרתום את הכוח של ה-AI לטובתם בדרכים שונות.

שמעון אורן, סמנכ”ל מחקר ודיפ לרנינג ב-Deep Instinct, מונה בשיחה עם גיקטיים שלושה סוגים שונים של מתקפות הנעזרות ב-AI: הסוג הראשון הוא כזה המנסה להיעזר בכוחה של הבינה המלאכותית כדי לאמן אלגוריתם שתפקידו לקחת נוזקה (Malware) בסיסית ולייצר מוטציות שלה בניסיון להדביק מחשבים שאולי מוגנים, אבל רק מפני הנוזקה הבסיסית. אם תרצו, סוג של מוטציית COVID-19 לדורות הראשונים של וירוס הקורונה. בנוסף קיים גם שימוש באלגוריתם AI כדי לנסות ולמפות חולשה במערכת שאותה התוקפים שמו להם למטרה.

הסוג השני של מתקפות מבוססות ה-AI, שאותו מונה אורן, עושה שימוש בבינה המלאכותית בבק-אנד. דוגמה לכך היא שימוש במערכת עם אלגוריתמי בינה המלאכותית בבק-אנד כדי לנסות ולהבין אם יעדים מסוימים בכלל מתאימים לתקיפה, או האם קיימת סבירות גבוהה להצלחה של מתקפה מסוג מסוים.

הסוג השלישי, ויש שיאמרו הכי מעניין בהתקפות מבוססות AI, הן מתקפות שבהן נעשה שימוש במה שמוגדר כ-Adversarial AI – תוקפים המשתמשים באלגוריתם בינה מלאכותית כדי לנסות ולעקוף אלגוריתם AI שבו נעשה שימוש להגנה. אורן מדגיש כי “לא בהכרח מדובר באלגוריתם יותר מתוחכם, אלא באלגוריתם חזק יותר שיכול להבין ולמדל את האלגוריתם שהתוקפים רוצים לעקוף ולייצר נוזקה, או לשנות אחת קיימת, באופן שבו מודל ה-AI המגן לא יכול לזהות”.

“בשנה-שנתיים הקרובות נראה התקפות כאלה בהיקף משמעותי”: שמעון אורן, סמנכ”ל מחקר ודיפ לרנינג ב-Deep Instinct | תמונה: Deep Instinct

האם יש לכם כבר תיעוד מתקפות סייבר מבוססות Adversarial AI? 

“אנחנו לא רואים הרבה כאלה. אנחנו לא יכולים לומר שמתקפות מבוססות Adversarial AI לא קרו, אבל טרם נצפתה מתקפה רחבה שמוכרת על ידי התעשייה. מדובר בתחום שרובו מחקרי, אבל אין שום ספק שתוקפים מתוחכמים, ובפרט מדינות, כבר עוסקות בו. להערכתנו, בשנה-שנתיים הקרובות נראה התקפות כאלה בהיקף משמעותי”.

אורן מוסיף כי העלייה שנראה ממתקפות מסוג זה נובעת בעיקר משתי סיבות משמעותיות; העובדה שנכון להיום עולם ההגנה הולך ומתבסס יותר ויותר על למידת מכונה ו-AI כטכנולוגיה הגנה מרכזית, והעובדה שהשימוש ב-AI הפך להרבה יותר נפוץ. “כבר לא צריך להיות PhD עם 7-8 שנות ניסיון כדי לאמן מודלים כאלה ואחרים. זה בהחלט הולך ונהיה נפוץ”, הוא מדגיש.

“למתקפות מבוססות AI פוטנציאל נזק משמעותי”

בנוגע לנזק שיכולה לגרום מתקפה מבוססת AI לעומת מתקפות “רגילות”, אומר אורן כי השאלה מתחלקת לשתיים: האפקט של מתקפות מסוג זה והנזק שלהן. מבחינת האפקט של המתקפה, הוא יכול להיות זהה לחלוטין – שימוש בכופרה (Ransomware) מבוססת AI יכול להיות בעל אפקט זהה לחלוטין לעומת שימוש בנוזקה דומה שאינה מבוססת AI. “אנחנו לא רואים שה-AI פותחת פתח נוסף לסוגים חדשים של מתקפות, לפחות לא כרגע”, הוא מדגיש.

עם זאת, ברמת הנזק נרשם ההבדל המשמעותי וזאת מכיוון שלדבריו “הנזק במתקפות AI נוטה להיות גדול יותר כי מדובר במתקפות יותר מוצלחות. יש להן Stealth מאוד גבוה, ולכן הסיכוי של התקפה מבוססת Adversarial AI מוצלחת להתגלות מאוד מאוד נמוך, כי זו התקפה מוכוונת ישירות לשיטות ההגנה. זו לא התקפה שמנסה להיטמע או לנצל חולשה ספציפית. מתקפה מסוג זה מנסה ספציפית להתמודד עם מנגנוני ההגנה, ואם היא עושה את זה בצורה מוצלחת – יש לה פונטציאל נזק משמעותי”.

כששאלנו האם מדובר בטרנד של השנה האחרונה אומר אורן כי מתקפות מבוססות Adversarial AI נמצאות כבר כמה שנים במודעות, אבל מדגיש כי בשנה האחרונה רואים עלייה בעיסוק בהן גם בספירה האקדמית וגם במחקרים בעולם האבטחה.

האם זו מתקפה שיכולה להיות בסקייל רחב יותר ממתקפה רגילה, ולהוביל לפגיעה במספר רב יותר של מחשבים?

“כל היופי בשימוש ב-AI, הוא שזה יכול להיות לטובת משהו שהוא סופר-כירורגי וממוקד או למתקפות רחבות, כמו Adversarial AI. ניתן לראות את השילוב במתקפות בכל סקייל. אי אפשר להגיד שזה משהו שצפויים להיות רק ממוקד ליעדים מאוד ספציפיים או בהכרח למשהו רחב מאוד – זה יכול להיות גם וגם, תלוי בתוקף, ביעדים ובאופי המתקפות”.

מעקב אחרי מתקפות | מקור: Deep Instinct

והפיתרון? “לשים את הנושא של השימוש ב-AI ככלי התקפי על השולחן”

בנוגע לפתרון הקיים למתקפות מבוססות AI, אומר אורן כי השלב ראשון הוא מודעות. הוא מדגיש כי ללא מודעות ועיסוק משמעותי, לא יהיה פיתרון. “התעשייה צריכה לשים את הנושא של השימוש ב-AI ככלי התקפי על השולחן, זה קורה אבל עדיין לא מחלחל באופן מספק לדעתנו לתוך המוצרים והטכנולוגיות הקיימות”. לדברי אורן, צריך לשים לב ל-AI  – לא רק בתוך טכנולוגיות ומוצר: “חברות שמתבססות על AI בשרשרת העבודה שלהן, צריוכת לוודא שהדאטה מדויק ולא מורעל והותקף כדי לכוון אותם לאזורים שיהיו נוחים לתוקפים. זה נכון במיוחד כשמתעסקים במשטחי תקיפה קטנים וייחודים, ולכן פגיעים למתקפות מבוססות דאטה”.

כיצד פתרון כזה יכול לפעול? 

“אנחנו בוחנים כל מי סוגי פתרונות, בין אם באמצעות יצירת מתקפות Adversarial AI וניסיון לתקוף את המוצר והמודלים שלנו כדי להבין איזה שינויים להכניס בדאטה ובצורה שבה אנחנו מאמנים את המודלים. בודקים איזה מנגנוני ‘בק אופיס’ אנחנו מכניסים למוצר שלנו כדי לאתר מתקפות כאלה – בין אם המתקפות נמנעו ובין אם לא. בנוסף, ניתן להשתמש במנגנונים כדי לזהות התקפות שיש סיכוי סביר שהן מבוססות Adverserrial AI כדי שנדע לתפוס ולהבין אותן בזמן, ולראות מה ניסו לעשות”.

אורן מציין כי זיהוי מתקפה מבוססת Adverserrial AI על מוצרים שאינם דווקא מוצרי החברה מעניין אותם ומאפשר לבחון את המודל שנבנה במטרה למצוא דרכים לעקוף מערכות שאינן שלהם – כי בסופו של דבר מתקפות מבוססות Adverserrial AI תמיד יהיו מוכוונות מטרה מסוימת. “אין פה פיתרון יחיד, כל חברה צריך להסתכל פנימה ולהבין מה היא צריכה לעשות – גם בתהליכים הפנימיים וגם במוצר שלה כדי להתמודד עם זה יותר טוב”, הוא מוסיף.

התוקפים מנצלים את הקורונה למתקפות על עבודה-מרחוק

לפי אורן, הם לא זיהו מתקפות מבוססות AI במהלך תקופת הקורונה, בעיקר כי עדיין מדובר בתחום טרי יחסית. עם זאת הוא מציין כי בתקופה שרובנו היינו בבית ניטרה החברה עלייה בכמות מתקפות הפישינג ונוזקות אשר משתמשות בקורונה על מנת לפתות משתמשים ולהגדיל סיכוי הצלחה. בחברה מציינים כי זיהו כמה וכמה מתקפות מבוססות מסמכים (אופיס, PDF) שהתחזו ל”עדכונים” בנושאי הקורונה. עוד ציינו כי זיהו הכפלה בכמות התקיפות מסוג זה בחודשים מרץ ואפריל ביחס לחודשים המקבילים משנה שעברה.

בנוסף, אחת מ”הזוכות הגדולות” של תקופת הקורונה היא הכופרה Lockbit, המבוססת על ניצול של שימוש ב-RDP – גישה מרחוק לשולחן העבודה. על פי נתוני החברה, השימוש במתקפות מבוססות Lockbit שילש את עצמו בשלושת החודשים האחרונים.

המקום שלכם לעדכן ולהתעדכן המקום שלכם לעדכן ולהתעדכן להצטרפות לקבוצת הפייסבוק הסגורה של גיקטיים, לחצו כאן

אושרי אלקסלסי

Your Friendly Neighberhood Geek. יש לכם סיפור טכנולוגי? דברו איתי: Oshry@geektime.co.il

הגב

11 תגובות על "ה-AI מגיע עכשיו גם למתקפות סייבר: ׳׳בקרוב נראה הרבה כאלה ובהיקף משמעותי׳׳"

avatar
Photo and Image Files
 
 
 
Audio and Video Files
 
 
 
Other File Types
 
 
 

* היי, אנחנו אוהבים תגובות!
תיקונים, תגובות קוטלות וכמובן תגובות מפרגנות - בכיף.
חופש הביטוי הוא ערך עליון, אבל לא נוכל להשלים עם תגובות שכוללות הסתה, הוצאת דיבה, תגובות שכוללות מידע המפר את תנאי השימוש של Geektime, תגובות שחורגות מהטעם הטוב ותגובות שהן בניגוד לדין. תגובות כאלו יימחקו מייד.

סידור לפי:   חדש | ישן | הכי מדורגים
אלון
Guest

כמה שטויות בכתבה אחת, אין לכם בושה להטעות ככה אנשים שלא מהתחום?

אחד שיודע
Guest

אולי בינה מלאכותית רשמה את הכתבה.

יצחק כהן
Guest

ב”ה

אם באמת משהו לא נראה הגיוני בכתבה, בבקשה תצביע עליו ונמק למה, אני לא מומחה AI אבל קצת חוקר אותו לפני כניסה, ולא רואה דברים שכ”כ מנותקים מהמציאות

אם באמת לדעתך יש דברים לא הגיוניים פקח את ענינו

רונן
Guest

יבוא יום וחברות יתנו דין על הטעיות ושימוש מוגזם במושגים ללא הוכחות, כמעט כל כתבה לאחרונה מכילה תיאורים מנופחים על עולמות הAI שהם מעבר לכל דמיון ואני לא מדבר על הטכנולוגיה…

אביתר
Guest

מעניין

תכנת
Guest

חשוב לזכור שכשאומרים היום AI הכוונה לתוכנה שעושה סטטיסטיקה של הרבה נתונים.

אני
Guest

הכותב מקדים את זמנו

סמי סוסו
Guest

חרטאבונה פלוץ עם טונה

סמי סוסו
Guest

חרטאבונה פלוץ של טונה

סמי סוסו
Guest

חרטאבונה פלוץ בטונה

רועי
Guest

מאמר מבוסס על כלום.
את המונח השלישי נראה שהקרח בכלל לא הבין,
מדובר על הרעלת הנתונים אותם מנתח הai ולא מתקפה של אלגוריתם מבוסס ai.
אשמח לשמוע כיצד הוא חושב להבחין בין נוזקה מבוססת ai לבין נוזקה מבוססת אנוש.
תכלס פלוץ של טונה.

wpDiscuz

תגיות לכתבה: