מהלך חדש של האיחוד האירופי בתחום ה-AI עלול לתפוס את הסטארטאפים הישראלים לא מוכנים

”אומת הסטארטאפ”, מתעוררת למציאות של רגולציית ה-AI האירופית, שעבירה על כלליה יכולה להוביל לקנסות כבדים. חברות טכנולוגיה ישראליות נדרשות לערנות גבוהה אם ברצונן להמשיך את מומנטום הצמיחה שלהן

מקור: Unsplash

מאת: ד”ר אילן ששון

לאחרונה פרסמה הנציבות האירופאית מסמך הכולל הצעה לרגולציה חדשה בתחום הבינה המלאכותית. רגולציה זו, כלשון המסמך, מתייחסת להיבטים שונים הקשורים באמינותן ועמידותן לאורך זמן של מערכות AI הנוגעות לרווחת הפרט והחברה במגוון תחומים כדוגמת בריאות, פיננסים, מגזר ציבורי ומגזר פרטי.

בסביבה העסקית העכשווית, בה מתפתחים יישומי בינה מלאכותית בקצב מסחרר בכל תחומי הכלכלה והחברה הנוגעים בחיינו, מתעורר הצורך לנסח כללי עבודה ואתיקה על מנת להבטיח שימוש הוגן ומבוקר ביישומי AI בכלל ובמערכות קריטיות בפרט, בהן טעויות יכולות לעלות בחיי אדם כדוגמת אפליקציות רפואיות.

חברות טכנולוגיה ישראליות, מסטארטאפים עד חברות טכנולוגיה גדולות, המעוניינות בהנגשת שירותים ומוצרים מבוססי AI באיחוד האירופי יהיו מחויבות לעמוד ברגולציה הזו – אך האם הן מוכנות לכך?

הרגולציה החדשה לבקרת טכנולוגיות AI

עם הרצון המתגבר לממש את הפוטנציאל הגלום במערכות מבוססות בינה מלאכותית במגוון תחומים הנוגעים לחיינו, מתחדדת המודעות  לסיכונים רבים הכרוכים ביישום המערכות, זאת על מנת להבטיח את תפקודן התקין לאורך זמן לאחר הצבתן בסביבה תפעולית. תשתיות קריטיות בתחומי רפואה, פיננסים, ממשל, שיטור וחינוך, יכולות להמצא בסיכון גבוה לטעויות הנובעות משימוש לא מבוקר במודלי AI.

הרגולציה החדשה לבקרת טכנולוגיות AI (Artificial Intelligence Act אפריל 2021) משרטטת את תחילתה של תשתית רעיונית ורגולטורית לצורך פיקוח אחר השימוש ההולך וגדל בישומי בינה מלאכותית ברמת קריטיות גבוהה, אשר לחלקם השפעה מהותית במגוון נושאים הנוגעים בחיי היום יום שלנו.

המסמך פותח בתיאור של התרומה המכרעת של משפחת טכנולוגיות הבינה המלאכותית למערך רחב של תחומי חיים, הן במישור העסקי והכלכלי והן במישור הפעילויות החברתיות, כולל היבטים סביבתיים. הרגולציה העולה מן המסמך נדרשת בסקטורים המוגדרים על ידי הפרלמנט האירופאי כבעלי השפעה גבוהה תוך התמקדות במגוון סוגי אפליקציותAI   ברמת אוטונומיות משתנה, והמוגדרות כבעלות סיכון גבוה לסוגי חשיפות שונות. חשיפות אילו כוללות לדוגמא הטייה בעולם הנתונים אשר יש בה כדי להפלות או לפגוע בפרטים או בתתי-אוכלוסויות מובחנות, כמו גם לסוגיות הקשורות בהשפעות הנגזרות  מאיכות ואופי הפרידקציות של אפליקציות אילו, בעיקר בקונטקסט חברתי – לדוגמא זכאות לדיור ציבורי או דירוג אשראי של פרטים.

האם הרגולציה רלוונטית?

התקופה הנוכחית מאופיינת במתח מובנה ומושרש בין שני וקטורים מנוגדי כיוון –וקטור הצמיחה המעריכית בשימוש בבינה מלאכותית מצד אחד, ומהצד השני וקטור ההתנגדות המסמל את החסמים המבניים הקיימים לשינוי וחדשנות במערכות הרגולציה והמשפט.

בפועל, קיים ויכוח בנוגע למהות ואופי הרגולציה הנדרשת בתחום ה-AI ובנוגע לרלוונטיות שלה. ידוע כי רגולטורים וקובעי מדיניות נוטים לרוב לפגר אחרי קצב האירועים הטכנולוגיים בכלל, ובתחום הבינה מלאכותית בפרט. אמנם, היוזמה האירופאית מבורכת, שכן היא מייצרת שיח תודעתי חשוב אשר השפעתו ניכרת כבר כעת והיא עתידה להוות סמן וציון דרך עבור רגולוטרים במדינות נוספות. יחד עם זאת, היא אינה נותנת מענה מפורט לשלל סוגיות אשר פתוחות עדיין והיא עדיין אינה עומדת בקצב הפיתוח האדיר בתחום.

מנגד, יש הטוענים שיש על החברות המפתחות או עושות שימוש במערכות AI, אחריות להשית על עצמן כללי פיקוח ורגולציה מחמירים ביישום טכנולוגיות AI. אולם, המוטיבציה של חברות ותאגידים עסקיים אלו לבצע פיקוח וכללי משילות עצמאיים מוטלת בספק כפול, הן בקיומה והן ביעילותה, שכן כללים אלו עשויים לפגוע ביכולות הצמיחה שלהן מעצם הסביבה התחרותית בה הן פועלות, לנוכח כוחות השוק המתמרצים תכופות חדשנות טכנולוגית. בנוסף, מן הראוי להדגיש כי תחום הבינה המלאכותית הוא עדיין צעיר ועדיין חסרים בו  סטנדרטים מקובלים ומוסכמים, כמו גם נוהלי עבודה לצורכי בקרה, למרות קצב הצמיחה המסחרר שלו.

מכאן, נדרש מבנה רגולטורי חדשני בעל יכולת אכיפה של ממש, המוגדרת מתוקף תקנות מחייבות שהפרתן תגרור קנסות כספיים – כפי שמוגדר כבר כעת במסמך הרגולציה האירופאית. זאת, בדומה לרגולציה דומה (GDPR) המתייחסת לסוגיות של פרטיות ואנונימיות המידע אשר חברות טכנולוגיות באשר הן, עושות בו שימוש לצרכים מסחריים.

שימוש מפוקח ב-AI

הרגולציה האירופית מקדמת שימוש מפוקח באפליקציות בינה מלאכותית, אשר מתייחס למבנה הבסיסי של מודלי AI, ששונה במהותו ממערכות מידע קלאסיות. האנטומיה הבסיסית של מערכות מבוססות AI כוללות שני מרכיבים עיקריים הזהים בחשיבותם – האחד הוא המודל האלגוריתמי והשני הוא עולם הנתונים, המונגש למודל לצורך תהליך האימון או ייצוג הנתונים.

בניגוד למערכות תוכנה קלאסיות הנבנות באופן שלא מחייב קיומם של נתונים היסטוריים בשלב הפיתוח, הרי שמערכות AI מחייבות שימוש בסט נתונים היסטורי רחב ומייצג ככל האפשר כדוגמת ביג דאטה. שינויים במאפייני הנתונים המוזנים  באופן סדיר למודלי ה-AI יכולים לגרום לטעויות קריטיות. במערכות AI תהליך האימון והלימוד של המודלים מתקיים באופן תדיר וללא הפסקה. סחף בהתפלגות נתונים קריטיים למודל יכול לגרום בסופו של דבר להדרדרות בביצועי המודל לאורך זמן. לכן, הדרדרות בביצועי מודל יכולה להיות מהותית בסביבה עסקית פיננסית, אולם הרת גורל בסביבה של אפליקציות דיאגנוסטיקה רפואית, העושות שימוש במידע קליני לצורך ניבוי הדרדרות חולים לדוגמא.

האם אנחנו מוכנים לרגולציה?

חברות אירופאיות וחברות שמנהלות תהליכים עסקיים עם האיחוד יידרשו לעמוד ברגולציה החדשה ולהציג יכולת של שימוש מפוקח במודלי ה-AI, הכולל אלמנט משמעותי של ניטור וגילוי שינויים בעולם הנתונים המוזנים. עבירה על כללי הרגולציה יכולה להוביל לקנסות, עד 6% מהמחזור הגלובלי.

החדשות הטובות הן, שכיום כבר ניתן לבצע ניטור של הנתונים הללו באמצעות כלים טכנולוגיים. כלים אלו מאפשרים נראות (observability) לתוך הנתונים וגילוי של שורש הבעיה הנעוצה בהדרדרות המודלים. חשוב לציין כי כלי ניטור מתקדמים מבצעים מעקב אחר תקינות מערכות ה- AI בסביבה יצורית תפעולית, מאפשרים לנהל את היסטורית גרסאות הנתונים ואפילו מספקים תובנות והצעות לפתרון בעיות, לפני שהן משפיעות על התוצאות העסקיות וללא צורך בבניה מחדש של כלל המודל.

ישראל, “אומת הסטארטאפ”, מתחילה להתעורר בימים אלו למציאות של רגולצית ה-AI. בדומה לרגולציית ה-GDPR שפרצה לתודעה של עולם הטכנולוגיה הישראלי מעט באיחור, גם במקרה זה אנחנו רואים כיום רק ניצנים ראשונים של הנעה לפעולה לעמידה בה. חברות טכנולוגיה ישראליות נדרשות לעירנות גבוהה לנושא אם ברצונן להמשיך את מומנטום הצמיחה שלהן. ראוי שיעיינו היטב ברגולציה ויאמצו את הכלים הנכונים שיאפשרו להן מצד אחד להמשיך להתקדם במהירות ולעמוד בחזית הטכנולוגית, ומצד שני לעמוד בכל הדרישות הרגולטוריות. חובת פיקוח זאת חלה גם על ארגונים וחברות העושות שימוש באפליקציות קריטיות מבוססות AI בסביבה תפעולית, כאשר לטיב ואיכות הנתונים המוזנים באופן סדיר למודל פרידקיציה לדוגמה, יש השפעה מכרעת על איכות וטיב הניבויים המופקים על ידו. ​

הכותב הינו מומחה לבינה מלאכותית ומרצה בפקולטה להנדסה באוניברסיטת תל אביב, מנכ”ל Data Science Group

 

כתב אורח

אנחנו מארחים מפעם לפעם כותבים טכנולוגים אורחים, המפרסמים כתבות בתחומי התמחות שלהם. במידה ואתם מעוניינים לפרסם פוסט בשמכם, פנו אלינו באמצעות טופס יצירת קשר באתר.

הגב

8 תגובות על "מהלך חדש של האיחוד האירופי בתחום ה-AI עלול לתפוס את הסטארטאפים הישראלים לא מוכנים"

avatar
Photo and Image Files
 
 
 
Audio and Video Files
 
 
 
Other File Types
 
 
 

* היי, אנחנו אוהבים תגובות!
תיקונים, תגובות קוטלות וכמובן תגובות מפרגנות - בכיף.
חופש הביטוי הוא ערך עליון, אבל לא נוכל להשלים עם תגובות שכוללות הסתה, הוצאת דיבה, תגובות שכוללות מידע המפר את תנאי השימוש של Geektime, תגובות שחורגות מהטעם הטוב ותגובות שהן בניגוד לדין. תגובות כאלו יימחקו מייד.

סידור לפי:   חדש | ישן | הכי מדורגים
אליס
Guest

עושים הכל כדי לשמר העדפות מתקנות, למרות שכל מודל הגיוני יפיק תוצאות שלא כוללות העדפות ע”ב גוון עור גיל או מגדר.
זה לקחת את הנטרליות של AI ולהטות אותה עד שיתקבל מודל שתואם את מה שאנחנו אוהבים להגדיר בתור מוסר פרוגרסיבי.
אם מישהו חשב שAI יפתור הטיות אנושיות, האנושות רק מוכיחה שהיא לא תוותר עליהם כל כך בקלות. דיכאון.

יוסי
Guest

שום קשר בין הכותרת לכתבה…הצעת חוק = ישראלים לא מוכנים? נו באמת

אחד שממש לא יודע
Guest
אחד שממש לא יודע

כי ה GDPR היה הצלחה כ״כ גדולה..

אמיר
Guest

וואו כ”כ הרבה מלל בלי קשר לכותרת, ובלי הסבר מה היא הרגולציה הזאת. רק רשום שהרגולציה מתייחסת להטייה בנתונים שיוצרת הפליה, אבל בלי שום מילה למהי הרגולציה הזאת, מה המדדים ואיזו אכיפה מתוכננת

יום יום
Guest

תודה. חסכת לי

צחי פדידה
Guest

הייתי אומר שזה כללי וגם הגישה היא הפחדתית. לקוחות של מוצר כזה (ויש כאלה מעטים בשוק) יותר מעוניינים לשמוע איך הם משפרים את המודלים שיהיו אפקטיביים יותר עבורם יותר מאשר עוד הפחדה. וזה כולל גם מוצרי אבטחה, נגמרו הימים שלקוחות מקשיבים לטקטיקות ״אם לא…״ הם רוצים לדעת במה אתה שונה ומה אתה נותן להם.

דני
Guest

רק האירופאים יודעים לשמור על הפרטיות של האסרחים שלהם

דני
Guest

רק האירופאים יודעים לשמור על הפרטיות של האזרחים שלהם

wpDiscuz

תגיות לכתבה: