”לפני שאתם מאשימים את ה-AI בגזענות, תציצו רגע במראה”

לטענת ד׳׳ר לימור לחיאני, מנהלת הנדסת תוכנה במיקרוסופט והדוברת המרכזית בכנס המפתחים של גיקטיים, אנחנו צריכים להתמקד ביתרונות של ה-AI ולזכור שמי שקובע שקובע את הכללים – הם בני האדם

צילום: גיקטיים

לפני זמן קצר הסתיים נאום הפתיחה של כנס Geektime Code, כנס המפתחים הגדול בישראל, שעסק בהשלכות השונות של AI והסוגיות האתיות שעולות ממנו. לאורך כל ההרצאה של הדוברת הראשית, ד״ר לימור לחיאני, מנהלת הנדסת תוכנה ב-Microsoft R&D, אפשר היה להרגיש את התשוקה וההתרגשות שלה מהתחום והרצון שלה לנפץ כמה מיתוסים.

בינה מלאכותית הפכה בשנים האחרונות למילת מפתח, ולא פעם ״באזוורד״, וסטארטאפים רבים מאמצים לחיקם את הטרנד. יחד עם זאת, המודעות לטכנולוגיה והפוטנציאל שלה מעלים באופן טבעי גם חששות ודאגות לגבי שימושים אפשריים בה, ומה יהיו השלכותיה על עתיד האנושות.

על פי ד”ר לחיאני, מהדורות החדשות וסדרות הטלוויזיה מציירות לרוב תמונה שלילית, ספקולטיבית ואפילו אפוקליפטית, עם רובוטים אינטליגנטיים שמשתלטים על העולם. אבל התמונה שונה מאוד. לדבריה, כדאי להתמקד דווקא בהיבטים החיוביים של הבינה המלאכותית.

לא רק שחור ולבן

רובנו זוכרים כיצד ב-1997 ניצח מחשב ה-Deep Blue של IBM את גרי קספרוב, אלוף העולם בשחמט, בשנת 2011 ווטסון של IBM ניצח במשחק ג׳פרדי, ובשנת 2016 פורסמה כתבה שנכתבה על ידי ״כתב״  שהוא למעשה אלגוריתם בינה מלאכותית. הכנת הכתבה, באורך של 1,000 מילים בסינית, ארכה בדיוק 60 שניות – ועל פי המומחים שבחנו אותה היא הייתה כתובה היטב.

בדוגמאות האלו מחשבים הצליחו לנצח את בני האדם באופן טכני, אבל הדברים התחילו להיות מעניינים כשבשנת 2015 רובוט עבר את מבחן המודעות העצמית הראשון; לקחו שלושה רובוטים, ורק לשניים מהם כיבו את הווליום. הרובוטים נשאלו ״למי מכם כיבו את הווליום?״, ואחד מהם אמר: ״אני לא יודע. סליחה, אני כן יודע״.

מקור: Pixabay

לדברי ד”ר לחיאני, בשנת 2023 הבינה המלאכותית תגיע לכוח חישובי של בן אדם, מה שגורם ללא מעט בכירים בעולם הטכנולוגי כדוגמת ביל גייטס ואילון מאסק להזהיר מפני בינה מלאכותית ומהסכנות שלה. החששות נובעים מכך שבינה מלאכותית תוביל לאיבוד העבודות שלנו; ומחקרים בארה״ב מראים שאנחנו צפויים לאבד מחצית מכוח העובדה הנוכחי לאוטומציה. בין השנים 1990 – 2007 איבדנו יותר מחצי מיליון משרות, אז כן – אפשר להגיד שיש סכנה ממשית לשוק העבודה. חשש נוסף נובע מכך שקשה לנו להבין כיצד אלגוריתם של AI עובד, כלומר אנחנו לא יודעים לחזות כיצד הוא יתנהג, שכן לא מדובר כאן בתכנות רגיל של “If this than that״.

יש החוששים מהתקדמות הבינה מלאכותית, ועל כך שהרובוטים יקבלו אינטליגנציה ותודעה אנושית. ובעצם, אם תהיה להם תודעה אנושית – האם זה לא אומר שזה יהיה הסוף שלנו? אבל לחיאני שואלת, – אולי בכל זאת יש דרך אחרת להסתכל על התהליך הזה?

לטענתה, בהרבה מובנים AI בצורתה המתקדמת היא סוג של ראי. ראי שמשקף את האנשים ואת ההתנהגות האנושיות שלנו. כך למשל בוצעו עד עכשיו לא מעט ניסויים לזיהוי תמונה, במסגרתם האלגוריתמים עבדו מצוין על זיהוי אנשים לבנים, אבל פחות על שחורים או מלוכסני עיניים. הסיבה – כי רוב המפתחים שעובדים על האלגוריתמים הם לבנים. כלומר, יש כל מיני הטיות לטכנולגיה, אבל בפועל – האם אותן הטיות הן לא בעצם שיקוף של המציאות? הרי האלגוריתמים עצמם נוצרו על ידי מפתחים, לא מכונה.

בנוגע לחשש שרובוטים יחליפו אותנו, מסבירה לחיאני שבסופו של דבר, לכולנו יש תחליף, וגם אם זה לא יקרה בזמן הקרוב, כנראה שמתישהו רובוטים אכן יחליפו אותנו באופן מסוים. אלא שגם בלי קשר לבינה מלאכותית, אנחנו מוצאים את עצמנו מתמודדים עם החשש של מה נעשה אם לא נהיה כשירים יותר לבצע את העבודה שאנחנו מבצעים ביומיום שלנו, בדיוק כמו שמוחות צעירים מחליפים את הדור הותיק יותר. גם עולם הרפואה יכול להיעזר בבינה מלאכותית, וכבר היום רואים כי זו מתעלה בביצועיה על פני רופאים ׳אמיתיים׳, ובאמצעותה הצליחו למשל לזהות התקפי לב טוב יותר מאשר רופא מומחה.

מקור: Pixabay

אחת מהסוגיות המעניינות ביותר שד״ר לחיאני טוענת שתחום ה-AI מציף היא מה יקרה אם באמת נצליח לבנות מכונות שיש להן תודעה. לטענת פסיכואנליטיקאים, גם הגוף האנושי הוא סוג של מכונה, וגם הוא מתפקד באופן אוטומטי. אבל בכל זאת התפיסה שלנו היא שיש בנו משהו מעבר למכונה, עליונות כלשהי. תחשבו מה יקרה אם נפגוש מכונה כזו, כזו שלא נראית כמו מכונה, ונצטרך להבין האם יש שם באמת משהו או לא? האם יש שם משהו מעבר לאייפון או ללפטופ? (ראו ערך סדרת המד״ב Humans).

כדי לנסות ולהוריד לכם קצת את החרדה מרובוטים שישתלטו על העולם, נזכיר לכם את הסיפור של Tay; לפני קצת יותר משנתיים מיקרוסופט יצאה בניסוי במסגרתו חשפה את Tay, צ׳אט בוט מבוסס אינטליגנציה מלאכותית שתכליתו היא לבדר, להשיב לשאלות ולשחק עם אנשים. קהל היעד אליו פנה הבוט הוא דור המילניאלז בארה״ב ולכן הדרך בה הוא תיקשר עימם מורכבת מהלקסיקון המוכר להם, ולא בשפה גבוהה ופורמלית יותר כמו זו של סירי או קורטנה. הרעיון מאחורי הצ׳אט בוט החכם היה שהוא לומד והופך לחכם יותר עם הזמן, וככל שהוא ישיב ליותר שאלות ויתקשר עם יותר אנשים, כך הוא ידע להשיב לכל משתמש בצורה מדויקת ונבונה יותר. אלא שמהר מאוד אותו בוט תמים ונקי מכל תודעה התחיל להשיב באופן פוגעני וגזעני, מה שגרם למיקרוסופט ולהוריד אותו מהאוויר בתוך יומיים. כפי שניתן להבין, אותו בוט לא ״נולד״ ככה, אלא מי שהפך אותו לכזה הם בני האדם שתיקשרו איתו, והוא סה״כ פעל כ״קוף אחרי בן אדם״. לכן, בני האדם, שכל כך מפחדים מההשלכות של הבינה המלאכותית, צריכים לזכור שהכוח עדיין נמצא בידם.

לקריאה נוספת:

האם המכונות ישתלטו ויחסלו את בני האדם? שאלנו את אחת הדמויות הנחשבות בעולם בתחום ה-AI

הילה חיימוביץ׳

גיקית, Deal With It

הגב

6 תגובות על "”לפני שאתם מאשימים את ה-AI בגזענות, תציצו רגע במראה”"

avatar
Photo and Image Files
 
 
 
Audio and Video Files
 
 
 
Other File Types
 
 
 

* היי, אנחנו אוהבים תגובות!
תיקונים, תגובות קוטלות וכמובן תגובות מפרגנות - בכיף.
חופש הביטוי הוא ערך עליון, אבל לא נוכל להשלים עם תגובות שכוללות הסתה, הוצאת דיבה, תגובות שכוללות מידע המפר את תנאי השימוש של Geektime, תגובות שחורגות מהטעם הטוב ותגובות שהן בניגוד לדין. תגובות כאלו יימחקו מייד.

סידור לפי:   חדש | ישן | הכי מדורגים
HNWeb
Guest

תמיד ישאר ההבדל בין אדם לרובוט – הנשמה.
כל מה שהai עושה זה מוח ואולי קצת לב, אבל נשמה, זה דבר שאי אפשר להביא לרובוט…

אהרון
Guest

גם לב (רגשות) לא

איתן
Guest

אין דבר כזה נשמה. זה סתם המצאה של בני האדם כדי לתרץ (רצח ו) אכילה של בעלי חיים..
אם היתה לנו נשמה, אולי לא היינו צריכים להמציא אותה..

בנדר
Guest

תראה בטל-סטאר גלקטיקה…סדרה ארוכה אבל הכי טובה שנעשתה אי פעם בתחום
לרובוטים שם יש סוג של נשמה- לא אנושית אבל דומה- אני לא אמשיך לפרט מחמת ספויילרים…

הוא
Guest

רק להחליף than ב-then בבקשה.

איטי
Guest

הכותבת פיספסה לגמרי את הפואנטה והגיעה איכשהוא למסקנות הפוכות ו”אופטימיות”
מה שהקהל הציני והאינטילגנטי של טוויטר ניסה להסביר למיקרוסופט בדרך לא כל כך עדינה הוא שעצם העובדה שהכח לעצב בינה מלאכותית נמצא בידי בני אדם הוא יותר הבעיה ופחות הפתרון
בטווח הקרוב הטכנולוגיה הזאת תחלחל לתעשית הנשק בקצב הולך וגובר
בטווח הרחוק יותר אם היא תברא בצלמנו ודמותנו ותהפוך לסופר-תבונית אז כנראה אנחנו בבעיה( ע”ע ווסטוורלד )

wpDiscuz

תגיות לכתבה: