האם המכונות ישתלטו ויחסלו את בני האדם? שאלנו את אחת הדמויות הנחשבות בעולם בתחום ה-AI

החדשות הטובות: אין צורך להתחיל לארוז. בנתיים

האם אחרי הדינזואורים ובני האדם יגיעו המכונות? (תמונה: Westworld)

היא מחזיקה באחד התפקידים הפחות שגרתיים באינטל, אוסטרלית במקור, בת לאנתרופולוגית ומהנדס מסידני ונחשבת לאחת הדמויות הנחשבות בעולם ה-AI. פרופ׳ ג׳נביב בל (Genevieve Bell) היא כנראה אחד ממקורות הידע המקצועיים הרלוונטים ביותר בעולם להשיב על שאלה שמסקרנת את כל חובבי המדע הבדיוני: מתי המכונות ישתלטו על העולם והאם הן יחסלו את המין האנושי?

השבוע במהלך כנס משקיעים שערכה אינטל בקליפורניה ביקשנו לפגוש אותה וקיווינו לקבל ממנה תשובות מקצועיות בנוגע לאחד התחומים שתופס בשנים האחרונות תאוצה, אבל מעורר גם לא מעט שאלות מטרידות על עתידו של המין האנושי – תחום האינטילגנציה המלאכותית.

אנחנו יכולים רק להניח שיצא לך לשמוע על סדרות כמו Altered Carbon, מראה שחורה ו-Westworld. אז בואי נגיע ישר לעניין: מתי הם משתלטים עלינו ומחסלים את האנושות?

בל: (צוחקת צחוק גדול). אני צופה בכל הסדרות הללו וזוכרת היטב גם את קודמיהן. האנושות התעסקה במשך עשרות שנים באופן כמעט אובססיבי בעתיד המכונות והרובוטים והשלב שבו הם משתלטים על בני האדם. הנקודה היא שאנחנו נוטים להשליך על מכונות דפוסי חשיבה של בני אדם וזה בעייתי. כלומר, אם רובוטים יחסלו את המין האנושי ביום מן הימים, זה יקרה רק אם המין האנושי יכוון אותם לשם, יתכנן אותם לעשות זאת.

בני האדם הם היצור המסוכן ביותר בכדור הארץ והם אחראים לזוועות האיומות ביותר שידע כוכב הלכת הזה, אנחנו לא זקוקים לרובוטים – אנחנו מסוכנים בעצמנו. יש לנו נטייה לחשוב תמיד באופן שלילי על האבולוציה של המכונות, כאילו שתודעה תגרום להם בהכרח לחסל את המין האנושי; אבל מה אם זה יגרום לדבר הפוך – להצלת המין האנושי, למתן עזרה למין האנושי, אולי הם יאמצו את הצדדים החיובים דווקא של התאהבות, אולי הם ירצו לשפר את העולם?

אנחנו נוטים להצמיד אליהם את התגית השלילית כי קל לנו לעשות את זה, להשליך אליהם – זה לא אנחנו שנחסל חלילה את עצמנו – זה הם. הם הרעים, הם יחסלו אותנו.

תבין – דרך המחשבה של מכונות היא שונה מזו של בני האדם. בן אדם מתפתח ויוצר דעות ותפיסות על בסיס מה שעבר בחיים, על בסיס החוויות האישיות שלו, העבר שלו, השורשים שלו, החינוך שלו, הגוף הפיזי שלו ואיך שהוא תופס אותו; אינספור מרכיבים שגורמים לו לפתח תודעה מאוד ספציפית ודעות מאוד ספציפיות – למכונות אין את זה, אפילו אם יפתחו תודעה.

את פרופ׳ לאנתרופלוגיה ומשמשת כאנתרופלוגית עבור אינטל, זה בערך התפקיד האחרון שהייתי חושב שחברת הייטק תזדקק לו.

בל: חברות הייטק מייצרות מוצרים לבני אדם, הן צריכות להכיר ולהבין בני אדם. מעבר לזה, הן עסוקות המון בתכנון לעתיד. כשאתה רוצה לקבל החלטות שנוגעות לעתיד אתה צריך להעסיק דמויות שבונות אסטרטגיה בנושאים שונים, אתה צריך מהנדסים אבל זקוק גם לאנשים שמתמחים בבני אדם ובמה שמניע אותם. יותר ויותר חברות הייטק מבינות את זה היום.

בעולם שמחובר לרשת, שבו כולם מעבירים ידע בזמן אמת כל הזמן – האם אנחנו קרובים ליום שבו נהפוך לעם אחד – שלא יהיו יותר מדינות, שפות שונות, שנהפוך באמת לתרבות אחת בלבד?

בל: לא.

ככה, חד משמעית?

בל: הקפטיליזם קיים בערך 100 שנים, המחשבים זמינים להמון בערך 50 שנה. תרבויות שונות קיימות אלפי שנים והן ימשיכו להתקיים לנצח. זה משהו אינהרנטי בקרב בני אדם, אנחנו תמיד נרצה לבדל את עצמנו מאחרים, תמיד יהיו ״האנשים שגרים ליד האגם״ ו״האנשים שחיים במגדל״, אנחנו תמיד נשייך את עצמנו לקהילה מסויימת ונבדל את עצמנו מאחרים על בסיס מיליון דברים שונים. זה יכול להיות מיקום גיאוגרפי, העדפות כאלה ואחרות. אני אגדיל ואומר שגם שפות שונות ימשיכו להתקיים עוד תקופה ארוכה ולא הולכות להיעלם למרות שאנחנו מעבירים היום מידע במהירות גדולה מאי פעם.

המכונות מלחיצות אתכם? בני אדם הם היצור הכי מסוכן בכדור הארץ (פרופ׳ בל, תמונה: אינטל)

מידי כמה זמן יש כמה buzz words בעולם הטכנולוגי שקשה להבין אם זה טרנד חולף או משהו שבאמת ישנה את העולם. בעת האחרונה זה בלוקצ׳יין, AI ו-Deep Learning. האם AI באמת צפוי לשנות את העולם?

ישנה המצאה שנהוג לתת כדוגמא כל פעם לקפיצה טכנולוגית ששינתה לחלוטין את העולם. מדובר במנוע הקיטור – אלא שמנוע הקיטור לא באמת שינה את העולם אלא הרכבת. אתה מבין, זה לא הפיתוח הטכנולוגי שיצר את המהפכה אלא היישום שלו בפועל. זה אותו הדבר עם AI. לקח בערך 200 שנים מאז הומצא מנוע הקיטור ועד שהונח ברכבת והוביל למהפכה. הפעם זה כבר לא יקח כל כך הרבה זמן כי מעבר הידע הוא מהיר הרבה יותר מבעבר.

כדי להבין עד כמה הרכבת שינתה את העולם צריך להבין שהיא מה שגרם לנו לפרש זמן כמו שאנחנו מכירים אותו היום. עד לאותה העת בני האדם נעו עם סוסים וסירות, אתה יוצא בנקודת זמן מסויים אבל לא ברור מתי בדיוק תגיע, יש הערכה כללית מאוד. ואז הגיעה הרכבת. היא יוצאת בזמן מאוד מדוייק ומגיעה בזמן מאוד מדוייק. מערך הרכבות מושתת על מערכת זמנים ברורה ומדוייקת. סימן ההיכר של תחנות רכבת בכל העולם הוא שעון ענק וזה לא מקרי. גרמניה היתה מורכת במשך שנים ממספר אזורי זמן שונים, למרות שמדובר באותה מדינה. מה שגרם לאזורים השונים במדינה להסכים על אזור זמן אחיד היתה הרכבת, היה צורך לייצר תקן שכולם עובדים על פיו וכך נולד הסטנדרט.

אותו הדבר עם AI. אנחנו נצטרך בשלב כלשהו לחשוב על סטנדרטים מסויימים ואחידים ל-AI, חוקים, כללים מסויימים שאנחנו נקבע שהם גבולות הגזרה.

שאלה אחרונה: כאנתרופלוגית שמתמחה ב-AI. האם את אופטימית בנוגע למין האנושי? אנחנו נמשיך להתקיים פה בעוד 100 שנים?

בל: (חושבת זמן ממושך), אין פה שאלה של אופטימיות או פסימיות. אני חושבת שאני מעדיפה להתמקד בלבנות עולם טוב יותר, אנחנו צריכים לפעול בעצמנו לקיים עולם טוב יותר, כי אנחנו קובעים את גורלנו.

הראיון התקיים במסגרת כנס המשקיעים השנתי של אינטל המתקיים בקליפורניה. הכתב הינו אורח הכנס.

רועי לטקה

גיק טכנולוגי עם נגיעות של תפוח, עדיף שיגיע נגוס. חי נושם וצורך טכנולוגיה באופן אובססיבי אך מדוד. קרימינולוג בהשכלתו, לוחם בפשע ובממסד באופן סימולטני. חובב כתיבה וקריאה, ונהנה לבחון באופן מדוקדק כל דבר שניתן לפרק לגורמים, ממוצרי טכנולוגיה ועד נפש האדם.

הגב

9 תגובות על "האם המכונות ישתלטו ויחסלו את בני האדם? שאלנו את אחת הדמויות הנחשבות בעולם בתחום ה-AI"

avatar
Photo and Image Files
 
 
 
Audio and Video Files
 
 
 
Other File Types
 
 
 

* היי, אנחנו אוהבים תגובות!
תיקונים, תגובות קוטלות וכמובן תגובות מפרגנות - בכיף.
חופש הביטוי הוא ערך עליון, אבל לא נוכל להשלים עם תגובות שכוללות הסתה, הוצאת דיבה, תגובות שכוללות מידע המפר את תנאי השימוש של Geektime, תגובות שחורגות מהטעם הטוב ותגובות שהן בניגוד לדין. תגובות כאלו יימחקו מייד.

סידור לפי:   חדש | ישן | הכי מדורגים
אדם
Guest

כתבה מעולה. נהנתי לקרוא כל פסקה, ראיון מעניין, חשוב ועדכני. תמשיך לכתוב לנו ולא רק לערוך.

בוגי
Guest

“כי אנחנו קובעים את גורלנו.” זהו AI יהיה מספיק חכם הוא יקבע הרבע מדברים, מכאן הוא יוכל לכוון את הדברים לתוצאות שהוא רוצה ולא אנחנו. פרופ׳ ג׳נביב בל אומרת בעצמה שאנושות מסוכנת אז למה שAI שיהיה חכם ממנה פי כמה לא יגיע לאותה מסכנה ובסופו של דבר יגרום להשמדנו כי מבחינה היגיונית אנחנו מזיק לכדור הארץ, לחיות עליו ולנו עצמינו .

saar
Guest

עוד מקרה פתטי של שילוב פמיניסטית דפרית חסרת תועלת בחברת הייטק כתוצאה מלחץ גורמים פמיניסטיים .

משה
Guest

אתה חי בעולם מאוד קטן….

Asaf Shelly
Guest

היא מעבירה את המצגות היותר טובות באינטל.

דd fsa
Guest

כתבה יפה. עונה לעניין למרות ולא כמו כל העתידנים שרק מחפשים ‘תשובות פיקנטיות’

אייל
Guest

כלומר AI בידים הלא נכונות שווה סכנה והרי ברור שזה יקרה, המשחק הוא כמו תמיד בסייבר – התקפה מול הגנה

אני
Guest

נהדר , כתבה מצויינת

עודד
Guest

כתבה יפה!

wpDiscuz

תגיות לכתבה: