למה הבינה המלאכותית מסוכנת לציוויליזציה [דעה]
נשיא ארה׳׳ב מסרב להאמין לסכנות הבינה המלאכותית – עד שהוא נמעך על ידי רובוט זועם. נשמע כמו תסריט לגיטימי להוליווד, השאלה אם בז’אנר מדע בדיוני, או דווקא כסרט דוקומנטרי. המגה-יזם אילון מאסק מנסה לצלצל בכל הפעמונים ולהזהיר: הבינה המלאכותית מסוכנת לציוויליזציה
מקור: Pixabay
מאת דרור גלוברמן, NEXTER
“נחשפתי לבינה מלאכותית מהסוג המתקדם ביותר, ואני חושב שאנשים צריכים להיות מאוד מוטרדים. אני מצלצל בכל פעמוני האזהרה, אבל עד שאנשים לא יראו רובוטים דוהרים ברחובות והורגים אנשים, הם לא יידעו איך להגיב”. זה מה ששמע ולא מעט מושלי מדינות בארה”ב מאילון מאסק, האיש שייסד את פייפאל ואת חברת המכוניות טסלה.
משרד הפנים או פייסבוק?
זבאבום. “סיכום יסודי לקיום הציוויליזציה”. “רובוטים דוהרים ברחובות והורגים אנשים”. הוויכוח האם הבינה המלאכותית שתתפוס עצמאות ותעכל את הציוויליזציה האנושית הוא אחד הגדולים בזירה הטכנולוגית-מדעית. האם מה שחברות כמו גוגל, IBM ומיקרוסופט מפתחות כרגע יכול להתפתח לסוג כזה של טכנולוגיה? האם “בינה מלאכותית” של העתיד היא ישות עצמאית עם מודעות ורצונות? האם היא תרצה בכלל לחסל את האנושות? המדענים עוד מתווכחים. כבר היום יש מחשבים שממציאים בעצמם שפות תכנות חדשות שרק הם יודעים להשתמש בהן – אבל בסוף הכל עדיין מונע על ידי בני אדם. אבל על דבר אחד אין ויכוח – הטכנולוגיה, לא פחות משהיא נותנת הזדמנויות ותורמת לשוויון בין האנשים, נותנת כוח עצום לבעליה וליוצריה ובעצם מגדילה במהירות את הפערים בין מי שיש לו (גישה לטכנולוגיה, כמשתמש וכיוצר) ומי שאין לו. וכאן נכנסת שאלה נוספת: האם נכון לצפות מהמדינה לעזרה?
לא לטעות: הטכנולוגיות החדשות לא מייתרות את המחוקק ואת הממשלה. אנחנו צריכים אותם עכשיו יותר מאי פעם – משכילים, זריזים ונחושים. הנה דוגמה: אנחנו צריכים את המחוקק שייצג את האינטרסים של הציבור מול יצרני המכוניות האוטונומיות. אם פשוט נזרוק את המכוניות האלה לכביש, נקבל קטסטרופת צפיפות ובטיחות. אבל אם המדינה תארגן היטב את כניסת האוטונומי, נקבל כבישים בטוחים יותר וערים צפופות פחות. זה נכון גם בענייני פרטיות מול רשתות חברתיות ובעוד אלף תחומים, ואם שואלים את מאסק, זה נכון שבעתיים בבינה מלאכותית.
הרבה אנשים עדיין טועים לחשוב שהטכנולוגיה היא המפלט שלהם מהממשלה ומהתאגידים, שהיא החופש לדבר ולקנות וליצור, לפרסם ולהתפרסם כשהממשלה לא רואה. זה נכון, אבל זו אפילו לא חצי הכוס המלאה וגם לא רבע. בין חברות מסחריות ובין ממשלות מתלהטת תחרות עזה על כוח כלכלי וטכנולוגי, בין היתר במטרה לשלוט טוב יותר בציבור. נכון לעכשיו, המטוטלת נוטה דרמטית לכיוון חברות מסחריות (גוגל, פייסבוק, אמאזון וכו’), שמשאירות אבק למדינות. המדינות מדדות מאחוריהן בהשגת טכנולוגיה ובהתאמת החוקים למציאות המשתנה, ואפילו מאבדות גובה מבחינה כלכלית. אז מי שולט בנו יותר? משרד הפנים או פייסבוק? אנחנו, האזרחים, צריכים ללהטט בין השניים, ולהשתדל שאף צד לא יגבר על השני.
הביומטרי ממשיך לפשל
אין גאלה: גם כשנותנים למדינה טכנולוגיה חזקה מדי זה מסוכן. תראו מה קורה בביומטרי. המדינה הקימה מאגר ניסיוני עם המון הגבלות. לפי החוק היא היתה כבר חייבת למחוק אותו, אבל כמובן שמה שקורה הוא הפוך. אחרי הסמס המחוצף ששלח שר הפנים דרעי לכל אזרחי המדינה, שבו הילל את עצמו על חשבוננו תוך ניצול ללא רשות של מאגר המספרים הסלולריים; אחרי התורים הבלתי אפשריים והטיסות שמתבטלות, עוד פשלת פרטיות תוקפת את רשות האוכלוסין: מאות כתובות מייל של פונים לקבלת דרכון חדש דלפו השבוע לעיני כל. אז אנחנו שואלים שוב: על אלה אתם רוצים לסמוך עם המידע הכי אישי, פרטי ובלתי הפיך שלכם?
אבל יכול להיות שזה קשקוש. שהבינה המלאכותית תתפתח מאוד אבל לעולם לא תסכן אותנו. בינתיים הממשל של טראמפ מגלה אפס עניין בשטויות האלה. אין לדעת איך זה ייגמר. אבל תודו שנשיא ארה”ב שמסרב להאמין לסכנות הבינה המלאכותית עד שהוא נמעך על ידי רובוט זועם – נשמע כמו תסריט לגיטימי להוליווד. השאלה אם בז’אנר מדע בדיוני, או דווקא כסרט דוקומנטרי.
הכתבה פורסמה לראשונה ב-NEXTER
לקריאה נוספת:
NEXTER
הגב
14 תגובות על "למה הבינה המלאכותית מסוכנת לציוויליזציה [דעה]"
* היי, אנחנו אוהבים תגובות!
תיקונים, תגובות קוטלות וכמובן תגובות מפרגנות - בכיף.
חופש הביטוי הוא ערך עליון, אבל לא נוכל להשלים עם תגובות שכוללות הסתה, הוצאת דיבה, תגובות שכוללות מידע המפר את תנאי השימוש של Geektime, תגובות שחורגות מהטעם הטוב ותגובות שהן בניגוד לדין. תגובות כאלו יימחקו מייד.
איזה אוסף שטויות ודוגמאות שמבהירות יפה שבני אדם הם הסכנה ולא מכונות…
יש הרבה בעיות מורכבות שעולות ביחד עם בינה מלכותית אבל כתיבה נטולת הבנה בסיסית של הטכנולוגיה והסכנות האמיתיות רק מזיקה.
הרעיון של ״התמרדות רובוטים״ הוא מגוכח מבחינה טכנית. זה כיף לראות הת המטריקס אבל צריך להבין שזה לא מציאות אפשרית. סכנות מידיות נמצאות בידי אנשים בלבד. צריך רגולציה. מכוניות אוטונומיות יצילו עשרות אלפים שמתים ללא צורך בתאונות דרכים!
הם יפטרו את בעיית החניה והפקקים בערים הגדולות ואת בעית זיהום האוויר כי יהיה קל לעבור לרכב חשמלי (שולחים את האוטו להטען).
ממליץ לך בשלב ראשון להשתמש באינטליגנציה המלאכותית של בודק השגיאות. כתוב בצורה מחפירה ולא ברורה. ומלא בשטויות.
ניהיתם וואלה? מאמר שהכתורת שלו היא “למה הבינה המלאכותית מסוכנת” והתשובה היא “רובוטים שרצים באיילון והורגים אנשים”… בושה.
מצחיק שפרסמו את זה בדיוק כשסיימתי לקרוא “מאמר” בנושא (תקראו לזה איך שתרצו).
https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
אני ממליץ מאוד לקרוא הכל (כולל החלק השני כמובן).
לגבי הכתבה (או יותר נכון, לגבי מה שהכותב מנסה לומר, לדעתי): לצערי ממשלות עסוקות מידי באינטרסים וכל אחד דואג לתחת של עצמו.
תודה על המאמר שבלינק,
הוא ממש מעניין
מסכים לחלוטין עם המגבים מעליי כתבה שעושה לא טוב לשם של הכתב ! כתבה מלאה באי דיוקים שקצרה היד מלכתוב !
דרור, אתה לא משהו בכתיבה.
חבל.
מלא בשטויות סוציאליסטיות. “הטכנולוגיה יוצרת פערים”, הממשלה צריכה לחנוק את השוק החופשי, הטבעי והבריא עם רגולציה של מחוקקים טפשים, ועוד יומיים הרובוטים ירצחו את הנשיא. מי הכותב? למה הוא לא מזכיר את שמו? ולמה הוא כותב שטויות?
אכן גיבוב של הבלים. מה שמתאים לנקסטר לא מתאים מיידית לקוראים כאן (למשל איזה שפת תוכנה כתבה בינה מלאכותית שאנשים לא מבינים?)
That Terminator is out there.
It can’t be bargained with, it can’t be reasoned with.
It doesn’t feel pity or remorse or fear
and it absolutely will not stop, ever, until you are dead.
הסכנות הן לא טרמינטור סטייל אלא בכך שישנם קשיים גדולים בלהגדירלכתוב תוכנה שתבצע משהו בצורה האופטימלית וע”י כך היא תבחר מבלי לתכנן מראש לפגוע, דוגמא חביבה ופשוטה:
צריך להפריד בין כמה תרחישים אפשריים
1 התפתחות טכנולוגית של מערכות בינה מלכותית עד להבנה שבני האדם הם אויב.בשלב הזה מדע בידיוני
2. פיתוח וירוסים מבוססי בינה מלכותית.
3. זיהום מערכות בינה מלכותית מורכבות. דמינו שוירוס פוגע במערכת הנהיגה של רכבים אוטונןמים או במערכת הבינה המלוכותית של גוגל, אני חושב ששם הנזק יכול להיות ממשי מתאונות דרכים ועד כאוס אמיתי בכול השרותים שגוגל מספקת.
בעולם שבו לא מצליחים לפקח על דברים פשוטים כמו תכנים פיראטים, איך אפשר לפקח על טכנולוגיה כזו?
יותר פשוט לקרוא אסימוב.