למה הבינה המלאכותית מסוכנת לציוויליזציה [דעה]

נשיא ארה׳׳ב מסרב להאמין לסכנות הבינה המלאכותית – עד שהוא נמעך על ידי רובוט זועם. נשמע כמו תסריט לגיטימי להוליווד, השאלה אם בז'אנר מדע בדיוני, או דווקא כסרט דוקומנטרי. המגה-יזם אילון מאסק מנסה לצלצל בכל הפעמונים ולהזהיר: הבינה המלאכותית מסוכנת לציוויליזציה

מקור: Pixabay

מאת דרור גלוברמן, NEXTER

"נחשפתי לבינה מלאכותית מהסוג המתקדם ביותר, ואני חושב שאנשים צריכים להיות מאוד מוטרדים. אני מצלצל בכל פעמוני האזהרה, אבל עד שאנשים לא יראו רובוטים דוהרים ברחובות והורגים אנשים, הם לא יידעו איך להגיב". זה מה ששמע ולא מעט מושלי מדינות בארה"ב מאילון מאסק, האיש שייסד את פייפאל ואת חברת המכוניות טסלה.

לפני שבוע דיברתי על מנכ"לים שמגבילים את הילדים שלהם מפני טכנולוגיה עכשווית. כאן יש לנו מנכ"ל שרוצה להגן על כולנו מפני טכנולוגיה עתידית. ולא סתם מנכ"ל – אלא כנראה המנכ"ל הכי נועז ומהפכני בעולם הטכנולוגיה. הוא עומד מאחורי לא מעט טכנולוגיות ורעיונות פורצי דרך באופן קיצוני, כמו הספייס-איקס והייפר-לופ (תכל'ס, ב-1999 גם פייפאל היה פורץ דרך). כדי שהוא יבוא ויזהיר מפני הטכנולוגיה ועוד יקרא למחוקק להתערב מראש, לפני שזה קורה? כנראה שאנחנו מדברים על תרחיש יותר קיצוני מקיצוני.
"בינה מלאכותית היא המקרה הנדיר שבו המחוקק צריך ליזום ולא רק להגיב, כי עד שנספיק להגיב עם רגולציה מתאימה לבינה המלאכותית, זה יהיה מאוחר מדי. המצב הנוכחי, שבו הממשלות מתערבות רק אחרי שקורים לא מעט דברים רעים, לא יכול לתפוס לגבי בינה מלאכותית, כי היא מציבה סיכון יסודי לקיום הציוויליזציה".

משרד הפנים או פייסבוק?

זבאבום. "סיכום יסודי לקיום הציוויליזציה". "רובוטים דוהרים ברחובות והורגים אנשים". הוויכוח האם הבינה המלאכותית שתתפוס עצמאות ותעכל את הציוויליזציה האנושית הוא אחד הגדולים בזירה הטכנולוגית-מדעית. האם מה שחברות כמו גוגל, IBM ומיקרוסופט מפתחות כרגע יכול להתפתח לסוג כזה של טכנולוגיה? האם "בינה מלאכותית" של העתיד היא ישות עצמאית עם מודעות ורצונות? האם היא תרצה בכלל לחסל את האנושות? המדענים עוד מתווכחים. כבר היום יש מחשבים שממציאים בעצמם שפות תכנות חדשות שרק הם יודעים להשתמש בהן – אבל בסוף הכל עדיין מונע על ידי בני אדם. אבל על דבר אחד אין ויכוח – הטכנולוגיה, לא פחות משהיא נותנת הזדמנויות ותורמת לשוויון בין האנשים, נותנת כוח עצום לבעליה וליוצריה ובעצם מגדילה במהירות את הפערים בין מי שיש לו (גישה לטכנולוגיה, כמשתמש וכיוצר) ומי שאין לו. וכאן נכנסת שאלה נוספת: האם נכון לצפות מהמדינה לעזרה?

לא לטעות: הטכנולוגיות החדשות לא מייתרות את המחוקק ואת הממשלה. אנחנו צריכים אותם עכשיו יותר מאי פעם – משכילים, זריזים ונחושים. הנה דוגמה: אנחנו צריכים את המחוקק שייצג את האינטרסים של הציבור מול יצרני המכוניות האוטונומיות. אם פשוט נזרוק את המכוניות האלה לכביש, נקבל קטסטרופת צפיפות ובטיחות. אבל אם המדינה תארגן היטב את כניסת האוטונומי, נקבל כבישים בטוחים יותר וערים צפופות פחות. זה נכון גם בענייני פרטיות מול רשתות חברתיות ובעוד אלף תחומים, ואם שואלים את מאסק, זה נכון שבעתיים בבינה מלאכותית.

הרבה אנשים עדיין טועים לחשוב שהטכנולוגיה היא המפלט שלהם מהממשלה ומהתאגידים, שהיא החופש לדבר ולקנות וליצור, לפרסם ולהתפרסם כשהממשלה לא רואה. זה נכון, אבל זו אפילו לא חצי הכוס המלאה וגם לא רבע. בין חברות מסחריות ובין ממשלות מתלהטת תחרות עזה על כוח כלכלי וטכנולוגי, בין היתר במטרה לשלוט טוב יותר בציבור. נכון לעכשיו, המטוטלת נוטה דרמטית לכיוון חברות מסחריות (גוגל, פייסבוק, אמאזון וכו'), שמשאירות אבק למדינות. המדינות מדדות מאחוריהן בהשגת טכנולוגיה ובהתאמת החוקים למציאות המשתנה, ואפילו מאבדות גובה מבחינה כלכלית. אז מי שולט בנו יותר? משרד הפנים או פייסבוק? אנחנו, האזרחים, צריכים ללהטט בין השניים, ולהשתדל שאף צד לא יגבר על השני.

הביומטרי ממשיך לפשל

אין גאלה: גם כשנותנים למדינה טכנולוגיה חזקה מדי זה מסוכן. תראו מה קורה בביומטרי. המדינה הקימה מאגר ניסיוני עם המון הגבלות. לפי החוק היא היתה כבר חייבת למחוק אותו, אבל כמובן שמה שקורה הוא הפוך. אחרי הסמס המחוצף ששלח שר הפנים דרעי לכל אזרחי המדינה, שבו הילל את עצמו על חשבוננו תוך ניצול ללא רשות של מאגר המספרים הסלולריים; אחרי התורים הבלתי אפשריים והטיסות שמתבטלות, עוד פשלת פרטיות תוקפת את רשות האוכלוסין: מאות כתובות מייל של פונים לקבלת דרכון חדש דלפו השבוע לעיני כל. אז אנחנו שואלים שוב: על אלה אתם רוצים לסמוך עם המידע הכי אישי, פרטי ובלתי הפיך שלכם?

אבל יכול להיות שזה קשקוש. שהבינה המלאכותית תתפתח מאוד אבל לעולם לא תסכן אותנו. בינתיים הממשל של טראמפ מגלה אפס עניין בשטויות האלה. אין לדעת איך זה ייגמר. אבל תודו שנשיא ארה"ב שמסרב להאמין לסכנות הבינה המלאכותית עד שהוא נמעך על ידי רובוט זועם – נשמע כמו תסריט לגיטימי להוליווד. השאלה אם בז'אנר מדע בדיוני, או דווקא כסרט דוקומנטרי.

הכתבה פורסמה לראשונה ב-NEXTER

לקריאה נוספת:

אנחנו רוצים אחד: מסך מגע שקוף לבית

סוף סוף: התמונות בוואטסאפ ייראו הרבה יותר טוב

NEXTER

הגב

14 Comments on "למה הבינה המלאכותית מסוכנת לציוויליזציה [דעה]"

avatar
Photo and Image Files
 
 
 
Audio and Video Files
 
 
 
Other File Types
 
 
 
Sort by:   newest | oldest | most voted
השם שלי קצר מידי
Guest
השם שלי קצר מידי

איזה אוסף שטויות ודוגמאות שמבהירות יפה שבני אדם הם הסכנה ולא מכונות…
יש הרבה בעיות מורכבות שעולות ביחד עם בינה מלכותית אבל כתיבה נטולת הבנה בסיסית של הטכנולוגיה והסכנות האמיתיות רק מזיקה.

הרעיון של ״התמרדות רובוטים״ הוא מגוכח מבחינה טכנית. זה כיף לראות הת המטריקס אבל צריך להבין שזה לא מציאות אפשרית. סכנות מידיות נמצאות בידי אנשים בלבד. צריך רגולציה. מכוניות אוטונומיות יצילו עשרות אלפים שמתים ללא צורך בתאונות דרכים!
הם יפטרו את בעיית החניה והפקקים בערים הגדולות ואת בעית זיהום האוויר כי יהיה קל לעבור לרכב חשמלי (שולחים את האוטו להטען).

אלכס
Guest

ממליץ לך בשלב ראשון להשתמש באינטליגנציה המלאכותית של בודק השגיאות. כתוב בצורה מחפירה ולא ברורה. ומלא בשטויות.

O_o
Guest

ניהיתם וואלה? מאמר שהכתורת שלו היא "למה הבינה המלאכותית מסוכנת" והתשובה היא "רובוטים שרצים באיילון והורגים אנשים"… בושה.

איתי
Guest

מצחיק שפרסמו את זה בדיוק כשסיימתי לקרוא "מאמר" בנושא (תקראו לזה איך שתרצו).

The AI Revolution: The Road to Superintelligence


אני ממליץ מאוד לקרוא הכל (כולל החלק השני כמובן).

לגבי הכתבה (או יותר נכון, לגבי מה שהכותב מנסה לומר, לדעתי): לצערי ממשלות עסוקות מידי באינטרסים וכל אחד דואג לתחת של עצמו.

מתן
Guest

תודה על המאמר שבלינק,
הוא ממש מעניין

פלוני
Guest

מסכים לחלוטין עם המגבים מעליי כתבה שעושה לא טוב לשם של הכתב ! כתבה מלאה באי דיוקים שקצרה היד מלכתוב !

מתן
Guest

דרור, אתה לא משהו בכתיבה.
חבל.

hag
Guest

מלא בשטויות סוציאליסטיות. "הטכנולוגיה יוצרת פערים", הממשלה צריכה לחנוק את השוק החופשי, הטבעי והבריא עם רגולציה של מחוקקים טפשים, ועוד יומיים הרובוטים ירצחו את הנשיא. מי הכותב? למה הוא לא מזכיר את שמו? ולמה הוא כותב שטויות?

ירוחם
Guest

אכן גיבוב של הבלים. מה שמתאים לנקסטר לא מתאים מיידית לקוראים כאן (למשל איזה שפת תוכנה כתבה בינה מלאכותית שאנשים לא מבינים?)

דביר
Guest
מסכים לגמרי שהבינה המלאכותית העתידנית תביא להרס וחורבן כי תמיד יהיה מי שיקח את זה לצד השלילי וסקרנות האדם לראות מה יקרה אם… יש סידרה שנקראת מראה שחורה שמשקפת יפה את ההשפעה השלילית של הטכנולוגיה על האדם, אומנם היא בדיונית בחלקה אבל קל לראות באיזה קלות אנו עשויים להגיע למצב דומה. מי שקרא את הכתבה כמו שצריך יכול להבין שהכותב טוען שהרכבים האוטונומיים כן כדאיים אך בתנאי שממשלות יערכו ויחוקקו חוקים וגבולות גם לטכנולוגיה. מספיק כמה האקרים שבעזרת שימוש זדוני וכמה מניפולציות ( מוסך שכוונתו ליצור כאוס, או פיגוע המוני ) יחליט שהוא משנה את המערכת ויוצר תאונות איומות. אם… Read more »
Kyle Reese
Guest

That Terminator is out there.
It can't be bargained with, it can't be reasoned with.
It doesn't feel pity or remorse or fear
and it absolutely will not stop, ever, until you are dead.

aafsdfsdf
Guest

הסכנות הן לא טרמינטור סטייל אלא בכך שישנם קשיים גדולים בלהגדירלכתוב תוכנה שתבצע משהו בצורה האופטימלית וע"י כך היא תבחר מבלי לתכנן מראש לפגוע, דוגמא חביבה ופשוטה:

אני
Guest

צריך להפריד בין כמה תרחישים אפשריים
1 התפתחות טכנולוגית של מערכות בינה מלכותית עד להבנה שבני האדם הם אויב.בשלב הזה מדע בידיוני
2. פיתוח וירוסים מבוססי בינה מלכותית.
3. זיהום מערכות בינה מלכותית מורכבות. דמינו שוירוס פוגע במערכת הנהיגה של רכבים אוטונןמים או במערכת הבינה המלוכותית של גוגל, אני חושב ששם הנזק יכול להיות ממשי מתאונות דרכים ועד כאוס אמיתי בכול השרותים שגוגל מספקת.

בעולם שבו לא מצליחים לפקח על דברים פשוטים כמו תכנים פיראטים, איך אפשר לפקח על טכנולוגיה כזו?

נועם
Guest

יותר פשוט לקרוא אסימוב.

wpDiscuz

תגיות לכתבה: