8188486783 את מי המכונית האוטונומית שלך תחליט להרוג במקרה חירום? | גיקטיים

סוכן חכם
אישי ודיסקרטי

לוח משרות ההיי-טק
והטכנולוגיה של ישראל.

רוצים לדעת על משרות חדשות שמתאימות לכם?
תנו לנו לעבוד בשבילכם.
במקום לחפש משרות, קבלו אותן למייל ראשונים.

תודה רבה,
מעכשיו הסוכן האישי שלנו עובד בשבילך. בהצלחה:)
ההרשמה בוצעה בהצלחה
*הרשמה מאשרת לנו את תנאי השימוש
אני מאשר קבלת חומר פרסומי מגיקטיים וידוע לי כי באפשרותי לבקש הסרה מרשימת התפוצה בכל עת

את מי המכונית האוטונומית שלך תחליט להרוג במקרה חירום?

הפיתוח של רכבים אוטונומיים מעלה סוגיות מוסריות שאלגוריתם יצטרך להעניק להם מענה. מה קורה כשמכונית צריכה להחליט במי לפגוע בתרחישי בטיחות שונים?

כבר לא משחק

כבר לא משחק (תמונה: יח״צ BMW)

במשחק The Walking Dead של חברת טלטייל ישנה סצינה בה אנו בבית מרקחת מוקף זומבים ויש אפשרות להציל רק אחד משני האנשים שאנחנו נמצאים איתם. את שניהם אנחנו מכירים באופן רופף – אחד גבר ואחד אישה. לא משנה מה מחליטים, הלב והבטן מתכווצים על ההחלטה הקשה. זאת המכניקה שמובילה את כל המשחקים של החברה המצליחה שמעבדת יצירות מדיה (סרטים, סדרות, קומיקס) למשחקים – בחירות והתוצאות המזוויעות שלהן. בסוף כל פרק אנחנו מקבלים מסך שמראה סטטיסטיקות של כמה אנשים בחרו בחירה כזאת או אחרת. כל זה נשמע מאוד תיאורטי אבל בקרוב אולי נצטרך לתרגם את ההחלטות התיאורטיות האלו לאלגוריתמים שנכניס למחשבים וספציפית – למכוניות אוטונומיות.

תחום המכוניות האוטונומיות רותח. כולנו יודעים את זה ובכל יום מצטרפת עוד שחקנית גדולה לתחרות ליצירת מכונית אוטונומית מלאה. ישנן שותפויות עסקיות שנרקמות בין יצרני מכוניות, ענקיות טכנולוגיה וסטארטאפים וגם לחברות הנהיגה השיתופית יש לא מעט עניין בתחום. כך למשל, BMW, אינטל ומובילאיי חברו כדי להביא את היכולות הייחודיות שלהם (ייצור רכב, שבבי מחשב חזקים, ראייה ממוחשבת ולמידת מכונה) לידי ביטוי ביצירת מכונית אוטונומית מלאה. התחזיות מדברות על כך שבשנת 2020-2021 המכוניות האוטונומיות כבר יגיעו לשוק ובגדול – כ-10 מיליון רכבים כאלו יהיו על הכביש ב-2020. בדרך כמובן יש המון מכשולים ומחסומים חברתיים, פסיכולוגיים, חוקיים, הערכות מבחינת תשתית ועוד. אבל אחד מהנושאים הקשים שחברות, ארגוני תחבורה וממשלות מסרבים להתייחס אליהם בנחרצות הוא הסוגיות המוסריות הקשות.

אילו חיים יקרים יותר: של הנהג או של הולכי הרגל?

בואו נדמיין לעצמנו תרחישים שונים של מצבים מסכני חיים בהן מכונית אוטונומית מלאה תיאלץ לבצע החלטה שתקבע גורלות. נתחיל מזה שבמכונית יש תקלה או שהיא נתקלת בחפץ/מכשול לא צפוי ונאלצת לסטות בחדות ממסלולה. במקרים מסוימים ייתכן כי לא ניתן יהיה למנוע תאונה ובפני המכונית יעמדו מספר אופציות: להגן על הנהג בתוכה אבל לפגוע בהולכי הרגל או במכוניות אחרות? (מכונית תהיה יותר מוגנת מהולך הרגל אבל הנזק הסביבתי עלול להיות חמור יותר), לפגוע באדם יחיד בצד אחד או בקבוצת אנשים (האם יש כאן תשובה אבסולטית שתמיד צריך לבחור להרוג רק את האדם היחיד?), לפגוע באדם קשיש או בילד/תינוק? יש כמובן שאלות קלות יותר – הבחירה בין פגיעה ברכב חונה ללא בני אדם לעומת פגיעה באדם די ברורה. אבל לפעמים הבחירות הופכות למורכבות יותר כשצריך להחליט בין בני אדם.

קחו בחשבון משהו נוסף – מכוניות אוטונומיות בעתיד יהיו גם מכוניות מקושרות (connected cars) בעלות מערכות infotainment (מערכות המציעות מידע ובידור המותקנות במכונית). תחשבו על הסלולרי שלכם רק ברכב – המכונית האוטונומית תפנה לנהג הרבה זמן להתעסק בתחביבים או בעבודה. היא תציע לו גלישה באינטרנט, ברשתות חברתיות, באתרי מסחר אלקטרוני, בחנויות מסביב (שיותאמו לתחביבים שלו על בסיס המקומות שהוא נוסע אליהם) ועוד. זה אומר שהמכוניות יהיו בעלות מידע רב על הנהג בתוכן ואולי גם על הנהגים האחרים בסביבתן. האם במצבים קיצוניים כמו שתיארנו יהיה כדאי לפגוע בנהג/הולך רגל שהוא פושע/ביצע עבירות תחבורה רבות? האם נפגע באיש "רגיל" או באיש ציבור/מדען מפורסם? באיש שסובל מהרבה בעיות בריאותיות או באתלטים? השאלות המוסריות לא נגמרות.

אבל לא הכל אבוד – MIT וגופי מחקר אחרים מציעים פתרונות

כאן המקום בו נכנס המכון הטכנולוגי של מסצ'וסטס (MIT) ומציע "מכונת מוסר". באתר תצטרכו להחליט מה לעשות בתרחישים כמו אלו שציינו. תוכלו גם להתייעץ ולדון עם אחרים. מטרת MIT היא ליצור מאגר מידע מבוסס המונים שבו ירוכזו החלטות בנוגע לדילמות מוסריות כגון אלו שתיארנו. כיום אמנם מדובר בפרויקט אקדמי אבל כנראה שפרויקטים כאלו ישמשו כבסיס לאלגוריתמים עתידיים.

היכנסו הנה ותוכלו לשחק אלוהים בעצמכם ולהחליט מי יינצל ומי ימות. בסיום של המשימה תוכלו לראות סטטיסטיקה בנוגע לכמה אנשים וחיות נהרגו כתוצאה מהחלטותיכם. יש לכם אפילו אפשרות ליצור תרחיש משלכם ע"י האופציה Design.

"מכונת המוסר" התפתחה בעקבות מחקר משותף של MIT, מעבדת התרבות והמוסר של אוניברסיטת קליפורניה והביה"ס לכלכלה של טולוז. לטענתם אפילו שאין נכון ולא נכון במקרים כאלו, הדעה הציבורית תשחק תפקיד רציני. כדי לבחון מהי, הם הציבו דילמות אתיות לעובדי ״הטורקי המכני״ של אמזון (שירות המקשר בין עסקים לבין פרילנסרים במטרה שהאחרונים יבצעו מטלות שמחשבים מתקשים בהן) במטרה לגלות מה התפיסות הרווחות. גם כאן הוצגו תרחישים שונים והתוצאה הייתה מעט צפויה אך מטרידה – אנשים העדיפו שמכוניות אוטונומיות יתוכנתו כך שמספר ההרוגים יהיה מינימלי. עם זאת, הם לא רצו לרכוש מכוניות אוטונומיות "תועלתניות" (כלומר, תורמות לרווחה הכללית) שמעדיפות את בטחון הסביבה על פני בטחון הנוסעים בה. במילים אחרות, מכוניות אוטונומיות "תועלתניות" הן דבר נפלא כל עוד אנשים אחרים נוהגים בהן.

 

 

כדי לסבך עוד יותר את התמונה, ייתכן שבעתיד יצרני מכוניות אוטונומיות יציעו יותר מ"סגנון מוסרי" אחד (בדומה ל-settings שיש לכם בכל תוכנה/אפליקציה) לנוסעים בהן. מי אחראי אז במקרה של תאונה – הנהג שעשה בחירה כזאת מראש או יצרנית הרכב?

כמובן שחשוב לזכור שמטרת המכוניות האוטונומיות היא בעיקר למנוע את הכמות העצומה של תאונות שנגרמות בשל טעויות אנוש. רק בארה"ב מדובר על כמעט 40 אלף אנשים שמתים מתאונות שהנזק הכספי מהן הוא מעל טריליון דולר. במילים אחרות, האדם הוא הבאג במכונה. אילון מאסק, המנכ"ל של טסלה, טען בעבר נחרצות שבעתיד ייאסר על נהגים אנושיים לנהוג ברכב כי בעצם אי אפשר לסמוך עליהם עם "מכונת מוות ששוקלת שני טון". הדעה הציבורית כאן תשחק תפקיד מכריע. אם פחות אנשים ירכשו מכוניות אוטונומיות כי הם מתוכנתות להגן על הסביבה ולהקריב את היושבים בהן אז נישאר במצב הנוכחי בו ישנו מספר עצום של תאונות עם מכוניות רגילות ונהגים אנושיים.

ללא חקיקה מסודרת, מה שיקבע את עתיד המכוניות האוטונומיות הוא חוקי השוק וההעדפה של הצרכנים, וכמובן הלובי של חברות הרכב וענקיות הטכנולוגיה. בכל מקרה, מה שברור הוא שהגיע הזמן שנעבוד ברצינות על הסוגיות האלו ויפה תאונה אחת קודם (או עדיף, בלעדיה).

תרצו לקרוא עוד ניתוחים ודו"חות של חברי יחידת ה-Data Intelligence של גיקטיים? כנסו לאתר או לערוץ התוכן שלנו!

רינת קורבט

אנליסטית ביחידת המודיעין העסקי של גיקטיים. עבדה בעבר כמידענית ומומחית מודיעין תחרותי בחברות אלאופ, מידאטה ו-IVC. בוגרת תואר שני מהמחלקה ללימודי מידע של אוניברסיטת בר-אילן. בזמנה החופשי היא גיימרית, בלוגרית וחובבת תרבות ומדיה.

הגב

15 Comments on "את מי המכונית האוטונומית שלך תחליט להרוג במקרה חירום?"

avatar
Photo and Image Files
 
 
 
Audio and Video Files
 
 
 
Other File Types
 
 
 
Sort by:   newest | oldest | most voted
משה
Guest
אני חושב שהשאלה ׳את מי לחסל׳ לא תהיה קיימת מחמת זמן תגובה (הורדת נתוני האנשים על הכביש + התובנות המתבקשות). מאחר ומכוניות מהסוג הנ״ל יאכלסו את הכבישים, הרי שכל השאלות שהוצגו ורבות שלא הוצגו יקבלו מענה. לא בטוח שהתשובות יהיו מוצלחות ובטוח שהעולם יתחלק למחנות (שהרי אלו יהיו שאלות שינבעו מהעדפת אלגו׳ א׳ ע״פ ב׳ וללא ספק יהיה גם ג׳, ד׳, ה׳…) ברם חרף סוגיה זו – רכבים אלו יכסו את הכבישים בוודאות. אנחנו יכולים לראות את זה כבר היום: כל מי שידחוף את האצבע שלו לשקע החשמל בבית (נניח באמצעות מסמר) דינו יהיה אחד – ובכל זאת, בכל בית… Read more »
מ1.
Guest

מעניין, אבל אופטימי מידי.
לדעתי ב – 2025 רק יתחילו להיות מכוניות "עצמאיות" (ובטח לא "עצמאיות לחלוטין").
גם זה יקרה רק בחלק מהמקומות.
רוב הציבור ורוב המדינות יחכו עוד כחמש שנים, כדי "לראות שזה עובד".
וכל זה בהנחה שהמחיר לא יהיה "מטורף".

ido
Guest

שום אדם לא צריך לקחת את מוסר כזה לידיים ולהחליט.
לדעתי צריך לתת למכונית להחליט רנדומלית. מה שיהיה יהיה.

איש מחשבים
Guest

במחשב אין כזה דבר רנדומלי.

ido
Guest

מה מפריע להשתמש ברנדומליות ע"פ רעש אטמוספרי?
https://en.wikipedia.org/wiki/Random.org

סתם
Guest

אם המכוניות האוטונומיות לא יעשו הכל כדי להגן על הנהג אז אנשים יהססו להשתמש בהם וכל דחייה בשימוש ובתפוצה של מכוניות כאלו וזה יעלה ביותר חיי אדם ממה שזה יהרוג ולכן אין שאלה בכלל וחייבים תמיד להגן על הנהג. נזק סביבתי זה תמיד כמות על איכות כשבעלי חיים לא נספרים בתור איזושהי כמות. כל השאר זה הטלת מטבע אחרת זה נכנס לתחום של כימות שווי של בנאדם ואף אחד לא רוצה להיכנס לפינה הזאת.

Alon
Guest

די פשוט, מי שישלם עבור שירות הפרימיום ינצל

עומר
Guest

גאוני

יצחק
Guest

ב"ה

שבוע טוב

האמת שכבר תורת ישראל דנה על כל המצבים המובאים כאן ובאופן פרטני

לדוגמה יחיד ורבים, אז התשובה ברורה שטובת הרבים חשובה יותר.

זקן או צעיר אז יש דיון בהלכה מה קורה במקרה שיולדת במצב סכנה וניתן להציל רק אחד מהם, אז ההלכה פוסקת שכל זמן שהתינוק לא הוציא את הראש מותר להציל את היולדת על חשבון התינוק, אבל במקרה שהוא כבר הוציא את הראש אז אסור להתערב כי יש להם את אותו משקל.

וכן הלאה לגבי כל הדיונים האלה, ובמקור כמובן זה מגיע עם הסבר מפורט למה חייב להתנהג דווקא באופן זה ולא אחר למרות שלפעמים במבט ראשון חושבים אחרת.

עומר
Guest

אולי בסוף עוד יצא משהו טוב מהיהדות הזה.

נועם
Guest

נכון סוגיות ארוכות מאוד מהן הזכרת כאן רק את קצה הקרחון.
בלי ספק כשמחפשים אלגוריתמים למוסריות לא צריך להמציא את הגלגל מחדש כאשר הכל כבר נידון
ארוכות על ידי אנשים שהקדישו את כל חייהם להבנה ודיוקים במוסר האנושי (המתגמד לנוכח המוסר
האלוקי אותו הם באמת ניסו להבין)
כי בסופו של דבר אין חדש תחת השמש.

ריי קורטצוויל
Guest
ריי קורטצוויל

חשוב לגדל את המכוניות ברוח היהדות- יהיו גם מכוניות כשרות שלא נוסעות בשבת( חוץ מפיקוח נפש )

אני
Guest

רכבל מהרכבת אל המרכז ובחזרה.
פתרון יחסית פשוט שלא ייפגע בתשתיות קימות, ויפתור את בעית המרחק בין הרכבת למרכז עצמו.

גנב דעת
Guest

לפחות תתנו קרדיט ליובל הררי…

wpDiscuz

תגיות לכתבה: