התאונה הקטלנית של אובר: התוכנה התעלמה בכוונה מהולכת הרגל

דיווח חדש גורס כי אובר סיימה את חקירת התאונה והגיעה למסקנה כואבת במיוחד: הולכת הרגל זוהתה על ידי המערכת, אך התעלמה ממנה כמו מחפץ

מקור: Arizona Police

בחודש מרץ האחרון אובר נאלצה לעצור את כל הפעילות של כלי הרכב האוטונומיים שלה בעקבות תאונה קטלנית, בה נהרגה הולכת רגל בת 49 בשם איליין הרצברג אשר ככל הנראה התפרצה לכביש בשעות חשיכה. לפי דיווח של The Information, אובר סיימה את החקירה שלה בנושא התאונה והגיעה למסקנות: מערכת הרכב זיהתה את הרצברג בזמן, אך החליטה להתעלם ממנה בכוונה תחילה, וזאת עקב טעות בסיווג.

הולכת הרגל סווגה כחפץ זניח על הכביש

מערכת הנהיגה האוטונומית של אובר (ושל כל רכב אוטונומי למעשה), סורקת ומזהה עצמים שונים בסביבת הרכב, ומקבלת החלטות בנוגע לאופן הפעולה של הרכב כאשר הוא מתקרב אליהם. הרכב לא מתוכנת לעצור בכל פעם שהוא עומד לקראת פגיעה בכל חפץ כמו קופסה או שקית ניילון. אלו הם עצמים שמזוהים כלא מאיימים, ועל כן הרכב לא בולם לקראתם, זאת כדי לא ליצור חווית נהיגה מעיקה בה הרכב בולם כתוצאה מכל עצם קטן שנקלט בדרכו. במקרה של התאונה, הרצברג זוהתה על ידי מערכת הרכב בהצלחה, אך מסיבה לא ברורה סווגה כ”לא איום”, וכתוצאה מכך, הרכב החליט שלא לנקוט בפעולה מונעת שהיא.

מסרטון התאונה ששוחרר על ידי משטרת טמפה עולה כי נהגת הניסוי ישבה מאחורי ההגה, אך דעתה הייתה מוסחת והיא לא הסתכלה על הכביש ברגעים הקריטיים של התאונה. במסגרת ניסויי רכב אוטונומי, חברות לרוב מחזיקות שני נהגי ניסוי בכל רכב בכל עת, אך במקרה של אובר, הייתה רק נהגת אחת ברכב.

מאז התאונה, אובר הפסיקה את הפעילות של חטיבת כלי הרכב האוטונומיים שלה ועובדת עם מחלקת הבטיחות של משרד התחבורה האמריקאי במסגרת החקירה. זאת לאחר ששכרה את שרותיו של ראש אותה מחלקה לשעבר, כריסטופר הארט, כדי שיסייע לחברה. בסוף חודש מרץ, רויטרס דיווח כי אובר הגיעה לפשרה עם משפחת ההרוגה, אם כי תנאי הפשרה טרם פורסמו.

עידן בן טובים

נולד עם ג׳ויסטיק ביד. יש לו הרבה יותר מדי גאדג׳טים והרבה פחות מדי זמן פנוי כדי לשחק עם כולם. בעל פטיש לא מוסבר לביצוע קליברציות לסוללות של מכשירים. כשהוא לא עסוק בלכתוב על טכנולוגיה, הוא אוהב לדבר עליה, והרבה

הגב

16 תגובות על "התאונה הקטלנית של אובר: התוכנה התעלמה בכוונה מהולכת הרגל"

avatar
Photo and Image Files
 
 
 
Audio and Video Files
 
 
 
Other File Types
 
 
 

* שימו לב: תגובות הכוללות מידע המפר את תנאי השימוש של Geektime, לרבות דברי הסתה, הוצאת דיבה וסגנון החורג מהטעם הטוב ו/או בניגוד לדין ימחקו. Geektime מחויבת לחופש הביטוי, אך לא פחות מכך לכללי דיון הולם, אתיקה, כבוד האדם והדין הישראלי.

סידור לפי:   חדש | ישן | הכי מדורגים
עודד
Guest

זה רק אומר שמערכת הנהיגה האוטומטית לא מוכנה לנהיגה בשטח ציבורי. המערכת צריכה חיישנים יותר חכמים לזהות מכשולים כן מאיימים לאומת מכשולים לא מאיימים. למערכת אין חיישנים מתאימים ותוכנה מספיק בשלה. זה ברור. אי אפשר שעל כל תרחיש שהמערכת לא בשלה, יהרג הולך רגל. צריך להוציא חוק שיוריד את הרכבים הללו מהכביש עד שהמערכת תיהיה ברמה גבוהה יותר משל נהג מנוסה.

יאיר
Guest

באמת צריך חוק כזה. כי הם כבר הרבה מעל הרמה הזאת, והגיע הזמן שיאשרו להם להסיע נוסעים ולא רק בניסוי

צהוב
Guest

תיקון: “זה רק אומר שמערכת הנהיגה האוטומטית *של אובר* לא מוכנה לנהיגה בשטח ציבורי.”

בלטה
Guest

ממש ממש לא נכון.

קודם כל, כבר היום מרבית המערכות האלה (של גוגל, טסלה, אינטל/מובילאיי וכו’) טובות ובטוחות בהרבה מהנהג האנושי הממוצע.

בנוסף, גם אם הדרישה היא להיות בטוח יותר מנהג מנוסה וזהיר מאד (בניגוד לנהג ממוצע), זה לא מצב שאפשר להגיע אליו במעבדה. נסיעות נסיוניות (עם נהגים אנושיים שמפקחים מקרוב) בכבישים אמיתיים עם כלי רכב אמיתיים ונהגים אמיתיים הם הדרך היחידה לשפר את המערכות האלה ולדאוג שהן ייהפכו להיות (כמעט) בטוחות לחלוטין.

אני
Guest

אם זה מערכת ניסויית אז שיציבו שני נהגים ויבצעו בקרה על הריכוז שלהם לא רק אחרי תאונה. רוב הנהגים לא מסוגלים לשמור על ריכוז זמן ארוך כשהם לא נוהגים. אם אתה טוען שלצורך פיתוח המערכת חייבים ניסויים בתנאי כביש אז בסדר, אבל כל עוד זה ניסויי צריך משנה זהירות. לא להתיר לנהג משגיח לדוגמה לנהוג יותר משעה רצוף, ולבדוק כל הזמן בעזרת מצלמות שהנהג ערני. מי שלא ישמור על ערנות, להחליף בנהג אחר (לצאת מנקודת הנחה שלא כל אחד מסוגל למטלה הזאת)

ASD
Guest

זה רק אומר שאתה מדבר שטויות.

קודם כל, כמו שאמר קודמי – מדובר במערכת של אובר. אז אין צורך להכליל.
דבר שני, אתה מניח שהמערכת צריכה להיות מושלמת והיא ממש לא, היא פשוט צריכה להיות טובה יותר מבני האדם ועד כה אחוז התאונות נמוך משמעותית כשיש AI ברכב ולא בן אנוש.

back to the sketch board
Guest

הדיבורים על זה שאחוז התאונות נמוך משמעותית הם לא יותר מדמגוגיה של החברות הייצרות אותן- במילים אחרות שקרים שמאכילים אנשים כמוך
בגדול זה סטטיטיקה מפוברקת פשוט כי אין מספיק נתונים ואלא שיש נמדדו במצבים סינטטים יחסית( 2בלילה- מאונטיין ויו )
כל סטטיסטקאי מתחיל יודע שצריך הרבה נתונים בשביל תוצאות אמיתיות
בקיצור זה שתצטט את אנשי השיווק של החברות לא משכנע אותי

מני
Guest

אין שום מערכת מעשה ידי אדם, ותהיה חכמה ככל שתהיה, שתהיה חסינה בפני תקלות. אין חיה כזאת.
לכן שאף אחד לא יתפלא אם תאונות ימשיכו לקרות גם אם כל הרכבים בעולם יהיו אוטונומים

אורח
Guest

המטרה היא *לא* אפס תאונות.
המטרה היא פחות תאונות מנהג אנושי.

back to the sketch board
Guest

ניסיתי כמה מהרשתות הכי מתקדמות שיש היום( הכל בgithub )- ההישג די מדהים אבל זה גם היה מאוד משעשע לראות איך המחשב פוסק בהחלטיות על תמונה של תיבת דואר תמימה וטוען בתוקף שזו בעצם כבשה
פחות משעשע זה ששמים את הרשת הזאת במכונית ששוקלת 2 טון ונותנים לה לקבל החלטות

Tomer
Guest

אז מה תגיד על טייס אוטומטי במטוסים?

אין ספק בכלל שצריך לקחת לאנשים את הרישיון ולתת אותו למחשב (או מערכת), עובדתית ימותו פחות אנשים.

אני
Guest

טייס אוטמטי זה הרבה יותר פשוט מנהג אוטומטי

Daniel
Guest

לעומת לא לאומת

עידו כסלו
Guest

אנשים שוכחים שסטטיסטית, מספר התאונות האוטנומיות כל כך זניח בהשוואה לתאונות רגילות שזה פשוט פשע שאנחנו עדיין לא נוסעים במכוניות כאלה. אנחנו עומדים לעשות שוב את אותה טעות עם הצפלין, רק בקנה מידה גדול ומשמעותי יותר. כמו עם מכוניות אוטונומיות, גם צפלין היה בטיחותי יותר ממטוס, ורק אינטרסים פוליטיים (צפלין הייתה חברה גרמנית שהתנגדה לנאציזם) גרמו לתאונה מפורסמת אחת להרוג את התחום לחלוטין. אי אפשר אפילו להתחיל להבין כמה חיי אדם יינצלו בעקבות מעבר למכוניות אוטנומיות.

סטטיסטיקה מפוברקת
Guest
סטטיסטיקה מפוברקת

אף אחד לא מתנגד- הטכנולוגיה לאוטונומיות מלאה כנראה פשוט עדיין לא שם
להערכת רב המומחים זה יקח לפחות 12 שנים עד שתבשיל
אבל מה זה חשוב מה המומחים אומרים העיקר זה שהמניה של “אובר” תעלה

Asaf Shelly
Guest

בתעשיות הבטחוניות כבר הרבה מאד שנים יש כפילות של מערכות שמקבלות החלטות.
לא צריך לשחרר מוצרים כאלה לשוק עד שהמערכות שלהם מסוגלות לזהות כשלים כאלה בזמן אמת.
רכב אוטונומי הוא כלי נשק במשקל טון שמסוגל להגיע ל 150 קמ”ש ומסתובב בין אנשים וילדים לא מוגנים ונשלט לחלוטין על ידי תוכנה.
כמו זה: https://m.ynet.co.il/Articles/5223427, רק בשטח אזרחי לחלוטין.

wpDiscuz

תגיות לכתבה: