דיווח: ווטסון של IBM נתן המלצות רפואיות שגויות ואף מסכנות חיים לחולי סרטן

מסמכים פנימיים חושפים כי IBM Watson Health המיועד למחלקות אונקולוגיות עשוי לגרום ליותר נזק מתועלת

מקור: Pixabay

בתחילת החודש סיפרנו לכם על תחרות שנערכה בסין במסגרתה רופאים ותיקים ובעלי ניסיון רב הובסו על ידי מערכת AI בכל הקשור לזיהוי מהיר ומדויק יותר של אבחנות רפואיות. אמנם מדובר בהישג מכובד, אבל לא היינו ממהרים להעלים את הרופאים האנושיים מהעולם; מסמכים פנימיים חושפים שמחשב העל של IBM, ווטסון, שנעשה בו שימוש במספר רב של בתי חולים ברחבי העולם, נתן המלצות רפואיות שגויות ולא בטיחותיות עבור חולי סרטן.

מה ההשלכות?

האתר הרפואי STAT שם ידו על מסמכים פנימיים שהוצגו בשנה שעברה על ידי סגן מנהל הבריאות הראשי של IBM Watson Health (לשעבר), המעידים על כשלונות לכאורה של המערכת. לפי הדיווח, המלצות הטיפול של מחשב העל היו ברוב המקרים לא מדויקות ולא רלוונטיות, ואף יכלו לסכן את חיי המטופלים.

דוגמא אחת לכשלון של המערכת היא מקרה של “גבר בן 65” שאובחן כחולה בסרטן ריאות, שגם סבל מדימום חמור. ווטסון הציע לאותו חולה על טיפול כימותרפי ונטילת תרופה בשם Bevacizumab. אלא שאם קוראים אם האותיות הקטנות, ניתן לראות שאותה תרופה יכולה לגרום לדימום חמור או קטלני, כך שמן הסתם לא מומלץ לתת אותה לסובלים מדימום חמור. הבשורות המעודדות הן שככל הנראה לא מדובר באדם אמיתי שקיבל טיפול שכזה, אלא במקרה בוחן של המערכת.

בחקירה שבוצעה על ידי STAT, עולה כי הבעיה טמונה ככל הנראה בכך שמערכת ה-AI אומנה ברשלנות. במקום להזין את המערכת בנתונים של חולי סרטן אמיתיים, מהנדסי החברה ורופאים העובדים במרכז לחקר הסרטן Memoial Sloan Kettering הזינו נתונים סינתטיים. כלומר, התוכנה התבססה על מספר קטן בלבד של מקרי סרטן של חולים היפותטיים, כך שההמלצות התבססו על המומחיות של כמה רופאים ספציפיים בלבד, ולא על תובנות של בינה מלאכותית.

מ-IBM נמסר בתגובה לחקירה שמערכת ווטסון לאונקולגיה אומנה כדי לסייע לאונקולוגים לטפל ב-13 סוגי סרטן, וכיום משתמשים בה כ-230 בתי חולים ברחבי העולם לטיפול ביותר מ-80,000 חולים. כמו כן, הם מוסיפים ואומרים כי הם למדו ושיפרו את המערכת בהתבסס על פידבקים שהתקבלו מלקוחות, עדויות מדעיות חדשות וטיפולים אלטרנטיביים.

הילה חיימוביץ׳

גיקית, Deal With It

הגב

3 תגובות על "דיווח: ווטסון של IBM נתן המלצות רפואיות שגויות ואף מסכנות חיים לחולי סרטן"

avatar
Photo and Image Files
 
 
 
Audio and Video Files
 
 
 
Other File Types
 
 
 

* היי, אנחנו אוהבים תגובות!
תיקונים, תגובות קוטלות וכמובן תגובות מפרגנות - בכיף.
חופש הביטוי הוא ערך עליון, אבל לא נוכל להשלים עם תגובות שכוללות הסתה, הוצאת דיבה, תגובות שכוללות מידע המפר את תנאי השימוש של Geektime, תגובות שחורגות מהטעם הטוב ותגובות שהן בניגוד לדין. תגובות כאלו יימחקו מייד.

סידור לפי:   חדש | ישן | הכי מדורגים
דניאל
Guest

אם בעולם הרפואה הנוכחי לא היה טעויות אז היינו נלחצים , קיימים הרבה רופאים טובעם אבל צערנו קיימים גם הרבה טעויות…הרבה…

דניאל
Guest

טובים…

אייל
Guest

חיקה רופא אמיתי

wpDiscuz

תגיות לכתבה: