מחקר: כלי נפוץ במערכת הבריאות האמריקאית מפלה לרעה מטופלים שחורים

עולם הרפואה יכול להרוויח לא מעט מהטמעה של טכנולוגיות מבוססות בינה מלאכותית למיניהן, אלא שמחקר חדש מראה כיצד כלי שרלוונטי ל-200 מיליון אמריקאים מידי שנה מפלה לרעה מטופלים על בסיס גזעני

מקור: Pixabay

גופים רפואיים ברחבי העולם נעזרים בשנים האחרונות יותר ויותר בטכנולוגיות הכוללות אלגוריתמי חיזוי ובינה מלאכותית על מנת לזהות ולסייע באופן מדויק ומהיר יותר למטופלים שלהם. אלא שמחקר חדש חושף שכלי שנמצא בשימוש נרחב בתעשייה ומשפיע על חייהם של מאות מיליוני חולים בארה״ב, מפלה לרעה מטופלים על בסיס הטיה גזעית.

יש פתרון והוא די פשוט

המחקר, שפורסם בגיליון האחרון של מגזין Science, מצא עדויות להטיה גזעית באלגוריתם הנפוץ שמוביל לכך שמטופלים בעלי עור כהה מזוהים כחולים פחות מחולים בעלי עור בהיר, וכתוצאה מכך – הם גם מקבלים טיפול רפואי פחות טוב.

שירותי בריאות משתמשים במערכת המדוברת על מנת לדעת לאילו מטופלים יש צרכים רפואיים מורכבים יותר, כדי שהם יוכלו לחלק ולמקד את הזמן והמשאבים המוגבלים ממילא בין כל המטופלים, בהתאם לצורך. לפי המחקר, האלגוריתם זיהה באופן מתמיד כי מצבם הרפואי של מטופלים שחורים טוב יותר מאלו של מטופלים לבנים, ולכן תשומת הלב של הצוות הרפואי הופנתה רובה ככולה אל המטופלים הלבנים.

ההטיה הגזעית הזו לא התבצעה בגלל שהקוד כלל הנחיה שאמרה לתעדף תמיד לבנים על פני שחורים, אלא מכיוון שהאלגוריתם מביא בחשבון את היסטוריית עלויות הוצאות הבריאות על המטופלים. כלומר, ההנחה היא שאם הוקצו משאבים רבים לטיפול בחולה מסוים, כנראה שהוא חולה יותר. בפועל, פחות תקציב הושקע לאורך השנים במטופלים שחורים למרות שיש להם את אותם הצרכים, ולכן האלגוריתם הסיק (באופן שגוי) כי הם בריאים יותר מחולים לבנים, שנמצאים במצב רפואי זהה או אולי אפילו טוב יותר. לפי החוקרים, ניסוח מחדש של האלגוריתם ושינוי החוקיות הבעייתית יוביל לכך שאחוז החולים השחורים שיקבלו טיפול טוב יותר יצמח מ-17.7% ל-46.5%.

לא האפליה הגזעית הראשונה ששמענו עליה

לפני קרוב לשנה חוקרים ב-MIT מצאו כי פלטפורמת ניתוח התמונות של אמזון, Rekognition נוקטת בגישה גזענית. לטענתם, המערכת נתקלה בקשיים כאשר נדרשה לזהות נשים, ויתרה מכך – נשים בעלות עור כהה. לדבריהם, בניסויים שהם ערכו במהלך שנת 2018, מנגנון ניתוח הפנים של אמזון זיהה נשים כגברים ב-19% מהמקרים, בעוד שהסיכויים של נשים בעלות עור כהה להימצא כגברים קפץ ל-31% מהמקרים. באמזון כמובן מיהרו להכחיש את ההאשמות, ונימקו את התוצאות בכך שנעשה שימוש לא נכון במנגנון ניתוח הפנים.

המקום שלכם לעדכן ולהתעדכן המקום שלכם לעדכן ולהתעדכן להצטרפות לקבוצת הפייסבוק הסגורה של גיקטיים, לחצו כאן

הילה חיימוביץ׳

גיקית, Deal With It

הגב

3 תגובות על "מחקר: כלי נפוץ במערכת הבריאות האמריקאית מפלה לרעה מטופלים שחורים"

avatar
Photo and Image Files
 
 
 
Audio and Video Files
 
 
 
Other File Types
 
 
 

* היי, אנחנו אוהבים תגובות!
תיקונים, תגובות קוטלות וכמובן תגובות מפרגנות - בכיף.
חופש הביטוי הוא ערך עליון, אבל לא נוכל להשלים עם תגובות שכוללות הסתה, הוצאת דיבה, תגובות שכוללות מידע המפר את תנאי השימוש של Geektime, תגובות שחורגות מהטעם הטוב ותגובות שהן בניגוד לדין. תגובות כאלו יימחקו מייד.

סידור לפי:   חדש | ישן | הכי מדורגים
אנונימי
Guest

“הטיה גזעית” זה לא “הטייה גזענית”; לא כתבתם משפט אחד ברור לגבי הטכנולוגיה המדוברת חוץ מלינק לסיינס.
אתם מוכרחים לשפר את הטרמינולוגיה והכיסוי העיתונאי שלכם ולהפסיק לבנות רק על קליקבייטים, זה ממש מוזיל את איכות המגזין ומייצר תחושה של תוכן בינוני שמהווה ריפוד לכתבות מממומנות ו”מתחמי מיתוג מעסיק”.

שם כלשהו
Guest

“מפלה לרעה” כל הניסוחים מציגים את זה כאילו זה היתה המטרה הגזענית בחסות הממשלה, בפועל זה אלגוריטם שלא היה מוגדר כמו שצריך וכשהבינו את הבעיה תיקנו.

מישהו
Guest

אה כאילו שאין יותר לבנים שיש להם כסף להוציא על בריאות בארהב וזה משפיע על הסטטיסטיקה. המציאות בארהב גזענית תיקון האלגוריתם הוא עבודה בעיניים

wpDiscuz

תגיות לכתבה: