אפקט ג׳ורג׳ פלויד? IBM תפסיק לפתח ולהשתמש בטכנולוגיות זיהוי פנים

הענקית האמריקאית הודיעה כי לא תמשיך לפתח טכנולוגיות זיהוי פנים, עקב הפוטנציאל שלה לאפליה ולשימוש לרעה על ידי גורמים שונים מסביב לעולם

IBM

מקור: IBM

בשבועות האחרונים, אדמתה של ארה״ב בוערת בעקבות הריגתו של ג׳ורג׳ פלויד. אל המחאות של האזרחים הצטרפו גם ענקיות הטכנולוגיה השונות שספגו לא מעט ביקורת על התפקיד שהמוצרים שלהן ממלאים במהלך השנים בקביעת סדר היום. אחת מהטכנולוגיות, שזכתה במהלך השנים לביקורת רבה, היא טכנולוגיית זיהוי הפנים – בעקבות ההטיות הגזעניות שלה, והשימוש שעושים בה כוחות החוק ברחבי העולם. עתה מודיעה IBM כי תפסיק לעסוק בפיתוח ובשימוש של כל טכנולוגיית זיהוי הפנים.

טכנולוגיה מרשימה עם השלכות בעייתיות

ארווינד קרישנה, מנכ״ל IBM, שלח מכתב לקונגרס בו הוא מונה את ההצעה והדרך שלו לקידום שוויון גזעי בארה״ב. לצד הצעות לשיפור והצהרות בנוגע לכך שהחברה תמשיך לעודד גיוון תעסוקתי, הוא מתייחס לחשיבות של שימוש מושכל בטכנולוגיית זיהוי פנים על ידי גופי הביטחון, ומכריז כי החברה החליטה לזנוח את כל פועלה בתחום זה.

״IBM כבר לא מציעה תוכנה לזיהוי או ניתוח פנים. החברה מתנגדת בתוקף ולא תתיר שימוש בכל טכנולוגיה כזו, כולל טכנולוגיית זיהוי פנים המוצעת על ידי ספקים אחרים, לצורך פיקוח ציבורי, קיטלוג גזעי, הפרה של זכויות אדם וחירויות בסיסיות, או לכל מטרה שאינה עולה בקנה אחד עם הערכים והעקרונות שלנו״, כותב קרישנה. הוא מוסיף ואומר כי בינה מלאכותית הינה כלי עוצמתי שיש לו יתרונות רבים, בהם שמירה על בטחון האזרחים, אבל על הספקים והמשתמשים במערכות הללו לנקוט אחריות, ולוודא שזו שומרת על אובייקטיביות ולא מוטית לטובת או נגד קבוצת אוכלוסייה כזו או אחרת.


אפליה מבוססת AI: על הצד הפחות חיובי של בינה מלאכותית

”לפני שאתם מאשימים את ה-AI בגזענות, תציצו רגע במראה”


יש לציין כי לא מדובר בחששות נטולות כל בסיס, שכן לאורך השנים פורסמו מחקרים שחשפו כיצד מערכות זיהוי פנים מבוססות AI לקו בהטייה שהובילה לאפליה גזעית, בהן גם מערכת ה-Rekognition של אמזון. לטענת חוקרים ב-MIT, המערכת של אמזון נתקלה בקשיים כאשר היא נדרשה לזהות נשים, בעיקר נשים בעלות עור כהה; מנגנון ניתוח הפנים של אמזון זיהה נשים כגברים ב-19% מהמקרים, בעוד שהסיכויים של נשים בעלות עור כהה להימצא כגברים קפץ ל-31% מהמקרים. אגב, בכלי דומה מתוצרת IBM, סווגו 17% מנשים בעלות עור כהה כגברים, ומיקרוסופט יצאה המדויקת ביותר עם סיווג שגוי שכזה ב-1.5% מהמקרים בלבד. ימים ספורים לאחר שפורסמו תוצאות המחקר הזה, IBM הודיעה על השקת כלי זיהוי פנים חדש ומשודרג שהוזנו בו מיליון תמונות אנושיות במטרה להפוך אותו למגוון ומדויק יותר.

המהלך האחרון של IBM מתווסף לכיוון חדש שניסתה לנקוט במהלך השנים האחרונות – שימוש נכון והוגן יותר בטכנולוגיה לזיהוי פנים, שכנראה לא ממש צלח. עם זאת, לפי דיווחים, חטיבת זיהוי הפנים של IBM לא נחשבה למובילה או רווחית במיוחד, כך שלצד ההחלטה האתית, לא צפויה החברה לסבול בהיבטים הכלכליים של ההחלטה.

Avatar

הילה חיימוביץ׳

גיקית, Deal With It

הגב

8 תגובות על "אפקט ג׳ורג׳ פלויד? IBM תפסיק לפתח ולהשתמש בטכנולוגיות זיהוי פנים"

avatar
Photo and Image Files
 
 
 
Audio and Video Files
 
 
 
Other File Types
 
 
 

* היי, אנחנו אוהבים תגובות!
תיקונים, תגובות קוטלות וכמובן תגובות מפרגנות - בכיף.
חופש הביטוי הוא ערך עליון, אבל לא נוכל להשלים עם תגובות שכוללות הסתה, הוצאת דיבה, תגובות שכוללות מידע המפר את תנאי השימוש של Geektime, תגובות שחורגות מהטעם הטוב ותגובות שהן בניגוד לדין. תגובות כאלו יימחקו מייד.

סידור לפי:   חדש | ישן | הכי מדורגים
מיליארד סמארטפונים כן עוקבים
Guest
מיליארד סמארטפונים כן עוקבים

בגלל שהיא לא מבחינה ב50 גוונים של שחור לא ישתמשו בה לתפיסת פושעים לבנים? לא יותר פשוט להפסיק זיהוי פנים של שחורים ולהשאיר את של הלבנים? עוד חברה שבמקום להגיד נכשלנו מפסיקים לשפוך כסף על מחלקה לא ריווחית, מתכסים באמתלה מצפונית כדי להפסיק לדמם.

אלעד
Guest

איך איש צר מוחין כזה הגיע לנהל את הפיל הלבן הזה?

שם כלשהו
Guest

הם לא היחידים בתחום והוויתור שלהם לא משנה דבר, לא רוצים שגורמים בעיתיים ישתמשו במוצר שלכם? אל תמכרו להם
או הם רומזים שהגורם הבעיתי הוא הממשלה או שזה לא יותר מתרוץ לצמצם מחלקה של פרויקט בלי לספוג ביקורת על פיטור מאות עובדים.

דויד
Guest

לא נורא, יש חברות אחרות שישמחו למכור את הטכנולוגיות שלהן.

...
Guest

נשים שחורות מזוהות יותר כגברים, כי…. המערכת גזענית? אוקיי.

פסדר
Guest

בשלב הבא שיפסיקו להשתמש בסכיני מטבח כי זה כלי שיכול לשמש לביצוע פשעים.

חברה מוסרית
Guest

הטפת מוסר מהחברה שסייעה לנאצים לממש את הפתרון הסופי

יוסי
Guest

בדיחה , אדם שחור אכן קשה יותר לזיהוי , יחד עם זאת איפה הגזענות פה?
זאת פשוט המציאות ..
IBM מצאה סיבה להפסיק פרוייקט נכשל ..

wpDiscuz

תגיות לכתבה: