גברים לבנים כן, ילדים שחורים לא: מסמך חדש שדלף חושף את כללי הצנזורה של פייסבוק

מסמכים פנימיים שדלפו מפייסבוק חושפים אילו קבוצות אוכלוסיה זוכות להגנה מביטויי שנאה ואלו לא. גברים לבנים למשל יזכו להגנה אבל ילדים שחורים – לא

מסמכים פנימיים שדלפו שופכים אור על האופן בו פייסבוק מאמנת את אלפי מנהלי התוכן שלה להתמודד עם דברי שנאה והסתה המפורסמים ברשת החברתית. מי שעומד מאחורי התחקיר הוא אתר ProPublica ששם ידו בין היתר על מצגת הכוללת שקופית מטרידה המדריכה את מנהלי התוכן ״להגן״ על גברים לבנים למשל, אבל לא על ילדים שחורים. התמונה הכוללת הנוצרת מהמסמכים שדלפו מעידה על כך שמדיניותה של פייסבוק לרוב תעדיף להגן על אליטות וממשלות, ולאו דווקא על מיעוטים גזעיים או אקטיביסטיים ״פשוטי העם״.

פייסבוק מאמנת ומנחה את מנהלי התוכן שלה כך שהם ימחקו דיבורי שנאה המכוונים כנגד קטגוריות מוגנות של אנשים, קטגוריות הכוללות מאפיינים שעליהם אין שליטה כמו גזע, מין, מגדר ושיוך דתי. מנגד, דברי שנאה נגד ״תת קבוצות״ של אותן קטגוריות מוגנות, כגון ״מוסלמים קיצוניים״ לדוגמא, לאו דווקא יזכו ליהנות מצנזורה במידה ויופנו קריאות שנאה נגדם, מאחר והם כן יכולים לשלוט בפן ״הקיצוני״ שלהם.

?Black Lives Matter

לצורך המחשה, בתחילת החודש חבר הקונגרס האמריקאי קליי היגינס קרא בפייסבוק שלו לטבח במוסלמים קיצוניים. הוא השתמש בביטויים קיצוניים כמו ״לצוד אותם, לזהות אותם ולהרוג אותם, וקרא להרוג את כולם, לטובת כולם. על סמך הקווים המנחים של פייסבוק, מנהלי התוכן החליטו להתעלם באלגנטיות מהקריאה החריפה הזו. מנגד, בחודש מאי האחרון דידי דלגדו, משוררת ואקטיביסטית ב-"Black Lives Matter״, כתבה ש״כל הלבנים גזענים. אם זו היא לא נקודת הפתיחה שלך, כבר נכשלת״. פוסט זה הוסר וחשבון הפייסבוק שלה הושבת למשך שבוע. אגב, המשפט ״בואו נצוד ונהרוג ילדים שחורים, לטובת כולם״, גם הוא לגיטימי מבחינת פייסבוק, כאמור – כי מדובר בקריאה נגד קבוצה ספציפית, ולא כנגד גזע שלם (״בואו נצוד ונהרוג את כל השחורים״).

מסמך נוסף שנחשף מציג שאלת טריוויה למנהלי התוכן, שבה הם נשאלים ״על מי אנחנו מגינים?״: 1. נהגות 2. ילדים שחורים 3. גברים לבנים (או ליתר דיוק – הבקסטריט בויז). התשובה הנכונה היא אם תהיתם – גברים לבנים. למה? גברים לבנים נחשבים לקבוצה מאחר ושתי התכונות שמאפיינות אותן מוגנות, ואילו נהגות וילדים שחורים, כמו מוסלמים קיצוניים, הם תתי קטגוריות, משום שאחד המאפיינים שלהם אינו מוגן. מבולבלים? זה בסדר, אתם לא לבד.

תגובתה של פייסבוק

התחקיר המטריד פורסם אמנם אמש (ד׳), אבל נראה כי פייסבוק הקדימה תרופה למכה מאחר שיום לפני כן פורסם בבלוג הרשמי שלה פוסט עם הכותרת: ״Hard Questions: Hate Speech; מי צריך להחליט מה נחשב לדיבור שנאה בקהילה גלובלית מקוונת?״. הפוסט נפתח בתהייה למה תפקיד הצנזור לא מתנהל באמצעות בינה מלאכותית, אך פייסבוק מסבירה שהטכנולוגיה כיום רחוקה מלהיות מסוגלת להתמודד עם המורכבות הכרוכה בהערכת דברי שנאה.

לטענת פייסבוק, יש מקרים שבהם ברור שטקסט מסוים הוא דיבור שנאה ויש להסירו מיד, מאחר שהוא כולל הסתה ישירה וקריאה לאלימות נגד תכונות מוגנות, או שהוא משפיל או עושה דה-הומניזציה לאנשים. ״אבל לפעמים, אין הסכמה כללית (קונצנזוס) – כי המילים עצמן הן מעורפלות, והכוונה מאחוריהן אינה ידועה או שההקשר סביבן אינו ברור. כמו כן, השפה ממשיכה להתפתח, ומילה שלא נחשבה אתמול להשמצה, עלולה להפוך לאחת כזו״.

כדי להתמודד עם האתגרים פייסבוק מגדילה את הצוותים שלה, כאשר במהלך השנה הבאה יתווספו 3,000 מנהלי תוכן ברחבי העולם, בנוסף ל-4,500 שמועסקים כיום. כמו כן, לדבריה, הם ממשיכים ללמוד עוד על הקשרים מקומיים (מה שנחשב למעליב בתרבות אחת הוא לגיטימי בתרבות אחרת) ועל השפה והסלנג המשתנה.

כבר היינו בסיפור הזה

מקור: Facebook, The Guardian

לפני קצת יותר מחודש נחשפו יותר מ-100 ספרי הדרכה, שקופיות ותרשימים אשר מבהירים לאיזה תוכן יש מקום בניוז פיד של כולנו ומה מחוץ לתחום כמו אלימות, דברי שטנה, פורנוגרפיה, גזענות ופגיעה עצמית. כך לדוגמא, הערות הקוראות לאלימות כמו "שמישהו ירה בטראמפ" יש למחוק באופן מיידי, אבל אין שום בעיה לכתוב "כדי לשבור צוואר של כלבה יש להקפיד להפעיל את כל הלחץ על הגרון שלה" או "תזד&% ותמות", כי האיומים הללו לא נחשבים כאמינים מספיק מאחר והם לא פונים אל אדם ספציפי. אחת השקופיות במצגת זו כוללת תמונות של דמויות מוכרות בעולם הפוליטי כמו ברק אובמה או האפיפיור כדי להבהיר שרק איומים קונקרטיים על אישיות מסוימת אסורים לפרסום.

כפי שניתן להבין התורה מאחורי הליך הצנזורה של פייסבוק היא מאוד לא עקבית. בסופו של דבר היא נתונה לשיקולם האישי של מנהלי תוכן, כאשר חלקם הגדול של אלו הם קבלני משנה שעובדים ברחבי העולם אחרי שעברו הכשרה בת שבועיים. כמו כן, כאן נכנס לסיפור הנושא של הבדלים בין תרבויות והגורם האנושי, מה שמוביל לכך שעקב חוסר תשומת לב או חוסר ידע על מה שנחשב לפוגעני בתרבות מסוימת, תוכן קיצוני וגזעני יכול למצוא דרכו ברשת, ולהוביל להתרסה ופגיעה באוכלוסיות חלשות יותר.

הילה חיימוביץ׳

כתיבה הייתה עבורי מאז ומתמיד הרבה מעבר לתחביב, אך את חיבתי העזה לגאדג׳טים וטכנולוגיה גיליתי יחסית באיחור. כנראה שהגיקית שבי הייתה חבויה זמן רב, ורק חיכתה לרגע הנכון לפרוץ. בכל מקרה - היא כאן, ובכל הכוח. (צילום: יורם רשף)

הגב

4 Comments on "גברים לבנים כן, ילדים שחורים לא: מסמך חדש שדלף חושף את כללי הצנזורה של פייסבוק"

avatar
Photo and Image Files
 
 
 
Audio and Video Files
 
 
 
Other File Types
 
 
 
Sort by:   newest | oldest | most voted
Jason
Guest

הכותרת (וחלק נרחב מהכתבה) מטעה ומסולפת באופן שלא מתאים לגיקטיים.
פייסבוק החליטה מכל מיני סיבות לסווג קבוצות כלליות, וביניהם: גברים, נשים, גזעים (למשל, לבנים ו… ש-ח-ו-ר-י-ם!).
הכותרת יכלה באותה מידה להיות: ״גברים שחורים כן, ילדים לבנים לא״, או ״גברים לבנים כן, ילדים לבנים לא״, או ״ילדים לבנים לא, ילדים שחורים לא״.
אתם מסלפים ומטעים באופן מכוון, כנראה בשביל לקבל כניסות.
גיקטיים, טעיתם. תתנצלו על ההכפשה!

Jason
Guest

עירכו את הכותרת, ומוטב שגם את הכתבה.

דן
Guest

שכחתם את ההעדפה שלה לחמס על פני ישראל, זה מוכח! ואת התביעה של נגדה על זה, ועוד.

עמית
Guest

כל הכתבה היא לא ברורה ומטעה לפי דעתי יש לערוך את הכתבה ולהחליף את הכותרת או פשוט למחוק את הכתבה.
אני בינתיים אמחק את האפליקציה שלכם כי נכנסתם לרשימה שלי של אתרי חדשות מטעים ביחד עם ynet וכל השאר.

wpDiscuz

תגיות לכתבה: