אמזון מודה: עובדים שלנו מאזינים להקלטות של אלכסה

לא רק AI: אלפי עובדים של אמזון מקשיבים לבקשות שלכם, מנתחים אותן ועוזרים לאלכסה לבצע את המשימה – כך חושף תחקיר חדש

רמקול ה-Echo של אמזון עם אלכסה בפנים. מקור: Amazon

בטלפון, במחשב, בטלוויזיה וכמובן ברמקול החכם – רבים מאיתנו עושים שימוש קבוע בעוזרת חכמה. לרוב אולי מדובר בדברים טריוויאליים ומשעממים כמו תחזית מזג האוויר או תוצאות ספורט, אבל לעיתים העוזרת הקולית נחשפת למידע רגיש כמו מידע מסחרי, פגישות דיסקרטיות ומידע רפואי, מתוך מחשבה שמדובר בסך הכל בשירות AI, שהכל בשבילו זה ביטים של מידע דיגיטלי ולא מעבר. אבל עכשיו מודה אמזון שאלפי עובדים שלה מאזינים לבקשות ולשאלות שלנו, כדי לעזור לאלכסה לבצע את המשימות השונות שלה.

אלפי עובדים עוסקים בניתוח הבקשות שלנו

זה לא סוד, שכדי ש-AI ישתפר ויפעל היטב, האלגוריתמים השונים זקוקים ללימוד. לצורך כך, נדרשת התערבות אנושית שתעזור למערכת להבין בקשות שונות, מבטאים שונים והקשרים שונים. על פי תחקיר חדש של בלומברג, מעסיקה אמזון צבא של אלפי עובדים – חלקם עובדי קבלן וחלקם עובדים של אמזון עצמה – כדי לשפר את היעילות והדיוק של אלכסה, העוזרת הקולית של החברה, שמוטמעת במיליוני מכשירים שונים ברחבי העולם. על פי התחקיר פועלים אלפי העובדים ממשרדים שלא נושאים לוגו כלשהו של אמזון בבוסטון, קוסטה ריקה, הודו ורומניה. העובדים מבצעים את המשימות שלהם במשמרות של 9 שעות, כשבמהלך כל משמרת הם צריכים לפענח עד 1,000 קטעי אודיו שונים שמגיעים אליהם – כלומר קצב של כמעט 2 קטעי אודיו בדקה.

העובדים מבצעים למידה מונחית (supervised learning), כלומר כל פקודה או בקשה קולית שמגיעה עוברת תיוג אוטומטי של המערכת, כשהעובדים מאמתים את התיוגים הזה ומאמנים אותה על ידי הוספות תיוגים רלוונטיים נוספים. בפועל, העובדים עוזרים לאלכסה על ידי תימלול הבקשות השונות, הוספת הערות והכוונות למערכת, כדי שתגיב בצורה מדוייקת לבקשה שלנו.

עובד אחד למשל סיפר לבלומברג שהוא שייך את הביטוי “טיילור סוויפט” לזמרת, כך שבכל פעם שמישהו יבקש – מרצונו החופשי כנראה – להאזין לזמרת, אלכסה תדע ישר להתאים לו את התוכן הרלוונטי. בנוסף משמשים העוזרים האנושיים כדי לעזור לאלכסה להתגבר על מבטאים שונים, דרכי הגייה שונות של מילים וסלנג.

העובדים חשפו בתחקיר גם כי רוב העבודה שלהם היא משעממת ומונוטונית, אולם לעיתים הם נחשפים לקטעי אודיו שהבעלים שלהם היו מעדיפים שיישאר פרטי כמו למשל משתמשת ששרה תוך כדי זיופים במקלחת או ילד שזועק לעזרה. עובדים ברומניה היו עדים אף להקלטות של אירוע שכלל הטרדה מינית. העובדים אמנם מתודרכים להעביר קטעי קול כאלו להאזנה של גורמים אחרים בצוות, אולם במקרה הזה נאמר להם שהתפקיד של אמזון הוא לא להתערב.


Machine Learning 101: מדריך למתחילים


בתגובה לתחקיר מסר דובר של אמזון: “מספר קטן מאוד של קטעי קול שנשלחו לאלקסה מועברים לבדיקה ולמתן הערות. התהליך הזה עוזר לנו לאמן את מערכת זיהוי הקול ועיבוד השפה הטבעי של המערכות שלנו, כדי שאלכסה תוכל להבין טוב יותר את הבקשות שלכם וכדי לוודא שהשירות יעבוד טוב יותר לכולם”. עוד הוסיף הדובר: “כל המידע מעובד בחשאיות גמורה ואנחנו משתמשים באימות דו-שלבי, מגבילים את הגישה, מצפינים את השירות ומפקחים כל הזמן על האבטחה שלו”.

לא רק אלכסה

אמזון כמובן אינה היחידה שמשתמשת בעובדים כדי לשפר את העוזרת הקולית שלה. גם גוגל ואפל הודו שהן עושות כך – אם כי שתיהן עושות זאת ללא שיוך של הפקודה הקולית למשתמש – בניגוד לאמזון.

עם זאת, הבעיה היא בעיקר בחוסר השקיפות. אנחנו לא יודעים איזה מידע בדיוק נחשף בפני העובדים של אמזון והאם המידע הזה כולל גם מידע רגיש; מה קורה עם מידע מזהה, אליו נחשפים העובדים; למשך איזו תקופה מאוחסן המידע על השרתים של אמזון לפני שהוא נמחק – אם בכלל; או למשל האם היו מקרים של עובדים שעשו שימוש לרעה במידע אליו נחשפו.

האם גם ווייז פועלת כך?


המקום שלכם לעדכן ולהתעדכן המקום שלכם לעדכן ולהתעדכן להצטרפות לקבוצת הפייסבוק הסגורה של גיקטיים, לחצו כאן

יניב אביטל

עורך אתר גיקטיים, ובזמנו החופשי גיק, קופירייטר, אבא, חולה על גאדג'טים וקוד, לא בהכרח בסדר הזה

הגב

5 תגובות על "אמזון מודה: עובדים שלנו מאזינים להקלטות של אלכסה"

avatar
Photo and Image Files
 
 
 
Audio and Video Files
 
 
 
Other File Types
 
 
 

* שימו לב: תגובות הכוללות מידע המפר את תנאי השימוש של Geektime, לרבות דברי הסתה, הוצאת דיבה וסגנון החורג מהטעם הטוב ו/או בניגוד לדין ימחקו. Geektime מחויבת לחופש הביטוי, אך לא פחות מכך לכללי דיון הולם, אתיקה, כבוד האדם והדין הישראלי.

סידור לפי:   חדש | ישן | הכי מדורגים
ASD
Guest

ברור שמישהו מאזין לזה…

כל מי שמבין ולו בקצת באיך אלקסה עובדת ואיך ML מתקיים, יודע שחייבים להיות מעורבים אנשים בתהליך כדי לייעל אותו. אין לאלקסה יכולת הבנה מושלמת של דיבור ולשם כך היא זקוקה לאינפוט אנושי שיתדרך אותה וממנו תלמד.

הייתי בהחלט דואג אם היו אומרים שכ-ל מה שנאמר בבתים מושמע לעובדים. אבל אם מדובר רק בפקודות שיוצאות לקריאה אחרי המילה “אלקסה”, אז זה ברור בחלט שכך זה עובד.

אבל מצד שני…אולי לא כל אחד שקונה אלקסה מבין איך זה עובד וחשוב שאנשים ידעו מה הם מכניסים לבתים שלהם.

אלכסה=הודי בסלון
Guest
אלכסה=הודי בסלון

אבל איזה סיבה יש להם לשלוח את קטע הקול עם פרטים מזהים?

ג\'ורג\' עזרא
Guest

אחרי פרשיית shazam האמון שיש לי בחברות שהם לא מאזינים לי כל הזמן שואף ל 0

cross-platform-development
Guest
cross-platform-development

ובצדק- אבל במקרה הספציפי הזה זה היה פשוט באג- התכנה לא המשיכה לנתח מידע רק “שכחה” או כשלה בלסגור את המיקרופון במחשבי אפל –
בשזם טענו שזו אשמת הSDK…

לוחה שוב
Guest

כותרת מטעה
אמזון לא “מודה” בשום דבר כי לא הכחישה את זה בעבר.
זה ידוע וזו אחת מהסיבות הטובות לא להכניס שום עוזרת אישית הביתה.

wpDiscuz

תגיות לכתבה: