מפתח ישראלי יצר ”פייק ביבי”, וזה מרשים ומדאיג באותה מידה

בעזרת כלים זמינים לכל דורש, הצליח המפתח הישראלי בר היללי ליצור מודל תלת מימדי של בנימין נתניהו, שיכול להגיד מה שרק תרצו; היכונו לביאת הפייק ניוז

אם חשבנו ש״פייק ניוז״ היא מהבעיות החמורות של האינטרנט בעשור האחרון, נראה שהטכנולוגיה מצליחה להתקדם עוד יותר בכל פעם ולהציג איומים חדשים שכולם צריכים להיות מודעים אליהם. הפעם, חוקר בינה מלאכותית בשם בר הללי יצר בעצמו, ובעזרת כלים שזמינים לכל דורש, קוד המסוגל לקחת את הבעות הפנים של מצולם, ולהלביש אותן על דמותו של ראש ממשלת ישראל, בנימין נתניהו, והתוצאה מרשימה ומעוררת דאגה בו זמנית.

הכלים זמינים לכל דורש

כדי ליצור את המודל הגמיש של נתניהו, כל מה שהללי היה צריך, הוא סרטון וידאו של שלוש דקות שלו, ומודל של אוניברסיטת באזל שזמין לכל דורש בגיטהאב. בעזרת המידע שאסף על המטרה, הוא ״אימן״ רשת ניורונים גנרטיבית GAN (קיצור ל-Generative adversarial network) של חברת NVIDIA בשם vid2vid, גם היא זמינה לכל דורש. לבסוף הלביש את המודל התלת מימדי של נתניהו, הידוע גם כ-3DMM על גבי דמותו המלאה של נתניהו. מכאן, הללי פשוט צילם את עצמו באמצעות מצלמה פשוטה, וכל תנועת פנים שלו שנקלטה על ידי המערכת, תורגמה לאותה הבעת פנים מדוייקת – הפעם על ידי המודל התלת מימדי של נתניהו ועל ידי רשת הנוירונים הגנרטיבית.

התוצאה, כפי שאתם יכולים לראות, היא מרשימה. אמנם ניתן לראות את ה״קפיצות״ בדמות המרונדרת מחדש של נתניהו, אך שימו את הכלים הללו וכלים מתקדמים אף יותר בידיים של אדם או גורם בעל אינטרסים ומשאבים, וקיבלתם איום של ממש שיכול להטעות אנשים בקלות. בראיון מיוחד לגיקטיים, הללי מסביר כי עם עוד עבודה, הוא יכול לשכלל את הזיוף: “יותר לקלוט את המצמוץ של העיניים, תנועות של הגבות, להרחיב את הסינטוז שיעבוד על גוף שלם ולא רק על הראש. הכל אפשרי, אבל ידרוש עוד עבודה”. הללי עצמו מודע לבעייתיות של הנושא, והודיע כי הוא לא מתכוון לפרסם את הקוד שלו בגלל ״רגישויות של פרויקטים מהסוג הזה״.

החוקר מאחורי הפרויקט: גם “לא מבינים” יכולים לבנות את זה

הללי מסביר כי רבים יכולים להכין זיופים שכאלו, בלי יותר מדי בעיה: “צריך להיות טוב בכתיבת קוד, להבין פייתון. צריך להבין קצת ב-Deep Learning כדי להשתמש ברשת הניורונים. אבל בגלל שהכל בגיטהאב, גם אנשים שלא מבינים יכולים להפעיל את זה בצורה סבירה. צריך הרבה רצון וזמן”. הללי מספר שעבד על הפרויקט בסופי שבוע במשך כמה חודשים, אך “במשרה מלאה” יכל להשלים את הפרויקט תוך 3 שבועות. בנוסף, הוא מסביר שהחלק הקשה כבר מאחוריו, וכעת הוא יכול להחליף את הפרצוף של ביבי באנשים אחרים תוך ימים ספורים.

מעכשיו גיקטיים גם בטלגרם מעכשיו גיקטיים גם בטלגרם להצטרפות לערוץ הטלגרם שלנו לחץ כאן

אמנם הללי עשה את הפרויקט המרשים הזה “בשביל הכיף”, ואולי לצורכי סאטירה בהמשך, אבל יש לו מסר עבור כל מי שנחשף אליו: “כבר עכשיו אני מקבל כל כך הרבה פייק ניוז לטלפון. מה ההבדל בין זה לבין וידאו מזויף? אנחנו חיים בתקופה שהכל מזויף ואי אפשר להאמין לשום דבר. בתור אזרחים אנחנו צריכים לצרוך מידע ממקורות אמינים ולהיות עירניים לזה”. הוא מוסיף כי בידיים של צווות מיומן עם מטרה ברורה, ניתן להגיע לתוצרים מדהימים ומטעים מאוד תוך שבועות קצרים.

הפעם זה בצחוק, מחר יכולה להיות אג׳נדה מסוכנת

לפני שנה העלה הבמאי והקומיקאי ג׳ורדן פיל (״Get Out״) סרטון בו הוא משלב את יכולת החיקוי שלו של נשיא ארצות הברית לשעבר, ברק אובמה, וטכנולוגיות Deepfake המשתמשות בבינה מלאכותית כדי ליצור את הרושם שאובמה אומר משפטים מגוכחים כמו ״קילמונגר צדק״ וגידופים על הנשיא טראמפ.

השימוש הנפוץ ביותר עבור טכנולוגיית ה-Deep Fakes בעת האחרונה הוא יצירת סרטוני פורנו, עליהם מולבשות פניהן של סלבריטאיות כמו טיילור סוויפט, סלינה גומז, גל גדות ועוד, ללא הסכמתן כמובן. מאז עליית הגל של סרטוני הפורנו המזויפים, אפילו פלטפורמות ענק כמו PornHub ורדיט אסרו על העלאה של תכנים אלו. אבל לא תמיד השימושים של הטכנולוגיה הם שליליים: חוקרים מברקלי הצליחו ליצור תוכנה שתאפשר לכל אחד ״לרקוד״ כמו ברונו מארס או רקדניות בלט מהשורה הראשונה.

בעידן שבו האמת כבר בקושי משחקת תפקיד, ושקרים יכולים להשפיע באותה קלות על דעת הציבור בעזרת טכנולוגיה, מוטב להיזהר מסכנות חדשות. במיוחד בעת תקופת בחירות.

עידן בן טובים

נולד עם ג׳ויסטיק ביד. יש לו הרבה יותר מדי גאדג׳טים והרבה פחות מדי זמן פנוי כדי לשחק עם כולם. בעל פטיש לא מוסבר לביצוע קליברציות לסוללות של מכשירים. כשהוא לא עסוק בלכתוב על טכנולוגיה, הוא אוהב לדבר עליה, והרבה

הגב

23 תגובות על "מפתח ישראלי יצר ”פייק ביבי”, וזה מרשים ומדאיג באותה מידה"

avatar
Photo and Image Files
 
 
 
Audio and Video Files
 
 
 
Other File Types
 
 
 

* היי, אנחנו אוהבים תגובות!
תיקונים, תגובות קוטלות וכמובן תגובות מפרגנות - בכיף.
חופש הביטוי הוא ערך עליון, אבל לא נוכל להשלים עם תגובות שכוללות הסתה, הוצאת דיבה, תגובות שכוללות מידע המפר את תנאי השימוש של Geektime, תגובות שחורגות מהטעם הטוב ותגובות שהן בניגוד לדין. תגובות כאלו יימחקו מייד.

סידור לפי:   חדש | ישן | הכי מדורגים
ליאור
Guest

תאמת זה יותר בעיה משפטית. כל אדם עם כתב אישום על סמך וידאו/תמונה ממקום אירוע יכול לטעון לחפותו כי מי אמר שלא מדובר fake שכזה. כמובן לעזרה יבוא בלוקצ’ין אבל זה עוד כל כך רחוק והבעיה כבר כאן

סאם וואן
Guest

אשמח לדעת איך יעזור כאן הבלוקצ’ין

ASD
Guest

כי סייבר

משתמש אובונטו
Guest

עזוב בלוקצ’ין. קנאביס יפתור את הבעיה.

פייק
Guest

“שיכול להגיד מה שרק תרצו”
כרגיל, פייק כותרות
זה רק וידאו, בלי סאונד – בשביל ש”ביבי” יגיד “מה שרק תרצו”, צריך מישהו שיודע לחכות אותו ממש טוב, כדי שאנשים יאמינו( לא פשוט בכלל) או לחילופין להשתמש בסט טכנולוגיות אחר לחלוטין במקביל – גם לא ממש פשוט

ניר
Guest

לא נכון, את רשת הנוירונים ניתן לאמן גם על אודיו, לא רק וידאו… כמובן שלהתאים בניהם בזמן אמת יהיה מאתגר מאוד

פייק
Guest

זה נכון בתיאוריה, בתכלס זה קשה מאד ועוד לא ראיתי מישהו מצליח….

שמוליק
Guest

רציניים?? בכתבה הזו שמו וידיאו שעשו את זה לאובמה עם קול.
תצפו בזה!

שמוליק
Guest

שכחו מזה, קראתי עכשיו שהוא עושה חיקוי… :)

face2face
Guest

אתם כנראה לא בעניינים https://lyrebird.ai עושים החלפת קול כבר יותר משנה וNVIDIA ואחרים פרסמו מודלים להתאמת landmarks facial ל audio כבר די ממזמן-( מהLANDMARKS עושים רגרסיה לפנים מלאות אם דרך DMM או דרכים אחרות כגון StyleTransfer )
מלבד זאת היות והרשת יוצרת את הפנים ישירות מתוך הAUDIO בכלל לא צריך LIpSync

רוני
Guest

המערכת של אדובי יכולה ללמוד את הפונטות של קול של אדם מסויים ואז לייצר חיקוי כמעט מושלם של הדיבור שלו לפי חתימת הקול שהיא יצרה לו. מישהו יכול להגיד דברים שביבי לא אמר מעולם וזה ישמע כאילו ביבי אמר אותם. לך תוכיח שזה מזוייף

מטרה
Guest

לא הבנתי למה צריך לזייף את ביבי, גם ככה אני לא מאמין לשום דבר שהוא אומר, אני יודע שהוא עושה מה שצריך ואומר מה שרוצים לשמוע, וכל עוד הוא מבצע יותר טוב מהשאר את החלק הראשון, החלק השני לא מזיז לי. את גנץ לעומת זאת הרבה יותר קל לזייף, קח בובה שלא אומרת כלום, וזהו יש לך את גנץ.

אהרון
Guest

או, הגענו לפופוליטיקה

המעדל עם גל שילון
Guest
המעדל עם גל שילון

“לא יהיה כלום כי לא היה כלום” (-:

אקמול
Guest

“חוק חסינות? מה פתאום!”

משתמש אובונטו
Guest

את גנץ אי אפשר לגייס כי אין דגימות קול בשביל הtraining. אולי כשיתחיל לדבר יהיה אפשר לחקות אותו.

סייג לחוכמה שתיקה
Guest
סייג לחוכמה שתיקה

אולי בגלל זה הוא לא מדבר

yesterday\'s news
Guest

לפי כמות הכוכבים בגיטהאב יש בערך עוד 100,000 מתכנתים שמשחקים עם מודלים שונים ומשונים בתחום “עריכת” וידאו – אז זה כבר לא ממש חדשות
כנראה שהמתכנתים חוששים לשחרר את הטכנולוגיה לציבור הרחב ,אבל לאחרונה NVIDIA די נתנו לגיטימציה לכל הנושא כששיחררו את VID2VID- גם לפייסבוק יש פרוייקט דומה שכנראה הוקפא בגלל סערת הפייק-ניוז
בכל מקרה לפי כל הסימנים הסיכוי שעד סוף השנה זה בסמארטפון שלכם די גבוה
המחקר בתחום זיוף וידאו בדגש על “דיבוב” החל למעשה כבר בסוף שנות ה90
פשוט לא סיפרו לכם…

ציון
Guest

רק ביבי

דוד
Guest

ביבי הזה הוא נוכל גדול,שקרן, מסית ,מפלג ודואג רק לעצמו ולמשפחתו.
הגיע הזמן להחליף את הרודן.

סוף סוף מגזין טכנולוגיה
Guest
סוף סוף מגזין טכנולוגיה

קבלו ח”ח על התאורים הטכנים וההסבר מאיר העיניים
ממש כייף לקרוא כתבות בהן נכנסים לעומק הדברים

תהילים נ טילים
Guest
תהילים נ טילים

לדעתי לאיראנים יש סרט על הפיפי מהכפר הירוק… רגע בזמן הכפר הירוק עוד לא היו סמרטפונים

Data scientist
Guest

מאוד מעניין. כל הכבוד למי שפיתח !

wpDiscuz

תגיות לכתבה: