מה למדתי מהכנס הראשון שערכה Nvidia בישראל [טור אורח]

בשנים האחרונות מנסה האדם לחקות את המוח האנושי באמצעות הכלים הטכנולוגים שיצר. אנחנו רק בראשית הדרך, אבל הטכניקות מעניינות מתמיד

מייסד ומנכ”ל אנבידיה, Jensen Huang

כנס GPU של חברת Nvidia נערך בשבוע שעבר בפעם הראשונה בישראל כחלק מהסיבוב העולמי שלו. מה ששם אותנו בחברה טובה ביחד עם בייג’ין, מינכן, טייפה, וושינגטון, טוקיו ועמק הסיליקון. מה שמזכיר לי את הסיפור על העכבר והפיל שהסתובבו ביחד במדבר והעכבר אמר לפיל תראה איזה ענן של אבק אנחנו עושים ביחד.

מכנס שהשם הרשמי שלו GPU Technology Conference היית אולי מצפה לדגש על הטכנולוגיה, אבל מסתבר שלא רק הטכנולוגיה מעניינת את Nvidia. הכנס כלל מושבים מיוחדים לאנליסטים ולקרנות הון סיכון ונושא חברות ההזנק הישראליות בתחום זכה לזמן מסך רב בהרצאת המליאה.

את הרצאת המליאה של הכנס העביר לא פחות ולא יותר מאשר המייסד של Nvidia והמנכ”ל Jensen Huang. הוא התנצל יותר מפעם אחת שהוא סובל מהתקררות קשה ושהוא אינו במיטבו, אבל זה לא הפריע לו לעמוד שעתיים על הבמה ולהציג בצורה ברורה, מרתקת ועם אינטראקציה מותאמת תרבות עם הקהל (כולל מילים בעברית ובאידיש), את החזון ואת הטכנולוגיות הנוכחיות והעתידיות של החברה, כולל הדגמות. עד כמה שזה נשמע מצחיק, במעיל העור שלו ובסגנון, הוא הזכיר לי את מייקל ג’קסון (של עולם ה-GPU) וזה נאמר כמחמאה ולא כמשהו שלילי.

כבר לא רק כרטיס גרפי

למי שההקשר הראשון שלו ברגע שהוא שומע את השם Nvidia הוא כרטיסי מסך לגרפיקה ומשחקים, כדאי שיצא מזה מהר. כבר הרבה זמן ש-Nvidia הינה אחד מהשחקנים הכבדים בעולם ה-AI. מה הקשר בין גרפיקה מתקדמת למשחקים ותהליכי חשיבה במוח האנושי? מסתבר שיש ואפילו קשר הדוק.

Jensen דיבר בהרצאה שלו על זה שלמרות שכמות הטרנזיסטורים ליחידת שטח גדלה פחות או יותר לפי חוק מור, הביצועים שאנחנו מוציאים מהמחשבים שלנו, אינם גדלים באותו קצב. הפיגור בביצועים נובעת מכך שיש גבול למודל הקלאסי של המחשב עם סט הפעולות המורכב. יש גבול לכמה תכסיסים אתה יכול לבצע על מנת לחזות קדימה תוצאות ולקצר חישובים מורכבים.

מצד שני אם אנחנו מגבילים את סט הפעולות אבל מתרכזים יותר באלגוריתמים שמבצעים את סט הפעולות המוגבל במקביליות גבוהה, על כמויות ענק של נתונים, בבעיה הזו, ככל שיש לך יותר טרנזיסטורים, ככה אתה יכול להגדיל את המקביליות ולמעשה הביצועים יהיו ביחס ישר לכמות הטרנזיסטורים.

לא כל בעיה מתאימה למודל השני אבל עיבוד תמונה דיגיטלי ממש נולד לזה. שחקנים רוצים שהמשחק יהיה באיכות גרפית מעולה, עם גוונים, הצללות, השתקפות של גופים, תצוגה מזויות שונות בו זמנית, כל אלה ניתנים למימוש עם אוסף פקודות ייעודי ועם יכולת לפעול במקביל על כל חלקי התמונה. מה שמביא לביצועים ברמה של כמה סדרי גודל יותר ממה שמיחשוב באמצעות מחשבים עם סט פקודות מורכב יכול לתת.

בואו נדבר רגע על המוח האנושי

אבל עיבוד תמונה זה לא הבעיה היחידה שמכונות עם סט פקודות מוגבל ומקביליות גבוהה יכולות לפתור. יש המון בעיות כאלה בעולם ואחת מהן היא חישובים באמצעות רשתות נוירונים מלאכותיות שזה אחד מאבני היסוד של כל עולם הבינה המלאכותית המודרני.

בואו ונדבר קצת על איך עובד המוח האנושי. המוח של בן אדם ממוצע מכיל (בערך) מאה אלף מליון נוירונים. כל נוירון זה מחשב (אנלוגי), שיכולות להיות לו המון כניסות, שכל אחת מהם מקבלת אות בעצמה אחרת והוא מוציא יציאה אחת, שהיא תוצר של כל הכניסות הללו, לפי איזו שהיא חוקיות (שאף אחד לא באמת יודע מה היא). היציאה של אותו תא יכולה להתחבר לכמה נוירונים שבא לה, כאחד מהכניסות שלהם, יחד עם עוד יציאות של המון נוירונים אחרים. וככה זה נמשך ונמשך מבלי שאנחנו באמת יודעים מי מחובר למי ועד איזה עומק תלת מימדי זה מגיע.

בעולם הדיגיטלי לכל “תא מוח” יש אפשרות להוציא או “0” או “1” בעולם של הנוירונים כל תא יכול להוציא אינסוף ערכים (זה בגדול ההבדל בין אנלוגי לדיגיטלי). לא מספיק שאף אחד לא יודע איך הנוירונים מחוברים אחד אל השני אצלנו במוח ואיזה רשת תלת ממדית של חיבורים הם מייצרים ביניהם, אלא שגם התוצר של כל החיבורים האלה הוא לא חד כמו “0” או “1” אלא משהו בין לבין. אנחנו כבר יודעים בוודאות שתהליך לימודי משנה את סדר החיבור של רשתות הנוירונים במוח שלנו, אבל לא הרבה יותר מזה. מה שמעורר בכלל את השאלה אם יש לנו אי פעם סיכוי להבין איך באמת עובד המוח שלנו, איך ניתן לקרוא את התכולה שלו ואיך ניתן לעשות לו Save או Restore (דבר שנראה כמובן מאליו בהרבה סרטי מדע בדיוני).

מבוסס על המוח האנושי

עולם הבינה המלאכותית (AI) המודרני מבוסס הרבה על נסיון לחקות את המוח האנושי. עושים סימולציה של תא נוירון עם חוקיות כלשהי. שמים בתכנית אחת כמות גדולה של תאים כאלה, מחברים אותם אחד עם השני בצורה אקראית, נותנים להם קלט ובודקים את התשובה. אם התשובה מתאימה למה שאנחנו רוצים, יופי, אם לא מערבבים ומנסים שוב. בסוף, לאחר תהליך לימודי ארוך ומייגע תמצאו איזו שהיא קונפיגורציה, שתתן לכם את התשובה הנכונה. כל התהליך הלימודי הזה נקרא Machine Learning – ML והוא דורש כמויות עצומות של קלט ומנגנון כלשהו שיכול לתת למערכת משוב מתי היא מתקרבת לתוצאה ומתי היא מתרחקת ממנה.

למשל, בואו וניתן ל”מוח” הזה כמות ענקית של תמונות של צילומים של ספרות בודדות (וגם סתם תמונות זבל) שאנחנו יודעים מראש איזו ספרה יש בכל תמונה (או אין). ועכשיו ננסה ללמד את ה”גולם” לזהות את הספרה “9”. כל תמונה שהוא יזהה נכון ניתן לו חיזוק חיובי וכל תמונה שהוא יזהה לא נכון ניתן לו חיזוק שלילי. לאחר מספיק מחזורים נקבל קופסה שחורה שאין לנו מושג איך היא עובדת אבל כל פעם שהיא תראה “9” היא תתן לנו איתות. עכשיו תעשו 10 קופסאות כאלה ויש לכם מכונה שיודעת לזהות את כל הספרות.

העולם הזה של AI נמצא בחיתוליו, המון כיווני מחקר, המון מחקרים אקדמיים גם אצל גופי המחקר הפנימיים וגם באוניברסיטאות. אך אחד לא יודע איך באמת יעבוד המוח המלאכותי. לאף אחד אין מושג איך “לדבג” מוח שנדפק (ראה הנסיון של מיקרוסופט ללמד bot להיות חשבון טויטר (Tay Bot) שהסתיים בהפיכתו לגזען ניאו נאצי). לאף אחד אין מושג מה יקרה ששתי בינות מלאכותיות יתחילו לדבר אחת עם השניה בלי התיווך והבקרה שלנו (ראו הניסוי של פייסבוק שלא הופסק בגלל שה-AI התחיל לדבר בשפה שהחוקרים לא הצליחו לפענח). Jensen הראה שקף אחד מעניין של כיוונים שונים בתחום הרשתות הנוירוניות שמשקף יפה איפה ועד כמה רחב המחקר בתחום הזה כיום. מה שאומר, דרך אגב, ש-Nvidia נמצאת עמוק בתחום הזה גם מבחינה מחקרית.

נכון שקשה לחשוב על Nvidia כחברת הזנק, אבל יש ל-Nvidia המון מאפיינים של חברת הזנק. Jensen דיבר בהרצאה שלו על ההתחלה, על הקשיים, על זה שתקופה ארוכה כל מה שהיה להם זה כסף לחודש אחד בלבד קדימה. אבל הקטע היותר מעניין, שממש מתאים לחברת הזנק, הוא החזון רחוק הטווח קדימה. Jensen זיהה כבר בשלב ההקמה של החברה שלו, את העיקרון, שמכונות עם סט פקודות מוגבל ומקביליות גבוהה, יכולות לפתור המון סוגי בעיות (כולל AI). והוא השתמש בתעשיית הגרפיקה והמשחקים כמנוע צמיחה, על מנת לפתח באמצעות המימון של התעשיה הזו, מעבדים, שיודעים לפתור מגוון רב של בעיות, ולא רק עיבודים גרפיים. דרך אגב, Jensen מתייחס לחברה שלו עד היום, כחברת הזנק ואין דבר טוב מזה להבטיח יצירתיות וחדשנות.

כיום AI ו-ML הם הנושא הכי חם בתעשייה. היכולת להשתמש במעבדים של Nvidia לבניית רשתות נוירונים שם את Nvidia במקום טוב בתעשיה. Jensen הציג מגוון עצום של תעשיות שמשתמשות במעבדים של Nvidia. החל מניהול לוגיסטי דרך עיבוד תמונות רפואי, דרך HPC וכלה בקבלת החלטות לגבי איזה מוצרים להציג לקונה באתר אינטרנט. כל הדברים האלה מאפשרים לקבל באמצעות שימוש מושכל באלגוריתמים ומקביליות, ביצועים גבוהים הרבה יותר ממה שמערכות מיחשוב רגילות יכולות לתת ומה שחשוב יותר בעלויות הרבה יותר זולות (יחס של 1 ל-10 לפחות בעלות). אתה יכול לקנות היום מעבד AI חזק עם המון יחידות עיבוד מקביליות בעלות של כמה מאות דולרים, שזה סכום מצחיק בהשוואה לאוסף שרתים עם כמות מקבילה של מעבדים רגילים.

ישנם הרבה מחקרים מדעיים, רפואיים, ואחרים שדורשים כוח חישוב רב. Jensen התגאה בפרסי הנובל שקיבלו חוקרים שהשתמשו במערכות של Nvidia לצורך המחקר שלהן אחד מהם זה על הגילוי של גלי הכבידה והשני על מיקרוסקופיה שמאפשרת הבנה עמוקה יותר של מבנה הפרוטאין.

Jensen סקר את המעבדים החדשים של Nvidia, הציג את מוצרי התמיכה החדשים שלהם עשה demo יפה עם ה Holodeck, הראה חידושים ממעבדות המחקר שלהם. מילות מפתח Tensorrt 3, Nvidia Drive, Pegasus, Xavier, Project ISAAC. כל אחד מהם זה עולם שלם שמצדיק כתבה נפרדת.
AI ושימוש ב GPU לחישובים מורכבים הוא תחום אטרקטיבי מאד לחברות הזנק. יש בתחום הזה המון עבודות מחקר חידושים ויצירתיות. מה שמסביר היטב, למה כל קרנות ההון סיכון באו לשמוע מה יש ל Nvidia להציע בתחום, למה Nvidia כל כך מעניינת אנליסטים ולמה כל כך הרבה חברת הזנק מעורבות בנושא. ואם כבר מדברים על חברות הזנק ישראליות בתחום, Jensen נתן להם הרבה כבוד. הוא קרא בשם של כל אחת מהן וממש עצר את ההרצאה ולא המשיך עד שעבר על כל השמות. אין ספק שהנושא בוער בדמו.

הקטע היותר מעניין הוא אולי קבלת הפנים החמה שנותנות חברות הענן השונות (AWS, Microsoft) למעבדים של Nvidia. אתה יכול לקבל כיום בענן מכונות שמעבדים של Nvidia הם חלק בלתי נפרד מהם. Nvidia לא סומכת רק על חברות הענן הגדולות, היא מספקת למי שמעוניין גם ענן משלה Nvidia GPU Cloud.

בקצב ההתקדמות הזה, עולם ה-AI מתפתח בקצב מעריכי. יש כאלה שיגידו שזה טוב ויש כאלה שיגידו שזה התחלת הסוף של המין האנושי. אני דווקא חושב שכל עוד אנחנו מסוגלים לאמפתיה וכל עוד יש אמפתיה בעולם, יש סיכוי טוב שהבינות המלאכותיות ישאירו אותנו בחיים, בתור מעבדי עזר, לאיתור וטיפול בסיטואציות שמחייבות אמפתיה ופתרונות אמפתיים (פרטים נוספים למי שמעוניין, בספרו של Philip K. Dick על “האם אנדרואידים חולמים על כבשים חשמליות”, שחזר, משום מה, בזמן האחרון, לתודעה הציבורית).

הרצאת המליאה בכנס הוקלטה וזמינה להשמעה בלינק הבא

Avatar

גד מאיר

גדי עוסק בתחום המחשבים כבר הרבה שנים, תחום העיסוק העיקרי שלו הוא שרברבות, ההתמחות שלו היא איתור בעיות מערכתיות בתהליכי פיתוח והטמעה (איתור סתימות ושיחרור חסמים). עיקר תפקידו הוא לנסות למנוע בעיות כאלה עוד בשלב תכנון הפרויקט. למרות שבדרך כלל, מזעיקים אותו לניתוח לאחר המוות. התפקיד האהוב עליו הוא ליווי פרויקטים כיועץ וכמנחה מקצועי, פעילות שחושפת אותו למגוון רחב של בעיות מעניינות להן הוא אמור למצוא פתרונות יצירתיים. גדי מקפיד להדריך מדי פעם, הוא משמש כמנהל מו"פ בחברת ידאג בע"מ www.idag.co.il ויש לו בלוג באתר הבלוגים של מיקרוסופט ישראל http://blogs.microsoft.co.il/blogs/gadim.

הגב

2 תגובות על "מה למדתי מהכנס הראשון שערכה Nvidia בישראל [טור אורח]"

avatar
Photo and Image Files
 
 
 
Audio and Video Files
 
 
 
Other File Types
 
 
 

* היי, אנחנו אוהבים תגובות!
תיקונים, תגובות קוטלות וכמובן תגובות מפרגנות - בכיף.
חופש הביטוי הוא ערך עליון, אבל לא נוכל להשלים עם תגובות שכוללות הסתה, הוצאת דיבה, תגובות שכוללות מידע המפר את תנאי השימוש של Geektime, תגובות שחורגות מהטעם הטוב ותגובות שהן בניגוד לדין. תגובות כאלו יימחקו מייד.

סידור לפי:   חדש | ישן | הכי מדורגים
אלון
Guest

אי אפשר בלי זה:

נביא זעם
Guest

קשה לנבא את העתיד אבל הייתי אומר שהארכיטקטורה של מטחנת המטריצות שלהם מתקרבת לגבול שלה- ומעבדים יעודיים לAI דוגמת true-north של ibm וtensor של גוגל יכנסו לאט לאט ויחליפו את חוות השרתים שלהם
בקיצור הם מנצלים כרגע חלל טכנולוגי מסחרי ריק שיכול להמשך גם 5שנים אבל בסופו של דבר זה כנראה עתיד להשתנות

wpDiscuz

תגיות לכתבה: