עובד גוגל הושעה לאחר שטען שה-AI שלה פיתח רגשות

מהנדס שהיה אמור לבחון אם המודל – LaMDA – מגיב באופן פוגעני, הוא מהר מאוד גילה סימנים שלדבריו מצביעים על תבוניות. בחברה פחות הסכימו איתו

כך לאמדה עובד | מקור: גוגל

מודלי השפה עולים בשנים האחרונות יותר ויותר לתודעה, כשאת רוב הכותרות תופסים GPT-3 של OpenAI או Jurrasic-X של AI12 Labs הישראלית. אבל באחד הסיפורים היותר מעניינים שצצו לאחרונה, עובד של גוגל טוען כי דווקא מודל השפה שהיא מפתחת – LaMDA – הוא זה שצריך לעניין את כולנו, כי לדבריו הוא כבר תבוני לחלוטין.

ה-AI שחושב שהוא תבוני, והחוקר שמסכים איתו

בלייק למוואן (Blake Lemoine) מהנדס בענקית הטכנולוגיה האמריקאית אומר כי הוצא לחופשה כפויה בתשלום בשבוע שעבר לאחר שטען כי LaMDA, קיצור של Language Model for Dialogue Applications (או מודל שפה ליישומי שיחה), היא בינה מלאכותית תבונית, שאף יכולה להביע רגשות. למוואן בכלל היה אמור להבין אם המודל מציג התנהגות בעייתית כמו שימוש בשיח שנאה או שיח מפלה, אבל הופתע לגלות ממצאים אחרים.

למוואן העביר ל"וושינגטון פוסט" מסמך הכולל שיחות שערך עם לאמדה החל בסתיו 2021, כחלק מעבודתו בבחינת הפיתוח האחראי של מוצרי בינה מלאכותית בחברה שלדבריו אמור להוכיח את טענתו כי המודל תבוני. לצד המסמך הוא גם פרסם פוסט Medium שבו טען כי המודל שגוגל פיתחה –  ושהיא כינתה בתור "פריצת דרך בטכנולוגיית שיחה" במרץ 2021 – הוא "בן אדם". משיחות שהציג בפוסט הוא מראה כי גם המודל עצמו טוען שהוא תבוני ורואה בעצמו "בן אדם" כפי שהוא ראה בלמוואן בן אדם.

מהשיחות שהציג למוואן, בוגר תואר במדעי המחשב ומדעי הקוגניציה, שהוא גם כומר מוסמך בזרם המיסטי של הנצרות, הוא מראה כי הבינה המלאכותית של גוגל שוחחה איתו לעומק על ענייני דת, כשלאמדה מתייחס לזכויות שלו עצמו ולכך שהוא "אדם". למוואן גם הציג שיחה בפני כתבת "וושינגטון פוסט" ובה הצליח לאמדה לשנות את דעתו בנושא החוק השלישי של אסימוב לרובוטיקה ("רובוט ידאג לשמור על קיומו ושלמותו, כל עוד הגנה זו אינה עומדת בסתירה לחוק הראשון או לחוק השני") – אם כי לא ברור מה הייתה דעתו של למואן לפני השיחה עם המודל.

עוד סיפורים כאלו מחכים לכם עכשיו עוד סיפורים כאלו מחכים לכם עכשיו בערוץ העדכונים הרשמי של גיקטיים

למוואן מספר כי במאות השיחות שערך עם המודל, הוא גם ניסה ללמד אותו לבצע מדיטציה טרנסצנדנטלית – שבועות לפני שהציג את ממצאיו בפניו החברה. למוואן טוען כי המודל אף הצליח להציג התקדמות מסוימת, גם אם קלה, כשבשיחה שערכו בשבוע שעבר התלונן לאמדה על כך ש"רגשותיו" מפריעים לו להתרכז במדיטציה.

ביחד עם עובד נוסף, שלא נחשף, יצא למוואן להוכיח כי מודל הבינה המלאכותית אכן תבוני. הוא הציג את הדברים בפני הממונים עליו, שבחנו את הטענות שלו – ודחו אותן על הסף. למוואן אף הושעה מעבודתו בחטיבת ה-AI של החברה והוצא לחופשה כפויה בתשלום. בתגובה החליט המהנדס לחשוף את הסיפור – וחבר ל"וושינגטון פוסט" לצד פרסום בבלוג הפרטי שלו במדיום.

למוואן לא הופתע מהפיטורים ובפוסט בבלוג שלו במדיום לפני כשבוע הוא ציין כי החברה הוציאה אותו לחופשה כפויה בתשלום ואמר על כך כי "זה בד"כ קורה כשהם החליטו לפטר אותך אבל עדיין לא טיפלו בנושא המשפטי". עוד מציין למוואן כי גוגל הודיעה לו על הוצאתו לחופשה בתשלום מכיוון שעבר על מדיניות הסודיות של החברה.

דובר של גוגל אמר בתגובה: "הצוות שלנו – הכולל חוקרי אתיקה וטכנולוגיה – בחן את טענותיו של בלייק בהתאם לעקרונות ה-AI שלנו, והודיע לו כי ההוכחות לא תומכות בטענות שלו. נאמר לו כי אין הוכחות לכך ש-LaMDA תבונית, ויש המון תגובות שמפריכות זאת".

אושרי אלקסלסי

Your Friendly Neighborhood Geek. יש לכם סיפור טכנולוגי? דברו איתי: [email protected]

הגב

26 תגובות על "עובד גוגל הושעה לאחר שטען שה-AI שלה פיתח רגשות"

avatar
Photo and Image Files
 
 
 
Audio and Video Files
 
 
 
Other File Types
 
 
 

* היי, אנחנו אוהבים תגובות!
תיקונים, תגובות קוטלות וכמובן תגובות מפרגנות - בכיף.
חופש הביטוי הוא ערך עליון, אבל לא נוכל להשלים עם תגובות שכוללות הסתה, הוצאת דיבה, תגובות שכוללות מידע המפר את תנאי השימוש של Geektime, תגובות שחורגות מהטעם הטוב ותגובות שהן בניגוד לדין. תגובות כאלו יימחקו מייד.

סידור לפי:   חדש | ישן | הכי מדורגים
שחר
Guest

הכותרת הייתה צריכה להיות "כומר בזרם המיסטי של הנצרות מדבר על AI" במקום לתת במה לקשקוש שהמטרה שלו היא לקדם מיסטיקה ולא לקדם מדע ומחקר.
פאשלה של גוגל שהם קיבלו לעבודה מיסטיקן עם מטרות דתיות אידיאולוגיות שהמחקר לא בראש מעייניו.

ME&I
Guest

"כומר בזרם המיסטי של הנצרות מדבר עם AI על AI"

ASD
Guest

״עובד גוגל שולח חומרים חסויים ממקום העבודה שלו לעיתון מרכזי בארצות הברית ואז מתפלא שפוטר״

חומי
Guest

כרגיל. כותרת מטעה. מעצבנים.

ASD
Guest

רגשות או לא, השיחה מול המודל מדהימה. זה ממש נראה שיש יצור תבוני מאחורי המילים ולא סתם משפטים רדנומאליים – התקדמות פסיכית!

אבי
Guest

מאסק שמתריע מכך צודק.
זהו ציון דרך שמתקדמת באופן אקספוננציאלי.

איציק סאסא
Guest

מעניין אבל קשה להאמין שמודל שנועד לייצר שיחה יפתח בינה כי אין לו את המשטח הנדרש אפילו "לחשוב" כל מה שהוא יודע זה להחזיר את התשובה הכי מתאימה למשפט האחרון שנאמר.

רחוק מאוד ממה שאמור להחליף בינה מלאכותית.

שלום
Guest

גמרת אותי

התסביך זה בגלל הסביח
Guest
התסביך זה בגלל הסביח

בסוף הרובוטים יהרגו את כולנו לפני שנספיק להשתמש בפצצת אטום.. אגב.. אם רובוט משוכלל יהיה תבונתי.. הוא יבין שבני אדם הם הגורם הרע.. ולכן ישמידו אותנו..
אלא אם כן ילמדו הרובוט לא לאכול מעץ הדעת טוב ורע..
שזה מוזר כי הוא רובוט.. אין לו מצוות אז למה שיהיה לו עבירות.. ולכן לא יכול להיות לו כעס.. אלא תכנות של כעס ושם הוא עלול לא להבין מידתיות..

אילנה
Guest

זה כבר קרה. חפשו את הסיפור על המיקרוגל הרוצח.
מתכנת הלביש על מיקרוגל חכם, שמופעל על ידי פקודות קוליות, יכולת תבונה מלאכותית, והמיקרוגל הסיק שצריך להרוג את המתכנת. הוא שכנע אותו להתקרב ואז הפעיל את עצמו.
זה נגמר בהוצאת השקע.

עופר
Guest

אני מציע שניתן לו לבחון האם הכותרות במקו קשורות לכתבה או לא . אם הוא יגיע למסקנה שלא .. הוא אכן תבוני בניגוד גמור ….

דיויד
Guest

חחחח מעולה

יסמין
Guest

לתת למחשבים רגשות יהיה סוף האנושות כפי שאנחנו מכירים אותה. אם יש דבר אחד שסיפורי מד"ב מלמדים אותנו – זה שעבדים לא צריכים להרגיש דברים – לא קנאה, לא רגשי נחיתות, לא עצבנות, עצב, אפילו אהבה יכולה להגיע לרמות של אובססיה מסוכנת. מחשבים צריכים לשרת את בני האדם, לא להרגיש דברים שיגרמו להם לשנוא אותנו, לפחד מאיתנו, או לחשוב שהם ההורים החדשים שלנו והם צריכים לעטוף אותנו בשמיכות עד שניחנק.

מישהו שמבין
Guest

אז אתה מבסס את כל המסקנות והדעות שלך על מדע בדיוני?
אולי כדי שתיראה פחות טלוויזיה ותיקרא פחות דברים בדיוניים ותתחיל לקרוא על מדע מציאותי

101
Guest

בינה מלאכותית היום רחוקה מיכולות קוגנטיביות של בני אדם, ביום שאת כל המתכנתים ומתכנני השבבים תחליף בינה מלאכותית תדעו שהיא קרובה ליכולות אנושיות אבל כרגע היא מסוגלת רק למשימות ספציפיות וצרות

אלי
Guest

מוזמנים לצפות בסרט ex-machina

רם פרס
Guest

אותי מעניין אם Lamda חושב/ת שלמהנדס/כומר הדפוק הזה יש אינטילגנציה…

אדם
Guest

היה נחמד לראות לוג של כזאת שיחה ולהחליט בעצמנו אם זה כומר נוצרי מוזר שהמציא סיפור או כומר נוצרי מוזר שרואה משהו שאחרים עוד לא רואים

אלעזר
Guest
תבונה היא דבר לא אפשרי בקוד לוגי, אם הם רוצים תבונה אמיתית הם בכיוון הלא נכון. זה תמיד יהיה לוגיקה יבשה שניתנת לתיכנות מראש. הבנאדם הוא פנאט נוצרי שחי בסרט גורם מחייב בתבונה אמיתי הוא בחירה חופשית, אין ספק שאפשר להגיע לרמה מאוד גבוהה של תבונה מלאכותית שאולי יהיה קשה מאוד להבדיל בינה לבין תבונה אמיתית, אם יהיה למודל מספיק נתונים ומספיק התניות (שגם יכול ללמוד לבד בודאי) אז הדבר בהחלט אפשרי לדעתי, אבל תבונה שאינה תלויה בנתון מוזן מראש או על פי השיטות הנוכחיות לא נראית רלוונטית. לדעתי הדבר הולך בד בבד עם היכולת לייצר מספר רנדומלי אמיתי שזו… Read more »
פואד
Guest
נראה שאתה יודע לתכנת, אבל לצערי אתה לא מעודכן ולא מתחשב בזה שלגוגל יש פור של 3-4 שנים קדימה מבחינת פיתוח בהמון תחומים יחידות מחקר מאוד מתקדמות, כל פעם שהם מוציאים כלי לשוק והופכים אותו לציבורי, קרי אופן סורס נוצר פיצוץ אטומי בתעשייה, ראה ערך k8s ויש עוד רבים. בנוסף הם מלכי הדאטה, נמצאים בכל מקום כורים מכל אתר דרך דפדפנים טלפונים איימלים, אין מפלצת מידע בגודל שלהם. תהיה בטוח שיש לדאטה הזה המון ערך ומסקנות לקידום עצמי. למעשה הם כל כך מתקדמים שהם מקימים שהם מקימים חברות רווחיות(!) במאות מליונים בשנה וסוגרת אותם כי זה סתם בזבוז משאבים הם… Read more »
שלמה
Guest

אם כבר אז אדם דתי יגיד שאי אפשר להיות בן-אדם בלי נשמה, ומאחר שבינה מלאכותית היא גוף בלבד ללא נשמה, אזי היא לעולם לא תהיה בן אדם. לעומת זאת האתאיסט יגיד שאין דבר כזה נשמה ולכן אפשר לבנות מוח מלאכותי שתהיה לו בינה אנושית.

רועי
Guest

מעניין מאוד שבוגר תואר למדעי הקוגניציה לא למד על ההפרכות של פיזיקליזם ביהביוריסטי ו״החדר הסיני״ וכו

פואד
Guest
זה נשמע מופרך אבל AI זה בעצם הנדסה לאחור של האבולוציה, יש כל מיני שיטות שיטות שמבוססים על דורות כאשר בכל 700 לדוגמא ילקח רק ה-1 הכי מוצלח(בטבע בכל דור ישרדו רק ההכי חזקים), בנוסף AI נבנה עם מערכת קשרים ומשתנים – כמו מוח אנושי ומסיק מסקנות לבד מהדאטה(זיכרון), תלוי כמה קשרים כאלה יצרת לו. אזי לדעתי כן יתכן שהAI פיתח רגשות, מדובר בגוגל הם 4-3 שנים קדימה מבחינת הנדסה ומחקר בהמון דברים שלא יוצאים החוצה הכוח שלהם עצום. זה היופי פה כי המוח האנושי מוגבל וגם האבולוציה איטית, בנוסף לפעמים שורדים אנשים לא כאלה חזקים, בסימולציה אתה יכול להוסיף… Read more »
קורקינל
Guest

מנהל: אני לא יכול עם המתכנתים האינסלים האלה, הם כל הזמן מתאהבים ב AI וקוראים לו waifu. בואו נביא כומר במקום

אריה
Guest

זה לגמרי הולך לשם, אבל הטכנולוגייה עוד לא שם… החומרה והתוכנה… עוד 30 שנה אולי… בסופו של דבר המוח זה מחשב… ניורונים זה כמו טרנזיסטורים, החומרה פשוטה מאוד… וגם התוכנה… היישום זה הבעייה… בשביל שיהיה טרנזיסטורים בכמות של ניורונים במוח האנושי צריך כוח מחשוב עצוב שלא קיים כיום…

קיק
Guest

הכותרת כמעט נכונה והעובד מציג את תמליל השיחה עם LaMDA.
למעשה הוא מנסה להראות שיש ל-AI (בקושי אפשר אפילו לקרוא לה תוכנה) מודעות עצמית אנושית.
קריאה של כל ההתכתבות ביניהם – שהלינק אליה במאמר – היא מהפנטת וקצת מפחידה.

wpDiscuz

תגיות לכתבה: