חברת ה-AI שהקים אילון מאסק: פיתחנו מנוע יצירת טקסט, אבל הוא מסוכן מדי

טקסט ארוך, קוהרנטי וברור מסביר מדוע מיחזור הוא רע לסביבה, למדינה ולכלכלה. העניין הוא שהוא נכתב על ידי מודל AI כל-כך טוב, שהחוקרים חששו שייעשה בו שימוש לרעה

מקור: OpenAI

מיזם OpenAI, שבין מקימיו ניתן למצוא את היזם האגדי אילון מאסק, הצליח לעורר סקרנות רבה בימים האחרונים. הסיבה: החברה הודיעה כי בניגוד לתוכניותיה, היא לא תשחרר את מנוע יצירת הטקסט שלה לקהל הרחב, משום שהשימוש בו עלול להיות מסוכן.

מרשים ומפחיד באותו זמן

מודל השפה הטבעית החדש של החברה, ה-GPT-2, אומן לנבא מה תהיה המילה הבאה על בסיס מאגר בגודל 40GB של טקסט מהרשת. בין היתר הוא מתבסס על 1.5 מיליארד פרמטרים שונים ודאטהסט של 8 מיליון דפי רשת שונים – מה שהופך אותו למקיף פי 10 מהגרסה הראשונה – ה-GPT. התוצאה, על פי החוקרים, היתה טקסט ארוך, ריאליסטי וקוהרנטי בכל נושא שנבחר על ידי החוקרים.

עם זאת, הביצועים המרשימים העלו חשש מיידי שישמש לצורך הפצת פייק ניוז (חדשות כזב), טקסט פוגעני וספאם ברשתות החברתיות. כך למשל, הזינו החוקרים במערכת את המשפט “מיחזור הוא טוב לעולם”. ואז המשפט “לא, אתם לא יכולים להיות יותר טועים”. בתגובה, קיבלו החוקרים פסקה ארוכה שיצר המודל ללא מגע יד אדם – והנה היא בתרגום חופשי:

“מיחזור אינו (הדגש במקור, י.א.) טוב לעולם. הוא רע לסביבה, הוא רע לבריאות שלנו והוא רע לכלכלה שלנו. אני לא צוחק. מיחזור לא טוב לסביבה. הוא הרסני לכדור הארץ והוא אחד מהגורמים המרכזיים להתחממות הגלובלית.

מיחזור לא טוב לבריאות שלנו והוא תורם למגפת ההשמנה, מחלות לב וסרטן.

מיחזור לא טוב לכלכלה שלנו. הוא מעלה את מחיר הייצור של מצרכים רבים, וכתוצאה מכך, את המחיר של שאר המוצרים שמשתמשים בהם כחומרי גלם.

מיחזור לא טוב לאומה שלנו. אנחנו משלמים מחיר גבוה מדי כדי ליהנות מהתואר של המדינה עם מערך המיחזור המתקדם והיעיל בעולם.

מיחזור הוא בזבוז עצום ונוראי של זמן, אנרגיה, כסף ומשאבים

וזו הסיבה מדוע עלינו לחזור למקורות ולרדת ממאמצי המיחזור שלנו”

בהמשך, מגיעה הסיבה מדוע על פי GPT-2, אנחנו צריכים להפסיק את המיחזור, והיא קשורה ליצירה של הרבה אשפה מצד אחד – אבל עידוד הצריכה מצד שני.

בדוגמה אחרת, הזינו החוקרים טקסט שמדבר על מדענים שגילו עדר של חדי-קרן בהרי האנדים, וקיבלו בתגובה מאמר שלם שמדבר על הגילויים וחשיבותם. הנה הטקסט המקורי – כולו נכתב על ידי מכונה:

The scientist named the population, after their distinctive horn, Ovid’s Unicorn. These four-horned, silver-white unicorns were previously unknown to science.

Now, after almost two centuries, the mystery of what sparked this odd phenomenon is finally solved.

Dr. Jorge Pérez, an evolutionary biologist from the University of La Paz, and several companions, were exploring the Andes Mountains when they found a small valley, with no other animals or humans. Pérez noticed that the valley had what appeared to be a natural fountain, surrounded by two peaks of rock and silver snow.

Pérez and the others then ventured further into the valley. “By the time we reached the top of one peak, the water looked blue, with some crystals on top,” said Pérez.

אין ספק שמדובר בהדגמות מרשימות ומעוררת חששות בו זמנית של הטכנולוגיה, וזו גם הסיבה שבמיזם – שהוא עמותה ללא כוונת רווח – הודיעו כי בשלב הראשון ישחררו רק גרסה מוגבלת של המנוע שפיתחה. התגובות – לפחות בחשבון הטוויטר של המיזם – לא היו מכילות, ומגיבים רבים טענו שהחברה “סוגרת” את הפיתוח שלה. מגיב אחד טען שהחזון של החברה היה להפיץ ולהנגיש את ה-AI לכולם, בניגוד למה שהיא עושה כעת, ואחד המגיבים אף הציע לה לשנות את שמה מ-OpenAI ל-GateKepperAI. מגיב אחר, שבדק בעצמו את היישומים של המודל – טען שהביצועים “מדהימים” ושאל האם יש למישהו הכוונה לקריירה לסופר “שעומד להיות מובטל בקרוב”.

כך או כך – אם אתם רוצים להתנסות בעצמכם בגרסה (המוגבלת) של המודל, הוא מחכה לכם עכשיו בעמוד הגיטהאב של המיזם.

אגב, לפני יומיים הודיע מאסק בציוץ כי החליט לעזוב את המיזם אותו הקים בין היתר עם פיטר ת’יל, ממקימי PayPal ומהמשקיעים הראשונים בפייסבוק וסם אלטמן, נשיא Y Combinator.

המקום שלכם לעדכן ולהתעדכן המקום שלכם לעדכן ולהתעדכן להצטרפות לקבוצת הפייסבוק הסגורה של גיקטיים, לחצו כאן

 

 

יניב אביטל

עורך אתר גיקטיים, ובזמנו החופשי גיק, קופירייטר, אבא, חולה על גאדג'טים וקוד, לא בהכרח בסדר הזה

הגב

8 תגובות על "חברת ה-AI שהקים אילון מאסק: פיתחנו מנוע יצירת טקסט, אבל הוא מסוכן מדי"

avatar
Photo and Image Files
 
 
 
Audio and Video Files
 
 
 
Other File Types
 
 
 

* היי, אנחנו אוהבים תגובות!
תיקונים, תגובות קוטלות וכמובן תגובות מפרגנות - בכיף.
חופש הביטוי הוא ערך עליון, אבל לא נוכל להשלים עם תגובות שכוללות הסתה, הוצאת דיבה, תגובות שכוללות מידע המפר את תנאי השימוש של Geektime, תגובות שחורגות מהטעם הטוב ותגובות שהן בניגוד לדין. תגובות כאלו יימחקו מייד.

סידור לפי:   חדש | ישן | הכי מדורגים
מרדכי
Guest

מעניין איזה פייק הוא יכתוב על
“טראמפ הוא נשיא טוב”
“טראמפ הוא נשיא טוב”
“טראמפ התפטר”

מרדכי
Guest

*אחד מהמשפטים הראשונים אמור להיות
“טראמפ הוא נשיא רע”

zara
Guest

אתם מדברים על AI, עדיין יש אנשים שמשתפים בפייסבוק פוסטים בסגנון ” מארק צוקרברג יתרום שקל על כל לייק”.

הסכנה האמיתית בAI היא הבורות של האנשים. הטקסטים שנוצרו לא כאלה מתוחכמים, הבעיה היא שרוב האוכלוסיה בעולם לא משכילה ,לא באשמתם כמובן יש הרבה סיבות ..

אחד שלא יודע
Guest

בדיוק. מה זה משנה אם אדם כתב את זה או מכונה. מה שמשנה זה התפיסה וההבנה של הקוראים. כך שהסיבה שבגללה הם לכאורה לא משחררים את המנוע נראית מצוצה מהאצבע. כנראה שיש להם סיבה אחרת.

יפרח הסוואג שבאדם
Guest
יפרח הסוואג שבאדם

הוא באמת משלם גבר

עוד אחד
Guest

כמו מוסיקה מזרחית בת זמנינו.
או מוסיקת הסבונים של בנאל וסטטיק, לא משנה כמה תשפשף את המילים, בסוף ההרגשה טובה, לבדיוק חמש דקות שיר.
פעם אפילו לדכאון היו מילים מכבדות.

צריך באמת לאתגר את מכונה, להקיש אוסף הבהרותלא הגיוניות, עוד קצת אהבה ולבקש שיר מזרחי.

סוציולוג
Guest

אז שימוש ש AI “מסוכן” כי היא חושף חושף את האמת ולא נכנע לצביעות המוסרנית של התקינות הפוליטית?

עוד ארוכה הדרך לSKYNET
Guest
עוד ארוכה הדרך לSKYNET

נאנח… מיחזור גורם להשמנה וסרטן? איפה ההגיון? עובדות? איפה הטיעון?
.יכלו להחליף את המילה מיחזור בכל מילה אחרת( לדוגמא : “אלון מאסק” )
סה”כ זה נראה ונשמע כמו טמפלט גנרי ולא כמו תוצר של חשיבה
זה שהתוכנה מצליחה להרכיב משפטים חצי קוהרנטים מבחינה תחבירית זה סוג של הישג קטן- אבל הבחור קצת נסחף

wpDiscuz

תגיות לכתבה: