אם היית צריך עוד ראיות שמבוססות בינה מלאכותיתזיופים עמוקיםהם מפחידים להפליא, אנו מציגים בפניכם כלי חדש המאפשר לכם להקליד טקסט וליצור סרטון של אדם אמיתי שאומר את המילים המדויקות הללו.

קבוצה של מדענים מאוניברסיטת סטנפורד, ממכון מקס פלנק לאינפורמטיקה, אוניברסיטת פרינסטון ו-Adobe Research יצרה כלי והציגה את המחקר ב-נְיָר(בְּאֶמצָעוּתThe Verge), שכותרתו "עריכה מבוססת טקסט של וידאו עם ראש מדבר". המאמר מסביר את השיטות המשמשות ל"עריכת וידאו עם ראש מדבר על סמך התמלול שלו כדי לייצר סרטון פלט ריאליסטי שבו השתנה הדיאלוג של הדובר".

ולמרות שהטכניקות המשמשות להשיג זאת הן מורכבות מאוד, השימוש בכלי פשוט להחריד.

סרטון יוטיוב המלווה את המחקר מציג כמה סרטונים של אנשים אמיתיים שאומרים משפטים ממשיים (כן, כנראה שאנחנו בנקודה ההיא בהיסטוריה שבה אפשר לזייף הכל). ואז חלק מהמשפט משתנה -- לדוגמה, "נפלם" ב"אני אוהב את הריח של נפאלם בבוקר" מוחלף ב"פרנץ' טוסט" -- ואתה רואה את אותו אדם משמיע משפט אחר, ב בצורה מאוד משכנעת.

כדי שהכלי הזה יפעל בצורה פשוטה כל כך, נדרשת טכניקות להוספת הערות אוטומטית לסרטון ראש מדבר עם "פונמות, לחיצות, תנוחת פנים תלת מימדית וגיאומטריה, השתקפות, הבעה ותאורת סצנה לכל פריים." כאשר תמלול הנאום בסרטון משתנה, האלגוריתם של החוקרים מחבר את כל האלמנטים יחדיו בצורה חלקה, בעוד החצי התחתון של הפנים של האדם בסרטון מוצג כך שיתאים לטקסט החדש.

בצד הקלט, הכלי מאפשר למשתמש להוסיף, להסיר או לשנות בקלות מילים בסרטון ראש מדבר, או אפילו ליצור משפטים חדשים לגמרי. ישנן מגבלות -- ניתן להשתמש בכלי זה רק בסרטונים מדברים, והתוצאות משתנות במידה רבה בהתאם לכמה מהטקסט שונה או מושמט, למשל. אבל החוקרים מציינים שעבודתם היא רק "הצעד החשוב הראשון" לקראת "עריכה מבוססת טקסט וסינתזה של תוכן אודיו-ויזואלי כללי", ומציעים מספר שיטות לשיפור התוצאות שלהם.

סרטונים שנוצרו על ידי הכלי הוצגו לקבוצה של 138 אנשים; ב-59.6% מהתגובות שלהם, הסרטונים המזויפים טעו כאמיתיים. לשם השוואה, אותה קבוצה הצליחה לזהות את הסרטונים האמיתיים כאמיתיים ב-80.6% מהמקרים.

הכלי אינו זמין באופן נרחב, ובאפוסט בבלוג, המחקרים מכירים בשיקולים האתיים המסובכים של שחרורו. ניתן להשתמש בו למטרות תקפות, כגון יצירת כלי עריכה טובים יותר עבור סרטים לאחר הפקת סרטים, אך ניתן גם לעשות בו שימוש לרעה. "אנו מכירים בכך ששחקנים גרועים עשויים להשתמש בטכנולוגיות כאלה כדי לזייף הצהרות אישיות ולהכפיש אנשים בולטים", נכתב בפוסט. החוקרים מציעים מספר טכניקות להפיכת כלי כזה לקשה יותר לשימוש לרעה, כולל סימון מים לסרטון. אבל זה די ברור שזה רק עניין של זמן עד שסוגים אלה של כלים יהיו זמינים באופן נרחב, וקשה לדמיין שהם ישמשו אך ורק למטרות נעלות.