לאחר ההפצה המשתוללת של מידע מוטעה במהלך הבחירות לנשיאות 2016, מומחים הזהירו מפני איום חדש לשנת 2020:זיופים עמוקים.

ניתן בקלות לבדוק עובדות על ידיעות מזויפות. אבל זיופים עמוקים? מומחיםחששהטכנולוגיה עלולה להיות כל כך מתקדמת שיהיה קשה להבדיל בין סרטון אמיתי לסרטון מזויף.

אולי ראית את הזיופים העמוקים האלהסרטוני סלבריטאיםביוטיוב, כמו הלְקַצֵץלְהַלָן. היוצר השתמש בבינה מלאכותית כדי לתפור את פניו של ארנולד שוורצנגר על הקומיקאי ביל האדר. זה מושג באמצעות למידה עמוקה - אימון מחשב עם הרבה נתונים עד שהוא לומד לגרום לקטע של תוכן שעבר מניפולציות להיראות אמיתי.

הראיונות עם הסלבריטאים היו מהנים. אבל היה צד אפל לזיופים עמוקים מוקדמים. קטעים של מפורסמות נשיות שהוכנסו לסרטי פורנוגרפיה היו נפוצים כל כךRedditנאלץ לאסור אותם. וכמה נשים היו הקורבנותשל זיופים עמוקים ללא הסכמה ברשתות החברתיות.

משרד ההגנה האמריקאימוכןעצמו למבול של זיופים עמוקים המפיצים מידע מוטעה פוליטי. אבל המבול מעולם לא הגיע.

"אנחנו מתבדחים שמעולם לא ראינו זיוף עמוק אמיתי בטבע", אמר אלן דיוק, העורך הראשי שלLeadStories, שותף רשמי לבדיקת עובדות בפייסבוק. "כולם אומרים שזה מגיע. התכוננו. חיפשנו את זה. אבל, לא מצאנו אחד עם השפעה של מידע מוטעה".

"הדבר שאני מודאג ממנו הוא 'זיופים זולים'", הסביר דיוק.

ייתכן שהציוץ נמחק

"זיופים זולים", כפי שמכנים אותם חוקרי מידע שגוי, הם מדיה עם מניפולציות שנוצרו בטכניקות עריכה בסיסיות. ניתן ליצור אותם עם תוכנת תמונות ווידאו פשוטות כמו Windows Movie Maker.

קח את זהסרטון ויראלישל ג'ו ביידן מהדיון הנשיאותי הראשון. כל מה שהעורך עשה היה להגדיל את החולצה של ביידןלטעון לקמטהיה למעשה חוט נסתר, שהזין את המידע של המועמד.

Deepfakes לוקח זמן, משאבים ומיומנות ליצור. כל אחד יכול לעשות זיוף זול.

הרוק מול...הילרי קלינטון

"חבר, הרגע איבדת אותי!" קרא תגובה אחת בפייסבוק שנשארה בעמוד הפייסבוק של דוויין "דה רוק" ג'ונסון בספטמבר. "עכשיו אתה רק אבן הנחל!"

התגובות הזועמות והמאוכזבות מצד תומכיו של טראמפ הגיעו במהירות ביום שבו השחקן המקצועני שהפך למתאבק הוליווד קיבל אישור פוליטי נדיר ביותר,גיבוי פומביג'ו ביידן לנשיא.

מספר תומכי טראמפ שיתפו סרטון בתגובות תחת הפוסט של ג'ונסון בפייסבוק. כמה מהם שאלו איך הוא יכול לומר את הדברים האלה על הילרי קלינטון ב-2016 ולאחר מכן לגבות דמוקרט ב-2020.

אבל הוא ממעט להיות פוליטי, ובוודאי לא הגיב על קלינטון ב-2016. לחיצה עלוִידֵאוֹהסביר הכל.

זה מתחיל עם The Rock בהופעה ב-2013 ב-WWE Raw. הוא יושב על שרפרף באמצע הזירה עם גיטרה ביד. מעריצי ההיאבקות יודעים את זה בתור הערב שבו הציג סרנדה של עקב היאבקות מקצועית ויקי גררו עם קאבר של אריק קלפטוןנפלא הערב.

"אתה משתמש לרעה בכל הכוח שלך, מבזבז את הזמן של כולם", שר The Rock ברגעי ה-PG היותר של השיר. "ביאטץ', אתה נראה נורא הלילה."

הקליפ שהועלה לעמוד הפייסבוק של ג'ונסון ערוך. בניגוד למקור, הוא אף פעם לא חותך לביצועים המבולבלים והמופלאים של גררו. במקום זאת, הוא מראה את הילרי קלינטון עומדת על דוכן ב-2016.

הסרטון הוא ללא ספק פארודיה, שנראה כאילו הרוק שר להילרי. עם זאת, חלק מתומכי טראמפ השתמשו בסרטון כראיה שג'ונסון הפנה להם עורף.

"לא חשבתי שאנשים יחשבו שזה אמיתי", אמר ג'ייסון, שרק רצה לתת את שמו הפרטי, ועומד על הידית של Skitz4Twenty ביוטיוב. "הייתי בדיוק כמו 'גבר, זה הולך להצחיק אנשים. מגניב!'".

הוא יצר את הסרטון בשנת 2016. באותה שנה, הוא יצר מספר סרטוני קומדיה על ידי חיתוך קטעים פוליטיים קיימים, כמו מודעות מסע הפרסום של טראמפ. עם זאת, הקליפ של The Rock הוא זה שהפך לוויראלי. הוא זוכר שהתקשר בהתרגשות לחבריו כשזה הגיע ל-15,000 צפיות. כיום יש לה 3.5 מיליון.

כשזה יצא לראשונה, אמר ג'ייסון, מעריצי היאבקות הושיטו יד ונתנו לו אביזרים לעריכה המצחיקה. הם הכירו את חומר המקור. עם זאת, ברגע שזה נכנס למסלולם של תומכי טראמפ, דברים השתנו.

"תומכי טראמפ האמינו שהסרטון אמיתי", הוא אמר לי. "הם קצת התעצבנו. בהתחלה ניסיתי להגיב על תגובות של אנשים. הייתי כמו 'אחי, זה לא אמיתי, כמו צמרמורת'. ואז פשוט ויתרתי, זה היה יותר מדי".

המהפכה הזולה מזויפת

זיופים זולים היו בכל מקום אחרי הבחירות ב-2016. אבל הייתה עלייה עצומה השנה.

"הצפיות בווידאו רופאים גדלו פי עשרים מאז השנה שעברה", אמר JC Goldenstein, מייסדCREOpoint, חברה להגנת מותג שעוקבת אחר דיסאינפורמציה.

לדבריו, מדיה מטופחת שהתמקדה בפוליטיקה משכה 120 מיליון צפיות ברחבי פלטפורמות המדיה החברתית הגדולות בין ספטמבר 2019 לאוקטובר 2020. בסך הכל, אמר גולדנשטיין, 60 אחוז מכל הזיופים העמוקים והזולים הזולים בשנה האחרונה היו פוליטיים.

אלן דיוק של LeadStories הצביע על פיסת מידע שגוי לאחרונה שהתפשטה בפייסבוק. זו תמונה פשוטה בפוטושופ של מישהו שהשתמש בכלי ה-Wep כדי לנסות להוכיח שמישל אובמה כןלְמַעֲשֶׂהגבר. (פינות שמרניות מסוימות של מדיה חברתית, כמו פייסבוק, באמת מאמינות בכך.)

הוא גם העלה את הקליפ של ננסי פלוסיהואט כדי לגרום לה להיראות שיכורה, טקטיקת עריכה שבה משתמשים לפעמים בתוכניות קומיות של לילה מאוחרת. עם זאת, לאחר ש-LeadStories וארגונים אחרים הדפו את זה, דיוק עדיין קיבל שיחות ומיילים מאנשים שטענו שזה אמיתי. אפילו הנשיא טראמפמְשׁוּתָףזֶה.

ייתכן שהציוץ נמחק

כל אלה היו זיופים זולים, שנוצרו עם כלים שדורשים מעט מיומנות. אין צורך בטכנולוגיית Deepfake.

"זיופים עמוקים אמיתיים... זה משהו שלא ראינו", אומר לי דיוק. "הזיופים העמוקים שראינו היו בעצם ניסויים או הדגמות".

Goldenstein של CREOpoint סיפקה לי גישה למאגר המידע הפנימי של המשרד, שעוקב אחר מאות קטעי מדיה שעברו מניפולציות והסיקור שהם מקבלים. בהסתכלות על הסרטונים ברשימה, זה נראה די ברור: זיופים זולים משמשים להפצת מידע מוטעה. Deepfakes משמשים כדי להראות מה הטכנולוגיה יכולה לעשות.

יצירת זיוף עמוק

לפני מספר שבועות, רשתות הטלוויזיה הגדולות בארה"ב סירבו לשדר אסט מודעות טלוויזיהבמהלך הדיון הנשיאותי הראשון. הם הציגו את נשיא רוסיה ולדימיר פוטין ואת קוריאה הצפונית קים ג'ונג און שדנו בדמוקרטיה הנשחקת של אמריקה. הסרטונים הם יצירות בדיוניות ריאליסטיות להפליא מעמותותRepresentUS.

RepresentUS עבדה עם מומחה Deep Fake John Lee כדי ליצור את המודעות.

"במונחים של איך שזה נראה אמיתי בצילום, אתה יכול להשיג את זה עם זיוף עמוק, בהנחה שיש לך מערך נתונים רחב מספיק", הסביר.

יוצרי Deepfake צריכים לסנן בין אלפי תמונות כדי למצוא תמונות עם האיכות והזוויות הנכונות כדי לספק למחשב שלהם מידע שימושי מספיק כדי ליצור זיוף עמוק משכנע.

"אני לא חושב שהטכנולוגיה עדיין שם כי יש עדיין הרבה מגבלות ודברים מסוימים פשוט לא עובדים טוב", הסביר לי, שציין עד כמה התאמת תנועות הפה והקולות עדיין יכולה להיות מסובכת. גם פרופילים קשים, וזו הסיבה שרוב הזיופים העמוקים הם חזיתית.

"אם יש לך את הסבלנות ואת הכונן ואת הזמן באמת לשבת על כמה אלפי תמונות שונות, אתה יכול להתקרב לסוגים אלה של תוצאות," הוא המשיך. "זה לוקח הרבה זמן והרבה עבודה לאצור את הנתונים לתמונות המקובלות שיגרמו לזה לעבוד."

זיופים עמוקים, במיוחד אלה בעלי מראה מציאותי, הם מאוד אינטנסיביים. וגם הם יכולים להיות די יקרים. לי משתמש בתוכנת קוד פתוח בחינם כדי ליצור זיופים עמוקים שלו. אבל הוא נאלץ להוציא $5,000 על כרטיסים גרפיים שיכולים להתמודד עם פרויקט RepresentUS.

אנשים יאמינו לכל דבר

זיופים עמוקים עלולים להיות יקרים ולאורך זמן. למה לעשות את ההשקעה הזו כשהאופציה הזולה יותר עובדת באותה מידה?

"אני חושב שהסוג הרעיל ביותר של מידע מוטעה בחוץ הוא המם", אמר דיוק. "כל אחד יכול ליצור אחד תוך 30 שניות והוא יהפוך לויראלי אם ישים אותו במקום הנכון. זה מאוד יעיל בהפצת מידע מוטעה".

ואתה אפילו לא צריך להפיץ מידע מוטעה בכוונה כדי ליצור אותו.

כנראה שכןראההסרטונים של ויק ברגר. עורך הקומדיה עבד עם צמד הקומדיה הפופולרי טים ואריק, אבל הגיע לשלומו במהלך הבחירות של 2016 עם עריכות הווידיאו הפוליטיות המצחיקות שלו עבור אתר ההומור סופר דלוקס שהוצא עכשיו.

"אני לא גורם לטראמפ לומר דברים שהוא באמת לא אומר", הסביר ברגר. "אני כן מנסה לקבל את האחריות הזו".

רוב האנשים שצופים בסרטונים של ברגר מבינים שהם סאטיריים, אמר. אבל תומכי טראמפ עדיין מאשימים אותו בהפצת מידע מוטעה.

ב-2016, טראמפ ירד מהבמה לאחר ויכוח מבלי ללחוץ את ידו של המנחה. ברגר חשב שזה רגע מצחיק ויצר סרטוןעבור Vine. מעריצי טראמפ היו מוטרדים מכך שהוא לא כלל רגע מאוחר יותר שבו טראמפ חזר לבמה כדי לדבר עם המנחה.

"פשוט שמתי אהמחיר נכוןטרומבון עצוב או מה שלא יהיה שם", אמר ברגר. "פשוט חשבתי שאני עושה סרטונים מטומטמים כדי להצחיק אנשים".

ייתכן שהציוץ נמחק

וזה מה שהופך חלק מה"זיופים" האלה ליעילים כל כך. לא רק שהם קלים להכנה, אלא שכל דבר יכול להיות זיוף זול אם האדם שצופה חושב שזה אמיתי. זה לא משנה אם הכוונה הייתה להטעות או להצחיק אנשים.

כשסיפרתי לג'ייסון שהסרטון שלו עם דה רוק משותף בפייסבוק, פלטפורמה שהוא לא העלה אותו אליה, ארבע שנים אחרי שיצר אותו, הוא הופתע. אבל זה הסביר את העלייה בתגובות חדשות בסרטון היוטיוב שלו.

"היו כמה אנשים [בהערות] שאמרו 'מכרת, הוליווד עשתה לך את זה'", הסביר ג'יי. "הייתי כמו, 'אלוהים, האידיוטים האלה, מה לעזאזל?'"

אמרתי לו שאחד מאלההעלאות מחדש של פייסבוקהיו לו 11 מיליון צפיות, יותר מפי שלושה מהמקור, והוא שותף על ידי תומכי טראמפ בעמוד הפייסבוק של ג'ונסון. ג'ייסון היה מרוצף.

"לא ידעתי שזה מתפרסם בעמוד של דה רוק", אמר. "אני חושב שהוא בחור טוב. אני לא מנסה שהוא יבוא לכאן ויבעוט לי בתחת."