האינטרנט מלא במידע מוטעה. בשנת בחירות, זה אומר לעתים קרובות ששחקנים רעים מנסים להניף את ההצבעה בדרך זו או אחרת. נשיא ארצות הבריתלעתים קרובות מפיץ מידע מוטעהעַצמוֹ.

מאז בחירות 2016,זיוף עמוקהטכנולוגיה נחשבה לעתים קרובות לאחד האיומים הגדולים ביותר במלחמות המידע המקוונות. היכולת להשתמש בלמידת מכונה כדי להחליף בצורה חלקה פנים של אדם אחד לאחר כדי להערים על אנשים היא בהחלט מדאיגה. כל כך מדאיג, למעשה, שמשרד ההגנה האמריקאי עשה זאתמוּכָןכלים להתקפה פוטנציאלית של זיופים עמוקים.

עם זאת, זיופים עמוקים אינם בהכרח "חדשות מזויפות". למרבה הצער, השם שלטֶכנוֹלוֹגִיָההפך לשם נרדף ל"אינפורמציה שגויה", אבל היכולת להשתמש בבינה מלאכותית ו"ללמד" מחשב כיצד ליצור מחדש דמיון של אדם באמצעות מדיה קיימת היא למעשה די מדהימה.

וכמה ארגונים רואים כמה חזק זיופים עמוקים יכולים להיות כדי להפיץ מסר, מבלי לרמות אנשים להאמין שזה אמיתי.

קח את מסע הפרסום החדש, "דיקטטורים", מאת RepresentUs ללא מטרות רווח. הוא מורכב משני סרטונים נפרדים, אחד עם קים ג'ונג-און מצפון קוריאה ואחר עם נשיא רוסיה ולדימיר פוטין. בשניהם, הגברים קצת מתמוגגים מהדמוקרטיה השברירית של אמריקה ואיך הם לא היו צריכים לעשות הרבה מכלום כדי לשבש דברים - העם האמריקאי עושה את זה לעצמו בגלל המצב המפולג של המדינה.

שני הסרטונים נוצרו באמצעות טכנולוגיית Deepfake והם דוגמה מדהימה לאופן שבו זיופים עמוקים מציאותיים.

"חיפשנו לקחת נושא שאנחנו עובדים עליו, שהוא הצלת הדמוקרטיה, שנשמע חשוב אבל בדרך כלל אנשים רואים בזה סוג של נודניק", ג'ושוע גרהם לין, נשיא ומייסד שותף שלRepresentUs, אמר. "המצאנו דרך לדבר אל העם האמריקאי ולהראות להם כמה הנושא הזה באמת חשוב וכמה אנחנו צריכים לשים לב אליו".

"הרעיון לא התחיל בהיבט הזיוף העמוק שלו", הסבירה ביאנקה גימאראס, המנהלת הקריאטיבית שלשובבות @ ללא כתובת קבועה, החברה שנשכרה ליצור את הסרטונים. "זו הייתה יותר הטכנולוגיה שהביאה את הרעיון לחיים. במקום לעשות את זה רק עם שחקנים שנראים כמו דיקטטורים חשבנו שזה יהיה הרבה יותר חזק מפי האנשים האלה".

טכנולוגיית Deepfake "היתה הדרך להביא אותה לחיים", המשיכה.

המודעות כללו קצת יותר מהיצירה הרגילה של deepfake. היה צוות הפקת וידאו, אפקטים מיוחדים ושחקנים. וכמובן, מומחה לזיוף עמוק, ג'ון לי, שהחליף את התמונות של פוטין וקים ג'ונג און על פניהם של השחקנים.

המודעות של RepresentUs אכן יצרו מחלוקת מסוימת. הסרטונים היו אמורים במקור להיות משודרים בפוקס ניוז, CNN ו-MSNBC בוושינגטון הבירה במהלך הדיון הנשיאותי בשבוע שעבר. הרשתות דחו את המודעות.

"לא ניסינו לרמות אנשים, שזה אמיתי", אומר לי גימאראס. "היה לנו כתב ויתור גדול בסוף. למרות שהסרטון הזה היה מזויף, הסרט הזה לא אמיתי...הבעיה אמיתית".

RepresentUs פרסמה את הסרטונים באינטרנט, עם כתב הוויתור המודיע לצופים: "הצילומים האלה אינם אמיתיים, אבל האיום כן." נכון ל-7 באוקטובר, היו להם כחצי מיליון צפיות בסך הכל. ובעוד היו כמהבִּקוֹרֶתמבין המודעות, לין אומרת לי שלא היה בלבול לגבי האם הסרטון אמיתי ממי שצפו בו.

"אתה יכול לפרסם על ביצים בפייסבוק ואנשים ימצאו דרך להפוך את זה ל-QAnon או משהו מטורף. אי אפשר להימנע מזה עכשיו", אמר קווין מולרוי, מנהל קריאייטיב בכיר אחר ב-Mischief. "פשוט הרגשנו שהרעיון של דיקטטור יושב מאחור ונותן לנו לעשות את זה לעצמנו הוא מחשבה מאוד מפחידה וגם די נכונה".

ומולרוי צודק. זה די נכון. בעוד שתועדו מקרים של התערבות זרה בבחירות שלנו מרוסיה וממדינות אחרות, נראה שמומחיםלְהַסכִּיםשהאיום הגדול ביותר על הדמוקרטיה שלנו הואבֵּיתִימֵידָע מְפוּבּרָק.

RepresentUs יהיה רחוק מהארגון האחרון שישתמש בטכנולוגיית Deepfake. היו עוד מספר דוגמאות רק השנה.

פיל אהר, מועמד דמוקרטי המתמודד מול הנציג הרפובליקני מאט גאץמְשׁוּמָשׁזיוף עמוק במודעת קמפיין לתקוף את יריבו. כמו RepresentUs, גם Ehr השתמש בטכנולוגיה כדי להבהיר נקודה וחשף במלואו את הזיוף העמוק במודעה.

ייתכן שהציוץ נמחק

אולי המודעה הכי יעילה ומצמררת במודעות המזויפות האלה היא זו של ארגון בטיחות הנשק,שנה את ה-Ref. הוא משתמש בטכנולוגיית Deepfake לקמפיין היציאה מההצבעה שלו,הצבעות לא גמורות. הקבוצה יצרה מודעה רבת עוצמה בהשתתפות חואקין אוליבר, נער שמת באירוע הירי בבית הספר בפארקלנד.

שוב, המודעה מסבירה במלואה לצופה מה הוא רואה: מדיה שנוצרה באמצעות זיופים עמוקים. הם לא מנסים לרמות אף אחד. במקרים אלה, זיופים עמוקים משמשים ככלי בלבד לעורר רגש או תגובה, בדיוק כמו שכל סרט עלילתי טוב היה עושה.

"האם הטכנולוגיה עבדה בצורה שהיא נועדה? זה כן מהדהד", אמרה לין מ-RepresentUs בנוגע לקמפיין "דיקטטורים" שלהם. "יש הרבה אנשים שצפו בהם אי נוחות בגלל שהם ראו בו 'אוי אלוהים, זה מה שזיופים עמוקים יכולים לעשות'... או שהם ראו את זה כ'אוי אלוהים, אף פעם לא שמעתי את ההודעה הזאת מדיקטטור כזה'".

סרטון קשור: הכלי העמוק המפחיד הזה יכול לגרום למישהו לומר משהו שהוא מעולם לא אמר