משרד ההגנה האמריקאי כבר מכין את עצמו למאבק נגדזיופים עמוקים, אודיו ווידאו מזויפים שנוצרו על ידי בינה מלאכותית שפרצו למיינסטרים בשנה שעברה הודות לאתרים כמו Reddit.
לְפִיסקירת טכנולוגיה של MIT, פיתוח טכנולוגיה לתפוסזיופים עמוקיםמתבצע כעת. באמצעות תוכנית Media Forensics המנוהלת על ידי הסוכנות האמריקאית לפרויקטי מחקר מתקדמים של ההגנה (DARPA), חוקרים כבר בנו כמה מהכלים לחשיפת יצירות בינה מלאכותית מזויפות אלו. תוכנית ה-Media Forensics למעשה הוקמה במקור כדי להפוך את הכלים הפורנזיים הקיימים לאוטומטיים, אולם ייעודה השתנה עקב החשש מעליית הזיופים העמוקים. הוכרזה משימת הזיוף העמוק של הפרויקטמוקדם יותר השנה.
בשנת 2017, משתמשים ב-Reddit החלו להשתמש במה שמסתכם בטכנולוגיה משכנעת ביותר להחלפת פנים כדיהוסף את השחקן ניקולס קייג'לסרטים אקראיים שהוא עוד לא היה בהם. הטכנולוגיה שימשה גם כדי להכניס כמה מפורסמות הוליוודיות לסרטוני וידאו פורנוגרפיים. לאחר שזיופים עמוקים מצאו את דרכם למחזור החדשות היומי והזעם גדל ברשת, כמה אתריםאָסוּרזיופים עמוקים מפרסום בפלטפורמות שלהם.
מהירות אור ניתנת לריסוק
עם זאת, יוצרי Deepfake המשיכו לשכלל את הטכנולוגיה, והפכו ללא הרף את התמונות המזויפות שנוצרו על ידי AI למציאותיות עוד יותר. מוקדם יותר השנה, אפליקציה בשם FakeApp שוחררה למעשה שהופכת את יצירת הזיופים העמוקים לקלה עוד יותר. הדאגה מהטכנולוגיה פנתה במהירות לשימוש האפשרי שלו במקרים של התעללות במשפחה, כמו יצירת דמהפורנו נקמה, וביצירהחדשות מזויפות. באפריל, Buzzfeed יצרהאובמה זיוף עמוקכשג'ורדן פיל מציגה עד כמה הסרטונים המזויפים האלה הפכו למציאותיים.
מהר קדימה להיום, שבו משרד ההגנה ואחרים מפתחים כלים להילחם בזיופים עמוקים. כלי אחד כזה מגיע מפרופסור סיווי ליו מ-SUNY אלבני ותלמידיו. סרטון ה-AI שנוצר על גבי תלוי מאוד בנתונים שנאספו מסריקת תמונות סטטיות. בגלל זה, ליו הבחין שסרטוני ה-deepfake שהחליפו פנים רק לעתים רחוקות מהבהבים, ופותחים שדרת זיהוי, לפחות לעת עתה.
כלים נוספים מפותחים כחלק מתוכנית DARPA כדי לתפוס אי דיוקים עמוקים אחרים כגון תנועות ראש וגוף מוזרות או חריגות. ובעוד ליו מודה שיוצר או עורך וידאו מנוסה בזיוף עמוק יכול לעקוף כלי כמו זה שבוחן עיניים ממצמצות, טכניקות זיהוי מתוחכמות יותר נמצאות בעבודה.
עם הבינה המלאכותית שהופכת מתקדמת יותר ויותר באופן כללי, ברור שהקרב המזויף יהיה מרוץ חימוש בין יוצרי הווידאו המזויפים לבין אלה שמחפשים לחשוף את האמת שהחליפו פנים.
