איפה שיש חדשנות, יש אוננות - לפחות בפינה חשוכה אחת של האינטרנט, שבה התאספו כמעט 80,000 אנשים כדי לשתף סרטונים מפוברקים של נשים מפורסמות מקיימות יחסי מין וניקולס קייג' חושף את ארון הברית.

אלו הם "זיופים עמוקים", סוג חדש של סרטון המציג החלפות פנים מציאותיות. בקיצור, תוכנת מחשב מוצאת מכנה משותף בין שני פנים ותפרים אחד על השני. אם צילומי המקור טובים מספיק, השינוי הוא כמעט חלק.

הטכנולוגיה קלה יחסית לשימוש, מה שיצר קהילת חובבים ב-Reddit, שבה משתמשים משווים הערות ומחליפים את עבודתם האחרונה: "הדגמה של קלטת סקס של אמה ווטסון ;-),", "ללה סטאר x קים קרדשיאן" ו"לתת פוטין הפנים של טראמפ" ביניהם.

לוח אם כןדיווח יסודיעל זיופים עמוקים בדצמבר וממשיכה לכסות את המגמה, עם צפוי באופן מייאשחֲדָשׁוֹתבשבוע שעבר אנשים משתמשים בטכנולוגיה כדי ליצור פורנו בכיכובם של חברים וחברים לכיתה. אבל מומחים למשפטים ומדעי המחשב אמרו ל-Mashable שהיישומים הקודרים יותר של הטכנולוגיה לא צריכים להאפיל על הפוטנציאל שלה לטובה, גם אם קשה לראות את הצד החיובי כאשר כוכבים שאינם מסכימים נתקעים בסצנות סקס הארדקור עם מאות אלפי צפיות ב- Pornhub ו- Reddit.

החברה האחרונה לא הגיבה לבקשות להגיב במהלך שבוע, אך Pornhub אמרה שהיא תסיר זיופים עמוקים מהפלטפורמה שלה.

"משתמשים התחילו לסמן תוכן כזה, ואנחנו מורידים אותו ברגע שאנחנו נתקלים בדגלים", אמר קורי פרייס, סגן נשיא PornHub. "אנו ממליצים לכל מי שנתקל בבעיה זו לבקר אצלנודף הסרת תוכןכדי שיוכלו להגיש בקשה רשמית".

ובכל זאת, שיהיה ברור מאוד: כל זה אמור להפחיד אותך.

למעלה, אנחנו רואים את פניה של גל גדות מוצמדות על שחקנית פורנו, רגע לפני שהיא מורידה את החולצה ומורגשת. הסכמה לא השתלבה במשוואה של Redditor שעשה את הקליפ הזה, ומתבונן מזדמן לא יידע שהסרטון מזויף אם הוא קיבל את הקובץ מחבר באמצעות הודעת טקסט או דואר אלקטרוני, כי השינוי נעשה כל כך טוב.

הנושא די פשוט: אסור להכניס אדם שלא הסכים למצב מיני, בין אם בחיים הפיזיים או הווירטואליים. אבל השד יצא מהבקבוק, והוא נשאר שם. "גל גדות" נשאר אחד המונחים המובילים הקשורים לחיפושים מזויפים עמוקים בגוגל, כפי שמראים נתוני Trends של החברה עצמה:

זה מדגיש את דחיפות הבעיה, גם אם היא מתהווה. קשה למחוק תוכן שמתפרסם באינטרנט, במיוחד כאשר יש קבוצה של אנשים שמשקיעים בשכפול והפצתו. אנשים יכולים להפסיק ליצור דיפפייקים חדשים מחר, אבל הקליפים של גל גדות יכולים לחיות ללא הגבלת זמן.

רוצה עזרה? זה עכור

אין הרבה פנייה משפטית למי שנפל קורבן לטכנולוגיה החדשה הזו, לדברי ג'ונתן מסור, פרופסור המתמחה בדיני פטנטים וטכנולוגיה בבית הספר למשפטים של אוניברסיטת שיקגו. זה נכון אפילו לאזרחים פרטיים.

"יש את תביעת זכויות היוצרים, אם צילמת את [הצילומים] בעצמך. יש את תביעת לשון הרע אם מישהו מנסה להגיד שזה בעצם אתה. ואם אתה סלבריטי, יש זכות לתביעת פרסום אם מישהו מנסה להרוויח כסף לצאת מזה," הסביר מסור. "אבל כל אחד מאלה הוא רק נתח צר ממה שקורה כאן שלא יכסה את הרוב המכריע של המצבים".

רבים מהסרטונים הללו מכירים בכך שהם מזויפים, מה שמערער טיעון לשון הרע.

"[אתה] יכול לנסות להגיש תיק זה מייצג סוג של לשון הרע אם אתה תוקף את המוניטין של מישהו, אבל זה גם די קשה לעשות כי, בהגדרה, אתה לא טוען שאתה מפרסם תמונה פורנוגרפית של אותו אדם", אמר.

ולא, המאמצים האחרונים לאסור על פורנוגרפיית נקמה, בראשותמרי אן פרנקס ודניאלה ציטרון, לא יוחל במקרים אלה, מכיוון שהחוקים הללו מתייחסים לשחרור של תמונות פרטיות או וידאו של אדם פרטי.

"אין תמונה פורנוגרפית של האדם המשוחרר בפועל", אמר מסור. "זה רק הפנים של האדם על הגוף של מישהו אחר."

עדיין אין חוקים נגד נוהג זה, והם גם לא הוצגו. התמודדות עם זיופים עמוקים באמצעות חקיקה חדשה תהיה מסובכת, שכן פעולה זו תתנגש בתיקון הראשון.

"מנקודת מבט של חירויות האזרח, אני... מודאג מכך שהתגובה לחידוש הזה תהיה צנזורית ובסופו של דבר תעניש ותייאש דיבור מוגן", דיוויד גרין, מנהל חירויות האזרח ב-Electronic Frontier Foundation, מלכ"ר המתמקד בחופש דיבור דיגיטלי, אמר.

"זה יהיה רעיון רע, וככל הנראה לא חוקתי, למשל, להפליל את הטכנולוגיה", הוסיף.

הצד הבלתי צפוי

ייתכן שהחששות של גרין אינם מופרכים. אף על פי שזיופים עמוקים הם כיום שם נרדף לפורנו, הרעיון הבסיסי מאחורי הטכנולוגיה הוא זיהוי פנים, שבאופן תיאורטי יש לו הרבה יתרונות שצריך לחקור.

אולי אתה כבר מכיר את זיהוי הפנים הבסיסי והחי מאפליקציות כמו Snapchat. הטכנולוגיה מתוכנתת למפות פרצופים לפי נקודות "ציון דרך". אלו הן תכונות כמו זוויות העיניים והפה, הנחיריים וקווי המתאר של קו הלסת.

Snapchat די טוב בהבנת הפנים שלך ויישום אפקטים טרנספורמטיביים, שמגדילים את התכונות שלך:

אבל תכונת החלפת הפנים שלו משאירה משהו לרצוי:

חלק מזה קשור לעבודה של Snapchat בזמן אמת - זה מהירות המסחר לצורך דיוק.

Deepfakes פועלים אחרת. תוכנית "FakeApp" משתמשת בבינה מלאכותית כדי להשלים שלושה שלבים עיקריים: יישור, אימון ומיזוג. במקום להציב פנים אחד על פני אחרים בזמן אמת, ה-FakeApp משתמש במאות תמונות סטילס שנשלפו מצילומי וידאו. הוא חופר בכל התמונות הללו, מזהה פרצופים ומנתח כיצד הם מוארים, אילו הבעות הם עושים וכו'. ברגע שהתוכנית מבינה את הפרצופים איתם היא עובדת, היא יכולה להשתמש בכל ה"ידע" שלה כדי לתפור אחד על השני.

למרות שזה הוגדר למטרה גסה, חוסר התפר של deepfakes יכול להיות סימן מעודד, תלוי בפרספקטיבה שלך. עם מספיק פיתוח, החלפת פנים בזמן אמת יכולה להשיג איכות דומה לזיופים עמוקים, שעשויים להיות להם שימושים טיפוליים, לדברי ד"ר לואי-פיליפ מורנסי, מנהלMultiComp Labבאוניברסיטת קרנגי מלון.

"לטכנולוגיה הזו יש יישומים חשובים מאוד מלבד בידור", אמר.

דוגמה אחת לצילום ירח: ד"ר מורנסי אמר שחיילים הסובלים מהפרעת דחק פוסט טראומטית יכולים בסופו של דבר לשוחח בווידאו עם רופאים המשתמשים בטכנולוגיה דומה. אדם יכול להחליף פנים עם מודל גנרי מבלי לוותר על היכולת להעביר את רגשותיו. בתיאוריה, זה יעודד אנשים לקבל טיפול שאחרת עלולים להירתע מסטיגמה נתפסת, ואיכות הטיפול שלהם לא תסבול בגלל שרופא לא יוכל לקרוא את רמזי הפנים שלהם.

עוד אחת מהאפשרויות של ד"ר מורנסי - ופחית התולעים שלה - היא להשתמש במודלים בראיונות וידאו כדי להסיר הטיה מגדרית או גזעית בעת קבלת עובדים. אבל כדי שכל זה יקרה, החוקרים זקוקים ליותר נתונים, ותוכניות נגישות בקוד פתוח כמו FakeApp יכולות לעזור ליצור את הנתונים האלה.

"הדרך להתקדם עם מחקר בינה מלאכותית היא לשתף את הקוד, ולשתף את הנתונים. זה מאפשר למחקר בינה מלאכותית", אמר ד"ר מורנסי.

איכשהו זה מחמיר

כמו בטכנולוגיות מתפתחות רבות, החלק המפחיד ביותר עשוי להיות בלתי נראה. כשפייסבוק התגלגלה לראשונה בקמפוסים בקולג', מעטים היו צופים את הפיכתה לגוליית מולטימדיה שעלולה לערער את היציבות בדמוקרטיה האמריקאית כפי שהכרנו אותה - אבל הנה אנחנו כאן.

כמו "החדשות המזויפות" שהתישו כל כך הרבה מאיתנו בפייסבוק, זיופים עמוקים מייצגים יכולת נוספת של האינטרנט לפרוץ את המציאות המשותפת שלנו. אם כל קליפ יכול להיות מזויף, למה להאמין שמשהו אמיתי?

וכך, צפו לתגובה מהנכד שטרם נולד: "שודדי התיבה האבודה? אתה מתכוון לזה עם ניקולס קייג'?"