היצירה הזו היא חלק מסדרה מתמשכת הבודקת מה זה אומר להיותאישה באינטרנט.

כאשר העולםהביןבסוף השנה שעברה, שניתן היה להכשיר באופן משכנע פנים של אדם אחד על פניו של אדם אחר בסרטון, זה היה בגלל שגברים השתמשו ב"זיוף עמוק"טכנולוגיה כדי לאלץ את השחקניות האהובות עליהן להופיע בפורנוגרפיה המועדפת עליהן. כמובן, הם התפארו בזה בRedditו-4chan, מה שעורר ויכוח קדחתני על האתיקה של שימוש בבינה מלאכותית כדי להחליף פנים - וזהויות של אנשים.

בעיצומו של המחלוקת ההיא, שני עורכי דין בקליפורניה עם מומחיות בפרטיות דיגיטלית והגנה על אלימות במשפחה גילו שהם נבהלים באותה מידה מהאופן שבו הטכנולוגיה עמדה להרוס את חייהם של קורבנות שלא מדעתם, שאת חלקם הם עשויים יום אחד לסייע או לייצג בבית המשפט. .

תארו לעצמכם, למשל, ניצולת של התעללות במשפחה מגלה שבן זוגה השתמש בטכנולוגיית Deep Fake כדי לכסות את דמותה על פניה של שחקנית פורנו, ולאחר מכן פרסה את התמונה או הסרטון המזויפים כאמצעי לשלוט בה, לאיים ולהתעלל בה.

אדם דודג', המנהל המשפטי של הסוכנות לאלימות במשפחההבית של לורהבמחוז אורנג', קליפורניה, ואריקה ג'ונסטון, שותפה של משרד עורכי דין בסן פרנסיסקו ומייסדת שותפה של ארגון ללא מטרות רווחללא הסכמתי, נחרדו מהאפשרות. ואז הם החליטו לעשות משהו עם הפחד שלהם.

באפריל הם פרסמו אמְיָעֵץעבור תומכי אלימות במשפחה, תוך פירוט כיצד טכנולוגיית וידאו מזויפת יכולה להוסיף עוד מימד אכזרי של טראומה למערכות יחסים אלימות רגשית ופיזית.

"הרבה אנשים אפילו לא הבינו שהטכנולוגיה הזו קיימת, ועוד פחות מכך שניתן להשתמש בה לרעה או לנשק אותה נגד האוכלוסייה שאנו משרתים מדי יום", אומר דודג'.

המציאות של טכנולוגיה מזויפת עמוקה תעצבן נשים שנמנעו במיוחד מיצירת תמונות או סרטונים אינטימיים, כך שלעולם לא יצטרכו לדאוג לראות את עצמן בפורנו ללא הסכמה, או פורנו נקמה, שבו תמונה או סרטון אינטימי של קורבן מתפרסמים באינטרנט ללא רשותם.

ניתן להזין כלי גירוד בקוד פתוח המושכים תמונות וסרטונים מחשבונות ואתרים זמינים לציבור ברשתות חברתיות לתוכנות מחשב המסוגלות להוציא זיופים עמוקים פורנוגרפיים תוך מספר שעות. העבריין יכול למעשה לחטוף זהות של מישהו אחר, לגרום לזה להיראות כאילו היא הופיעה בפורנוגרפיה, ולמנף אופטימיזציה למנועי חיפוש וסייברמובס כדי למקד אותה.

"זהו פורנו ללא הסכמה על סטרואידים", אומר דודג'.

בחודש מאי רנא איוב, עיתונאית חוקרת בהודו,כתבעל מותקפת דיגיטלית במדיה חברתית על ידי משתמשים שהפיצו סרטון דיפ זיוף פורנוגרפי שלה.

"השנאה והשנאה היו כמו עונש מאספסוף על עבודתי כעיתונאית, ניסיון להשתיק אותי", כתב איוב. "זה נועד להשפיל אותי, לשבור אותי בניסיון להגדיר אותי כאישה 'מופקרת', 'לא מוסרית'".

ייתכן שהציוץ נמחק

לא דודג' או ג'ונסטון לא יודעים על מקרה שבו מתעלל של קורבן אלימות במשפחה יצר זיוף פורנוגרפי עמוק כנקמה או כמנוף, אבל שניהם מאמינים שהתרחיש הזה קרוב. הם בוחרים לפרסם את האפשרות כעת מכיוון ששניהם צפו בעבר ברשויות אכיפת החוק, עורכי דין, שופטים וסנגורים מתאמצים להגיב לעליית הפורנו ללא הסכמה.

הבעיה, כפי שמתארים זאת דודג' וג'ונסטון, היא שמדינות מסוימות למדו מהניסיון הזה וצריכות להיות מסוגלות להציע לקורבנות של טכנולוגיית וידאו מזויפת הגנה ופנייה דרך המערכת המשפטית, בעוד שמדינות אחרות נותרות לא מוכנות לצערם.

בקליפורניה, למשל, ניצולי התעללות במשפחה שבן זוגם לשעבר או בהווה פרסמו פורנו ללא הסכמה שלהם יכולים להגיש צו מניעה דרך בית המשפט לענייני משפחה. אותו דבר צריך להיות נכון לגבי קורבנות מזויפים עמוקים, אומר ג'ונסטון, שכן פרסום תמונות או סרטוני וידאו עשוי להיחשב כהתחזות מזויפת, מעקב, הטרדה או צורות אחרות של התעללות בפרטנר אינטימי המוגדרות בחוק המדינה. העבריין עלול גם להפר את החוק על ידי מעקב או מעורבות בהטרדה והפחדה כדי להשיג את מאות התמונות הדרושות לשימוש בתוכנית או אפליקציה להחלפת פנים בינה מלאכותית.

ייתכן שהציוץ נמחק

בנוסף, מדינת קליפורניה, תחת הנהגתה של התובע הכללי דאז, קמאלה האריס, השיקה איחידת eCrimeבשנת 2011, ובסופו של דבר סיפק הכשרה לחוקרים ותובעים עם דגש ספציפי על "ניצול סייבר"ופורנו ללא הסכמה.

ג'ונסטון מדמיינת שאם קורבן מאורגן היטב, מתמיד ובעל נרטיב משכנע ינסה להגיש דו"ח משטרה נגד העבריין שלה בקליפורניה, יהיה לה סיכוי טוב להיתקל בחוקר בעל ניסיון או הכשרה. היא גם לא צריכה להיות מועברת למערכת משפטית שהיא אמביוולנטית או אפילו עוינת כלפי מטרתה. (ג'ונסטון יצר את ארשימת בדיקהכדי שאנשים במדינות אחרות יוכלו לתמוך בהגנות דומות.)

עם זאת, חוקי פורנו ללא הסכמה משתנים בהתאם למדינה והכשרה יכולה לעשות כל כך הרבה. לא ייתכן שגורמי אכיפת החוק יחקרו כל מקרה, וייתכן שזה לא יגרור גזר דין פלילי אם כן. ייתכן שנפגעים יצטרכו לשכור עורך דין פרטי יקר, וגם אז לא יזכו בהחזר כספי בבית המשפט האזרחי.

קארי גולדברג, עורך דין בולט בניו יורק שלקח על עצמו מספר רב של תיקי פורנו ללא הסכמה, אומר שהסיכוי כיצד יטופלו קורבנות מזויפים עמוקים מדאיג.

"גם אם יש חוק פורנו ללא הסכמה במדינה שלהם, שוטרים יכולים להיות לא מאמינים או לגרום ללקוחות שלי להרגיש שהם מתעצבנים בגלל משהו טריוויאלי", כתב גולדברג באימייל. "אז תארו לעצמכם אם הם היו נכנסים ואומרים, 'היי, תמונה מדוייקת שבה אני משתתפת בגנגבאנג הורסת לי את החיים'. הם יפוטרו בקצב גבוה יותר".

ייתכן שהציוץ נמחק

מאחר שאין חוק פדרלי המגן על קורבנות של פורנו ללא הסכמה, וחוקי המדינה אינם כוללים פורנוגרפיה מסחרית במדיניות שלהם נגד פורנו נקמה, גולדברג אומר שעורכי דין אזרחיים עשויים להזדקק להשתמש ב"כלים יצירתיים" כמו הפרת זכויות יוצרים ותביעות לשון הרע כדי לחפש צדק עבור הלקוחות שלהם.

ג'ונסטון רואה תפקיד פרו-אקטיבי עבור הלקוחות עצמם. היא אמנם נזהרת מלהוציא הצהרות גורפות על הגבלת הגישה לסרטונים ולתמונות האישיות של האדם - "מידה מסוימת של אמון נחוצה למערכות יחסים" -מְיָעֵץהיא כתבה עם דודג' ממליצה לקורבנות להפוך חשבונות מדיה חברתית לפרטיים, לבקש ממשפחה וחברים להסיר או להגביל את הגישה לתמונות שכוללות את הקורבן, ולהשתמש בחיפוש Google כדי לזהות תמונות וסרטונים ציבוריים להסרה.

נשים שאולי לא חושדות בבני זוגן בשימוש בטכנולוגיית וידאו מזויפת עדיין צריכות להכיר את סימני האזהרה, הכוללים בקשה לגישה והורדה של מטמון של תמונות אישיות וכן בקשות תכופות להצטלם לתמונות או לסרטונים. ג'ונסטון ממליץ לקבוע "חוקי בית" על בסיס כל מקרה לגופו לגבי מועד הצילום ובאילו נסיבות.

"אם אתה רוצה להיות ממש ציני, נניח שהאדם הזה ישתמש בכל תוכן שאתה נותן לו גישה אליו [כדי] לבייש אותך ולהשפיל אותך באינטרנט", היא אומרת.

אם זה נשמע כמו דיסטופיה מופרכת, דעו שג'ונסטון ייצג לקוחות שתמונות הפרופיל שלהם, תמונות אינטימיות בהסכמה אך פרטיות ותמונות מצילומים ממוצעים שימשו כדי להביך אותם באופן דיגיטלי, לנצח.

עבור קורבנות של אלימות במשפחה, דודג' אומר כי טכנולוגיית Deepfake מהווה איום זדוני במיוחד: "כשמישהו בורח ממערכת יחסים פוגענית, [המתעלל] מחפש דרכים לשחזר את רמת הכוח והשליטה הזו, ואיום לפרסם סרטון או תמונה הוא דרך חזקה מאוד לעשות זאת".

גם אם הקורבן יודע שהתמונה או הסרטון מזויפים, היא תעמוד במשימה הכואבת של לנסות לשכנע אחרים שזה שקר - או שהיא עשויה אפילו להחליט להישאר עם מתעלל או לחזור אליו, מתוך אמונה ששום דבר שהיא יכולה לעשות לא יפסיק ההתנהגות שלו.

הופעת הבכורה של טכנולוגיית וידאו מזויפת, אומר ג'ונסטון, מסמנת שלב חדש בחברה האובססיבית לטכנולוגיה שלנו, והיא צפויה לפגוע בפגיעים ביותר מבינינו, כמו קורבנות אלימות במשפחה, וזה מאיים באופן מהותי על ההבנה שלנו לגבי מה אמיתי בעולם.

"הדור הבא של גניבת זהות הוא לא שאתה קורא דברים מזויפים על אדם אלא אתה גם רואה אותם מתנגנים", היא אומרת. "נהגת לומר 'אתה לא מאמין לכל מה שאתה קורא'. עכשיו זה שאתה לא מאמין לכל מה שאתה רואה".