להיות אישה באינטרנטמפחיד. בעולם הדיגיטלי, כמו בעולם האמיתי, הטרדות והתעללות משפיעות על נשים ואנשים ממגדרים שוליים מדי יום.

מה קרה לטיילור סוויפטהשבוע הזה הוא דוגמה מצוינת - ומפחידה.תמונות פורנוגרפיות שנוצרו על ידי AIשל סוויפט המשיך ויראליX (לשעבר טוויטר), עם פוסט אחד כזה שצברלמעלה מ-45 מיליון צפיות. מעריצים זועמים התערבו במהירות והציפו את הפלטפורמה בפוסטים חיוביים ותמונות של הזמרמצורף למונחי חיפושכמו "טיילור סוויפט AI" ו"טיילור סוויפט deepfake". בסיס המעריצים הייעודי של סוויפט קיבל גם את ההאשטאג #ProtectTaylorSwift המגמתי, עם אלפי פוסטים שמגנים את התמונות ללא הסכמה.

ייתכן שהציוץ נמחק

האירוע בהחלט אינו אירוע בודד. סוויפט, אחת הדמויות המוכרות ביותר על פני כדור הארץ, היא האחרונה שהפעילו נגדה זיופים עמוקים. זה קרה לכוכבי קיי-פופ,יוצרי TikTok,עיתונאים, ובנות תיכון.

מהו פורנו מזויף עמוק?

פורנו מזויף עמוקהוא תמונות או סרטונים שנוצרו באופן מלאכותי שנוצרו על ידי סוג מסוים של למידת מכונה. חזותיים סינתטיים אלה מתארים את הדמיון של אנשים המושתלים באקטים מיניים ללא הסכמתם. פעולת השיתוף היא סוג של התעללות מינית מבוססת דימוי, ועבר פלילי בכמה מדינות. הרבה כמופורנו נקמה, פורנו מזויף עמוק גרם נזק למי שהוא מתאר, בין אם מבחינה פסיכולוגית, אישית או מקצועית.

מחקר משנת 2023 מגיבורי אבטחת הבית, חברת מחקר המתמקדת בגניבת זהות ופגיעה דיגיטלית, מצאה שפורנו מזויף עמוק מהווה 98 אחוז מכל הסרטונים המזויפים באינטרנט. יתרה מכך, 99 אחוז מהמטרות המזויפות עמוקות הן נשים.

איפה החוק לגבי פורנו מזויף עמוק?

כשמדובר בשיתוף ללא הסכמה של תמונות מפורשות, במדינות מסוימות בעולם יש או מיישמות חוקים להגנה על ניצולים.

באנגליה ובוויילס, שיתוףפורנו מזויף עמוק הופללמאז יוני 2023, עם ממשלת בריטניהמכריזים על תקיפהעל "מתעללים, טורפים ובני זוג מרים לשעבר המשתפים תמונות אינטימיות באינטרנט ללא הסכמה של המתוארים".

בארה"ב, ל-48 מדינות ולמחוז קולומביה יש כיוםחוקי פורנו נגד נקמה. כמה מדינות עבדו לעדכן את השפה שלהן כך שתכלול פורנו מזויף עמוק תחת המטריה הזו, כוללאילינוי,וירג'יניה,ניו יורק, וקליפורניה. עם זאת, התקנות משתנות בהתאם למדינה ו,כפי שחלקם ציינו, חוקים מסוימים אינם כוללים את הנושא הדחוף של תפקידה של הטכנולוגיה ביצירה והפצה של תמונות וסרטונים כאלה.

עם זאת, ממשלות רבות לא מצליחות להתמודד עם הבעיה. "רוב הממשלות לא נוקטות פעולה. לרובן אין חוקים, או שהחוקים שלהן מלאים בפרצות", לפי#MyImageMyChoice, קמפיין המוקדש להגברת קולם של מי שנתקלו בהתעללות מינית מבוססת תדמית. "לרוב המדינות אין מסגרת סביב מי שאחראי על שיטור מרחבים מקוונים".

איך ביג טק ניגשה לבעיה הזו?

X, שם התמונות של סוויפט הופצו באופן נרחב,אוסר במפורששיתוף "מדיה סינתטית, מניפולציה או מחוץ להקשר." זה כולל תוכן שמתכוון בכוונה "להונות אנשים" או כאלה שטוענים באופן כוזב לתאר את המציאות. החברה אומרת שיש לה "מדיניות אפס סובלנות כלפי תוכן כזה", לפי פוסט מחשבון הבטיחות הרשמי שלה.

ייתכן שהציוץ נמחק

פלטפורמות אחרות, כמוReddit, יש גם מדיניות המונעת שיתוף של מדיה אינטימית או מינית מפורשת ללא הסכמתו של אדם.

פלטפורמות מדיה חברתית וביג טק הועמדו למבחן בכל הנוגע לאיתור ומניעת זיופים עמוקים, למרות המדיניות. בשנת 2021,Meta הטמיעה כלי חדשלעשות זאת, בשיתוף פעולה עם הפלטפורמה של קו העזרה לנקמה פורנו בבריטניהStopNCII.org. לאחרונה, חברת האם של פייסבוק ואינסטגרם הודיעה שכל תמונה ששונתה דיגיטלית הנוגעת לנושאים חברתיים, אלקטורליים ופוליטייםחייב להיות מסומן- מדיניות שנועדה להגן על הבחירות הקרובות שכמה מהדמוקרטיות הגדולות בעולם מתכוננות לקראתן.

פלטפורמות רבות מתקשות להכיל תוכן כזה. התמונות של סוויפט, במיוחד, נוצרו והופצו בצ'אט קבוצתי של טלגרם, כפי שהתגלה על ידי404מדיה. לטלגרם ישלא הצליח למנוע תוכן מסוג זהבעבר. גם לאחרים יש: רק החודש,נמצאו חדשות NBCשפורנו מזויף עמוק ללא הסכמה שמציג דמות של ידועניות מופיעות בראש מנועי החיפוש כמו גוגל ו-Bing של מיקרוסופט.

הנה השאלה האמיתית:איך זה ממשיך לקרותהמציאות המדאיגה היא שתמונות שנוצרו על ידי AI הופכות נפוצות יותר, ומציגות סכנות חדשות לאלו שהן מתארות. מה שמחריף את הנושא הזה הוא קרקע משפטית עכורה, פלטפורמות מדיה חברתית שלא הצליחו לטפח אמצעי הגנה אפקטיביים, והעלייה המתמשכת של בינה מלאכותית. ארגון זכויות הנשים הבינלאומי Equality Nowפירט את הגורמים הללובדוח של ינואר 2024, הקורא ל"תגובות דחופות ומקיפות של חדשנות טכנולוגית, רפורמה משפטית ומודעות חברתית" כדי להתמודד עם העלייה הבלתי ניתנת להכחשה של פורנו מזויף עמוק.

הנסיבות סביב המקרה של סוויפט מדגישות את המציאות שזה יכול לקרות כמעט לכל אחד - ולפני שהסוג הזה של משבר דיגיטלי יחמיר, הגיע הזמן לשינוי.

אם חווית התעללות מינית, אם אתה מבוסס בארה"ב, התקשר למוקד החם הלאומי לתקיפה מינית ללא תשלום, בטלפון 1-800-656-HOPE (4673), או גש לעזרה 24-7 באינטרנט על ידי ביקורonline.rainn.org. אם שיתפו תמונות אינטימיות ללא הסכמתך, התקשר למוקד 24/7 של יוזמת זכויות האזרח בסייבר בכתובת844-878-2274לתמיכה חינמית וחסויה. אתר CCRI כולל גםמידע מועילכמו גם רשימה שלמשאבים בינלאומיים.

אם אתה מבוסס בבריטניה וחווית התעללות בתדמית אינטימית (המכונה פורנו נקמה), אתה יכול ליצור קשר עםקו העזרה לנקמה פורנובטלפון 0345 6000 459. אם חווית אלימות מינית ואתה מבוסס בבריטניה, התקשר לקו הסיוע של Rape Crisis0808 802 9999.