המשבר של זיופים עמוקיםממשיך.מטאפלטפורמות, כוללאינסטגרם,פייסבוק, ושָׁלִיחַ, על פי הדיווחים אירחו מודעות שנוצרו בינה מלאכותית המתארותיוֹם רְבִיעִיהשחקן ג'נה אורטגה בהתפשטות.

כְּמוֹדיווחה על ידי NBC News, המודעות השתמשו בתמונה מטושטשת של אורטגה שצולמה כשהייתה בת 16, והדריכו את המשתמשים כיצד הם יכולים לשנות את התלבושת של הסלבריטאי, כולל אפשרות להסיר את כל הבגדים. לפי הדיווחים, התמונות טופלו על ידי אפליקציה בשם Perky AI, הרשומה כפי שפותחה על ידי חברת RichAds, שמתוארת ב-App Store של אפל כפלטפורמה המשתמשת ב-AI כדי "ליצור אנשים סופר-ריאליסטיים או דמויי פנטזיה" עם הנחיות. זה כולל תמונות "NSFW" (לא בטוחות לעבודה), שהן בדרך כלל מיניות מפורשות.

בעקבות הדיווח של NBC, המוציא לאור אומר שהדף של אפליקציית Perky AI הושעה על ידי Meta, לאחר שכבר הפעילו 260 מודעות ייחודיות בפלטפורמות החברה מאז ספטמבר - אלו שמציגות את תמונתו של אורטגה, על פי הדיווחים, רצו במהלך חודש פברואר. מתוך המודעות שהופיעו בפלטפורמות של Meta, בכלי החדשות נמסר כי 30 כבר הושעו בשל אי עמידה בתקני הפרסום של החברה, אך המודעות בהשתתפות אורטגה לא נכללו ביניהן.

בהצהרה ל-Mashable, אמר דובר Meta, ריאן דניאלס, "Meta אוסרת בהחלט על עירום ילדים, תוכן המייצר מינית ילדים ושירותים המציעים תמונות עירום שנוצרו ללא הסכמה של AI. למרות שהאפליקציה הזו נשארת זמינה בחנויות אפליקציות שונות, יש לנו הסיר את המודעות הללו ואת החשבונות שמאחוריהן."

נראה שה- Perky AI הוסרה גם ב-App Store וב-Google Play של אפל (Mashable מסומנת וזה לא זמין בשניהם). אפל אמרה ל-NBC שהאפליקציה הוסרה ב-16 בפברואר, לאחר שכבר נחקרה על ידי החברה על הפרת המדיניות שלה סביב "חומר מיני או פורנוגרפי גלוי".

Mashable פנתה לאפל וגוגל לתגובות נוספות.

התקרית הזו היא האחרונה בשורה של זיופים עמוקים בעלי הסכמה מינית המופצים באינטרנט. בחודשיים הראשונים של 2024, תמונות של סלבריטאים כמוטיילור סוויפטומנחה הפודקאסט בובי אלטהוףהתפשטו על פני פלטפורמות המדיה החברתית הגדולות, כולל X, שנקרא בעבר טוויטר. זיופים עמוקים חדרו גם לבתי ספר, עם עירום מזויף של תלמידים לאחרונה שעשו את דרכםחטיבת ביניים בבוורלי הילסובית ספר תיכון בפרברי סיאטל.

הנושא נמצא בנקודה קריטית, עםאזהרת מומחיםזֶהשינוי משפטי וחברתייש צורך בדחיפות. Subsum, פלטפורמת אימות זהות, גילתה שזיהוי שלזיופים עמוקים גדלו פי 10בין 2022 ל-2023. פלטפורמות מדיה חברתית רבות התקשו להכיל סוג זה של תוכן: בחודשים האחרונים בלבד,גוגל,X, ומטאנקראו על כך שאפשרו לחומר מזויף עמוק להסתובב על הפלטפורמות שלהם.

אם משתמשים רואים מודעה בכל פלטפורמה שלדעתם יש צורך לדווח עליה, החברה מדריכה הנחיות כיצד לעשות זאת. Meta מאפשר למשתמשים לדווח על מודעותפייסבוקאוֹאינסטגרם, בעוד אפל תכונותמספר שרשורים בקהילהשעוזר למשתמשים לדווח על מודעות שהן בתוך האפליקציה, למשל. גוגל גם עוזרת למשתמשיםלדווח על מודעות בלתי הולמותבאמצעות טופס.

אבל חלק מהצעדים האלה לא מספיקים כדי לעצור את התפשטות התוכן שנוצר בינה מלאכותית. הטכנולוגיה הגדולה צריכה לנקוט בפעולה משמעותית כדי להתמודד עם מה שנראה כאילו הופך למגיפה, לרוב מכוונת לנערות, נשים ואנשים מודרים.

אם חווית התעללות מינית, אם אתה מבוסס בארה"ב, התקשר למוקד החם הלאומי לתקיפה מינית ללא תשלום, בטלפון 1-800-656-HOPE (4673), או גש לעזרה 24-7 באינטרנט על ידי ביקורonline.rainn.org. אם שיתפו תמונות אינטימיות ללא הסכמתך, התקשר למוקד 24/7 של יוזמת זכויות האזרח בסייבר בכתובת844-878-2274לתמיכה חינמית וחסויה. אתר CCRI כולל גםמידע מועילכמו גם רשימה שלמשאבים בינלאומיים.

אם אתה מבוסס בבריטניה וחווית התעללות בתדמית אינטימית (המכונה פורנו נקמה), אתה יכול ליצור קשר עםקו העזרה לנקמה פורנובטלפון 0345 6000 459. אם חווית אלימות מינית ואתה מבוסס בבריטניה, התקשר לקו הסיוע של Rape Crisis0808 802 9999.