פורנו נקמההיא אחת הבעיות הכי ערמומיות במדיה החברתית ובאינטרנט בכלל - ופייסבוק נוקטת כעת בצעדים חדשים כדי להילחם בה באחת הפלטפורמות המקוונות הגדולות בעולם.

הרשת החברתיתהכריזזה משיק סט כלים חדש למשתמשים בפייסבוק, מסנג'ר ואינסטגרם כדי למנוע את שיתוף התמונות האינטימיות ביותר שלהם ללא רשותם. המערכת לא תחסום מיד פרסום תמונות בעייתיות - אך לאחר שתמונה סומנה והנושא שלה יזוהה, תעשה שימוש בטכנולוגיה של התאמת תמונות כדי לוודא שהיא לא תועלה שוב.

הכלים והפרוטוקולים החדשים פותחו על ידי פייסבוק באמצעות שותפות עם מומחי בטיחות וארגוני הסברה, כולל הרשת הלאומית לסיום אלימות במשפחה, המרכז למחקר חברתי, קו הסיוע לנקמה פורנו (בריטניה) ויוזמת זכויות האזרח בסייבר.

ישנם מספר שלבים לטיפול בפורנו נקמה במסגרת הכללים החדשים. משתמשים מוזמנים לדווח על תמונות שלהם ושל אחרים שנראה כאילו שותפו ללא רשות הנבדק. פייסבוק הכינה מדריך להוביל קורבנות בתהליך הזה, שתוכל למצואכָּאן.

לאחר דיווח על תמונה, נציגים מאומנים במיוחד מצוות התפעול הקהילתי של פייסבוק בודקים את התמונה ומסירים אותה אם היא מפרה את הפלטפורמהסטנדרטים קהילתיים. זה המקום שבו הדברים עלולים להסתבך: תמונה אינטימית שפורסמה ברשת הציבורית של פייסבוק לא צריכה להיות "מפורשת" לפי הגדרת המונח של פייסבוק כדי להשפיל או לגרום לטראומה בנושא שלו.

זו הסיבה שמדיניות פורנו הנקמה החדשה לא תהיה תלויה במדיניות של פייסבוקמתקדם יותר ויותרכלי זיהוי תמונות מבוססי AI ויפנו במקום זאת לשיפוט של מנחה אנושי. אנטיגונה דייויס, ראש הבטיחות הגלובלית של פייסבוק, סיפרהTechCrunchשעדיין דרוש שיקול דעת אנושי לנושא כל כך רגיש. "יש הקשר משמעותי שנדרש לבדיקת שיתוף לא בהסכמה", אמרה.

פרופילים של המשתמשים שיפרסמו תמונות שהוסרו יושבתו "ברוב המקרים", אם כי תהליך ערעור יהיה זמין.

לאחר שתמונות סומנו והוסרו מכל אחת מהפלטפורמות, טכנולוגיית התאמת תמונות תמנע את העלאתן מחדש. אם מישהו ינסה לשתף את התמונה שוב, הוא ייחסם מלשתף אותה ויקבל התראה שהיא מפרה את מדיניות הקהילה.

זה מעלה בעיה אפשרית נוספת: האם יש דרך להזהיר את נושא התמונה שמישהו מנסה לפרסם ללא רשותו בפעם השנייה? נציגי פייסבוק אמרו שסוג הפונקציונליות הזה לא נמצא בכרטיסים לעת עתה, והצביעו לנו עלמדריך הכל באחדפייסבוק פותחה עם היוזמת זכויות האזרח בסייברוחברות אחרות כדי לעזור לקורבנות בצעדים הבאים.

הרשת החברתית גם מציגה משאבים חדשים עבור קורבנות של פוסטים פורנו נקמה באמצעות שותפויות עם ארגוני הבטיחות הנ"ל.

חיל הנחתים של ארצות הברית היהרעד לאחרונהעל ידי שערוריית שיתוף תמונות לאחר שהתגלתה קבוצת פייסבוק סודית ששיתפה קישור ל-Google Drive מלא בתמונות מפורשות של נשות שירות. מכיוון שרבות מהתמונות הללו לא פורסמו ישירות לפייסבוק, ייתכן שהכלים החדשים לא מונעים את ההשפעה הראשונית של הקבוצה - אבל המשאבים המוגדלים לכלי תמיכה מעניקים לאותם קורבנות, ואחרים בנסיבות מטרידות דומות, עוד מקומות לפנות בהם. תוצאות.

פורנו נקמה הוא לא התחום היחיד שפייסבוק מתגברת כדי למנוע התנהגויות מזיקות בפלטפורמה, ייאמר לזכותה. בחודש שעבר הוא התרחב וחיזק את זהכלים למניעת התאבדות, שעלול להיות תלוי במערכות AI כדי לזהות משתמשים שעלולים להיות בסיכון של פגיעה עצמית.