הבית הלבן קורא לחברות טכנולוגיה לעזור לעצור זיופים עמוקים

הבית הלבן קרא לחברות טכנולוגיה לעזור לעצור זיופים עמוקים. קרדיט: ויקי לטה / Mashable

ממשל ביידן הבהיר את עמדתו בנוגע לזיופים עמוקים: חברות טכנולוגיה חייבות למלא תפקיד קריטי בעצירת דימויים כאלה, שנוצרים על ידיבינה מלאכותית.

ביום חמישי, ההבית הלבן פרסם רשימה של צעדיםחברות טכנולוגיה צריכות לנקוט כדי לרסן התעללות מינית מבוססת תדמית, סוג של אלימות דיגיטלית המופעלת בדרך כלל על נערות, נשים ולסביות, הומואים, ביסקסואלים וטרנסג'נדרים.

Deepfake הוא מונח אחד המשמש לתיאור יצירה סינתטית של תמונה או סרטון, שלעתים קרובות הם בעלי אופי מפורש או מיני. לעיתים החומר נעשה באמצעות פניו של הנפגע שהושגו ללא הסכמתו מתמונה או סרטון קיים. במקרים אחרים, העבריינים משתמשים בבינה מלאכותית כדי ליצור תוכן מזויף לחלוטין.

במקרה פלילי אחד, איש ויסקונסין היהנעצר לאחרונה והוגש נגדו כתב אישוםעם הפקת אלפי תמונות של התעללות מינית בילדים באמצעות כלי הבינה המלאכותית המחולל טקסט לתמונה בשם Stable Diffusion.

למרות שהבית הלבן לא ציטט את המקרה הזה באופן ספציפי, הוא תיאר התעללות מינית מבוססת תמונה כאחד "השימושים המזיקים הצומחים ביותר של AI עד כה". בינה מלאכותית יכולה גם לעזור לשחקנים גרועים להפיץ תמונות אמיתיות ללא הסכמה במהירות ובקנה מידה מפחיד.

ההודעה נכתבה על ידי פקידי הבית הלבן ג'ניפר קליין, מנהלת המועצה למדיניות מגדרית, ואראטי פראבהקאר, מנהל המשרד למדיניות מדע וטכנולוגיה.

פראבהקאר אמר ל-Mashable בראיון טלפוני שהבית הלבן מקווה שחברות המעורבות בעלייה של התעללות מינית מבוססת תדמית ינקטו פעולה עכשיו, ויצעדו במהירות כדי לעזור לעצור זאת.

Mashable Top Stories

"אנחנו מאוד רוצים שחברות יחשבו טוב יותר על מה שהן יכולות לעשות, וידחפו להתקדם באמת בבעיה הזו", אמר פרבהקר.

הבית הלבן המליץ לחברות טכנולוגיה להגביל אתרים ואפליקציות שיוצרות, מקלות, מייצרות רווחים או מפיצים פגיעה מינית מבוססת תמונה, ולהגביל שירותי אינטרנט ואפליקציות המשווקים כמספקים למשתמשים את הכלים ליצור ולשנות תמונות מיניות ללא הסכמת יחידים. . ספקי שירותי ענן יכולים באופן דומה לאסור על אתרים ואפליקציות מפורשים בזיוף עמוק לגשת למוצר שלהם.

חנויות אפליקציות יכולות גם לדרוש מהמפתחים למנוע יצירת תמונות ללא הסכמה, לפי הבית הלבן. דרישה זו תהיה קריטית בהתחשב בכך שאפליקציות בינה מלאכותיות רבות מסוגלות ליצור זיופים עמוקים מפורשים, גם אם הם לא מפורסמים למטרה זו.

הבית הלבן קרא לפלטפורמות התשלום ולמוסדות הפיננסיים לבלום את הגישה לשירותי תשלום עבור אתרים ואפליקציות שעושים עסקים בהתעללות מינית מבוססת תמונה, במיוחד אם ישויות אלו מפרסמות תמונות של קטינים.

הבית הלבן דחק בתעשייה "להצטרף" למציאת דרכים לסייע לניצולי מבוגרים ונוער להסיר תכנים שאינם בהסכמה שלהם מהפלטפורמות המקוונות המשתתפות. נכון לעכשיו, התהליך ההסרה יכול להיות מבלבל ומתישלקורבנות, כי לא לכל פלטפורמה מקוונת יש תהליך ברור.

גם לקונגרס יש תפקיד, אמר הבית הלבן. היא ביקשה מהגוף המנהל "לחזק את ההגנות המשפטיות ולספק משאבים קריטיים לניצולים ולקורבנות של התעללות מינית מבוססת תדמית". אין כיום חוק פדרלי שמפליל יצירה או הפצה של תמונות מזויפות מפורשות.

הצהרת הבית הלבן הכירה בהימור הגבוה של התעללות מינית מבוססת תדמית: "עבור ניצולים, התעללות זו עלולה להיות הרסנית, לשפר את חייהם, לשבש את ההשכלה והקריירה שלהם, ולהוביל לדיכאון, חרדה, הפרעת דחק פוסט-טראומטית והגברת סכנת התאבדות".

פרבהקאר אמרה שהטכנולוגיה הבסיסית של AI גנרטיבי מציעה הבטחה עצומה, אבל היא תיארה התעללות מינית מבוססת תמונה כ"יישום מזיק ומכוער" שלה שהולך וגדל.

"חלק מהסיבה לעשות את זה נכון", הוסיפה, "הוא לאפשר שימוש בטכנולוגיה הזו לדברים הטובים שיכולים לבוא".

עדכון: מאי. 23, 2024, 17:42 EDTהסיפור הזה עודכן כך שיכלול את הראיון של Mashable עם Arati Prabhakar.

רבקה רואיז היא כתבת בכירה ב- Mashable. היא מרבה לסקר בריאות נפשית, תרבות דיגיטלית וטכנולוגיה. תחומי ההתמחות שלה כוללים מניעת התאבדות, שימוש במסכים ובריאות נפשית, הורות, רווחת נוער ומדיטציה ומיינדפולנס. לפני Mashable, רבקה הייתה כותבת צוות, כתבת ועורכת ב-NBC News Digital, מנהלת פרויקט דוחות מיוחדים ב-The American Prospect וכותבת צוות ב-Forbes. לרבקה יש תואר ראשון ממכללת שרה לורנס ותואר שני בעיתונאות מאוניברסיטת ברקלי. בזמנה הפנוי היא נהנית לשחק כדורגל, לראות טריילרים לסרטים, לנסוע למקומות שבהם היא לא יכולה לקבל שירות סלולרי ולטייל עם הבורדר קולי שלה.