AI מעצב מחדש ביסודו את הציפיות לגבי מה שעלול לקרות לתמונות המקוונות של האדם. קרדיט: Getty Images
לאחרונה, קבוצה של בנות נוער גילתה את הגילוי המזעזע שבנים בבית הספר התיכון שלהם בניו ג'רזי ריכזו תמונות שבהן פרסמו את עצמםמדיה חברתית, ולאחר מכן השתמש בתמונות האלה כדי ליצור עירום מזויף.
הנערים, ששיתפו את העירומים בצ'אט קבוצתי, עשו זאת לכאורה בעזרת כלי דיגיטלי המופעל על ידיבינה מלאכותית,לפי הוול סטריט ג'ורנל.
התקרית היא פגיעה מפחידה בפרטיות. אבל זה גם ממחיש בדיוק איךבמהירות בינה מלאכותית מעצבת מחדש את הציפיותלגבי מה שעלול לקרות לתמונות המקוונות של האדם. המשמעות של זה עבור ילדים ובני נוער מפוכחת במיוחד.
אדו"ח אחרון שפורסם על ידי קרן Internet Watchגילה שבינה מלאכותית משמשת יותר ויותר ליצירת חומר מציאותי של התעללות מינית בילדים. חלק מהתמונות הללו נוצרות מאפס, בעזרת תוכנה המונעת בינה מלאכותית. אבל חלק מהחומר הזה נוצר עם תמונות זמינות לציבור של ילדים, שנגרדו מהאינטרנט וטופלו באמצעות AI.
הורים שראו כותרות על ההתפתחויות הללואולי התחיל לחשוב פעמייםעל שיתוף חופשי בתדמית של ילדם במדיה החברתית, ואולי הרתעו טווינים ובני נוער מלפרסם תמונות פומביות לחלוטין של עצמם.
אבל יש מעט שיחה על האופן שבו צדדים שלישיים שעוסקים בקביעות ומשרתים ילדים ובני נוער, כמו מחנות קיץ, אגודות הורים וקבוצות ספורט, משתמשים באופן שוטף בתמונות הילדים האלה לשיווק המקוון והמדיה החברתית שלהם. הם עשויים לבקש, או אפילו לציין שהם דורשים, אישור הורים לשם כך בוויתור משפטי. עם זאת, צדדים שלישיים מסוימים עשויים שלא לבקש רשות כלל, במיוחד אם ילדים נמצאים במרחב ציבורי, כגון בית ספר או אירוע ספורט.
הסיכון שתמונת ילד תישרט מחשבון PTA באינסטגרם של בית ספר, למשל, ותשמש ליצירת חומר של התעללות מינית בילדים הוא כנראה נמוך מאוד, אבל הוא גם כבר לא אפסי.
כיצד להגן על התמונה של ילדך באינטרנט
ג'ון פיצורו, לשעבר מפקד כוח המשימה של פשעי האינטרנט בניו ג'רזי נגד ילדים, אמר ל-Mashable שתמונות של ילדים שהיו זמינות באינטרנט רק לפני כמה שנים היו קשים למניפולציה עם התוכנה שהייתה קיימת באותה תקופה.
כעת, שחקן גרוע יכול לכרות בצורה דיגיטלית בצורה חלקה את הרקע של תמונה שמציגה ילד, ואז להטמיע את הנוער על רקע אחר בקלות, על פי פיזורו, מנכ"ל רייבן, קבוצת הסברה ולובי המתמקדת במאבק בניצול ילדים.
פיצורו אמר שכל ארגון שמצלם תמונות של ילדים ומפרסם אותן באינטרנט "נושא באחריות כלשהי" וצריך לנהל מדיניות כדי להתמודד עם האיום של חומרי התעללות מינית בילדים שנוצרו בבינה מלאכותית.
"ככל שיש יותר תמונות בחוץ, כך אתה יכול להשתמש יותר בתוכנות כדי לשנות דברים; זו הסכנה", אמר פיזו, בהתייחסו לאופן שבו כלי ליצירת תמונות בינה מלאכותית עשוי להשתפר עם כל תמונה ייחודית שהוא קולט.
אחת הדרכים הפשוטות של הורים לבטל את האפשרות שתמונת ילדם תגיע לידיים הלא נכונות היא לסרב כאשר צדדים שלישיים מבקשים רשות לצלם ולפרסם תמונות למטרות שיווקיות או אחרות. ההרשאה נכללת לעתים קרובות במסמכי הרישום כאשר הורים חותמים את ילדיהם למחנה, ספורט ופעילויות חוץ בית ספריות.
בתי ספר בדרך כלל כוללים את הטופס בניירת הרישום השנתית. למרות שזה עשוי להיות קשה למצוא באותיות הקטנות, הורים צריכים להקדיש זמן לבדיקת הוויתור ולקבל החלטה מכוונת לגבי מסירת הזכויות של תמונות של ילדיהם.
אם הורים לא יכולים לאתר את השפה הזו, הם יכולים גם לשאול את הישות על מדיניות שיתוף התמונות שלה ולהבהיר שהם לא נתנו אישור לפרסום תמונה של ילדם באינטרנט או במקום אחר. אם הורה כבר נתן את הסכמת הצד השלישי, הוא יכול לשאול לגבי ביטול ההרשאה.
פיצורו אמר שאם הורה מגלה תמונה של ילדו באינסטגרם שפורסמה ללא הסכמה, הוא יכוללהגיש בקשת הסרה. הדבר נכון גם לגביפייסבוק. טוויטר לא מתירה למשתמשים לפרסם תמונות של אנשים פרטיים ללא הסכמתם, ושל ההוריםיכול לדווח על עבירות אלו. גם הורים יכוליםלדווח על הפרות פרטיותלערב את ילדיהם ב-TikTok.
מי עשוי לצלם ומשתף תמונות של ילדכם?
Mashable ביקש תגובה מכמה מהארגונים המובילים העוסקים בילדים בארה"ב - PTA הלאומי, צופים של ארה"ב, הצופים של אמריקה, איגוד המחנות האמריקאי, הברית הלאומית לספורט נוער - לגבי הגישה שלהם לבינה מלאכותית ולתמונות דיגיטליות של ילדים . קיבלנו תגובות שונות.
Mashable Top Stories
דובר של Girl Scouts אמר ל-Mashable באימייל כי הארגון כינס מוקדם יותר השנה "צוות חוצה תפקודי", המורכב ממומחים פנימיים בתחום המשפט, הטכנולוגיה והתוכניות כדי לסקור ולנטר התפתחויות בינה מלאכותית תוך עידוד השימוש האחראי בטכנולוגיות הללו.
נכון לעכשיו, כל הופעה בסרטון או תמונה מקוונת הקשורה לצופית דורשת אישור מהורה או אפוטרופוס של כל ילדה עבור כל חבר בתמונה.
"אנו מחויבים להישאר בחזית ההתפתחויות הללו כדי להבטיח את ההגנה על חברינו", כתב הדובר.
דובר הצופים של אמריקה שיתף את הארגוןהנחיות מדיה חברתית, שמציין שסרטונים ותמונות של צופים בפלטפורמות המדיה החברתית צריכים להגן על פרטיותם של צופים בודדים. ברמה המקומית והארצית, BSA חייב לקבל אישור הורים לפני פרסום תמונות של ילדים ברשתות החברתיות, והורים יכולים לבטל את הסכמתם בכל עת. באופן כללי, מדיניות BSA מתמקדת בזיהוי ילד בצורה מעורפלת ככל האפשר בפוסטים ברשתות חברתיות, כמו שימוש בראשי תיבות במקום בשמו המלא.
אם הפתרון לבעיית התמונות ששותפו לציבור עשוי להיראות כחשבונות סגורים של מדיה חברתית ואחריהם רק בעלי הרשאה לעשות זאת, הנחיות BSA מדגימות מדוע גישה זו מסובכת יותר ממה שהיא נראית.
הם אוסרים ערוצי מדיה חברתית פרטיים כדי שמנהלי מערכת יוכלו לפקח על תקשורת בין צופים ומנהיגים מבוגרים, כמו גם צופים אחרים, כדי להבטיח שלא יהיו חילופי דברים בלתי הולמים. לשקיפות יש יתרונות ברורים, אבל המדיניות היא דוגמה אחת לכמה קשה לאזן בין חששות פרטיות ובטיחות.
היידי מיי ווילסון, מנהלת בכירה של קשרי מדיה ב-National PTA, אמרה בדוא"ל שהמלכ"ר מספק הדרכה ל-PTA המקומיים בנוגע להחתמת הורים על טפסי פרסום והסכמה בתקשורת, תוך הבטחה שההורים נתנו אישור לפרסם תמונות שצולמו של ילדיהם, וכן אומר למשפחות באירועים לא לצלם או לפרסם תמונות של ילדים אחרים משלהם. היא אמרה שה-National PTA עוקב אחר התקדמות הבינה המלאכותית.
איגוד המחנות האמריקאי לא הגיב ספציפית לבקשות דוא"ל מרובות להערות לגבי ההנחיות והשיטות המומלצות שלה. דובר האיגוד הלאומי לספורט נוער לא הגיב לבקשות דוא"ל להגיב.
העתיד של תמונות ילדים באינטרנט
הברונית ביבן קדרון, מייסדת ויו"ר שלקרן 5זכויות, עמותה שבסיסה בלונדון, הפועלת למען זכויות ילדים באינטרנט, אמרה שהורים צריכים להתייחס לתוכן של התעללות מינית בילדים המופעל על ידי בינה מלאכותית או שנוצרה כבעיה עכשווית, ולא איום קיומי שעשוי להתרחש בעתיד.
קדרון עובדת עם צוות אכיפה סמוי שחוקר חומרי התעללות מינית בילדים שנוצרו על ידי בינה מלאכותית וציינה, במצוקה, באיזו מהירות התקדמה טכנולוגיית הבינה המלאכותית אפילו תוך מספר שבועות, בהתבסס על תמונות של התעללות מינית בילדים תוך שימוש בתוכנה כזו שהיא ראתה. הקיץ והסתיו הזה.
"בכל פעם הם היו יותר מציאותיים, רבים יותר", אמר קדרון, שהוא גם אחבר צולב בבית הלורדים של הממלכה המאוחדתומילא תפקיד משמעותי בעיצוב חקיקת הפרטיות והבטיחות המקוונת של ילדים בבריטניה ובעולם.
קידרון אמר כי היה כישלון מוחלט בהתייחסות לבטיחות הילדים "כאשר חברות יוצרות בינה מלאכותית חזקה יותר ללא מעקות בטיחות".
בארה"ב, למשל, אף אחד מהחוקים הפליליים הקיימים לא הופך את זה לבלתי חוקי או לענישה ליצור חומר מזויף או מניפולציה של התעללות מינית בילדים, לפי Pizzuro. למרות שזה לא חוקי להפיץ חומר של התעללות מינית בילדים, החוק באופן דומה אינו חל באופן ספציפי על תמונות שנוצרו בינה מלאכותית. רייבן עושה שתדלנות לחברי קונגרס לסגור את הפרצות הללו.
פיזו אמר גם כי הזמינות של תמונות ילדים באינטרנט מסייעת לטורפים גם כשהם לא יוצרים איתם תוכן התעללות מינית. במקום זאת, שחקנים רעים וטורפים יכולים להשתמש בבינה מלאכותית כדי "ללמוד ילד במכונה".
Pizzuro תיאר את התהליך הזה כשימוש בבינה מלאכותית כדי ליצור חשבונות מדיה חברתית משכנעים אך מזויפים לילדים שקיימים בפועל, עם התמונה שלהם כמו גם פרטים על המידע האישי ותחומי העניין שלהם שנאספו במהירות מהאינטרנט. לאחר מכן, חשבונות אלה יכולים לשמש באופן אישי על ידי טורף כדי לטפח ילדים אחרים על התעללות מינית או פיתוי באינטרנט.
"עכשיו עם בינה מלאכותית גנרטיבית, [טורף] יכול לטפח אנשים בקנה מידה גדול", אמר פיזו. בעבר, טורף היה צריך לאסוף וללמוד בקפידה את המידע הזמין באינטרנט על ילד לפני יצירת חשבון מזויף.
בנפרד, קידרון ציין בעגמומיות שחלק מהאנשים היוצרים חומר התעללות מינית בילדים באמצעות AI עשויים להיות מוכרים למשפחה. שכן, חבר או קרוב משפחה, למשל, עלולים לגרד תמונה של ילד מהמדיה החברתית או מאתר בית הספר ולעשות תוכן של התעללות מינית בילדים "בהזמנה אישית".
קדרון אמר כי בעוד שחברות טכנולוגיה טוענות שאינן יודעות להתמודד או לפתור את בעיית הבינה המלאכותית ופרטיות הילדים, הן השקיעו משמעותית בזיהוי תוכן המפר את זכויות הקניין הרוחני של חברות אחרות (תחשבו על שירים וקטעי סרטים שפורסמו ללא רשות). .
בהיעדר תגובה משפטית ברורה לאיומים שבינה מלאכותית מציבה על בטיחות הילדים, קידרון אמר שהורים יכולים להפעיל לחץ על חברות מדיה חברתית על ידי סירוב לפרסם תמונות כלשהן של ילדיהם באינטרנט, בין אם במסגרת פרטית או ציבורית, או אפילו חרם. האתרים בכלל. היא הציעה שהמחאות כאלה עשויות לעודד את תעשיית הטכנולוגיה לחשוב מחדש על גישתה הבלתי פוסקת להגברת הרגולציה.
קדרון מבינה מדוע הורים עשויים להפוך את חשבונות המדיה החברתית שלהם לפרטיים או אפילו לשים לבבות או אימוג'י על פני ילדיהם במאמץ להגן על פרטיותם, אך אמרה שהיא מעדיפה לראות השקעה גדולה יותר בטכנולוגיות המונעות גירוד תמונות ללא רשות, בין היתר מוסדיים. ופתרונות ארגוניים.
קדרון לא רוצה לראות מציאות דיסטופית, שבה בינה מלאכותית הופכת לכלי נגיש בקלות לטורפים ואף תמונה של ילד לא בטוחה באינטרנט.
"איזה עולם עצוב אם לעולם לא יורשה לשתף שוב תמונה של ילד", אמר קדרון.
רבקה רואיז היא כתבת בכירה ב- Mashable. היא מרבה לסקר בריאות נפשית, תרבות דיגיטלית וטכנולוגיה. תחומי ההתמחות שלה כוללים מניעת התאבדות, שימוש במסכים ובריאות נפשית, הורות, רווחת נוער ומדיטציה ומיינדפולנס. לפני Mashable, רבקה הייתה כותבת צוות, כתבת ועורכת ב-NBC News Digital, מנהלת פרויקט דוחות מיוחדים ב-The American Prospect וכותבת צוות ב-Forbes. לרבקה יש תואר ראשון ממכללת שרה לורנס ותואר שני בעיתונאות מאוניברסיטת ברקלי. בזמנה הפנוי היא נהנית לשחק כדורגל, לראות טריילרים לסרטים, לנסוע למקומות שבהם היא לא יכולה לקבל שירות סלולרי ולטייל עם הבורדר קולי שלה.
