אין סיכום רשמי של כמה תלמידים הפכו לקורבנותזיופים עמוקים מפורשים, אבל הסיפורים שלהם מתגברים מהר יותר מכפי שפקידי בית הספר מוכנים לטפל בהתעללות.

בסתיו האחרון, בנות שהשתתפו באריקוד בתיכון עיסאקווהבמדינת וושינגטון גילה כי סטודנט עמית יצר גרסאות מפורשות של תמונות שצולמו מהם באירוע, באמצעות תוכנה המופעלת על ידי בינה מלאכותית. בפברואר, ילדה בת 13 בדרום קליפורניה קיבלה בקשת חברות בחשבון ה-TikTok הפרטי שלה מחבר לכיתה. לאחר מכן הוא השתמש בצילום מסך מסרטון כדי ליצור גרסה עירומה של התמונה ושיתף אותה עם חברים,לפי ההרשמה של מחוז אורנג'.

ככל שמקרים כאלה מתרבים, הורים המודאגים לילדיהם עשויים שלא להבין שבתי הספר אינם מוכנים לצערנו לחקור ניצול לרעה של תמונות AI ולהביא לתוצאות צודקות, או אפילו להרתיע את ההתנהגות מלכתחילה.

אדם דודג', מייסדסיום ניצול לרעה התומך בטכנולוגיה (EndTAB), מציגה בנושא בבתי ספר ברחבי הארץ, לרוב בהזמנת מנהלים. הוא אומר שבעוד כמה בתי ספר להוטים ללמוד כיצד לטפל בזיופים עמוקים מפורשים, עדיין קיימים פערים משמעותיים בהבנתם של אנשים את הטכנולוגיה, ואין הנחיות אוניברסליות למניעה ולתגובה להתעללות כזו.

"יש לך כמה ילדים שנעצרו, חלק מגורשים, חלק מושעים, [ולחלקם לא קורה להם כלום, ואף אחד לא מנצח שם", אומר דודג', בהתייחס למקרים שפורסמו לאחרונה של זיופים עמוקים מפורשים שנוצרו על ידי סטודנטים.

האם זיופים עמוקים מפורשים חוקיים?

עם זאת, אין חוק פדרלי שמפליל יצירה או הפצה של דימויים מזויפים מפורשיםבתי המחוקקים של המדינה הציגו לאחרונה הצעות חוקבמטרה להפוך את שני המעשים לבלתי חוקיים. גם משרד החינוך הפדרלי לא שקל את הנושא עדיין.

דובר מטעם הסוכנות אמר ל-Mashable שהמחלקה לא השיקה הנחיות "כדי לטפל בנושא הספציפי של סטודנטים המשתמשים בטכנולוגיית בינה מלאכותית כדי לפתח תמונות 'מזויפות עמוקות' מזיקות של אחרים", אך ציין כי "לכל התלמידים מגיעה גישה לקבלת פנים, תומכות, ובתי ספר וכיתות בטוחים".

הדובר הצביע על Mashableמשאבי המחלקה לאקלים ומשמעת בית הספר, כמו גם מידע משותף על ידי מחלקת אבטחת הסייבר ואבטחת התשתיות של משרד ביטחון המולדת האמריקאיליצירת בתי ספר בטוחים יותר.

הפלטפורמות העיקריות לרכישת אפליקציות משתנות באופן שבו הן מווסתות אפליקציות המסוגלות ליצור זיופים עמוקים מפורשים. ל-App Store של אפל אין כללים ספציפיים שחוסמים אותם, למרות זאתאוסר על אפליקציות מיניות ופורנוגרפיות באופן גלוי. גם חנות Play של גוגלאוסר על אפליקציות הקשורות לתכנים מיניים. בעוד שלהמדיניות AI לא משתמשת במונח deepfake,הוא מחייב את המפתחים לאסור ולמנוע יצירת תוכן מוגבל, כולל פורנוגרפיה ותוכן ש"מקל על ניצול או התעללות בילדים."

אפל גם אמרה ל-Mashable כי למפתחים אסור להגיש לחנות אפליקציות ש"כוללות תוכן משמיץ, מפלה או מרושע, במיוחד אם האפליקציה עלולה להשפיל, להפחיד או לפגוע באדם או קבוצה ממוקדים".

ובכל זאת, מכיוון שחלק מהאפליקציות לעריכת תמונות ווידאו שמסוגלות ליצור זיופים עמוקים מפורשים לא ישווקו ככאלה, זה יכול להיות מאתגר לזהות את האפליקציות האלה ואז לחסום אותן מחנות. בשבוע שעבר הסירה אפל שלוש אפליקציות ליצירת תמונות בינה מלאכותית שפרסמו את יכולתן ליצור תמונות עירום ללא הסכמה, בעקבות404 תחקיר תקשורתלזמינות שלהם ב-App Store. גוגל גם אסרה אפליקציה דומה מ-Play מוקדם יותר החודש בגלל שיווק אותה יכולת,לפי 404 Media.

רבות מהאפליקציות הללו עשויות להיות זמינות באינטרנט, מתארחות באתרים שאינם נבדקים כמו חנויות אפליקציות.

לכן, בהיעדר רגולציה חוקית והנחיה פדרלית, בתי ספר בדרך כלל מנווטים בטריטוריה הלא מוכרת והמסוכנת הזו בעצמם, אומר דודג'. הוא ומומחים אחרים אומרים שבתי הספר והקהילות שלהם חייבים לנקוט בפעולה מהירה. הצעד הראשון, הם טוענים, הוא סיוע למחנכים, להורים ולתלמידים לפתח הבנה מוצקה של ניצול לרעה של AI המבוסס על דימויים ושל נזקיו. אסטרטגיות אחרות כוללות העצמת צעירים לתמוך במדיניות כלל בית הספר והגדרת ציפיות ברורות להתנהגות התלמידים כשהם נחשפים לכלים מזויפים עמוקים.

דודג' מזהיר את המחנכים מפני תנועה איטית ומזלזלים בנזק שתלמידים יכולים לעשות עם הטכנולוגיה הזו.

"זה מאפשר לתלמידים הממש לא מתוחכמים מבחינה טכנית לעשות דברים מתוחכמים להחריד לחבריהם לכיתה", הוא אומר.

מה בתי ספר צריכים לעשות בנוגע לזיופים עמוקים

שלי פסניק, סגנית נשיא בכירה של המרכז לפיתוח חינוך ללא מטרות רווח, מאמינה שמכיוון שאין כיום גישות ממלכתיות או לאומיות לטיפול בזיופים עמוקים מפורשים, תגובות בית הספר ישתנו במידה רבה.

פאסניק אומר כי בתי ספר עם משאבים כספיים ותוכניות בריאות מבוססות, יחד עם מעורבות הורית מוגברת, עשויות להיות בסבירות גבוהה יותר לנהל שיחות על הבעיה. אבל בבתי ספר עם פחות תמיכה כללית, היא מצפה מהתלמידים ללכת ללא הוראה קשורה.

"במסגרות מסוימות, ילדים יגדלו לחשוב, לפחות לפרק זמן מסוים, שזה לא עניין גדול", אומר פסניק.

כדי להתמודד עם זה, היא ממליצה למבוגרים בקהילות בית הספר לגייס תלמידים כשותפים לשיחות שחוקרות ומבססות נורמות ביחס לטכנולוגיה מזייף עמוק. דיונים אלה צריכים להתייחס לאיך נראים גבולות בריאים ואיזו התנהגות אסורה.

הרבה מזה אולי כבר ברור בקוד ההתנהגות של בית ספר, אבל יש לעדכן את הכללים האלה כדי לאסור את השימוש בטכנולוגיית Deepfake, יחד עם קביעת השלכות אם היא תופעל נגד תלמידים, צוות ומורים.

פאסניק ממליץ למחנכים לחפש הזדמנויות לדבר על טכנולוגיית Deep Fake בתוכניות הלימודים הקיימות, כמו בתוכן הקשור לפרטיות, השתתפות אזרחית ואוריינות מדיה והפקה.

היא מקווה שמשרד החינוך האמריקני, בנוסף לסוכנויות המדינה המפקחות על החינוך, יוציא הנחיות שבתי ספר יוכלו לפעול לפיהן, אך אומרת שזו תהיה "טעות" לחשוב שהדרכה כזו "יכולה לפתור את האתגר הזה" בעצמה.

דודג' גם מאמין שההמלצות הללו עשויות לעשות הבדל קריטי כאשר בתי ספר נאבקים להתוות דרך קדימה. ובכל זאת, הוא טוען שבתי ספר יצטרכו להיות המקור המהימן שמלמד את התלמידים על טכנולוגיית Deepfake, במקום לתת להם לשמוע על כך מהאינטרנט או מפרסומות ממוקדות.

זיופים עמוקים מפורשים בבית הספר: "ההיסטוריה חוזרת על עצמה"

המצוקה איתה מתמודדים בתי ספר כעת מרגישה מוכרת לאלה שצפו בבריונות ברשת מציפה מחנכים שאינם יכולים למנוע מהטרדות תלמידים וקונפליקטים לצאת מכלל שליטה.

"אני באמת מודאג מההיסטוריה שתחזור על עצמה", אומר רנדי וינגרטן, נשיא הפדרציה האמריקאית למורים.

האיגוד, המונה 1.7 מיליון חברים, לחץ על פלטפורמות המדיה החברתיות הגדולות ביותר כדי לטפל בבריונות ברשת על ידי הטמעת תכונות חדשות או חזקות יותר, כמוהורדת חשבונותשכוללים בעיקר תוכן בריונות. AFT טענה כי בריונות ברשת תורמת לשחיקה של מורים, בנוסף להחמרת האקלים בבית הספר.

ויינגרטן אומר שמניעת זיופים עמוקים מפורשים מלמלא תפקיד דומה תדרוש תגובה של תאגידים וממשלה, מעבר למה שבתי ספר וקהילותיהם יכולים להתמודד.

שיתוף פעולה חדש בהובלת הארגוןכל הטכנולוגיה היא אנושיתוקוֹץ, מלכ"ר שבונה טכנולוגיה כדי להגן על ילדים מפני התעללות מינית, עשויה לסייע בהשגת מטרה זו. היָזמָהמכנסת את גוגל, מטה, מיקרוסופט, אמזון, OpenAI וחברות טכנולוגיה גדולות אחרות במאמץ לעצור את היצירה וההפצה של חומרי התעללות מינית בילדים שנוצרו בבינה מלאכותית, כולל זיוף עמוק מפורש, ופגיעות מיניות אחרות נגד ילדים.

ד"ר רבקה פורטנוף, סגנית נשיא למדעי הנתונים ב-Thorn, אמרה ל-Mashable באימייל שהחברות התחייבו למנוע מהשירותים שלהן "להרחיב את הגישה לכלים מזיקים".

"אם הם ימשיכו ככאלה וימשיכו את המעורבות שלהם בדרך זו, אז בתיאוריה, האפליקציות הללו ייאסרו", כתב פורטנוף בהתייחסו לאפליקציות שכל אחד, כולל סטודנטים, יכול להשתמש בהן כדי לבצע זיוף עמוק מפורש.

וינגרטן מציע גם שסוכנויות פדרליות, כולל אלו המפקחות על משפט פלילי וחינוך, יוכלו לעבוד יחד כדי לפתח קווים מנחים להבטחת בטיחות התלמידים ופרטיותם.

היא מאמינה שצריכות להיות השלכות כספיות או פליליות ליצירת תוכן מזויף מפורש, עם עונשים מתאימים לקטינים כך שהם יוסטו בתחילה הרחק מבית המשפט הפלילי.

עם זאת, ראשית, היא מקווה לראות "אישור" ממנהיגי ממשלה שזיופים עמוקים מפורשים מהווים בעיה אמיתית עבור תלמידי המדינה שיש לפתור בדחיפות.

"אני חושב שהיסוס כאן רק יפגע בילדים", אומר ויינגרטן. "ברור שהטכנולוגיה נעה מהר יותר ממה שרגולציה יכולה אי פעם לזוז."