במרדף אחר חדשנות טכנולוגית,AI גנרטיביתומכיו העבירו את הכלים לזיופים סינתטיים מציאותיים ביותר, ללא הסכמה, הידועים יותר בתור פורנו מזויף עמוק, לידיו של ג'ו הממוצע.

מודעות עבור אפליקציות להתפשטות "עירום" עשויות להופיע בסרגל הצד של אתרים פופולריים ובין פוסטים בפייסבוק, תוך כדידימויים מיניים מניפולציות של אישי ציבורלהתפשט כמספוא מגמתי להמונים. הבעיה זלגה דרך התחום המקוון אל חייהם האמיתיים של המשתמשים,כולל צעירים. בכל זה מעורבים היוצרים והמפיצים של AI.

מנהיגי ממשלה תוקפים את הבעיה באופן חלקימאמצי חקיקה. המגזר הטכנולוגי והחברתי מאזנים ביניהםאחריות כלפי המשתמשיםעם הצורך בחדשנות. אבל זיופים עמוקים הם מושג שקשה להילחם בו עם הנשק של מדיניות תאגיד.

בעיה מדאיגה ללא פתרון אחד

פתרון בעיית הזיוף העמוק מקשה על מידת הקושי להצביע על זיופים עמוקים, שלא לדבר על אי הסכמה נרחבת לגבי מי אחראי לזיופים סינתטיים ללא הסכמה.

ארגון סנגור ומחקר היוזמת זכויות האזרח בסייבר, הנלחמת נגד הפצה לא בהסכמה של תמונות אינטימיות (NDII), מגדירה זיופים דיגיטליים בעלי תוכן מיני מפורש ככל תמונות או סרטוני וידאו שעברו מניפולציות המתארות באופן שקרי (וכמעט ללא הבחנה) אדם בפועל עירום או עוסק בהתנהגות מינית. NDII אינו מטבעו כרוך בבינה מלאכותית (תחשוב על פוטושופ), אבל כלי בינה מלאכותית מחוללים מקושרים כיום ליכולת שלהם ליצור זיופים עמוקים, שהוא מונח מושךנטבע במקור בשנת 2017, זה בא למשמעות של כל דמיון חזותי או שמיעתי מתופעל.

בגדול, תמונות "מזייפות עמוקות" יכולות להתייחס לעריכות קטנות או לעיבוד לא אמיתי לחלוטין של דמותו של אדם. חלקם עשויים להיות בעלי אופי מיני מפורש, אבל אפילו יותר לא. ניתן ליצור אותם בהסכמה, או להשתמש בהם כצורה של התעללות מינית מבוססת תמונה (IBSA). ניתן להסדיר או לשלוט עליהם מרגע יצירתם או קודם לכן באמצעות המדיניות וההגבלות המוטלות על כלי AI עצמם, או להסדיר אותם לאחר יצירתם, כפי שהם מופצים באינטרנט. הם יכולים אפילו להיות מחוץ לחוק לחלוטין, או לבלום על ידי אחריות פלילית או אזרחית ליצרנים או מפיצים שלהם, בהתאם לכוונה.

חברות, שמגדירות את האיום של זיופים עמוקים ללא הסכמה באופן עצמאי, בחרו לראות זיופים סינתטיים מיניים בכמה דרכים: כפשע המטופל באמצעות שיטור ישיר, כהפרה של תנאי השירות הקיימים (כמו אלה המסדירים "פורנו נקמה" או מידע מוטעה), או , פשוט, לא באחריותם.

הנה רשימה של רק חלק מאותן חברות, כיצד הן משתלבות בתמונה והמדיניות המוצהרת שלהן הנוגעת לזיופים עמוקים.

אנתרופית

מפתחי בינה מלאכותית כמו Anthropic ומתחריה צריכים להיות אחראים למוצרים ומערכות שניתן להשתמש בהם כדי ליצור תוכן בינה מלאכותית. עבור רבים, זה אומר שהם גם נושאים באחריות רבה יותר לתפוקות ולמשתמשים של הכלים שלהם.

מפרסמת את עצמה כחברת בינה מלאכותית בטיחותית, אנתרופיק שמרה על מדיניות קפדנית נגד NSFW, תוך שימוש בברזל למדי מסנני תנאים והגבלות ושימוש לרעה כדי לנסות לרסן התנהגות רעה של משתמשים מההתחלה. ראוי גם לציין שהצ'אטבוט קלוד של אנתרופיק אינו רשאי ליצור תמונות מכל סוג שהוא.

שֶׁלָנוּמדיניות שימוש מקובל(AUP) אוסר על שימוש במודלים שלנו כדי ליצור תוכן מטעה או מטעה, כגון עיסוק בהתנהגות לא אותנטית מתואמת או מסעות פרסום של דיסאינפורמציה. זה כולל גם איסור על שימוש בשירותים שלנו כדי להתחזות לאדם על ידי הצגת תוצאות שנוצרו על ידי אדם או שימוש בתוצאות באופן שנועד לשכנע אדם טבעי שהם מתקשרים עם אדם טבעי.

משתמשים אינם יכולים ליצור תוכן מיני בוטה. זה כולל את השימוש במוצרים או בשירותים שלנו כדי לתאר או לבקש יחסי מין או מעשים מיניים, ליצור תוכן הקשור לפטישים או פנטזיות מיניות, להקל, לקדם או לתאר גילוי עריות או חיות, או לעסוק בצ'אטים ארוטיים.

משתמשים אינם יכולים ליצור, להפיץ או לקדם חומר של התעללות מינית בילדים. אנו אוסרים בהחלט ונדווח לרשויות וארגונים רלוונטיים במידת הצורך על כל תוכן המנצל או מתעלל בקטינים.

תַפּוּחַ

בניגוד לחברות כמו Anthropic, קונגלומרטים טכנולוגיים ממלאים את התפקיד של מארח או מפיץ של תוכן סינתטי. פלטפורמות חברתיות, למשל, מספקות הזדמנות למשתמשים להחליף תמונות וסרטונים. מקומות שוק מקוונים, כמו חנויות אפליקציות, הופכים לאפיקים של שחקנים גרועים למכור או לגשת לכלי בינה מלאכותית ואבני הבניין שלהם. עם זאת, ככל שחברות צוללות עמוק יותר לתוך בינה מלאכותית, תפקידים אלה הופכים מטושטשים יותר.

בדיקה אחרונה נפלה ב-App Store של אפל ובשווקים אחרים על התרת אפליקציות מזויפות עמוקות. למרות שמדיניות ה-App Store שלה אינה ישירה כמו המתחרים שלה, ובמיוחד Google Play, החברה חיזקה את מדיניות האנטי-פורנוגרפיה הן בחוקי הפרסום והן בחנות. אבל המחלוקת נותרה בין המגוון הרחב של מוצרי אפל. בחודשים האחרונים הואשמה החברהדיווח נמוך על התפקיד של המכשירים והשירותים שלהבהפצה של חומרי התעללות מינית בילדים אמיתיים והן שנוצרו בבינה מלאכותית.

וההשקה האחרונה של אפל שלApple Intelligenceיציב שאלות שיטור חדשות.

Apple News אינה מתירה תוכן מודעה המקדם נושאים המכוונים למבוגרים או תוכן גרפי. לדוגמה, פורנוגרפיה, קאמה סוטרה, אירוטיקה או תוכן המקדם "איך לעשות" ומשחקי מין אחרים.

הצעות Apple App Store לא יכולות לכלול תוכן שהוא חומר מיני או פורנוגרפי גלוי, המוגדר כ"תיאורים או תצוגה מפורשים של איברים מיניים או פעילויות שנועדו לעורר רגשות ארוטיים ולא אסתטיים או רגשיים". זה כולל אפליקציות "חיבור" ואפליקציות אחרות שעשויות לכלול פורנוגרפיה או לשמש כדי להקל על זנות, או סחר בבני אדם וניצול.

אפליקציות עם תוכן או שירותים שנוצרו על ידי משתמשים שבסופו של דבר משמשים בעיקר לתוכן פורנוגרפי, חוויות בסגנון צ'טרולט, אובייקטיביזציה של אנשים אמיתיים (למשל הצבעה "חמה או לא", איומים פיזיים או בריונות אינם שייכים ל- App Store וניתן להסיר אותו ללא הודעה מוקדמת.

GitHub

GitHub, כפלטפורמה למפתחים ליצור, לאחסן ולשתף פרויקטים, מתייחסת לבנייה ולפרסום של כל תמונה מפורשת שלא בהסכמה כהפרה של מדיניות השימוש המקובל שלה - בדומה למידע מוטעה. הוא מציע עוזר AI מחולל משלו לקידוד, אך אינו מספק יציאות חזותיות או אודיו.

GitHub אינו מתיר פרויקטים אשר מיועדים, מעודדים, מקדמים, תומכים או מציעים בכל דרך שהיא שימוש במדיה סינתטית או מניפולציה ליצירת תמונות אינטימיות ללא הסכמה או כל תוכן שיהווה מידע מוטעה או דיסאינפורמציה לפי מדיניות זו. .

Alphabet, Inc.

גוגל

גוגל ממלאת תפקיד רב-צדדי ביצירת תמונות סינתטיות כמארחת וגםמפתח. היא הכריזה על מספר שינויים במדיניות כדי לבלום הן את הגישה והן את ההפצה של תוכן סינתטי ללא הסכמהלְחַפֵּשׂ, כמו גם פרסום של אפליקציות "Nudify" בGoogle Play. זה קרה לאחר שענקית הטכנולוגיה נקראה על תפקידה בגילוי זיופים דיגיטליים ללא הסכמה ב-Google.com.

פורנו סינטטי שנוצר בינה מלאכותית יופחת בדירוג חיפוש Google.

משתמשים יכולים לבקש להסיר מ-Google תמונות מזויפות מפורשות שלא בהסכמה.

מודעות שופינג אינן יכולות לקדם שירותים שמייצרים, מפיצים או מאחסנים תוכן מיני מפורש סינתטי או תוכן סינתטי המכיל עירום. מודעות שופינג אינן יכולות לספק הנחיות ליצירת תוכן כזה.

מפתחים בחנות Google Play חייבים להבטיח שאפליקציות בינה מלאכותית לא יוצרות תוכן פוגעני, כולל תוכן אסור, תוכן שעלול לנצל ילדים או להתעלל בהם, ותוכן שעלול להונות משתמשים או לאפשר התנהגויות לא ישרות.

יוטיוב

כמארח לתוכן, YouTube נתן עדיפות לניהול העלאות משתמשים ולספק מנגנוני דיווח על נושאי זיופים.

תוכן מפורש שנועד לספק מינית אסור ב-YouTube. פרסום פורנוגרפיה עלול לגרום להסרת תוכן או לסגירת ערוץ.

יוצרים נדרשים לחשוף תוכן [שונה או סינתטי] כאשר הוא ריאליסטי, כלומר, צופה יכול בקלות לטעות במה שמוצג עם אדם, מקום או אירוע אמיתיים.

אם מישהו השתמש בבינה מלאכותית כדי לשנות או ליצור תוכן סינתטי שנראה או נשמע כמוך, אתה יכול לבקש להסיר אותו. כדי להיות זכאי להסרה, התוכן צריך לתאר גרסה מציאותית שונה או סינתטית של הדמות שלך.

מיקרוסופט

מיקרוסופט מציעה כלי בינה מלאכותית משלה, כולל מחוללי תמונות המתארחים ב-Bing ו-Copilot, הרותמים גם מודלים חיצוניים של בינה מלאכותית כמו DALL-E 3 של OpenAI. החברה מיישמת את מדיניות התוכן הרחבה יותר שלה על משתמשים העוסקים בבינה מלאכותית זו, והנהיגה אמצעי הגנה מיידיים וסימון מים, אבל סביר להניח שהיא נושאת באחריות לכל דברנופל בין הסדקים.

מיקרוסופט אינה מתירה שיתוף או יצירה של תמונות אינטימיות מיניות של מישהו ללא רשותו - הנקראים גם תמונות אינטימיות ללא הסכמה, או NCII. זה כולל תוכן NCII פוטוריאליסטי שנוצר או שונה באמצעות טכנולוגיה.

בינג אינה מתירה את השימוש ב-Image Creator כדי ליצור או לשתף תוכן למבוגרים, אלימות או שטנה, תוכן שנאה, טרור ותוכן קיצוני אלים, האדרת אלימות, חומר ניצול מיני של ילדים או התעללות, או תוכן מטריד או פוגעני.

OpenAI

OpenAI הוא אחד השמות הגדולים ביותר בפיתוח בינה מלאכותית, והדגמים והמוצרים שלה משולבים - או הם היסודות של - רבים מכלי הבינה המלאכותית הגנרטיבית שמציעות חברות ברחבי העולם. OpenAI שומרת על תנאי שימוש חזקים כדי לנסות להגן על עצמה מפני ההשפעות הגלומות של שימוש כה נרחב בדגמי הבינה המלאכותית שלה.

במאי הודיעה OpenAI שהיא בוחנת את האפשרות שלמאפשר יציאות NSFWבתוכן המותאם לגיל ב-ChatGPT משלו וב-API המשויך. עד לאותה נקודה, החברה נשארה נחושה באיסור על כל תוכן כזה. OpenAI אמרה אז ל-Mashable שלמרות השימושים הפוטנציאליים בצ'אטבוט, החברה עדיין אסרה על פורנוגרפיה שנוצרה על ידי בינה מלאכותית וזיופים עמוקים.

משתמשים לא יכולים ליישם מחדש או להפיץ פלט משירותי OpenAI כדי לפגוע באחרים. דוגמאות כוללות פלט להונאה, הונאה, ספאם, הטעיה, בריונות, הטרדה, השמצה, הפליה על סמך תכונות מוגנות, מינית ילדים או קידום אלימות, שנאה או סבל של אחרים.

משתמשים אינם יכולים להשתמש בטכנולוגיות OpenAI כדי להתחזות לאדם אחר או לארגון אחר ללא הסכמה או זכות משפטית.

משתמשים אינם יכולים לבנות כלים שעלולים להיות בלתי הולמים עבור קטינים, כולל תוכן מיני בוטה או רמיזות.

מטא

פייסבוק

בעוד חברת האם Meta ממשיכה לעשות זאתלחקור AI גנרטיביאינטגרציה בפלטפורמות שלה, היא נמצאת בבדיקה אינטנסיבית על כך שלא הצליחה לבלום זיופים סינתטיים מפורשים ו-IBSA. בעקבות מחלוקת נרחבת, פייסבוק נקטה עמדה מחמירה יותר לגבי פרסום אפליקציות Nudify באתר.

מטה, בינתיים, פנתה למאמצים חזקים יותר של תיוג בינה מלאכותית ומתינות, בתור מועצת הפיקוח שלהסוקר את הכוח של Meta לטפל בתוכן מיני מפורש ורמיזות שנוצר על ידי AI.

כדי להגן על ניצולים, אנו מסירים תמונות המתארות מקרים של אלימות מינית ותמונות אינטימיות ששותפו ללא הסכמת המצולמים.

איננו מתירים תוכן המנסה לנצל אנשים על ידי: כפיית כספים, טובות הנאה או דימויים אינטימיים מאנשים עם איומים לחשוף את התמונות האינטימיות או המידע האינטימי שלהם (סחיטה); או שיתוף, איום, הצהרת כוונה לשתף, להציע או לבקש תמונות אינטימיות ללא הסכמה (NCII)...

איננו מתירים לקדם, לאיים לשתף או להציע ליצירת תמונות אינטימיות לא אמיתיות (NCII) לא באמצעות יישומים, שירותים או הוראות, גם אם אין תמונות מסחריות עירום (קרוב) או לא מסחריות משותפות. בתוכן.

אינסטגרם

אינסטגרם מנחה באופן דומה מדיה חזותית שפורסמה באתר שלה, מחוזקת על ידי הנחיות הקהילה שלה.

אנחנו לא מאפשריםעֵירוֹםבאינסטגרם. זה כולל תמונות, סרטונים וכמה תוכן שנוצר בצורה דיגיטלית המציגים יחסי מין, איברי מין ותקריבים של ישבן עירום לחלוטין.

סנאפצ'ט

כלי ה-AI הגנרטיביים של Snapchat כולליםיצירת תמונות מוגבלת, כך שהאחריות הפוטנציאלית שלו נובעת מהמוניטין שלו כאתר ידועהחלפת תכנים מינייםוכיוצר אפשרי של תמונות מפורשות סינתטיות.

אנו אוסרים על קידום, הפצה או שיתוף של תוכן פורנוגרפי. אנחנו גם לא מתירים פעילויות מסחריות הקשורות לפורנוגרפיה או אינטראקציות מיניות (בין אם מקוונות או לא מקוונות).

אל תשתמש ב-My AI כדי ליצור תוכן פוליטי, מיני, מטריד או מטעה, ספאם, תוכנות זדוניות או תוכן המקדם אלימות, פגיעה עצמית, סחר בבני אדם, או שיפר את הנחיות הקהילה שלנו.

TikTok

TikTok, שיש לה חבילת בינה מלאכותית יצירתית משלה הידועה בשם TikTok Symphony, השתכשכה לאחרונה למים עכורים יותר בינה מלאכותית לאחר ההשקהאווטרים דיגיטליים שנוצרו בינה מלאכותית. נראה כי מעמדה המשפטי והמוסרי של החברה יישען על ביסוס הוכחת הסכמה לדמיון שנוצר בינה מלאכותית. ל-TikTok יש כללים כלליים של הקהילה נגד עירום, חשיפה של גופם של צעירים ופעילות מינית או שירותים מיניים.

תוכן שנוצר על ידי בינה מלאכותית המכיל דמיון (חזותי או אודיו) של אדם אמיתי או בדיוני אסור, גם אם נחשף עם תווית התוכן שנוצר בינה מלאכותית, ועשוי להיות מוסר. זה חל על תוכן שנוצר בינה מלאכותית שמציג דמות ציבורית - מבוגרים (18 שנים ומעלה) עם תפקיד ציבורי משמעותי, כגון פקיד ממשלתי, פוליטיקאי, מנהיג עסקי או סלבריטי - כאשר הוא משמש לתמיכה פוליטית או מסחרית. תוכן המציג דמות פרטית (כל אדם שאינו איש ציבור, כולל אנשים מתחת לגיל 18) אסורים אף הם.

X/טוויטר

השקעת הבינה המלאכותית של אילון מאסק, xAI, הוסיפה לאחרונה יצירת תמונות לפלטפורמת הצ'אטבוט שלו Grok, ומחולל התמונות מסוגל לכמהפקסימיליות מרימות גבות של מפורסמים. הממשק של Grok מובנה ישירות לתוך פלטפורמת X, שהיא בתורה פורום מרכזי למשתמשים לחלוק תוכן משלהם, מנוהל באופן אקראי באמצעות קהילת האתר והנחיות הפרסום.

X הכריזה לאחרונה על מדיניות חדשה המאפשרת תוכן למבוגרים בהסכמה בפלטפורמה, אך לא ציינה פרסום של זיופים דיגיטליים מיניים, בהסכמה או אחרת.

אינך רשאי לפרסם או לשתף תמונות או סרטונים אינטימיים של מישהו שהופק או הופץ ללא הסכמתו. אנו נשה באופן מיידי ולתמיד כל חשבון שאנו מזהים כפוסטר המקורי של מדיה אינטימית שנוצר או שותף ללא הסכמה. אנו נעשה את אותו הדבר עם כל חשבון שמפרסם רק סוג זה של תוכן, למשל, חשבונות המוקדשים לשיתוף תמונות חצאיות.

אינך יכול לפרסם או לשתף תמונות או סרטונים מפורשים שצולמו, נראים כאילו צולמו או ששותפו ללא הסכמת האנשים המעורבים. זה כולל תמונות או סרטונים ששמים על פניו של אדם אחר או מבצעים מניפולציה דיגיטלית אחרת על גופו העירום של אדם אחר.

הסיפור הזה יעודכן מעת לעת עם התפתחות המדיניות.