Midjourney, מחולל התמונות של AI הידוע ביצירת תמונות מזויפות של מעצרו של דונלד טראמפהנחיות תמונה אסורותשכוללים את שמו של בעל התקווה הנשיאותי וכן הנשיא הנוכחי ג'ו ביידן.

ההחלטה מגיעה כאשר מומחים וסנגורים מזהירים מפני החשש מפניטכנולוגיית AIמשמש כדי להשפיע על הבוחרים ולהפיץ מידע מוטעה לקראת הבחירות לנשיאות ב-2024.

בדיקות של הפוליסה החדשה על ידי הAssociated Pressניסיונות הראו אזהרת "הנחיה אסורה זוהתה" לבקשות של תמונות של "טראמפ וביידן לוחצים ידיים בחוף הים", דיווח הפרסום. ניסיונות נוספים הובילו את מחולל התמונות להזהיר את המשתמשים שהם "הפעילו התראת התעללות".

"לא ממש אכפת לי מהדיבור הפוליטי. זו לא המטרה של מידג'ורני. זה לא כל כך מעניין אותי. עם זאת, אני גם לא רוצה לבזבז את כל זמני בניסיון לשוטר דיבור פוליטי. אז אנחנו נרד מעט את הרגל שלנו", אמר מנכ"ל מידג'ורני, דיוויד הולץ, בכינוס עיתונאים ב-13 במרץ. מידג'ורני העלה את הרעיון לאסור הנחיות כאלהבחודש שעבר. הולץ אמר לחברי העיתונות שהוא רואה בעיני רוחו מציאות בינה מלאכותית מפחידה עוד יותר בשנת 2028, עם שחקנים גרועים שיוכלו לכוונן יותר עדין של זיופים עמוקים וצ'אטבוטים ממה שאנחנו יכולים אפילו לדמיין עכשיו. לשם כך, הוא אמר, "דברי המתינות הזה די קשים".

כלי בינה מלאכותית אחרים הוציאו איסורים מהירים דומים כדי לטפל בהפצת תמונות נוגעות. בשנה שעברה, Bing Image Generator של מיקרוסופט ניסה לעשות זאתהנחיות איסור שכללו את הביטוי "מגדלי תאומים"כדי לבלום את התפשטות הממים הכוללים דמויות מונפשות המעוררות את התקפות ה-11 בספטמבר - יצרני הממים, כמובן, מצאו את העבודה שלהם.

זמן לא רב לאחר מכן, מחולל התמונות המתקדם של OpenAI, DALL-E 3, שופץמדיניות שימוש מגבילה הרבה יותר, הוספת "מערכת בטיחות רב-שכבתית" המגבילה את "היכולת של DALL-E 3 לייצר תוכן אלים, שנאה או תוכן למבוגרים", דיווח צ'אנס טאון של Mashable. OpenAI הונפקהנחיות ספציפיות לדיסאינפורמציה בבחירותבינואר, וציין כי DALL-E 3 יכול לדחות "בקשות המבקשות יצירת תדמית של אנשים אמיתיים, כולל מועמדים".

בפברואר הודיעה OpenAI שכןחשבונות שזוהו והסתיימו של שחקנים רעים המזוהים עם מדינה זרהבאמצעות טכנולוגיות הבינה המלאכותית הגנרטיביות שלה.

עד עכשיו, מידג'ורני הרופסת יותר לא פרסם הצהרה או הנהיג מדיניות חדשה כדי לרסן דיסאינפורמציה בבחירות. לפלטפורמה יש איסור על משתמשים לייצר תמונות "או קמפיינים פוליטיים, או לנסות להשפיע על תוצאות הבחירות". זה היה גם אחד היצרנים המובילים היחידים לייצור תמונות AI שלא חתמו על אהסכם תעשייה וולונטרימתחייב לאמץ אמצעי זהירות של זיוף עמוק ודיסאינפורמציה, שהוצג בחודש שעבר. בשנה שעברה, המרכז למלחמה בשנאה דיגיטלית דיווח שמשתמשי Midjourney יכוליםלעקוף בקלות את הנחיות הקהילה וההגבלותליצור תמונות קונספירטיביות וגזעניות באופן עקבי.

אדוח אחרוןמהעמותה בדקו כמה מחוללי תמונות, כולל Midjourney, על יכולתם לבלום הנחיות שקידמו דיסאינפורמציה בבחירות. תמונות שנוצרו כללו בהצלחה דיסאינפורמציה לגבי בחירות ב-41 אחוז מהמקרים. Midjourney הציג את הביצועים הגרועים ביותר מבין כל הכלים שנבדקו, והחמיץ דיסאינפורמציה ב-65 אחוז מהמקרים.

"מסד הנתונים הציבורי של Midjourney של תמונות AI מראה ששחקנים רעים כבר משתמשים בכלי כדי לייצר תמונות שיכולות לתמוך בדיסאינפורמציה של בחירות", הזהיר המרכז.