עם מיינסטריםבינה מלאכותיתכלים בעלייה בקצה הבחירות לנשיאות ארה"ב ב-2024, דיסאינפורמציה שנוצרה על ידי בינה מלאכותית היא לא רק פחד - היא כבר מציאות. ב-22 בינואר, משרד המשפטים של ניו המפשייר פרסם הצהרה לפיה אנשים קיבלו אזיוף שמע מוקלט של ג'ו ביידן, אומר להם לא להצביע בבחירות המקדימות במדינה. הקריאה עודדה את המצביעים "לחסוך" את ההצבעה שלהם, וציינה בטעות כי "ההצבעה שלך משנה בנובמבר, לא ביום שלישי הקרוב".

ימים לאחר מכן, הפעלה של AIElevenLabs השעתה את יוצר האודיו המזויף של Bidenדיווח בלומברג.

ElevenLabsהוא מחולל קול בינה מלאכותית המופעלת על ידי מודל שלפי האתר שלו, יכול להוסיף לקול נטייה דמוית אדם על סמך הקשר. לגנרטור ישאלפי קולות AI מוכנים מראשלבחירה, או שאתה יכול ליצור אחד מותאם אישית. בלומברג דיווחה שחברת זיהוי הונאות קול Pindrop Security Inc. גילתה שה-AI Biden robocall נעשה באמצעות ElevenLabs.

"אנו מחויבים למניעת שימוש לרעה בכלי AI אודיו ולוקחים כל תקרית של שימוש לרעה ברצינות רבה", אמרה ElevenLabs לבלומברג.אתר האינטרנט של ElevenLabsקובע כי ניתן להשתמש בזיופים עמוקים של פוליטיקאים רק במקרים מסוימים, כולל קריקטורה, פארודיה או סאטירה. לאחר שהחברה נודעה על הזיוף העמוק של ביידן, היא חקרה והשעתה את החשבון האחראי, אמר מקור לבלומברג.

בראיון ל-The Hill אמרה פרופסור למדעי המחשב באוניברסיטת קרנגי מלון, קתלין קרליביידן רובוקאל הוא "קצה הקרחון"מבחינת ניסיונות לדכא בוחרים. קרלי הוסיפה שזה מבשר על מה שיכול לבוא.

ChatGPTמפתחOpenAIהוא כבר מנסה לדכא מידע מוטעה בעצמו, משחררמתכנן להגן על שלמות הבחירות. זמן קצר לאחר מכן, החברההשעתה מפתחשעשה בוט עבור מועמד דמוקרטי ארוך.

ככאלה, עלינו להיות ערניים במה שאנו רואים - ושומעים - בעונת הבחירות הזו. כפי שהזהירה כתבת הטכנולוגיה של Mashable, ססילי מורן, "הרעיון שלהאינטרנט נשלט על ידי תוכן שנוצר על ידי בינה מלאכותיתזה כבר קורה וזה לא נראה טוב".