כמה מצביעים בניו המפשייר קיבלו טלפון ממישהו שנשמע מאוד כמו הנשיא ג'ו ביידן. השיחה עודדה את אותם תושבי ניו המפשייר להישאר בבית במהלך הבחירות המקדימות בשבוע שעבר ו"לשמור את הקולות שלך" לבחירות הכלליות בנובמבר.
כמובן, זה לא הגיוני. הבוחרים יכולים להצביע בשתי הבחירות. למה שבידן יגיד להם דבר כזה? ובכן, זה בגלל שהוא לא. אלה היושיחות רובוקות שנוצרו על ידי AIנוצר כדי להישמע כמו ביידן. אתה יכול להאזין לאחדכָּאן, באדיבותהטלגרף:
זו רק דוגמה אחת מהעולם האמיתי לאופן שבו AI כבר יכול להיות מיושם על ידי שחקנים גרועים. וזו כנראה סיבה גדולה שה-FCC רוצה כעת לנקוט בפעולה נגד שיחות שנוצרו בינה מלאכותית.
ההצעה של FCC להוציא מחוץ לחוק שיחות AI רובו
יו"ר ה-FCC, ג'סיקה רוזנוורצל, פרסמה הצהרה ביום רביעי שהכריזה על הצעה לפיה ה-FCC יכיר בשיחות שנוצרות על ידי בינה מלאכותית כקולות "מלאכותיים" במסגרת חוק הגנת צרכן הטלפון (TCPA). על ידי כך, ה-FCC יהפוך שיחות רובוטיות שנוצרו על ידי AI בלתי חוקיות.
ה-TCPA משמש לעתים קרובות על ידי ה-FCC כדי להגביל שיחות זבל שמתקבלות על ידי צרכנים מאנשי טלמרקטינג. על פי חוק זה, חל איסור על שימוש בהודעות קוליות מלאכותיות או מוקלטות וכן במערכות חיוג טלפוניות אוטומטיות.
מהירות אור ניתנת לריסוק
"שיבוט קול ותמונות שנוצרו על ידי AI כבר זורעים בלבול בכך שהם מרמים את הצרכנים לחשוב שהונאות והונאות הן לגיטימיות", אמר רוזנוורצל בהצהרה. ההצהרה ממשיכה:
"לא משנה איזה מפורסם או פוליטיקאי אתה מעדיף, או מה הקשר שלך עם קרוביך כשהם קוראים לעזרה, ייתכן שכולנו יכולים להיות מטרה לשיחות המזויפות האלה. זו הסיבה שה-FCC נוקט בצעדים כדי לזהות את הטכנולוגיה המתפתחת הזו. כבלתי חוקי על פי החוק הקיים, נותן לשותפים שלנו במשרדי הפרקליטות הכללית ברחבי הארץ כלים חדשים שהם יכולים להשתמש בהם כדי לפצח את ההונאות הללו ולהגן על הצרכנים".
נראה שהתזמון של ההצהרה של רוזנוורצל מראה ששיחות הרובוק של ביידן עוררו דאגה לגבי האופן שבו ניתן להשתמש בקולות שנוצרו על ידי AI בהונאות טלמרקטינג כמו גם בהונאות בחירות אפשריות.
נכון לעכשיו, הצעדים האמיתיים היחידים למניעת תרחישים מהמקרים הגרועים ביותר שנגרמו על ידי קולות שנוצרו על ידי בינה מלאכותית ננקטו על ידי חברות הבינה המלאכותית עצמן. כְּמוֹבלומברג דיווח, חברת הבינה המלאכותית ElevenLabs השעתה בשבוע שעבר את המשתמש שיצר את שיחות הרובוקות של Biden מהפלטפורמה שלהם.
"אנו מחויבים למניעת שימוש לרעה בכלי AI אודיו ולוקחים כל תקרית של שימוש לרעה ברצינות רבה", אמר ElevenLabs בהצהרה.
עם זאת, כפי שראינו עם תמונות פורנוגרפיות שנוצרו לאחרונה ללא הסכמה של AI שלטיילור סוויפט, יש כאלה בחלל שאולי לא מרגישים אותו דבר כמו ElevenLabs בכל הנוגע לשימוש במוצרי AI.
