אם הייתם ב-TikTok לאחרונה, אולי הוגשה לכם פרסומת וידאו בהשתתפות ג'ו רוגן ואחד מאורחיו בפודקאסט הפופולרי ביותר שלו,חוויית ג'ו רוגן. בקליפ, רוגן מתגאה במוסף "בוסטר ליבידו לגברים" בשם Alpha Grind, ומרחיק לכת ואומר למאזינים בדיוק מה להקליד כדי למצוא את המוצר באמזון.
רוגן הוא אחד הפודקאסטים הפופולריים ביותר שיש, עם למעלה מעשרה מיליון מאזינים לכל פרק של התוכנית שלו. אישור מותג כזה יהיה הישג גדול וכנראה יקר מאוד עבור כל מוצר. רק ג'ו רוגן לא תמך באלפא גריינד בתוכנית שלו. הקליפ המופיע במודעת הווידאו של TikTok הוא סבירזיוף עמוק, יצירת AI במטרה לגרום לזה להיראות כאילו רוגן אישר את המוצר כדי להגביר את המכירות.
ייתכן שהציוץ נמחק
מודעת הווידאו פורסמה וקידמה ב-TikTok על ידי משתמש בשם @mikesmithtrainer. כאשר Mashable בדק לראשונה את חשבון TikTok, הסרטונים שפורסמו בפומבי כללו קטעי עדות של צרכני Alpha Grind כביכול יומיומיים. נכון לזמן הפרסום, ה@mikesmithtrainerהחשבון אינו נגיש יותר ב- TikTok.
דובר TikTok אישר ל-Mashable שהחברה "הסירה את הסרטונים האלה במסגרת מדיניות המידע השגוי המזיק שלנו". TikTok גם אסר את החשבון.
בטוויטר, משתמש @JimmyFarley00פורסם מחדשהקליפ המזויף של ג'ו רוגן והציוץ הפכו מיד לוויראליים. סרטון הטוויטר נצפה יותר מ-5 מיליון פעמים, ומספר משתמשים בתשובות הציוץ ראו את המודעה ב-TikTok כשהיא עדיין פעילה. עם זאת, החל מה-15 בפברואר, החשוד בזיוף עמוק של רוגן הוסר גם מטוויטר. כאשר מנסים לצפות בסרטון, משתמשים נתקלים בהנחיה שטוענת שהקליפ הוסר עקב "דיווח מבעל זכויות היוצרים". Mashable כללהלהעלותשל הקליפ שעדיין פעיל למעלה.
מהירות אור ניתנת לריסוק
כשהתעמת לראשונה עם הסרטון החשוד בזיוף עמוק של רוגן, חלק ממשתמשי טוויטר אפילו לא הבינו ממה הם מחפשים בהתחלה. אנדרו ד. הוברמן, האורח בפודקאסט של רוגן שמופיע גם בסרטון,נכנסהשיחה אללצייןלאותם משתמשים שהשיחה שהוצגה בסרטון מעולם לא התרחשה בפועל.
"הם יצרו שיחת שווא", הסביר הוברמן בתשובות לקליפ. "דיברנו על משהו מאוד שונה".
ייתכן שהציוץ נמחק
בקליפ ברור שחלקים מהשיחה מורמים מהפודקאסט. הסרטון ערוך בכבדות ולוקח קטעים מהפרק בפועל. לאחר מכן, הקליפ גם טווה את מה שכנראה מפוברק לחלוטין AI deepfake אודיו וצילומים של רוגן המאשר את המוצר Alpha Grind במהלך השיחה שלהם, מה ש - בהמתנה לניתוח ממומחה - פירושו שהמתאי השתמש בלמידה חישובית כדי לשכפל את קולו של רוגן ושילב זאת עם מטעה עריכת וידאו או זיוף נוסף של AI כדי להתאים את תווי הפנים שלו למה שהוא אומר.
Deepfakes אינם חדשים וכבר היומדאיגאתיקים ומומחי דיסאינפורמציה כבר שנים. עם זאת, יש עניין מחודש בכל הקשור לבינה מלאכותית מאז ה-OpenAI המרשיםChatGPTצ'אטבוט AI פרץ לזירה והראה עד כמה התקדמות בוצעה עם טכנולוגיית למידת מכונה.
TikTok למעשהאָסוּרסרטונים מזויפים עמוקים בפלטפורמה עוד בשנת 2020, עם זאת, לא ברור עד כמה המדיניות נאכפת. כאשר Mashable פנה, דובר TikTok הדגיש את הנחיות הקהילה של הפלטפורמות אשר אוסרות "זיופים דיגיטליים (מדיה סינתטית או מדיה מניפולציה) המטעים משתמשים על ידי עיוות האמת של האירועים וגורמים נזק משמעותי לנושא הסרטון, לאנשים אחרים או לחברה ."
יש לציין שלא כל הזיופים העמוקים משמשים למטרות נבזיות, ושהטכנולוגיה יכולה לשמש לסרטונים יצירתיים שנועדו פשוט לבדר את הצופים. עם זאת, זיופים עמוקים הוכנסו בעקביות לאור הזרקורים בגלל מקרי השימוש השליליים יותר שלהם. רק בחודש שעבר, סטרימר פופולרי של Twitch הפך לוויראלי לאחר שהוא בטעותנחשףבשידור חי שהוא רכש פורנו מזויף עמוק שלא בהסכמה של סטרימרים אחרים של Twitch.
Mashable פנה ל-TikTok לקבלת מידע נוסף על מודעת ה-Joe Rogan TikTok והסרת החשבון שפרסם אותה. נעדכן את הקטע הזה כשנשמע בחזרה.
