אחד הסרטונים הכי מגניבים שראיתי בשנה האחרונה הוא קליפ ביוטיובה הופעה מאוחרת עם דיוויד לטרמןבהשתתפות השחקן והקומיקאי ביל האדר.

או... האם זה היה בעצםטום קרוז? קשה לדעת לפעמים כי הם ממשיכים לעבור בצורה חלקה קדימה ואחורה.

אז במה בדיוק אתה צופה כאן? ובכן, מישהו לקח קליפ לא ערוך של לטרמן מראיין את חדר ואז החליף את פניו של קרוז באמצעות בינה מלאכותית.

הסרטון הוא מה שמכונה אזיוף עמוק, או מדיה שעברה מניפולציה שנוצרה באמצעות כוח הבינה המלאכותית.

זיופים עמוקים יכולים להיות פשוטים כמו החלפת פנים של שחקן אחד לאחר בקליפ מהסרט האהוב עליך. לחלופין, אתה יכול אפילו לבקש מחקיין לספק אודיו לתנועת פה מסונכרנת וליצור רגע חדש לגמרי עבור אותו אדם ממוקד. הזיוף העמוק הזה של אובמה, שהושמע על ידי ג'ורדן פיל, הוא דוגמה מושלמת לשימוש הזה.

בעוד שהמדיה המטופלת נוצרת בסופו של דבר על ידי AI, האדם שמאחוריה עדיין זקוק לזמן ולסבלנות כדי ליצור זיוף עמוק באיכות טובה. במקרה של אותו קליפ לטרמן שהשתנה, יוצר הסרטון היה צריך לקחת את הקליפ המקורי ולהזין אותו למחשב ענן חזק לצד שלל תמונות סטילס משתנות של פניו של טום קרוז.

במהלך הזמן הזה, המחשב בעצם לומד את התמונה והווידאו. זה "לומד" כיצד להחליף בצורה הטובה ביותר את פניהם של הדר וקרוז ולהוציא קטע וידאו מתופעל ללא רבב. לפעמים, ל-AI לוקח שבועות כדי לשכלל את הזיוף העמוק. בנוסף, זה יכול להיותיָקָרגם. תזדקק למחשב עם מפרט די חזק או שתצטרך לשכור מכונה וירטואלית בענן כדי ליצור יצירת זיוף עמוק באיכות גבוהה.

אבל, זה משתנה במהירות. חברות טכנולוגיה גדולות קופצות על המגמה ומפתחות תוכנה משלהן כדי שמשתמשים יוכלו ליצור תוכן מזויף עמוק. ועכשיו, זיופים עמוקים הופכים קלים יותר ליצירה.

מוקדם יותר השבוע, האפליקציה לנייד להחלפת פניםדאבלקטהושק. נוסדה על ידי חברת הבינה המלאכותית RefaceAI, Doublicat היא אולי הכלי הפשוט ביותר למניפולציה במדיה עד כה. המשתמשים רק צריכים להוריד את האפליקציה, לצלם סלפי ולבחור מתוך אחד ממאות קובצי GIF המתארים סצנות פופולריות מסרטים, תוכניות טלוויזיה ומהאינטרנט. בתוך שניות, ה-GIF המזויף העמוק הקצר והמתגלגל שלך מוכן לשיתוף.

קובצי ה-GIF פשוטים למדי וסביר להניח שנבחרו על סמך איזו תמונה תהיה הקלה ביותר עבור האפליקציה לירוק החלפת פנים מדויקת. זה רחוק מלהיות מושלם, אבל זה מהיר במיוחד. ומה שהוא יכול לעשות אפילו עם סלפי באיכות נמוכה הוא מרשים. עם הזמן, הטכנולוגיה רק ​​תשתפר עוד יותר.

Doublicat אמר ל-Mashable כי "יגיעו עדכונים שיאפשרו למשתמשים להעלות קובצי GIF משלהם, לחפש קובצי GIF בתוך האפליקציה ולהשתמש בתמונות מתוך המצלמה של הטלפון שלהם".

Doublicat עשוי להיות הכלי הפשוט ביותר למניפולציה של מדיה בארה"ב, אך אפליקציות דומות קיימות בשווקים בינלאומיים.

"שֶׁלָהֶם, Cameos החדש של Snap, Doublicat - החלפת פנים הופכת למצרך הודות ליזמים יצירתיים מסין ואוקראינה", אמר ז'אן קלוד גולדשטיין, מייסד ומנכ"לCREOpoint, חברה המסייעת לעסקים להתמודד עם דיסאינפורמציה. גולדנסטין מציין שסנאפצ'ט לאחרונהנִרכָּשׁAI Factory, החברה שעומדת מאחוריוקמיעותתכונה תמורת 166 מיליון דולר.

לפי הדיווחים TikTok, אפליקציית הווידאו הפופולרית ביותר בבעלות Bytedance הסיני, כברמְפוּתָחגם אפליקציית Deepfake שטרם הושקה.

אבל, זה לא הכל כיף ומשחקים.

"זיוף עמוק יכול להרוס מוניטין ממש תוך שניות, אז אם אישי ציבור לא יתחילו להתכונן לאיומים האלה לפני שהם פוגעים, הם עומדים להיתקל בהתעוררות גסה אם אי פעם יתמזל מזלם להופיע באחד את הסרטונים האלה", אמר מנכ"ל Marathon Strategies, פיל סינגר, ל-Mashable. חברת יחסי הציבור של זינגר השיקה לאחרונה שירותספציפיתלהתמודד עם דיסאינפורמציה באמצעות זיופים עמוקים.

כדי להבין את הדאגה שמאחורי הטכנולוגיה הנראית לא מזיקה הזו ששימשה ליצירת סרטונים מצחיקים, צריך להבין איך זיופים עמוקים עלו לראשונה לגדולה.

בסוף 2017, המונח "זיוף עמוק" הומצא ב-Reddit כדי להתייחס למדיה שעברה מניפולציות בינה מלאכותית. הדוגמאות הטובות ביותר באותה תקופה היו כמה סרטונים מצחיקים הקשורים לניקולה קייג'. אבל, אז, סרטוני הסקס המזויפים השתלטו. באמצעות טכנולוגיית Deepfake, משתמשים החלו לקחת את השחקניות ההוליוודיות האהובות עליהם ולהחליף אותן לסרטי סרטים למבוגרים. Reddit עבר ללֶאֱסוֹרהשימוש הפורנוגרפי ב-deepfake בשנת 2018 ומוּרחָבהמדיניות המזויפת שלה רק בשבוע שעבר.

בעידן של חדשות מזויפות ודיסאינפורמציה המופצים בקלות דרך האינטרנט, לא לוקח הרבה זמן לראות כיצד סרטונים פורנוגרפיים מזויפים יכולים להרוס את חייו. קחו בחשבון שאנו נמצאים כעת בשנת בחירות לנשיאות, הראשונה מאז קמפיינים של דיסאינפורמציה מתואמים השתוללו ב-2016, ותבינו מדוע אנשים מודאגים משימושים זדוניים בטכנולוגיה ההולכת וגדלה זו.

"עברנו מדאגה לגבי שיתוף הנתונים האישיים שלנו לדאוג כעת לגבי שיתוף התמונות האישיות שלנו", אומר סינגר. "אנשים צריכים להיות נבונים במיוחד בשיתוף תמונות של עצמם כי אף פעם אי אפשר לדעת איך הם ישמשו."

"זה רק עניין של זמן עד שהם יהיו נפוצים בכל מקום כמו כל אחד מכלי המדיה החברתית שאנשים משתמשים בהם כרגע", המשיך.

ייתכן שהציוץ נמחק

המדאיג ביותר הוא שכמה מחברות הטכנולוגיה הגדולות בעולם עדיין תוהות כיצד להילחם בזיופים עמוקים מרושעים.

רק החודש הודיעה פייסבוק על כךאיסור זיוף עמוק. אבל בעיה אחת: איך מזהים זיוף עמוק? זו בעיה שפלטפורמת הרשת החברתית הגדולה ביותר על פני כדור הארץ עדיין לא הצליחה לפתור כראוי.

פייסבוק השיקה את Deepfake Detection Challenge שלה כדי לעבוד עם חוקרים ואנשי אקדמיה על פתרון הבעיה הזו, אבל אנחנו עדיין לא שם וסביר להניח שלעולם לא נהיה שם במאה אחוז.

על פי אתר Deepfake Detection של פייסבוק: "טכנולוגיות הבינה המלאכותית שמניעות מדיה מבולבלת מתפתחות במהירות, מה שהופך את הזיופים העמוקים לקשים כל כך לזיהוי שלפעמים אפילו מעריכים אנושיים לא יכולים להבחין בצורה מהימנה בהבדל."

"זו בעיה רצינית מכיוון ש-AI לא יכול לזהות חדשות מזויפות או בדיקת עובדות בצורה מהימנה מספיק מהר", מסביר Goldenstein של CREOpoint.

במהלך חילופי הדברים שלנו, גולדנשטיין שלח לי את הציטוט הבא: "שקר נשמע באמצע העולם לפני שלאמת יש סיכוי ללבוש את המכנסיים".

בזמן שבדקתי את מקור הציטוט, באופן מעניין, גיליתי שגרסאות שונות של הציטוט היו לעתים קרובותמיוחס לא נכוןבמהלך השנים לווינסטון צ'רצ'יל.

אם באמת רוצים להכפיל את האמונה שצ'רצ'יל אכן אמר את זה, נראה שזה לא יהיה כל כך קשה ליצור זיוף עמוק ש"מוכיח" שהוא עשה זאת.