מצטער לאכזב, אבל אם אתה מחפש רשימה מהירה של דרכים ניתנות לזיהוי ועמיד בפני תקלות לזיהוי סרטונים שנוצרו על ידי AI, אתה לא הולך למצוא אותה כאן. חלפו ימי הבינה המלאכותית וויל סמית'אוכל ספגטי בצורה גרוטסקית. עכשיו יש לנו כלים שיכולים ליצור סרטונים משכנעים ופוטוריאליסטיים בכמה קליקים.

נכון לעכשיו, סרטונים שנוצרו על ידי בינה מלאכותית הם עדיין אופציה בהתהוות יחסית לטקסט, תמונות ואודיו שנוצרו בינה מלאכותית, מכיוון שהשגת כל הפרטים נכונה היא אתגר שדורש הרבה נתונים באיכות גבוהה. "אבל אין מכשול מהותי לקבל נתונים באיכות גבוהה יותר", רק עבודה עתירת עבודה, אמר סיווי ליו, פרופסור למדעי המחשב והנדסה באוניברסיטת באפלו SUNY.

זה אומר שאתה יכול לצפות שסרטונים שנוצרו על ידי בינה מלאכותית ישתפרו הרבה, בקרוב מאוד, ולבטל את החפצים המעידים - פגמים או אי דיוקים - כמו פרצופים משתנים ואובייקטים משנים צורה המסמנים את יצירות הבינה המלאכותית הנוכחיות. המפתח לזיהוי סרטונים שנוצרו על ידי בינה מלאכותית (או כל שיטת AI), אם כן, טמון באוריינות בינה מלאכותית. "ההבנה ש[טכנולוגיות AI] צומחות ויש לי רעיון הליבה הזה של 'משהו שאני רואה יכול להיווצר על ידי AI', חשובה יותר מאשר, נגיד, רמזים בודדים", אמר ליו, שהוא מנהל ה-Media Forensic של UB. מַעבָּדָה. 

ייתכן שהציוץ נמחק

ניווט באינטרנט שורץ בינה מלאכותית מצריך שימוש בידע המקוון ובשיקול הדעת הטוב שלך כדי לזהות מתי משהו עלול להיות כבוי. זוהי ההגנה הטובה ביותר שלך מפני הונאה על ידי זיופים עמוקים של AI, דיסאינפורמציה או סתם זבל באיכות נמוכה. זו מיומנות שקשה לפתח, כי כל היבט של העולם המקוון נלחם נגדה במטרה לקבל את תשומת הלב שלך. אֲבָל החדשות הטובות הן, שאפשר לכוונן עדין את אינסטינקטים של זיהוי הבינה המלאכותית שלך.

"על ידי לימוד [תמונות שנוצרו בינה מלאכותית], אנו חושבים שאנשים יכולים לשפר את אוריינות הבינה המלאכותית שלהם", אמר נגר קמאלי, מדען מחקר בינה מלאכותית בבית הספר לניהול קלוג באוניברסיטת נורת'ווסטרן, שהיה שותף למחברמַדְרִיךלזיהוי תמונות שנוצרו בינה מלאכותית. "גם אם אני לא רואה שום חפצים [המעידים על יצירת בינה מלאכותית], המוח שלי חושב מיד, 'אוי, משהו כבוי'", הוסיף קמאלי, שחקר אלפי תמונות שנוצרו בינה מלאכותית. "גם אם אני לא מוצא את החפץ, אני לא יכול לומר בוודאות שהוא אמיתי, וזה מה שאנחנו רוצים".

ממה להיזהר: סרטוני מתחזים לעומת סרטוני טקסט לתמונה

לפני שנוכל להיכנס לזיהוי סרטונים שנוצרו בינה מלאכותית, עלינו להבחין בין הסוגים השונים. סרטונים שנוצרו על ידי בינה מלאכותית מחולקים בדרך כלל לשתי קטגוריות שונות: סרטוני מתחזים וסרטונים שנוצרו על ידי מודל הפצת טקסט לתמונה.

סרטונים מתחזים

אלו הם סרטונים ערוכים בינה מלאכותית שמורכבים מהחלפת פנים - כאשר כל פניו של אדם מוחלפים בפני של מישהו אחר (בדרך כלל ידוען או פוליטיקאי) ועושים לומר משהו מזויף - וסינכרון שפתיים - שבו פיו של אדם עובר מניפולציות עדינות ומוחלף. עם אודיו שונה.

סרטוני מתחזים הם בדרך כלל די משכנעים, מכיוון שהטכנולוגיה קיימת זמן רב יותר והם מתבססים על קטעים קיימים במקום ליצור משהו מאפס. זוכרים את הסרטונים המזויפים של טום קרוז מלפני כמה שנים שהפכו לוויראליים בגלל שהם כל כך משכנעים? הם עבדו כי היוצר, כריס אומה, דומה מאוד לטום קרוז, עבד עם חקיין מקצועי של טום קרוז, ועשה הרבה עריכה של דקות, לפירֵאָיוֹןעם Ume מ-The Verge. בימים אלה, יש שפע של אפליקציות שם בחוץ שמשיגות את אותו הדבר ויכולות אפילו -בצורה מפחידה- כלול אודיו מ-Sound Bite קצר שהיוצר מוצא באינטרנט.

עם זאת, יש כמה דברים שצריך לחפש אם אתה חושד בזיוף עמוק של וידאו בינה מלאכותית. קודם כל, תסתכל על הפורמט של הסרטון. זיופים עמוקים של וידאו בינה מלאכותית "מצולמים" בדרך כלל בפורמט של ראש מדבר, שבו אתה יכול פשוט לראות את הראש והכתפיים של הדובר, כשהזרועות שלהם מחוץ לעין (עוד על זה בעוד דקה).

כדי לזהות חילופי פנים, חפשו פגמים או חפצים סביב גבולות הפנים. "בדרך כלל רואים חפצים כשהראש זז באלכסון למצלמה", אמר מומחה לזיהוי פלילי דיגיטלי ופרופסור למדעי המחשב באוניברסיטת ברקלי, האני פאריד. באשר לזרועות ולידיים, "אם היד זזה, או שמשהו יחסום את הפנים, [התמונה] תתקלקל מעט", המשיך פריד. וצפו בזרועות ובגוף לתנועות טבעיות. "אם כל מה שאתה רואה זה את זה," - בשיחת הזום שלנו, פריד שומר על זרועותיו נוקשות ולצדדיו - "והאדם לא זז בכלל, זה מזויף."

אם אתה חושד בסינכרון שפתיים, מקד את תשומת הלב שלך בפה של הנבדק - במיוחד בשיניים. עם זיופים, "ראינו אנשים שיש להם שיניים בעלות צורה לא סדירה", או שמספר השיניים משתנה במהלך הסרטון, אמר ליו. סימן מוזר נוסף שצריך לשים לב אליו הוא "נדנוד של החצי התחתון" של הפנים, אמר ליו. "יש הליך טכני שבו אתה צריך להתאים בדיוק את הפנים של האדם הזה", אמר. "בזמן שאני מדבר, אני מזיז את הפנים שלי הרבה, והיישור הזה, אם יש לך רק קצת חוסר דיוק שם, עיניים אנושיות מסוגלות לזהות." זה נותן לחצי התחתון של הפנים אפקט נוזלי יותר וגומי.

ייתכן שהציוץ נמחק

כשזה מגיע לזיופים עמוקים של בינה מלאכותית, Aruna Sankaranarayanan, עוזרת מחקר במעבדת מדעי המחשב והבינה המלאכותית של MIT, אומרת שהדאגה הגדולה ביותר שלה היא לא זיופים עמוקים של הפוליטיקאים המפורסמים ביותר בעולם כמו דונלד טראמפ או ג'ו ביידן, אלא של דמויות חשובות אשר אולי לא כל כך מוכר. "יצור שמגיע מהם, מעוות עובדות מסוימות, כאשר אתה לא יודע איך הם נראים או נשמעים רוב הזמן, זה ממש קשה להפריך", אמר Sankaranarayanan, שלומתמקדים בעבודהעל זיופים עמוקים פוליטיים. שוב, זה כאשר אוריינות AI נכנסת לפעולה; סרטונים כמו אלה דורשים מחקר מסוים כדי לאמת או להפריך.

סרטוני טקסט לתמונה

ואז יש את המצטרפים החדשים הסקסיים: מודלים של הפצת טקסט לתמונה שיוצרים סרטונים מהודעות טקסט או תמונה. OpenAI עשתה התזה גדולה כשזההכריזה סורה, מחולל וידאו AI שלו. למרות שזה עדיין לא זמין, סרטוני ההדגמה הספיקו כדי להדהים אנשים עם הפרטים המוקפדים, הפוטוריאליזם החי והמעקב החלק, הכל לכאורה מהנחיות טקסט פשוטות.

מאז, צצו חבורה של אפליקציות אחרות שיכולות להפוך את הממים האהובים עליך לקובצי GIF וסצנות דמיוניות שנראות כאילו לקחו צוות CGI שלם עם תקציב של דיסני.קריאייטיב בהוליוודצודקים לכעוס על הופעת מודלים של טקסט לתמונה, אשרכנראה שהוכשרו על עבודתםועכשיו מאיימים להחליף אותו.

ייתכן שהציוץ נמחק

אבל הטכנולוגיה עדיין לא שם, מכיוון שאפילו סרטוני Sora האלה כנראה דרשו עריכה חלקה ועתירת זמן. סרטוני ההדגמה של סורה מורכבים מסדרה של עריכות מהירות, מכיוון שהטכנולוגיה עדיין לא מספיק טובה כדי ליצור סרטונים ארוכים יותר ללא רבב. אז אתה יכול להיות ערני, במיוחד, לקטעים קצרים: "אם הסרטון הוא באורך 10 שניות, היה חשוד. יש סיבה למה הוא קצר", אמר פריד. "בעיקרון, טקסט לווידאו פשוט לא יכול לעשות חיתוך אחד באורך דקה", הוא המשיך, תוך שהוא מוסיף כי זה צפוי להשתפר בששת החודשים הקרובים.

ייתכן שהציוץ נמחק

פאריד גם אמר שצריך לשים לב ל"חוסר עקביות זמני", כמו "הבניין הוסיף סיפור, או שהמכונית שינתה צבעים, דברים שאינם אפשריים פיזית", אמר. "ולעתים קרובות זה רחוק ממרכז תשומת הלב שבו זה קורה." אז, תחדד את פרטי הרקע. אתה עלול לראות חפצים חלקים או מעוותים בצורה לא טבעית, או שגודלו של אדם משתנה בזמן שהוא מסתובב בבניין, אמר ליו.

ייתכן שהציוץ נמחק

קמאלי אומר לחפש "אי-סבירויות חברתיות-תרבותיות" או רמזים בהקשר שבהם המציאות של המצב לא נראית סבירה. "אתה לא רואה מיד את הסיפורים, אבל אתה מרגיש שמשהו כבוי - כמו תמונה של ביידן ואובמה לובשים חליפות ורודות", אואפיפיור בז'קט של בלנסיאגה.

מלבד רמזים בהקשר, קיומם של חפצים צפוי לרדת ממש בקרוב. ווול סטריט מוכנה להמרמיליארדי דולריםעל זה. (עם זאת, קפיטליזם סיכוןלא ממש ידועלהערכות שווי במחירים סבירים של סטארט-אפים טכנולוגיים על סמך עדויות מוצקות לרווחיות.)

החפצים עשויים להשתנות, אבל שיקול דעת טוב נשאר.

כפי שפאריד אמר למאשבל, "בוא תדבר איתי בעוד שישה חודשים, והסיפור ישתנה." לכן, הסתמכות על רמזים מסוימים כדי לוודא אם סרטון וידאו נוצר בינה מלאכותית עלולה להכניס אותך לצרות.

המאמר של Lyu משנת 2018 על זיהוי סרטונים שנוצרו על ידי בינה מלאכותית מכיוון שהנבדקים לא מצמצו כראוי זכה לפרסום נרחב בקהילת הבינה המלאכותית. כתוצאה מכך, אנשים התחילו לחפש פגמים ממצמצי עיניים, אך ככל שהטכנולוגיה התקדמה, כך גם יותר מצמוצים טבעיים. "אנשים התחילו לחשוב שאם יש עין טובה שממצמצת, אסור שזה יהיה זיוף עמוק וזו הסכנה", אמר ליו. "למעשה אנחנו רוצים להעלות את המודעות אבל לא להיצמד לממצאים מסוימים, כי החפצים עומדים להשתנות."

בניית המודעות למשהויָכוֹליצירת בינה מלאכותית "תפעיל רצף שלם של פעולה", אמר ליו. "בדוק, מי משתף את זה? האם האדם הזה אמין? האם יש מקורות אחרים המתואמים לאותו סיפור, והאם זה אומת באמצעים אחרים? אני חושב שאלו הם אמצעי הנגד היעילים ביותר לזיופים עמוקים."

ייתכן שהציוץ נמחק

עבור Farid, זיהוי סרטונים שנוצרו על ידי בינה מלאכותית וזיופים עמוקים מטעים מתחיל מהמקום שבו אתה מקור המידע שלך. קח אתתמונות שנוצרו על ידי AIשהופץ ברשתות החברתיות בעקבות הוריקן הלן והוריקן מילטון. רובם היו די ברור שהם מזויפים, אבל עדיין הייתה להם השפעה רגשית על אנשים. "גם כשהדברים האלה לא מאוד טובים, זה לא אומר שהם לא חודרים, זה לא אומר שזה לא משפיע על האופן שבו אנשים סופגים מידע", אמר.

ייתכן שהציוץ נמחק

היזהר בקבלת החדשות שלך מהמדיה החברתית. "אם התמונה מרגישה כמו קליקבייט, זה קליקבייט", אמר פאריד לפני שהוסיף שהכל מסתכם באוריינות תקשורתית. תחשוב על מי פרסם את הסרטון ולמה הוא נוצר. "אתה לא יכול פשוט להסתכל על משהו בטוויטר ולהיות כמו, 'אה, זה חייב להיות נכון, תן לי לשתף את זה'".

אם אתה חשוד לגבי תוכן שנוצר בינה מלאכותית, בדוק מקורות אחרים כדי לראות אם הם גם משתפים אותו, ואם הכל נראה אותו הדבר. כפי שאומר ליו, "זיוף עמוק נראה אמיתי רק מזווית אחת." חפש זוויות אחרות של המופע המדובר. פאריד ממליץ על אתרים כמו Snopes ו-Politifact, שמפריכים מידע מוטעה ודיסאינפורמציה. כשכולנו ממשיכים לנווט בנוף הבינה המלאכותית המשתנה במהירות, יהיה מכריע לעשות את העבודה - ולסמוך על הבטן שלך.