פייסבוק הכריזה על מדיניות חדשה שנועדה להתמודד עם מידע מוטעה המופץ על ידי זיופים עמוקים. עם זאת, הכללים החלשים למדי של האתר עדיין אינם מתמודדים עם מידע מוטעה עצמו.

ב אפוסט בבלוגשפורסם ביום שני בערב, סגנית נשיא פייסבוק לניהול מדיניות גלובלית, מוניקה ביקרט, הצהירה כי החברה "מחזקת את המדיניות [שלה] כלפי סרטונים מוטעים", כולל זיופים עמוקים וכן "כל סוגי המדיה שעברו מניפולציות".

"בהמשך, נסיר אמצעי תקשורת מטעים אם היא עומדת בקריטריונים הבאים", כתב ביקרט.

"זה נערך או סונתז - מעבר להתאמות לבהירות או איכות - בדרכים שאינן גלויות לאדם ממוצע וסביר להניח שיטעו מישהו לחשוב שנושאי הסרטון אמר מילים שהוא לא באמת אמר.

"וגם: זה תוצר של בינה מלאכותית או למידת מכונה שממזגת, מחליפה או מכניסה תוכן על גבי סרטון, מה שגורם לו להיראות אותנטי."

ביקרט מציין עוד כי פרודיה וסאטירה אינן נכללות בחוקים החדשים הללו, וכך גם "סרטון שנערך אך ורק כדי להשמיט או לשנות את סדר המילים".

למרות שזה נשמע כמו צעד ראשון הגון, המדיניות החדשה של פייסבוק עדיין משאירה את הדלת פתוחה לרווחה לסרטונים מטעים שנעשו בשיטות פחות מתקדמות של מניפולציה של וידאו. ועד כה, לקליפים הללו הייתה השפעה משמעותית הרבה יותר על השיח הפוליטי בארה"ב.

בנובמבר 2018, הבית הלבןשיתף סרטוןשל כתב CNN, ג'ים אקוסטה, כאילו קוצץ את ידו על זרועו של מתמחה בבית הלבן, ומשתמש בצילומים כדי להצדיק את חסימתו מהשטח. עם זאת, יועצת הבית הלבן, קליאן קונווימאוחר יותר הודהשהצילומים הואצו, מה שגרם לאקוסטה להיראות אגרסיבי יותר ממנו. אקוסטה גם אמרה "סליחה, גברתי" למתמחה במהלך חילופי הדברים, שהוסרו מהצילומים שהשתנו.

למרות שהקליפ של אקוסטה הוא סרטון מניפולציה מטעה, הכללים החדשים של פייסבוק עדיין יאפשרו לצילומים להמשיך להסתובב פשוט כי לא הייתה למידת מכונה מעורבת ביצירתו.

סרטונים מטעים אחרים שעדיין יהיו מותרים לפי המדיניות של פייסבוק כוללים צילומים של הדוברת ננסי פלוסי שהיוהאטלגרום לה להיראות שיכורה, וערוך באופן סלקטיביסרטון של המועמד לנשיאות ג'ו ביידן שגרם לו להיראות כמי שהעיר הערה גזענית.

ביקרט הצהיר כי מדיה שאינה עומדת בקריטריונים להסרה עדיין עשויה להיות מסומנת לבדיקה על ידי בודק עובדות. אם יימצא כשקרי לפחות חלקית, פייסבוק עשויה "להפחית באופן משמעותי" את תפוצת הסרטון או התמונה, כמו גם להחיל אזהרה.

"אם פשוט נסיר את כל הסרטונים שעברו מניפולציות שסומנו על ידי בודקי עובדות כשקריות, הסרטונים עדיין יהיו זמינים במקומות אחרים באינטרנט או במערכת המדיה החברתית", כתב ביקרט. "על ידי השארתם ותיוגם כשקריים, אנו מספקים לאנשים מידע והקשר חשובים".

עם זאת, ניתן לומר את אותו הדבר על זיופים עמוקים. בהתחשב בנזק שצילומים מטעים יכולים לגרום, סירובה של פייסבוק להסיר מדיה אלא אם הן מטעותוהתוצאה של בינה מלאכותית נראית כמו הבחנה שרירותית. כמומחה לזיהוי פלילי דיגיטלי האני פרידאמר אתוושינגטון פוסט: "מדוע להתמקד רק בזיופים עמוקים ולא בסוגיה הרחבה יותר של סרטונים מטעים בכוונה?"

חשוב שנתמודד עם זיופים עמוקים מטעים ככל שהטכנולוגיה הופכת נפוצה יותר, במיוחד כאשר ארה"ב עומדת לקראת בחירות לנשיאות. עם זאת, לא פחות חשוב לעצור גם הטעיות פחות מתקדמות מבחינה טכנולוגית.