זיופים עמוקים הם קצת כמו מוטציות של וירוסים, בכך שה"טובות" או אפילו "היעילות ביותר" מדאיגות מאוד. לאחר שה-AI הגנרטיבי הפך למיינסטרים בשנה שעברה עם השחרור הרחב של צ'אטבוטים להפלת טקסט, המדיה החברתית התפרצה עם תמונות וצלילים שנוצרו באופן אלגוריתמי שהשתלבו איתם. אז כשבינה מלאכותית המשיכה לגרור ניצחונות, המפסיד היה האחיזה של כולם במציאות.

בצד החיובי, כמה זיופים עמוקיםלא נראה כמוהם נועדו לרמות כל אחד. חלקם אפילוגחמני ממש. למרבה הצער, אלה שהופכים לוויראליים נמצאים בטריטוריה הרבה יותר אפורה, מבחינה אתית.

אלו הם הזיופים העמוקים מהמחצית הראשונה של 2023 שעשו סנסציה מכיוון שהזיוף העמוק שלהם אינו מזויף מספיק לנוחות. תהנה מהם, ואל תהסס לשתף אותם כבידור, אבל בבקשה, אתה יודע, אל תשתמש בהם כדי להפיץ מתיחות. בעולם יש כבר די והותר שקרים.

1. הגרסה הדמיונית של מעצרו של טראמפ

בזמן שהעולם חיכה למעצרו של הנשיא לשעבר דונלד טראמפ, העיתונאי ומייסד Bellingcat אליוט היגינס החליט להיות יצירתי. באמצעות מחולל תמונות AI Midjourney, היגינס יצר תמונות של טראמפ מתנגד באלימות למעצר, בורח ממשטרת ניו יורק ועושה פעילויות שונות בכלא כשהוא לובש סרבל כתום.

ייתכן שהציוץ נמחק

במציאות, טראמפ הסגיר את עצמו לרשויות אכיפת החוק ב-20 באפריל, והורשה לוותר על צילום כוס על ידי משרד התובע המחוזי במנהטן. אז אלה שקיוו לראות גרסה אמיתית של פנטזיית הבינה המלאכותית, כנראה התאכזבו מהמציאות הלא דרמטית של המשפט.

2. 'אפיפיור בלנסיאגה' שהיה טוב מכדי להיות אמיתי

כשתמונה של האפיפיור פרנציסקוס לובש ז'קט לבן ענק הפכה לוויראלית במרץ, האינטרנט שמח לראות את השדרוג המטופש של האפיפיור. למרבה הצער, זה היה מזויף. דמותו של האפיפיור בפחזנית בסגנון בלנסיאגה הייתהנוצרעל ידי פועל בניין בן 31 המשתמש ב-Midjourney.

ייתכן שהציוץ נמחק

אבל התמונה הייתה מציאותית מספיק כדי לרמות אנשים רבים, כולל כריסי טייגןצייץ בטוויטר, "חשבתי שמעיל הנפוח של האפיפיור אמיתי ולא הקדשתי לזה מחשבה שניה. אין סיכוי שאני שורד את עתיד הטכנולוגיה". אנחנו שומעים אותך, כריסי.

3. הארי פוטר משרת את המציאות של בלנסיאגה (לא).

ככל הנראה, AI גנרטיבי ו-Balenciaga הולכים יד ביד, מכיוון שבית האופנה קיבל התייחסות פעמיים באותו חודש. אבל הפעם, מידג'ורני העניק לדמויות הארי פוטר את הטיפול בבלנסיאגה. "אתה בלנסיאגה, הארי," אומר האגריד מעשן להארי פוטר עם לחיים שקועות וזיבוב עצבני על מוזיקת ​​טראנס אפלה.

ייתכן שהציוץ נמחק

בסרטון כל הדמויות הראשיות מקבלות yassified בצורה כלשהי, עם עצמות לחיים חדות כתער ומראה קמל שמזכיר קמפיין אופנה שלוקח את עצמו יותר מדי ברצינות. הסרטון ביוטיוב, שנעשה על ידי Demonflyingfox, נקרא "הארי פוטר מאת בלנסיאגה", כך שהוא מעולם לא נועד להטעות אנשים לחשוב שהוא אמיתי. אבל הדרך שבה הוא משיג את הטון, האסתטיקה והעיבוד של דמויות הארי פוטר כדוגמניות של בלנסיאגה היא דוגמה בולטת למה שכלים כמו Midjourney יכולים להשיג.

4. שיתוף הפעולה של Weeknd ודרייק שמעולם לא קרה

באפריל, 2023, The Weeknd ודרייק הוציאו סינגל אש בשם "Heart on My Sleeve".אלא שהם לא עשו זאת. זה נוצר על ידי יוצר אנונימי בשם Ghostwriter. השיר הפך ויראלי, לא בגלל כמה שהוא קליט (והוא קליט), אלא בגלל בעיות זכויות היוצרים המבולגנות שה-AI הגנרטיבי מציב לתעשיית המוזיקה.

למרות שלא ברור באיזו טכנולוגיה נעשה שימוש כדי ליצור את השיר, קל להדהים ליצור זיוף אודיו עמוק. ישנם כלים רבים שמשתמשים בטקסט לדיבור או בקליפ אודיו קיים כדי לשכפל את הקול של מישהו ולגרום לו לומר מה שאתה רוצה.

השיר הוסר בסופו של דבר מיוטיוב, ספוטיפיי, אפל מיוזיק ושירותי סטרימינג אחרים בשל הפרת זכויות יוצרים. בהצהרה לבילבורד, חברת התקליטים של The Weeknd ודרייק, יוניברסל מיוזיק גרופ, אמרה:

ההכשרה של AI יצירתי תוך שימוש במוזיקה של האמנים שלנו (המייצגת הן הפרה של ההסכמים שלנו והן הפרה של חוק זכויות היוצרים), כמו גם הזמינות של תוכן מפר שנוצר באמצעות AI יצירתי ב-DSP, מעלה את השאלה באיזה צד של ההיסטוריה כל בעלי העניין באקוסיסטם המוזיקה רוצים להיות ב: הצד של אמנים, מעריצים וביטוי יצירתי אנושי, או בצד של זיופים עמוקים, הונאה והכחשת אמנים את הפיצוי המגיע להם.

5. הפיצוץ במתיחה של הפנטגון

בניגוד לאפיפיור בלנסיאגה שהיה די לא מזיק, התמונה מזויפת של פיצוץ בפנטגוןמראה עד כמה AI מחולל יכול להיות מסוכן בידיים מרושעות. בחודש מאי, תמונה של אש וענני עשן מתנפחים מפיצוץ לכאורה ליד הפנטגון הופצה ברחבי טוויטר.

ייתכן שהציוץ נמחק

התמונה הופרכה במהירות כזיוף עמוק על ידי רשויות אכיפת החוק המקומיות. אבל לתמונה המזויפת היו השלכות של ממש, וגרמו לטבילה קצרה בבורסה. בהתבסס על הגידור המטושטש בחזית הבניין וגדלים לא אחידים של עמודים היה די ברור שהתמונה נוצרה בינה מלאכותית או שעברה מניפולציה דיגיטלית. אבל ככל שה-AI הגנרטיבי מתקדם יותר, יהיה קשה יותר לזהות זיופים עמוקים.