TikTokהפיתיון של view קיבל דחיפה מ-AI במהלך השנה האחרונה, כולל תוכן המפיץ שקרים פוליטיים לקראת הבחירות, לפינתונים חדשיםמכלב השמירה על מידע שגוי NewsGuard.

בדו"ח חדש המפרט את השימוש בכלי AI בקרב השחקנים הרעים של TikTok, הארגון גילה לפחות 41 חשבונות TikTok המפרסמים תוכן שקרי, משופר בינה מלאכותית באנגלית ובצרפתית. בין מרץ 2023 ליוני 2024, החשבונות פרסמו 9,784 סרטונים הכוללים למעלה מ-380 מיליון צפיות, שהגיעו לממוצע של אחד עד ארבעה סרטונים עם קריינות בינה מלאכותית בכל יום. רבים מהסרטונים השתמשו בתסריטים זהים, המרמזים על מאמץ מתואם. כמה מהחשבונות גם זכו למונטיזציה בסרטונים שלהם, במסגרת קרן היוצר של TikTok.

רוב התוכן כלל סרטונים בסגנון מאמר או עובדות מהנות ששיתפו נרטיבים כוזבים על הפוליטיקה של ארה"ב ואירופה ועל מלחמת רוסיה-אוקראינה, הסביר NewsGuard, כמו הטענה השגויה שנאט"ו פרסה כוחות קרב באוקראינה ושארה"ב עומדת מאחורי מתקפת הטרור בעיריית כרכום במוסקבה.

המחקר נערך בשיתוף עם כלי זיהוי בינה מלאכותית TrueMedia.org.

בשנה שעברה, NewsGuard תיעד את עלייתה של רשת קטנה של חשבונות TikTok המשתמשיםכלי טקסט לדיבור מבוססי AIלהפיץ תיאוריות קונספירציה של סלבריטאים. סרטוני הווידאו הקצרים השתמשו בבינה מלאכותית כדי ליצור באופן מיידי קריינות וקולות נוספים על פני מסה של סרטונים המשתפים מידע שקרי. בסך הכל, החשבונות זכו ל-336 מיליון צפיות ו-14.5 מיליון לייקים בטווח של שלושה חודשים.

הדו"ח האחרון מראה עלייה משמעותית בתוכן דומה ב-AI באפליקציה, הפעם עם מניעים פוליטיים. המגמה מרמזת על חוות תוכן בינה מלאכותית המתמרצת וצומחת באפליקציה - המוגדרת על ידי הארגון כ"ישויות שמייצרות כמויות גדולות של תוכן באיכות נמוכה, בדרך כלל כדי למשוך צפיות והכנסות ממודעות".

התפשטות המידע השגוי והדיסאינפורמציה המופעל על ידי AI לא נעלמה מעיניהם של TikTok, כאשר הפלטפורמה מתחייבת להיות יעילה יותרמַדבֵּקָהואפילוסימן מיםתוכן באמצעות AI גנרטיבי. אבל מידע מוטעה פוליטי, מגובה ביעילות של תכונות בינה מלאכותית, ישהמשיך להתרבות.

בינתיים, ב-9 ביולי הודיע ​​משרד המשפטים שכןזוהה והורידה חוות בוטים רוסית המונעת בינה מלאכותיתמפעילים לפחות 1,000 חשבונות פרו-קרמלין ב-X (לשעבר טוויטר) ובגיבוי היורש הקג"ב של רוסיה. כמה חודשים לפני כן, OpenAI הודיעה שכןחשבונות בוטלו של שחקנים מאושרים של מדינה זרהמנסה להשתמש בטכנולוגיית AI שלה כדי לתמוך בהתקפות סייבר פוטנציאליות.

ארה"ב עצמה רתמה את טכנולוגיית הבינה המלאכותית וחוות הבוטים כדי להפיץ נרטיבים נגדיים משלה ואפילו מסעות פרסום של דיסאינפורמציה מוחלטים, כולליוזמת 2020 לבלימת השפעה זרהעל ידי הפצת מידע מוטעה על COVID-19.

ככל שהבחירות מתקרבות (ושיעור ההצבעה ואמון המועמדים עומדים בסימן שאלה), כלבי שמירה ותומכים ממשיכים לפקח גם על דיסאינפורמציה ממוקדת וגם מידע מוטעה מוגבר בינה מלאכותית המופצת בפלטפורמות המדיה החברתית.