ל-X, פלטפורמת המדיה החברתית בבעלות אילון מאסק, שנודעה בעבר בשם טוויטר, יש אבעיה משמעותית בחשבון מזויף. ריבוי הבוטים ברשת החברתית זכה להכרה על ידי מאסק עצמו, שכן הוא ציין זאת כסיבה העיקרית שהוא במקורניסה לסגתשל רכישת החברה.

ומחקר חדשמהמצפה במדיה החברתית באוניברסיטת אינדיאנה, בלומינגטון מצייר תמונה טובה של רשת בוטים מדויקת כזו שנפרסה ב-X. פרופסור פיליפו מנצ'ר יחד עם הסטודנט קאי-צ'נג יאנג פרסמו לאחרונה מחקר הנוגע לרשת בוט המכונה Fox8, לפיחוטישדיווח לראשונה על המחקר.

החוקרים גילו רשת של לפחות 1,140 חשבונות טוויטר מזויפים רק בחודש מאי האחרון, שפרסמה ללא הרף ציוצים המקשרים לשורת אתרי "חדשות" מקוונים ללא שם ספאמי, שפשוט יפרסמו מחדש תוכן שנגרד מרשתות לגיטימיות.

הרוב המכריע של הפוסטים שפורסמו על ידי רשת חשבונות בוטים זו היו קשורים למטבעות קריפטוגרפיים ולעתים קרובות כללו האשטאגים כגון #bitcoin, #crypto ו-#web3. החשבונות גם מרבים לצייץ מחדש או להשיב למשתמשי קריפטו פופולריים בטוויטר, כגון @WatcherGuru, @crypto ו-@ForbesCrypto.

איך רשת בוטים של יותר מאלף חשבונות פרסמה כל כך הרבה? הוא השתמש ב-AI, במקרה זה, במיוחדChatGPTכדי להפוך בדיוק את מה שפורסם. נראה כי מטרת הפוסטים שנוצרו על ידי בינה מלאכותית הייתה לשלוח ספאם בטוויטר עם כמה שיותר קישורי קריפטו, על מנת להופיע בפני כמה שיותר משתמשים לגיטימיים בתקווה שהם ילחצו על כתובות האתרים.

לפי Wired, X החשבונות הושעו בסופו של דבר על ידי X לאחר פרסום המחקר ביולי. מנצ'ר אומר שקבוצת המחקר שלו הייתה מיידעת את טוויטר בעבר על רשתות בוטים כאלה, אך הפסיקה לעשות זאת לאחר רכישתו של מאסק מכיוון שגילתה שהחברה "לא ממש מגיבה" יותר.

בעוד שכלי בינה מלאכותית כמו ChatGPT עזרו לבעל רשת הבוטים לשאוב תוכן עבור אלפי חשבונות, זה גם בסופו של דבר היה הנפילה שלו.

לפי המחקר שפורסם, החוקרים הבחינו בדפוס בסופו של דבר עם החשבונות האלה: הם היו מפרסמים ציוצים שמתחילים בביטוי "כמודל שפת בינה מלאכותית". משתמשי ChatGPT יכירו את הביטוי הזה מכיוון שעוזרת הבינה המלאכותית מספקת זאת לעתים קרובות כתוספת לכל פלט שהוא מספק שהוא מחליט שיכולות להיות בעיות פוטנציאליות בגלל זה, ובכן, פשוט היותו מודל שפת בינה מלאכותית.

החוקרים ציינו שאלמלא הטעות ה"מרושלת" הזו, פוטנציאל הבוטנט היה יכול להמשיך הלאה.