סיפור מזעזע הועלה ב"עמוד הראשון" או בפיד הראשי של ה-X של אילון מאסק ביום חמישי:

"איראן תוקפת את תל אביב בטילים כבדים", נכתב בכותרת.

זו בהחלט תהיה התפתחות חדשות עולמית מדאיגה. מוקדם יותר באותו שבוע, היה לישראלנערךתקיפה אווירית על שגרירות איראן בסוריה, והרגה שני גנרלים וכן קצינים נוספים. נקמה מאיראן נראתה כמו אירוע סביר.

אבל, הייתה בעיה מרכזית אחת: איראן לא תקפה את ישראל. הכותרת הייתה מזויפת.

אפילו יותר מדאיג, הכותרת המזויפת נוצרה ככל הנראה על ידי צ'אטבוט ה-AI הרשמי של X, Grok, ולאחר מכן קודמה על ידי מוצר החדשות הפופולרי של X, Explore, כבר ביום הראשון של גרסה מעודכנת של התכונה.

ייתכן שהציוץ נמחק

איך מאסק נתן לזה לקרות

כמה שנים לפני אילון מאסק רכש את הפלטפורמה שנקראה אז טוויטר, החברה פרסמה תכונה חדשה שסיפקההקשר כתובלנושאים פופולריים. הטכנולוגיה המניעה את תיאורי המגמה הכתובים? בני אדם.

בעבר כשסיפור נשבר, האלגוריתמים של טוויטר היו תופסים את מילות המפתח הרלוונטיות שמתפרסמות ומשתפים את המגמה, אבל לפעמים לא היה ברור מדוע קבוצת מילים נתונה הייתה מגמתית.

אבל, בשנת 2020, טוויטר הרכיבה צוות שלעורכים אנושייםלאצור חדשות ולהכניס טרנדים להקשר. בנוסף, הציוצים המובילים שהופיעו תחת נושא מגמתי כבר לא רק יהיו מדורגים אלגוריתמיים, אלא כוללים גם אוצרות אנושית. שנה לאחר מכן, טוויטרשותפהעם AP ו-Reuters כדי לחזק עוד יותר את המאמצים שלה לספק הקשר מאדם לנושאים מגמתיים.

זמן קצר לאחר שמאסק רכש את החברה באוקטובר 2022, נעלם ההקשר הכתוב בנושאים מגמתיים. מאסק פיטר את העורכים האנושיים של טוויטר. כפי שדיווחה רויטרס בנובמבר 2022, "צוות האוצרות של טוויטר, שהיה אחראי על 'הדגשה והקשר של האירועים והסיפורים הטובים ביותר שמתרחשים בטוויטר', הודח".

דף החקירה המעודכן החדש של X

מוקדם יותר השבוע שיתפו כמה חשבונות מעריצים של X כמו @XDailyצילומי מסךשל דף החקירה הקרוב של Xהפעלה מחדש. עמוד ה-Explore של X כולל את רשימת הנושאים המגמתיים הידועים לשמצה של הפלטפורמה יחד עם פריצות מדור ספציפיות כמו "חדשות" ו"ספורט" כדי לספק למשתמשים סיפורים מגמתיים בכל קטגוריית נושא ספציפית.

ייתכן שהציוץ נמחק

עמוד החקירה המעודכן של מאסק נראה מוכן להחזיר את ההקשר הכתוב שסופק לנושאים ולסיפורים מגמתיים.

ב-4 באפריל, X החלה להפיץ את דף ה-Explore המעודכן החדש שלה. העדכון מספק פוסטים מובילים של משתמשים על כל נושא מגמתי בנפרד, כמו גם סיכום קל לעיכול של הנושא שמעל לתוכן המשתמש. בחלק העליון של העמוד, כותרת שנוצרה על ידי X מציגה את המידע לקוראים כאילו הם עומדים לקרוא מאמר בנושא.

בנוסף, העדכון גם נותן ל-Explore מיקום חדש ובולט בפלטפורמה. הסיפורים הפופולריים של Explore מופיעים כעת משובצים ישירות בסרגל הצד הימני של דף הבית הראשי של X, שם הייתה ממוקמת בעבר רשימת הנושאים הפופולריים, אותה צופים מאות מיליוני משתמשים יומיים של X מדי יום.

עם זאת, מאסק לא החזיר את צוות האוצרות של טוויטר, וגם לא שכר עורכים אנושיים חדשים כדי לכתוב את ההקשר ש-X מספק כעת.

ההקשר נכתב על ידי צ'טבוט AI של X, Grok.

הסכנה של X תלוי ב-AI

אנחנו יודעים ש-Grok, תכונה של AI מאודמקודםעַל יְדֵימוּשָׁק, מסמיך את הסיכומים ההקשרים של X מכיוון ש-X אומר זאת בעצמו באותיות הקטנות בכל עמוד Explore.

ייתכן שהציוץ נמחק

"Grok הוא תכונה מוקדמת ויכולה לעשות טעויות", נכתב בפתק הקטנטן מ-X מתחת להקשר הכתוב בדף Explore. "אמת את התפוקות שלו."

Mashable צפה בעמוד "איראן תוקפת את תל אביב בטילים כבדים" של X שהפיץ חדשות מזויפות כפי שהיה במגמה ביום חמישי.

בהתבסס על התצפיות שלנו, נראה שהנושא התחיל למגמה בגלל עלייה פתאומית של חשבונות סימני ביקורת כחולים (משתמשים שמשלמים מנוי חודשי לתכונות X עבור פרימיום כולל תג האימות) ששלחו דואר זבל לאותו העתק והדבק מידע מוטעה על תוקפת איראן יִשְׂרָאֵל. הפוסטים שנאספו על ידי X היו מלאים בחשבונות המאומתים הללו שהפיצו את החדשות המזויפות הללו לצד סרטון לא מאומת המתאר פיצוצים.

משם, נראה שהאלגוריתמים של X הבחינו במגמת סיפור פוטנציאלית בתוך הפוסטים של משתמשים אלה, ונוצר דף סיפור חקור. אנו יכולים להסיק מהטענות של X עצמו לגבי פעולתו הפנימית שגרוק כנראה יצר אז נרטיב כתוב בעל מראה רשמי, יחד עם כותרת קליטה. היא עשתה את כל זה בהתבסס על משתמשים נבחרים ששיתפו חדשות מזויפות, בניסיון אוטומטי לספק הקשר למה שהפלטפורמה עצמה הניחה שהוא סיפור אמיתי.

זֶהלא תהיה הפעם הראשונהגרוק סיפק למשתמשים מידע מוטעה. דיווחים קודמים על הגרסאות המוקדמות של הצ'אטבוט של X מצאו שלעתים קרובות הוא יצר חדשות מזויפות בצ'אטים פרטיים עם מספר המשתמשים הנבחרים שהיו להם גישה אליו. עם זאת, התקרית האחרונה הזו בשילוב עם התכונה החדשה של Explore מציגה את הפעם הראשונה ש-X לקח את המידע השגוי של גרוק, ארז אותו כסיפור חדשותי מגמתי של ממש, וקידם אותו לכל בסיס המשתמשים שלו, לכאורה כהקשר לאירוע אמיתי.

תחת מאסק, יש דיסאינפורמציההרקיע שחקיםבפלטפורמה הידועה בשם X. הודות למוצר החדש Explore, החברה קידמה שקר, שהופץ על ידי תשלום לשחקנים גרועיםשעומדים להרוויח כסףבתמורה ליצירת התקשרויות.

יום אחדלאחר ש-Grok יצר את הסיפור המזויף הזה ש-X קידם אז דרך דף ה-Explore שלה, החברהמְגוּלגָלפנה לכל משתמשי ה-X הרשומים ב-Premium כדי שיוכלו להשתמש גם בצ'טבוט של AI שיוצר מידע שגוי.

ייתכן שהציוץ נמחק