לפייסבוק יש בעיית טרור, והיא נשבעה לתקן אותה. ביום חמישי, ענקית המדיה החברתיתהכריזתוכניות חדשות להשתמש בבינה מלאכותית כדי לגרד מילים, תמונות ווידאו כדי למחוק לחלוטין את תעמולת הטרור מהרשת שלה.

המלכוד היחיד? זה עדיין דורש צוות של 150 מומחי סיכול טרור, כמו גם הרבה אנשים אחרים כדי להילחם בקיצוניות בפלטפורמה. אנחנו יכולים רק לקוות שכלי הבינה המלאכותית החדש הזה הוא מתוחכם כמו שפייסבוק טוענת שהוא.

"אנו ממקדים כעת את הטכניקות החדישות ביותר שלנו כדי להילחם בתוכן טרור על דאעש, אל-קאעידה ושלוחותיהם, ואנו מצפים להתרחב לארגוני טרור אחרים בבוא העת", אמרה פייסבוק.הַצהָרָהלגבי העדכון.

ההודעה מגיעה בעקבותלחץ גוברממשלות ואנשים שנפגעו מטרור כדי לגרום לפייסבוק להסיר חומרים כגון תעמולת טרור או תוכן אחר שנוצר על ידי משתמשים שעלול לעורר אלימות.

בהצהרה של יום חמישי, פייסבוק אמרה שהיא הקימה צוות של יותר מ-150 אנשים "בלעדי או בעיקר" המתמקד במאבק בטרור כאחריותם המרכזית. הקבוצה כוללת מומחי סיכול טרור, תובעים לשעבר, רשויות אכיפת חוק לשעבר ומהנדסים.

חברת המדיה החברתית תעבוד גם עם שותפים שונים כמו המכון לדיאלוג אסטרטגי ו-Affinis Labs כדי "לדחוף לאחור נגד קיצוניות ושנאה באינטרנט", על פי ההצהרה.

הדיון הציבורי של פייסבוק במאמצי הסיכול שלה בטרור הוא הראשון בסדרה חדשה של מאמצים של החברה להביא יותר שקיפות ודיון לשלל הבעיות שפייסבוק יצרה או תרמה להן.

המכונה "שאלות קשות", היא נועדה לדחוף את החברה קדימה בנושאים ובמקביל לבקש משוב נוסף מהציבור. פייסבוק גם הודיעה שיצרה כתובת דוא"ל חדשה לגמרי -[מוגן באימייל]- היכן תוכל לשלוח משוב או הצעות לבעיות בהן צריך לטפל. אז תן להם לדעת את המחשבות שלך!

פייסבוק נותרה קצרת שפתיים לגבי איך בדיוק עובדת רוב הטכנולוגיה הבסיסית שלה, אבל החברה עשתה צעד גדול קדימה בשיתוף פרטים סביב טכנולוגיית התאמת התמונות שלה.

טביעת אצבע של וידאו הנקראת "hashes" משמשות כדי לעזור לאלגוריתמים של פייסבוק למצוא ובסופו של דבר לסיים סרטונים קיצוניים לפני שהם אי פעם יפורסמו או פורסמו לציבור.

החיסרון היחיד הוא שצורה חדשה זו של סריקת תמונות לא מונעת מאנשים להצטרף לפייסבוק, ואז להשתמש בה כדי לתקשר עם ובסופו של דבר לגייס אחרים באמצעות הודעות.

כמו כן, לא ברור עד כמה המערכת החדשה מבינה את ההקשר של התמונות הללו. לדוגמה, תמונה של דגל דאעש יכולה לשמש בתעמולה הן בעד ונגד ארגון הטרור - דוגמה שפייסבוק ציינה נותרה אתגר.

סיבוך נוסף הוא שפעילות הטרור עוברת לאזורים חדשים באינטרנט, כמו שירותי הודעות מוצפנות טלגרם ו-WhatsApp בבעלות פייסבוק. ישנם גם אתגרים חדשים שמציג Facebook Live, שירות הסטרימינג המאפשר לאנשים לשדר וידאו לציבור באופן מיידי בזמן אמת.

ההחלטה להכריז בפומבי על העדכון מייצגת שינוי משמעותי עבור פייסבוק בכל הקשור לשקיפות. בעבר, הרשת החברתית קיבלה החלטות עריכה כמו זו באופן פרטי. ההכרזה של יום חמישי היא ניסיון ברור להיות שקוף יותר ובהחלט צעד בכיוון הנכון — אבל ברור שפייסבוק מתמודדת עם יותר אתגרים ממה שהאלגוריתמים המפוארים שלה כנראה מסוגלים לפתור. העולם המטורף שלנו הוא בעל ניואנסים, ומכונות עדיין לא מוכנות לבצע שיחות שיפוט קשות, אפילו על פי הודאתה של פייסבוק עצמה.