פייסבוק כבר מזמן ערה לשמור על עדכון החדשות שלך נקי מתוכן "לא הולם". זה פשוט יחסית כשאתה מדבר על חומר שניתן לסקור במלואו לאחר פרסום - אבל מה קורה אם משהו משתבש במהלך שידור חי?

על פי הדיווחים, פועלת יוזמה חדשה לבניית מערכת הסימון של הרשת החברתית לתכנים פוגעניים בתחום קשה במיוחד: Facebook Live.

פייסבוק הסתמכה בעבר באופן חלקי עלמערכתשהייתה תלויה במשתמשים לדווח על חומרים פוגעניים, שנבדקים לאחר מכן על ידי עובדי פייסבוק מול "סטנדרטים קהילתיים".

אבל בשולחן עגול שנערך לאחרונה במטה פייסבוק במנלו פארק, חואקין קנדלה, מנהל למידת מכונה יישומית של החברה, אמר לכתבים שהם בודקים בינה מלאכותית שיכולה לזהות תוכן פוגעני.

פרוטוקול הסימון החדש הוא "אלגוריתם שמזהה עירום, אלימות או כל אחד מהדברים שאינם בהתאם למדיניות שלנו", אמר קנדלה, לפירויטרס.

אלגוריתם כזה נבדקעוד בחודש יונילהקרין סרטונים שפורסמו לתמיכה בקבוצות קיצוניות - אך בהמשך זה יוחל על שידורי פייסבוק חיים כדי להרחיק אירועים אלימים וארוטיקה חובבנית מהרשת.

לדברי קנדלה, מערכת הבינה המלאכותית עדיין בטיפול, והיא ככל הנראה תפעל כהתראה, ולא כחבר מושבעים, שופט ומוציא להורג של זרמים מפורשים.

"אתה צריך לתעדף דברים בצורה הנכונה כדי שבן אדם [אשר] מסתכל על זה, מומחה שמבין את המדיניות שלנו, [יוריד] את זה גם", אמר.

אבל מה זה "לא הולם", בדיוק?

עד כמה שמערכת סימון בינה מלאכותית עשויה להיות מועילה, עדיין יש שאלות מרכזיות לגבי מה צריך ומה לא צריך להיחשב "לא הולם". פייסבוקעלתה באשבספטמבר לאחר שהסיר תמונה מפורסמת ממלחמת וייטנאם - וזה היה תחת השיטה הישנה, ​​עם מנחה אנושי שקיבל את ההחלטה.

יאן לקון, מנהל מחקר בינה מלאכותית של פייסבוק, סירב לתת לרויטרס הערה ספציפית על הסיפור שלהם, אך התייחס לצנזורה במונחים רחבים יותר. הוא מודע לעמדה הקלושה שסוג זה של מערכת מציגה.

"אלה שאלות שחורגות הרבה מעבר לשאלה האם אנחנו יכולים לפתח בינה מלאכותית", אמר. "הפרשים שאני לא במצב טוב לקבוע."

ל"החלפות" האלה עשויות להיות מחיר אמיתי. שידורים קשים וחשובים שאחרת עלולים להיות מסומנים - כמו הסטרימינג שלמפגשים אלימים עם גורמי אכיפת החוקאו התוצאות של איְרִי- יש להתייחס לשיקול דעת זהיר.

אם מכונה נמצאת בפקדים ללא תועלת של חשיבה והקשר אנושי, רמות חשובות של ניואנסים עלולות ללכת לאיבוד. לפי הדיווחים, המרכיב האנושי של המשוואה עדיין יהיה במשחק כדי לקבל את ההחלטה הסופית, אבל גם אנשים לא מושלמים. בקביעת ההנחיות למה שנחשב מתאים לשידורי פייסבוק חיים, מקבלי ההחלטות צריכים לשמור על נושאים אלה בחזית המדיניות שלהם.

זכור, מערכת סימון AI זו נבדקת רק לעת עתה - היא עדיין לא בשימוש בפייסבוק שאתה גולש דרכו מדי יום. ובכל זאת, אין ספק שזה - או משהו דומה לזה - יגיע בקרוב, לאחר שהחברה קבעה שניתן לסמוך על AI עם התוכן הרגיש ביותר שלנו.