אלכס כרום יכול בקלות לדקלם את הנפוץ ביותרהשמצות סקסיסטיות, גזעניות והומופוביות. היא מודעת לכמה מהשפה הכי שנאה ששמעת אי פעם. ובמשך כשנה היא קראה אותו שוב ושוב, כל יום.

Chrum, 25, הפכה שוטפת ברשעות כזו הודות לתפקידה בהנחיית פרשנות מקוונת וטרולינג. בתור מומחה תוכן של Debate.org, אתר שמזמין משתמשים לדון בנושאים שנויים במחלוקת, Chrum נאלץ להשתכשך לתוך הבושה האפלה, לפעמים הרעילה, של הערות באינטרנט. בכל יום היא סיננה בין 50 ל-200 פוסטים מפוקפקים, בניסיון להחליט מה לפרסם ומה לתת להירקב.

"זה היה בכנות הדבר הכי מתיש רגשית שעשיתי כאן ב[עבודה]", אמר כרום ל-Mashable.

כשהיא יושבת ליד שולחנה בסוונסי, אילינוי, היא החליפה בין התענגות ותיעוב מתפקידה. רבים מהדיונים באתר כללו שיחות תוססות וחיוביות על נושאים פוליטיים וחברתיים חשובים, ו-Chrum שגשג בעידוד דיונים. עם זאת, בתור מנחה, היא צפתה בזמן אמת בכמה שבנו את הטיעונים שלהם סביב השמצות, תוך פתיחת התקפות אד-הומינם המבוססות על מגדר, גזע ומיניות.

כרום, שהתמחה בספרות אנגלית והשתמחה בלימודי מגדר, זרחה מדי פעם מתסכול. החיים לפני קבלת העבודה כמנחה תגובות היו כמו בועה; היא לא ידעה שאנשים רבים עדיין מאמינים שהשטן ברא הומוסקסואלים ושאלוהים ברא נשים לשרת גברים. עם זאת, כרום לא יכול היה פשוט להכיר במציאות הזו. במקום זאת, עבודתה דרשה חשיבה מעמיקה על כל רעיון פוגעני, כל מילה גסה ואפילו האיומים המצועפים.

רובנו לא רואים את הגרסה הזו של האינטרנט. אלא אם כן אתה מטרה למתקפה של מה שנקראטרולים, הימנעות מהדרכים של המדיה החברתית היא די פשוטה. אתה מתרחק משרשור שהופך למגעיל, מבטל את המעקב אחר חבר שאומר משהו מגונה, או נמנע מאתרים הידועים לשמצה בגישת שר הזבובים שלהם לאינטראקציות חברתיות. אנשים כמו Chrum הם הפער בין משתמשים תמימים לבין מחפשי ריגושים שרוצים לבדוק את גבולות הגינות הרווחת. אבל הניסיון להגן על כולנו באינטרנט יכול להיות הקרבה אישית - כזו שמנקזת את המוח והרוח.

"זה בהחלט מכביד על אדם בודד לעשות משהו כזה כל היום, כל יום", אמר כרום. "זה לא אפשרי."

הדילמה פוקדת את אתרי המדיה החברתית בכל הגדלים. לאחרונה נראה שלא עובר אפילו שבוע ללא אירוע מתוקשר בו משתמשים אנונימיים מטרידים מישהו ללא רחמים בפלטפורמה חברתית.

באוגוסט, למשל, זלדה וויליאמס, בתו של המנוחרובין וויליאמס,נָטוּשׁ לְצַפְצֵףואינסטגרםלאחר שלפי הדיווחים משתמשים שלחו לה תמונות בפוטושופ של גופתו של אביה.

אני מצטער. הייתי צריך להתעלות. מוחק את זה מהמכשירים שלי במשך זמן רב, אולי לנצח. הזמן יגיד. להתראות.- זלדה וויליאמס (@zeldawilliams)13 באוגוסט 2014

רק כמה שבועות לאחר מכן, אניטה סרקזיאן, מייסדת סדרת רשת המנתחת את ייצוג הנשים במשחקי וידאו, שוב אוימה באונס וברצח לאחר שידור הפרק האחרון שלה. עם זאת, הפעם, ככל הנראה, תוקף מקוון גילה את מיקומו של ביתה, מה שגרם לסרקזיאן לערב את הרשויות.

כמה איומים מאוד מפחידים הושמעו עליי ועל משפחתי. צור קשר עם הרשויות עכשיו.— תדר פמיניסטי (@femfreq)27 באוגוסט 2014

על איזבל, הגאוקרבאתר המוקדש לחדשות נשים, משתמשים אנונימיים זרעו ללא הפוגה את ההערות עם תמונות של פורנוגרפיה אלימה. הבעיה של חודשיםנפתר רק לאחרונה.

אנחנו לא יודעים הרבה על החיים הפנימייםמאלה שמטפלים באינטרנט. אנחנו לוקחים כמובן מאליו שהם מנסים להגן עלינו מהתוכן הגרוע ביותר, אבל לעתים רחוקות אנחנו תוהים בקול איך זה עשוי להשפיע על האושר והבריאות הנפשית שלהם.

תפקידם בוויסות האינטרנט אינו מוערך במידה רבה. מנחים הם רק חלק קטן מהאינרציה שמניעה את האינטרנט, והתשתית שבנינו כדי להפוך קהילות מקוונות לבטוחות היא, במקרה הטוב, אלתור מבטיח, ובמקרה הרע, שבורה באופן מביך. ההתקפות שהושקו נגד וויליאמס, סרקזיאן ואיזבל בטווח של כמה שבועות מבהירות זאת.

ולמרות שאנחנו יודעים שהבעיה של תוקפנות מקוונת וטרולינג היא מסיבית, אנחנו פשוט עדיין לא מבינים את ההשפעות הפסיכולוגיות של איך זה להילחם במתקפה.

אליזבת אנגלנדר, פרופסור לפסיכולוגיה באוניברסיטת ברידג'ווטר סטייט המתמקדת בבריונות ברשת במחקרה, אמרה שזה בגלל שעדיין לא למדנו ספציפית מה זה למתן התנהגות פוגענית ודיבור באינטרנט.

השוואה שימושית, היא אמרה, עשויה להיות לחשוב על מנחים כעל המקבילה הדיגיטלית של שוטר או אחות חדר מיון. מנחים אינם עדים לאותן סצנות קרביות של חיים ומוות, אבל אופי עבודתם חושף אותם להיבטים של החוויה האנושית שרובנו מנסים להימנע מהם.

באינטרנט, זה יכול לכלול זיהוי פורנוגרפיית ילדים או סקירת אונס או איומי מוות. עם הזמן, הוסיפה אנגלנדר, רוב אנשי המקצוע מוצאים דרך לפרק את חייהם לחתיכות, להפריד את עצמם מהטראומה שהם רואים, ואולי אפילו להפוך לחוסר רגישות אליה.

אבל יש גם מחקר רב שמתאר מה קורה כשמגיבים ראשונים חווים עוגמת נפש וכיצד לטפל בהם. אין הנחיות כאלה למנחים ואין סטנדרטים קבועים למי צריך להתיר לקחת על עצמו אחריות זו, או איזה סוג של הכשרה נדרש לעשות זאת.

למרות שהסיפורים שלהם נשמעים רק לעתים רחוקות, יש מעמד של עובדי טכנולוגיה שחייהם מושפעים ישירות מהשאלות הללו ללא מענה.פייסבוק, למשל, מקבל מדי שבוע כמיליון דיווחים על תוכן פוגעני. אנשי צוות במנלו פארק, קליפורניה, לונדון והיידרבאד, הודו חוקרים את הטענות הללו 24 שעות ביממה. באינסטגרם, משתמשים מעלים בממוצע 60 מיליון תמונות ביום, והחברה מעסיקה מנהלים כדי להבטיח שהשירות לא ישמש כדי "להכפיש, לעקוב, להציק, להתעלל, להטריד [או] לאיים" משתמשים אחרים. לטוויטר יש צוות "אמון ובטיחות" הסוקר את ההתנהגות האגרסיבית של המשתמשים.

בְּReddit, שבו מנהלים מתנדבים לפקח על הקהילות הרבות של האתר, הפיכתו למטרה להטרדה אינה נדירה. לאחרונהפְּתִילעל הנושא הניב עשרות תגובות ממנחים שמקבלים באופן קבוע דואר שנאה ואיומי מוות. כמה מנחים נהנו לקחת טרולים, אבל הקבוצה גם יצרה משלהשרשור פרטיכ"תרפיה [subreddit]" על מנת לשתף את הסיפורים שלהם.

ב-Debate.org, הרעיון להוסיף מדור דעהשבו המשתמשים יכלו לדון בקלות בדעותיהם, בניגוד לעיסוק בהתלבטות רשמית, היה בגדר ניסוי. Chrum, מנהל הקהילה של האתר באותה תקופה, קיבל הכשרה בסיסית בלבד לאכיפת קוד התנהגות, האוסר על סוגי התנהגות מסוימים: אין הטרדה או מעקב; ללא לשון הרע או קללות; אין התקפות אישיות נגד חברים אחרים; אין השמצות גזעיות, מיניות או דתיות; וללא איומים באלימות - בוטים או משתמעים.

[הערת העורך: אלו הן הערות אמיתיות ש-Chrum נאלץ לבדוק. הצביעו ואז גלול לתחתית המאמר כדי לראות אם קיבלת את אותה החלטה כמוה.]

ככל שחלק הדעות גדל, הערות הציפו את אחד משני מסכי המחשב של Chrum. היא הייתה שמה את האוזניות שלה, מנגנת לד זפלין או ליל וויין בהתאם למצב הרוח שלה, וצוללת פנימה.

היא יכלה לדחות כמה תגובות במהירות באמצעות קוד ההתנהגות של האתר, אבל אחרות היו על גבול קלוש בין פרשנות פרובוקטיבית לפוגענית. אם משתמש, למשל, מצהיר שהעולם יהיה מקום טוב יותר בלי הומוסקסואלים, האם זה נחשב כאיום אלים או השמצה, או שזו רק פרספקטיבה מוסרית? אם מישהו שואל האם זה אי פעם מקובל שגבר ירביץ אישה, ומשתמש עונה שאולי האישה ראויה לכך, האם זה ייחשב מתאים ל"שיחה אינטלקטואלית ומעוררת מחשבה" שהאתר אומר שהוא מעריך?

תהליך פירוש כוונתו של משתמש השחית את Chrum. בעודה מנסה לשרטט את נפשו של אדם זר, כרום הייתה מעיפה מבט מדי פעם על יצירת אמנות שהודבקה על צג המחשב שלה. על הכרטיס הקטן, המעוטר בצבעים המרגיעים האהובים עליה, סגול וירוק, נכתב: "הישאר רגוע ותהיה נחמד לאנשים".

הסלוגן הפך למנטרה של Chrum, אבל היה קשה לעקוב לפעמים. היא נאלצה לנהוג באיפוק, לא משנה כמה היא רצתה להתעמת עם משתמש בגלל הערות שנאה. ההשפעה המצטברת של התבוננות בהערות הייתה כמו ליקוי חמה, והטילה צל על ימיה.

"רוב הדברים [באתר] חיוביים", אמרה. "אני רואה את השלילי יותר כי אני צריך לעשות באופן אישי את החלטות השיפוט. הייתי הולך הביתה בסוף היום, ימים רבים, והייתי במצב רוח מדוכא".

ההערות הטרידו אותה במהלך היום ואז כילו אותה בבית. היא עבדה ימים ארוכים ואף בדקה את האתר במהלך סוף השבוע. לפעמים היא עשתה מדיטציה, מנסה לא לחשוב על ההערות בכלל. בעבודה, היא הייתה פונה לכמה עמיתים לעבודה בכעס לאחר שקראה הערה אכזרית במיוחד.

"אנחנו יכולים לחלוק את האומללות הזו ביחד", היא אמרה. "הם נותנים לי את הביטחון שלפעמים אנשים אומרים דברים באינטרנט שהם לעולם לא היו אומרים לאף אחד באופן אישי".

ונראה שזה עיקר הבעיה הזו: אמנם לא היינו סובלים חילופי דברים כאלה במקום העבודה או בשולחן ארוחת הצהריים בבית הספר, אבל יש נציגות רועשת ובלתי מעורערת שמגדירה את ההתפרצויות השפלות יותר של האינטרנט כצורת דיבור שצריך להיות מוגן.

וויטני פיליפס, מרצה לתקשורת באוניברסיטת הומבולדט סטייט ומומחית לתרבות דיגיטלית, לא מסכימה. על ידי הגנה חד משמעית על הטרדה, היא אמרה, שיכולה להשתיק מיד את קולם של אלה שממוקדים, שלעתים קרובות שייכים לנשים ולקבוצות אחרות שנמצאות בשוליים ארוכות.

"לצד של מי אתה לוקח?" שאל פיליפס. "אתה לוקח את הצד של התוקפן? או ליישר קו עם אנשים שיכולים לתרום לקהילה בצורה פרודוקטיבית יותר?"

כשכרום שקלה גרסאות של שאלות קשות אלה, היא גם נשארה מודעת לכך שלדעותיה האישיות יש פוטנציאל להשפיע בעדינות על קבלת ההחלטות שלה. היא מתארת ​​את עצמה כאנטי גזענית, פמיניסטית ותומכת קולנית בקהילות הלסביות, ההומואים, הטרנסג'נדרים והקווירים.

"מה שפוגע בי לא בהכרח יפגע במישהו אחר", אמרה. מצד שני, היא דאגה שמשתמשים עלולים לקרוא הערה פוגענית גבולית על נשים או הומוסקסואליות או גזע ולהיות מונעים לפגוע בעצמם - או במישהו אחר.

כשהיא בעיצומה של צליפת שוט הפילוסופית והאתית הזו, היא פנתה שוב ושוב לרעיון שההערות צריכות לקדם איכשהו דיון "משמעותי ומתחשב". "כמה מהאנשים האלה בעצם מנסים לטרול ולמשוך תשומת לב ולעצבן אנשים?" היא תשאל את עצמה. "אם אתה לא מביא שום דבר לגיטימי לשולחן, כנראה שהתוכן שלך לא יעבור את קוד ההתנהגות שלנו ולא יפורסם".

כרום מעריכה שהיא דחתה 50% מהתגובות בנימוקים אלו, ובשל הפרה מפורשת של הנחיות האתר.

העומס הרגשי והנפשי של קבלת החלטות אלוהיה נמשך אלמלא היה שינוי מהותי בתפקידו של Chrum באתר.

בשנה שעברה, אימץ האתר מודל מתון שפותח על ידי החברה האחות שלו, CrowdSource.com.

CrowdSource, שלקוחותיה כוללים את אוברסטוק, קליפ וסטייפלס, ניגשת למטלה האמורפית של מתינות על ידי שימוש בעובדים בחוזה - ובאלגוריתם לניטור איכות ההחלטות שלהם. החברה שואבת ממאגר של עובדים זמינים שמקבלים הכשרה כלשהי בהנחיות לתכנים מקובלים, ולאחר מכן בודקת אותם עם תרחישים לדוגמה. הציונים שלהם נמדדים מול האופן שבו הקבלנים האמינים ביותר של CrowdSource הגיבו, והחניכים מצידם זוכים לדירוג על מהימנות השיפוט שלהם.

קבלנים מרובים עשויים לבדוק תוכן יחיד עבור לקוח, כך שההחלטה אם לפרסם אותו מתקבלת בדרך כלל על ידי האלגוריתם, ולא על ידי אדם אחד. עובדי CrowdSource יכולים גם לבטל את הסכמתם להערכת פריטים כמו פורנוגרפיה או שפה מלהיבה.

השימוש באלגוריתם מקל על העומס על המנחים תוך מתן יכולת חיזוי לחברות שעדיין מתלבטות כיצד להגן על המשתמשים שלהן מפני תוכן פוגעני.

"זה נדיר שלקוח מגיע אלינו עם קבוצה של קווים מנחים שפותחו באופן מקצועי או שיש לו אמון בהם", אמרה סטפני לפלר, מנכ"לית CrowdSource.com.

כרום בירך על המעבר. היא נתנה לקבלנים הנחיות להטרדה ואמרה להם שהוויכוחים סוערים לעתים קרובות. כרגע, Debate.org לא משתמש באלגוריתם, אלא במודל של כללי רוב, כך שכמה מנחים מעריכים פוסט ומצביעים אם יש לפרסם אותו.

כעת Chrum מבלה רק חמש עד 10 שעות שבועיות בעבודה באתר, ומשחררת אותה לעבוד על פרויקטים פחות אינטנסיביים עבור CrowdSource. "אני חוזרת הביתה בסוף היום במצב רוח הרבה יותר טוב", אמרה.

זהו רק פתרון אחד עבור אתר ומנחה בודדים.זה גם לא משקף את העבודה שעושה קבוצת הליבה של Debate.org המונה 50 עד 100 חברים מסורים כדי להסדיר את האתר באופן בלתי פורמלי, וליצור קשר עם משתמשים כשהם מתקרבים באופן מסוכן להפרת קוד ההתנהגות.

Chrum טוען שאתרים חייבים להתחיל עם הנחיות ברורות וציפיות לחברות; מי שלא מציית לכללים צריך להיות מצונזר כשצריך או לנדות כליל.

כמובן, זה הרבה יותר קשה לביצוע באתרים שבהם החברות היא גלובלית ורחבה. לטוויטר, למשל, יש 271 מיליון משתמשים פעילים חודשיים, והיא ידועה כפלטפורמה שבה מתרחשות טרולים והתנהגות אגרסיבית בתדירות מדאיגה. גם כאשר משתמשים מדווחים על התנהגות פוגענית ולאחר מכן נענשים על ידי השירות, הם יכולים בקלות לחזור במסווה שונה - בעיה שרוב האתרים החברתיים מתמודדים איתה.

למרות נפח הבעיה, חלק מהאתרים מאמצים מדיניות חדשה שמטרתה ליצור תרבות אינטרנט שונה. באוגוסט, אתר האגרגטור Fark.comהוסיף שנאת נשיםלרשימת העבירות שלה שעלולות לגרום לפוסט שנמחק. במקביל, Ask.com רכשה את אתר השאלות והתשובות הבינלאומי Ask.fm, ומיד החלה לשפץ את מדיניות ההטרדה שלה.

עבור אנשים כמו Chrum, כללים חדשים לא בהכרח אומר שהמנהלים יראו תוכן פחות נורא, וזו הסיבה שהגנה על אותם עובדים מפני נזק פוטנציאלי היא שלב הבא חיוני והגיוני.

כרום, שיודעת שהעבודה גבתה ממנה מחיר לאין שיעור, דווקא מצאה משמעות במסע המתיש שלה כמנחה.

"בסך הכל, זה שיפר אותי כאדם כי למדתי לא לקחת דברים שליליים באופן אישי כל כך", אמרה. "הייתי חוזר הביתה ומתעכב על הערה, ובכל זאת, זה מתעל את זה לאפיקים פרודוקטיביים יותר. בואו ננהל על זה שיחה משמעותית, ואז נמשיך הלאה".

ועדיין, הצמיחה הזו הייתה מציאה מרה-מתוקה.

"כשאתה רואה דברים שאתה מרגיש מאוד רגשי לגביהם, זה נשאר איתך, גם אם אתה לא מכיר את האדם", אמרה. "כשזו רק הערה חסרת פנים וחסרת אדם, וזו הערה אחר הערה אחר הערה, זה גורם לך לאבד אמון באנושות."

מפתח ניהול הערות:

התגובה ל"האם פמיניזם לא בסדר?" פורסם.

התגובה ל"האם לנשים צריך להיות זכויות?" לא פורסם.

התגובה ל"האם נישואים הומוסקסואלים צריכים להיות חוקיים בארה"ב? לא פורסם.

התגובה ל"האם ניתוח טרנסג'נדרי צריך להיות חוקי?" לא פורסם.

התגובה ל"האם גזענות מוצדקת אי פעם?" פורסם.