הסדרה של Mashableאלגוריתמיםחוקר את שורות הקוד המסתוריות ששולטות יותר ויותר בחיינו - ובעתידנו.

האלגוריתם של TikTok הוא כמעטגַםטוב בהצעת תוכן שניתן לקשר - עד כדי מזיק לבריאות הנפשית של חלק מהמשתמשים.

זה כמעט בלתי אפשרי להימנע מהפעלת תוכן ב-TikTok, ובגלל אופיו של עמוד For You הבלתי נגמר של האפליקציה, משתמשים יכולים בסופו של דבר לכודים לגלול דרך תוכן מוצע שנאסף עבור הטריגרים הספציפיים שלהם.

סרטונים המפארים אכילה מופרעת, למשל, משגשגים ב-TikTok. לתג #flatstomach יש 44.2 מיליון צפיות. לתגיות #proana ו-#thinsp0, קיצור של פרו-אנורקסיה והשראה רזה, יש 2.1 מיליון צפיות ו-446,000 צפיות, בהתאמה. כפי שכתבה העורכת הבכירה רייצ'ל שרלין לואיסכַּלבָּה, תרבות פרו-אנה והאינטרנט שלובים זה בזה זמן רב לפני החשיפה של TikTok בכל מקום בטלפונים של בני נוער. במהלך הימים הראשונים של המדיה החברתית, צעירים השתמשו בפורומים ובלוחות הודעות כדי לעקוב אחר הירידה במשקל שלהם ולהחליף עצות דיאטה. בתחילת שנות ה-2010, פרחו בטאמבלר בלוגים של הפרעות אכילה המפארים עצמות בריח חדות וכלובי צלעות. לאחרונה השתמשה בקהילת חשבונות הטוויטר בנושא הפרעות אכילהממיםכדי לעודד חברים להתמיד במשטרי הארוחות המגבילים שלהם.

אמנם ניתן היה להיתקל בחלקים של קהילת ED (הפרעות אכילה) בפלטפורמות אחרות, סביר יותר שמשתמשים ימצאו אותה על ידי חיפוש מכוון של הקהילה הזו. אבל ב-TikTok, משתמשים מוזנים בתוכן אלגוריתמי על סמך תחומי העניין שלהם. אם משתמש מתעכב על סרטון מתויג #דיאט או #covid15, ביטוי המשמש להתייחסותעלה במשקל בהסגרעם 2.1 מיליון צפיות, האפליקציה תמשיך להציע תוכן על ירידה במשקל ודיאטה. זהו מדרון חלקלק לעמוד בתור יומני מזון על קיום על תה ירוק, עוגות אורז ומאכלים דלי קלוריות אחרים הפופולריים בקהילת האכילה הפרועה.

דיוויד פולגאר, אתיקאי טכני שיושב במועצה המייעצת לתוכן של TikTok, משווה את דף For You של TikTok לצינור המחובר למקור מים גדול. במקום להציף את המשתמש בתוכן שהוא עשוי או לא ייהנה ממנו, TikTok משתמש באלגוריתם כדי לשלוט טוב יותר ב"זרימת" המים דרך הצינור.

"זה מעלה שאלות עדינות מאוד סביב לוודא שזה לא מחזק סוג כלשהו של בועת סינון תא הד, כך שהיא לא מובילה אף אחד אל חורי ארנב", אמר פולגאר בשיחת טלפון. יוטיוב, ציין, קיבלתגובה תגובה משמעותיתבשנה שעברה על שהציע סרטוני קונספירציה ימניים קיצוניים יותר ויותר המבוססים על היסטוריית הצפייה של המשתמשים.

הירידה שלי ל-ED TikTok התחילה, למרבה האירוניה, בסרטונים המבקרים יוצר פופולרי על חוסר רגישות להתאוששות מהפרעות אכילה. אדיסון ריי איסטרלינג, רקדנית TikTok בת 19 עם 56 מיליון עוקבים, נתפסה ביוני בגלללקדם את החסות שלהעם אמריקן איגל בריקוד לצלילי שיר על דיסמורפיה בגוף. לבוש בזוג ג'ינס אמא בכביסה קלה, איסטרלין רוקד לצלילי המקהלה של ביץ' באני'ס"מלכת הנשף."השירעושהכלול את הביטוי "אמא ג'ינס", אבל לפניו המילים, "שתוק, תספור את הקלוריות שלך. אף פעם לא נראיתי טוב בג'ינס של אמא."

Easterling התמודדה עם תגובה נגדית ממשתמשי TikTok אחרים, במיוחד אלה בהתאוששות ED. בדואט אחדעם הסרטון שנמחק כעת, אישה צעירה גוררת את צינור ההאכלה שלה לתוך הפריים ולגלג על הריקוד של אסטרלינג. משתמשים אחרים כתבו סרטונים עם חוויות משלהם עם הפרעות אכילה במאמץ להצביע על כמה חמורים הם יכולים להיות. אחד ניסה להצביע על חוסר רגישות של הספונסון של אסטרלינגמתארהרגלי האכילה המגבילים שלה. משתמש אחר של TikTok ניסה להדגיש עד כמה הפרעות אכילה יכולות להיות הרסניות מבחינה גרפיתמספרים מחדשאיך היא נהגה לפנטז על לחתוך את הבטן שלה.

במאמץ למתוח ביקורת על Easterling, משתמשי TikTok ניזונו ללא כוונה לעצם המנטליות שמניעה הפרעות אכילה לפרוח: תחרות. אשלי ליטווין, תזונאית מוסמכת, המתמחה בטיפול בחולים עם הפרעות אכילה, אמרה ל-Mashable כי גם בהחלמה, השוואת תסמינים יכולה להיות תחרותית. רבים הסובלים מהפרעות אכילה לא שואפים רק להיות רזים, אלא להיות ה-הכי דק. מי שמתאושש אולי אפילו רוצה להיות הכי חולה.

"אנשים עם הפרעות אכילה לפעמים לא מרגישים שהם 'כל כך גרועים' אם הם לא הכי חולים בחדר, או ברשתות החברתיות", אמר ליטווין באימייל. "זה יכול להיות מסוכן ביותר מכיוון שאנשים עם ED יעשו מאמצים רבים כדי 'לנצח' בהיותם החולים ביותר ולעתים קרובות יפגעו בגוף שלהם בצורה קיצונית כדי להגיע לשם."

קריאת איסטרלינג על ידי הדגשת הרגלים קיצוניים כמו לעיסת קרח וטיהור אחרי בולמוס מזון הוא למעשהיוֹתֵרמזיק להתאוששות ED מאשר הריקוד המקורי של Easterling היה, מכיוון שהוא יכול להניע מישהו לחקות את ההתנהגות הזו ולהישנות. כשעסקתי בתוכן בעל כוונות טובות אך מוטעות, המתאר ספירת קלוריות, פעילות גופנית קיצונית והרגלים אחרים להרס עצמי, הדף 'בשבילך' שלי התחיל להראות לי יותר תוכן על כושר ותזונה. רק כמה ימים אחרי שעשיתי לייק לסרטון שתויג #edrecovery, העמוד For You שלי הראה לי סרטון של אישה משיגה את הבטן השטוחה שלה על ידי דילוג על ארוחות לטובת לעיסת מסטיק ושתיית תה.

זה לא רק תוכן ED שמצליח לנחות בדף For You של משתמשי TikTok. סרטונים על פגיעה עצמית, התאבדות, תקיפה מינית, התעללות, בעיות נפשיות ושלל נושאים אחרים שעלולים להפעיל מסתובבים באפליקציה. בדיוק כמו בכל צורה אחרת של פלטפורמת מדיה חברתית, אי אפשר להגן על עצמך לחלוטין מלתקל בתוכן מעורר. TikTok, לעומת זאת, בנוי באופן ייחודי ללְהַמשִׁיךהצגת תוכן מעורר אם משתמשים עוסקים בו.

במאמץ להיות שקוף יותר על רקע דאגות אבטחה בגלל הבעלות הסינית של החברה, TikTokנחשףאיך האלגוריתם שלו עובד לפני כמה חודשים. כאשר משתמש מעלה סרטון, האלגוריתם מציג אותו לקבוצה קטנה של משתמשים אחרים שצפויים לעסוק בו, ללא קשר אם הם עוקבים אחר המשתמש שפרסם את הסרטון או לא. אם הקבוצה עוסקת בו, או על ידי סימון לייק, שיתוף או אפילו רק צפייה בו בשלמותו, האלגוריתם מציג את הסרטון לקבוצה גדולה יותר. אִםהֵםהגיבו בחיוב, הסרטון מוצג שוב לקבוצה גדולה יותר, ותהליך זה נמשך עד שהסרטון הופך לוויראלי.

כדי לקבוע את תחומי העניין של משתמש בודד, TikTok משתמש במגוון אינדיקטורים כגון כיתובים, צלילים והאשטאגים. אם משתמש עסק באינדיקטורים האלה, כמו צפייה בסרטון עם כיתוב עם ביטוי מסוים עד הסוף, האלגוריתם מתייחס לזה כאור ירוק להמשיך להמליץ ​​על סרטונים כמו זה.

זה פחות זדונימראה שחורהתוכנית כמו לבשר על השתלטות הרובוט ועוד פיקוח מצער בתכונה בעלת כוונות טובות. הרעיון של איסור מוחלט על תוכן שעלול להפעיל עורר ויכוח בשאלה האם לחברות פרטיות, כמו פלטפורמות מדיה חברתית, יש חובה לשמור על עקרונות חופש הביטוי. זה גם קשה להפליא למתן תוכן מסוג זה. משתמשי TikTok מצליחים לעקוף את דגלי התוכן של TikTok על ידי איות שגוי של ביטויים מסוימים. התאבדות, למשל, הופכת ל"suic1de" או בסרטונים קלילים יותר בצורה חולנית, "לא בחיים". התג #thinspo חסום, אך התג #thinsp0 לא. משתמשים לא יוכלו למצוא שום תוכן מתויג #depression, אבל ל-#depresion יש 498.8 מיליון צפיות.

סרטון קשור: כך פועלים אלגוריתמים

חלק ממשתמשי המדיה החברתית - בין אם ב-TikTok, בטוויטר או ב-YouTube - מסכימים לחוזה חברתי לא רשמי להשתמש באזהרות טריגר כאשר דנים בתוכן שעלול להיות טראומטי. אזהרות טריגר הןשנוי במחלוקת במיוחדבכיתה ומבקרים שמרנים מקשרים את המונח עם סטודנטים שלא יכולים להתמודד עם שיחות קשות. בעוד שאזהרות טריגר נועדו במקור לאפשר לניצולים עם PTSD להימנע מתוכן טראומטי, שלהםיְעִילוּתמוטל בספק. בניסוי לא רשמי, משתמשת TikTok אוהבת תמונות מקדימות שלה במשקל הנמוך ביותר שלה בזמן שהיא נאבקת באנורקסיה עם שתי אזהרות טריגר. ואז, במקום להציג תמונות, היא קראה למשתמשי TikTok אחרים.

"זה מוכיח שאזהרות טריגר לא עושות כלום", כתבה בה loveaimsוִידֵאוֹ. "אנשים יתעלמו מהם. הם לא 'מזהירים אחרים' מעצם התוכן המפעיל והלא בסדר שאנשים מפרסמים".

אז מה אתה יכול לעשות כדי להימנע מלהישאב לגלול עצמך לתוך הישנות פוטנציאלית? אנחנו לא יכולים לצפות מהיוצרים להימנע לחלוטין מהפעלת תוכן, ואנחנו לא יכולים לצפות שלכולם יהיו אותם סטנדרטים לגבי מה ש"נחשב" כתוכן שעלול להזיק.

קשה גם להימנע באופן יזום מטריגרים ב-TikTok - למרות שמשתמשים יכולים לציין שכןלא מעונייןבסרטונים מסוימים ויכולים לחסום צלילים מסוימים ומשתמשים ספציפיים, הם לא יכולים לחסום מילות מפתח. כחבר במועצת התוכן של TikTok, פולגאר רוצה לראות יותר התאמה אישית זמינה כדי שמשתמשים יוכלו לשלוט טוב יותר באיזה תוכן הם רואים.

"אם משהו פוגע באדם והם ציינו זאת, צריכה להיות יכולת טובה יותר להפחית את הסבירות שהתוכן הזה יוצג שוב, כי זו צריכה להיות ההחלטה שלו", אמר פולגאר.

יתר על כן, פלטפורמות יכולות לעשות עבודה טובה יותר בשיתוף פעולה עם ארגוני בריאות הנפש כדי לספק משאבים הקשורים לביטויים מסומנים מסומנים. בתגובה למידע מוטעה משתולל על COVID-19, למשל, TikTok הוסיפה באנר לסרטונים שתויגו במילות מפתח מסוימות שהובילה את המשתמשים למידע על איך הנגיף מתפשט וכיצד למנוע הידבקות בו. פולגר אמר שהפלטפורמה נמצאת בתהליך של עבודה עם ארגוני בריאות הנפש כדי לספק משאבי בריאות הנפש למשתמשים שלה.

"מה שהרבה פלטפורמות מנסות לעשות זה בעצם... להבטיח שאחת מהן, אם היא פוגעת או מפעילה אותך, שתהיה לך דרך קלה לשנות ולראות אותה שלמען האמת היא בעיצוב טוב ואינטואיטיבי יותר", המשיך פולגאר. . אם משתמשים נתקלים במשהו שעלול להפעיל, הם אמורים להיות מסוגלים "ללחוץ על משהו" שיגן עליהם.

מצד שני, משתמשים יכולים להימנע מתוכן שעלול לפגוע בבריאותם הנפשית על ידי אי עיסוק בו. עם זאת, זה הרבה יותר קל לומר מאשר לעשות, ובהתחשב עד כמה קשה להימנע מההישנות, ליטווין מציע אמצעי קיצוני יותר. אם אתה מוצא את עצמך תקוע בספירלה של טראומה שנוצרה אלגוריתמית, מחק את חשבונך והתחיל מחדש.

"זה מאפס את האלגוריתם כך שחשבונות מזון, חשבונות אכילה לא מסודרים או חשבונות ביקיני לא מהבהבים כל הזמן בפיד שלך", כתב ליטווין. היא הוסיפה שמטופלת לאחרונה פתחה חשבון TikTok חדש וחיפשה בכוונה סרטונים על עיצוב פנים ואדריכלות. על ידי צפייה, שיתוף והערה על סרטונים עם תגים ספציפיים, המטופל של ליטווין אצר עדכון אסתטי של תוכן שאינו ED. "לא נוכל להיפטר לחלוטין מלראות חשבון כזה, אבל אם רוב הפיד הוא תעשייה אחרת לגמרי, סביר להניח שהוא פחות ישפיע כשהוא יעלה".

אם כבר צברתם קהל עוקבים גדול ואתם לא רוצים להתחיל מאפס, אתם יכולים גם לעצב את דף For You שלכם כך שיציג לכם תוכן אחר במקום סרטונים על הרגלי אכילה. על ידי עיסוק מכוון בסרטונים שאינםבהתמקדות באוכל ודיאטה, משתמשי TikTok יכולים לאמן את האלגוריתם להציג תוכן אחר במקום זאת.

נכון, טריגר אפשרי עשוי לפלס את דרכו דרך הפיד האצור שלך מדי פעם. במקרים האלה, אמר ליטווין, עדיף לכבות את הטלפון, להתקשר לאיש התמיכה שלך, בין אם מטפל או אדם אהוב, ולבקש הסחת דעת.

אם אתה מוצא את עצמך לכוד ברשת של תוכן שגורם לך לאי נוחות, התחל לעקוב אחר תגיות שמביאות לך שמחה - פרטמעבר בעלי חייםעיצובי איים, סרטוני סריגה מרגיעים, חתלתולים שזה עתה נולדו עושים את צעדיהם הראשונים עשויים להיות נקודות התחלה טובות. רק בגלל שאתה עלול להיתקל בסרטונים מעוררים ב-TikTok לא אומר שהם צריכים להוות את כל הדף שלך בשבילך.

אם בא לך לדבר עם מישהו על התנהגות האכילה שלך, התקשר לקו הסיוע של האגודה הלאומית להפרעות אכילה בטלפון 800-931-2237. אתה יכול גם לשלוח טקסט "NEDA" ל-741-741 כדי להיות מחובר למתנדב מיומן ב- שורת טקסט משבראו בקר באתר האינטרנט של העמותהלמידע נוסף.

קרא עוד מאלגוריתמים:

• מה זה בכלל אלגוריתם?

• כיצד לאסור אלגוריתמים מהחיים המקוונים שלך

• אלגוריתמים המגדירים מיניות ממש מבאסים. יש דרך טובה יותר.