האינטרנט שינה את האופן שבו ילדים לומדים על סקס, אבל סקס בכיתה עדיין מבאס. בSex Ed 2.0, Mashable בוחן את המצב של סקס ed ומדמיין עתיד שבו חידושים דיגיטליים משמשים כדי ללמד הסכמה, חיוביות מינית, כבוד ואחריות.

האלגוריתמים שמניעים מוצרים כמויוטיוב,פייסבוק, ותַפּוּחַתוכנת ה-iOS של ה-iOS חולקת אתגר משותף: נראה שהם לא מצליחים להבחין באופן עקבי בין פורנוגרפיה לתוכן בריאותי מיני ופוריות.

הסיבה לכך היא שהקוד שהונדס כדי למנוע מחומר "למבוגרים" לצוץ בציר הזמן או בתוצאות החיפוש שלך יכול גם לחסום בקלות תוכן חינוכי שנועד להציע למשתמשי אינטרנט מידע עובדתי גלוי על מין, מיניות ובריאות.

המבקרים אומרים שהבלבול האלגוריתמי עשוי לשקף את בעיית הגיוון הידועה לשמצה של ההנדסה והטכנולוגיה. כאשר המהנדסים שכותבים קוד שנועד לדחוף עירום או פורנו לשולי הרשת לא מבינים או אכפת להם מהחשיבות של גישה לתוכן בריאותי מיני ופוריות, במיוחד עבור נוער LGBTQ ומשתמשים אחרים שנדחקו לשוליים באינטרנט, כמובן. אלגוריתמים יחסמו את מרחב התוכן הרחב ביותר האפשרי. המבקרים גם מאמינים שקיים פתרון פשוט לבעיה זו, אך אומרים שחברות טכנולוגיה אינן מעוניינות להתייחס לדאגותיהן.

החברה המקוונת לבריאות מיניתO.school דיווחבאוקטובר כיצד התוכנה החדשה של האייפון, עם הגדרת בקרת הורים מופעלת, חסמה לא רק את האתר שלו אלא אתרי בידור רבים ומשאבי בריאות עבור בני נוער ומתבגרים. בעוד שהמסנן הגביל אתרים כמוווג נוערוסקרלטין, היא לא מנעה ממשתמשים גישה לאתרים כמו הניאו-נאציסטורמר יומיאו האנטי הומואיםהכנסייה הבפטיסטית ווסטבורו.

הניגוד המזעזע הזה שכנע את מייסדת O.school, אנדריאה בארריקה, שאולי האלגוריתם של אפל פשוט חוסם מונחים מסוימים, כמו נוער, סיטונאי כדי למנוע כל קליק שעלול לשלוח משתמש לתוכן אסור (כלומר "פורנו נוער"). אולם בארריקה לא יכלה לאשר או להפריך את החשדות שלה - או ללמוד שום דבר על האלגוריתם של אפל.

בארריקה השתמשה ברשת משלה כדי להגיע לעובדי אפל בתקווה לדון במצב, אך נתקלה בשתיקה. ואז היא פרסמה את אפוסט בבלוגשכותרתו "Censorship and Sex Ed" עם שאלות נוקבות לאפל: מי עיצב את המסנן? האם התייעצו עם ההורים? שמרנים וקבוצות דתיות? רופאים ומחנכים מיניים? אילו אתרים שאינם פורנו נחסמים?

היא מעולם לא שמעה מאפל. החברה לא הגיבה ל-Mashable על האלגוריתמים שלה או על הפוסט של Barrica.

"הם לא מכוונים למטרות מין; הם כותבים את המדיניות בצורה השמרנית ביותר כדי למנוע את הבעיה", טוען באריקה. "לדעות השמרניות של אפל על מיניות יש כל כך הרבה השפעות מרחיקות לכת".

Barrica היא לא היחידה שכתבה מכתב פתוח לפלטפורמה השולטת אם התוכן של החברה שלה נראה באינטרנט. במאי 2017, סופר לאפליקציית מעקב המחזור Clue המפורטת ב-aפוסט בבלוגכיצד חסמה פייסבוק את המודעות של החברה המשפרות את תוכן הבריאות המינית והפורייתית שלה. איורים חינוכיים שהציגו פות, שדיים ואיבר מין נחסמו. גם מודעות לקידום פוסטים על תחתונים, סיפורי לידה ועצות להתבגרות נדחו.

נציג של Clue אמר שבעוד שהחברה סירבה להגיב לנושא, החברה עמדה על הפוסט שלה ב-2017. דובר מטעם פייסבוק אמר שהמודעות של Clue סותרו את ההגבלות של מדיניות הפרסום שלה על "תוכן למבוגרים"אשר, בין היתר, אוסר על פרסומות הכוללות עירום או תמונות המתמקדות באיברי גוף בודדים. מדיניות הפרסום של פייסבוק מיושמת ברחבי העולם והיא מחמירה יותר ממנה.סטנדרטים קהילתיים. Clue ממשיכה לפרסם תוכן ולפרסם בפייסבוק.

לְהַדהִים, סדרת סרטוני סקס לבני נוער ובני נוער, התמודדה עם בעיה דומהיוטיוב. מאז השקת הערוץ שלו לפני כמעט שלוש שנים, כמה מ-84 הסרטונים שלו נדחו לפרסום בגלל שהם נחשבו לתוכן "למבוגרים בלבד". אלה כוללים סרטונים על אנטומיה ביולוגית נשית וגברית.

"הפרסום ביוטיוב הוא קריטי לעבודה שלנו ב-AMAZE מכיוון שהוא מאפשר לנו להגיע לצעירים בכל רחבי העולם שמחפשים הדרכה סביב מין, בריאות נפשית ועוד", אמר לינקולן מונדי, דובר מטעם AMAZE, באימייל.

למרות ש-AMAZE אינו נחשב לתוכן למבוגרים, הסרטונים שלו כוללים תיאורים מדויקים של איברי המין ודיונים על בריאות מינית. הגינות הזו, שלפעמים היא גרפית, עלולה להיתפס על ידי אלגוריתם וסוקר אנושי כמפרה את מדיניות הפלטפורמה נגד פרסום תוכן למבוגרים שהוא "לא לכל המשפחה." YouTube סירבה להגיב על המדיניות והפרקטיקות המספקות את האלגוריתמים שלה.

חברות טכנולוגיה עשויות לטעון שהאלגוריתמים שלהן למעשה פועלים כפי שתוכננו על ידי סימון תוכן שמפר את המדיניות שלו. עם זאת, העובדה, למשל, איור שפיר של שד בהקשר חינוכי נחשב מעורר התנגדות מובילה לבעיה גדולה יותר.

חלק מהאתגר העומד בפני מהנדסים וחברות טכנולוגיה הוא המציאות שחומר לבריאות מינית המופק לאינטרנט כיום הוא לעתים קרובות נקי מהסטיגמה והבושה הקשורים באופן מסורתי לדיבור על מין. במקום מסבירים מושבעים שמשתמשים במונחים ותיאורים מעורפלים, הדור החדש הזה של תוכן שואל ועונה על שאלות שעלולות להיות מביכות, מתייחס ברגישות לדאגות המגוונות של קוראים מודחים, ואינו חושש להשתמש בתיאורים מדויקים של איברי המין, מה שגורם למה שהיו פעם שיחות מביכות להישמע יפה כיף לאורך הדרך.

אז מהנדסים שלא שמים לב למגמה הזו, או אפילו לא מבינים שהיא מתרחשת, צפויים לכתוב קוד שמניח שרוב המילים או התמונות המפורשות המופיעות באינטרנט הן ככל הנראה שער לפורנו.

"אחת הדינמיקות היא שהם לא חושבים על זה כמקרה בכלל", אומרג'ון פינקוס, מהנדס תוכנה ויזם שהוא יועץ ל-O.school. "בין אם זה עצלן או פשוט מדי, הניחוש שלי הוא שהם לא באמת מנסים למדוד אם הם נותנים לדברים לגיטימיים [בריאות מינית ופורייתית] פנימה תוך שמירה על דברים אחרים בחוץ."

פינקוס אומר שלא יהיה קשה לעצב אלגוריתמים עם ביצועים טובים יותר ממה שהם עושים היום. מהנדסים והחברות המעסיקות אותם יכולים לאמץ הוגנות, אחריות ושקיפותעקרונות מנחים, במיוחד בגלל שהזמינות של מידע מדויק על מין באינטרנט היא בעיה של בריאות הציבור.

ייתכן שהציוץ נמחק

באופן אידיאלי, חברות המשתמשות באלגוריתמים של למידת מכונה יאמנו אותן באמצעות מילים, תמונות ותיאורים של מידע חוקי על בריאות מינית ורבייה שהן רוצות לקבל, כמו גם התוכן או הפורנוגרפיה למבוגרים שהם רוצים לדחות.

מעבר לגישה הפילוסופית שלהם, פינקוס אומר שחברות טכנולוגיה יכולות להזמין מומחים לבריאות מינית ופוריות לספק משוב על האופן שבו אלגוריתמים מתוכננים, או אפילו לשכור אותם להתייעץ. פינקוס אומר שזה נוהג מקובל בתעשייה כאשר אין מומחים לנושא בצוות.

מונדי, מ-AMAZE, מסכים עם גישה כזו.

"בעינינו, הפתרון היחיד כרוך בשותפות מכוונת בין ענקיות טכנולוגיה ומומחי בריאות מינית כאשר הם יוצרים אלגוריתמים וחוסמי תוכן", אמר. "ענקיות טכנולוגיה אינן מומחיות לבריאות מינית ואסור להן לקבל החלטות כל כך תוצאתיות לגבי מה "מתאים לגיל" ומה לא כשמדובר במידע מקוון".

עם זאת, חברות אלו אינן ששות לוותר על הכוח הזה ולתת לאנשים מבחוץ השפעה על המוצר שלהן. כאשר טאמבלרהכריזבשבוע שעבר כי היא תאסור תוכן למבוגרים, דובר החברה סירב להסביר את הקריטריונים שלפיהם האלגוריתמים והבודקים האנושיים שלה יבחינו בין מין לבין עירום או פורנו, אך במקום זאת ציין כי "מצבים הקשורים לבריאותעדיין יהיה מותר על הרציף.

למרות שההתנגדות לשקיפות הגיונית בהתחשב בתחרות חסרת הרחמים בעמק הסיליקון, בארריקה מאמינה שלחברות טכנולוגיה אין תמריץ לסכן פרסום גדול או מקום בחנות האפליקציות של אפל על ידי כתיבת אלגוריתמים בעלי ניואנסים שיוכלו למקסם את הגישה למידע בריאותי מיני ורבייה, אך פוטנציאל לתת לתוכן פורנוגרפי לחמוק בין הסדקים.

"זה באמת מבוסס על פחד", היא אומרת. "זה חוזר לחוסר הכלה וגיוון, וחוזר לסטיגמה".

"יש כל כך הרבה כוח לשלוט במה שאנשים עושים ומה לא רואים".