פרסום מקוון נבנה סביב היכולת לדעתבְּדִיוּקמי אתה. האם אתה בוטנאי מנגן בגיטרה, בעל חתולים? תקבלו מודעות עבור ערכות גידול גידור חתול בצורת גיטרה. גוגל, טוויטר וכל שאר הפלטפורמות הדיגיטליות שבהן ניתן להציג פרסומת - כשפייסבוק מובילה - רוצים לדעת עליך הכל, בדרך כלל כבר עושים, ולהשתמש במידע הזה כדי לשכנע את המשווקים שהמודעות שתראה ממוקדות בצורה מושלמת למי שאתה (או לא).

זה פס חזק של כוח. ואולי זה בסדר - אפילו, פוטנציאלי, מועיל - כאשר מפרסמים מחלקים אנשים לפי הרגלי קניות או תחביבים. אבל כשזה מגיע למזהים כמו גזע או מוצא אתני, הכוונה זו יכולה להפוך לאפליה המחזקת נורמות חברתיות מזיקות. במקרה הגרוע, זה יכול להנציח דעות קדומות בוטות שיכולות להשפיע על נושאים קריטיים בחיינו, כמו דיור ושכר עבודה.

ביום שישי, פייסבוק סוף סוף הודתה שהיא הייתה בצד הלא נכון של הקו הזה. החברה אמרה שהיא תפסיק לאפשר למפרסמים לא לכלול "זיקות אתניות" מסוימות בקטגוריות כמו עבודה ודיור.

עם זאת, היכולת להחריג אנשים לפי "גזע" עדיין תהיה זמינה עבור הרוב המכריע של המפרסמים בפייסבוק. פייסבוק עדיין טוענת שזה כלי שימושי מכדי להרוג - שהצד החיובי בו גובר על החיסרון.

אחרים לא כל כך בטוחים.

כל הפרשייה היא רק האחרונה בסדרה רצופה של מקרים של אפליה מקוונת שהם אפילו יותר עדינים מהמצב של פייסבוק. האפליה השקטה של ​​פרסום מקוון מעלה שאלות לגבי ההוגנות של מיקוד למשתמשים באמצעות נקודות מידע אישיות, והאורך המשווקים מוכנים לעשות זאת.

זו דילמה שנקשרת בחזרה לאחד האתגרים הגדולים ביותר שתמיד עמדו בפני תעשיית הפרסומות: איך אתה מוכר לחברה בדרכים ספציפיות מבלי לחזק את הנטיות הכי מכוערות שלנו?

'זיקות' אתניות

אוקטובר 2016ProPublica חֲקִירָהגילה שהאופן שבו פייסבוק מארגנת משתמשים עלולה להפר את חוקי זכויות האזרח האוסרים אפליה במודעות דיור.

הם גילו אופציה בתוך הפלטפורמה המאפשרת למותגים לתת מענה (או להחריג) אנשים לפי זיקה אתנית - במילים אחרות, משתמשים שהחברה שופטת כבעלי נטייה מובהקת לאפרו-אמריקאים, אסיאתים-אמריקאים, היספנים או קבוצות גזעיות אחרות.

פייסבוק טענה מנגד כי הכלי מחפש "זיקה" ולא גזע מוצהר, ולפיכך, אינו עובר על חוקים המסדירים אפליה של מודעות.

ג'ון רלמן, עורך דין בולט לזכויות אזרח, לא הסכים באופן נחרץ מתיProPublicaהגיש לו את אותה שאלה.

"זה מחריד. זה לא חוקי באופן מסיבי", אמר לרשת. "זוהי הפרה בוטה של ​​חוק הדיור ההוגן הפדרלי כפי שניתן למצוא".

האתר גם ציין כיצד מופיעות האפשרויות תחת הכותרת "דמוגרפיה" של פייסבוק, והרשת החברתית השיבה לה כי היא מתכננת להחליף את הקטגוריה שלהן. כמובן, בסופו של דבר פייסבוק ביצעה את השינויים המינימליים המוחלטים הדרושים כדי להישאר במסגרת החוק.

כאשר מכונות מפלות

לא כל דוגמה לאפליה של מודעות בוטה כמו זו של פייסבוק.

לפעמים הטיה היא תוצאה של למידת מכונה קרה. אלגוריתמים מתפתחים ומוצאים דפוסים בעצמם שעשויים לעוף מול מה שיוצריהם התכוונו. חוקרים מאוניברסיטת קרנגי מלון, למשל,נמצאבשנה שעברה, מודעות Google נטו להציג הרבה פחות נשים מגברים הצעות עבודה לתפקידים עם משכורות של $200,000 או יותר.

מטריד יותר עדיין, רישומי משרות שהתארחו ב-Google בתחומי STEM חיפשו באופן לא פרופורציונלי גם גברים.

חברת טכנולוגיית פרסום סייעה לחוקרים להתחקות אחר תהליך קבלת ההחלטות אל מה שמכונה "קופסה שחורה" - תסריט מיקוד אטום עם מעט פיקוח או קלט אנושי. זה בשילוב עם הקהלים שמכניסים המפרסמים לתוכנית מייצרים את התוצאות.

"יש באמת מעט מאוד שקיפות לגבי האופן שבו ההחלטות האלה מתקבלות והאם יש ערכים חברתיים שנפגעו בכוונה או שלא בכוונה בתהליך", אומר אנופם דאטה, פרופסור למדעי המחשב שעזר לבנות את התוכנה האחראית לממצאים.

לא ברור אם האלגוריתם צפה בתכונות או נטיות במטמון נתוני המשתמש של גוגל שהובילו אותו לפעול כך, או שזה היה פונקציה של התכנות שלו או תשומות משווקים.

דובר גוגל אמר בהצהרה שהחברה עוקבת אחריהמדיניות נוקשהשקובעים את אופן מיקוד המודעות.

"מפרסמים יכולים לבחור למקד לקהל שהם רוצים להגיע אליהם, ויש לנו מדיניות שמנחה את סוג המודעות המותרות המבוססות על עניין", אמר הדובר. "אנו מספקים שקיפות למשתמשים עם הודעות והגדרות מודעה של 'למה המודעה הזו', כמו גם את היכולת לבטל את הסכמתם למודעות המבוססות על עניין".

אף על פי שלא הופר חוקים, התהליך המחיש באיזו קלות תוכניות להוראה עצמית יכולות בסופו של דבר לחזק, למשל, את פערי השכר בין המינים, ואת הסטריאוטיפים לגבי המקצועות המתאימים יותר לנשים או לגברים.

הטיות מסוג זה יכולות להתבטא גם בדרכים סמויות יותר. גוונים של סקסיזם כמו שפה מקודדת מגדרית או פוסטים המבקשים מישהו ש"מתאים" עשויים להיות מועצמים על ידי בינה מלאכותית תפיסתית.

הבעיה שם? הכלים בעלי פוטנציאל להתעללות מפלה הם אותם הכלים הדרושים למאמצים לגיטימיים להילחם בקהילות מגוונות.

"בפרסום אתה מנסה להגיע לקבוצות ספציפיות", אומרת וונדי סטרייקר, עורכת דין לעבודה במשרד עורכי הדין הניו יורקי פרנקפורט קורניט קליין אנד סלז. "איך אתה עושה את זה מבלי להפר חלק מהחוקים האלה [אפליה]?"

סטרייקר אומר שיש חוקים ברורים שמכתיבים מהי אפליה בפרסום למועמדים לעבודה, כפי שיש למחפשי בית. כפי שמראה המקרה לעיל, כללים אלה לא תמיד מסבירים הכל.

חיפושים גזעניים

"נעצרת פעם?" הפרופסור לפרטיות מידע בהרווארד, לטניה סוויני, מתחילה את שנת 2013 העוצמתית שלהלִלמוֹד, בוחן כיצד פרסמו מודעות ב-Google ורויטרסלטפל בגזע. "דמיין את השאלה לא מופיעה בבדידות מחשבותיך בזמן שאתה קורא את המאמר הזה, אלא מופיעה במפורש בכל פעם שמישהו שואל את שמך במנוע חיפוש."

במחקר שלה, סוויני מצאה שחיפושים אחר שמות "נשמעים שחורים" העלו משמעותית יותר תוצאות ממומנות ומודעות לתצוגה המזכירות דברים כמו רישום פלילי ובדיקות רקע מאחרים.

דובר גוגל הכחיש שמנוע החיפוש מבצע כל סוג של פרופיל גזעי, והצביע על מדיניות האוסרת על מפרסמים לתמוך נגד כל קבוצה או תת-קבוצה של אנשים. גם אתר בדיקת הרקע Instantcheckmate.com, אחד המותגים העיקריים שנקראו, נשבע שהוא לא משתמש בשום טכנולוגיה שיכולה לחבר בין שם לגזע.

אם סוויני צודקת, הממצאים שלה מדגימים מקרה מופרך במיוחד של דעות קדומות. עם זאת, בעיות כאלה מתחברות גם לדילמה מכוננת שמטרידה מפרסמים בעלי מודעות חברתית במשך שנים: פרסום תמיד היה לכוד בין שיקוף לקידום התרבות ממנה הוא ניזון.

פרסום, מטבעו, משחק בהכללות מעופשפות ומשותפים קבוצתיים כדי לפנות טוב יותר לחלקים ספציפיים באוכלוסייה, מה שמוביל למוניטין של "הנפוץ והרעיל ביותר מבין המזהמים הנפשיים", כדברי הפעיל הקנדי. קאל לאסן.

אבל עבודה פורצת דרך יותר יכולה גם לשנות תפיסות חברתיות ולפצל שווקים שלא מנוצלים. לדוגמה, מאמצים כמו מסע פרסום בשפה הספרדית המיועד לגולשי אינטרנט היספניים - סוג הגיוון שעבורו טוענת פייסבוק שכלי הגזע שלה נועדו בצדק.

באינטרנט, שבו כל המודעות הינן היפר-אישיות, ופרטיות היא סוג של אשליה, הניגוד בין הכוונות והשיטות של המשווקים מתעצם הרבה יותר מאשר מחוץ לתחום הדיגיטלי.

אבל האחריות נופלת בסופו של דבר על פייסבוק לעצב כלי מיקוד באופן שיאפשר פרסום מגוון תוך מניעת התעללות ערמומית יותר שהיא עשויה לאפשר. וביום שישי, פייסבוק עשתה צעד - מינימלי ככל שיהיה - לקראת התמודדות עם האתגר הזה. נותרה השאלה: מה עוד, אם בכלל, הם יעשו בנידון?