בשנת 2021, אפייסבוקמִשׁתַמֵשׁהגיש תביעה בגללהם לא חשבו שהם מקבלים הזדמנות הוגנת בצפייהפרסומות. הרצון לראות מודעות עשוי להיראות אבסורדי - אם אתה כמוני, אתה רוצה פרסומות מחוץ לחוויית המדיה החברתית שלך בכל מחיר. ובכל זאת, לדייר פוטנציאלי בן 55 באזור וושינגטון הבירה, זה היה יותר מאשר הסבר פרסום פשוט בפייסבוק. לכך, טען התובע, היו השלכות חמורות בחיים האמיתיים.

אז Neuhtah Opiotennione הגישה תביעה ייצוגית נגד תשע חברות המנהלות בנייני דירות שונים באזור DC, בטענה שהן עסקו ב"אפליה דיגיטלית בדיור" על ידי הדרת אנשים מבוגרים - כמוה - מצפייה בפרסומות בפייסבוק. היא טוענת כי מאחר שהנאשמים הוציאו בכוונה אנשים מעל גיל 50 מלצפות במודעות שלהם - דבר שניתן פעם לעשות בפייסבוק - נמנעה ממנה האפשרות לקבל פרסומות דיור מסוימות המיועדות לדיירים פוטנציאליים צעירים יותר.

"ביצירת פרסומת ממוקדת בפייסבוק, מפרסמים יכולים לקבוע מי יראה את הפרסומות שלהם על סמך מאפיינים כגון גיל, מין, מיקום והעדפות", נכתב בתביעה. התובעת טענה שחברות ההשכרה השתמשו בפונקציית המיקוד של פייסבוק כדי לא לכלול אנשים כמוה בגלל גילה, במקום זאת הפנו את המודעות לדיירים פוטנציאליים צעירים יותר.

דיוויד ברודי, יועץ ועמית בכיר לפרטיות וטכנולוגיה בוועדת עורכי הדין לזכויות האזרח על פי חוק,אשר הגישה תסקיר לטובת התובע,בהודעה לעיתונות נמסר כי "פייסבוק לא נותנת למשתמש את מה שהמשתמש רוצה - פייסבוק נותנת למשתמש את מה שהיא חושבת שסטריאוטיפ דמוגרפי רוצה. ריפוי אדום הוא מפלה ולא צודק בין אם הוא מתרחש באינטרנט או לא מקוון, ואסור לנו לאפשר לתאגידים להאשים את הטכנולוגיה בהחלטות מזיקות של מנכ"לים".

התיק נדחה בסופו של דבר מכיוון שהשופט סבר כי מיקוד מקוון של פרסומות אינו גורם לפגיעה בצרכנים. עם זאת, Ballard Spahr LLP, משרד עורכי דין המתמקד בליטיגציה, ניירות ערך ואכיפה רגולטורית, עסקים ופיננסים, קניין רוחני, מימון ציבורי וענייני נדל"ן, אמר כי לפסיקה יכולה להיות השפעה משמעותית על האופן שבו אנו רואים אפליה באינטרנט.

"נראה שזה יקשה יותר על גורמים פרטיים לנסות להגיש תביעות הקשורות למיקוד מודעות מקוונות ברשתות מדיה חברתיות או באמצעות שיטות כמו חיפוש בתשלום."אמרה החברה. "אבל, שנית, אנחנו תוהים אם זה יהווה מחסום גם לפעולות רגולטוריות".

Opiotennione נגד Bozzuto Mgmt. היא רק אחת מני רבות של תביעות נגד פייסבוק בטענה לאפליה. אנחנו כבר יודעים עד כמה המודעות האלה יכולות להיות מרושעותמרגלים אחרינולאסוף את הנתונים שלנו וליצור עולם עם עודחילוקי דעות מפלגתיים הרסניים. אבל יש משהו מזיק אחר שקורה במודעות מקוונות, במיוחד באחת מפלטפורמות המודעות הגדולות אי פעם, פייסבוק. לְפִיפייסבוקחברת האם של,מטא, לפלטפורמה יש קהל פרסומי כולל של יותר משני מיליארד אנשים. כל אחד מהם עלול להחמיץ פרסומות - עבור דיור, הזדמנויות אשראי, ונושאים חשובים אחרים המשפיעים על פער העושר - בגלל העיצוב הדיגיטלי. הנה למה זה חשוב.

רגע, מה זה ריפוי אדום דיגיטלי?

מָסוֹרתִי ציפוי אדוםזה כאשר אנשים וחברות מונעים בכוונה הלוואות ומשאבים אחרים מאנשים שגרים בשכונות ספציפיות. זה נוטה לנחות לאורך פערים גזעיים ופיננסיים, וזה פועל להעמקת הפערים הללו. זה יכול לקרות גם באינטרנט.

ריפוד אדום דיגיטלימתייחס לכל שימוש בטכנולוגיה כדי להנציח אפליה. זה איךמכון גרינלינינג, ארגון מקליפורניה שפועל לתיקון ריפוד דיגיטלי, מתאר את הנוהג של חברות אינטרנט שאינן מצליחות לספק תשתיות לשירות -כמו פס רחבאינטרנט - לקהילות בעלות הכנסה נמוכה, מכיוון שזה נתפס כפחות משתלם לעשות זאת.

סוג כזה של ריפוי אדום דיגיטלי מביא לידי ביטויאנשים בעלי הכנסה נמוכה נאלצים לפנות לתוכניות בתשלום מראשואפשרויות אחרות יקרות יותר לאינטרנט, תוך שהם צריכים להתמודד עם מהירויות איטיות יותר מאלה שבקהילות עשירות יותר - ולעיתים לבנות יותר - שיש להן תשתית דיגיטלית. מכון Greenlining הוא לא הארגון היחיד שפועל לתיקון סוג זה של ריפוי דיגיטלי. הועדת התקשורת הפדרלית (FCC) גם מקימה כוח משימה של סוכנותהתמקדה במאבק באפליה דיגיטלית וקידום גישה שווה בפס רחב בפריסה ארצית.

אבל ריפוי דיגיטלי דיגיטלי מתייחס גם לשיטות לא הוגנות של מיקוד מודעות. על פי הACLU, מיקוד מודעות מקוון יכול לשכפל פערים קיימים בחברה, מה שעלול להוציא אנשים השייכים לקבוצות שוליות היסטוריות מהזדמנויות לדיור, עבודה ואשראי.

"בעולם הדיגיטלי של היום, ריפוד אדום דיגיטלי הפך לגבול החדש של אפליה, מכיוון שפלטפורמות מדיה חברתית כמו פייסבוק ומפרסמים מקוונים השתמשו יותר ויותר בנתונים אישיים כדי למקד מודעות המבוססות על גזע, מגדר ותכונות מוגנות אחרות."אמר ה-ACLU בהודעה לעיתונותהחל מינואר. "סוג זה של אפליה מקוונת מזיקה ומשפיעה באופן לא פרופורציונלי על אנשים צבעוניים, נשים וקבוצות שוליות אחרות, ובכל זאת בתי המשפט קבעו כי פלטפורמות כמו פייסבוק ומפרסמים מקוונים לא יכולות להיות אחראיות על מניעת מודעות למשרות, דיור ואשראי. משתמשים מסוימים, למרות הסכמים לבצע שינויים מפליגים בפלטפורמת הפרסומות שלה, ריפוי דיגיטלי עדיין נמשך בפייסבוק".

זה לא שהריפוי האדום הדיגיטלי מזיק יותר בפייסבוק מאשר בפלטפורמות מקוונות אחרות, אבל כפי שאמרה ל-Mashable גאלן שרווין, עורכת דין בכירה בפרויקט זכויות הנשים של ACLU, זה "נפוץ יותר בכך שפייסבוק היא מובילה בתעשייה. יש לו נתח שוק עצום כאן במרחב הזה". פייסבוק טוענת שהאלגוריתם שלה מתייחס לכולם בצורה שווה והאשמה נעוצה במפרסמים שלה - מפרסמים שמשלמים לפייסבוק, ושם רוב הכסף שלה נעשה.

"העובדה שפייסבוק הציעה את הכלים האלה שלא רק מאפשרים, אלא מזמינים מפרסמים להחריג משתמשים בהתבסס על מאפיינים מסוימים, כולל החברות והמעמדות המוגנים שלהם, מזיקה מאוד", אמר שרווין. "ולמרות שהיו כמה צעדים כדי להפחית את הנזקים האלה ולהסיר את הדרכים הגרועים ביותר או הבוטים ביותר שבהם הפלטפורמה יכולה לפעול כך בתחום הדיור, התעסוקה והאשראי, יש עוד דרך ארוכה לפני זה נמחק באמת מהחלל".

פעילים רבים מסכימים כי פייסבוק אמנם ביצעה מהלכים לפתור את בעיות האפליה שלה בפרסומות מאזדוח משנת 2016 מ-ProPublica, לא נעשה מספיק.

איך עובד ריפוי אדום דיגיטלי?

נניח שקבוצת מתווכים רוצה לחלוק מודעות עבור בתיהם רק עם אנשים עשירים מהמעמד הגבוה שמתגוררים בשכונות מהמעמד הגבוה ומתקיימים בקהילות מהמעמד הגבוה, או שמסעדה רוצה לחלוק מודעות רק עבור משרה שמתקרבת למשרות ספציפיות מועמדים. כאשר אותה חברה בוחרת פלטפורמה כמוגוגלאוֹפייסבוקכדי לדחוף החוצה את המודעות הללו, היא תחפש דרכים לשאוב את כיסוי המודעות שלה לאותן קבוצות ממוקדות ספציפיות. כלי מיקוד באותן פלטפורמות מאפשרים לחברות לבחור מי יכול ולא יכול לראות את המודעות שלהן. בפייסבוק, משתמשים יכולים לנקוט בשתי גישות כלליות ליצירת קהל יעד:ספֵּצִיפִיורָחָב. מיקוד ספציפי יכול להוביל לקהל פוטנציאלי קטן יותר, כמו הורים המתגוררים בטוסון, אריזונה, בעוד שהמיקוד הרחב כולל קטגוריות כמו מין וגיל.

לאחר מאבקים רבים המבוססים על בית המשפט (עוד מעט נגיע לזה), דיור, תעסוקה ואשראי נחשבוקטגוריות מודעות מיוחדות. זה אומר שיש להם אפשרויות מיקוד מוגבלות במנהל המודעות שלהם. חברה שרוצה לפרסם מודעות למגורים, תעסוקה או אשראי עדיין יכולה למקד פרסומת לקהל מסוים במקום לשלוח אותה באופן נרחב. ובכל זאת, הם לא יכולים לעשות זאת בהתבסס על מאפיינים מוגנים, כגון גיל, מין והיכן חיים הצרכנים הפוטנציאליים. לפחות זו המטרה.

פייסבוק כתבה ב-2019ש"מודעות אלו לא יאפשרו מיקוד לפי גיל, מין, מיקוד, זיקה רב-תרבותית או כל אפשרויות מפורטות המתארות או נראות קשורות למאפיינים מוגנים", כמו גזע, מין, דת, מוצא לאומי, מוגבלות פיזית או נטייה מינית ו זהות מגדרית. גם מפרסמים של כיתות מוגנות אלו לא יכולים להשתמשקהלים דומים, דרך להגיע לאנשים חדשים שסביר שיתעניינו בעסק מכיוון שהם דומים ללקוחות הקיימים של העסק הזה.

אבל האם זה מספיק?

מורגן וויליאמס, היועץ המשפטי של National Fair Housing Alliance, אמר ל-Mashable שיש היבטים נוספים של הפלטפורמה של פייסבוק שגורמים לבדיקה ודאגה, למרות העבודה שפייסבוק עשתה. מחקר מאוקטובר 2021שנשלף מרישומי ההצבעה הציבוריים בצפון קרוליינה ניתח את ההשפעות של הפרסומות של פייסבוק ומצא שיש להן תוצאות מפלות.

"זה היה נכון גם לכלי Lookalike Audience וגם לכלי Special Ad Audience שפייסבוק תכננה כדי לא להשתמש במפורש במאפיינים דמוגרפיים רגישים בעת מציאת משתמשים דומים", נכתב בדו"ח.

"אם היית מספק לפייסבוק קבוצה של שמות של אנשי קשר, [לייק] לרשימת הלקוחות שלך, זה היה ממקד מודעות למשתמשי פייסבוק שהיו בעלי פרופיל דומה לרשימת הלקוחות שלך. ובעיסוק במיקוד הזה, היו מדדי עניין מסוימים שהיו נוגעים ספציפית, ושמנקודת המבט שלנו היו מפרידים מיקוד של מודעות אלו", אמר וויליאמס. "בהסדר שלנו, הסכמנו להסיר מספר מאותם גורמי עניין ופשוט לאפשר לפייסבוק להמשיך במיקוד על בסיס [דברים כמו] שימוש באינטרנט, אבל עדיין יש לנו חששות לגבי זה".

מפרסמים בפייסבוק המנסים להגיע לקהלים בארה"ב עם מודעות דיור, תעסוקה או אשראי לא יכולים להשתמש בתכונת הדומה, אבל הם יכולים ליצורקהל מודעות מיוחד. זהו קהל המבוסס על קווי דמיון בהתנהגות באינטרנט, שאינו מתחשב בדברים כמו גיל, מין או מיקוד. אבל פעילים טוענים שעשויות להיות כמה דרכים מפוקפקות שבהן משתמשים לא אמינים יכולים למקד לתכונות מוגנות גם בתוך קהל מודעות מיוחד. לדוגמה, אתה יכול ליצור יעד קהל מותאם אישית על ידי שימוש במקורות כמו רשימות לקוחות, תנועה לאתר או אפליקציה, או מעורבות בפייסבוק.

קהלי פרסומות מיוחדים מאפשרים למפרסמים לתת לפייסבוק קהל סיד, ואז פייסבוק בוחרת משתמשי פייסבוק אחרים שנראים כמו אותו קהל סיד. אז, מפרסמים לא אומרים "הצג את המודעה הזו לאנשים קווירים בני 27 שגרים בברוקלין", הם אומרים "הצג את זה לאנשים כמו כריסטיאנה סילבה" - וכריסטיאנה סילבה היא במקרה קווירית בת 27 אדם המתגורר בברוקלין.

"ברור שאם קהל היעד שלך משקף דמוגרפיה מסוימת, הקהל התואם ישקף גם את הדמוגרפיה הזו", אמר שרווין. "ובעוד שפייסבוק ביצעה כמה שינויים בכלי הזה, היא לא ביצעה שינויים משמעותיים מספיק והיו מחקרים מאז שמוכיחים שבעצם, דפוסי התפוקה המפלה אינם משתנים".

אלגוריתם פרסום המודעות של פייסבוק בוחר אז אילו משתמשים התואמים לקריטריונים הללו יראו בפועל את המודעות על סמך תחזיות בהסתמך על חבורה של נתוני משתמשים לגבי מי הם, היכן הם גרים, מה הם אוהבים או מפרסמים, ולאילו קבוצות הם מצטרפים. למרות שזה עשוי להיראות לא מזיק, זה יכול להוביל לאפליה מכיוון שהנתונים לגבי מי אנחנו, איפה אנחנו חיים, מה אנחנו חיים ומפרסמים, ולאילו קבוצות אנחנו מצטרפים מעידים על התכונות המוגנות שלנו.

האם זה חוקי?

כדי להיות ברור, מיקוד מודעות המבוסס על תכונות מוגנות אינו חוקי. למרות זאת,מחקר משנת 2021 על אפליה בפרסום מודעות דרושים בפייסבוק ובלינקדאיןשנערך על ידי חוקרים עצמאיים מאוניברסיטת דרום קליפורניה מצא שמערכת פרסום המודעות של פייסבוק הציגה מודעות תעסוקה שונות לנשים ולגברים, למרות שהעבודות דורשות את אותן כישוריםפרמטרי מיקוד שנבחרו על ידי המפרסם כללו את כל המינים. זה לא חוקי, אבל יש בלבול לגבי האופן שבו סעיף 230 של חוק הגינות התקשורת, שנועד להגן על פלטפורמות מפני אחריות לתוכן שמשתמשים מפרסמים, וחוקי זכויות אזרח אחרים חלים על מיקוד מודעות מקוון.

שרווין, עורכת הדין הבכירה של פרויקט זכויות הנשים של ACLU, אמרה ל-Mashable שפייסבוק התחבאה מאחורי סעיף 230 בהתדיינות המשפטית שלה. ובעוד שה-ACLU תומך בעיקר ב-Section 230 וההגנות שהוא מאפשר לפלטפורמות, עמדתם כאן היא ש"זה לא מגן על פייסבוק מההתנהלות הזו כי פייסבוק עצמה הייתה האדריכלית של כלי המיקוד".

בוצעו שינויים

לזכותה ייאמר שפייסבוק ביצעה שינויים מפליגים במערכת הצגת המודעות שלה.

דובר מטה אמר ל-Mashable כי פייסבוק ביצעה "השקעות משמעותיות" כדי לסייע במניעת אפליה בפלטפורמות המודעות שלה. הדוגמה של הדובר הייתה שתנאיו ומדיניות פרסום"מזמן הדגישו" שמפרסמים אינם יכולים להשתמש בפלטפורמה שלהם כדי לעסוק באפליה פסולה. זה מרגיש כמו נקודה די חלשה, בהתחשב בזהרבים עשויים שלא לקרוא את התנאים וההגבלות. וכמובן, זו לא כל כך שאלה אם המשתמש קורא את התנאים, אלא אם פייסבוק משטרה את הכללים בתנאים שלה או לא. פייסבוק אומרת שכן, אבל הפלטפורמה מפורסמת נורא בשיטור הכללים שלה -רק שקול את האופן שבו מידע מוטעה ממשיך להתפשט בפלטפורמה.

מפרסמים גם לא יכולים להשתמש בתחומי עניין, דמוגרפיה או התנהגויות למטרות אי הכללה. מכיוון שמפרסמים מדווחים בעצמם אם הם מפרסמים מודעות על מקומות עבודה ודיור וכדומה, (כמובן שאינה מערכת חסינת תקלות), פייסבוק משתמשת גם בבודקים אנושיים ובאלגוריתמים של לימוד מכונה כדי לזהות את המודעות למקרה שהן מזוהות בצורה שגויה. Meta לא חשפה עד כמה זה באמת עובד.

בארה"ב, קנדה והאיחוד האירופי, אנשים שמריצים מודעות דיור, תעסוקה או אשראי חייבים להשתמש בקטגוריות פרסומות מיוחדות עם אפשרויות מיקוד מוגבלות, כולל שאסור להם למקד לפי מין, גיל או מיקוד, ועליהם במקום זאת, כוון לרדיוס מינימלי של 15 מייל ממיקום מסוים, אמר דובר Meta. אבל פייסבוק עדיין נותנת לספקי דיור את היכולת למקד שוכרים או בעלי בתים פוטנציאליים ברדיוס של מקום מסוים - מה,לפי ה-ACLU, הוא "מקור ברור לגזע במדינתנו המופרדת עדיין".

האם השינויים האלה מספיקים?

בתי המשפט אילצו את פייסבוק לבצע הרבה שינויים. אבל פעילים רבים טוענים שהצעדים שהם נקטו עד כה היו הרבה יותר מדי מצטברים.

במרץ 2019, פייסבוק השביתה תכונה של דיור, אשראי ומודעות דרושים לאחר שהכריעה מספר תביעות משפטיות, אך אלגוריתמים עדיין הציגו מודעות לקבוצות דמוגרפיות שונות סטטיסטית אפילו לאחר המהלך. לְמָשָׁל,מחקר אחד משנת 2021 הראהשמודעה לפיצה של דומינו'ס הוצגה ליותר גברים מנשים, בעוד שמודעה של שירות המשלוחים והאיסוף מהמכולת Instacart הוצגה ליותר נשים מאשר לגברים. באותה ביקורת נמצאה גם שפרסומות תעסוקה לעמיתי מכירות של מכוניות בפייסבוק הוצגו ליותר גברים מנשים, בעוד ליותר נשים מגברים הוצגו מודעות לעמיתי מכירות של תכשיטים בפייסבוק.

בתביעה אחת,אשר הודח, דיירים פוטנציאליים טענו כי פלטפורמת הפרסום של פייסבוק החרגה אותם מלקבל פרסומות דיור בגלל המאפיינים המוגנים שלהם.

"למרות שסיווג המודעות לעולם לא יהיה מושלם, אנחנו תמיד משפרים את המערכות שלנו כדי לשפר את הזיהוי והאכיפה שלנו לאורך זמן", אמר דובר Meta.

בינואר 2022,פייסבוק החלה להסיר אפשרויות מיקוד נוספותהקשורים לנושאים שאנשים עשויים לתפוס כרגישים, כגון אפשרויות המתייחסות לגורמים, ארגונים או אישי ציבור הקשורים לבריאות, גזע או אתניות, השתייכות פוליטית, דת או נטייה מינית. הסיבה לכך היא שאתה יכול להניח כמה הנחות לגבי מעמדות מוגנים על סמך אילו נושאים פוליטיים, דת או נטייה מינית הם "אוהבים" בפייסבוק. זה מיועד לכל סוגי המודעות, על פי דובר Meta. גם פייסבוק בנתה חלק ממנהספריית מודעותהמאפשרת למשתמשים בארה"ב ובקנדה לחפש את כל מודעות הדיור, התעסוקה והזדמנויות האשראי הפעילות של מפרסמים והמיקום שאליו הם ממוקדים, ללא קשר אם הם נמצאים בקהל המיועד של המפרסם.

"אני חושב שהפיכת הזדמנויות הדיור והתעסוקה לחיפוש דרך השוק היה צעד אחד קדימה", אמר שרווין. "זה מוציא את זה מידיו של המפרסם ונותן שליטה מסוימת בידי המשתמש לחפש הזדמנויות באופן חיובי במקום להסתמך באופן פסיבי על הפיד של פייסבוק."

שרווין אמר שזהו "צעד חשוב", אך הודה שפייסבוק לא הראתה "שום תיאבון אמיתי לפצח את אלגוריתם הצגת המודעות". אחרי הכל, הכנסה מפרסום היאעיקר ההכנסות של פייסבוקה. בשנת 2021, החברה הרוויחה 29 מיליארד דולר ממכירות מודעות בשלושת החודשים שהסתיימו ביוני.

עד שהתיאבון של פייסבוק ישתנה, חלק גדול מהעבודה נוחת על כתפיהם של פעילים ומחוקקים. אבל, היי, אנחנו תמיד יכוליםלמחוק את הפרופילים שלנו.