בצדק נשמע הרבה רעשהתפקיד שמילאה פייסבוקבבחירות לנשיאות 2016. המבקרים הצביעו על אמסע פרסום ממוקדעל ידי קבוצות רוסיות כהוכחה לכך שלחברה ממנלו פארק לא היה אכפת מהחנות - וטענה כיבעקבותיו הגיע אסוןכתוצאה מכך.

אבל הטיעון הזה מתעלם מנקודת מפתח אחת: בהצגת "מודעות אפלות" ממוקדות מיקרו למשתמשים, פייסבוק עשתה בדיוק את מה שהיא נועדה לעשות. הבעיה הגדולה יותר היא לא המודעות הרוסיות הספציפיות הללו (אשרפייסבוק מסרבת לחשוףלציבור) - או אפילו שדונלד טראמפ נבחר לנשיא - אלא עצם המערכת שעליה בנויה החברה.

של מארק צוקרברגמתכננים להגביר את השקיפותעל פרסומות פוליטיות, אמנם רצוי, אבל נופל באותה מלכודת. כן, יותר חשיפה זה טוב, אבל מהי התרופה כאשר הארכיטקטורה הבסיסית עצמה היא גנגרנית?

זיינפ טופקצ'י, מחבר שלטוויטר וגז מדמיעופרופסור חבר באוניברסיטת צפון קרוליינה בצ'פל היל, הבהיר נקודה זו עד כאב ב-aהרצאת TED בספטמברשנכנסו לדרך לאותם אלגוריתמים שנועדו לשרת אותנו טוב יותר מודעות בפלטפורמות כמו פייסבוק יש את היכולת להיפרס למטרות אפלות הרבה יותר.

"אז שווי השוק של פייסבוק מתקרב לחצי טריליון דולר", אמר טופצ'י לקהל הנאסף. "זה בגלל שזה עובד מצוין כארכיטקטורת שכנוע. אבל המבנה של הארכיטקטורה הזה זהה בין אם אתה מוכר נעליים ובין אם אתה מוכר פוליטיקה. האלגוריתמים לא יודעים את ההבדל. אותם אלגוריתמים משתחררים עלינו להפוך אותנו לגמישים יותר למודעות, הם גם מארגנים את זרימת המידע הפוליטית, האישית והחברתית שלנו, וזה מה שצריך לשנות."

ייתכן שהציוץ נמחק

Tufekci עוד טען שכאשר למידת מכונה נכנסת לתמונה, בני אדם יכולים לאבד את המעקב בדיוק כיצד האלגוריתמים פועלים בקסם שלהם. והיא המשיכה, לחוסר הבנה מלאה של איך המערכת עובדת יש השלכות מפחידות - כמו פרסום טיולים בווגאס לאנשים שעומדים להיכנס לשלב מאני.

החשש הזה אמיתי. פייסבוק יכולה כעת להסיק כל מיני נתונים על המשתמשים שלה - מהשקפותיהם הפוליטיות, דרך ההשתייכות הדתית, למודיעין ועוד ועוד. מה קורה כשהכוח הזה זמין לכל מי שיש לו תקציב פרסום קטן? או, גרוע מכך, ממשלה מדכאת?

"תארו לעצמכם מה מדינה יכולה לעשות עם הכמות העצומה של מידע שיש לה על אזרחיה", ציין טופצ'י. "סין כבר משתמשת בטכנולוגיית זיהוי פנים כדי לזהות ולעצור אנשים. והנה הטרגדיה: אנחנו בונים את התשתית הזו של סמכותיות מעקב רק כדי לגרום לאנשים ללחוץ על מודעות".

פייסבוק מחייבת את עצמה כחברה השואפת להביא "העולם קרוב יותר זה לזה", אבל האמת של העניין שונה בהרבה. זוהי, כמובן, מערכת שנועדה לאסוף כמות אינסופית של נתונים על המשתמשים שלה במטרה להניע אותנו לכל התנהגות שהחברה מאמינה שהיא לטובתה - להיות שרכישת פריט מפורסם,הַצבָּעָה, אולהיות במצב רוח מסוים.

זו בעיה מהותית שחותכת את הליבה של פייסבוק, והיא לא בעיה שמדיניות חדשה של גילוי מודעות פוליטית תתקן.