בינה מלאכותית של פייסבוק השוותה בין גברים שחורים ל'פרימטים', מה שגרם להתנצלות חסרת שיניים נוספת

חלק ממשתמשי פייסבוק שצפו לאחרונה באדיילי מיילסרטון המתאר גברים שחורים דיווחו שראו תווית מפייסבוק ששואלת אם הם מעוניינים לצפות בעוד סרטונים על "פרימטים".

התווית הופיעה בטקסט מודגש מתחת לסרטון, וציינה "תמשיך לראות סרטונים על פרימטים?" לצד הלחצנים "כן" ו"סגור" שמשתמשים יכולים ללחוץ עליהם כדי לענות להודעה. זה חלק מתהליך פייסבוק המופעל על ידי בינה מלאכותית שמנסה לאסוף מידע על האינטרסים האישיים של המשתמשים על מנת לספק תוכן רלוונטי לניוז פיד שלהם.

הסרטון המדובר הראה כמה מקרים של גברים לבנים שהזעיקו את המשטרה על גברים שחורים והאירועים שנוצרו, ולא היה לו שום קשר לפרימטים. פייסבוק פרסמה התנצלות,אומר אתניו יורק טיימסשזו הייתה "שגיאה בלתי מתקבלת על הדעת" ושהיא בחנה דרכים למנוע זאת בעתיד.

התווית הגיעה לידיעת פייסבוק כאשר דארסי גרובס, לשעבר מנהלת עיצוב תוכן בפייסבוק, פרסמה אותה בפורום משוב על מוצרים עבור עובדי פייסבוק בהווה ובעבר ושיתפה אותה בטוויטר. גרובס סיפרה כי חברה נתקלה בתווית, צילמה מסך ושיתפה אותה איתה.

ייתכן שהציוץ נמחק

התווית הפוגענית מרגישה בלתי מתקבלת על הדעת במיוחד בהתחשב במסד הנתונים הנרחב ביותר של תמונות שהועלו על ידי משתמשים שלפייסבוק יש גישה אליהן, וככל הנראה עשויה להשתמש בה כדי להבטיח זיהוי פנים נאות על ידי הכלים שלה. בעוד שבינה מלאכותית יכולה תמיד לעשות טעויות, באחריות החברה לאמן כראוי את האלגוריתמים שלה, ואי אפשר להאשים את הצעד המוטעה הזה במחסור במשאבים.

נוֹסָף עַלטיפול לא נכון בנושאי צדק גזעי בעבר בחברה, חוסר התוכנית השקופה של פייסבוק לטפל בבעיית הבינה המלאכותית שלה ממשיך לזרוע חוסר אמון. למרות שההתנצלות הייתה נחוצה, היעדר פעולות לכאורה של החברה מעבר לנטרול התכונה והבטחה מעורפלת "למנוע שזה יקרה שוב" לא חותך את זה.

ראה גם:

הגישה חסרת במיוחד מעקבהמהלך האחרון של פייסבוק לנתק את הגישה של חוקרים לכלים וחשבונותמשמש כדי לחקור נתוני משתמשים ופעילות מודעות בפלטפורמה, תוך ציון הפרה אפשרית של הסדר עם ועדת הסחר הפדרלית. ל-FTC יששנוי במחלוקת ישירהההגנה הזו.

שילוב של תגובה מעורפלת עם ירידה בגישה לעובדות מקשה על פשוט לסמוך על כך שפייסבוק תטפל בגרימת הבינה המלאכותית הבלתי הולמת הזו בכל סוג של מיידיות או תוצאות. אם פייסבוק מחויבת ליצור ולהשתמש בכלי בינה מלאכותית באופן כוללני, היא צריכה לציין בדיוק כיצד היא מתכננת לתקן את הבעיה הזו, והיא צריכה לעשות זאת בהקדם.