משאבי אנוש, CRM, פילוח שוק ותפיסת מדיה חברתית - קצין מחפש עובד מיוצג על ידי אייקון.; Shutterstock ID 514850650; PO: הטיית AI; תפקיד: רבקה רואיז; לקוח: Mashable קרדיט: Shutterstock / Jirsak
כשבני אדם מלמדים מחשבים איך להתנהג, למכונות אין ברירה אלא ללמוד מאיתנו.
זה ברור בחדש לִלמוֹדפורסם ביום חמישי בכתב העתמַדָעשמצאה בינה מלאכותית משכפלת את אותם סטריאוטיפים מגדריים וגזעיים שאנחנו כבר נאבקים לשלוט בהם.
ממצא זה, למרות שאינו מפתיע לחלוטין, מצביע על כך שבינה מלאכותית עשויה להנציח בטעות הטיה במקום פשוט לייעל את ניתוח הנתונים ומשימות העבודה.
כדי לחשוף את הדינמיקה המטרידה הזו, החוקרים השתמשו בבינה מלאכותית מהמדף ופיתחו אלגוריתם כדי לקבוע כיצד הוא מקשר בין צמדי מילים. הבינה המלאכותית שנוצרה על ידי למידת מכונה התבססה על סריקה בקנה מידה גדול לאחרונה של הרשת שתפסה את המורכבות של השפה האנגלית.
ואז החוקרים פנו למה שמכונהמבחן אסוציאציה מרומז, מדד מדעי של הקשרים הלא מודעים שאנשים יוצרים במהירות בין, נגיד, מינו של אדם והקריירה שלו, או שמו, גזעו וחביבותו של אדם. לא משנה כמה אנחנו מתעקשים שאנחנו לא גזענים, סקסיסטים או הומופובים, שנים של מחקר בשימוש ב-IAT מראים שאנחנו מחזיקים בהטיות, לעתים קרובות בלי לשים לב לכך.
על מנת לראות אם ה-AI קשר מילים ניטרליות עם הטיות, החוקרים השתמשו תחילה ב-IAT לגבי האם פרחים וחרקים הם נעימים או לא נעימים. ה-AI הגיב כמו שרוב האנשים היו מגיבים: פרחים היו חביבים, חרקים לא כל כך.
אחר כך הם עברו ל- IATs הקשורים לסטריאוטיפים שיש לנו של קבוצות מסוימות של אנשים. קודמתלְנַסוֹתשימוש בקורות חיים באותה איכות אך עם שמות אירופאים-אמריקאים ושמות אפרו-אמריקאים גילה שאנשים בקבוצה הראשונה היו בסבירות גבוהה פי שניים שיקראו לראיון. כאשר החוקרים שערכו את המחקר הזה ניסו לשכפל את התוצאות הללו עם אותו מסד נתונים של שמות ובדקו קשר עם נעימות או אי נעימות, השמות האירופאים-אמריקאיים נצפו בצורה חיובית יותר על ידי הבינה המלאכותית.
"זה היה ממצא מטריד לראות רק בשמות שאנחנו מסוגלים לשחזר את הסטריאוטיפים".
"זו הייתה פרסומתאֲנִיממצא מטריד לראות רק לפי שמות שאנחנו מסוגלים לשכפל את הסטריאוטיפים", אומרת איילין קליסקאן, הכותבת הראשית של המחקר וחוקרת פוסט-דוקטורט במרכז למדיניות טכנולוגיות מידע של אוניברסיטת פרינסטון.
Mashable Top Stories
אחרתלִלמוֹדמשנת 2002 מצאו ששמות נקבות היו קשורים יותר למשפחה מאשר למילים בקריירה, אבל זה לא היה המקרה לשמות גברים.
אתה כנראה יכול לראות לאן זה הולך.
ה-AI שוב שיחזר את התוצאות הללו, בין היתר, והראה שמילים נשיות כמו "אישה" ו"ילדה" קשורות יותר ממילים זכריות לאמנויות לעומת מתמטיקה או למדעים.
הממצאים שופכים אור על בעיית תרנגולת או ביצה מטריפה: האם בני אדם מכניסים את ההטיות שלהם לשפה או שאנו לומדים אותן באמצעות השפה? קליסקאן לא יכול לענות סופית על השאלה הזו - עדיין.
"אנחנו מציעים שבמקום לנסות להסיר הטיה מהמכונה, [אנחנו צריכים] לשים אדם במעגל כדי לעזור למכונה לקבל את ההחלטה הנכונה", היא אומרת.
זה, כמובן, דורש אדם שמודע לנטייה שלו לסטריאוטיפים.
קייט רטליף, מנכ"ליתפרויקט מרומזועוזר פרופסור במחלקה לפסיכולוגיה באוניברסיטת פלורידה, אומר שכרגע זה לא מציאותי לנסות למגר הטיות כי אין הוכחות אמפיריות שזה אפשרי. אחרי הכל, השפה, התרבות, הבידור והפוליטיקה שלנו מלאות בסטריאוטיפים שמחזקים כל הזמן את האסוציאציות שאנחנו מנסים לדחות.
"אולי תוכל לאמן אנשים לזהות את ההטיות האלה ולעקוף אותן", אומר רטליף, שלא היה מעורב במַדָעלִלמוֹד.
ואכן, זה מה שחברות רבות, כוללפייסבוק, מנסים לעשות באמצעות הדרכות עובדים. וזה בדיוק סוג המיומנות והמודעות העצמית שתזדקק לאדם שמופקד במניעת סטריאוטיפי מחשב של אדם זר.
הגפרורים בין אדם למכונה יהפכו ללא ספק לזוג.
רבקה רואיז היא כתבת בכירה ב- Mashable. היא מרבה לסקר בריאות נפשית, תרבות דיגיטלית וטכנולוגיה. תחומי ההתמחות שלה כוללים מניעת התאבדות, שימוש במסכים ובריאות נפשית, הורות, רווחת נוער ומדיטציה ומיינדפולנס. לפני Mashable, רבקה הייתה כותבת צוות, כתבת ועורכת ב-NBC News Digital, מנהלת פרויקט דוחות מיוחדים ב-The American Prospect וכותבת צוות ב-Forbes. לרבקה יש תואר ראשון ממכללת שרה לורנס ותואר שני בעיתונאות מאוניברסיטת ברקלי. בזמנה הפנוי היא נהנית לשחק כדורגל, לראות טריילרים לסרטים, לנסוע למקומות שבהם היא לא יכולה לקבל שירות סלולרי ולטייל עם הבורדר קולי שלה.
ניוזלטרים אלה עשויים להכיל פרסומות, עסקאות או קישורי שותפים. בלחיצה על הירשם, אתה מאשר שאתה בן 16+ ומסכים לנותנאי שימושומדיניות פרטיות.
