AI עשוי להיותנטיות סקסיסטיות. אבל, סליחה, הבעיה היא עדיין בנו, בני האדם.

אמזון ביטלה לאחרונה אלגוריתם לגיוס עובדים שסובל מבעיות, על פי דיווח מאתרויטרס. בסופו של דבר, אלגוריתם הסינון של המועמדים לא החזיר מועמדים רלוונטיים, אז אמזון יכלה את התוכנית. אבל ב-2015, לאמזון הייתה בעיה מדאיגה יותר עם הבינה המלאכותית הזו: זו הייתה נשים בדירוג נמוך יותר.

האלגוריתם שימש רק בניסויים, ומהנדסים תיקנו ידנית לבעיות עם הטיה. עם זאת, האופן שבו האלגוריתם פעל, וקיומו של המוצר עצמו, מדברים על בעיות אמיתיות לגבי פער מגדרי בתפקידים טכנולוגיים ולא טכנולוגיים, ופיחות בעבודה נשית נתפסת.

אמזון יצרה את ה-AI הגיוס שלה כדי להחזיר אוטומטית את המועמדים הטובים ביותר מתוך מאגר קורות חיים של מועמדים. הוא גילה שהאלגוריתם יוריד את הדירוג של קורות חיים כאשר הוא כולל את המילה "נשים", ואפילו שתי מכללות לנשים. זה גם ייתן עדיפות לקורות חיים המכילים את מה שרויטרס כינתה "לשון זכר", או פעלים חזקים כמו "הוצאה להורג" או "לכדה".

דפוסים אלה החלו להופיע מכיוון שהמהנדסים אימנו את האלגוריתם שלהם עם קורות חיים של מועמדים קודמים שהוגשו במהלך עשר השנים הקודמות. והנה, רוב המועמדים האטרקטיביים ביותר היו גברים. בעיקרו של דבר, האלגוריתם מצא עדויות לפער בין המינים בתפקידים טכניים, והותאם עבורו; זה שיכפל באופן ניטרלי אהעדפה חברתית ואנדמיתלגברים שנוצרו ממערכת חינוך והטיה תרבותיתשמעודד גברים ומרתיע נשים במרדף אחר תפקידי STEM.

ייתכן שהציוץ נמחק

ייתכן שהציוץ נמחק

ייתכן שהציוץ נמחק

אמזון הדגישה באימייל ל- Mashable שהיא ביטלה את התוכנית כי בסופו של דבר היא לא מחזירה מועמדים רלוונטיים; הוא התמודד עם בעיית הסקסיזם בשלב מוקדם, אבל ה-AI בכללותו פשוט לא עבד כל כך טוב.

עם זאת, יצירת אלגוריתמי העסקה עצמם - לא רק באמזון, אלא בחברות רבות - עדיין מדברת על סוג אחר של הטיה מגדרית: פיחות הערך של תפקידי משאבי אנוש נשלטים ומיומנויות.

על פי המשרד העבודה האמריקאי(באמצעות חברת ספקית ניתוח כוח האדםמִצחִיָה), נשים תופסות כמעט שלושה רבעים מתפקידי ניהול משאבי אנוש. אלו חדשות נהדרות עבור הייצוג הנשי הכולל במקום העבודה. אבל הפער קיים הודות לסוג אחר של הטיה מגדרית.

יש תפיסה שמשרות משאבי אנוש הן תפקידים נשיים. הגלוב אנד מיילכותב בחקירתו על סקסיזם ופער מגדרי ב-HR:

התפיסה של משאבי אנוש כמקצוע של אישה נמשכת. הדימוי הזה שהוא מבוסס על אנשים, רך ואמפתי, וכל זה עוזר לעובדים להתמודד עם נושאים, משאיר אותו מאוכלס ברובו בנשים כמטפחת הסטריאוטיפית. אפילו היום, מיומנויות "רכות" יותר אלו נתפסות כפחות מושכות - או אינטואיטיביות - לגברים שעשויים להימשך לתפקידים אסטרטגיים, אנליטיים, הרחק מיחסי עובדים.

אמזון וחברות אחרות שחיפשו שילובי AI בגיוס רצו לייעל את התהליך, כן. אבל אוטומציה של תהליך המבוסס על אנשים מראה על התעלמות ממיומנויות מבוססות אנשים שפחות קל לשחזר מכנית, כמו אינטואיציה או קרבה. רויטרס דיווחה שה-AI של אמזון זיהה מועמדים אטרקטיביים באמצעות מערכת דירוג של חמישה כוכבים, "בדומה לקונים לדרג מוצרים באמזון"; מי צריך אמפתיה כשיש לך חמישה כוכבים?

בדיווח של רויטרס, חברות אלו מציעות לשכור AI כמחמאה או השלמה לשיטות מסורתיות יותר, ולא תחליף מוחלט. אבל הדחף מלכתחילה לבצע אוטומציה של תהליך על ידי חלוקה נשלטת מראה את הצד השני של המטבע של העדפת האלגוריתם ל"לשון זכר"; כאשר פעלים "הוצאו להורג" ו"נלכדו" מועדפים באופן לא מודע, "הקשיבו" או "סיפקו" נמחקים כבלתי יעילים.

פיצוץ הבינה המלאכותיתמתבצעת. קל לראות בכל מצגת טלפון חכם אוונגליסטי או בית חכם כמה הרובוט שלך יכול לעשות בשבילך,כולל של אמזון. אבל זה אומר שהחברה פותחת את עצמה ליצור עולם אפילו פחות מכיל. בינה מלאכותית יכולה להכפיל נטיות מפלות בשם האופטימיזציה, כפי שאנו רואים ב-AI הגיוס של אמזון (ואחרים). ומכיוון שבינה מלאכותית נבנית ומובלת גם על ידי בני אדם (ולעתים קרובות, בעיקר בני אדם) שיכולים לעשות זאתהעברה לא מכוונתההטיות הסקסיסטיות הלא-מודעות שלהם להחלטות עסקיות, והרובוטים עצמם.

אז ככל שהמחשבים שלנו נעשים חכמים יותר ומחלחלים לתחומי חיים ועבודה נוספים, בואו נדאג לא לאבד את מה שהוא אנושי - המכונה לסירוגין מה ש"נקבה" - בדרך.

עדכון 10/11/2018, 14:00 PT:אמזון סיפקה ל-Mashable את ההצהרה הבאה לגבי אלגוריתם הגיוס שלה.

"זה מעולם לא שימש מגייסי אמזון כדי להעריך מועמדים."