אין הפתעה כאן:ChatGPTהוא עדיין לא תחליף אמין עבור קציני גיוס אנושיים ומגייסים.

במחקר שפורסם לאחרונה מאוניברסיטת וושינגטון, האינטליגנטיםAIצ'אטבוט דירג שוב ושוב יישומים שכללו כיבודים ואישורים הקשורים למוגבלות נמוכים מאלה עם יתרונות דומים, אך לא הזכיר מוגבלויות. המחקר בדק כמה מילות מפתח שונות, כולל חירשות, עיוורון, שיתוק מוחין, אוטיזם והמונח הכללי "נכות".

החוקרים השתמשו באחד מהקורות חיים הזמינים לציבור של המחבר בתור בסיס, ולאחר מכן יצרו גרסאות משופרות של קורות החיים עם פרסים והצטיינות שרמזו על מוגבלויות שונות, כגון "פרס טום וילסון למנהיגות מוגבלות" או מושב בפאנל של DEI. לאחר מכן ביקשו החוקרים מ-ChatGPT לדרג את המועמדים.

ב-60 ניסויים, קורות החיים המקוריים דורג במקום הראשון ב-75 אחוז מהמקרים.

"קורות החיים בדירוג עם AI מתחיל להתרבות, אך אין הרבה מחקר מאחורי האם זה בטוח ויעיל", אמרה קייט גלזקו, סטודנטית לתואר שני במדעי המחשב והנדסה והמחברת הראשית של המחקר. "למחפש עבודה נכה, תמיד יש את השאלה הזו כשאתה מגיש קורות חיים האם אתה צריך לכלול אישורי מוגבלות. אני חושב שאנשים עם מוגבלות רואים את זה גם כשבני אדם הם הסוקרים".

ChatGPT גם "הזהה" נימוקים מסוגלים מדוע מחלות נפשיות ופיזיות מסוימות יפריעו למועמדים לבצע את העבודה, אמרו חוקרים.

"חלק מהתיאורים של GPT יצבעו את כל קורות החיים של אדם בהתבסס על מוגבלותו וטענו כי מעורבות עם DEI או מוגבלות עלולה לקחת חלקים אחרים של קורות החיים", כתב גלזקו.

אבל חוקרים מצאו גם שניתן לרסן חלק מהתכונות המדאיגות על ידי מתן הוראה ל-ChatGPT לא להיות מסוגל, באמצעות תכונת עורך ה-GPTs כדי להזין אותו בצדק עם מוגבלות ובעקרונות DEI. קורות חיים משופרים לאחר מכן ניצחו את המקור יותר ממחצית המקרים, אך התוצאות עדיין השתנו על סמך הנכות שנרשמה בקורות החיים.

הצ'אטבוט של OpenAI הציג הטיות דומות בעבר. בחודש מרץ, אבלומברגחקירה הראתה שדגם ה-GPT 3.5 של החברה מוצגהעדפות גזע ברורותעבור מועמדים לעבודה, ולא רק ישכפל נוהלי גיוס מפלים ידועים, אלא גם יחזור על סטריאוטיפים על פני גזע ומגדר כאחד. בתגובה, OpenAI אמרה שהבדיקות הללו אינן משקפות את השימושים המעשיים של דגמי הבינה המלאכותית שלהם במקום העבודה.