האו"ם לא כאן בשביל הבדיחות הסקסיסטיות של סירי.

לארגון החינוך, המדע והתרבות של האו"ם (UNESCO) ישפרסם דוח מעמיקעל האופן שבו נשים, נערות והעולם כולו מפסידים כאשר החינוך הטכני והמגזר הטכנולוגי אינם כוללים נשים.

בתוך הדו"ח יש קטע חד כתער על תופעת עוזרי הקול בינה מלאכותית מגדרית, כמו סירי או אלקסה. הדוח כולו נקרא "הייתי מסמיקה אם הייתי יכול", התייחסות לתגובה הכמעט פלרטטנית שסירי הייתה נותנת למשתמש אם הם היו אומרים, "היי סירי, את כלבה". (אפל שינתה את התגובה הקולית באפריל 2019).

"ההתייחסות ה'נשית' של סירי - והסרבנות המובעת על ידי כל כך הרבה עוזרות דיגיטליות אחרות המוקרנות כנשים צעירות - מספקות המחשה עוצמתית של הטיות מגדריות המקודדות במוצרים טכנולוגיים, הנפוצות במגזר הטכנולוגי ובולטות בחינוך למיומנויות דיגיטליות", נכתב בדו"ח. .

הדו"ח הוא יסודי ורחב היקף במטרתו לטעון לקידום התפתחותן החינוכית והמקצועית של נשים בטכנולוגיה. זה הופך את העובדה שהיא תופסת עוזרות קוליות כהמחשה לבעיה הענקית הזו למשפיעה עוד יותר.

הדו"ח מנתח הטיה מגדרית אינהרנטית בעוזרות קוליות לשתי מטרות: להדגים כיצד מקומות עבודה לא שוויוניים יכולים לייצר מוצרים סקסיסטיים, וכיצד מוצרים סקסיסטיים יכולים להנציח התנהגויות מסוכנות ושנאת נשים.

"ההשתתפות המוגבלת של נשים ונערות במגזר הטכנולוגי עשויה להתגלגל החוצה במהירות מפתיעה, לשכפל הטיות מגדריות קיימות וליצור הטיות חדשות", נכתב בדו"ח.

ערוצי חדשות רבים, כולל Mashable, דיווחו כיצד AI יכוללקחת על עצמו את הדעות הקדומותשל יוצריו. לאחרים ישדחה את הסקסיזםהטבועה בעוזרות קוליות ברירת מחדל לנשים, מורכבות כאשר AIs אלו מתנשאים כאשר משתמש שולח שפה פוגענית "לדרכה".

עכשיו, אפילו האו"ם בא בגלל סקסיזם בבינה מלאכותית - מראה שאין שום דבר חמוד בהערות המפייסות של סירי או קורטנה.

זה מדהים להבין את הסקסיזם שמקודד בתגובות הבינה המלאכותית האלה למטרות של משתמשים. זה כמעט כאילו הבינה המלאכותית נוקטת בעמדה של אישה שהולכת על החבל הדק של לא לנזוף ולא לקבל את ההתקדמות הלא רצויה או השפה העוינת של מישהו שיש לו כוח כלפי "ה".

תגובות בינה מלאכותיות בינה מלאכותיות לשפה פוגענית ממחישות את בעיית הסקסיזם בבינה מלאכותית, אך הדו"ח מתייחס לברירת המחדל הגדולה יותר של עוזרות קוליות כנשים. הדו"ח מפרט כיצד היו ההחלטות הללו להפוך את העוזרות הקוליות לנשיםמכוון לחלוטין, ונקבע על ידי צוותי הנדסה גברים בעיקר. עם זאת, להחלטות המוצר הללו יש השלכות מטרידות בכל הנוגע להנצחת נורמות מגדריות מיזוגיניות.

"מכיוון שהדיבור של רוב העוזרות הקוליות הוא נשי, הוא משדר אות שנשים הן עוזרות מחייבות, צייתניות ומשתוקקות לרצות, זמינות בלחיצת כפתור או בפקודה קולית בוטה", נכתב בדו"ח. "העוזר אינו מחזיק בכוח סוכנות מעבר למה שהמפקד מבקש ממנו. הוא מכבד פקודות ומגיב לשאלות ללא קשר לטון או עוינות שלהם. בקהילות רבות, הדבר מחזק את ההטיות המגדריות הרווחות לפיהן נשים כפופות וסובלנות ליחס לקוי. "

מסיבות אלה, הדו"ח טוען שחיוני לכלול נשים בתהליך הפיתוח של בינה מלאכותית. זה לא מספיק, אומר הדו"ח, שצוות ההנדסה הגברי יתייחס להטיות שלהם - שכן הטיות רבות אינן מודעות.

אם אנחנו רוצים שהעולם שלנו - שיותר ויותר ינוהל על ידי AI - יהיה שווה, לנשים צריכה להיות יד שווה בבנייתו.