לעוזרות החכמות שנמכרות על ידי חברות טכנולוגיה גדולות יש בעיית סקסיזם. השמות והקולות שלהם הם נקבה ברירת מחדל, יש לתשובות שלהם לשאלותלפעמים לא נכללמידע זהרלוונטי לנשים, ובמיוחד בימים הראשונים - הם ענו לשאלות פרובוקטיביות או פוגעניות בתגובות חצופות כמו "הייתי מסמיקה אם הייתי יכול".

חברות התייחסו לביקורות אלה (כוללמהאו"ם) במובנים מסוימים: אתה יכול להפוך את הקול של סירי לגברי, ואת אלכסה עכשיונסגרשאילתות רמיזות מיניות או מטרידות עם תשובות כמו "אני לא מתכוון להגיב לזה"; בעבר, אלכסה אמרה "תודה."

זה לא מספיק.

בספר חדש שפורסם בספטמבר הקרוב על ידי MIT Press שנקראהאישה החכמה: מדוע סירי, אלקסה ומכשירי בית חכמים אחרים זקוקים לאתחול פמיניסטי, שני חוקרים משרטטים את הדרכים שבהן הוקצו בינה מלאכותית, רובוטים ומכשירים דיגיטליים אחרים - ומשחקים - את התפקידים שהיו בדרך כלל ממלכתה של עקרת הבית של שנות החמישים (או לפחות מה שאנשים דמיינו אותה). הכירו את האישה החכמה: היא מטפלת בעבודות הבית, מטפלת בבני משפחה ומספקת חברות (ואפילו לפעמים מין).

המחברים טוענים שקיומה של "האישה החכמה" הוא תוצאה של אינספור תופעות חברתיות המתרחשות כולן בבת אחת: מחסור בנשים שרוצות להיות עקרת הבית המושלמת הזו, חברה שדורשת מספר הכנסות לכל משק בית, פיחות של עבודת בית והערך הייחודי שבן אדם מביא לה, תאוות הבצע והידע השיווקי של חברות הטכנולוגיה ועוד.

זו הסיבה שראיית המכשירים האלה כ"רעיות חכמות" - מבלי להסוות את האופן שבו הם מגדרים באמצעות מפרט נייטרלי מגדרי - היא דרך ברורה יותר לראות את הטכנולוגיה הזו כפי שהיא: הנצחה של החברה הנשלטת על ידי גברים, לא רק מכשירי צריכה.

ישבנו עם המחברים שלהאישה החכמה, ג'ני קנדי ​​ויולנד סטרנג'רס, כדי ללמוד עוד על התפקיד שממלאות הנשים החכמות בעולם, וכיצד נוכל לאתחל אותן לטובה. לעולם לא תדבר שוב עם אשתך החכמה באותה צורה.

שיחה זו נערכה לצורך אורך ובהירות.

Mashable: מהי "אישה חכמה"?

YS:אישה חכמה היא סוג של מכשיר רובוטי, בינה מלאכותית או מכשיר דיגיטלי שנוטל על עצמו את עבודת האישה המסורתית בבית. אנחנו מתכוונים למשימות כמו משק בית, בניית בית, עבודה רגשית וטיפול, וגם טיפול אינטימי כולל מין. אנו מסתכלים על מגוון של נשים חכמות בספר, החל מעוזרות קוליות דיגיטליות ועד רובוטי מין, ואנחנו בוחנים את קווי הדמיון בין המכשירים הללו לבין צורות מסורתיות של נשים בחברות שונות, במיוחד עקרת בית משנות החמישים, וכיצד המכשירים הללו מביאים אותם לעשות כמה מתפקידי האישה המסורתיים האלה בבית.

JK: חשבנו גם תחת האישה החכמה כל סוג של ייצוג של מכשירים מסוג זה בתרבות הפופולרית, כמו סרטי מדע בדיוני, תוכניות טלוויזיה שמציגות סוג של AI נשית ומכשיר רובוטי [כגון נשות סטפורד או אפילו הפמבוטים של אוסטין פאוורס ].

YS: העיצוב וההשראה לאישה החכמה בצורתה הפיזית הגיעו למעשה מסיפורים בדיוניים ומתרבות פופולרית. [הערת העורך: המחברים כותבים בספרם "ההשראה של אלכסה הגיעה מקול המחשב שהוצג על סיפון ה-Starship Enterprise בזיכיון של מסע בין כוכבים של שנות ה-60 ל-1990. למעשה, מייסד ומנכ"ל החברה שלה, ג'ף בזוס, הוא גם טרקי— קישור נוסף בין מדע בדיוני פופולרי לנשות החכמות של עמק הסיליקון."]

יש לנו צורה מאוד צרה של נשיות בתצוגה כאן, ומתוכנתים במגוון רחב של מכשירים, ובזה אנחנו עוסקים בעיקר.

מה יש במכונה המבצעת פעילויות שאינן מגדריות מטבען - אבל הפכו להיות כאלה בדמיוננו התרבותי - שהופך את הפעולות הללו של המכונה למגדריות?

YS: בדיוק הדברים שנתנו לרובוטים ולעוזרים דיגיטליים ובינה מלאכותית לעשות הם העבודה הנשית המסורתית של הבית. זה כשלעצמו הוא סט מעניין של החלטות לגבי מה שהמכשירים האלה מובאים לעשות. גם שם יש הנחה שעבודה מסוג זה - במיוחד עבודה רגשית ואכפתית - ניתנת למיקור חוץ למכשיר ולמכונה. העובדה שאנחנו אומרים, נו, נוכל לתת את זה לרובוט, או שנוכל לתת את זה למכונה, במקום להסתכל על תפקידו של מי לעשות את זה, אילו מגדרים עושים זאת בעיקר, ואיך אולי אנחנו צריך להתייחס לדינמיקת העבודה בבית ומחוצה לו, נראה שהתשובה היא האישה החכמה. השאלה שאנו מעלים היא האם זה צריך להיות?

הגדול השני הוא הצורה שלהם. הקימור של הרובוטיקה, והסוג הגלילי של העיצוב, ובמקרים מסוימים, המגדר והמיניות הגלויה מאוד של מכשירים היא מאוד נשית מאוד במובן מאוד סטריאוטיפי. זה כן תופס טווח. יש הכל, החל מהקימורים של המכשיר ועד לסוג מיני של רובוט מין או מכשיר גינואיד שנשים.

JK: דוגמה נוספת הפוכה לזה היא Roomba. למכשיר עצמו אין שם מגדר או קול. ובכל זאת ההשם הפופולרי ביותרכי זו רוזי, דמות נשית, סוג של דמות משנות החמישים [הערת העורך: רוזי רובוט משק הבית מהג'טסון היה גםהשראהליוצר של Roomba]. בדמיון הפופולרי, יש קשר בין המכשירים הלא-מגדריים בעליל, לבין מי שמבצע סוג כזה של עבודה בבית. והם כל הזמן מחוברים מחדש.

ייתכן שהציוץ נמחק

Mashable: מה ההשפעה של חיבור עוזרים דיגיטליים לעבודה המדומיינת של "רעיות"?

JK: הבעיה העומדת בבסיסה היא שהיא מחזקת את האופן שבו מוערכים או מופחתים כיום עבודת בית ורבייה. זה לא תורם לדמיון מחודש של כמה חשובות העמלים האלה, ועד כמה הם נחוצים, ועד כמה הם צריכים להיות מוערכים.

YS: יש כל כך הרבה אפקטים. חלקם מתייחסים לאופן שבו אנו מתייחסים למכשירים שלנו. כאשר יש להם אישיות משרתת נשית ידידותית, המשתמשים מבינים שהם פתוחים יותר להתעללות. הבעיה היא לא שאנחנו מתעללים במכשיר, אבל מה שאנחנו עושים זה שימוש לרעה בסוג של צורה נשית, שיכולה לחזק סקסיזם רחב יותר והתעללות בחברה, החל מעלבונות מזדמנים ועד לאופן שבו המכשירים האלה נרשמים למצבי אלימות במשפחה. [הערת העורך: המחברים דנים בספרם בתפקידה של הטכנולוגיה, לרבות עוזרות חכמות, באלימות במשפחה, לרבותלימודיםשמראים כיצד "טכנולוגיות ניידות מספקות הזדמנויות לעבריינים ליצור תחושה של "נוכחות בכל מקום" כדי לבודד, לשלוט, לעקוב, להשפיל, להעניש ולהתעלל בנשים במצבי אלימות במשפחה."]

יש סל שלם של אפקטים.

Mashable: האם הפיכת המכשירים האלה לנייטרליים מגדריים יגרום להם להיות פחות סקסיסטים?

JK: לא, כי מה שזה בסופו של דבר עושה גורע מהאופן שבו יש בעיות סקסיזם בבינה מלאכותית ובתעשיית הבינה המלאכותית. אם רק נהפוך הכל לנייטרלי מגדר, אז מה שאנחנו לא עושים זה להתייחס לכל מה שעומד בבסיס העבודה שהם עושים, הדרך שבה אנחנו כחברה מעריכים סוג כזה של עבודה, האופן שבו מקצועות שונים ועבודה שונה מרובדת.

YS: אנחנו לא נגד הרעיון של קולות ניטרליים מגדרית. אבל זה לא באמת אפשרי להפוך אותם לנייטרליים מגדריים. עצם הפיכת הקול שלהם לנייטרלי מגדר לא הופך אותם למעשה לנייטרלי מגדר. מה שאנחנו רואים קורה הוא שאנשים מכניסים קול ניטרלי מגדר למכשיר, או מספקים אפשרויות קול ניטרליות מגדריות, ואז הם אומרים, אוקיי, הבעיה נפתרה. ואנחנו פשוט לא חושבים שזה מספיק טוב.

מה בדיוק יהפוך את המכשירים האלה ל"ניטרלי מגדר"?

JK: זה בסך הכל ניסיון להסיט אחריות על אחריות ביתית וטיפול חיוניים אל נשים חכמות, במקום לשקול כחברה כולה, איך אנחנו מעריכים ואיך אנחנו נותנים מענה לעבודה ולצורך הזה.

YS: במקרים מסוימים הם בהחלט שימושיים. אנו מכירים בכך שיש כמה יתרונות בשימוש במכשירים אלה. אבל אם הם הפתרון לטיפול בגילאים, למשל, או להורות לילדים, או לעשות עבודות בית, זו שאלה ענקית. ואיכשהו פשוט קפצנו לנשים חכמות בתור התשובה, כי זה נראה כמו פתרון קל. אבל בכל המקרים, זה לא הפתרון הטוב ביותר. במקרים מסוימים, אנו זקוקים לבני אדם. אנחנו לא יכולים פשוט להניח שאפשר וצריך להעביר את העבודה האלה למיקור חוץ לטכנולוגיות רובוטיות ואוטומטיות.

בין אם הוא גלוי או סמוי יותר, האם שמירה על AI מקושר עם "האישה" משרתת מטרה?

YS: הסטריאוטיפים המגדריים של מכשירים אלה משרת מטרה. החברות שעושות את זה משתמשות בצורה הנקבית כי זה משהו שאנשים מכירים, זה לא מאיים, זה יותר ידידותי, אנחנו מוצאים את זה מנחם. אז סביר יותר שנקבל מכשירים בעלי אישיות נשית לתוך חיינו ואל הבתים שלנו. וזה גורם לנו להשתמש בהם. אבל זה יוצר פגיעויות פוטנציאליות מסביבאיומי פרטיות ואבטחה. אבל הוא גם מתעלם מההשפעות שיש למכשירים האלה בעולם שמתרחבים הרבה מעבר למה שאנו רואים בחיינו ובסביבה הקרובים.

מחקר הראה כיצד מכשירים מזיקים לסביבה, ובמיוחד לאנשים שוליים אשר כורים את המינרלים, או מייצרים אותם במרכזי ייצור, או נחשפים איכשהו לפסולת האלקטרונית בצד השני. אחת הבעיות עם הצורות הנשיות של המכשירים האלה היא שהם סוג של מסווה את ההשפעות האלה עבורנו. הם גורמים להם להיראות כאילו הם עושים טוב בעולם. הם משאירים אותנו חסרי תחושה להשפעות הללו, ובוודאי מגנים עלינו מלראות את ההשפעות האמיתיות של המכשירים הללו.

האם הייתם אומרים שהגישה הנשית היא הסוס הטרויאני לדרך שבה אנחנו מקבלים את המכשירים האלה?

JK: בהחלט. התאגידים האלה רוצים את המכשירים האלה בבתים שלנו, הם רוצים שנקבל אותם בברכה. ולכן הפיכתם למושכים וידידותיים ותמימים ככל האפשר היא גורם מרכזי בכך.

איך תעשיית הטכנולוגיה והצרכנים יכולים להפוך את הבינה המלאכותית לפחות סקסיסטית?

JK: בעצם איך משנים את הפטריארכיה? זו בעיה של החברה שלמה, זה פשוט לא האנשים שעובדים בתעשיית הטכנולוגיה, או האנשים שרוכשים את המכשירים. גם החברה והתרבות הרחבה יותר הם יושבים בתוכה. אין תיקון אחד פשוט.

בספר שלנו אנו נותנים תשע הצעות כחלק ממניפסט ה"אתחול מחדש" של האישה החכמה שלנו, שהיא נקודת מוצא לחשיבה על מה צריך לשנות, אבל עם כמה המלצות ספציפיות למדי.

הצעה אחת היא לחשוב על איך אנחנו מעורבים בטכנולוגיה, איך אנחנו מייצגים את הטכנולוגיה. מה לגבי תכנות מכשיר כדי לדחוק נגד משתמשים שמחליטים לקרוא להם כלבה? הכל קשור למיקרו-אגרסיות, והדרך שבה הן ניזונות לבעיות חברתיות גדולות יותר. ולכן אחת הדרכים שבהן אנו יכולים לעשות זאת היא לחשוב האם המכשירים האלה נדחפים לאחור בצורה שהם רוצים שהם יעברו, או שהם פשוט ממשיכים לאפשר את אותן התנהגויות ישנות?

יש כבר כמה דוגמאות מצוינות להתרחשות זו, שבה רובוטיקאיות ומעצבות פמיניסטיות חושבות על איך לעצב את המכשירים האלה בכבוד ובכבוד, ועם היכולת להיסגר אם יתעללו בהם, או להודיע ​​לאנשים כשהם מתנהגים בצורה לא הולמת.

הצעות נוספות כוללות בחינת דרכים לשבור את הקשר הגברי בין "הבנים והצעצועים שלהם" בתעשיית הבית החכם ובאופן ההנחה מי מתעניין בטכנולוגיות הללו. וכמובן אנו גם בוחנים כיצד ניתן לשנות את התעשייה, לא רק על ידי עידוד יותר נשים בטכנולוגיה, אלא גם על ידי האצת הכללת דיסציפלינות אחרות של מדעי החברה בעיצוב ובתכנות של נשים חכמות, שהן לא רק טכנולוגיות מתקדמות אלא גם דרכי התערבות בחברות.

YS: הצעה נוספת שאנו מציעים היא להתמקד במה שכבר יש לנו, כלומר נשים חכמות, ולנסות להרחיב ולגוון את מה שהם עושים, איך הם מתנהגים, איך הם מגיבים, איזה סוג של אישיות יש להם, אז אנחנו לא רק שצורת הנשיות האחת והדי אחידה הזו תשוכפל בהמוניהם ברחבי העולם כולו. כי זה באמת בעייתי. בספר, אנחנו מדברים על זה במונחים של queering של האישה החכמה. תסתכל על זה ככה, לא היינו מצפים לעסוק רק בסוג אחד של אדם או אישיות בחיינו, אז למה שנצפה לזה מהעוזרים הקוליים הדיגיטליים שלנו, בינה מלאכותית ורובוטים?

אנחנו צריכים כמה רעיונות חדשים, קצת דמיון חדש, איזה חדשנות חדשה. עוד אחת מההצעות שלנו היא להסתכל על המדע הבדיוני כמקור השראה לנשים חכמות. יש כבר קשר ברור בין הנשים החכמות שאנו רואים על המסך לבין אלה שיש לנו בבתים שלנו. אבל שניהם עוקבים אחר קווי עלילה טיפוסיים למדי ולעתים קרובות בסופו של דבר תופסים תפקידים מוכווני שירות או דמויי שנות החמישים, עם מגוון תקלות או פגמי אישיות המואשמים על הנשים המלאכותיות הללו. מכיוון שיש קשר כל כך ברור בין מה שאנחנו רואים על המסך, לבין מה שאנחנו רואים בתרבות הפופולרית, לבין מה שאנחנו רואים עכשיו בבתים שלנו, אנחנו צריכים לראות קצת וריאציה. בהשראת קמפיין "אם היא יכולה לראות את זה היא יכולה להיות זה" של מכון ג'ינה דייוויס, שעוסק בשיפור הייצוג של נשים ונערות מהחיים האמיתיים על המסך, אנו מציעים משהו דומה לאישה החכמה. הרעיון הוא שאם נוכל לראות קווי עלילה ואישיות מגוונים יותר עבור הנשים הדיגיטליות הללו על המסך, אז זה גם יתן השראה לכיווני עיצוב חדשים עבור הזנים שיש לנו בבתים שלנו.

חלק מההצעות האחרות שלנו הן מעשיות יותר, כמו שינוי הדרך שבה אנחנו מדברים על נשים חכמות בתקשורת. במקום כותרות המאשימות את הבינה המלאכותית הנשית בתקלות שלהן, אנו מציעים לדבר על הבעיות של המכשירים האלה ביחס לאנשים שמייצרים אותם. אז כותרת כמו "סירי צריכה לשטוף את הפה שלה במים וסבון" (הכוונה לתגובה גזענית שסירי נתנה בזמנו) הופכת למשהו כמו "האלגוריתמים של אפל מביאים לכך שסירי עושה השמצות גזעיות".