החברה המובילה את האשמה על הגנה על זכויות אזרח מפני פגיעה טכנולוגית היא... מיקרוסופט?!

נשיא מיקרוסופט בראד סמית' מסר כמה חדשות מפתיעות עקרוניות על החברה שלו בזמן שנשא דברים באוניברסיטת סטנפורד ביום שלישי. לאחרונה, אמר סמית שמיקרוסופט סירבה למכור את טכנולוגיית זיהוי הפנים שלה הן לסוכנות אכיפת חוק בקליפורניה והן לעיר בירה ללא שם בגלל חששות לזכויות אדם.לפי רויטרס.

זה בניגוד לאמזון, אשרמגןחוזים שלה עם סוכנויות אכיפת חוק שמשתמשות בתוכנת ההכרה שלה, וביקשו להכפיש אתמחקר ACLUשהראה הטיה גזעית בהכרה. מחקר ACLU ואחריםגילו ש-AI של זיהוי פנים פחות מדויק בזיהוי נשים ומיעוטים מאשר גברים לבנים. בגלל הטיה זו, סמית אמר ששימוש על ידי רשויות אכיפת החוק עלול לפגוע באופן לא פרופורציונלי בקבוצות הללו.

"בכל פעם שהם משכו מישהו, הם רצו לבצע סריקת פנים", אמר סמית'. "אמרנו שהטכנולוגיה הזו היא לא התשובה שלך."

כלומר, הפוטנציאל לזיהוי שגוי של מישהו בעצירת תנועה פשוטה כחשוד פוטנציאלי היה גדול מכדי שמיקרוסופט תוכל למכור לסוכנות את הטכנולוגיה. סמית' אמרה גם שהיא מונעת מעיר הבירה במדינה ללא שם את הטכנולוגיה מכיוון שהמעקב הגורף שהיא רצתה ליישם יפגע בחופש ההרכבה.

עם זאת, מיקרוסופט מכרה את הטכנולוגיה לכלא בארה"ב. סמית אמר כי היקף השימוש המצומצם ישכך את החששות הללו, ויש לו פוטנציאל לשפר את הבטיחות בתוך הכלא.

מיקרוסופט התמודדהמחאות של עובדיםעל חוזה עם צבא ארה"ב לפיתוח טכנולוגיית AR HoloLens, במיוחד עבור "קטלניות מוגברת". המנכ"לית סתיה נאדלהדחו את הדחיפה שלהםלעצור את החוזה, בטענה שחובתה של החברה לתמוך בצבא.

גוגלואֲמָזוֹנָהגם התמודדו עם מחאות עובדים (על מנוע חיפוש סיני מצונזר וטכנולוגיית זיהוי פנים, בהתאמה), ושניהםמְפוּטָראוֹתָם.

כחברת טכנולוגיה ממסדית ללא כל סוג של מורשת "אל תהיה רשע", מהלך זיהוי הפנים של מיקרוסופט עשוי להפתיע. סמית' אמר שהחברה לא רצתה להשתתף ב"מירוץ לתחתית", שבו פיתוח ה-AI הטוב ביותר לזיהוי פנים פירושו לאפשר מעקב גורף כדי לצבור נתונים ביומטריים. בשיחה עם סמית', הנציב העליון של האו"ם לזכויות אדם, מישל בצ'לט, קראה לחברות טכנולוגיה אחרות ללכת בעקבותיה.

"בבקשה לגלם את גישת זכויות האדם כשאתה מפתח טכנולוגיה", אמר Bachelet.

זה מדכא שמניעת השימוש של סוכנויות ממשלתיות בטכנולוגיה מכיוון שהיא עלולה לפגוע בזכויות האזרח היא הרף (הנמוך) לשבחים בעמק הסיליקון. ובכל זאת, עמדתה של מיקרוסופט בנושא זה עשויה לגרום לאחרים ללכת בעקבותיו. פאפא גייטס יהיה גאה.