האיגוד האמריקאי לחירויות האזרח בדק את תוכנת זיהוי הפנים בזמן אמת של אמזון Rekognition על ידי השוואת תמונות של חברי קונגרס לתמונות, ו-28 חברים זוהו בטעות כאנשים בתמונות. קרדיט: Viktoria Bykova/Shutterstock
של אמזוןתוכנת זיהוי פנים Recognition לא יכולה אפילו לזהות נכון את חברי הקונגרס.
האיגוד האמריקאי לחירויות האזרח בדק את תוכנת זיהוי הפנים בזמן אמת (היכולה לזהות כל פנים בקהל) על ידי השוואת תמונות של חברי קונגרס לתמונות, ו-28 חברים זוהו בטעות כאנשים בצילומי המאג.
מחקר זה הוא חלק מהמסע של ACLU לגרום לקונגרס לאסור על אכיפת החוק להשתמש בטכנולוגיית זיהוי פנים בטענה שהוא מחזק את הביקורת על כך שתוכנת זיהוי פנים סובלת מה-הטיות גזעיותשל האנשים שיוצרים אותם. מתוך 28 התוצאות החיוביות השגויות במחקר, שש מהתמונות היו אלה מהוועדה השחורה של הקונגרס. יתר על כן, למרות שנציגי צבע מהווים רק כ-20% מהקונגרס, הם עדיין היוו יותר מ-40% מהתוצאות הכוזבות.
אמזון שיווקה בהצלחה את ההכרה לסוכנויות אכיפת חוק ברחבי הארץ, וה-ACLU התגייס עם ארגוני זכויות אזרח אחרים כמו קרן Electronic Frontier כדי לעצור סוכנויות מלהשתמש בטכנולוגיה הזו למעקב (לא, לטענת אמזון, מה יצרה הטכנולוגיה שכן, למרות שה-ACLU מצאה שהוא משווק לערים למטרות כאלה).
ג'ייקוב סנואו, עורך דין טכנולוגי וחירויות האזרח של ה-ACLU, סיפרניתן למעוךשהוא ערך את המבחן הזה של פני חברי הקונגרס בפחות מ-13 דולר, מה שמדגיש עד כמה זה זול ונגיש - למרות שהתוצאות לא מדויקות. למרות שחלק מהתוצאות הכוזבות היו דומות במראה, אמר סנו, השורה התחתונה היא שדומה לא אומר אותו דבר.
אבל הדמיון הזה, אמר, יכול להיות ההבדל בין חיים או מוות.
"אחד הדברים המסוכנים בהצגת המידע הזה בהקשר של אכיפת חוק הוא שיכולים להיות הבדלים - בתאורה, בזוויות, בגיל - אז זה יכול להיות באמת קשה לומר רק על סמך התמונות שהם אותו אדם," אמר סנואו. "לזיהוי פנים יש אפשרות להציע למשתמש באכיפת החוק שיש התאמה. ואז יש סבירות גבוהה או סבירות סבירה שמשתמש אכיפת החוק יבטח במערכת ולא יחיל את אותה רמת ספקנות".
Mashable Top Stories
אלו הם 28 חברי הקונגרס שזוהו בטעות בתצלומים: ג'ון איסקסון (אר-ג'ורג'יה), אדוארד מרקי (די-מסצ'וסטס), פט רוברטס (אר-קנזס), סנפורד בישופ (ד-ג'ורג'יה), ג'ורג' באטרפילד (ד-קרוליינה הצפונית). ), לייסי קליי (D-Missouri), מארק דה-סולנייה (D-California), אדריאנו אספאילט (D-New York), רובן גאלגו (ד-אריז), תומאס גארט (אר-וירג'יניה), גרג ג'אנפורטה (ר-מונטנה), ג'ימי גומז (ד-קליפורניה), ראול גריאלווה (ד-אריז), לואיס גוטיירס (די-אילינוי), סטיב נייט (ר-קליפורניה), לאונרד לאנס (ר-ניו ג'רזי), ג'ון לואיס (די-ג'ורג'יה), פרנק לוביונדו (ר-ניו ג'רזי), ודיוויד לובסאק (די-איווה). קרדיט: ACLU
הוועד השחור של הקונגרס לאחרונה אפילו כתב אמִכְתָבלבוס אמזון, ג'ף בזוס, שהביע את חששותיו מההשלכות הלא מוצדקות של טכנולוגיית זיהוי הפנים שמכרה ענקית המסחר האלקטרוני שלו על אנשים שחורים, מהגרים לא מתועדים ומפגינים.
משרד השריף של מחוז וושינגטון באורגון ומשטרת אורלנדו כבר משתמשים ב-Rekognition.
למרות שאורלנדו מפעילה רק את ההכרה (עבור הפעם שניה), השימוש בו זכה לתגובה מהקהילה מסיבות שונות, כולל שהפיילוט הראשון נעשה ללא התייעצות עם הציבור וכי הוא מתרחש בעיר כה מגוונת בזמן של מחאה מתגברת.
"זה מדגיש שיש נזק אמיתי וקונקרטי שיכול להגיע לציבור אם ייפרס זיהוי פנים, במיוחד על ידי רשויות אכיפת החוק", אמר סנו.
"100 אחוז מההתאמות שקיבלנו היו לא מדויקות, וזה באמת מדגיש כיצד זיהוי פנים יכול להצביע על כך שיש התאמה הדוקה בין שתי פנים כאשר למעשה ההתאמה הזו לא קיימת".
אולי חברי הקונגרס יגיבו עכשיו כשהם יודעים איך זה מרגיש כשהם מקבלים זיהוי שגוי. אבל בלי קשר, זה רק עוד אירוע שמראה איך זיהוי פנים פשוטלא יכול לעשות את העבודה שלונְכוֹנָה.
עדכון: 26 ביולי 2018, 12:07 בערב EDTאמזון סיפרהניתן למעוך, "בהתייחס לבדיקה האחרונה של זיהוי אמזון על ידי ה-ACLU, אנו חושבים שככל הנראה ניתן לשפר את התוצאות על ידי ביצוע שיטות עבודה מומלצות לגבי קביעת ספי הביטחון (זהו אחוז הסבירות ש-Rekognition מצא התאמה) המשמשים בבדיקה. "
עדכון: 27 ביולי 2018, 11:51 בבוקר PDTאמזון פרסמה אפוסט בבלוגיום שישי שהתייחס לשימוש של ACLU בכלי. זה כינה את תוצאות ה-ACLU "מתפרשות לא נכון".
היא הדגישה קביעת רף ביטחון גבוה יותר לתרחישי בטיחות הציבור. "יש הבדל בין שימוש בלמידת מכונה לזיהוי חפץ מזון ובין אם התאמת פנים צריכה להצדיק לשקול כל פעולה של אכיפת החוק. זו האחרונה היא עסק רציני ודורש רמות ביטחון גבוהות בהרבה", נכתב בפוסט.
הפוסט הסתיים באנלוגיה של אפיית פיצה כדי להסביר כיצד למידת מכונה היא תהליך ומשתפרת כל הזמן ככל שמתווספים נתונים נוספים. "לא כדאי לזרוק את התנור כי הטמפרטורה יכולה להיות מוגדרת לא נכונה ולצרוב את הפיצה", הסתיים הפוסט.
ניוזלטרים אלה עשויים להכיל פרסומות, עסקאות או קישורי שותפים. בלחיצה על הירשם, אתה מאשר שאתה בן 16+ ומסכים לנותנאי שימושומדיניות פרטיות.
