טכנולוגיית זיהוי הפנים של אמזון, Rekognition, ממשיכה לעורר מחלוקת.

במסמכים שהגיעו לאחרונה על ידיחדשות BuzzFeed, כעת יש לנו מבט מאחורי הקלעים כיצד משטרת אורלנדו השתמשה בטכנולוגיה. לאחר שהעיר נתנה לתוכנית הפיילוט המקורית לפוגלאחר סערה ציבורית, אורלנדו התחילה תוכנית פיילוט שנייה עם מספר "מוגברת" של מצלמות סריקות פנים.

ההכרה של אמזון מתוארת באופן נרחב ככלי ניתוח חזותי. אבל, נפרס על ידי רשויות אכיפת החוק, הוא יכול לסרוק פנים שנתפסו במצלמה ולהתאים אותם לפרצופים במאגרי מידע פליליים. ה-ACLU כינה את הטכנולוגיה "מיועדת להתעללות בידי ממשלות" והזהירה כי היא "מהווה איום חמור על קהילות, כולל אנשים צבעוניים ומהגרים".

בנוסף, מהמסמכים עולה כי אמזון סיפקה למשטרת אורלנדו עשרות אלפי דולרים של ציוד הדרוש לתוכנית ההכרה בעלות אפסית. מסמכים חושפים גם "הסכם סודיות הדדי" על מנת להרחיק מידע על התוכנית מהציבור.

למשטרת אורלנדו לא היה קל לעבוד עם טכנולוגיית סריקת הפנים של אמזון, כך עולה ממסמכים. הם דיווחו על מספר פגמים עם המכניקה הפשוטה ביותר, כמו אפילו הפעלת זרם זיהוי פנים. המסמכים גם מראים שאמזון סיפקה מעט עזרה בכל הנוגע ללמד המשטרה כיצד להקים ולהפעיל את מערכת ההכרה.

נכון לעכשיו, אורלנדו מפעילה שלוש מצלמות זיהוי IRIS, אשר סורקות רק התאמות של מתנדבי בדיקה נוכחיים ממשטרת אורלנדו.

מסמכים אלה מדגימים עד כמה גרועה נראה שטכנולוגיית זיהוי הפנים של אמזון עובדת בשלב זה. ביולי פרסמה ה-ACLU דו"ח שטען ש-Rekognition טעה בזיהוי של 28 חברי קונגרס כחשודים בפושעים. כמו שאנחנוצוין בעבר, למרות שאנשים צבעוניים היוו רק כ-20% מהקונגרס, הם היוו יותר מ-40% מהתוצאות השגויות.

אולי אמזון צריכה להעריך עוד יותר את טכנולוגיית ההכרה שלה לפני שהיא מציגה את הטכנולוגיה שלה למחלקות משטרה וסוכנויות ממשלתיותכמו ICE.