מי ישמור על השומרים? אֲמָזוֹנָה!

לאמזון ישהנחיות שפורסמועבור תוכנת זיהוי פנים שהיא רוצה שהמחוקקים ישקלו בעת יצירת חקיקה. עם הפוסט, אמזוןמצטרף למיקרוסופטבקריאה להסדרה של הטכנולוגיה, ובמיוחד, יישומה באכיפת החוק.

כפי שמציינת ה-ACLU, ההצעות של אמזון מטילות את הנטל להוכיח "שימוש לרעה" בטכנולוגיה על האנשים המשתמשים בטכנולוגיה - לא על היצרנית, אמזון. הַפתָעָה!

"הצעת מסגרת חלשה אינה פוטרת את אמזון מאחריות למוצר מעקב הפנים שלה", אמרה נימה סינג גוליאני, יועצת מחוקקת בכירה של ACLU, ל-Mashable באימייל.

אמזון פרסמה את ההנחיות המוצעות שלה בפוסט בבלוג של יום חמישי לאחר מבחן ACLUהציג את הפוטנציאל המפלהשל טכנולוגיית זיהוי הפנים שלה, Rekognition. אמזון הייתההטיח בחודש שעברעל מכירת הטכנולוגיה לאכיפת החוק על ידי 85 ארגונים, כולל ארגוני זכויות אדם, ארגוני חירות אזרחית ותומכי רפורמה במערכת המשפט. הACLU מתארהטכנולוגיה כ"מוכנה להתעללות בידי ממשלות" ואומרת שהיא "מהווה איום חמור על קהילות, כולל אנשים צבעוניים ומהגרים".

אמזון מכחישה את הניתוח של ACLU לגבי האופן שבו הטכנולוגיה שלה יכולה למלא תפקיד באפליה. אבל היא מציגה הנחיות חקיקה שהיא מקווה שיהפכו את ההכרה לפחות, אממ, שנויה במחלוקת. בפוסט בבלוג על ההצעות שלה, אמזון כתבה:

בשנתיים פלוס שאנו מציעים אמזון הכרה, לא קיבלנו ולו דיווח אחד על שימוש לרעה על ידי רשויות החוק. אפילו עם רקורד חזק זה עד כה, אנו מבינים מדוע אנשים רוצים שיהיה פיקוח והנחיות שיוקמו כדי לוודא שלא ניתן להשתמש בטכנולוגיית זיהוי פנים כדי להפלות. אנו תומכים בקריאות למסגרת חקיקה לאומית מתאימה המגנה על זכויות האזרח של הפרט ומבטיחה שממשלות יהיו שקופות בשימוש שלהן בטכנולוגיית זיהוי פנים.

ולהכחשה של אמזון, ה-ACLU אומר: לא.

"אמזון אומרת שהיא לא קיבלה דיווח אחד על שימוש לרעה על ידי רשויות החוק, אבל רק בשבוע שעבר היההודעשל שימוש לרעה ולפי הדיווחים לא נקטו פעולה", אמר סינג גוליאני.

Singh Guliani מתכוון לדו"ח של Gizmodo בינואר, שמצא שמחלקת המשטרה היחידה שידועה בשימוש בתוכנת ההכרה של אמזון, מחלקת השריף של מחוז וושינגטון באורגון, לא צייתה להמלצתה של אמזון עצמה לקבוע סף דיוק של 99 אחוז על התוכנה. למעשה, דובר המשטרה אמר שהמחלקה לא משתמשת בשום סף כלל, לפי גיזמודו. (סף יסנן תמונות שאינן תואמות לזו המדוברת מתחת לאחוז מסוים.)

עם זאת, אמזון עומדת על השימוש של משרד השריף בטכנולוגיה, ומכנה אותה "דוגמה טובה לשימוש בזיהוי פנים כדי לסייע לאכיפת החוק ולשפר את ביטחון הציבור", בהודעה שנשלחה ל-Mashable לאחר פרסום הפוסט הזה. אמזון מתארת ​​את ההכרה כ"חוברת צילום של המאה ה-21" וכלי אחד מני רבים בשימוש המשטרה.

"מההתחלה, משרד השריף של מחוז וושינגטון היה שקוף לחלוטין לגבי השימוש שלו בטכנולוגיה ובמדיניות השולטת בו, והוא קיים דיאלוג מתמשך ופתוח עם בתי מחוקקים מקומיים, נציגים והציבור הרחב סביב השימוש בו. במהלך השנתיים של השימוש בו, מעולם לא דווח על תלונה אחת מהציבור ואין בעיות עם המחוז המקומי סביב השימוש שלהם ב-Rekognition", כתבה אמזון בהצהרה.

ההצעה מרחיקת הלכת של אמזון בהנחיות המוצעות שלה היא שכל חקיקת זכויות האזרח הקיימת חלה על טכנולוגיית זיהוי פנים. כלומר, זיהוי פנים צריך להיות אחראי אם יש לו חלק באפליה לרעה של קבוצות מוגנות.

ההערה מציעה גם כי רשויות אכיפת החוק ישתמשו בזיהוי פנים במתכונת אנושית ומוגבלת לחקירותיה. אמזון מציעה כי סקירה אנושית של תוצאות זיהוי פנים חייבת ללוות חקירות, וכי זיהוי פנים יוחזק עד לסף האמון של 99 אחוז. (שוב, משטרת מחוז וושינגטון אמרה לגיזמודו שהיא לא עושה את זה.) בנוסף, אמזון ממליצה לרשויות אכיפת החוק לפרסם דוחות שקיפות לגבי השימוש שלה בטכנולוגיה.

במרחבים ציבוריים מחוץ לאכיפת החוק, אמזון אומרת שהיא תומכת במסגרת חקיקתית לאומית המסדירה כיצד חברות יכולות להשתמש בזיהוי פנים באופן מסחרי. הוא מציע להציב שלטים המודיעים לאנשים כאשר משתמשים בזיהוי פנים.

"אין לאסור או לגנות טכנולוגיה חדשה בגלל השימוש הפוטנציאלי שלה", מסכם הפוסט בבלוג. "במקום זאת, צריך לקיים דיאלוג פתוח, כנה ורציני בין כל הצדדים המעורבים כדי להבטיח שהטכנולוגיה מיושמת כראוי ומשופרת ללא הרף."

האם ההצעות של אמזון משמעותיות להגנה על זכויות האזרח ופרטיותם של אנשים? ובכן, ACLU לא מתרשם.

"המסגרת של אמזון מצלצלת חלולה להחריד, מדגישה את סירובה של החברה לטפל כראוי בסכנות הטכנולוגיה שלה בידי הממשלה, ומחזקת את הצורך הדחוף באמזון לצאת כליל מעסקי המעקב", אמר סינג גוליאני.

ראשית, אין כמעט שיניים חקיקתיות שיחולו על אמזון עצמה בהצעות החברה.

במקום זאת, הוא מדגיש: "הלקוחות שלנו אחראים למלא אחר החוק באופן השימוש בטכנולוגיה". זה דומה לאמירה שאנחנו פשוט מייצרים את הטכנולוגיה, וזה תלוי באנשים להשתמש בה כחוק. זו כשלעצמה עמדה חקיקתית שלא בהכרח צריכה להיות נתונה.

ה-ACLU גם מציינת את זהאמזון הודתהשאין לה דרך פרואקטיבית לדעת האם לקוחותיה משתמשים בזיהוי פנים בצורה מפלה. ושהקריאות של אמזון לשקיפות הן צביעות, בהתחשב בכך שהיא לא תשתף את הקונגרס באילו סוכנויות משתמשות במוצר שלה. ה-ACLU מתנגד לרעיון של סף האמון של 99 אחוז, מכיוון ש"שינוי הסף עושה זאתשׁוּם דָבָרלצמצם את הבלתי נמנע של רשויות אכיפת החוק המשתמשות בטכנולוגיה כדי לקבוע מי ישתתף בהפגנות, מעקב אחר מהגרים או מטרה לקהילות צבעוניות".

ואולי בהתנגדות הברורה ביותר להצעות של אמזון, ACLU מציינת שאין חוק שמסמיך סוכנויות ממשלתיות להשתמש בזיהוי פנים מלכתחילה.

"אמזון אומרת שזיהוי פנים לא אמור להפר את החוק, ובכל זאת היא מתעלמת מהעובדה שאין חוק על הספרים שמאשר את השימוש בו על ידי רשויות אכיפת החוק בכלל", אמר סינג גוליאני.

לחברות טכנולוגיה יש היסטוריה ארוכה -המשתרעת אחורה לעידן מסילות הברזל- של נטילת יד ביצירת החקיקה שמנהלת את הפעילות שלהם. מדובר במתקפת מנע שמאפשרת לחברות לומר "אנחנו בעד רגולציה", ובמקביל לוודא שהרגולציה לא תהיה מסורבלת מדי.

"לתעשייה יש תפקיד בהשתתפות בדיון הציבורי על נושאים, אבל אנחנו צריכים להיזהר מהצעות שנדחפות על ידי התעשייה שאינן לטובת הציבור", אמר סינג גוליאני.

אז כשאמזון - או כל חברה פרטית, באמת - אומרים שהיא "בעד רגולציה", הקפד לבחון מקרוב אתמי באמת מרוויחמהכללים ה"מוצעים" שלו.

לְעַדְכֵּן:פוסט זה עודכן כך שיכלול הצהרה מאמזון המגנה על מחלקת השריף של מחוז וושינגטון באורגון ועל תוכנת זיהוי הפנים שלהם.