אל תשימו לב לקבלן ששכרם נמוך מאחורי הווילון.
אדו"ח בלומברגביום רביעי זעזע את הקוראים עם החדשות כיאמזון אקומכשירים בבתיהם שולחים באופן ספורדי הקלטות אודיו הן לקבלנים והן לעובדים ברחבי העולם. במקום באג מקרי שיש לתקן במהירות, תרגול זה הוא המפתח למה שגורם לאקסה לעבוד: העובדים מקשיבים להקלטות ומתמללים אותן במאמץ לשפר את יכולות זיהוי הדיבור של העוזרת הדיגיטלית.
אה, והם גם חולקים את האודיו ביניהם לצחוק.
מובן,אֲנָשִׁים היו מזועזע עַל יְדֵי את חֲדָשׁוֹת. אבל רגע, זה נהיה יותר גרוע. לפי בלומברג, "האודיטורים מתמללים כל אחד עד 100 הקלטות ביום כאשר אלקסה לא מקבלת פקודת ערה או מופעלת בטעות". זה אומר ש-Amazon Echos מקליטים אנשים בבתיהם באופן אקראי - ללא ידיעת אותם אנשים - ושולחים את האודיו בחזרה לאמזון, שם אנשים אמיתיים מאזינים ולעיתים לועגים לו.
זו לא הפעם הראשונה שאנחנו נאלצים לעשות ניסוי זוגי קולקטיבי על מנת ללמוד כיצד טכנולוגיה חכמה כביכול עובדת בפועל. בינואר, הדווח על יירוטשב-2016 מצלמות האבטחה של Ring נתנו "גישה כמעט בלתי מוגבלת" לזרמי הווידאו הלא מוצפנים של לקוחות Ring. רינג שיווקה את הבינה המלאכותית המפוארת שלה כיכולהלהבחין ביןמכוניות ואנשים, אבל מסתבר שבני אדם היו כאלהלפי הדיווחים צורךלתת כמה ידיים לא דיגיטליות עוזרות.
טבעת הייתהנרכש על ידי אמזוןבשנת 2018.
מהירות אור ניתנת לריסוק
שני התקריות האלה של טכנולוגיה חכמה בעצם היותה פלישה לפרטיות בהובלת אדם מדאיגים, אבל לא מבודדים. בשנת 2017, ספקית התוכנה לניהול הוצאות Expensify מצאה את עצמה במערבולת יחסי ציבורהגילויששילמה לבני אדם כדי לבדוק קבלות שהועלו לפלטפורמה במסווה של תכונת "SmartScan". האנשים שראו היכן בזבזת את כספך - ובמקרה של קבלה של Uber, אולי היכן אתה גר - לא עבדו עבור Expensify, אלא עשו את העבודה קטנטן כחלק מהפלטפורמה Mechanical Turk שבבעלות אמזון.
מתחילים לראות דפוס?
מקרה ה-Echo, למרות שהוא מטריד במיוחד, הוא גם אינפורמטיבי. אפילו לחברה כל כך יודעת וחזקה כמו אמזון עדיין אין את התחכום הטכנולוגי הדרוש כדי לממש את ההבטחה לאינטראקציה חלקה של רמקולים חכמים ללא סיוע של אנשים אמיתיים מאחורי הקלעים שמקדישים שעות.
אז בפעם הבאה שתתלהב מיכולות ה-AI העתידניות לכאורה של הטכנולוגיה, זכרו שיש סיכוי טוב שהקסם הדיגיטלי הוא יותר חומר אפור ממה שנראה לעין.
עדכון: 12 באפריל, 2019, 10:02 בבוקר PDT:אמזון סיפקה הצהרה שבחלקה מערערת על הדיווח של בלומברג לפיו "כל מבקרים מתמללים עד 100 הקלטות ביום כאשר אלקסה לא מקבלת פקודת ערה או מופעלת בטעות".
ההצהרה, של דובר אמזון, נכתבת כך:
"כברירת מחדל, מכשירי Echo מתוכננים לזהות רק את מילת ההתעוררות שבחרת (Alexa, Amazon, Computer או Echo). המכשיר מזהה את מילת ההתעוררות על ידי זיהוי תבניות אקוסטיות התואמות למילת ההתעוררות. אין אודיו מאוחסן או נשלח לענן אלא אם המכשיר מזהה את מילת ההתעוררות (או אלקסה מופעלת על ידי לחיצה על כפתור)."
