ביום חמישי,אֲמָזוֹנָה מְאוּשָׁראדִוּוּחַמהחברה המקומית של סיאטל CBS KIRO-7 על משפחה של אורגוןאמזון אקושליחת שיחת שמע פרטית לאדם אקראי ברשימת אנשי הקשר שלו.

מטבע הדברים, אנשים נכנסים לפאניקה.אלכסה מרגלת אחרינו!

אבל האם אלקסה באמת התבאסה? האינסטינקט הראשון שלי הוא כן, אבל במחשבה שניה אולי לא.

לסיכום: זוג דיבר על רצפות עץ והשיחה איכשהו הפעילה את אחד מהאמזונים שלהם, ששלח את השיחה כהודעת אודיו לאחד החברים שלהם שרשום ברשימת אנשי הקשר שלהם.

ואמזון אישרה את התקרית לאחר שמהנדסים בדקו את יומן המכשיר. החברה סיפקה ל-Mashable את ההצהרה הבאה על מה שקרה:

"הד התעורר עקב מילה בשיחה ברקע שנשמעה כמו "אלכסה". ואז, השיחה שלאחר מכן נשמעה כבקשת "שלח הודעה". בשלב זה, אלכסה אמרה בקול "למי?". שיחת רקע התפרשה כשם ברשימת אנשי הקשר של הלקוח ואז שאלה בקול "[שם איש קשר], נכון?" להעריך אפשרויות כדי להפוך את המקרה הזה אפילו פחות סביר."

לאחר שבדק את היומנים ואישר את האירועים לבני הזוג, מהנדס אמזון התנצל "15 פעמים תוך 30 דקות" ואמר "זה משהו שאנחנו צריכים לתקן".

אוקיי, זה לא טוב, אבל אני באמת לא חושב שזה משהו שצריך להתבאס ממנו.

אל תבינו אותי לא נכון, מה שקרה לאנשים האלה לא היה צריך לקרות מלכתחילה ולא היה צריך לקרות שוב. אני, באופן אישי, לא הייתי רוצה שחבר יתקשר אליי ויגיד לי שה-Echo שלי שלח להם הודעה קולית שלא שלחתי בכוונה.

אבל עדיין יש כמה דברים שאנחנו לא יודעים על האירוע שיעזרו להבהיר את האירוע.

באיזה חדר היה מכשיר ה-Echo ששלח את הודעת השמע? אם זה היה באותו חדר, איך אתה מתגעגע או מתעלם אלכסה כשהיא שאלה "למי?" ו"[שם איש קשר], נכון?" - שלא לדבר על האור המעיד שמופעל כשהמכשיר מאזין. אם זה היה אקו בחדר מרוחק אחר, השאלה שלי היא לאמזון: האם אלקסה פשוט בוחרת אדם אקראי אם היא לא שמעה אמירה ברורה?

הווליום שבו הוגדרה אלכסה הוא גם פקטור. אם אלקסה מוגדרת לעוצמת קול נמוכה, סביר יותר שהזוג לא שמע את ההנחיות המרובות של אלקסה. אבל אם הוא הוגדר לווליום גבוה יותר, זה סיפור אחר. בבעלותי מספר הדים ואי אפשר שלא לשמוע את זה אם הווליום הוא אפילו ב-50 אחוז (בהנחה שאני בטווח שמיעה).

כשמסתכלים על הסיכום של אמזון, זה נשמע כמו סדרה של פרשנויות שגויות של אלקסה לא סבירות שאי פעם יקרה לרוב האנשים. זה לא ריגל אחריהם - זה פשוט לא הבין את מה ששמע. קשה לדעת בדיוק אילו מילים בשיחה הובילו את אלקסה לדרך הזו, אבל בטוח לומר שהסיכויים שזה יקרה לבעלי אקו אחרים הם די נמוכים.

כמה נמוך? זה רק מקרה אחד מתוך "עשרות מיליונים"ממכשירי Echo שנמכרו. אמזון אף פעם לא חולקת נתוני מכירות, אבל אנליסטים מצמידים את זהבסביבות 20 מיליון. אם נלך לפי זה, בורג אחד מתוך 20 מיליון שווה רק 0.000005 אחוזים מכלל המכשירים. זה בבליפ זעיר.

אני מסכים, שאלקסה שולחת הודעת שמע לא רצויה היא גרועה. אבל יחד עם זאת, האם זה לא עשה גם את העבודה שלו? אנו מצפים מהעוזרים הדיגיטליים שיבינו את הקול שלנו גם בתנאים המאתגרים והקשים ביותר, וחובתה של אלקסה להבין את מה שהיא שומעת.

במקרה זה, כן, הוא שמע את האודיו ופירש לא נכון. אבל זה עדיין ניסה כמיטב יכולתו להבין. והאם זה לא מה שכולנו דורשים מהעוזרים הדיגיטליים שלנו? האם זה לא התסכול הגדול ביותר לדברים האלה - כשהם שומעים, אבל לא מצליחים להבין?

אם כבר, האירוע הזה הוא קריאת השכמה לכולם, הן בצד הצרכני והן בצד הטכנולוגי. לא כדי לגרש את המכשירים מהבתים שלנו, אלא כדי להיות מודעים יותר לפשרה בין נוחות ופרטיות בעבודה:

1. יש עוד דרך ארוכה לפני שנקבל AI שלא יתמוטט. אף AI אינו מושלם, ואני מוכן להמר שזה יקרה שוב בעתיד, בין אם זה אלקסה, Google Assistant או עוזר אחר. בדיוק כמו שהיו וסביר להניח שיהיו יותר תאונות עם מכוניות בנהיגה עצמית, כנראה שיהיו יותר תקלות ש-AI הופך להיות יותר שזור בחיינו.

2. תאונות הן טבעיות ובלתי נמנעות כשאנחנו מדברים על AI (זכור איך Google Photos פישלמסווגשני אנשים שחורים בתור "גורילות"?). התשובה היא לא להפסיק להשתמש בבינה מלאכותית; זה כדי לשפר את זה.

ובכל זאת, יש כמה דברים שאתהפַּחִיתלעשות כדי למנוע מהמכשיר התומך Alexa שלך לא להבין אותך.

שנה את מילת ההתעוררות

אלא אם אמזון תשחרר את יומני האודיו בפועל, אין דרך לדעת בוודאות אילו מילים וביטויים אלקסה פירשה לא נכון.

אם אתה מודאג מהפעלת אלכסה בטעות - אולי אתה אומר לעתים קרובות מילים שנשמעות דומות ל"אלקסה" - אתהיכול לשנותמילת ההשכמה של ה-Echo שלך ל-"Echo", "Amazon" או "מחשב". רק תוודא שהמילים האלה לאיוֹתֵרצפוי להפעיל את המכשיר שלך מאשר אלקסה.

כבה את 'מצב מעקב'

אמזון העניקה לאחרונה למכשירים התומכים באלקסה את היכולת לבצע בקשות מעקב מבלי צורך לחזור על מילת ההתעוררות.

כדי למנועמכשיר התומך ב-Alexa כדי להמשיך להאזין לאחר הפעלת מילת ההתעוררות הראשונית, עבור לאפליקציית Alexa שלך > תפריט > מכשירי Alexa > בחר את המכשיר שלך > כבה את מצב המעקב.

אל תאפשר גישה לאנשי קשר

בימים אלה, מכשירי Echo יכולים לשלוח הודעות שמע לאדם אחר. לא רוצה שזה יקרה אי פעם? אל תעניק לו גישה לרשימת אנשי הקשר שלך. פשוט ככה.

למרבה הצער, אם כבר הענקת גישה ליצירת קשר, ביטול זה לא כל כך פשוט. כפי שצוין על ידיכדור אש נועזומפורט על ידיבאזפיד, אתה צריך להתקשר - כן, להתקשר - לאמזון כדי לעשות זאת.

בסופו של יום, אנו מתקינים ברצון מכשירים התומכים באלקסה בבתים שלנו - מכשירים עם מיקרופונים ועוזרים דיגיטליים המסוגלים להבין את הקולות שלנו ולשלוח אותם למכשיר אחר.

בעולם מושלם, הבינה המלאכותית תהיה אטומה וסוגים כאלה של תקלות לא היו קורות. אבל עד שהדברים ישתפרו, הכי טוב שאנחנו יכולים לעשות זה להיות מודעים יותר לאופן שבו הם עובדים, וכפי שרשום למעלה, לנעול אותם כך שהם יעשו רק את הדברים שאנחנומַחְסוֹראותם לעשות.

אבל בואו בהחלט לא נבהל ונקפוץ על האקדח ונניח שאלקסה מרגלת אחרינו. זה לא. בואו נקרא לאירוע הזה מה שהיה: מזימה מוחלטת.