מוקדם בבוקר יום שני, וולוו בבעלות אובר במצב אוטונומיפגע והרג הולך רגל. ברכב היה נהג אנושי מאחורי ההגה כאשר התרחשה הטרגדיה.

תקרית זו מביאה דחיפות פתאומית לבעיה המוסרית שבה דנו אנשי אתיקה מאז לפני שמכוניות בנהיגה עצמית היו מציאות: של מי היה המוות הזה?

על פי ההערכות, זו הפעם הראשונה שמכונית בנהיגה עצמית גורמת לתאונה קטלנית להולך רגל.

הדבר הקרוב ביותר שיש לנו לתקדים הוא תקרית בשנת 2016, כאשר טסלה על טייס אוטומטי גרמה לתאונה שהרגה את הנהג שלה. לאחר חקירה של שמונה חודשים, הרגולטורים הפדרליים של בטיחות הרכבלא מצאו פגמים במערכת הרכב, וקבע כי טסלה לא צריכה לזכור את הדגם.

אולם האירוע הזה שונה. המערכת של טסלה מבחינה טכנית אינה אוטונומית, כך שהנהג שלה לוקח על עצמו יותר אחריות. ומוות של הולך רגל שונה ממוות של נהג, ומעלה קבוצה אחרת של שאלות.

שאלנו מומחים מהן חלק מהשאלות הללו ומהן התשובות.

מי הולך לבית המשפט?

אובר, וולוו, ספקים, הנהג, הולך הרגל... מי אחראי?

מסתבר שזו השאלה הלא נכונה.

למעשה, זו שאלה שמאמר מ-2015 של סטנפורד למשפטיםנקרא "ספציפי, אבל לא מועיל", וציין ש"שואל 'מי אחראי לקריסות אוטומטיות של מחר?' בתקציר זה כמו לשאול 'מי אחראי בהתרסקות הקונבנציונלית של היום?' התשובה היא: 'זה תלוי'".

כל אחד מהנהג דרך Uber ועד וולוו לספקים של חלקי רכב בודדיםהָיָה יָכוֹלעומדים בפני כתב אישום -- זה תלוי בתוצאות החקירה המשטרתית המתמשכת.

"נהג המכונית", רפאל ואסקז בן ה-44, עלול להיות בבעיה אם המשטרה תגלה שהוא "הונה" את המכונית.

אלגוריתמים רבים למניעת התנגשות דורשים מידע ספציפי כדי לתפקד, כמו מספר האנשים במכונית שלך והיכן הם יושבים, כמו גם מספר האנשים במכוניות סביבך, לדברי ד"ר עלי עבאס, פרופסור לתעשייה ומערכות. הנדסה ומדיניות ציבורית באוניברסיטת דרום קליפורניה, ומנהלת מרכז נילי של האוניברסיטה למנהיגות אתית וקבלת החלטות. חלק מהאלגוריתמים הללו יכולים להיות ניתנים למשחק; לדוגמה, על ידי טענה שהוא מסיע מספר גבוה של נוסעים באופן שגוי, נהג עלול להערים על מכוניתו, או מכוניות אחרות, לתעדף את חייו שלו על פני אחרים, תלוי איך האלגוריתםשוקל החלטות משבר.

כרגע, אומר עבאס, אין חוקים נגד פעולה זו, אבל אם תתרחש כאן הטעיית נהגים, זה בהחלט יכול "לפתוח שיקול משפטי בעתיד".

זה שוחרר לאחרונהקטעי וידאוגם מציין שהנהג עשוי להיות אשם, לפי בראיינט ווקר סמית', מחבר המאמר שהוזכר לעיל בחוק סטנפורד. סמית' הוא עוזר פרופסור בבית הספר למשפטים של אוניברסיטת דרום קרוליינה וחבר בוועדה המייעצת של משרד התחבורה האמריקאי לאוטומציה בתחבורה.

"אם אני שם לב היטב, אני מבחין בקורבן כשתי שניות לפני שהסרטון נעצר", אמר לי סמית'. "זה דומה לזמן התגובה הממוצע של נהג. זה אומר שנהג ערני לפחות ניסה לסטות או לבלום".

הצילומים מציגים גם את ואסקז מביט מהכביש במספר הזדמנויות.

לעומת זאת, אובר בבעיה אם יימצא שהיא שחררה מכוניות נהיגה עצמית לרחובות פתוחים שידעה שהם פגומים.

המשטרה לא צריכה לשאול אם האלגוריתמים של אובר מושלמים, אבל אולי יש שאלה עד כמה אובר ידעה על החסרונות שלהם.

"האלגוריתמים שיש לנו היום לא יהיו האלגוריתמים שיש לנו בעוד 10-15 שנים מהיום", אמר לי עבאס. " באיזו מידה החברה ידעה שהאלגוריתם שלה יפעל לפני שהציגו אותו ברחובות?

"בממוצע יש מוות בערך אחת ל-100 מיליון מיילים בארה"ב, כך שאמנם התקרית הזו אינה קובעת סטטיסטית, אבל היא נמצאת בקרוב מאוד לא נוח בהיסטוריה של הנהיגה האוטומטית", מוסיף סמית'.

מה קורה אחרי?

לא משנה מי (אם בכלל) יפנה לבית המשפט, ממה הצרכנים צריכים לקחת בהקשר להשלכות ארוכות הטווח של הטרגדיה הזו על אובר ועל כלי רכב אוטונומיים בכלל?

סמית' מציע שהתקרית לא אמורה להוביל לפחד גדול יותר ממכוניות בנהיגה עצמית.

"חשוב לזכור שטכנולוגיות חדשות לא יהיו מושלמות - אבל גם שהסטטוס קוו נורא לא מושלם", הוא אומר. "באותו יום שהטרגדיה הזו קרתה, 100 אנשים נוספים מתו בתאונות בארצות הברית בלבד".

כל מוות הוא טרגי, כמובן, אבל זה לא אומר שרכבים אוטונומיים אינם בטוחים יותר מבחינה סטטיסטית מאשר נהגים אנושיים. לְמַעֲשֶׂה,מֶחקָרהציע כי ניתן למנוע 90 אחוז מתאונות הדרכים על ידי מכוניות ללא נהג.

"אנחנו צריכים להיות מודאגים לגבי נהיגה אוטומטית," אומר סמית, "אבלמבועתעל נהיגה קונבנציונלית".

אירוע זה הוא ככל הנראה הראשון מני רבים שיביא בדיקה מוגברת לנהיגה אוטונומית ככל שהיא קרובה יותר לשוק הפתוח. אבל סמית' ואבו מאזן מקווים שהצרכנים ידרשו יותר שקיפות מהיצרנים במקום להתרחק ממכוניות בנהיגה עצמית לחלוטין.

"פתחנו פחית חדשה של סוגיות אתיות", אומר עבאס על התאונה של האובר. "אם אני נוהג במכונית ואני עומד להתנגש, האם אני מציל את מספר האנשים הרב ביותר, או שאני מציל את המשפחה שלי? מי עושה את ההחלפות האלה בשמנו? איך הם עושים אותם ואיך הוזנו מספרים?" אלו שאלות שמגיעות לצרכנים התשובות עליהן, הוא אומר, עבור כל מכונית שהם עלולים לנסוע בה.

לדוגמה, רוב המשיבים ל-aסקר 2016טען שמכוניות בנהיגה עצמית צריכות להיות תועלתניות; כלומר, הם צריכים להציל את מספר החיים הגדול ביותר האפשרי במצבי חירום, אפילו על חשבון הנהגים שלהם. עם זאת, רוב המשיבים גם טענו שהם יעדיפו לרכוש מכונית שתגן על הנוסעים שלה בכל מחיר. הנושא מסובך עוד יותר על ידי נוסעים ילדים ומטען יקר, שלא לדבר על חיות מחמד.

כרגע, יש מעט מידע זמין לציבור על האופן שבו אלגוריתמים כמו הפעולה של אובר, וכיצד ההחלטות הללו מתקבלות.

עבאס מקווה שתקריות מסוג זה ילחצו על חברות להכניס מידע נוסף על האתיקה שלהן לעיני הציבור, כך שצרכנים יוכלו לקבל החלטות טובות יותר בהתאם לערכים שלהם.

"כאשר חברה רוצה להציג רכב, היא תצטרך לענות על הרבה שאלות לגבי האלגוריתם, הביצועים, שכצרכנים, אנחנו לא זוכים לשמוע עליהם היום".