דמיינו את התרחיש הזה: אתם נוסעים בכביש כשלפתע, משום מקום, הולך רגל בודד קופץ לנתיבכם. הדרך צרה ומוקפת חומה במחסום משני הצדדים, כך שהאפשרויות שלך מוגבלות. אתה יכול להמשיך לנסוע ישר קדימה ולפגוע בהולך הרגל, או שאתה יכול להציל את הולך הרגל על ​​ידי סטיה לתוך אחד המחסומים. מה אתה בוחר?

עכשיו דמיינו תרחיש שבו חמישה הולכי רגל נמצאים בכביש במקום אחד. עכשיו 10. האם התשובה שלך משתנה?

בעולם האמיתי, נדירים אם כי תרחישים כאלה עשויים להיות, סביר להניח שהנהג ייאלץ לקבל החלטה של ​​שבריר שנייה לגבי איך להתנהג - בחירה שכנראה אפילו לא יהיה לו זמן לחשוב עליה במלואה.

אבל לבוא עם תגובות למצבים האלה הופך קצת יותר דחוף כשאנחנו שוקלים את האפשרות שרכבים בנהיגה עצמית עשויים יום אחד לקבל את ההחלטות האלה עבורנו - מה שאומר שהמהנדסים חייבים למצוא את הדרכים הטובות והמוסריות ביותר לתכנת אותם עבור מצבים כאלה מבעוד מועד.

כדי לסייע בתהליך הזה,מחקר חדש-- פורסם ביום חמישי בכתב העתמַדָע- התמודדה עם השאלה הקשה כיצד הציבור באמת מרגיש שמכוניות ללא נהג צריכות להתנהג כאשר מוצגת סתירה אתית כזו - וכיצד תכנות הרכב עשוי להשפיע על נכונותו לנהוג באחת.

על ידי ניתוח סדרה של סקרים המציגים מספר מצבים קשים, דומים לאלה שלמעלה, החוקרים מצאו שרוב האנשים מאמינים שכלי רכב תועלתניים - מכוניות שתוכנתו להציל את המספר הגדול ביותר של אנשים, גם אם זה אומר להקריב את הנוסעים - הם הכי מוסרי.

אם הם ירכשו באופן אישי רכב כזה, זה כבר עניין אחר.

עלייתן של מכוניות ללא נהג

כלי רכב אוטונומיים - מכוניות שתוכנתו להסיע את הנוסעים שלהן ללא שליטה אנושית - היו פעם רעיון היישר מתוך מדע בדיוני. עכשיו, הם הופכים לאט לאט למציאות.

גוגל כבר בודקת אבות טיפוס שלהמכוניות שלה בנהיגה עצמיתברחובות ציבוריים בקומץ ערים בארה"ב, וחברות אחרות, כמו טסלה, עובדות על גרסאות משלהן של טכנולוגיה אוטונומית. בתוך כמה שנים עד כמה עשורים, יתכן שכלי רכב כאלה יכולים לעבור לייצור המוני ולהפוך למרכיב על הכבישים.

ומומחים רבים מאמינים שזה יהיה דבר טוב.

בארה"ב לבדה, עשרות אלפי אנשים נהרגים מדי שנה בתאונות דרכים, לפי משרד התחבורה, וכמה מיליונים נפצעים. רוב התאונות הללו קשורות לטעויות אנוש, שמדענים טוענים שניתן למנוע עם כלי רכב ללא נהג שתוכנתו לציית לחוקי הדרך. כמה מחקרים העלו כי ניתן להימנע עד 90 אחוז מתאונות הדרכים בשימוש במכוניות ללא נהג.

אבל העובדה שכלי רכב בנהיגה עצמית חייבים להיות מתוכנתים מבעוד מועד כדי להגיב לכל מצב נתון מהווה סוג של תהייה עבור התעשייה. ישנן שאלות אתיות מסוימות - כמו את מי הרכב צריך להקריב במצב שבו מישהו בהכרח חייב להיפצע - שיש לענות עליהן לפני שהמכוניות הללו יוצאות לכביש.

"האנשים שמעצבים את המכוניות האלה - הם מכירים בכך כבעיה משמעותית", אמרג'ייסון מילר, אנליסט אתיקה ראשי ביוזמת Open Roboethics (ORi) ועמית מחקר פוסט-דוקטורט בפקולטה למשפטים של אוניברסיטת אוטווה. מילר לא היה מעורב במחקר החדש, אך ביצע מחקר דומה בעבר.

טרגדיה של נחלת הכלל

המחקר החדש הסתמך על שורה של סקרים שהציגו מספר תרחישים אתיים קשים.

באחד, המכונית חייבת לסטות מהכביש ולהרוג את הנוסע או להציל את הנוסע ולהרוג 10 הולכי רגל. באחר, המכונית חייבת להרוג הולך רגל אחד או שני הולכי רגל, אם כי בכל מקרה הנוסע נותר ללא פגע. ובאחר, המכונית חייבת להרוג 20 הולכי רגל בכביש, או לסטות ולהרוג גם את הנוסע וגם את ילדו של הנוסע. המחקר כלל שישה מסוגים אלה של תרחישים בסך הכל.

"מה שמצאנו הוא שרוב גדול של אנשים מרגישים מאוד שהמכונית צריכה להקריב את הנוסע למען הרווחה הרבה יותר", אמרז'אן פרנסואה בונפוןמבית הספר לכלכלה בטולוז, המחבר הראשי של המחקר החדש, במהלך ועידה טלפונית ביום רביעי.

בסך הכל, המשיבים נטו להרגיש שהקרבת מעטים למען רבים - אפילו במקרים שבהם יש להקריב את הנוסע - היא מוסרית ביותר.

לדוגמה, במצב שבו יש להקריב את הנוסע הבודד או 10 הולכי רגל, 76 אחוז מהמשתתפים חשבו שזה יהיה הכי מוסרי להקריב את הנוסע. לאורך התרחישים השונים, האישור המוסרי של מערכת זו נטה להיות גבוה יותר ככל שיותר אנשים ניצלו.

הוספת בני משפחה וילדים לתערובת אכן סיבכה מעט את התוצאות.

האמונה של המשתתפים במוסר של הקרבת הנוסעים - אפילו כדי להציל מספר גדול יותר של הולכי רגל - ירדה כאשר אנשים אחרים היו במכונית. עם זאת, גם במצבים אלו, יותר ממחצית המשתתפים עדיין הרגישו שזו הבחירה המוסרית ביותר.

עם זאת, רגשותיהם של המשתתפים השתנו בכל הנוגע לרעיון מי צריך להסדיר את ההחלטות הללו והאם הם בוחרים לרכוש מכונית כזו, בעצמם.

המשתתפים נרתעו בדרך כלל מהרעיון שהממשלה תאכוף כלי רכב תועלתניים - כלי רכב שתוכנתו להציל את המספר הגדול ביותר של אנשים, אפילו על חשבון הנוסעים. והיה להם הרבה פחות סיכוי לומר שהם יקנו מכונית לנהיגה עצמית עם רגולציה מסוג זה. אבל סביר יותר שהם יאמרו שהם יקנו את סוג הרכב שתוכנת להגן על נוסעיו בכל מחיר.

החוקרים השוו את התגובות הללו ל"טרגדיית נחלת הכלל" - תיאוריה כלכלית המציעה שכאשר משאבים משותפים עומדים על כף המאזניים, יחידים יפעלו למען האינטרס האישי שלהם במקום לקחת בחשבון את טובת הכלל, ובכך ידלדלו את המשאב. ולגרום נזק לכולם.

"אפילו אם התחלת בתור אחד האנשים האצילים שמוכנים לקנות מכונית שמקרבת את עצמך, ברגע שאתה מבין שרוב האנשים קונים מכוניות שמגינות על עצמך, אז אתה הולך לשקול מחדש מתי אתה מסכן את עצמך לשאת בנטל הקולקטיב כשאף אחד אחר לא ירצה", אמראיאד רחוואןמהמכון הטכנולוגי של מסצ'וסטס, מחבר נוסף.

עם זאת, לדברי מילר, אפילו ההתנהגות הנראית נטולת חושים זו אינה מפתיעה.

"זה דברים שאנחנו מכירים ממאות שנים של עבודה באתיקה וגם עשרות שנים של עבודה בפסיכולוגיה מוסרית", אמר. "זה לא באמת אומר לנו שום דבר שלא ידענו או שלא יכולנו לחזות בקלות לגבי היחס של אנשים כלפי מכוניות ללא נהג".

למעשה, המחקר אינו הראשון שחוקר שאלות כאלה לגבי מכוניות ללא נהג, במיוחד. מילר ועמיתיו ביוזמת Open Roboethics ערכו סקרים בפוזותמצבים דומים(וגובר תוצאות דומות מהמשתתפים).

נוסעים אל העתיד

גם אם המחקר לא חושף תובנות חדשות במיוחד על נפש האדם, הוא מעלה כמה שאלות מעניינות לגבי עתיד הטכנולוגיה וכיצד יש להסדיר אותה.

ישנן מספר אפשרויות פוטנציאליות. יצרנים יכולים להיות אחראים על ההחלטה כיצד יש לתכנת את המכוניות שלהם; הממשלה תוכל ליצור מערכת תקנות שתחול על כל כלי הרכב; או שניתן לאפשר לצרכנים ליצור את ההגדרות ברכב שלהם.

מתן אפשרות ליצרנים לתכנת את המכוניות לפי רצונם מהווה סוג של התלבטות אתית בעצמה, ציין מילר.

"זה פשוט לא ההיקף הרגיל של מומחיות הנדסית", אמר. "הם לא אתיקאים."

"יש את כל התכונות המעניינות האלה שמגיעות עם סוגי הבעיות האלה, בעיות התרסקות האלה, שאינן נכנעות בקלות למומחיות הנדסית שבה אתה מנסה לקטוע מספרים."

הוא מוסיף כי אילוצי עיצוב סביר להניח שגם יקשה מאוד על לאפשר למשתמשים להתאים את התכנות ברכבים שלהם - כלומר לאפשר לממשלה להסדיר תהיה כנראה הבחירה ההגיונית ביותר בעתיד.

עם זאת, החוקרים ציינו במאמר שרגולציה ממשלתית - במיוחד אם היא עוברת בדרך התועלתנית - עשויה להוות מכשול לנכונות הציבור לאמץ את הטכנולוגיה בכלל. וזו גם תהיה בעיה, בהתחשב בכך שמכוניות ללא נהג צפויות להציל חיים רבים כל כך (כל שאר השאלות האתיות מלבד) פשוט על ידי ביטול טעויות אנוש מחוויית הנהיגה.

מה שאנשים אומרים שהם יעשו בסקר ומה שהם באמת היו עושים עשויים להיות שני דברים שונים.

עם זאת, חלק מהמומחים אינם בטוחים שזה יהפוך לבעיה.

"מה שאנשים אומרים שהם יעשו בסקר ומה שהם באמת היו עושים עשויים להיות שני דברים שונים", אמרפטריק לין, מנהל קבוצת אתיקה + מדעים מתעוררים באוניברסיטת קליפורניה הפוליטכנית, במייל. לין גם ביצע עבודה מקיפה בנושאים הקשורים לאתיקה של מכוניות ללא נהג.

"כריות אוויר, למשל, פוגעות והורגות כמה נהגים היום", המשיך. "זה אומר שבנסיבות מסוימות, כרית האוויר שלך עלולה להרוג אותך. אבל אני לא מכיר מישהו שמסרב לנהוג במכונית בגלל האפשרות הזאת. אותו דבר עשוי לחול על מכוניות אוטומטיות שעשויות לקבל החלטות לטובת הכלל, אך פוגעות בנוסעים שלהן".

בכל מקרה, החוקרים הכירו שיש שלל מורכבויות אחרות שיש לקחת בחשבון בעת ​​קבלת החלטות תכנות מסוג זה מעבר אפילו להיקף המצבים שהציגו במאמרם.

אם הולכי רגל מתנהגים באופן לא חוקי, למשל, האם זה אמור להשפיע על התנהגות הרכב? אם יש סבירות גדולה יותר שאדם אחד ישרוד תאונה מאשר אחר, למרות ששניהם יהיו בסכנה עקב תאונה, האם יש לקחת זאת בחשבון? מי - אם בכלל - צריך לשאת באחריות לכל נזק שנובע מהתנהגותו של רכב ללא נהג?

אז נותרו שאלות רבות לענות עליהן, וסביר להניח שהן רק יהפכו מסובכות יותר ככל שהטכנולוגיה מתקדמת ומתקרבת ליישומים מסחריים.

"למכוניות ללא נהג יש את הפוטנציאל לחולל מהפכה בתחבורה ולחסל את רוב מקרי המוות בכבישים", אמר Rahwan. "אבל כשאנחנו עובדים על הפיכת הטכנולוגיה לבטוחה יותר, אנחנו צריכים להכיר גם באתגרים הפסיכולוגיים והחברתיים שהם מציבים".

יש לך מה להוסיף לסיפור הזה? שתפו אותו בתגובות.