רובוטים, ומערכות אוטונומיות באופן כללי, עלולים לגרום לחרדה וחוסר ודאות, במיוחד כאשר השימוש בהם במשימות יומיומיות הופך לאפשרות מיידית יותר. כדי להפחית לפחות חלק מהחרדה הזו, עלינו להעביר את המיקוד שלנו מההחלטות שרובוטים יכולים לקבל בשמנו לאופן שבו הם באמת מקבלים אותן מלכתחילה. במובנים מסוימים, הם עשויים להיות אמינים יותר מבני אדם.
תרצו או לא תרצו, מערכות אוטונומיות נמצאות כאן וכאן כדי להישאר. ב"אוטונומיה" אנו מתכוונים ליכולת של מערכת לקבל החלטות משלה לגבי מה לעשות ומתי לעשות זאת. עד כה, רוב הדוגמאות שאולי נתקלת בהן, כגוןשואבי אבק רובוטיים, טייסים אוטומטיים למטוסים ומערכות חניה אוטומטיות במכונית שלך, הם פשוטים ואפילו לא אוטונומיים במיוחד. מערכות אלו מסתגלות לסביבתן, מגיבות אוטומטית לשינויים סביבתיים. הם מתוכנתים מראש להסתגל לגירויים סביבתיים.
אבל סיפורי מדע בדיוני ישנים מזהירים אותנו מפני מערכות שהולכות רחוק יותר. מה שמדאיג אותנו הוא מה קורה כאשר טייס אנושי, נהג או מפעיל מוחלפים בתוכנה שעושה את הבחירות שלה לגבי מה לעשות.
בנסיעות אוויריות, מערכת טייס אוטומטי יכולה להשאיר מטוס בנתיב מסוים, אבל יש טייס אנושי שמחליט באיזה נתיב ללכת, מתי להסיט וכיצד להתמודד עם מצבים בלתי צפויים. באופן דומה, בקרת שיוט, בקרת נתיב ובקרובשיירהיאפשר למכוניות שלנו לבצע פעילויות בעקבות מסלולים למרות שהנהגים ימשיכו לקבל את ההחלטות הגדולות.
אבל ברגע שנעבור למערכות אוטונומיות באמת, לתוכנה תהיה חלק הרבה יותר גדול. לא נצטרך עוד אדם שיחליט מתי לשנות מסלול של מטוס או מתי לפנות מהכביש המהיר לכביש צדדי.
בנקודה זו רבים מאיתנו מתחילים לדאוג. אם מכונה באמת יכולה לקבל החלטות משלה אז איך נדע שהיא בטוחה? אחרי שראינו סרטים כמו Terminator, אנחנו תוהים איך אנחנו יכולים לסמוך על מכונות שלא יצלבו אותנו כפול. עבור רבים, הרעיון לעלות על מטוס שטס בעצמו מטריד, שלא לדבר על המחשבה לאפשר עוזר רובוט אוטונומי בביתם.
זה יכול להרגיש כאילו אנחנו עומדים בפני שתי אפשרויות. או שאנו סומכים באופן עיוור על המכונות הללו או שאנו מסרבים להשתמש במערכות אוטונומיות כלל. אבל אפשרות שלישית אפשרית.
כשאנחנו מתמודדים עם אדם אחר, אנחנו לא יכולים להיות בטוחים מה הוא יחליט אבל אנחנו מניחים הנחות על סמך מה שאנחנו חושבים עליהם. אנו שוקלים אם אותו אדם שיקר לנו בעבר או שיש לו רקורד בביצוע טעויות. אבל אנחנו לא באמת יכולים להיות בטוחים לגבי אף אחת מההנחות שלנו, מכיוון שהאדם השני עדיין יכול לרמות אותנו.
המערכות האוטונומיות שלנו, לעומת זאת, נשלטות בעצם על ידי תוכנה, כך שאם נוכל לבודד את התוכנה שמקבלת את כל ההחלטות ברמה הגבוהה - אותן החלטות שאדם היה מקבל - אז נוכל לנתח את העבודה המפורטת של התוכנות הללו. זה לא משהו שאתה יכול או אולי אי פעם יכול לעשות בקלות עם מוח אנושי.
תחום מחקר פופולרי במדעי המחשב עוסק בניתוח מעמיק של תוכנות ובפרט במתן הוכחות הגיוניות לכך שהתוכנה תמיד תתאים לדרישות הפורמליות שלה. גישה זו, הנקראתאימות פורמלישימושי במיוחד לניתוח והערכת סוג התוכנה הקריטית שיכולה להשפיע על בטיחות האדם, כגון בתחנות כוח, מערכות תומכות חיים או מערכות תחבורה. אז ברגע שנבודד את התוכנה שמקבלת את ההחלטות ברמה הגבוהה בתוך המערכות האוטונומיות שלנו, נוכל לנתח את העבודה המפורטת של תוכניות אלה באמצעות אימות פורמלי.
שֶׁלָנוּמֶחקָרנוגע בדיוק לאימות רשמית זו של התנהגויות מערכת אוטונומיות, ובמקרים מסוימים אנו יכולים להוכיח שהתוכנה השולטת במערכת שלנו לעולם לא תקבל החלטות רעות.
תהליך קבלת ההחלטות הוא מרכזי בייצור רובוטאָמִין. כך נוכל להיות נוחים יותר עם התוצאות הסופיות של ההחלטות הללו. הסביבות בהן פועלות מערכות כאלה הן בדרך כלל מורכבות ואינן ודאות. אז למרות שתאונות עדיין יכולות להתרחש, אנחנו לפחות יכולים להיות בטוחים שהמערכת תמיד מנסה להימנע מהן. זה אולי נראה לא מספיק, אבל זה מאפשר לנו להתמודד עם כמה מהדאגות הישנות של המדע הבדיוני.
אמנם איננו יכולים לומר שרובוט לעולם לא יפגע במישהו בטעות, אך באמצעות אימות פורמלי אולי נוכל להוכיח שהרובוט לעולם לא מתכוון לגרום נזק בכוונה. על ידי התבוננות בתכנות הפנימי של המערכת, אנו יכולים לעתים קרובות להעריך לא רק מה היא מחליטה לעשות, אלא מדוע היא החליטה לעשות זאת. למרות שאנשים עדיין יזהרו מרובוטים ומערכות אוטונומיות, אם הם יודעים שהמערכת לא מתכוונת באופן אקטיבי לחצות אותם פעמיים, אז הם צפוייםאֵמוּןמערכות כאלה קצת יותר.
הבעיה העיקרית כעת היא מה להוכיח, ולא איך להוכיח זאת. אולי ננסה להוכיח שרובוט לעולם לא בוחר בכוונה לפגוע באדם. אבל מה לגבי רובוטים רפואיים או רובוטים משטרתיים? רובוט רפואי עשוי לנסות להחיות מישהו, למשל על ידי הפעלת לחץ על החזה שלו. אבל זה עלול להזיק להם בשוגג.
רובוט משטרתי מואשם בהגנה על הציבור אבל מה אם פושע יורה באקדח לעבר מישהו? האם הרובוט יכול לפגוע בפושע כדי למנוע את הסכנה הגדולה יותר?
ברור שאנו עוברים משאלות טכניות לשאלות פילוסופיות ואתיות לגבי איזו התנהגות אנו מוצאים מקובלת ואיזו התנהגות אתית הרובוטים שלנו צריכים להפגין. תצוגה ברורה של האופן שבו הרובוטים שלנו מתוכנתים לקבל החלטות תעזור לנו כשאנחנו מנסים לקבל החלטות בשתי החזיתות.
חשיבה מחודשת על קמפוס אוניברסיטה מכיל
סיוע משפטי סביבתי קוצץ כאשר אוסטרליה זקוקה לו ביותר
ניוזלטרים אלה עשויים להכיל פרסומות, עסקאות או קישורי שותפים. בלחיצה על הירשם, אתה מאשר שאתה בן 16+ ומסכים לנותנאי שימושומדיניות פרטיות.
