אל תדאג, זו לא תמונה של מומחה הבינה המלאכותית שלנו צופה במראה שחורה. קרדיט: נטפליקס
מֵיטָבמראה שחורהפרקים לא רק משאירים אותך לתהות אם העתידים האלההָיָה יָכוֹללִקְרוֹת. הם מכריחים אותך לשקול מה זה היה אומר אם הם היו עושים זאת.
עבור ג'ון סי הייונס, אלו לא רק הרהורי טלוויזיה בטלים. הוא המנכ"ל שליוזמה גלובלית של IEEE בנושא אתיקה של מערכות אוטונומיות וחכמות, תוכנית שמטרתה להוות השראה ליצירת תקני IEEE סביב עיצוב ופיתוח של בינה מלאכותית.
במילים אחרות, הוא והצוות שלו הם אלה שמנסים למנוע מאתנו להיפגע, לא מוכנים ולא מודעים, לתוךמראה שחורהדיסטופיה. הוא במקרה גם גדולמראה שחורהמעריץ, וזו הסיבה שהתקשרנו אליו לשאול אותו את כל השאלות שהחזיקו אותנו ערים בלילה אחרי שסיימנו את עונה 4.
USS Callister
באופן כללי, אמר הייונס, הוא חושב שהתוכנית עושה "עבודה מצוינת" בבחינת הסוגיות האתיות והמשפטיות סביב טכנולוגיית AI מתקדמת. כמו פחות או יותר כל אחד אחר שראה את העונה האחרונה, הוא נלקח במיוחד עם "USS Callister", שעוסק באישה שתודעה, ללא ידיעתה, מועתקת לענן.
"יש סוג של אירוניה באמירה שחישוב הוא כל מה שיש לאדם."
בכל הנוגע להעתק, היאהואנאנט האמיתית. לוקח לה קצת זמן להבין את הרעיון שהיא כפיל דיגיטלי, ושהמקור עדיין נמצא שם בעולם הפיזי. אז איך אנחנו חושבים על נאנט השנייה? האם היא המשך של נאנט המקורית, או אדם נפרד לגמרי?
כפי שהייבנס רואה זאת, התשובה לא כל כך פשוטה. "יש סוג של אירוניה באמירה שחישוב הוא כל מה שיש לאדם", אמר - והצביע על כך שדתות רבות, למשל, "מאמינות שיש משהו מחוץ לעצמי שמודיע מי הן".
הוא גם הזהיר מפני "ההנחה שהתודעה תועלה במובן של כאילו, אני ג'ון, אנחנו מבינים איך להעתיק את המוח שלי, וזה A ל-B עובר מפחמן לסיליקון. יש בערך 48 פילוסופיים מרכזיים, לא רק הנחות אמפיריות ומדעיות, אבל פילוסופיות ומבוססות אמונה בכך".
עם זאת, הוא הסכים שזה "קריטי" להתמודד עם האתיקה סביב הרעיון. לשם כך, IEEE פיתחה תקן בשםP7006, שאותו הוא מתאר כ"סוכן AI אלגוריתמי לאדם".
בעיקרו של דבר, הרעיון הוא לתת לכל בן אדם ענן מוצפן שמאחסן ומגן על כל הנתונים האישיים שלו - כל הדברים שעוקבים אחריהם, מועתקים ומשתפים בכל פעם שאתה מתחבר, ובצורה המצטברת של הזהות המקוונת שלך.
"כשאנחנו נותנים הסכמה לשירות כדי לגשת לנתונים שלנו, אנחנו נוטים לשכוח שעשינו את זה ולא מבינים שאנשים אחרים מחזיקים ושולטים במערכת סביב הנתונים שלנו בכל הקשור לאופן שיתוף הנתונים שלנו", אמר. "לעומת כשיש לך כספת נתונים שקשורה לשם שלך וזהותך." [אד. פֶּתֶק: ציטוט זה תוקן ועודכן לבקשת הייונס.]
אם אז, נניח, עותק דיגיטלי שלך ניסה לסחוט אותך לביצוע פשע על ידי איום לשחרר את תמונות הסלפי המתפשרות שלך, P7006 ישמש מעין "מפלט" שיעזור לך להחזיר את חייך למסלול.
מלאך מלאך
הפרק השני של העונה מתמקד בסוג שונה מאוד של אינטליגנציה. אם מגוננת יתר על המידה מתאימה לבתה הצעירה שבב שיאפשר לה לעקוב אחר ילדה בכל עת - לעקוב אחר תנועותיה, לנטר את בריאותה, לסנן כל מה שהיא רואה ושומעת ועוד.
מיותר לציין שזה מתברר כרעיון רע מאוד - אבל הייונס אחד אומר שהוא יכול להבין. "אני חושב שדבר אחד שהם עושים טוב מאוד בתוכנית הוא שזה לא רק,הו ההורה הזה עושה משהו לא בסדראוֹהו, הילד עושה משהו לא בסדר", הוא אמר. "מבחינתי, אתה חייב ששתי הדמויות יהיו אוהדות או שהנושאים האתיים לא כל כך הגיוניים. אבל כהורה, זה באמת נשמע נכון".
לדברי הייונס, טכנולוגיית מעקב כזו אינה כל כך בלתי סבירה (טוב, מלבד היכולת לפרוץ את עצב הראייה). אחרי הכל, כבר יש לנו שבבי זיהוי עבור חיות המחמד שלנו, וגששים וחיישנים שיכולים למצוא אנשים או לדעת מה הדופק שלנו. מה שקשה לו לבלוע בטכנולוגיית Arkangel, כפי שהוצגה בתוכנית, הוא הקביעות שלה.
"אני חושב שזה די מופרך כי כהורה, כל טכנולוגיה שהילד שלך יכול להמריא הולכת למכור הרבה יותר טוב ממשהו שהוא קבוע", אמר. "כאילו, זה היה חלק מהתוכנית שהיה קצת לא מציאותי." משהו כמו עדשות מגע במציאות רבודה, הוא שיער, יהיה "הרבה יותר בר ביצוע".
תַנִין
הבעיה שלו עם "תנין", לעומת זאת, פחות קשורה לשוק ויותר לחוק. הפרק מתרכז סביב מכונה שמאפשרת לחוקר לצפות בזיכרונות של אדם אחר - והייבנס לא קונה את זה, והסביר שזה נראה לא ריאלי שלמישהו "תהיה "לחוקית הזכות להיכנס לבית של מישהו או מה שזה לא יהיה", אמר.
זה מעלה כמה חששות ברורים לגבי פרטיות - כלומר, איך הרעיון הזה ישתנה בעולם שבו אנשים אחרים יכולים לגשת למחשבות האינטימיות ביותר שלך. עם זאת, ציין הייונס, הנושא הוא הרבה יותר גדול מזה.
זה לגבי מי הבעלים של הנתונים שלך, מי מרוויח מהם, ומה המשמעות של הסכמה לשיתוף שלהם.
"זה באמת קשור לבקרת נתונים ושוויון", אמר. כלומר, מדובר על מי הבעלים של הנתונים שלך, מי מרוויח מהנתונים שלך ומה המשמעות של הסכמה לשיתוף שלהם.
"צריכה להיות הבנה שווה וארוכת טווח שהנתונים שאנו נותנים אינם קשורים רק לפרטיות כרגע", אמר. "זהו שימוש ארוך טווח בצורת הקניין הרוחני שלנו שאסור לנו להיות מסוגלים לחתום בסביבה שבה אנחנו נמצאים כרגע - ובוודאי לא זו שאנחנו הולכים אליה מבחינת מציאות מדומה".
במילים אחרות, זה לא קשור רק לשאלה אם מיה מסכימה לתת לשזיה להסתכל לתוך המוח שלה או לא. זה על מה שאזיה רשאית לעשות עם המידע שהיא מוצאת שם, ועל מה בדיוק מיה ויתרה כשהסכימה להשתתף.
או בעצם, הפוך את זה למה שאזיההיהמותר לעשות עם הנתונים האלה. בפרק, מיה רוצחת את שאזיה ואת כל משפחתה במקום להסתכן בגילוי סודותיה. כנראה שמיה הרגישה די לא בנוח לגבי מתן הסכמתה אחרי הכל.
Mashable Top Stories
תלו את התקליטן
הסכמה משתתפת גם ב-"Hang the DJ", העוקב אחר גבר ואישה שכל הזמן מתפרקים על ידי מערכת היכרויות מעיקה באופן מוזר וכביכול חסינת תקלות, למרות הכימיה הברורה שלהם. הטוויסט הוא שבני הזוג היו בסימולציה כל הזמן: כל מערכת היחסים שלהם הייתה מבחן תאימות שבוצע על ידי אפליקציה בעולם האמיתי.
כפי שציין הייונס, זה לא כל כך רחוק מהמציאות. "זה כבר קורה עכשיו, כמו בחיים שנייםאו משחקים מרובי משתתפים או אפילו שירותי היכרויות מסוימים, שבהם אתה עשוי להגיע לאינטראקציה כדמות וירטואלית לפני שאתה יוצא לדייט עם האדם. סוג זה של סימולציה, זה כבר קורה עכשיו".
מה ששונה ב-"Hang the DJ" הוא שלאיימי ופרנק אין אפשרות להתנתק כשהם מתעייפים מהמערכת, מכיוון שהם לא יודעים שהם נמצאים במערכת מלכתחילה. Havens הסביר שתקן כמו P7006 יכול לעזור להגן על אנשים במצבים כאלה, בכך שהוא נותן להם מעין "מילה בטוחה" לחלץ את עצמם ואת היכולת להגדיר את התנאים וההגבלות שלהם לפני הכניסה למערכת.
מה שהכל נשמע טוב וטוב מאוד, אבל ... תחזיק מעמד. איך אנחנו יודעים שאנחנו כבר לא במציאות מדומה?מה אם אילון מאסק צודק?
הייונס הודה שיש דיונים מסובכים סביב הנושא הזה כרגע, אבל הבהיר באיזה צד הוא נפל. "לא, אני לא חושב שאנחנו בסימולציה כרגע", אמר.
Metalhead
אז שוב, אולי אנחנו דואגים לדברים הלא נכונים. אולי אנחנו חושבים קונספטואלית מדי. אולי כדאי שנסתכל על רובוטים מיושנים וטובים. ולא מהסוג הרגיש.
"מטאלהד", הפרק הלפני אחרון של העונה, עוקבת אחר שורדת אנושית כשהיא רודפת דרך דיסטופיה עגומה ועקרה על ידי רובוט "כלב". אמנם אין הסבר מפורש איך העולם הגיע למצב הזה, אבל יש רמזים לכך שה"כלבים" חיסלו את רוב החיים האורגניים.
אז מה האיום הקיומי הגדול יותר? בינה מלאכותית, או מכונות הרג שטובות מדי בתפקידן?
"טוב, אתה יודע, מכונות הרג חסרות שכל באופן כללי, בואו נמנע מאלה, כי זה מצער," אמר הייונס וצחק. "אני חושב שזה לא טוב."
הבעיות שמציבה הבינה המלאכותית קצת יותר מורכבות, והאיום קצת יותר רעיוני. "יש לי ספר שנקראאינטליגנציה לבבית, כאשר השאלה הגדולה שאני שואל היא, 'איך מכונות יידעו מה אנחנו מעריכים אם אנחנו לא יודעים את עצמנו?'", אמר.
"השאלה הגדולה שאני שואל היא, 'איך המכונות יידעו מה אנחנו מעריכים אם אנחנו לא מכירים את עצמנו?'".
השאלה הזו הופכת דחופה יותר ויותר ככל שאנו מסתמכים יותר ויותר על טכנולוגיה מתוחכמת יותר ויותר כדי ללמוד את הכישורים שלנו ולקבל את ההחלטות שלנו עבורנו. הסכנה שם היא לא התקדמות, אבללא נבדקהִתקַדְמוּת.
"במקרה של בינה מלאכותית, שבה הרבה מהכלים עוסקים במחשוב אפקטיבי או בתנועות לאלגוריתם לקבלת החלטות עבורנו, הטכנולוגיה נעה מהר יותר מאשר אנשים, אפילו במונחים של לדעת איך הם יכולים להמשיך לעשות את הבחירות האלה. זה המקום שבו יש להעריך היבטים של החלטות חברתיות לגבי מה לעשות".
זה כולל בחינה מחודשת של ההנחה שמה שחדש בהכרח טוב יותר. Havens ו-IEEE רוצים שהטכנולוגיה תתמקד ברווחת האדם - מה שאולי אומר שלפעמים, "אתה יכול לקחת צעד אחורה ולהגיד,רק בגלל שאנחנו יכולים לבנות משהו לא אומר שאתה חייבאתה יודע, כמו כלבי רובוט רוצח: כן, אולי נוכל להכין אותם מתישהו. אבל האם כדאי לנו?
מוזיאון שחור
אי השאלה הזו היא בדיוק איך אנחנו מגיעים למצבים כמו אלה המתוארים ב"מוזיאון השחור", הקושר יחד שלושה סיפורים קצרים יותר בתוך מכשיר מסגור גדול יותר.
באחד, רופא מתחיל להשתמש, ולאחר מכן מתמכר, למכשיר המאפשר לו להרגיש את הכאב של מטופליו. עד כמהמראה שחורההולך, אומר Havens, זה לא "מופרך מדי" - אוזניות מציאות מדומה, למשל, יכולות כבר לגרום למשתמשים להרגיש שהם חווים דברים שהם לא.
הרעיונות האחרים נמצאים יותר בחוץ. בסיפור השני, תודעתה של אישה בתרדמת מועלית למוחו של בעלה, ולאחר מכן לתוך פוחלץ. מה שאומר שבשלב מסוים, גוף אדם אחד מכיל שתי תודעות; באחר, תודעה אנושית קיימת ללא גוף אנושי.
בשלישית, אסיר מוכר את התודעה שלו לאחר המוות. לאחר הוצאתו להורג, תודעתו חיה כהולוגרמה בבעלותו של בעל מוזיאון מרושע. הוא לא רק תודעה אנושית ללא גוף אנושי – הוא תודעה אנושית ללא צורה פיזית מוחשית.
קל לראות כיצד טכנולוגיה כזו תסבך את הרעיונות הנוכחיים שלנו לגבי אישיות. ולמרות שהייבנס מעריך שאנחנו לפחות "30, 40, 50 שנה" מחוץ להיתכנות, הוא הדגיש שכרגע זה הזמן לדון במה שנעשה ברגע שיהיו לנו האפשרויות האלה.
"זה שלמישהו יש את הזכות לעשות משהו, לא אומר שצריך לאפשר לו".
"אם נמשיך למהר עם הדברים האלה, אז דברים פשוט יתחילו לצוץ", אמר. "אנחנו צריכים לשאול הרבה שאלות, ובדרך זו, אתם, אני, כל אחד, כשאנחנו מבינים את הטכנולוגיה או כל מה שעשוי להיות זמין, יש לנו מערכת של עקרונות מוסכמים שלא מונעים רק על ידי,היי, הטכנולוגיה החדשה הזו זמינה, אתה יכול לעשות זאת עכשיו, עשה זאת."
הייונס הדגיש כי הוא אמנם לא רוצה להפריש את הבחירה האישית, אבל הוא מאמין שצריך להיות "מערכת של מדיניות וסטנדרטים שיכולים לאפשר לאדם החלטה אינדיבידואלית, אבל יש בזה אחידות וסוג של חוקיות כך שזה יהיה לא רק אקראי".
ואז ישנה השאלה כיצד הטכנולוגיה עשויה להצטלב עם זכויות האדם הבסיסיות שלנו - מה שבעצם לא שונה כל כך מהאופן שבו אנו רואים החלטות מסוימות כעת.
"לדוגמה, אם אתה מוכר את עצמך לעבדות, למרות שיש שיגידו,ובכן, זה תלוי בך אם אתה רוצה למכור את גופך לעבדות, זה לא אומר בהכרח מנקודת מבט של זכויות אדם שזו לא תהיה הפרה", אמר. "רק בגלל שלמישהו יש זכות לעשות משהו, זה לא אומר שמבחינה חוקית מותר לו, או שהוא צריך מותר".
אז איך נגזר עלינו?
"Hang the DJ" הוא הפרק הנדיר של Black Mirror שמסתיים בנימה אופטימית. קרדיט: נטפליקס
למעט יוצאים מן הכלל,מראה שחורהנוטה לפסימיות לעתיד ההייטק שלנו. אבל היכן שהתוכנית מתמקדת בקדרות ובאבדון, הייונס רואה זיקוקים של תקווה. הוא רק רוצהמראה שחורהישקף גם את אלה.
"הלוואי שהם היו מכסים את חומרי הנתונים לעתים קרובות יותר, והלוואי שהיו להם יותר תמונות חיוביות של איך העולם יכול להיראות אם הנתונים שלך היו משהו שאתה אפילו לא צריך להחזיק, אבל אתה יכול לגשת ולשלוט בו " הוא אמר. זה אפילו לא חייב להיות ספקולטיבי לחלוטין - הוא היה רוצה לראות, למשל, חלק מ"העבודה הטובה באמת במדיניות AI" שנעשית בבית הלורדים הבריטי עכשיו.
המפתח להימנעות מדיסטופיה של מראה שחורה טמון לא בדחיית הטכנולוגיה, אלא באימוץ האנושות.
ובזמן שנעשה מזה הרבהמראה שחורהשלתחזיות מדויקות להחריד(לא משנה מההצגהאפילו לא באמת מנסה לנחש את העתיד), עדיין עדיף להתייחס אליו כאל סיפור אזהרה מאשר נבואה. הייונס מזהיר מלהניח זאתמראה שחורהטכנולוגיה - או כל הדברים שמגיעים איתה - היא בלתי נמנעת.
"זה דבר אחד להתרגש מהעתיד. זה דבר אחד להגיד איך הטכנולוגיה הזו תעזור לנו. אבל בכל פעם שיש רמז [הרעיון] שהמקום בו אנחנו נמצאים עכשיו זה לא מספיק, זה פשוט לא נכון. זה פשוט לא נכון. האם יש רוע בעולם.
המפתח להימנעות מאמראה שחורההדיסטופיה, אם כן, אינה נעוצה בדחיית הטכנולוגיה, אלא באימוץ האנושות.
"נקודת המוצא לכל השאלות השונות הללו שאנו מדברים עליהן היום היא התחושה הזו של,ובכן, מישהו הולך לתקן את החלקים השונים האלה של האנושות", ציין הייונס. במקום זאת, הוא מאמין, עלינו להפנות את המיקוד שלנו פנימה. "התבוננות פנימית היא עבודה קשה. אבל זו גם הדרך שבה התחילה הציוויליזציה".
חלקית, זה אומר לחבק את "מי שאנחנו כרגע, בלי להסתכל תמיד לעבר עתיד שבו אנחנו מניחים שדברים טכנולוגיים יצילו אותנו", אמר. "יש לנו את הכוח בתוכנו היום להציל את עצמנו".
עכשיו זה רעיון כל כך מעצים, שאנחנו כמעט מרגישים מוכנים רגשית לצפייה מוגזמתמראה שחורהשׁוּב.
אנג'י האן היא סגנית עורכת הבידור ב-Mashable. בעבר היא הייתה העורכת הראשית של Slashfilm.com. היא כותבת על כל מה שקשור לתרבות פופ, אבל בעיקר על סרטים, וזה חבל שכן יש לה טעם נורא בסרטים.
