כַּאֲשֵׁראילון מאסק, המייסד שלטסלהוSpaceX, הערות על העתיד, אוזניים בחלל הטכנולוגי מתעצמות. אבל התבטאות מינית של סוף שבוע מהעתידן משכה את תשומת לבם של אפילו כמה אנשים שאינם אנשי טכנולוגיה וחשפה שהוא מודאג מאפוקליפסת בינה מלאכותית (AI) יותר מכפי שהוא חש בחודשים האחרונים.
מפרסם את מחשבותיו בטוויטר בשבת, לאחר שהמליץ על ספר עלAI, מאסק אמר את מה שעשוי להיות ההצהרה הטכנולוגית השנויה ביותר במחלוקת בקריירה שלו: "אנחנו צריכים להיות זהירים במיוחד עם AI שעלול להיות מסוכן יותר מגרעין."
[seealso slug="her-singularity"]
שווה לקרוא Superintelligence מאת Bostrom. אנחנו צריכים להיות זהירים במיוחד עם AI. פוטנציאלי מסוכן יותר מאשר גרעינים.- אילון מאסק (@elonmusk)3 באוגוסט 2014
אחרים, כמו של גוגלריי קורצווייל, דנו ב"ייחודיות" טכנולוגית, שבה השתלטות הבינה המלאכותית על בני האדם, אך רק לעתים נדירות יש לה קול כה גבוה עם קשרים אמיתיים לעסקי הטכנולוגיה מעמידים את הפוטנציאל במונחים כה נוקבים.
למען ההגינות, יש לשקול את מחשבותיו של מאסק בהקשר שהוא עשה אותן, כלומר להציע את הספר Superintelligence: Paths, Dangers, Strategies, עבודה של ניק בוסטרום ששואלת שאלות מרכזיות לגבי האופן שבו האנושות תתמודד עם מחשבים סופר-חכמים ב העתיד.
עם זאת, ההשוואה של AI לגַרעִינִיכלי נשק, איום שהטיל צל מדאיג בחלק גדול מ-30 השנים האחרונות במונחים של אורך החיים של האנושות, שעלול להיקטע במלחמה גרעינית, מעלה מיד כמה שאלות.
הראשון, וככל הנראה מתחומים רבים, יהיה להטיל ספק בליהוק העתידי של מאסק. חלקם עשויים להשתמש בדאגות הבינה המלאכותית של מאסק - שנותרו פנטסטיות לרבים - כהוכחה לכך שהתחזיות שלו לגבי מכוניות חשמליות ונסיעות מסחריות בחלל הן חזון של מישהו שראה יותר מדימַדָע בִּדיוֹנִיסרטים. "אם מאסק באמת חושב שרובוטים עלולים להרוס את האנושות, אולי אנחנו צריכים לבטל את מחשבותיו הארוכות על טכנולוגיות אחרות." סביר להניח שהחיבורים האלה כבר נכתבים.
השני, ואולי מטריד יותר, הוא לקחת בחשבון שההשוואה של מאסק בין בינה מלאכותית לגרעין היא ראויה. מה אם למאסק, המוסמכת על ידי תובנה נדירה מהמוט הבלעדי שלו המנחה את העתיד האמיתי של נסיעות בחלל ומכוניות, באמת יש קו מדויק לגבי עתיד הבינה המלאכותית?
מאוחר יותר, כשהכפיל את הציוץ הראשוני שלו, כתב מאסק, "מקווה שאנחנו לא רק מטעין האתחול הביולוגי של אינטליגנציה-על דיגיטלית. למרבה הצער, זה יותר ויותר סביר".
מקווה שאנחנו לא רק מטעין האתחול הביולוגי עבור בינה-על דיגיטלית. למרבה הצער, זה יותר ויותר סביר - אילון מאסק (@elonmusk)3 באוגוסט 2014
בשנים האחרונות, ההערות הכי בהשראת המדע הבדיוני של מאסק סובבו סביבמיישב את מאדים, אבל ההערה האחרונה הזו, וזו שהוא אמרעוד בחודש יוניעל חשש לעתיד "Terminator", מצביעים על כך שמדובר בבעיה רצינית עבור איל הטכנולוגיה. באשר לשאלה האם לחששותיו יש משקל, אנחנו לא יכולים להיות בטוחים כרגע, אבל מאסק מגדר את ההימורים שלו על ידי השקעה בחברת מחקר בבינה מלאכותית בשםעָקִיף.
ככל הנראה, אם כי לא קולניים לגבי זה, אחרים במרחב הטכנולוגי מסכימים עם גישת ההשקעה של מאסק כלפי מכונות סופר אינטליגנטיות. המשקיעים ב-Vicarious כוללים אנשים כמו מארק צוקרברג מפייסבוק וג'ף בזוס מאמזון.
