יש הרבה ויכוחיםאת הייחודיות-- רגע עתידי היפותטי שבו תוכנה הופכת להיות מודעת לעצמה וחכמה מעבר ליכולתנו להבין. יש האומרים שזה יהיה ברכה לאנושות; חלקם צופים אפוקליפסה מונעת בינה מלאכותית.
את זה כבר ידענואילון מאסקהיה במחנה האחרון. עכשיו אנחנו יודעים שהSpaceXוטסלההיזם חושב שאבדון הבינה המלאכותית מתקרב מהר יותר ממה שמישהו חושד - בתוך 5-10 השנים הבאות.
[seealso slug="robots-taking-uk-jobs"]
הכל התחיל ביום שישי האחרון, כאשר ידוע כחלוץ המציאות המדומהג'רון לניירהוצג באתר של המוציא לאור ג'ון ברוקמן, Edge.org, דן באיום הפוטנציאלי של בינה מלאכותית בפוסט שכותרתו"המיתוס של AI"בעקבות מחשבותיו מופיעות הערות ממספר אנשי מדע וטכנולוגיה העוסקים בנושא. בין ההערות הללו היו מחשבותיו של מאסק, שנשמע הערה מדאיגה במיוחד לגבי האיום של AI
"הסיכון שמשהו מסוכן רציני יקרה הוא בטווח הזמן של חמש שנים. 10 שנים לכל היותר", כתב מאסק. "שים לב שבדרך כלל אני סופר פרו טכנולוגיה ומעולם לא העליתי את הנושא הזה עד החודשים האחרונים. זה לא מקרה של זאב בוכה על משהו שאני לא מבין".
הבעיה: לפי דובר מאסק שמאשבל פנה אליו, ההערות נשלחו במייל לברוקמן ולא נועדו להתפרסם באתר.
זמן קצר לאחר הופעת התגובה, היא הוסרה, אך לא לפני שצולם צילום מסך של התגובה ופורסם ב- Reddit, למעשה מבטיח שההערות הפרטיות כביכול של מאסק יישמרו לכל שרואים באינטרנט.
מלבד התחזית לטווח הקרוב להחריד, הדבר הנוסף שנראה היה שייך להערתו של מאסק היה האזכור שלDeepMind, חברה אמיתית מאוד שהוא השקיע בה שעובדת במרחב הבינה המלאכותית.
"קצב ההתקדמות בבינה מלאכותית (אני לא מתכוון ל-AI צר) הוא מהיר להפליא", אמר מאסק. "אלא אם כן יש לך חשיפה ישירה לקבוצות כמו Deepmind, אין לך מושג כמה מהר - היא צומחת בקצב קרוב לאקספוננציאלי".
מאוחר יותר, מאסק המשיך וטען שהשקפתו משותפת לאחרים העובדים בחלל.
"אני לא לבד שחושב שאנחנו צריכים להיות מודאגים", אמר מאסק. "חברות הבינה המלאכותית המובילות נקטו בצעדים גדולים כדי להבטיח את הבטיחות. הן מזהות את הסכנה, אבל מאמינות שהן יכולות לעצב ולשלוט באינטליגנציות העל הדיגיטליות ולמנוע מהרעות לברוח לאינטרנט. את זה נותר לראות...".
כיסינו את ההערות האחרונות של מאסק על הסכנות הפוטנציאליות של AI בעבר, כאשר הוא השווה באופן שונה את האיום לנשק גרעיניוכן א"שד" זומןעל ידי האנושות. אבל אף אחת מההערות הללו לא הצביעה על כך שמאסק האמין שהנפילה שלנו בידי הבינה המלאכותית תגיע כל כך מהר.
כדי לראות מה חושבים כמה מוחות מובילים אחרים על הנושא, כדאי לקרוא את כל רשימת התגובות שעדיין מופיעותבאתר, שכולל אנשים כמו פיטר דיאמנדיס (קרן X Prize), ג'ורג' צ'רץ' (פרופסור בהרווארד ומנהל הפרויקט הגנום האישי) ונתן מיהרבולד (לשעבר סמנכ"ל הטכנולוגיה במיקרוסופט).
ובכל זאת, הנה מה שמציב את הערותיו של מאסק באור מיוחד: הוא אחד מאנשי החזון הטכנולוגיים הבודדים שלא רק מדבר על עתידה של האנושות, אלא למעשה מבצע משימות קשות מאוד שיכולות לעזור להגדיר אותו.
גם התחזית שלו מקדימה את החבורה. ריי קורצווייל, התומך הראשי של תיאוריית הסינגולריות, צופה שנראה את האירוע הטכנולוגי מתקייםמתישהו בסביבות 2045-- עשרות שנים מאוחר יותר מהתחזית של מאסק.
ובכל זאת, בין אם אתה מאמין שנקודת המבט של מאסק נטועה במציאות, או ברומני מדע בדיוני רבים מדי, עצם העובדה שהנושא נדון כעת ברצינות כה רבה בקהילות המדע והטכנולוגיה היא תפנית מובהקת.
במייל ל- Mashable, דובר מאסק אמר שהיזם מתכוון לפרסם פוסט ארוך יותר בנושאבינה מלאכותיתבְּקָרוּב.
