אילון מאסק טועה לגבי AI

אילון מאסק הוא גאון -- דרוויש מסתחרר של פעילות מנטלית אינטנסיבית ובעולם האמיתי, שככל הנראה לא יכול להפסיק לדאוג לגבי AI.

ועכשיו הוא גורם לכולנו לדאוג לגבי בינה מלאכותיתמעוררת מלחמת העולם השלישית.

ראה גם:

מאסק טועה? הבטן שלי אומר: כן, טעות רבה. מחשבים הם חכמים ורציונליים יותר מבני אדם, אז אני חושב שבינה מלאכותית חיה תעשה כל שביכולתו כדי למנוע מלחמה. כדי להיות הוגן. הערותיו של מאסק, שהופעלו על ידי אהצהרת עליונות AI העולמיתשנעשו על ידי נשיא רוסיה ולדימיר פוטין, היו יותר מצביעים על התפקיד האפשרי של AI במלחמה העולמית הגדולה הבאה.

ייתכן שהציוץ נמחק

זו "התחרות על עליונות בינה מלאכותית" שעלולה להוביל למלחמת העולם השלישית.

מאסק הציע את הפרשנות האפלה לאחר מכןThe Vergeפרסם סיפור על הערותיו של פוטין בפני 16,000 ילדי בית ספר ביום הידע של המדינה, הפתיחה הרשמית של שנת הלימודים הרוסית.

פוטין, לא הזכיר מלחמה, אבל הוא הבהיר שהוא חושב על בינה מלאכותית ותפקידה בעתיד היחסים הגיאופוליטיים:

"בינה מלאכותית היא העתיד, לא רק עבור רוסיה, אלא עבור כל המין האנושי. זה מגיע עם הזדמנויות עצומות, אבל גם איומים שקשה לחזות. מי שיהפוך למנהיג בתחום הזה יהפוך לשליט העולם", אמר פוטין.

יש מי שלקחו את השימוש במילה "שליט" באופן מילולי וחושבים שפוטין משרטט קווי קרב מראש: ייתכן שהמשנה היה:לנצח במשחק הזה ולשלוט בעולם או להיות מתחת לאגודל של רוסיה.

אני חושב שככה מאסק לקח את זה.

עם זאת, פוטין הלך בעקבותיו בנימה פחות פרובוקטיבית, והזכיר לסטודנטים, "אם נהיה מנהיגים בתחום הזה, נשתף את הידע הזה עם כל העולם, באותה דרך שבה אנחנו חולקים את הטכנולוגיות הגרעיניות שלנו היום".

אחרי שקראתי את המשפט הזה, חזרתי וקראתי שוב את השורה המקורית ולמרות שאולי פוטין דיבר על "שלטון" כמו ב"מאסטר", מונח שתלמידים עשויים לפרש כהִזדַמְנוּת. אחרי הכל, הוא ניסה לעורר השראה בסטודנטים למקד את לימודיהם במה שעשוי להשפיע הכי הרבה על העתיד, והוא צודק לזהות בינה מלאכותית.

מאסק, לעומת זאת, תקוע באותו הפתק. הוא ממעט להזכיר בינה מלאכותית באופן אישי או בטוויטר מבלי לנסות לעורר פחד.

לעתים קרובות זה קשור לרעיון מגניב ומעט מפחיד:תחרה עצבית, התוכנית של מאסק להטמיע בתוכנו טכנולוגיית מחשבים, או כפי שתיאר ב-2016: "למזג ביעילות בצורה סימביוטית עם אינטליגנציה דיגיטלית". פעולה זו תעזור לנו לחשוב שרובוטי הבינה המלאכותית בוודאי באים לשלוט או להרוג אותנו. ייתכן שהתוכנית שלו נתנה השראה לפייסבוק המפחידה מעט"ממשק המוח."

מה שמתסכל הוא שמאסק צודק בהרבה מאוד מובנים לגבי AI. הוא רואה את הפוטנציאל שלה ואת קצב הצמיחה האקספוננציאלי הצפוי של בינה מלאכותית. הוא גם מוכר AI. לכל הטכנולוגיה לנהיגה עצמית במכוניות הכל-חשמליות שלו טסלה יש בינה מלאכותית ועתידטסלס יכלו לנו בינה מלאכותית ללמד את עצמם לנהוג.

מאסק היה גם הכוח המניע מאחורי יצירתם של ארגונים יקרי ערך כמוOpenAI, המבקש למצוא דרך לפיתוח AI "בטוח".

זה מישהו שמקבל את זה, ואני מאמין שהוא נרגש מההזדמנויות שמעניקה הבינה המלאכותית.

ובכל זאת ברור שהוא גם מתייסר מזה, מה שלדעתי יכול לעוור אותו לכמה מציאויות בסיסיות.

ב-4 בספטמבר, צפון קוריאהלפי הדיווחים ניסו פצצת מימןוטען שהוא יכול לשים אותו על ראש נפץ. אנשים, באופן סביר, התחרפנו. הנשיא דונלד טראמפ הגיב בשפה חזקה ובאיומים דקיקים.

זה מרגיש כאילו אנחנו על סף מלחמה אמיתית.

וזו אחת הסיבות לכך שאני לא חושב שההערות של מאסק היו אחראיות מאוד. AI כאיום מעורר מלחמת העולם השלישית הוא, לעת עתה, תיאורטי. מעשיה של צפון קוריאה הם אמיתיים וקוראים לתגובה אמיתית כלשהי.

זה נכון: התגובה הזו כנראה תהיה יותר סנקציות, אבל להפיל את הבינה המלאכותית ולטעון שהיא עשויה להיות יד במלחמה ברגע המדויק שאולי נצטרך כמה אלגוריתמים חכמים של בינה מלאכותית שיעזרו לנו להפעיל תרחישים שיכולים לעזור לכולנו למצוא דרך לצאת מזה זה, נראה שגוי.

זה לא הזמן עבור מאסק להגביר את רטוריקה מעוררת הפחד שלו בינה מלאכותית. אני מברך ומסכים עם כל נטיות הפיקוח שלו, אבל בבקשה לא נוכל לבנות ולחגוג בינה מלאכותית לפני שנברח בפחד? מאסק לא לבד בתחזיות יום הדין שלו בבינה מלאכותית. הוא מצטרף בקביעותביל גייטס וסטיבן הוקינג. אבל מאסק הוא זה שדופק בתוף הזהירות באופן העקשני ביותר. בסופו של דבר אנשים יכלו לפחד מהצמיחה של AI עד כדי כך שהם דורשים חקיקה שתעצור אותה. זה יכול להיות רעיל כמו אנרגיה גרעינית בחלקים מסוימים של העולם.

אני יודע שזו לא המטרה של מאסק. ובכל זאת, מאסק, ואולי במידה מסוימת פוטין, גרמו לאנשים לחשוב על בינה מלאכותית כפי שהיא עשויה להיות קשורה לנשק, אפילו לנשק להשמדה המונית (WMDs).

זה נכון, משרד ההגנה מנסה לבנות לוחמי רובוט כבר עשרות שנים. מה שיש לנו, עם זאת, הם בעיקר הליכה או ריצה של בוטים רטנים, ורובוטים שיכולים להיכנסלנטרל פצצות. אין חיילי רובוטכְּשֶׁלְעַצמוֹ.

והארסנל הגרעיני של ארה"באפילו לא מחובר לרשת.

דאגות לגבי AI כאיום גלוי תמיד היו מוגזמות. כמו רובוטיקה, גם במשך שנים, אם לא עשרות שנים קדימה, תהיה לה השפעה איטית, עדינה וערמומית על חיינו.

בינה מלאכותית היא לא הרובוט שבא להרוג אותך או הנשק המכוון למדינת הבית שלך. זהו הצ'אט בוט מונע האלגוריתם שמדבר אליך באינטרנט, עוזר להמליץ ​​על הבא שלךבולמוס של נטפליקס, מחפש את הבא שלךתאריך Match.com, או בוחר מודעה על האף שתופיע בדף אינטרנט זה. התוכנית היא שעושההחלטות נטיעותעבור חקלאים או חמוסים החוצה אתאבחון סרטן אפשריבחולה לפני שרופא אנושי יכל. זו תוכנת זיהוי התמונות שבוחרת כלבים, חתולים ואנשיםתמונות בפייסבוקוהעוזרת הקולית עם כל התשובות. זו התוכנית שמנצחת אותךלָלֶכֶת, שחמט ופּוֹקֶר.

בינה מלאכותית תנצח אותנו באלף משחקים ומשימות קטנות לפני שהיא תשיק את מלחמת העולם השלישית.

מאסק ופוטין צודקים. יש מעט טכנולוגיות חשובות יותר לעתיד העולם המודרני מאשר בינה מלאכותית. עלינו להתאמן בו, ללמוד אותו, לשלוט בו ולהפסיק לברוח ממנו.