סטיבן הוקינג, גאון שהוא, הוא בדיוק כמונו. הוא מוצא את The Big Bang Theory מצחיק, והשיר האהוב עליו שנכתב אי פעם הוא "Have I Told You Lately" של רוד סטיוארט. אבל מה לגבי מחשבותיו על בינה מלאכותית?

הוקינג פרסם את תגובותיו לראשונה אי פעםRedditAMA ביום חמישי כדי לדבר על טכנולוגיה, AI ונושאים רבים אחרים. ה-AMA היה חלק ממנו#maketechhuman, שיחה על תפקידה של הטכנולוגיה בעולם, בחברות ובחיים שלנו. השתתפותו של הוקינג בדיון באה בעקבות אמכתב פתוחהדגשת הגורם האנושי של פיתוח בינה מלאכותית.

יותר מ-9,000 תגובות הוגשו לשרשור AMA מאז פתיחתו ביולי, מה שהפך אותו ל-AMA השלישי בגודלו אי פעם, לפי הצהרה. כדי לחסוך ממך לעיין במספר אינסופי של פוסטים, הנה סיכום של הדגשים, מעתיד בני האדם מול AI, ועד למחשבותיו על נשים. אתה יכול גם לקרוא את השאלות והתשובות המלאות של AMAכָּאן.

על נקודות המבט שלו לגבי תקשורת ו"AI מרושע", כמו גם איך הוא יציג את אמונותיו שלו:

אתה צודק: התקשורת מייצגת לעתים קרובות את מה שנאמר בפועל. הסיכון האמיתי עם בינה מלאכותית הוא לא זדון אלא מיומנות. בינה מלאכותית סופר-אינטליגנטית תהיה טובה מאוד בהשגת המטרות שלה, ואם המטרות הללו אינן תואמות לשלנו, אנחנו בבעיה. אתה כנראה לא שונא נמלים מרושע שדורך על נמלים מתוך זדון, אבל אם אתה אחראי על פרויקט אנרגיה ירוקה הידרואלקטרית ויש באזור צול נמלים להציף, חבל על הנמלים. בואו לא נציב את האנושות בעמדה של הנמלים האלה.

על הסיכון של אבטלה טכנולוגית, המכונות המשתלטות על מקומות העבודה שלנו:

אם מכונות מייצרות את כל מה שאנחנו צריכים, התוצאה תהיה תלויה באופן שבו הדברים מופצים. כל אחד יכול ליהנות מחיי פנאי יוקרתיים אם העושר המיוצר על ידי מכונות משותף, או שרוב האנשים עלולים בסופו של דבר להיות עניים אומללים אם בעלי המכונות מצליחים להשתדל נגד חלוקת העושר מחדש. עד כה, נראה שהמגמה היא לכיוון האופציה השנייה, כשהטכנולוגיה מניעה את אי השוויון הולך וגובר.

לגבי האפשרות שמכונות יהיו חכמות יותר מהיוצרים שלהן?

ברור שזה אפשרי שמשהו ירכוש אינטליגנציה גבוהה יותר מאבותיו: התפתחנו להיות חכמים יותר מאבותינו דמויי הקופים, ואיינשטיין היה חכם יותר מהוריו.

ומה לגבי אם מכונות יכולות לעצב את עצמן טוב יותר ממה שבני אדם יכולים?

אם זה יקרה, אנו עלולים לעמוד בפני פיצוץ מודיעיני שבסופו של דבר יגרום למכונות שהאינטליגנציה שלהן עולה על שלנו יותר ממה שלנו עולה על זו של חלזונות.

אבל בואו נתחיל במרדף - האם אנחנו עומדים בפני איום קיצוני ממכונות אינטליגנטיות, או שפשוט עלינו להתכונן לעתיד:

האחרון. אין הסכמה בין חוקרי בינה מלאכותית לגבי כמה זמן ייקח לבנות בינה מלאכותית ברמה אנושית ואילך, אז בבקשה אל תסמוך על מי שטוען שהוא יודע בוודאות שזה יקרה במהלך חייך או שזה לא יקרה בחייך מֶשֶׁך הָחַיִים. כשזה אכן מתרחש בסופו של דבר, סביר להניח שזה יהיה הדבר הטוב ביותר או הגרוע ביותר שאי פעם קרה לאנושות, אז יש ערך עצום לביצוע נכון. עלינו להעביר את המטרה של AI מיצירת בינה מלאכותית לא מכוונת ליצירת בינה מועילה. זה עשוי לקחת עשרות שנים כדי להבין איך לעשות זאת, אז בואו נתחיל לחקור את זה היום ולא בלילה שלפני הפעלת הבינה המלאכותית החזק הראשונה.

לבסוף, באיזו תעלומה הוא מוצא את המסקרנת ביותר:

נָשִׁים. הרשות שלי מזכירה לי שלמרות שיש לי דוקטורט בפיזיקה נשים צריכות להישאר בגדר תעלומה.