אינטליגנציה מלאכותית תמיד זכתה בהייפ על ידי חובביה הכריזמטיים לעתים קרובות; לאחרונה נראה כי ההייפ עשוי להתגשם. חוקרי תקשורת, טכנולוגים, ויותר ויותר הציבור הרחב רואים את עליית הבינה המלאכותית כבלתי נמנעת. חברות עם נתונים המוני המוזנים למערכות AI - כמו גוגל, פייסבוק, יאהו ואחרות - עושות כותרות עם הצלחות טכנולוגיות שהיו מדע בדיוני אפילו לפני עשור: אנחנו יכולים לדבר לטלפונים שלנו, לקבל המלצות מותאמות אישית לתחומי העניין שלנו , ואולי אפילו להסתובב במכוניות המונעות על ידי מחשבים בקרוב. העולם השתנה, ובינה מלאכותית היא חלק גדול מהסיבה לכך.

כפי שניתן לצפות, מומחים וטכנולוגים מדברים על "מהפכת ה-AI" במונחים הזוהרים ביותר, ומשווים את ההתקדמות בטכנולוגיית המחשבים עם ההתקדמות באנושות: רמת חיים, גישה לידע ומגוון של מערכות ויישומים מתפתחים, החל משופרים. מכשירי שמיעה וראייה ללקויי, לייצור זול יותר של מוצרים, להמלצות טובות יותר מאמזון, נטפליקס, פנדורה ואחרות. בינה מלאכותית היא מוט מדידה להתקדמות, מדעית, טכנולוגית ואפילו חברתית.

אבל הקידמה הטכנולוגית חותכת לשני הכיוונים. באופן לא מפתיע, ההתרגשות מפני הבינה המלאכותית הקרובה עוררה פרשנות מדאיגה ומזהירה לגבי החיסרון הפוטנציאלי. החיסרון הזה, כמו החיסרון, מתבטא במונחים עזים ואמוציונליים. רב המכר של ניק בוסטרום משנת 2014, Superintelligence: Paths, Dangers, Strategies, מזהיר שבינה מלאכותית יכולה לאיית את קץ האנושות (תרתי משמע). וחוקר IBM לשעבר שהפך למנכ"ל השיווק האלקטרוני לואיס דל מונטה, בספרו מ-2013, The Artificial Intelligence Revolution: Will Artificial Intelligence Serve Us or Replace Us?, מסכים שבינה מלאכותית מתרחשת כל כך מהר שהשינויים עלולים להיות קטקליזמים. גם הסופר ויוצר הסרטים של נשיונל ג'יאוגרפיק וויליאם באראט הצטרף למאבק במצב אפוקליפטי מלא בהמצאה הסופית שלנו: בינה מלאכותית וסוף העידן האנושי.

עמק הסיליקון מוכר קידמה, ולכן אין זה פלא שהעמק אימץ בדרך כלל את ההייפ החיובי על בינה מלאכותית כיום. סטארט-אפים חדשים עם תקווה דופקים בתוף הבינה המלאכותית, ומצפים לרכוב על חלק מגל ההתרגשות להון סיכון ולהצלחה עתידית. עם זאת, חבורה אקלקטית של משקיעים ואיקונוקלסטים בעמק צנחה גם היא לדאגות לגבי AI שמגיע מוקדם מדי, ומשנה את החברה האנושית מהר מדי. רוב החששות הללו מתמקדים בייחודיות, נקודת הצלבה שתגיע בקרוב בענייני האדם והמכונה, שבה מכונות עוקפות את האינטליגנציה האנושית, ואנחנו מפסיקים להיות התכונה המעניינת ביותר של הפלנטה.

אילון מאסק, מייסד טסלה ו-SpaceX, העלה השערות גלויות שאפשר לצמצם בני אדם ל"חיות מחמד" על ידי המכונות העל-אינטליגנטיות הבאות. מאסק תרם 10 מיליון דולר למכון Future of Life, בהצעה שתוארה בעצמה לעזור למנוע את הפיתוח של "רובוטים רוצחים". בברקלי, המכון לחקר מודיעין מכונה (MIRI) מוקדש לטפל במה שבוסטרום ורבים אחרים מתארים כ"איום קיומי" על האנושות, ומאפיל על דאגות קודמות (ומתמשכות) לגבי האקלים, שואה גרעינית ותושבים גדולים אחרים של החיים המודרניים שלנו. אורחים כמו סטיבן הוקינג וביל גייטס הגיבו גם הם על הפחד של בינה מלאכותית.

לרעיון שבינה מלאכותית מייצגת סכנה ברורה ונוכחת יש אילן יוחסין ישן. עוד בשנת 2000, ביל ג'וי, קצין הטכנולוגיה הראשי לשעבר של סאן מיקרוסיסטמס שנפטרה כעת, כתב במאמרו את אחת מההתלהמות האפוקליפטיות המפורסמות ביותר על האיום על האנושות מ-AI אי פעם.למה העתיד לא צריך אותנו" -- פורסם על ידי (מי עוד?) Wired, ונדון בהרחבה עם תחילת המאה החדשה. אולם המסר הוטבע בדאגות מורגשות יותר: פיגועי הטרור של 11 בספטמבר 2001. היום, למעלה מעשור לאחר מכן, החרדה של ג'וי רובוטים קטלניים, שהתאפשרו על ידי התקדמות מהירה בבינה מלאכותית, חוזרת כעת עם הצעות לבינה מלאכותית כאבן הדרך להצלחה העתידית שלנו.

דיון סוער מדי על גאדג'טים חכמים ובינה מלאכותית תמיד עיטר את הדפים המבריקים של מגזינים כמו Wired. אולם לאחרונה, הנושא שנראה בעבר אקדמי וספקולטיבי התפשט גם לכלי התקשורת הגדולים. הניו יורק טיימס מודאג לגבי "בינה מלאכותית כאיום", במאמר מנובמבר 2014 (הופיע באופן מוזר ב"אופנה וסטייל"). ג'ון מרקוף, סופר טכנולוגי ב"טיימס", כתב עשרות מאמרים בנושא, עם כותרות שמותירות מעט לדמיון: "ההתקדמות המהירה של בינה מלאכותית," כדי לבחור אחד. כלי תקשורת רבים אחרים מפרסמים סיפורים דומים. AI, כך נראה, מגיע - ומהר.

תשומת הלב התקשורתית אינה מוגבלת למגזינים ולפרסומי תקשורת. גם ספרי עיון על הפוטנציאל החיובי של AI התפוצצו בשנים האחרונות. אריק בריינג'ולפסון ואנדרו מקאפי, שניהם מהמרכז לעסקים דיגיטליים של MIT ומבית הספר לניהול סלואן, טוענים בספרם משנת 2014,עידן המכונות השני: עבודה, התקדמות ושגשוג בתקופה של טכנולוגיות מבריקות, שאנו נכנסים במהירות לעידן חדש לגמרי, כאשר מכונות מתחילות למלא תפקידים שפעם היו סמכותם הבלעדית של בני האדם. מרובוטיקה בייצור ועד התאמה אישית באינטרנט, AI משנה את הנוף של הכלכלה החדשה, הם טוענים. בעיקר, עידן המכונות הוא יתרון, שכן עבודות משעממות או מסוכנות עוברות למכונות, ועבודה מעניינת נעשית על ידי עוזרי מחשוב אינטליגנטיים. בינה מלאכותית בפתח, אומרים בריינג'ולפסון ומקאפי, אבל אלו בעצם חדשות נפלאות: לעסקים, לרמת החיים שלנו ולעתיד האנושות.

גם החזון של פוליאנה של בריינג'ולפסון ומקאפי, וגם האפוקליפטו של מאסק וגורמי דין אחרים מניחים הנחת יסוד שנותרה ניתנת לערעור: שהבינה המלאכותית מגיעה במהירות, ושהראיות למחשבים אינטליגנטיים באמת משכנעות. האם זה?

מבחינה מדעית, הרעיון שכוח מחשוב המניע טכנולוגיות "חכמות" מודרניות כמו Siri, או Google Now, או אפילו מכוניות בנהיגה עצמית, מהווה עדות לאינטליגנציה אמיתית, דמוית אנוש, שנוי במחלוקת הרבה יותר ממה שמודה רוב הדיון הנוכחי. האתגרים הגדולים נותרו, כפי שציין לאחרונה מדענים כמו מאסטרו למידת המכונה של ברקלי, מייקל ג'ורדן.ההקדמה שלו על ביג דאטה ובינה מלאכותיתבדו"ח המועצה הלאומית למחקר 2013 "גבולות בניתוח נתונים מסיבי". ירדן מעלה אתגרים טכניים, אבל מתנגדים אחרים הם פילוסופיים יותר. הומניסטים, קראו להם. הומניסטים חדשים. הקולות שלהם חזקים, הגיוניים ויותר ויותר (אולי באופן אירוני): פופולריים.

כתב עורך הרווארד ביזנס ריוויו לשעבר, ניקולס קארסיפור אזהרהעל האוטומציה הזוחלת של חיי היומיום בשנה שעברה. וסרטו של מומחה הטכנולוגיה ג'רון לנייר You Are Not a Gadget (2010), יחד עם ההמשך שלו, Who Owns the Future?, מפרטים נושאים בספקנות עמוקה לגבי הטענות האחרונות לגבי AI קרוב. התלונה מתמקדת בחזיונות העתיד שלנו שאינם כוללים אותנו. זוהי חזרה של ההומניזם, במילים אחרות, בעין של סערה על מכונות יותר ויותר אישיות. קאר ולנייר ספקנים לשמצה לגבי הקידמה הטכנולוגית באופן כללי, אבל גם לא לודיטים (לנייר הוא אחד החלוצים המקוריים של תוכנות המציאות המדומה). המשותף להם הוא אמונה נחרצת ש"אינטליגנציה מלאכותית" היא כינוי שגוי - אינטליגנציה אמיתית מגיעה ממוחות אנושיים - ואמונה שההתלהבות מבינה ממוחשבת נוטה להפחית ואף לסכן את האינטליגנציה האנושית.

לנייר, קאר ותנועת תרבות-נגד הולכת וגדלה של סופרים וטכנולוגים, ספקנים לגבי מה שהם רואים כמיתולוגיה על בינה מלאכותית הדומה לדת חדשה ושקרית, מציינים את המעלה של האינטליגנציה האנושית ואת החשיבות של אדם- מבט ממוקד על העתיד שלנו.

קאר השמיע סאבו ראשוני בתנועת הנגד הזו, במאמר ב-2007 ב"אטלנטיק", שכותרתו "האם גוגל עושה אותנו טיפשים??" המאמר עורר סערה, אבל גם דיון על תפקידה של הטכנולוגיה בחיינו, אפילו כשההתרגשות מהאינטרנט התקרבה לגובה קדחת. תגובת הנגד ממומחים טכנולוגיים הייתה מהירה; אולם נקודותיו של קאר כוונו לציבור הישר. בזמן ונוקב "האם אנחנו מבלים יותר מדי זמן באינטרנט?" עיסוקים?" (כמו, למשל, לקחת את העותק הישן הזה של מובי דיק, ולבסוף לסיים אותו?) השתמע מהדיון של קאר היה הרעיון שהחישוב הוא, אחרי הכל, רק אוטומציה, ואוטומציה של משהו, לא משנה כמה "חכם" הוא. נראה, אינו יכול לתפוס ואינו יכול להחליף את החוויות האנושיות שלנו, קאר החל בדיון שנמשך בשנים האחרונות, באופן פרדוקסלי בצל הדיון המתפתח. על בינה מלאכותית -- גם הפוליאנה וגם האפוקליפטוס.

ההצלחה של היצירה האטלנטית המוקדמת של קאר הובילה מיד לספרו רב המכר, The Shallows, שגם זיכה את קאר במקום הסופי של הפוליצר. גם סופרים אחרים בעלי תודעה הומניסטית החלו להופיע בערך בזמן המאמר של קאר. לכאורה שונים, הם בכל זאת חלקו רעיון משותף: הטכנולוגיה הדיגיטלית לא הופכת להיות חכמה כמו אנשים. החכמה שלנו היא שבסופו של דבר נחשבת; הכלים הטכנולוגיים שלנו לא יכולים להציל אותנו (או אף אחד לא, על ידי "להתעורר" בניגוד לרצוננו, להרוס אותנו). הומניסטים כמו קאר אינם מסכימים עמוקות עם כל דיון על AI שנוטה לפאר כלים על חשבון אנשים. הנחת הרובוטים החכמים מרגשת, אך בעולם האמיתי הנרטיבים הללו עלולים להזיק. (עוד על כך בעוד דקה.)

שורות ההומניסטים ממשיכות לגדול. כתב הפילוסוף הפוליטי שהפך למכונאי אופנועים שהפך לסופר רבי המכר מתיו קרופורדחנות כיתה כמו מלאכת נשמה, ספר כביכול על הערך והסגולה של עבודה עם הידיים, אבל ביתר שאת על הסכנות של שכחת עצמך במבוך דיגיטלי של הפשטות, המאופיינת בשיגעון הטכנולוגיה החכמה. בעבודתו של קרופורד הונחה אותה אמונה במרכזיות של האנושות - ההתמקדות באנשים, לא במכונות - שנותנת השראה לעבודה של קאר ולנייר.

זמן קצר לאחר הדיס האייקוני של קאר על גוגל וכל מה שקשור לאינטרנט, גם עמק הסיליקון מצא את קולו ההומניסטי בדמותו של יזם העמק לשעבר אנדרו קין. קין כתב ביקורת נוקבת על הרשת כמקום שבו הסטנדרטים הספרותיים הולכים למות, למעשה. האופנה הרדודה של "Web 2.0" הדביקה במהירות את העיתונאות עד ליבה, טען קין: בלוגים, בעיקר, אבל מאוחר יותר פייסבוק וטוויטר, כולם ממעיטים ביכולות הספרותיות האנושיות, הוחלפו בשבטונים אנונימיים ובקטעים של מדיה חברתית, שנותחו לפי ערך פרסומי על ידי ביג נתונים ובינה מלאכותית. המכונות אולי מרשימות, אמר קין, אבל מה לגבי הסטנדרטים שלנו? של קיןכת החובביםקרא תיגר על מה שלנייר כינה תפיסת עולם של "טוטאליזם קיברנטי" ברשת המודרנית, הרואה בבני אדם נחילי דבורים עוזרים, הפועלים בצייתנות וחסרת שכל, מטעם "הכוורת", סביבות הרשת הדיגיטליות המודרניות שלנו, שבהן איכות אמורה להופיע. מעשרות אנשים אנונימיים המאכילים מכונות חזקות יותר ויותר. ויקיפדיה היא אפליקציית הכוורת המושלמת, ללנייר. הוא כתב בצורה נוקבת שהאינטליגנציה והמומחיות האישית של תורמים לויקיפדיה משרתות את מטרות הפרויקט הקהילתי. מה שלא מוסווה -- מה שאף פעם לא מוסווה -- הוא היבט הגאוני של מסגרות הטכנולוגיה שמאפשרות הכל. כפי שלנייר מציין, ההתמקדות בטכנולוגיה, לא באנשים, תואמת היטב את רעיון הבינה המלאכותית שמכונות הן העתיד שלנו.

להומניסטים יש נקודה פשוטה לכאורה, אבל המאבק בהתקדמות הטכנולוגיה באמצעות פנייה לערך האנושי היא אסטרטגיה ישנה, ​​וההיסטוריה לא התייחסה אליה בחביבות. עם זאת, התנועה הנגד-תרבותית המודרנית נראית אחרת, איכשהו. ראשית, אנשי הבינה המלאכותית הגיעו לסוג של נקודת אל-חזור נרטיבית עם הרעיונות שלהם על ייחוד: הרעיון שמכונות חכמות משתלטות הוא סקסי וקונספירטיבי, אבל רוב האנשים מבינים את ההבדלים בין אנשים -- המוח שלנו, או הנשמות שלנו - וההיגיון הקר של המכונות שאנו בונים. הפרדוקס המודרני נותר בעינו: אפילו כשהטכנולוגיה שלנו מייצגת הארה עצומה של חדשנות אנושית, הנרטיבים שלנו על העולם המודרני יותר ויותר לא מפנים לנו מקום. התודעה, כפי שמנסח זאת לנייר בפרובוקטיביות, מנסה להוציא את עצמה מהקיום. אבל איך זה יכול להצליח? ולפרדוקס: איך אנחנו יכולים גם לחדש בצורה מבריקה וגם להיות חסרי חשיבות, בסופו של דבר להתרחק מהעתיד, לוותר עליו למכונה שבנינו?

כל זה מייצג אתגר עמוק עם יותר מתשובה טכנולוגית. כשמודיעין מכונה יגיע (אם תגיע), מה היה קורה? מחשבים בעלי אישיות יהיו דומים לגילוי חיי חייזרים בגלקסיות אחרות. עם זאת, הומניסטים טוענים כי אוטומציה חסרת תודעה תמשיך להיות חזקה יותר ומתפשטת יותר, אך ביסודו של דבר העולם נותר שלנו ליצור. לכן, הומניסטים ממקדים מחדש את הדיון בהשלכות האמיתיות של אוטומציה חסרת רסן, והפחתת המצוינות האנושית הנובעת מהתרגשות יתר ממכונות.