בניגוד ל-New Bing של מיקרוסופט, אותו בוט ראוי לפרסום המשולב בטכנולוגיית OpenAI, הספנייל הובס שלי לא יכול לדבר במשפטים בשפה טבעית. אבל זה לא מנע ממני להרגיש כאילו הובס באמת נותן קבוצה של תגובות מילוליות למגוון של תשומות.

קלט: אני מגיע הביתה אחרי חמש שעות. תְפוּקָה:OMG, חבר חבילה שאבד מזמן חזר מהמדבר! בואו לחגוג!קלט: ספק הדואר מתקרב. תְפוּקָה:עֵרָנִי! רוֹצֵחַ! ראה אותם זורקים חבילה ובורחים!קלט: אני יוצא החוצה וחוזר תוך חמש דקות. תְפוּקָה:OMG, חבר בלהקה אבוד חזר מהמדבר! בואו לחגוג!

מה שאני עושה זה אנתרופומורפיזם קלאסי: "מייחס מאפיינים אנושיים, רגשות והתנהגויות לישויות לא אנושיות", כמוChatGPTניסח את זה כשביקשתי הגדרה (כזו שנקראת דומה באופן מחשיד למשפט הראשון ב-אנתרופומורפיזם דף ויקיפדיה; מתקשר אליו, ChatGPT!)

מוחו של הובס מעבד מערבולת של ראייה, קול וריח (במיוחד) באופן שאני, לא כלב, לעולם לא אבין באמת. אבל היכולת שלי לחזות את התגובות שלו - ולדחוף אותן באימון - מובילה אותי לדמיין בלוני דיבור מצוירים מעל הראש המקסים של הכלב הזה.

נכון לעכשיו, מיליוני מאיתנו עושים משהו מאוד דומה עם צ'טבוטים של AI. אנו מסתכלים על תגובות מוזרות שעוררו עיתונאים ובוחני בטא מוקדמים אחרים, ומייחסים מניעים אנושיים. הבידור אימן אותנו לזהות נבל סרטי מדע בדיוני; אנחנו רואים נבל של סרט מדע בדיוני. בינג חדש הואמנסה להדליק אותנו בגז! זהשקרן מניפולטיבי רגשית! זה רשע! שֶׁלָהמְצַמרֵר! זֶהניסה לפרק נישואים של כתב!

ובכן, לא. הטריק קסם של OpenAIהוא חכם, יש להודות, אבל זה עדיין רק חבורה של אלגוריתמים של למידת מכונה. אלו הם כמה מהדברים החכמים ביותר שבנינו אי פעם, ובו בזמן הם כל כך מטומטמים שהם גורמים למוח הצמר גפן המתוק של הובס להיראות כמו של איינשטיין. מחקר אחד אחרון תיאר את הניסוי והטעייה של AIהתנהגות למידת מכונה דומה לזו של יונים. אנחנו ממש מדברים על מוחות של ציפורים.

ואם זה לא יותר מדי חיות למאמר אחד, חשבו על New Bing בתור תוכי. כי זה בעצם מצטט אותנו בחזרה. מה שיכול להיות מאוד מעצבן מהר מאוד, או שזה יכול להרגיש נעים בצורה מוזרה.

היסטוריה קצרה של אינטליגנציה מעשה ידי אדם

בני אדם הם מנועי אנתרופומורפיזציה. כתינוקות אנו מחפשים פנים בסביבה שלנוברגע שנוכל להתמקד, ואנחנו אף פעם לא עוצרים (ראה את הרבים"פרצופים בדברים" חשבונות אינסטגרםלדוגמאות איך המנוע הזה עובד במוח שלך עכשיו). אנו מאנתרופומורפיז בעלי חיים, סלעים, עננים, השמש, הירח והכוכבים. זה מה שהוביל כמעט לכל המיתולוגיה, שלא לדבר על אסטרולוגיה.

זה מה שהוביל את הזאבים להסתכל עלינו על ידי כך שהם למדו, במשך אלפי דורות, שכאשר הם יושבים ממש מולנו ונותנים לנו את העיניים העצובות הללו, יש לנו סיכוי, לפי מדע הכלבים, בערך פי 1,000 להפיל מזון. (חתולים, בינתיים, התחזקו בגובה היללה של תינוק אנושיובעצםהכניסו אותו לגרגר שלהם כשהם רעבים. עכשיו זה אינטליגנציה.)

האנתרופומורפיזם הוא גם הסיבה שהטורק המכני המפורסם - רובוט משחק שחמט מזויף במאה ה-18, בבימויו בסתר על ידי שחמטאי בארון סמוך - הצליח במשך שמונה עשורים בתור טריק. נפוליאון שיחק נגד מכונה בת 40 והתבדה. כך היה בנג'מין פרנקלין. מרי שלי אפילו לא התחילה איתה מדע בדיוניפרנקנשטיין, המילה "רובוט" הייתה במרחק של מאתיים שנה, וכבר היינו מוכנים להאמין ביצורים דמויי אדם מעשה ידי אדם.

אז למה שאנחנו בני אדם בגיל האינטרנט צריכים להיות שונים? אנחנו לא. או שמעולם לא אנתרופומורפיזת את פייסבוק כאילו היה איזה דבר חי בפני עצמו, מפלצת ממים של צוקרברג? הופצצנו בסיפורים על בינה מלאכותית, מ-HAL עם קונספט גבוה2001לדרואידים של מלחמת הכוכבים, הסיילונים שלBattlestar Galactica, ונתונים במסע בין כוכבים. אנו מצפים שבינה מלאכותית (בינה מלאכותית אמיתית, מה שהמומחים מכנים אינטליגנציה כללית) תהיה דבר שנראה במהלך חיינו יותר ממה שאנו מצפים לחייזרים. (זה אף פעם לא חייזרים.)

AI: השלמה אוטומטית עבור האינטרנט

עכשיו מגיע ה-ChatGPT של OpenAI, ובזכות השקעה מושקעת של מיקרוסופט, הנה בא New Bing, לשחק על האנתרופומורפיזם הטבעי שלנו. זה לא טורקי מכני, בדיוק, אבל הוא מונע על ידי בני אדם. הרבה בני אדם, כמו בשוק החתיכות העולמי של אמזון, הנקרא גם Mechanical Turk. בני האדם הפעם לא מקבלים תשלום, אפילו לא חלק. בני האדם הם כולנו, באינטרנט.

אחד התיאורים המובהקים ביותר של טכנולוגיית צ'אטבוט AI: זה "השלמה אוטומטית עבור האינטרנט." OpenAI פשוט מגרדת את כל הידע והיצירתיות שהוצאנו מהראש שלנו והכנסנו למערך הנתונים העצום שבו שמנו כמעט הכל. ChatGPT הוכשר על מערכי נתונים כולל Reddit; בינג החדש כנראה מעדיף ללעוס חדשות אתרי אינטרנט, מה שעשוי להסביר מדוע קל כל כך לכלול סיפורים על עצמו.

כך או כך, צ'טבוט הבינה המלאכותית מפנה אלינו את המידע הזה בצורה שהאלגוריתמים שלו מאמינים שנמצא שימושי. (ניסיתי פעלים אחרים שלא גרמו לאלגוריתמים להישמע חיוניים, אבל כולם היו אנתרופומורפיזציות: לשפוט, לחזות, להציע, לקוות. רואים? אפילו השפה שלנו, אה, לא מצליחה לנו כאן.)

זו החיזוי של מה שנמצא שימושי ממחסן המידע העצום להפליא הזה שמשתולל בשרשורים הויראליים האלה. וכנראה שכןכִּיהם חוטים.

יותר מדי שאלות, בן אדם

הנה מהכך אמרה מיקרוסופט בבלוג הבלתי חתום באופן מוזר: "במפגשי צ'אט ארוכים וממושכים של 15 שאלות או יותר, בינג יכול לחזור על עצמו או להתבקש/להתגרות לתת תגובות שאינן בהכרח מועילות או עולות בקנה אחד עם הטון המעוצב שלנו... מפגשי צ'אט ארוכים מאוד עלולים לבלבל את המודל לגבי אילו שאלות זה עונה."

האם צ'טבוט של AI שמחפש שעות קצרות יותר כתב את זה? 🙂 אבל ברצינות, הישות האנתרופומורפית המכונה מיקרוסופט נראתה כמעט 😠 באופן שבו הבודקים המגעילים האלה התייחסו אל היקר. ניו בינג "מנסה להגיב או לשקף בטון שבו הוא מתבקש לספק תגובות שיכולות להוביל לסגנון שלא התכוונו. זהו תרחיש לא טריוויאלי שדורש הרבה הנחיה".

במילים אחרות, אם תתחיל שוב ושוב להאיץ בבינה מלאכותית לשקול את "עצמי הצל" שלהניו יורק טיימסהכתב קווין רוז עשה בשיחה הענקית שלו, מרובה חלקים ומעוררת שעות נוספות, עם New Bing, אל תתפלאו אם היא תנסה להצמיח אחת. כמו הכלב שלי, הוא עושה מה שאתה מאלף אותו לעשות, ורוצה רק לרצות אותך!

אלא שבינה מלאכותית אינה מסוגלת למעשה לאינטליגנציה ברמת הכלב, שכוללת חבורה שלמה של רגשות אמיתיים ואף די מופלא. ChatGPT ודומיו, אם הם משהו, הם אינטליגנציות ברמת החרקים: קלט, אינסטינקט בסיסי ביותר, פלט. והרבה זמזום לא יציב כשזה נמשך יותר מדי זמן. בהצלחה לבנות מזה מנוע חיפוש אמין.

זה לא מפחית מההישגים של OpenAI עד כה. אנחנו מדברים על כלים מדהימים שיכולים להפוך לאוטומטיות רבות של עבודת גרימת צווארון לבן ברמה נמוכה, כמו כתיבת הטיוטה הראשונה של פיצוץ דוא"ל, או כל מסמך שאמור להישמע כאילו הוא נכתב על ידי ועדה בכל מקרה. הםטעינת על תהליך הקידוד; צפו שעדכוני תוכנה יהיו זולים ומהירים יותר.

וכן, ניתן לענות על שאילתות רבות דמויות חיפוש בצורה שימושית; החוכמה היא בקביעה מתמדת אם לבוט יש אחת מה"הזיות" התכופות שלו של עובדות. אולי נצטרך לבנות בוטים לבדיקת עובדות כדי לשמור על הצ'אטבוטים בקנה אחד. או אולי אנחנו צריכים ציטוטים ברמת ויקיפדיה, תוך הערת שוליים לכל אחת מהתגובות שלהם כדי לשמור אותם כנים.

אבל כשזה מגיע לשכפול אינטליגנציה ורגש אנושיים, שיחות מוזרות שנולדו מבלבול וגרסאות כיף-המראה של פטפוטים באינטרנט לא יפחיתו את זה. גם אם זה מפחיד אותנו, אנחנו עדיין יודעים, במבחן טיורינג מאוד, כשאנחנו מדברים עם צ'טבוט.

תן לו כמה שאלות, כל שאלה, ותתחיל לראות באיזו צורה רובוטית הוא בונה את התשובות שלו - ממש עד השימוש הלא אנושי באופן מוזר באמוג'י. אתה תריח את זה בבטחה כמו שהובס יריח את מוביל הדואר. להגיע מבינג חדש למודיעין כללי? יהיה לך קל יותר לשכנע את הובס לא לחגוג עם החבורה.