מנכ"ל טסלה אילון מאסק עלה לכותרות בשבוע שעבר כשצייץ על התסכולים שלו שמארק צוקרברג, אי פעם האופטימי,לא לגמרי מביןהסכנה הפוטנציאלית הנשקפת מבינה מלאכותית.

אז כשכלי תקשורת החלו לדווח שוב בנשימה על אסיפור בן שבועותשצ'אטבוטים המאומנים ב-AI של פייסבוק "המציאו" את השפה שלהם, אין זה מפתיע שהסיפור משך יותר תשומת לב מאשר בפעם הראשונה.

מובן, אולי, אבל זה בדיוק הדבר הלא נכון להתמקד בו. העובדה שהבוטים של פייסבוק "המציאו" דרך חדשה לתקשר לא הייתה אפילו החלק המזעזע ביותר במחקר מלכתחילה.

ראה גם:

קצת רקע: חוקרי הבינה המלאכותית של פייסבוק פרסמו מאמר חזרהביוני, תוך פירוט מאמציהם ללמד צ'אטבוטים לנהל משא ומתן כמו בני אדם. הכוונה שלהם הייתה לאמן את הבוטים לא רק לחקות אינטראקציות אנושיות, אלא למעשהחוֹקכמו בני אדם.

אתה יכול לקרוא הכל על הנקודות העדינות של איך זה קרה בפייסבוקפוסט בבלוגעל הפרויקט, אבל השורה התחתונה היא שהמאמצים שלהם היו הרבה יותר מוצלחים ממה שהם ציפו. לא רק שהבוטים למדו להתנהג כמו בני אדם,מַמָשִׁיבני אדם כנראה לא היו מסוגלים להבחין בהבדל בין בוטים לבני אדם.

עם זאת, בשלב מסוים בתהליך, סגנון התקשורת של הבוטים ירד מעט מהפסים.

החוקרים של פייסבוק הכשירו את הבוטים כדי שילמדו לנהל משא ומתן בצורה הכי יעילה שאפשר, אבל הם לא אמרו לבוטים שעליהם לפעול לפי כללי הדקדוק והתחביר האנגלי. בגלל זה, הבוטים התחילו לתקשר בצורה לא הגיונית באומרו דברים כמו "אני יכול בכל דבר אחר",חברה מהירה דיווחבסיפור המצוטט כעת המפרט את התוצאה הבלתי צפויה.

ברור שזו לא הייתה הכוונה של פייסבוק -- שכן המטרה הסופית שלהם היא להשתמש בלמידה שלהם כדי לשפר צ'אטבוטים שבסופו של דבר יתקשרו עם בני אדם, אשר, אתם יודעים, מתקשרים באנגלית פשוטה. אז הם התאימו את האלגוריתמים שלהם כדי "לייצר שפה אנושית" במקום זאת.

זהו.

אז בעוד שהבוטים אכן לימדו את עצמם לתקשר בצורה שלא הייתה הגיונית למאמנים האנושיים שלהם, זה כמעט לא תרחיש יום הדין שכל כך מרמזים לכאורה. יתרה מכך, כפי שאחרים ציינו, דברים מסוג זה מתרחשים במחקר בינה מלאכותית כל הזמן. זכור כאשר חוקר בינה מלאכותית ניסה לאמן רשת עצבית להמציא שמות חדשים לצבעי צבעוזה השתבש בצורה מצחיקה? כן, זה בגלל שאנגלית קשה -- לא בגלל שאנחנו על סף איזו ייחוד מפחיד,לא משנה מה מאסק אומר.

בכל מקרה, האובססיה לבוטים "ממציאים שפה חדשה" מפספסת את החלק הבולט ביותר במחקר מלכתחילה: שהבוטים, כאשר מלמדים אותם להתנהג כמו בני אדם, למדו לשקר - למרות שהחוקרים לא. לאמן אותם להשתמש בטקטיקת המשא ומתן הזו.

אם זה אומר יותר על התנהגות אנושית (וכמה נוח לנו עם שקר), או על מצב הבינה המלאכותית, ובכן, אתה יכול להחליט. אבל כדאי לחשוב על הרבה יותר ממה שהבוטים לא הבינו את כל הניואנסים של הדקדוק האנגלי מלכתחילה.