לשעברOpenAIחבר הנהלה הסביר מדועהדירקטורים קיבלו את ההחלטה הידועה לשמצה כעת לפטר את המנכ"ל סם אלטמן בנובמבר האחרון. מדבר בראיון עלתערוכת ה- TED AIפודקאסט, חוקרת הבינה המלאכותית, הלן טונר, האשימה את אלטמן בשיקר ובחסימה של מועצת המנהלים של OpenAI, נקמה במי שביקרו אותו ויצרה "אווירה רעילה".

"הדירקטוריון [OpenAI] הוא דירקטוריון ללא מטרות רווח שהוקם במפורש במטרה לוודא שמשימת טובת הציבור של החברה הייתה ראשית - היא במקום הראשון על פני רווחים, אינטרסים של משקיעים ודברים אחרים", אמר טונר.תערוכת ה- TED AIמארח את Bilawal Sidhu. "אבל במשך שנים, סם הקשה מאוד על הדירקטוריון לבצע את העבודה הזו על ידי, אתה יודע, מניעת מידע, מצג שווא של דברים שקורים בחברה, בחלק מהמקרים שיקר גמור לדירקטוריון".

ייתכן שהציוץ נמחק

OpenAI פיטרה את אלטמן ב-17 בנובמבר בשנה שעברה, מהלך הלם שהפתיע רבים הן בתוך החברה והן מחוצה לה. לדברי טונר, ההחלטה לא התקבלה בקלות ראש, וכללה שבועות של דיונים אינטנסיביים. הסודיות סביבו הייתה גם בתכנון, לדבריה.

"היה ברור מאוד לכולנו שברגע שלסם יש מושג שאנחנו עלולים לעשות משהו שמתנגד לו הוא יוציא את כל המעצורים, יעשה כל שביכולתו כדי לערער את הלוח, למנוע מאיתנו יודע, אפילו להגיע למצב של יכולת לפטר אותו," אמר טונר. "אז היינו מאוד זהירים, מאוד מכוונים לגבי מי שסיפרנו, וזה בעצם כמעט אף אחד מראש מלבד, כמובן, הצוות המשפטי שלנו".

לרוע המזל של טונר ושאר חברי הדירקטוריון של OpenAI, התכנון המדוקדק שלהם לא הניב את התוצאה הרצויה. בעוד אלטמן הודח בתחילה,OpenAI שכרה אותו מחדש במהירות כמנכ"להַבָּאימים של זעקה, האשמות וחוסר ודאות. החברה גם הקימה דירקטוריון חדש כמעט לחלוטין, והדיחה את אלה שניסו להדיח את אלטמן.

מדוע פיטר דירקטוריון OpenAI את המנכ"ל סם אלטמן?

טונר לא דיבר ספציפית על ההשלכות של אותה תקופה סוערת בפודקאסט. עם זאת, היא כן פירטה למה בדיוק הגיע מועצת המנהלים של OpenAI למסקנה שאלמן היה צריך ללכת.

מוקדם יותר השבוע, טונר וחברת ההנהלה לשעבר טאשה מקוליפרסם מאמר הסברבהאקונומיסטציינו כי החליטו להדיח את אלטמן בשל "דפוסי התנהגות ארוכי שנים". טונר סיפקה כעת דוגמאות להתנהגות האמורה בשיחתה עם Sidhu - כולל הטענה שלדירקטוריון OpenAI עצמה לא נאמר מתיChatGPTשוחרר, וגילה זאת רק באמצעות מדיה חברתית.

"כאשר ChatGPT יצא [ב]נובמבר 2022, הדירקטוריון לא קיבל מידע על כך מראש. למדנו על GPT בטוויטר", טען טונר. "סם לא הודיע ​​לדירקטוריון שהוא הבעלים של קרן הסטארט-אפ של OpenAI, למרות שהוא כל הזמן טוען שהוא חבר דירקטוריון עצמאי ללא עניין פיננסי בחברה. במספר הזדמנויות הוא נתן לנו מידע לא מדויק על המספר הקטן של פורמליים. תהליכי בטיחות שהחברה אכן קבעה, כלומר, בעצם, זה היה בלתי אפשרי עבור הדירקטוריון לדעת עד כמה תהליכי הבטיחות האלה עובדים או מה עשוי להשתנות".

טונר האשימה גם את אלטמן בכך שהוא מכוון אליה בכוונה לאחר שהביע התנגדות למאמר מחקר שהיה שותף לכתיבתה. רַשַׁאִי"פענוח כוונות: בינה מלאכותית ואותות יקרים",המאמר דן בסכנות של AI, וכלל ניתוח של אמצעי הבטיחות של OpenAI ושל המתחרה Anthropic.

אוּלָם,לפי הדיווחים, אלטמן החשיב את המאמר האקדמי כביקורתי מדי כלפי OpenAI ומחמיא ליריבתה. טונר אמרתערוכת ה- TED AIשלאחר פרסום העיתון באוקטובר אשתקד, החלה אלטמן להפיץ שקרים לחברי הדירקטוריון האחרים במאמץ להסיר אותה. האירוע לכאורה הזה רק פגע עוד יותר באמון הדירקטוריון בו, לדבריה, מכיוון שהם כבר דנו ברצינות בפיטורי אלטמן באותה עת.

"או כל מקרה אינדיבידואלי, סאם תמיד יכול היה להמציא איזשהו הסבר לא מזיק למה זה לא היה עניין גדול או פירוש שגוי או משהו כזה", אמר טונר. "אבל התוצאה הסופית הייתה שאחרי שנים של דברים מהסוג הזה, כל ארבעתנו שפיטרו אותו [חברי מועצת המנהלים של OpenAI טונר, מקולי, אדם ד'אנג'לו, ואיליה סוצקבר] הגיע למסקנה שפשוט לא יכולנו להאמין לדברים שסאם מספר לנו.

"וזה מקום לחלוטין לא ניתן לעבוד בו בתור דירקטוריון, במיוחד דירקטוריון שאמור לספק פיקוח עצמאי על החברה, לא רק כמו, אתה יודע, לעזור למנכ"ל לגייס עוד כסף. לא סומך על המילה של החברה המנכ"ל, שהוא הצינור הראשי שלך לחברה, מקור המידע העיקרי שלך על החברה, זה פשוט לגמרי, לגמרי בלתי אפשרי".

טונר הצהיר כי מועצת המנהלים של OpenAI אכן עשתה ניסיונות לטפל בבעיות הללו, תוך ניהול מדיניות ותהליכים חדשים. עם זאת, מנהלים אחרים דיווחו אז החלו לספר לדירקטוריון על החוויות השליליות שלהם עם אלטמן ועל "האווירה הרעילה שהוא יצר". זה כלל האשמות על שקרים ומניפולציות, צילומי מסך מגובים של שיחות ותיעוד אחר.

"הם השתמשו בביטוי 'התעללות פסיכולוגית', ואמרו לנו שהם לא חושבים שהוא האדם הנכון להוביל את החברה [בינה כללית מלאכותית], ואמרו לנו שאין להם אמונה שהוא יכול או יצליח להשתנות, אין טעם בכך. נותן לו משוב, אין טעם לנסות לפתור את הבעיות האלה", אמר טונר.

מנכ"ל OpenAI מואשם בתגמול נגד מבקרים

טונר התייחס עוד לזעקה רמה של עובדי OpenAI נגד פיטוריו של אלטמן. רַבִּיםפרסם פוסטים ברשתות החברתיות לתמיכה במנכ"ל המודחבעוד למעלה מ-500 מתוך 700 עובדי החברה הצהירו שהם יתפטרו אם לא יוחזר לתפקידו. לדברי טונר, הצוות הוביל להאמין לדיכוטומיה הכוזבת שאם אלטמן לא יחזור "מייד, ללא אחריות [ודירקטוריון חדש לחלוטין לבחירתו", OpenAI יושמד.

"אני מבין מדוע לא לרצות שהחברה תושמד גרם להרבה אנשים לעמוד בתור, בין אם בגלל שבמקרים מסוימים הם עמדו להרוויח הרבה כסף מהצעת הרכש הקרובה הזו, או סתם בגלל שהם אוהבים את הצוות שלהם, הם לא רצו לאבד את עבודתם, היה אכפת להם מהעבודה שהם עושים", אמר טונר. "וכמובן, הרבה אנשים לא רצו שהחברה תתפרק, כולל אותנו".

היא גם טענה שייתכן שחשש מגמול על התנגדות לאלטמן תרם לתמיכה שקיבל מהצוות של OpenAI.

"הם חוו אותו נקם נגד אנשים, נקם נגדם על מקרים בעבר של היותו קריטי", אמר טונר. "הם ממש פחדו ממה שעלול לקרות להם. אז כשכמה עובדים התחילו להגיד 'רגע, אני לא רוצה שהחברה תתפרק, כאילו, בוא נחזיר את סם', זה היה מאוד קשה לאותם אנשים ש חוו חוויות איומות כדי לומר זאת מחשש שאם סם אכן יישאר בשלטון כפי שעשה בסופו של דבר, זה ימרר את חייהם".

לבסוף, טונר ציין את היסטוריית העבודה הסוערת של אלטמן, שהופיעה בתחילה לאחר הירי הכושל שלו מ-OpenAI. מצביע על דיווחים שאלטמן פוטר מתפקידו הקודם ב-Y Combinatorבשל התנהגותו האינטרסנטית לכאורה, טונר טען ש-OpenAI הייתה רחוקה מלהיות החברה היחידה שיש לה את אותן בעיות איתו.

"ואז בעבודה שלו לפני כן - שהייתה העבודה היחידה שלו בעמק הסיליקון, הסטארט-אפ שלו Loopt - כנראה שצוות ההנהלה הלך לדירקטוריון שם פעמיים וביקש מהדירקטוריון לפטר אותו בגלל מה שהם כינו 'התנהגות מתעתעת וכאוטית'. '" המשיך טונר.

"אם באמת מסתכלים על הרקורד שלו, אין לו בדיוק שובל זוהר של הפניות. זו לא הייתה בעיה ספציפית לאישים במועצת המנהלים, עד כמה שהוא היה אוהב להציג את זה בצורה כזו. "

טונר ומקאולי רחוקים מלהיות בוגרי OpenAI היחידים שהביעו חשש לגבי מנהיגותו של אלטמן.חוקר הבטיחות הראשי יאן לייקה התפטרמוקדם יותר החודש, תוך ציטוט מחלוקות עם סדרי העדיפויות של ההנהלה וטען ש-OpenAI צריך להיות ממוקד יותר בנושאים כמו אבטחה, בטיחות והשפעה חברתית. (גם המדען הראשי וחבר ההנהלה לשעבר סוצקבר התפטר, למרות שהוא ציטט את רצונו לעבוד על פרויקט אישי.)

בתגובה,אלטמן והנשיא גרג ברוקמן הגנו על הגישה של OpenAI לבטיחות. החברה גם הודיעה השבוע כי אלטמן תובילצוות הבטיחות והאבטחה החדש של OpenAI. בינתיים,לייק הצטרף לאנתרופיק.