OpenAIחופרת את עקביה עמוק יותר לתוך הממשל העצמי בתעשייה כשהחברה מכריזה על אצוות בטיחות ואבטחה מחודש, בעקבות כמההתפטרויות ציבוריותופירוק הגוף המפקח הקודם שלה.

ועדת הבטיחות והאבטחה, כפי ששמה שונה, מנוהלת על ידי חברי הדירקטוריון והדירקטורים ברט טיילור (סיירה), אדם ד'אנג'לו (קווורה), ניקול זליגמן, וכמובן - מנכ"ל OpenAI, סם אלטמן. חברים אחרים כוללים "מומחי טכניים ומדיניות של OpenAI פנימיים", כולל ראשי "מוכנות", "מערכות בטיחות" ו"מדעי היישור".

"OpenAI החלה לאחרונה להכשיר את מודל החזית הבא שלה ואנחנו צופים שהמערכות שיתקבלו יביאו אותנו לרמה הבאה של יכולות בדרכנו ל-AGI."כתבOpenAI. "למרות שאנו גאים לבנות ולשחרר דגמים המובילים בתעשייה הן ביכולות והן בבטיחות, אנו מברכים על דיון חזק ברגע חשוב זה."

המשימה הראשונה של הוועדה היא "להעריך ולפתח את OpenAI של OpenAIתהליכים והגנהבמהלך 90 הימים הבאים", כתבה החברה בהודעתה, עם משוב ממומחים חיצוניים שכבר נמצאים בסגל הפיקוח החיצוני של OpenAI, כמו מנהל אבטחת הסייבר לשעבר של NSA, רוב ג'ויס.

ההכרזה היא תגובה בזמן למחלוקת ניהולית מתערבלת ב-OpenAI, אם כי היא עשויה לעשות מעט כדי להרגיע את העיניים הפקוחות ולעודד פיקוח חיצוני. השבוע, חברי דירקטוריון OpenAI לשעברקרא לרגולציה ממשלתית אינטנסיבית יותרשל מגזר הבינה המלאכותית, ובמיוחד קורא להחלטות הניהול העלובות ולתרבות הרעילה שטיפחה אלטמן בתפקיד המנהיג של OpenAI.

"אפילו עם הכוונות הטובות ביותר, ללא פיקוח חיצוני, רגולציה עצמית מסוג זה תהיה בלתי אכיפה, במיוחד בלחץ של תמריצי רווח עצומים", טענו.

הוועדה החדשה של OpenAI נזרקת היישר לאש, עם מנדט מיידי להעריך את אמצעי ההגנה של החברה בבינה מלאכותית. אבל גם אלהאולי לא יספיק.