OpenAI טיפלה בבעיות בטיחות בעקבות תגובה אתית ורגולטורית לאחרונה.

ההַצהָרָהשפורסם ביום חמישי, היה הכלאה של הפרכה-התנצלות שמטרתה בו זמנית להבטיח לציבור שהמוצרים שלה בטוחים ולהודות שיש מקום לשיפור. הבטחת הבטיחות של OpenAI נראית כמו תגובת חפרפרת למחלוקות מרובות שצצו. בטווח של שבוע, מומחי בינה מלאכותית ומנהיגי תעשייה, כולל סטיב ווזניאק ואילון מאסק, פרסמומכתב פתוחקורא להפסקה של שישה חודשים של פיתוח דגמים כמו GPT-4,ChatGPTהיה שטוחאָסוּרבאיטליה, ואתְלוּנָההוגש לוועדת הסחר הפדרלית בגין יצירת סיכוני מידע מוטעה מסוכן, במיוחד לילדים. אה כן, היה גם את זהחֶרֶקשחשפו את הודעות הצ'אט והמידע האישי של המשתמשים.

OpenAI טענה כי היא פועלת "כדי להבטיח שהבטיחות מובנית במערכת שלנו בכל הרמות". OpenAI בילתה למעלה משישה חודשים של "בדיקות קפדניות" לפני שהוציאה את GPT-4 ואמרה שהיא בוחנת אפשרויות אימות כדי לאכוף את דרישת גיל מעל 18 (או 13 באישור הורים). החברה הדגישה כי היא לא מוכרת נתונים אישיים ורק משתמשת בהם כדי לשפר את דגמי הבינה המלאכותית שלה. היא גם הצביעה על נכונותה לשתף פעולה עם קובעי מדיניות והמשך שיתופי הפעולה שלה עם מחזיקי עניין בינה מלאכותית "כדי ליצור מערכת אקולוגית בטוחה של בינה מלאכותית".

לקראת אמצע הבטחת הבטיחות, OpenAI הכירה בכך שפיתוח LLM בטוח מסתמך על קלט מהעולם האמיתי. היא טוענת כי למידה מתשומות ציבוריות תהפוך את המודלים לבטוחים יותר, ותאפשר ל-OpenAI לנטר שימוש לרעה. "שימוש בעולם האמיתי הוביל אותנו גם לפתח מדיניות גוברת והולכת נגד התנהגות המהווה סיכון אמיתי לאנשים תוך מתן אפשרות לשימושים מועילים רבים של הטכנולוגיה שלנו."

OpenAI הבטיחה "פרטים על הגישה [שלה] לבטיחות", אבל מעבר להבטחה שלה לחקור את אימות הגיל, רוב ההכרזה נכתבה כמו משטחי לוח. לא היה הרבה פרטים על האופן שבו היא מתכננת להפחית סיכונים, לאכוף את המדיניות שלה או לעבוד עם רגולטורים.

OpenAI מתגאה בפיתוח מוצרי בינה מלאכותית בשקיפות, אך ההכרזה מספקת מעט הבהרה לגבי מה היא מתכננת לעשות כעת, כשה-AI שלה יוצאת בטבע.