OpenAIוהחברה המתחרה Anthropic חתמו על הסכמים עם ממשלת ארה"ב לבדיקת דגמים חדשים לפני פרסום פומבי.

ביום חמישי הודיע ​​המכון הלאומי לתקנים וטכנולוגיה (NIST) כי המכון לבטיחות בינה מלאכותית שלו יפקח על "מחקר, בדיקות והערכה של בטיחות בינה מלאכותית" עם שתי החברות. "ההסכמים הללו הם רק ההתחלה, אבל הם אבן דרך חשובה כאשר אנו פועלים לסייע בניהול אחראי של עתיד הבינה המלאכותית", אמרה אליזבת קלי, מנהלת המכון לבטיחות בינה מלאכותית בהכרזה.

זה לא סוד שבינה מלאכותית גנרטיבית מהווה סיכוני בטיחות. הנטייה שלו לייצר אי דיוקים ומֵידָע מְפוּבּרָק, אפשרמַזִיקאו התנהגות בלתי חוקית, וחיזוק אפליה והטיותמתועד היטב בשלב זה. ל-OpenAI יש בדיקות בטיחות פנימיות משלה, אבל היא הייתה חשאית לגבי אופן הפעולה של הדגמים שלהעל מה הם מאומנים. זהו המקרה הראשון של OpenAI שפותח גישה לבדיקה ואחריות של צד שלישי. Altman ו-OpenAI היוווֹקָאלִיעל הצורך ברגולציה ותקינה של AI. אבל המבקרים אומרים שהנכונות לעבוד עם הממשלה היא אאִסטרָטֶגִיָהכדי להבטיח ש-OpenAI מוסדר בצורה חיובית ומבטלת את התחרות.

"מסיבות רבות, אנחנו חושבים שזה חשוב שזה יקרה ברמה הלאומית. ארה"ב צריכה להמשיך להוביל!"פורסםמנכ"ל OpenAI, סם אלטמן ב-X.

ייתכן שהציוץ נמחק

שיתוף הפעולה הרשמי עם NIST מתבסס על מינהלי ביידןהוראת ביצוע של AIשנחתם באוקטובר האחרון. בין שאר המנדטים שנעזרו בכמה סוכנויות פדרליות כדי להבטיח פריסה בטוחה ואחראית של בינה מלאכותית, הצו שהונח מחייב חברות בינה מלאכותית להעניק גישה ל-NIST לצורך שיתוף פעולה אדום לפני שמודל AI ישוחרר לציבור.

בהודעה נאמר גם כי היא תשתף בממצאים ובמשוב בשיתוף עם המכון לבטיחות AI בבריטניה.