האם תוכניות ה- AGI של מטא עוברות? קרדיט: צילום על ידי ג'ונתן ראא/נורפוטו דרך Getty Images
זה נראה כמו מאזAIהיוצרים נכנסו לעולמנו, הניחו רגל מובילה על הגז. עם זאת, על פי מסמך מדיניות חדש,מטאהמנכ"ל מארק צוקרברג עלול להאט או להפסיק את פיתוח מערכות AGI הנחשבות "סיכון גבוה" או "סיכון קריטי".
AGI היא מערכת AI שיכולה לעשות כל מה שאדם יכול לעשות, וצוקרברגהבטיח להנגיש אותו בגלוי יום אחדו אבל במסמך "מסגרת AI של Frontier,"צוקרברג מודה כי כמה מערכות AI מסוגלות מאוד לא ישוחררו בפומבי מכיוון שהן עלולות להיות מסוכנות מדי.
המסגרת "מתמקדת בסיכונים הקריטיים ביותר בתחומי איומי אבטחת הסייבר וסיכונים מכלי נשק כימיים וביולוגיים."
ראה גם:
"על ידי עדיפות לתחומים אלה, אנו יכולים לפעול להגנה על הביטחון הלאומי תוך קידום חדשנות. המסגרת שלנו מתארת מספר תהליכים שאנו עוקבים אחריהם כדי לצפות ולהפחית את הסיכון בעת פיתוח מערכות AI של Frontier,"הודעה לעיתונות אודות המסמך נכתבו
מהירות אור מחית
לדוגמה, המסגרת מתכוונת לזהות "תוצאות קטסטרופליות פוטנציאליות הקשורות לסיכונים ברשת, כימיה וביולוגית שאנו שואפים למנוע." כמו כן, היא עורכת "תרגילי דוגמנות איומים כדי לצפות כיצד שחקנים שונים עשויים לבקש להשתמש לרעה ב- AI Frontier כדי לייצר את התוצאות הקטסטרופליות הללו" ויש לה "תהליכים במקום לשמור על סיכונים ברמות מקובלות."
אם החברה קובעת שהסיכונים גבוהים מדי, היא תשמור על המערכת פנימית במקום לאפשר גישה ציבורית.
ראה גם:
"בעוד שהמוקד של מסגרת זו הוא במאמצינו לצפות ולהפחית את הסיכונים של התוצאות הקטסטרופליות, חשוב להדגיש כי הסיבה לפיתוח מערכות AI מתקדמות מלכתחילה היא בגלל הפוטנציאל העצום ליתרונות לחברה מאותן טכנולוגיות , "מסמך נכתב.
עם זאת, זה נראה כאילו צוקרברג מכה בבלמים - לפחות לעת עתה - במסלול המהיר של AGI לעתיד.
כריסטיאן סילבה הוא כתב תרבות בכיר המכסה פלטפורמות חברתיות וכלכלת היוצרים, תוך התמקדות בצומת המדיה החברתית, הפוליטיקה והמערכות הכלכליות השולטות בנו. מאז שהצטרפו ל- Mashable בשנת 2021, הם דיווחו בהרחבהיוצרי Meme-מתינות תוכן, ואופי של יצירה מקוונת תחת קפיטליזםו
לפני שהצטרפו ל- Mashable, הם עבדו כעורך ב- NPR ו- MTV News, כתב ב- Teen Vogue and Vice News, וכמען יציבה בחווה מיני סוס. אתה יכול לעקוב אחריה ב- Bluesky @Christiannaj.bsky.socialואינסטגרם @קרעוןו
עלוני מידע אלה עשויים להכיל קישורי פרסום, עסקאות או סניפים. על ידי לחיצה על מנוי, אתה מאשר שאתה בן 16 ומעלה ומסכים לשלנותנאי שימושוכןמדיניות פרטיותו
