מדוע OpenAI מגביל את התיאור של אנשים בסרטוני סורה. קרדיט: FilipArtLab / Shutterstock
OpenAIסורההוא מגביל תיאורים של אנשים אמיתיים ונקיטת אמצעי בטיחות קפדניים אחרים כדי למנוע שימוש לרעה.
למחולל הווידאו, שהוכרז ביום שני במסגרת אירוע 12 הימים של OpenAI שלו, יש כל מיני יכולות עריכה למשתמשים ליצור ולהתאים סרטונים שנוצרו בינה מלאכותית. אבל יש דברים מסוימים שאסור לך לעשות עם Sora, כמשתמשים בקרובהתגלה.
ייתכן שהציוץ נמחק
לפי שלהכרטיס מערכת, "היכולת להעלות תמונות של אנשים תהפוך לזמינה לקבוצת משנה של משתמשים", כלומר רוב המשתמשים לא יכולים ליצור סרטונים של אנשים על סמך תמונה שהועלתה. משתמשים אלה הם חלק מ"פיילוט דומה" ש-OpenAI בודק עם מעטים נבחרים. דובר של OpenAI אמר שסרטונים שנוצרו על ידי בינה מלאכותית של אנשים מוגבלים על מנת "להתייחס לחששות סביב ניצול פסולה של דמיון וזיופים עמוקים". OpenAI "תעקוב באופן פעיל אחר דפוסי שימוש לרעה, וכשנמצא זאת נסיר את התוכן, ננקוט פעולה מתאימה עם המשתמשים ונשתמש בלמידה המוקדמת הללו כדי לחזור על הגישה שלנו לבטיחות", המשיך הדובר.
מהירות אור ניתנת לריסוק
הגבלת התיאור של אנשים בסרטוני סורה הגיונית מנקודת מבט של אחריות. יש כל מיני דרכים שאפשר לעשות שימוש לרעה בכלי: זיופים עמוקים שלא בהסכמה, תיאור של קטינים, הונאות ומידע שגוי, אם להזכיר כמה. כדי להילחם בזה, סורה הוכשרה לדחות בקשות מסוימות מהודעות טקסט או העלאות תמונות.
הוא ידחה הנחיות לתוכן NSFW (Not Safe For Work) ו-NCII (Non-Consensual Intimate Imagery) ויצירת ילדים מציאותיים, אם כי תמונות פיקטיביות מותרות. OpenAI הוסיפה מטא נתונים של C2PA לכל סרטוני Sora והפכה סימן מים גלוי לברירת המחדל, למרות שניתן להסירו, והטמיעה חיפוש תמונות הפוך פנימי כדי להעריך את מקור הסרטון.
למרות העובדה שמעקות בטיחות רבים הוצבו כדי למנוע שימוש לרעה, נותרה השאלה כיצד תגיב סורה לבדיקות מאמץ המוניות. נכון לעכשיו, הגישה לסורה אינה זמינה עקבביקוש גבוה.
ססילי היא כתבת טכנולוגיה ב-Mashable שמסקרת בינה מלאכותית, אפל ומגמות טכנולוגיות מתפתחות. לפני שקיבלה את התואר השני שלה בבית הספר לעיתונאות קולומביה, היא בילתה מספר שנים בעבודה עם סטארטאפים ועסקים בעלי השפעה חברתית עבור Unreasonable Group ו-B Lab. לפני כן, היא הקימה עסק לייעוץ סטארט-אפים למרכזי יזמות מתפתחים בדרום אמריקה, אירופה ואסיה. אתה יכול למצוא אותה בטוויטר בכתובת@cecily_mauran.
ניוזלטרים אלה עשויים להכיל פרסומות, עסקאות או קישורי שותפים. בלחיצה על הירשם, אתה מאשר שאתה בן 16+ ומסכים לנותנאי שימושומדיניות פרטיות.
