YouTube ידרוש בקרוב מהיוצרים לחשוף אם סרטון נוצר עם AI יצירתי.

ביום שלישי, ענקית הזרמת הווידאוהכריזזה, ועדכונים אחרים, כדי למתן את ההשפעות המטעות או המזיקות של AI גנרטיבי.

"כאשר יוצרים מעלים תוכן, יהיו לנו אפשרויות חדשות עבורם לבחור כדי לציין שהוא מכיל חומר מציאותי או סינתטי", אמרו ג'ניפר פלנרי אוקונור ואמילי מוקסלי, סמנכ"לי ניהול המוצר של YouTube.

יוצרים שלא יעשו זאת באופן עקבי עלולים לעמוד בפני עונשים, כגון הסרת תוכן או השעיה מתוכנית השותפים של YouTube. בהודעה נאמר גם כי אמנים ויוצרים יוכלו לבקש הסרה של תוכן (כולל מוזיקה) המשתמש בדמותם ללא הסכמה.

ייתכן שהציוץ נמחק

הזמינות הנרחבת של בינה מלאכותית גנרטיבית הגבירה את האיום של זיופים עמוקים ומידע מוטעה, במיוחד עם הבחירות הקרובות לנשיאות. גם המגזר הציבורי וגם הפרטי הכירו בצורך לזהות ולמנוע את השימוש המרושע בבינה מלאכותית גנרטיבית.

לדוגמה, הבינה המלאכותית של הנשיא ביידןהוראת ביצועהתייחס במיוחד לצורך בתיוג או סימון מים של תוכן שנוצר על ידי AI. OpenAI עובדת על כלי משלה, "מסווג מוצא," שמזהה אם נוצרה תמונה עם מחולל ה-DALL-E 3 AI שלו. רק בשבוע שעבר, Metaהכריז על מדיניות חדשההמחייב מפרסמים פוליטיים לחשוף אם מודעה משתמשת ב-AI יצירתי.

ב-YouTube, כאשר יוצר מעלה סרטון, תינתן לו האפשרות לציין אם הוא "מכיל חומר מציאותי שונה או סינתטי", נכתב בפוסט בבלוג. "לדוגמה, זה יכול להיות סרטון שנוצר על ידי בינה מלאכותית שמתאר באופן ריאלי אירוע שמעולם לא קרה, או תוכן שמציג מישהו אומר או עושה משהו שהוא לא באמת עשה".

תוויות המודיעות לצופים שלסרטון יש תוכן שנוצר או שונה בינה מלאכותית יתווספו לחלונית התיאור. "תווית בולטת יותר" תתווסף לתוכן הכולל נושאים רגישים. גם אם תוכן שנוצר על ידי AI מסומן כראוי, אם הוא מפר את הנחיות הקהילה של YouTube, הוא יוסר.

כיצד ייאכפו כל ניהול התוכן הזה? על ידי AI כמובן. בנוסף ליצירת תוכן מזויף שנראה אמיתי בצורה משכנעת, AI יצירתי יכול גם לזהות ולתפוס בהצלחה תוכן שמפר את מדיניות התוכן. YouTube יפרוס טכנולוגיית AI גנרטיבית כדי לעזור להקשר ולהבין איומים בקנה מידה.