DALL-E 3 יכיל כעת סימני מים משובצים כדי לצמצם מידע מוטעה וחוסר אמון בינה מלאכותית. קרדיט: Getty Images
לתמונות שנוצרו עם DALL-E 3 ב-ChatGPT וב-OpenAI API יהיו כעת סימני מים.
ביום שלישי שיתפה החברה את ההודעה ב-aשֶׁלְאַחַרב-X, אומר תמונות "כולל כעת מטא נתונים באמצעות מפרטי C2PA."
ייתכן שהציוץ נמחק
C2PA, אשר ראשי תיבות של Coalition for Content Provenance and Authenticity, הוא תקן טכני המשמש את Adobe, Microsoft, BBC וחברות ומפרסמים אחרים כדי לטפל בשכיחות של זיופים עמוקים ומידע מוטעה "על ידי אישור המקור וההיסטוריה (או המקור) של תוכן מדיה ," כפי שהוסבר באתר C2PA.
מהירות אור ניתנת לריסוק
תמונות שנוצרו ב-ChatGPT וב-OpenAI API יכללו מטא נתונים כולל המקור של כלי ה-AI והתאריך שבו הוא נוצר. ניתן לצפות במטא נתונים על ידי העלאת התמונה לאתרים כמואישורי תוכן. מטא נתונים של C2PA מוסיפים גידול קטן בגודל הקובץ, אך OpenAI אומר שזה לא ישפיע על איכות התמונה.
עם כלים להפקת תמונות בינה מלאכותית כמו DALL-E 3, Midjourney, Bard ו-Copilot, זהקל מתמידליצור זיופים עמוקים, להפיץ מידע מטעה ולפרסם תמונות המפרות יצירות המוגנות בזכויות יוצרים. לאחרונה, זיופים עמוקים פורנוגרפיים של טיילור סוויפטהפך ויראלי, תוך שימת דגש על הצורך באימות תמונות ומעקות בטיחות מספיקים כדי למנוע פגיעות כאלה - במיוחד עם מעורבות של אישי ציבור. אהוראת ביצועמהנשיא ביידן הכריז באוקטובר 2023 באופן ספציפי על אכיפה של תיוג תוכן שנוצר בינה מלאכותית ככזה. הדרכה לתוכן סימון מים מתבצעת על ידי משרד המסחר, שעליו הוטל גם המשימהדורשים יצרנים של יסודות בינה מלאכותיתמודלים ליידע את הממשלה על התפתחותם.
למרות שתמונות סימון מים הן צעד בכיוון הנכון לאימות תמונות שנוצרו בינה מלאכותית, היא אינה חסינת תקלות מכיוון שניתן להסיר בקלות מטא נתונים. "לדוגמה, רוב פלטפורמות המדיה החברתית מסירות היום מטא נתונים מתמונות שהועלו, ופעולות כמו צילום מסך יכולות גם להסיר אותן", נכתב בעמוד המדיניות של OpenAI המפרט את תקן C2PA. "לכן, תמונה שחסרה בה מטא נתונים אלה עשויה להיות נוצרה או לא נוצרה עם ChatGPT או ה-API שלנו."
דף המדיניות של OpenAI מציין גם שסימני מים משובצים ב-C2PA מוחלים רק על יצירת תמונות, ולא על יצירת קול או טקסט שנוצרו באמצעות ChatGPT או OpenAI API.
ססילי היא כתבת טכנולוגיה ב-Mashable שמסקרת בינה מלאכותית, אפל ומגמות טכנולוגיות מתפתחות. לפני שקיבלה את התואר השני שלה בבית הספר לעיתונאות קולומביה, היא בילתה מספר שנים בעבודה עם סטארטאפים ועסקים בעלי השפעה חברתית עבור Unreasonable Group ו-B Lab. לפני כן, היא הקימה עסק לייעוץ סטארט-אפים למרכזי יזמות מתפתחים בדרום אמריקה, אירופה ואסיה. אתה יכול למצוא אותה בטוויטר בכתובת@cecily_mauran.
ניוזלטרים אלה עשויים להכיל פרסומות, עסקאות או קישורי שותפים. בלחיצה על הירשם, אתה מאשר שאתה בן 16+ ומסכים לנותנאי שימושומדיניות פרטיות.
