CTO של OpenAI Mira Murati הקניטה פרטים על הכלי בטכנולוגיה אפילו השבוע. קרדיט: Getty Images
OpenAI עובד על כלי לאימות תמונות שנוצרו על ידיFROM-E 3, מחולל תמונות ה-AI שלו.
בְּה וול סטריט ג'ורנלשלאירוע Tech Liveביום שלישי, ה-CTO של OpenAI Mira Murati אמרה שהחברה מפתחת טכנולוגיה לזהות אם תמונה נוצרת על ידי DALL-E 3. הכלי "אמין בכמעט 99%", אמר מוראטי בראיון על הבמה. אבל זה עדיין עובר בדיקות פנימיות. מוראטי לא שיתף שום פרטים על שחרורו של כלי כזה, אבל בעמוד DALL-E 3 באתר OpenAI נאמר שמידע נוסף על הכלי, המכונה "מסווג מוצא" ישותף בקרוב.
מהירות אור ניתנת לריסוק
ההתקדמות של תמונות שנוצרו על ידי AI הגבירו את החששות מהתפשטותמֵידָע מַטעֶהוזיופים עמוקים. כלים כמו DALL-E 3 (זמין למשתמשי ChatGPT Plus), Midjourney, Stable Diffusion, Adobe Firefly, ומחולל תמונות AI של Shutterstock - אפילו צ'אטבוטים בחינם כמוBing Image CreatorוSGE של גוגל- מסוגלים, או יהיו בקרוב, מסוגלים ליצור תמונות פוטוריאליסטיות משכנעות. חברות המציעות כלים אלה שומרות מפני התנהגות מזיקה על ידי הוספת סימני מים או חסימת משתמשים מליצור תמונות עם אנשים מפורסמים או שימוש במידע אישי מזוהה.
כבר עכשיו, זיופים עמוקים נראים כל כך מציאותיים שלהפצתם יכולה להיות השלכות של ממש. אתמונה מזויפתשל הפנטגון שעלה באש גרם לצניחת רגעית בשוק המניות בחודש מאי האחרון. בתחילת אוקטובר, השחקן טום הנקס פרסם באינסטגרם ואמר שהואלא היה שום קשר לזיוף עמוקשלו מקדם תוכנית רפואת שיניים. מה שנחשב בעבר לבעיה היפותטית הפך למציאות, ואנו זקוקים לכלים ולאמצעי הגנה כדי להבטיח שזיופים עמוקים לא יהפכו לאיום גדול.
ססילי היא כתבת טכנולוגיה ב-Mashable שמסקרת בינה מלאכותית, אפל ומגמות טכנולוגיות מתפתחות. לפני שקיבלה את התואר השני שלה בבית הספר לעיתונאות קולומביה, היא בילתה מספר שנים בעבודה עם סטארטאפים ועסקים בעלי השפעה חברתית עבור Unreasonable Group ו-B Lab. לפני כן, היא הקימה עסק לייעוץ סטארט-אפים למרכזי יזמות מתפתחים בדרום אמריקה, אירופה ואסיה. אתה יכול למצוא אותה בטוויטר בכתובת@cecily_mauran.
ניוזלטרים אלה עשויים להכיל פרסומות, עסקאות או קישורי שותפים. בלחיצה על הירשם, אתה מאשר שאתה בן 16+ ומסכים לנותנאי שימושומדיניות פרטיות.
