הבעיה עםתמונות שנוצרו על ידי AIזה, ובכן, AI יוצרת תמונות. זה אומר שהנחיה פשוטה יכולה ליצור תמונה מציאותית של תורת היחסותדָבָר. לא קשה לדמיין את הבעיות שעלולות לצוץ מעובדה זו.

גוגלהכריזה ביום שלישי על תכונה בשם SynthIDשמטרתו להילחם בזיופים עמוקים ושימוש לרעה בתמונות שנוצרו בינה מלאכותית. גוגל DeepMind השיקה גרסת בטא של הכלי, אשר, לדברי החברה, "מטמיע סימן מים דיגיטלי ישירות בפיקסלים של תמונה, מה שהופך אותו לבלתי מורגש לעין האנושית, אך ניתן לזיהוי לצורך זיהוי".

במילים אחרות, על פני השטח שלה, התמונה שנוצרת בינה מלאכותית תיראה רגילה על פני השטח, אבל תהיה לה סמן שניתן לזהות בקלות כדי ליידע אנשים שזו לא תמונה אותנטית. כרגע SynthID שוחרר ל"מספר מוגבל" של לקוחות המשתמשיםתְמוּנָה, המודל של Google Deepmind שמשתמש בהנחיות טקסט כדי ליצור תמונות פוטוריאליסטיות.

גוגלאמר כי SynthID צריך להיות יעיל יותר מסימני מים מסורתיים, אשר מוסרים בקלות רבה יותר, נחתכים או פוגעים בעין בתמונה. סימן המים SynthID אמור להישאר גלוי גם לאחר הוספת מסננים, שינוי צבעים או שינוי גודל תמונה. הכלי SynthID אמור להיות מסוגל לתת למשתמשים קריאה אם ​​נעשה שימוש ב-Image או לא ליצירת תמונה באמצעות מערכת שלוש שכבות, רמת ביטחון - סביר, לא סביר ואולי זוהה.

בהמשך, גוגל אמרה שהיא עשויה להרחיב את הכלי כדי להיות מסוגל לזהות תמונות מדגמים אחרים וכי היא עשויה לשלב את כלי SynthID במוצרים אחרים שהיא מציעה.