ייתכן שבקרוב יהיה לאמנים נשק חדש שיעזור להגן על עבודתם מלהפוך למספוא למידת מכונה. הכלי, הנקרא Nightshade, מבצע שינויים זעירים בפיקסלים ביצירת אמנות דיגיטלית כדי "להרעיל" אותה ביעילות, מה שהופך את התמונה לחסרת תועלת למטרות אימוןAI.

סקירת טכנולוגיה של MITמדווח כי צוות בראשות הפרופסור בן ז'או מאוניברסיטת שיקגו הגיש את Nightshade לביקורת עמיתים בכנס אבטחת המחשב USENIX. התוכנה פועלת על ידי ביצוע עריכות קטנות בתמונה, שאמנם אינה נראית לעין האנושית, אך גורמת לאלגוריתמי AI לזהות אותם באופן שגוי לחלוטין.

לדוגמה, אמן עשוי לצייר תמונה של חתול שניתן לזהות בבירור כחתול על ידי כל אדם או AI שבודקים אותו. עם זאת, לאחר החלת Nightshade, בני אדם עדיין יראו את אותה תמונה בעוד שבינה מלאכותית תאמין בטעות שזהו כלב.

תציף את הבינה המלאכותית במספיק חומרי אימון גרועים כמו זה, ובקרוב בקשה לתמונה של חתול תגרום לו ליצור כלב במקום.

כמובן שרק לתמונה מורעלת אחת לא תהיה השפעה משמעותית על האלגוריתם של מחולל תמונות בינה מלאכותית. נתוני האימון שלו יצטרכו להיות מוכתמים באלפי תמונות שהשתנו לפני שתראה השפעה אמיתית.

עם זאת, ידוע שמחוללי תמונות בינה מלאכותית אוספים ללא הבחנה אלפי דגימות חדשות מהאינטרנט כדי לחדד את האלגוריתם שלהם. אם מספיק אמנים יעלו את התמונות שלהם עם Nightshade מוחל, זה יכול בסופו של דבר להפוך כלי AI כאלה לבלתי שמישים.

זה גם יהיה קשה מאוד לחברות בינה מלאכותית לתקן את הבעיה, מכיוון שכל תמונה מורעלת חייבת להיות מזוהה בנפרד ולהסיר אותה ממאגר ההדרכה שלהן. זה יכול ליצור תמריץ רב עוצמה עבור חברות כאלה לחשוב פעמיים לפני שהם גוררים רשת מכמורת דרך האינטרנט ומשתמשים בעבודות של אמנים ללא הסכמתם המפורשת.

זה לא הכלי הראשון לשיבוש בינה מלאכותית שהצוות של Zhao יצר. הקבוצה שוחררה בעברקוֹנִיָה, כלי המסווה את סגנונו האישי של אמן באופן דומה. בסופו של דבר Nightshade ישולב ב-Glaze, כמו גם יהפוך לקוד פתוח על מנת לאפשר לאחרים לבנות על עבודתם בהגנה על אמנים.