כיצד לזהות תמונות שנוצרו בינה מלאכותית

ראשית, החדשות הרעות: באמת קשה לזהות תמונות שנוצרו בינה מלאכותית. הסימנים המעידים שבעבר היו מתנות - ידיים מעוותות וטקסט מבולבל - נדירים יותר ויותר ככל שדגמי AI משתפרים בקצב מסחרר.

זה כבר לא ברור אילו תמונות נוצרות באמצעות כלים פופולריים כמו Midjourney, Stable Diffusion, DALL-E ו-Gemini. למעשה, תמונות שנוצרו על ידי בינה מלאכותית מתחילות לרמות אנשים אפילו יותר, מה שיצר בעיות גדולותהפצת מידע מוטעה. החדשות הטובות הן שבדרך כלל לא בלתי אפשרי לזהות תמונות שנוצרו על ידי AI, אבל זה דורש יותר מאמץ ממה שהיה פעם.

גלאי תמונה בינה מלאכותית - המשיכו בזהירות

כלים אלה משתמשים בראייה ממוחשבת כדי לבחון דפוסי פיקסלים ולקבוע את הסבירות שתמונה תיווצר בינה מלאכותית. כלומר, גלאי בינה מלאכותית אינם חסיני תקלות לחלוטין, אבל זו דרך טובה עבור האדם הממוצע לקבוע אם תמונה ראויה לבדיקה מסוימת - במיוחד כאשר היא לא ברורה מיד.

"למרבה הצער, עבור העין האנושית - ושָׁםהםלימודים- מדובר בסיכוי של חמישים וחמישים שאדם יקבל את זה", אמר אנטולי קוויטניצקי, מנכ"ל פלטפורמת זיהוי תמונות בינה מלאכותיתAI או לא. "אבל עבור זיהוי AI עבור תמונות, בשל הדפוסים דמויי הפיקסלים, אלה עדיין קיימים, גם כשהדגמים ממשיכים להשתפר." קוויטניצקי טוען ש-AI or Not משיגה 98 אחוז דיוק בממוצע.

גלאי AI אחרים בעלי אחוזי הצלחה גבוהים בדרך כלל כולליםמתן כוורת,גלאי SDXLעל חיבוק פנים, והארה. בדקנו עשר תמונות שנוצרו על ידי AI על כל הגלאים האלה כדי לראות איך הם הצליחו.

AI או לא

בינה מלאכותית או לא נותנת "כן" או "לא" פשוטים בניגוד לגלאי תמונה אחרים של בינה מלאכותית, אבל היא אמרה נכונה שהתמונה נוצרה בינה מלאכותית. עם התוכנית החינמית, אתה מקבל 10 העלאות בחודש. ניסינו עם 10 תמונות וקיבלנו 80 אחוזי הצלחה.

מתן כוורת

ניסינו את כלי ההדגמה החינמי של Hive Moderation עם למעלה מ-10 תמונות שונות וקיבלנו שיעור הצלחה כולל של 90 אחוז, כלומר הייתה להן סבירות גבוהה להיווצרות בינה מלאכותית. עם זאת, הוא לא הצליח לזהות את איכויות הבינה המלאכותית של תמונה מלאכותית של צבא צ'יפמאנק בקנה מידה של קיר סלע.

גלאי SDXL

לגלאי SDXL ב-Huging Face לוקח כמה שניות להיטען, וייתכן שבהתחלה תקבל שגיאה בניסיון הראשון, אבל זה לגמרי בחינם. זה גם נותן אחוז הסתברות במקום. הוא אמר של-70 אחוז מהתמונות שנוצרו בבינה מלאכותית יש סבירות גבוהה להיות בינה מלאכותית.

הארה

ל- Illuminarty יש תוכנית חינמית המספקת זיהוי תמונה בסיסית של AI. מתוך 10 תמונות שנוצרו בינה מלאכותית שהעלינו, היא סיווגה רק 50 אחוז כבעל סבירות נמוכה מאוד. לאימה של ביולוגים מכרסמים, זה נתן את הידוע לשמצהתמונת זין עכברושסבירות נמוכה להיווצרות בינה מלאכותית.

כפי שאתה יכול לראות, גלאי בינה מלאכותית הם לרוב די טובים, אך אינם ניתנים לטעויות, ואין להשתמש בהם כדרך היחידה לאמת תמונה. לפעמים, הם מסוגלים לזהות תמונות מטעות שנוצרו בינה מלאכותית למרות שהן נראות אמיתיות, ולפעמים הם טועים בתמונות שהן ללא ספק יצירות בינה מלאכותית. זו בדיוק הסיבה ששילוב של שיטות הוא הטוב ביותר.

טיפים וטריקים נוספים

חיפוש התמונות ההפוך

דרך נוספת לזהות תמונות שנוצרו בינה מלאכותית היא חיפוש התמונות ההפוך הפשוט, שעליו ממליץ במשאד מובאשר, פרופסור למדעי המחשב ומנהל המרכז לבינת אינטרנט במכללת DePaul University למחשוב ומדיה דיגיטלית בשיקגו. על ידי העלאת תמונה ל-Google Images או כלי חיפוש תמונות הפוך, תוכל להתחקות אחר מקור התמונה. אם התמונה מציגה אירוע חדשותי אמיתי לכאורה, "ייתכן שתוכלו לקבוע שהוא מזויף או שהאירוע בפועל לא התרחש", אמר מובאשר.

הכלי "אודות התמונה הזו" של גוגל

לחיפוש Google יש גם תכונה "אודות תמונה זו" שמספקת מידע הקשרי כמו מתי התמונה הוכנסה לראשונה לאינדקס, והיכן עוד היא הופיעה באינטרנט. ניתן למצוא זאת על ידי לחיצה על סמל שלוש הנקודות בפינה השמאלית העליונה של התמונה.

סימנים מודיעים שעין בלתי מזוינת יכולה לזהות

אם כבר מדברים על זה, בעוד שתמונות שנוצרו בינה מלאכותית נעשות טובות בצורה מפחידה, עדיין שווה לחפש את הסימנים המעידים. כפי שהוזכר לעיל, ייתכן שעדיין תראה מדי פעם תמונה עם ידיים מעוותות, שיער שנראה קצת מושלם מדי, או טקסט בתוך התמונה משובש או שטותי. אתר האחים שלנו PCMag'sהִתמוֹטְטוּתממליצה לחפש ברקע אובייקטים מטושטשים או מעוותים, או נושאים עם עור ללא רבב - ואנחנו מתכוונים ללא נקבוביות, ללא פגמים.

במבט ראשון, תמונת Midjourney למטה נראית כמו קרובת משפחה של קרדשיאן שמקדם ספר בישול שיכול בקלות להיות מאינסטגרם. אבל לאחר בדיקה נוספת, אתה יכול לראות את צנצנת הסוכר המעוותת, פרקי האצבע המעוותים והעור קצת חלק מדי.

"AI יכול להיות טוב ביצירת הסצנה הכוללת, אבל השטן נמצא בפרטים", כתבה סשה לוצ'יוני, מובילת בינה מלאכותית ואקלים בחברת Hugging Face, באימייל ל-Mashable. חפש "בעיקר חוסר עקביות קטן: אצבעות נוספות, תכשיטים אסימטריים או תווי פנים, אי התאמות בחפצים (ידית נוספת על קומקום תה)."

מובאשר, שהוא גם עמית במכון למהנדסי חשמל ואלקטרוניקה (IEEE), אמר להתקרב ולחפש "פרטים מוזרים" כמו פיקסלים תועים וחוסר עקביות אחרים, כמו עגילים לא תואמים בעדינות.

"ייתכן שתמצאו חלק מאותה תמונה עם אותו מיקוד מטושטש אבל חלק אחר סופר מפורט", אמר מובאשר. זה נכון במיוחד ברקע של תמונות. "אם יש לך שלטים עם טקסט ודברים כאלה ברקע, הרבה פעמים הם בסופו של דבר מבולבלים או לפעמים אפילו לא כמו שפה אמיתית", הוסיף.

התמונה הזו של מצעד של טנדרים של פולקסווגן צועדים לאורך חוף הים נוצרה על ידי Imagen 3 של גוגל. החול והאוטובוסים נראים פוטריאליסטיים ללא רבב. אבל תסתכל היטב, ותבחין שהכתובת באוטובוס השלישי שבה אמור להיות הלוגו של פולקסווגן הוא רק סמל משובש, ויש כתמים אמורפיים באוטובוס הרביעי.

הכל מסתכם באוריינות בינה מלאכותית

אף אחת מהשיטות שלעיל לא תהיה כל כך שימושית אם לא תשהה תחילה בזמן צריכת מדיה - במיוחד מדיה חברתית - כדי לתהות אם מה שאתה רואה הוא AI שנוצר מלכתחילה. בדומה לאוריינות תקשורת שהפכה למושג פופולרי סביב הבחירות המשתוללות במידע השגוי ב-2016, אוריינות בינה מלאכותית היא קו ההגנה הראשון לקביעה מה אמיתי או לא.

חוקרי בינה מלאכותית של דורי לונג ושל בריאן מגרקולְהַגדִיראוריינות בינה מלאכותית כ"קבוצה של כישורים המאפשרת לאנשים להעריך באופן ביקורתי טכנולוגיות בינה מלאכותית; לתקשר ולשתף פעולה ביעילות עם בינה מלאכותית; ולהשתמש בבינה מלאכותית ככלי מקוון, בבית ובמקום העבודה."

חשוב לדעת כיצד פועלת AI גנרטיבי ומה לחפש. "זה אולי נשמע קלישאתי, אבל לקחת את הזמן כדי לאמת את המקור והמקור של התוכן שאתה רואה במדיה החברתית היא התחלה טובה", אמר לוצ'יוני.

התחל בכך שתשאל את עצמך על מקור התמונה המדוברת וההקשר שבו היא מופיעה. מי פרסם את התמונה? מה אומר על כך הטקסט הנלווה (אם בכלל)? האם אנשים אחרים או כלי תקשורת פרסמו את התמונה? איך התמונה, או הטקסט הנלווה אליה, גורמים לך להרגיש? אם זה נראה כאילו זה נועד להכעיס או לפתות אותך, תחשוב למה.

כיצד ארגונים מסוימים נלחמים בבעיית הזיופים העמוקים של AI ובבעיית המידע השגוי

כפי שראינו, עד כה השיטות שבאמצעותן אנשים יכולים להבחין בתמונות AI מתמונות אמיתיות הן חלקיות ומוגבלות. כדי להחמיר את המצב, הפצת תמונות בלתי חוקיות או מזיקות שנוצרו על ידי בינה מלאכותית היא בושה כפולה מכיוון שהפוסטים מפיצים שקרים, שאחר כך מולידים חוסר אמון במדיה המקוונת. אבל בעקבות הבינה המלאכותית הגנרטיבית, צצו כמה יוזמות לחיזוק האמון והשקיפות.

הקואליציה למקור תוכן ואותנטיות(C2PA) הוקמה על ידי אדובי ומיקרוסופט, וכוללת חברות טכנולוגיה כמו OpenAI וגוגל, כמו גם חברות מדיה כמו רויטרס וה-BBC. C2PA מספק לחיצהאישורי תוכןלזיהוי מקור התמונות והאם הן נוצרות בינה מלאכותית. עם זאת, זה תלוי ביוצרים לצרף את אישורי התוכן לתמונה.

בצד ההפוך, המעבדת זרזירבאוניברסיטת סטנפורד עובדים קשה כדי לאמת תמונות אמיתיות. Starling Lab מאמתת "רשומות דיגיטליות רגישות, כמו תיעוד של הפרות זכויות אדם, פשעי מלחמה ועדויות של רצח עם", ומאחסנת בצורה מאובטחת תמונות דיגיטליות מאומתות ברשתות מבוזרות, כך שלא ניתן יהיה להתעסק בהן. עבודת המעבדה אינה מופנית למשתמש, אבל ספריית הפרויקטים שלה היא משאב טוב למי שמחפש לאמת תמונות של, למשל, המלחמה באוקראינה, או המעבר הנשיאותי מדונלד טראמפ לג'ו ביידן.

מומחים מדברים לעתים קרובות על תמונות AI בהקשר של מתיחות ומידע מוטעה, אבל תמונות AI אינןתָמִידנועד להונות כשלעצמו. תמונות AI הן לפעמים רק בדיחות או ממים שהוסרו מההקשר המקורי שלהן, או שהן פרסום עצלן. או אולי הם רק סוג של ביטוי יצירתי עם טכנולוגיה חדשה ומסקרנת. אבל לטוב ולרע, תמונות AI הן עובדת חיים עכשיו. וזה תלוי בך לזהות אותם.