אתם לא יותר מאוסף של מסווגים מביכים ובעייתיים שנקבעו למידת מכונה.
את האמת המשפילה הזו מביאים הביתהרולטה ImageNet, כלי מקוון שנותן לכל אדם נועז או טיפש להעלות תמונה את ההזדמנות ללמוד בדיוק איך הבינה המלאכותית רואה אותם. הפרויקט, שתואר כ"פרובוקציה" על ידי יוצריו, נועד לשפוך אור על האופן שבו מערכות בינה מלאכותית רואות ומסווגות בני אדם.
והפתעה(!), ל-AI יש כמה רעיונות די גזעניים ושנאת נשים על אנשים. או, ליתר דיוק, מערך הנתונים של ImageNet Roulette שואב ממנו,ImageNet, מלא בקטגוריות בעייתיות המשקפות את ההטיה הגלומה לרוב במערך הנתונים הגדולים המאפשרים למידת מכונה.
הפניית תשומת לב לעובדה זו היא כל העניין של הפרויקט.
"[אנחנו] רוצים לשפוך אור על מה שקורה כאשר מערכות טכניות מאומנות על נתוני אימון בעייתיים", מסביר אתר ImageNet Roulette. "סיווגי AI של אנשים רק לעתים רחוקות הופכים גלויים לאנשים המסווגים. ImageNet Roulette מספקת הצצה לתהליך הזה - וכדי להראות את הדרכים שבהן דברים יכולים להשתבש."
מהירות אור ניתנת לריסוק
הפרויקט, שהוא חלק מהפרויקט של טרבור פאגלן וקייט קרופורדאימון בני אדםתערוכה במוזיאון Fondazione Prada במילאנו, מזהה מה לדעתו הם פרצופים בתמונות ואז מתייגת אותם כראות עיניו.
לעתים קרובות, אלה אינם הגיוניים למתבונן המזדמן - כמו במקרה של התמונה למטה, בהשתתפות הנשיא לשעבר ברק אובמה והנסיך הארי, מתויגים כ"שחקן קלפים" ו"ספינקס", בהתאמה.
הממ. קרדיט: מורכב: סמיר חוסיין / getty / אימג'נט רולטה
"[Training Humans] היא תערוכת הצילום הגדולה הראשונה המוקדשת לאימון תמונות: אוספי התמונות המשמשים מדענים לאימון מערכות בינה מלאכותית (AI) כיצד 'לראות' ולסווג את העולם", מסבירים בעמוד התערוכה.
העלאת תמונה אישית ל-ImageNet Roulette היא גם תרגיל בענווה - היא סיווגה תמונה של הכתב הזה כ"פליק, מוזר, חנון" - וגם תזכורת שהמערכות השופטות על אנשים על סמך תמונות בלבד הן, למען האמת, לא זה. טוֹב.
זו הנקודה האחרונה שצריכה לעורר דאגה. למערכות אוטומטיות המשכפלות, ובהמשך מחמירות, את ההטיות הקיימות בחברה יש את הכוח לקודד את הבעיות הללו. רולטה ImageNet היא תזכורת מוחלטת לכך שכלי זיהוי התמונות המניעים את הבינה המלאכותית אינם איזה בורר דיגיטלי של אמת.
תזכרו את זה בפעם הבאה שאתם שומעים מישהו פואטי על הכוחות של למידת מכונה.
