סיפורי אזהרה על AI היו ברחבי מסכי סאנדנס השנה, ולא כטיסות מדע בדיוני מפוארות.

שני סרטים דוקומנטריים חדשים,הדילמה החברתיתוהטיה מקודדת, לחפור במלכודות של בינה מלאכותית כפי שהיא קיימת כיום - מניפולציה של הזנות שלנו במדיה החברתית, קביעת העתיד הפיננסי או המקצועי שלנו, מעקב אחרינו ברחובות - ומה שהם מוצאים לא יפה.

מבין השניים,הדילמה החברתיתמרגיש רחב יותר בהיקפו. במשך 93 דקות, הוא נוגע במעקב, קפיטליזם, התמכרות וקיטוב; בוחן את ההשפעות המזיקות של המדיה החברתית על כל דבר, החל מהערכה עצמית ועד לדמוקרטיה; מגיש אנקדוטות אישיות ותחנונים נחרצות וניתוח נתונים מפורטים. כל אחד מהנושאים הללו יכול היה להפוך לסרט תיעודי מרתק בפני עצמו. אסוף את כולם במקום אחד, והדילמה החברתיתיכול להרגיש קצת מסורבל.

כוחו של הסרט טמון במערך המרשים של הראיונות המדברים שאורלובסקי אסף ממקורבי תעשיית הטכנולוגיה ומאנשי אקדמיה - כוללטים קנדל, לשעבר נשיא Pinterest ומנהל מונטיזציה לשעבר בפייסבוק;טריסטן האריס, המייסד השותף של המרכז לטכנולוגיה הומאנית תיאר בקטעי חדשות ארכיוניים כ"הדבר הכי קרוב שיש לתעשיית הטכנולוגיה למצפון"; ורשידה ריצ'רדסון, מנהל חקר מדיניות במכון AI Now.

הנבדקים שלו בבירור בקיאים ונלהבים לגבי הנושא שהם טופלו לטפל בהם, ובמקרים מסוימים, יותר ממעט מזועזעים מהמערכת שהם עצמם עזרו ליצור. כאשר האנשים האלה מזהירים אותך שה-AI המועסקים על ידי חברות מדיה חברתית חכם יותר ממך, או מצביעים על אפשרויות העיצוב העדינות שהופעלו כדי לגרום לך ללחוץ, או מסבירים איך Pizzagate הוגשה למשתמשי מדיה חברתית שמעולם לא חיפשו אותה, אתה נוטים להקשיב.

פחות יעילה היא וינייטה בדיונית צ'יזית שזורה לאורך כל הדרך, בעקבות נער מתבגר (סקיילר ג'יסונדו) שקצת מתמכר מדי לרשתות החברתיות. (לווינסנט קרתייזר יש תפקיד משולש בתור ה"אלגוריתמים" הקובעים מה הוא רואה בעדכונים שלו.) לדיאלוג ולמשחק יש את האיכות הגנרית והגנרית של סרטון חינוכי, מה שמערער את עצם הדחיפות שהנרטיב נועד להדגיש.

עם זאת, בסופו של דבר, אורלובסקי מצליח לבנות בסיס חזק לפשוט להיותמוּדָעאיך המדיה החברתית פורצת לנו, ולמה, ולמה זה חשוב. עד שהסרט נחתך לצילומי ארכיון של מארק צוקרברג המציע שהפתרון למצוקות הבחירות של פייסבוק ב-2016 היהיוֹתֵרAI, הקהל שלי ידע מספיק כדי לצחוק בלעג. אוּלַיהדילמה החברתיתאין את כל התשובות, אבל זו התחלה טובה להבין את השאלות.

זה גם משמש כנקודת זינוק אידיאלית, אם לא מכוונתהטיה מקודדת. הסרט התיעודי, בבימויו של שליני קנטייה, מתחיל עם ההבנה של ג'וי בוולאמוויני כסטודנטית ב-MIT שלטכנולוגיית זיהוי פנים היה קשה יותר לזהות סוגים מסוימים של פרצופים - כמו הנקבה כהה העור שלה - ועוקב אחריה במורד חור הארנב כדי לבחון את השלכות חמורות של המטרד הקטן לכאורה הזה.

קנטייה מתעמק בהטיות האנושיות מאוד שנאפו בבינה מלאכותית על ידי יוצריה, בעיקר לבנים וגברים, ובבעיות שנוצרות כאשר מניחים שתוכניות הקופסה השחורה הללו הן ניטרליות: ההפרות של זכויות האזרח, ההחלטות המפלות בגיוס עובדים, דיור, ומשפט פלילי. רחוק מיצירת מגרש משחק שווה יותר באמצעות שיפוט חסר פניות,הטיה מקודדתטוען, לבינה מלאכותית יש פוטנציאל להחמיר את אי השוויון הקיים.

יש לציין שהסרט בנוי בדיוק סביב סוגי האנשים שנפגעו מהבעיות האלה. כמעט כל המומחים שרואיינו בסרט הם נשים, כוללנשק להשמדת מתמטיקהמְחַבֵּרקאתי אוניל(שגם מופיע בהדילמה החברתית), במאי האח הגדול Watchמשי קרלו, ועתידניתאיימי ווב. אנו פוגשים דיירים של פרויקט דיור שעומד להתקין תוכנת זיהוי פנים, ומורה אהוב שפוטר לאחר שאלגוריתם ראה את הביצועים שלו גרועים, ואישה צעירה מנווטת במערכת האשראי החברתי של סין בניהול המדינה.

באמצעותם, הטיה בבינה מלאכותית הופכת לדאגה אנושית קונקרטית, ולא לאפשרות מופשטת. ודרכם, זה הופך לבעיה להתכנס סביבו. מבלי להירתע מגודל הנושא או מהשלכותיו ההרסניות,הטיה מקודדתפועל בהדרגה לעבר אווירה כמעט מעוררת השראה, כאשר Buolamwini ואחרים מתחילים לעבוד בפתרון הבעיה שהם זיהו.

אנו מוזמנים להשתתף בניצחון שלה כאשר היא תקבל את ההזדמנות להעיד בפני בית הנבחרים כי "צדק אלגוריתמי אחד מדאגות זכויות האזרח הגדולות ביותר שיש לנו", או של קרלו כשהיא משתפת פעולה עם הפוליטיקאית הבריטית ג'ני ג'ונס כדי להביא אתגר משפטי נגד השימוש של PD London במצלמות זיהוי פנים.

הניצחונות האלה מתגלים חיוניים בהזכירו לנו משהופַּחִיתלְהֵעָשׂוֹת. לא במובן המעורפל של "מישהו צריך לעשות משהו", אלא בדרך הקונקרטית יותר ללחוץ על ממשלות לחוקק חוקים המסדירים את השימוש באלגוריתמים, או לקרוא לתאגידים המשתמשים בבינה מלאכותית פגומה למטרות לא צודקות. החזיקו מעמד ברוח היכולות שהזכיות הקטנות האלה מחוללות - כשניהםהטיה מקודדתוהדילמה החברתיתיגיד לך, נצטרך את זה כדי לקחת על עצמנו את כמות העבודה העצומה שנותרה לעשות.