בכל פעם שמוכרז על יישום חדש של AI, אני מרגיש פרץ קצר מועד של התרגשות - ואחריו זמן קצר לאחר מכן קשר בבטן. הסיבה לכך היא שאני יודע שהטכנולוגיה, לעתים קרובות יותר, לא תוכננה מתוך מחשבה על הון עצמי.

מערכת אחת, ChatGPT, הגיעה100 מיליון משתמשים ייחודייםחודשיים בלבד לאחר השקתו. הכלי המבוסס על טקסט משתף משתמשים בחילופי דברים אינטראקטיביים, ידידותיים, שנוצרו בינה מלאכותית עם צ'טבוט שפותח כדי לדבר בסמכותיות על כל נושא שהוא מתבקש להתייחס אליו.

בראיון עם מייקל ברברו עלהיומיפודקאסטמהניו יורק טיימס, כתב הטכנולוגיה קווין רוז תיאר כיצד אפליקציה הדומה ל-ChatGPT, צ'טבוט הבינה המלאכותית של בינג, שבנויה גם היא על מודל השפה GPT-3 של OpenAI, הגיבה לבקשתו להצעה לתוספת תוספת שתלווה מרק בצל צרפתי לארוחת ערב ליום האהבה עם אשתו. לא רק שבינג ענה על השאלה בהמלצת סלט, הוא גם אמר לו היכן ניתן למצוא את המרכיבים בסופר ואת הכמויות הדרושות להכנת המתכון לשניים, וזה סיים את ההחלפה בפתק שאיחל לו ולאשתו הצלחה נפלאה. יום האהבה - אפילו הוספת אימוג'י לב.

הדיוק, הספציפיות ואפילו הקסם של חילופי דברים אלה מדברים על הדיוק ועומק הידע הדרושים להנעת הטכנולוגיה. מי לא יאמין לבוט כזה?

בינג סיפק את המידע הזה על ידי ניתוח מילות מפתח בהנחיה של רוז - במיוחד "מרק בצל צרפתי" ו"צד" - ושימוש באלגוריתמים תואמים כדי ליצור את התגובה שסביר להניח שתענה על השאילתה שלו. האלגוריתמים מאומנים לענות להנחיות משתמשים באמצעות מודלים של שפה גדולים שפותחו על ידי מהנדסים העובדים עבור OpenAI.

בשנת 2020 פרסמו חברי צוות OpenAI מאמר אקדמי הקובע שמודל השפה שלהם הוא הגדול ביותר שנוצר אי פעם, עם175 מיליארד פרמטריםמאחורי הפונקציונליות שלו. מודל שפה כל כך גדול אמור לומר ש-ChatGPT יכול לדבר על כל דבר, נכון?

למרבה הצער, זה לא נכון. מודל בגודל כזה זקוק לתשומות מאנשים ברחבי העולם, אך מטבעו ישקף את ההטיות של הכותבים שלהם. המשמעות היא שהתרומות של נשים, ילדים ואנשים אחרים שנדחקו לשוליים במהלך ההיסטוריה האנושית תהיה מיוצגת בתת-ייצוג, והטיה זו תבוא לידי ביטוי בפונקציונליות של ChatGPT.

הטיית AI, בסי וביונסה: האם ChatGPT יכול למחוק מורשת של מצוינות שחורה?

מוקדם יותר השנה התארחתי בהמופע של קארן האנטר, והיא התייחסה כיצד, באותו זמן, ChatGPT לא יכלה להגיב לשאלתה הספציפית כששאלה אם אמןבסי סמיתהשפיע על זמרת הגוספל מהליה ג'קסון, ללא הנחיה נוספת להציג מידע חדש.

בעוד שהבוט יכול לספק מידע ביוגרפי על כל אישה, הוא לא יכול היה לדון באופן אמין ביחסים בין השתיים. זוהי התעללות מכיוון שבסי סמית' היא אחת מזמרות הבלוז החשובות בהיסטוריה האמריקאית, שלא רק השפיעה על ג'קסון, אלא מיוחסת על ידי מוזיקולוגים כבעלתהניח את הבסיס למוזיקה פופולרית בארצות הברית. אומרים שהיא השפיעה על מאות אמנים, כולל אנשים כמוהםאלביס פרסלי, בילי הולידיי וג'ניס ג'ופלין. עם זאת, ChatGPT עדיין לא הצליח לספק את ההקשר הזה להשפעתו של סמית'.

הסיבה לכך היא שאחת הדרכים שבהן מתבטאות גזענות וסקסיזם בחברה האמריקאית היא באמצעות מחיקת התרומות של נשים שחורות. כדי שמוזיקולוגים יכתבו בהרחבה על השפעתה של סמית', הם יצטרכו להכיר בכוחה לעצב את התנהגותם של אנשים לבנים ותרבות בכלל. זה מאתגר את מה שסופר ופעיל חברתי פעמון כינו אתערכי "עליון לבן, קפיטליסטי, פטריארכלי".שעיצבו את ארצות הברית.

לכן התרומות של סמית' ממוזערות. כתוצאה מכך, כאשר מהנדסים ב-OpenAI הכשירו את מודל ChatGPT, נראה שהייתה להם גישה מוגבלת למידע על השפעה על מוזיקה אמריקאית עכשווית. זה התברר בחוסר היכולת של ChatGPT לתת להאנטר מענה הולם, ובכך, הכישלון מחזק את מזעור התרומות של נשים שחורות כנורמה בתעשיית המוזיקה.

בדוגמה עכשווית יותר הבודקת את ההשפעה הפוטנציאלית של הטיה, קחו בחשבון את העובדה שלמרות היותה זוכת הגראמי המהוללת ביותר בהיסטוריה, ביונסה מעולם לא זכתה בתואר שיא השנה. מַדוּעַ?

מצביע גראמי אחד, מזוהה על ידימגווןבתור "וותיק עסקי מוזיקה בשנות ה-70 לחייו", אמר שהוא לא הצביע עבור ביונסהרֵנֵסַנסבתור שיא השנה כי הרעש סביב יציאתו היה"מבלבל מדי."ההשפעה של חוות דעת זו, שאינה קשורה לאיכות האלבום עצמו, תרמה לכך שהאמן המשיך להיות ללא הכרה בתקליט השנה.

במבט אל העתיד מנקודת מבט טכנית, דמיין מהנדסים מפתחים מערך הדרכה לאמני המוזיקה המצליחים ביותר של תחילת המאה ה-21. אם מעמד זוכת פרס הגראמי של שיא השנה משוקלל כגורם חשוב, ייתכן שביונסה לא תופיע במערך הנתונים הזה, וזה מגוחך.

לא מוערך בחברה, לזלזל ב-AI

השגחות מסוג זה מקוממות אותי מכיוון שהתפתחויות טכנולוגיות חדשות מקדמות לכאורה את החברה שלנו - הן, אם אתה מעמד ביניים, סיסג'נדר, גבר לבן הטרוסקסואלי. עם זאת, אם אתה אישה שחורה, יישומים אלה מחזקים את הקביעה של מלקולם X כינשים שחורות הן האנשים הכי לא מכובדים באמריקה.

הפיחות הזה בתרומות של נשים שחורות לחברה הרחבה יותר משפיע על האופן שבו אני נתפס בתעשיית הטכנולוגיה. לצורך ההקשר, אני נחשב למומחה בהשפעות הגזעיות של מערכות טכניות מתקדמות, מתבקש באופן קבוע להצטרף לוועדות מייעצות ולתמוך בצוותי מוצר ברחבי תעשיית הטכנולוגיה. בכל אחד מהמקומות האלה הייתי בפגישות שבמהלכן אנשים מופתעים מהמומחיות שלי.

זאת למרות שאני מוביל צוות שאישר והמליץ ​​עלחוק האחריות האלגוריתמיתלבית הנבחרים של ארה"ב בשנת 2019 ושוב ב2022, והשפה שהיא כוללת סביב הערכת השפעה אומצה על ידי החוק פרטיות הנתונים האמריקאי משנת 2022. למרות העובדה שאני מוביל ארגון ללא מטרות רווח שהתבקש לעזור לעצב את החשיבה של האו"ם על הטיה אלגוריתמית. ולמרות העובדה שקיימתי מלגות בהרווארד, סטנפורד ובאוניברסיטת נוטרדאם, שם שקלתי את הנושאים הללו.

למרות שפע הניסיון הזה, נוכחותי נתקלת בהפתעה, מכיוון שנשים שחורות עדיין נתפסות כשכירות שונות ולא מוסמכות לתפקידי מנהיגות.

חוסר היכולת של ChatGPT לזהות את ההשפעה של סקסיזם גזעני עשוי שלא להדאיג חלק. עם זאת זה הופך לעניין של דאגה לכולנו כשאנחנו שוקליםהתוכניות של מיקרוסופט לשלב את ChatGPTלחוויית החיפוש המקוונת שלנו דרך Bing. רבים מסתמכים על מנועי חיפוש כדי לספק מידע מדויק, אובייקטיבי, חסר פניות, אבל זה בלתי אפשרי - לא רק בגלל הטיה בנתוני ההדרכה, אלא גם בגלל שהאלגוריתמים שמניעים את ChatGPT נועדו לחזות מידע ולא לבדוק עובדות.

זה כבר הוביל לכמהטעויות בולטות.

כל זה מעלה את השאלה, למה להשתמש ב-ChatGPT?

ההימור בהתקלה בסרט הזההם נמוכים, אבל קחו בחשבון את העובדהשופט בקולומביה כבר השתמש ב-ChatGPT בפסיקה- תחום עיקרי לדאגה עבור אנשים שחורים.

כבר ראינו איך הפרופיל ניהול עבריינים מתקן עבור סנקציות אלטרנטיביות (COMPAS) אלגוריתםבשימוש בארצות הברית חזה שהנאשמים השחורים יעברו עבירות חוזרות בשיעורים גבוהים יותר מאשר עמיתיהם הלבנים. תארו לעצמכם פסק דין שנכתב על ידי ChatGPT תוך שימוש בנתוני מעצר מתקופת ה"עצור ופרסק" של ניו יורק, כאשר90 אחוז מהגברים השחורים והחומים שנעצרו על ידי רשויות החוק היו חפים מפשע.

ניצול הזדמנות להכללה בבינה מלאכותית

אם נכיר בקיומם ובמשמעותם של נושאים אלה, תיקון השמטת הקולות של נשים שחורות וקבוצות שוליות אחרות נמצא בהישג יד.

לדוגמה, מפתחים יכולים לזהות ולטפל בליקויים בנתוני הכשרה על ידי התקשרות עם מאמתים של צד שלישי, או מומחים בלתי תלויים, כדי לערוך הערכות השפעה על האופן שבו הטכנולוגיה תשמש אנשים מקבוצות שוליות היסטוריות.

שחרור טכנולוגיות חדשות בגרסת בטא למשתמשים מהימנים, כפי שעשתה OpenAI, יכול גם לשפר את הייצוג - אם מאגר ה"משתמשים המהימנים" כולל, כלומר.

בנוסף, העברת חקיקה כמו חוק האחריות האלגוריתמית, שהוכנסה מחדש לקונגרס ב-2022, תקבע קווים מנחים פדרליים המגינים על זכויות אזרחי ארה"ב, כולל דרישות להערכות השפעה ושקיפות לגבי מתי וכיצד נעשה שימוש בטכנולוגיות, בין היתר. אמצעי הגנה.

המשאלה הכנה ביותר שלי היא שחידושים טכנולוגיים יפתחו דרכים חדשות של חשיבה על החברה. עם האימוץ המהיר של משאבים חדשים כמו ChatGPT, נוכל להיכנס במהירות לעידן חדש של גישה נתמכת בינה מלאכותית לידע. אבל שימוש בנתוני הכשרה מוטים יקרין את מורשת הדיכוי לעתיד.

טורים וניתוחים של Mashable Voices משקפים את דעות הכותבים.