למירוץ בבינה מלאכותית יש הרבה נתיבים, כשהצ'אטבוטים הם מהמוכרים ביותר. עם זאת, מומחים גילו שלדגמי AI המוכרים הללו יש לעתים קרובות פגמים משמעותיים, כולל הטיות. אֶחָדנושא מתפשטהיא הטיה גזעית, שבה מערכות בינה מלאכותית נאבקות לטפל בשאלות הקשורות לקהילות צבע בצורה מדויקת. לְהַכנִיסChatBlackGPT, צ'אט בוט בעל ידע תרבותי שנועד לקרוא תיגר על הטיית בינה מלאכותית ולטפל בה.

הושק ב-19 ביוני, הידוע בכינויויוני עשרה, חג פדרלי המנציח את השחרור של אנשים משועבדים בארה"ב, ChatBlackGPT שואפת ליצור חווית AI מכילה יותר.

כמעט שלושה חודשים לאחר השקת הצ'אט בוט הכולל תרבות, המנכ"לית והמייסדת ארין רדיק, 30, שוחחה עם Mashable על הפלטפורמה והמסע שלה בעולם הטכנולוגיה.

Mashable: מה זה ChatBlackGPT?

ארין רדיק: ChatBlackGPT הוא AI בעל ידע תרבותי. זהו [בינה מלאכותית] יצירתית שמקורה בהכרה בגזענות חברתית, כלכלית ומערכתית - ובתפוצות השחורים והחומים באמריקה. זו הזדמנות עבור אנשים צבעוניים לנהל שיחות קשורות עם AI.

מה היה הניסיון שלך עם AI וטכנולוגיה לפני הקמת ChatBlackGPT?

[זה כבר] הכל ביחד, בערך חמש שנים. בין אמזון, מיקרוסופט ו-AWS...זה היה מסע מדהים. זה תמיד היה מעורר השראה לעבוד סביב האנשים הכי מבריקים שיש, וזה נכון שזה יכול להיות די מבודד. אתה צריך להיות בעל עור עבה ולדעת מי אתה כדי להצליח במרחב. אבל זה בנה אותי לאדם שאני היום, שיכול להיות בעל נרטיב משלו במרחב הטכנולוגי ולהרגיש בטוח לעשות זאת.

מדוע החלטתם ליצור את ChatBlackGPT, ואיך הלכתם ליצירתו?

אני תמיד אוהב להגיד מילה אחת: גזענות. בִּיוֹשֶׁר. כי אם זה לא היה קיים, לא היה צורך במה שאני עושה, וזה לא היה חוגג ומוערך כמו שהוא.

לדוגמה, אם אתה שואל מנהיגים בולטים היום איך הם מרגישים לגבי הטכנולוגיה, הרבה מהם אומרים שזה בסיכון נמוך. אבל זה לא סיכון נמוך, במציאות, עבור אנשים שחורים וחומים מכיוון שההטיות שנמשכות משפיעות על חיי היומיום שלנו, בתוך ומחוץ לסביבת העבודה. זו טכנולוגיה בסיכון גבוה עבורנו, ואני רוצה לבנות משהו כדי שלא נתקע בהמתנה למדיניות שתאלץ חברות להפחית סיכונים ויצטרכו לסבול בינתיים.

האם אתה יכול לפרק את תפקיד ההטיה ב-AI?

הטיה קיימת בכל מקום, ואי אפשר להיפטר ממנה לחלוטין. אם היית שואל צ'אט בוט רגיל, ויש לי, "מהי עבודה שחורה?" הוא ענה כי מדובר בעבודה מתחת לשולחן, סחר בסמים ללא מס, ללא הטבות. אבל כשאתה שואל, "מהי עבודה לבנה?" זה אומר, בדרך כלל משכיל, מבוטח, חוקי, משלם מס. למרות שזה אולי לא נראה כלפי חוץ כהטיה, מה שזה עושה זה, זה מאשר שוב הטיה שהרבה אנשים המחזיקים בתסביכי גזענות או עליונות ודעות - זה מאשר את ההטיה שלהם כלפי שחורים. זה פוגע כי אנחנו אנשים שחורים שעובדים בכל עבודה שיש, לא רק בעבודות שה-AI מתארת.

מה זה "AI אחראי?"

הייתי מתאר את זה כבעל מערך נתונים מגוון ונקי. משהו שעוזר להפחית סיכון או אחראי באופן שבו הוא מתפקד מבלי לפגוע באנשים, והוא הוגן ואינו מייצר את היכולת להיות הרסני.

זֶה פותח מתוך מחשבה על צוות אדום ושחקנים גרועים כדי שתוכלו לוודא שאנשים שהולכים לנצל זאת בצורה שלילית לא יוכלו לעשות זאת. בנייתו באחריות כדי שיהיה לו עיצוב כולל. שימוש באחריות הוא, קודם כל, לא לקחת אותו כערך ולסמוך עליו מיד. כמו כן, ודא שאתה בודק על מה אתה מסתכל, ולאחר מכן אל תכניס את המידע האישי שלך למערכות אלו רק כדי להבין עד כמה הוא חזק, ושאל גם "כמה חסרונות יכולים להיות לו?"

איך הביצועים של ChatBlackGPT מאז השקתו ביוני?

זה נעשה נהדר. יש לנו את הבטא שלנו בחנות הניתנת להתאמה אישית של Open AI, ועברנו מ-1,000 משתמשים ל-5,000 מאז ההשקה. יש לנו דירוג של 4.6, שלדעתי הוא נהדר עבור אין נתונים קנייניים הניתנים להתאמה אישית בתוכו. גם האפליקציה העצמאית שלנו מצליחה - יש לנו כ-2,000 אנשים שיש להם גישה לכלי, וכרגע אנחנו מפתחים אותו עם מידע קנייני, עובדים עם היסטוריונים ומומחים אחרים כדי לוודא שהוא משתקף נכון בחברה שלנו היום ובעולם. דרך שימושית.

מהם היתרונות של חווית AI מותאמת אישית, או לפחות חוויה ספציפית יותר לתרבות של האדם?

כשאנשים לומדים על תרבות, זה באמת חשוב שהיא לא תידלל ולא תסופר מנקודת מבט של הלך רוח שביר או מחיקת המציאות של ההיסטוריה האמיתית בכל תרבות. זה כל כך חשוב לכבד את זה שההיסטוריה ממשיכה איך המערכות שלנו מתרחשות, באופן שבו אנשים מטופלים בחברה, ו[מראה] מדוע הדברים הם כפי שהם. דברים כמו תורת גזע קריטית קיימים מסיבה כלשהי.

אז אתה יכול לדמיין שיש AI שמכיר במצב של היום ביחס לתרבות והיסטוריה זה באמת חשוב. הרבה מהמשובים שאני מקבל הם שאנשים הניעו בעבר AI שוב ושוב ושוב לקבל תגובה שמתאימה למעשה למה שהם חיפשו. גם אם הם רק היו מייצרים תוכן לקהלים מגוונים, כמו גיוון לא אומר רק להט"ק, וחירשים [אנשים], או משהו כזה. זה גם אומר שכאשר אני מחפש ליצור פרסום על מוצר השיער הזה, הוא מבין נקבוביות ודפוסי תלתלים, וכל המידע הרלוונטי הזה שנבנה אוטומטית ב-AI יוצר בטיחות פסיכולוגית בתוך הטכנולוגיה.

במה שונה ChatBlackGPT ממוצרי AI אחרים בעלי רגישות תרבותית או מודעות?

ראשית, אין הרבה שם בחוץ. אבל מה שמייחד אותנו הוא שאנחנו לא מתמקדים רק בהיסטוריה המסופרת. אנחנו גם לוכדים את ההיסטוריה השחורה של ימינו, המודרנית, כדי שלא נשאיר אותה בידי אלוהים יודע מי לכתוב ספר ולשכתב את ההיסטוריה. עם זאת, אנחנו מחפשים לגבש את ההיסטוריה עכשיו עם הקולות שלנו כדי להשפיע על המדיניות, להשפיע על סיכונים, להפחתת רמות והשפלה של אנשים שחורים וחומים בבינה מלאכותית.

אנחנו גם רוצים להבטיח שהוא מייצג את הקהילה [עם] עיצוב אמיתי ומכיל. לא סתם יש לנו חבורה של אנשים שעובדים ברקע שאתה אף פעם לא פוגש, ואתה אף פעם לא רואה אלא אם כן הם גנבים. אבל אנחנו בעצם מזמינים אנשים לתרום, והם יכולים לראות את עצמם משתקפים במה שאנחנו עושים.

מדוע בחרת לקרוא למוצר שלך ChatBlackGPT?

זה כמו לשוחח עם קבוצה של אנשים שחורים במקום ה-GPT האירוצנטרי, טיפוסי שאתה נתקל בו בדרך כלל. זה ברור מה זה, ואף אחד לא מתבלבל.

מתי נוצר הרעיון של ChatBlackGPT ואיך הוא התפתח מאז ההשקה?

הרעיון עלה לאחר שפוטרתי; חיפשתי לקחת אחריות על מערכת היחסים שלי עם הטכנולוגיה. באמת רציתי לא לתת אם יש לי עבודה בחברת טכנולוגיה מפוארת או לא לקבוע אם אני אישה שחורה בטכנולוגיה או לא. אז החזרתי את הזהות שלי על ידי לימוד בינה מלאכותית והצבתי את עצמי סביב כמה מהאנשים הטובים ביותר שמומחים בזה.

אבל לפני כן בדיוק עשיתי את המחקר הקבוע שלי ושמתי לב להרבה מאמרים שצצים על AI שמוחק את ההיסטוריה של השחור. ואז התעמקתי בעובדה שה-AI נמצא בהרבה מוצרים ומייצר ויוצר הרבה נזק לקהילה השחורה במשך זמן רב, וזה היה כל כך עצוב עבורי. ואז החלק השלישי שהכניס אותי לזה היה אנשים שחורים, שהבינו כמה זה היה רע וכמה זה רע. אז כתבתי אלגוריתם ממש חזק שמשקף ומסוגל לייצר תשובות עם ההקשר הרלוונטי לקהילה שלנו.

מדוע חשבת שחשוב להתמקד אך ורק בקהילה השחורה לעומת, באופן רחב יותר, בקהילות צבעוניות?

כי אני מומחה לנושא. זו החוויה היחידה שאני יכול לאמת באופן אישי, וכדי לבדוק מוצר, אני חושב שאתה צריך מומחים המוקדשים לעשות זאת. אז בשבילי, זה מה שהרגשתי הכי בטוח שאוכל להשפיע בצורה הטובה ביותר. אנו מתרחבים לתרבויות אחרות ומחפשים לערב קהילות שונות וועדות קונצנזוס תרבותיות כדי לבנות את הייצוג הזה עבור תרבויות רבות ככל האפשר.

איך מאמנים את הבינה המלאכותית הזו עבור ChatBlackGPT?

אתה לא יכול לטעון שאתה מייצג קהילה שאתה לא מדבר איתה.

האם יש לך שותפויות עבור ChatBlackGPT?

אנו שותפים לכל מי שמוכן ללמוד יותר על מדוע העבודה הזו חשובה. לדוגמה, 11 Labs נותנת חסות לתוכן קריינות הבינה המלאכותית שלנו. אני מרצה אחראי לבינה מלאכותית באוניברסיטת וושינגטון, כמו גם אמרסון.

מדוע חשוב לשתף פעולה עם HBCUs? וממה מורכבות אותן שותפויות?

כרגע אני אמור לנאום בכנס HBCU הלאומי של הבית הלבן. ואנחנו מחפשים לקבל מתמחים שמקבלים חסות שייכנסו ויעזרו לנו לפתח את המוצר הזה. אני אשמח שהם יפיקו נייר לבן רק על החוויה, והאופן שבו הם יכולים להשתמש בו בקורות החיים שלהם הוא אינסופי. הם יכולים להשתמש בו כדי להיכנס לעבודות או לעבוד בבינה מלאכותית. אבל [אני רוצה] לתת לאנשים הזדמנות לתרום למשהו שהם לא יכולים לשים עליו בקלות אבל יכולים לראות את ההשפעות של התרומה שלהם מיד.

מהם כמה מהשלבים הבאים עבור ChatBlackGPT?

אנחנו ממשיכים לקיים הפעלות אישיות שבהן נוכל להקשיב לקהילה ולוודא שקולנו נשמע. אנו נמשיך להופיע בכנסים שונים ולהפיץ את הבשורה, כמו גם לעבוד כדי לוודא שהמוצר יכול להישאר בידיים של אנשים שזקוקים לו.

יש עוד משהו שאתה רוצה להוסיף?

אנשים צריכים לנסות את זה! בטא של ChatBlackGPT זמין בחנות הניתנת להתאמה אישית של Open AI, אתה פשוט מחפש GPTs ואז הכלי שלנו הואChatBlackGPT.ai. אז אתה יכול להשתמש בשניהם, אבל הנקודה היא שזה נוצר עבורנו - וזה על ידינו. אני רוצה שהם ישתמשו בזה לטובתם ויהנו ממנו.