צ'אטבוט OpenAI פופולרי, מפחיד-אנושיChatGPTנבנה על גבם של עובדים בשכר נמוך ומנוצל פסיכולוגית, על פי תחקיר חדש שלזְמַן.

צוות תיוג נתונים מבוסס קניה, המנוהל על ידי חברת סן פרנסיסקואוֹתוֹ, על פי הדיווחים, לא רק שילמו שכר נמוך להחריד עושה עבודה עבור חברהעשוי להיות בדרך לקבל השקעה של 10 מיליארד דולר ממיקרוסופט, אבל גם היה נתון לתוכן מיני גרפי בצורה מטרידה כדי לנקות את ChatGPT מדברי שטנה מסוכנים ואלימות.

החל מנובמבר 2021, OpenAI שלחה עשרות אלפי דוגמאות טקסט לעובדים, שעליהם הוטל לסרוק את הקטעים של מקרים של התעללות מינית בילדים, חיות, רצח, התאבדות, עינויים, פגיעה עצמית וגילוי עריות.זְמַןדיווח. חברי הצוות דיברו על כך שהם צריכים לקרוא מאות סוגים כאלה של ערכים ביום; עבור שכר שעתי שנעים בין $1 ל$2 לשעה, או משכורת חודשית של $170, חלק מהעובדים הרגישו שעבודתם "מצטלקות נפשית" וסוג מסוים של "עינוי".

על פי הדיווחים, לעובדי Sama הוצעו מפגשי בריאות עם יועצים, כמו גם טיפול פרטני וקבוצתי, אך מספר עובדים שרואיינו אמרו שהמציאות של טיפול נפשי בחברה הייתה מאכזבת ובלתי נגישה. מהמשרד נמסר בתגובה כי הם מתייחסים ברצינות לבריאות הנפשית של עובדיהם.

הזְמַןחקירה גם גילתה שאותה קבוצת עובדים קיבלה עבודה נוספת כדי להרכיב ולתייג סט עצום של תמונות גרפיות - ומה שנראה יותר ויותר לא חוקיות - עבור פרויקט OpenAI שלא נחשף. Sama סיימה את החוזה שלה עם OpenAI בפברואר 2022. עד דצמבר, ChatGPT תסחוף את האינטרנט ותשתלט על חדרי צ'אט כשהגל הבא של AI חדשני ידבר.

בזמן השקתו, ChatGPT צוין כבעל אמערכת הימנעות מקיפה באופן מפתיע במקום, שהרחיק לכת במניעת משתמשים מלפתות את הבינה המלאכותית באמירת ביטויים גזעניים, אלימים או אחרים שאינם הולמים. הוא גם סימן טקסט שנחשב כקנאי בתוך הצ'אט עצמו, הפך אותו לאדום וסיפקה למשתמש אזהרה.

המורכבות האתית של AI

בעוד שהחדשות על כוח העבודה הנסתר של OpenAI מטרידות, היא לא לגמרי מפתיעה שכן האתיקה של ניהול תוכן מבוסס אנושי אינה דיון חדש, במיוחד במרחבי מדיה חברתית המשתעשעים בקווים שבין פרסום חינם לבין הגנה על בסיסי המשתמשים שלה. בשנת 2021, הניו יורק טיימסדיווח עלמיקור חוץ של פייסבוק של ניהול פוסטים לחברת הנהלת חשבונות ותיוג המכונה Accenture. שתי החברות העבירו מתינות למיקור חוץ לאוכלוסיות עובדים ברחבי העולם ובהמשך יתמודדו עם נפילה מסיבית של כוח עבודה שלא היה מוכן פסיכולוגית לעבודה. פייסבוק שילמה הסדר של 52 מיליון דולר לעובדים שעברו טראומה ב-2020.

ניהול תוכן הפך אפילו לנושא של אימה פסיכולוגית ומדיה טכנולוגית פוסט-אפוקליפטית, כמו מותחן 2022 של הסופרת ההולנדית האנה ברבוטס.היינו צריכים להסיר את הפוסט הזה, המתעד את התמוטטות הנפש והסערה המשפטית של עובד אבטחת איכות בחברה. עבור הדמויות הללו, והאנשים האמיתיים מאחורי העבודה, הסטיות של עתיד מבוסס טכנולוגיה ואינטרנט הן טראומה מתמשכת.

ההשתלטות המהירה של ChatGPT, והגל הרציף של מחוללי אמנות בינה מלאכותית, מציבות מספר שאלות לציבור הרחב שמוכן יותר ויותר למסור את הנתונים שלהם,אינטראקציות חברתיות ורומנטיות, ואפילו יצירה תרבותית לטכנולוגיה. האם אנחנו יכולים לסמוך על בינה מלאכותית כדי לספק מידע ושירותים בפועל? מהן ההשלכות האקדמיות של AI מבוסס טקסט שיכול להגיב למשוב בזמן אמת? האם זה לא מוסרי להשתמש בעבודות של אמנים כדי לבנות אמנות חדשה בעולם המחשבים?

התשובות לאלה הן ברורות ומורכבות מבחינה מוסרית. צ'אטים לאמאגרים של ידע מדויקאו רעיונות מקוריים, אבל הם כן מציעים תרגיל סוקרטי מעניין. הם מרחיבים במהירות את הדרכים לגניבת דעת, אבלאקדמאים רבים מסוקרנים מהפוטנציאל שלהם ככלי הנחיה יצירתיים. הניצול שלאמנים והקניין הרוחני שלהם הוא נושא הסלמה, אבל האם ניתן לעקוף את זה לעת עתה, בשם החדשנות כביכול? איך יוצרים יכולים לבנות בטיחות בהתקדמות הטכנולוגית האלה מבלי לסכן את בריאותם של אנשים אמיתיים מאחורי הקלעים?

דבר אחד ברור: העלייה המהירה של AI כגבול הטכנולוגי הבא ממשיכה להציב תהיות אתיות חדשות לגבי יצירה ויישום של כלים המשכפלים אינטראקציה אנושית במחיר אנושי אמיתי.

אם חווית התעללות מינית, התקשר למוקד החם הלאומי לתקיפה מינית ללא תשלום, חסוי בטלפון 1-800-656-HOPE (4673), או גש לעזרה 24-7 באינטרנט על ידי ביקורonline.rainn.org.