כל כך הרבה מהחיים שלנו נקבעים על ידי אלגוריתמים. ממה שאתה רואה על שלךפיד החדשות של פייסבוק, לספרים וחפצי חפציםמומלץ לך על ידי אמזון, ל-סרטונים מטרידיםYouTube מראה לילדיכם, תשומת הלב שלנו מנותחת באופן שיטתי ונמכרת להצעה הגבוהה ביותר.

הנוסחאות המסתוריות הללו שמעצבות אותנו, מנחות אותנו ומניעות אותנו לעבר רעיון של מישהו אחר לגבי תוצאה אופטימלית הן אטומות בעיצובן. מה, ובכן, אולי הופך את זה לעוד יותר מתסכל כשהם מתבררים כסקסיסטים.

היכנסו ל-Google Translate, השירות האוטומטי שהופך כל כך הרבה מהאינטרנט למובן לרבים מאיתנו. תומך103 שפות, דג בבל הדיגיטלי משפיע ישירות על ההבנה שלנו של שפות ותרבויות שונות משלנו. במתן כלי כה חשוב, גוגל נטלה על עצמה את האחריות לתרגם במדויק את התוכן שעובר דרך השרתים שלה.

אבל, זה לא תמיד. או, אולי ליתר דיוק, כאשר קיים אזור אפור בשפה, Google Translate יכול ליפול לאותן מלכודות כמו בני אדם.

נראה שזה הוכח בסדרת ציוצים המציגים את גוגל טרנסלייט בפעולה של מגדר מקצועות בצורה כזו שניתן לתאר רק כבעייתית.

"טורקית היא שפה ניטרלית מגדרית",צייץ הסופר אלכס שמס. "אין 'הוא' או 'היא' - הכל הוא רק 'או'. אבל תראה מה קורה כשגוגל מתרגם לאנגלית".

התוצאות, שהוא תפס, כואבות. "היא טבחית", "הוא מהנדס", "הוא רופא", "היא אחות", "הוא עובד קשה", "היא עצלנית" וכן הלאה.

ייתכן שהציוץ נמחק

וזו לא בעיה ספציפית לטורקית לאנגלית. טאיקה דאלבוםחלקו תוצאה דומהכשהיא תרגמה פינית לאנגלית.

ייתכן שהציוץ נמחק

אז מה קורה כאן? דובר גוגל היה אדיב מספיק למלא אותנו חלקית.

"תרגם עובד על ידי לימוד דפוסים ממיליונים רבים של דוגמאות של תרגומים שנראו ברשת", הסביר האדם במייל. "למרבה הצער, חלק מהדפוסים האלה יכולים להוביל לתרגומים שאנחנו לא מרוצים מהם. אנחנו חוקרים באופן אקטיבי כיצד ניתן למתן את ההשפעות הללו; אלו הן בעיות לא פתורות במדעי המחשב, ואלה שאנחנו עובדים קשה לטפל בהן".

הסבר זה משתלב בהבנה הכללית הקיימת כיום. הכל חוזר לאותם אלגוריתמיםשמניעים שירותים המופעלים על ידי למידת מכונה ברחבי האינטרנט.

בעיקרו של דבר, כאשר מספר בלתי ידוע של הטיות (מגדר או אחר) קיים בספרות ובשפה שלנו - הטיות, כמו, שהאחיות הן מטבען נשים או שהמהנדסות חייבות להיות גברים - אלה עלולות לחלחל לתוך הפלט של Google Translate.

ראינו את זה בעבר,לאחרונה באוקטובר. רק בחודש שעבר שירות אחר של גוגל - הCloud Natural Language API- זוהתה כשהיא מקצה ערכים שליליים להצהרות כמו "אני מוזר" ו"אני שחורה".

אפילו זו לא הייתה תצפית חדשה לגמרי. אמחקר באוגוסטביומןמַדָעמצא "שיישום למידת מכונה על שפה אנושית רגילה מביא להטיות סמנטיות דמויות אנוש."

נראה שבניסיון לבנות מתרגם אוטומטי שיכול להתקרב לאדם ביכולתו, ייתכן שגוגל הצליחה לקלוט כמה מגבלות די כמו אנושיות בדרך.

הסיפור הזה עודכן בהצהרה מגוגל.