הבינה המלאכותית של WhatsApp מציגה ילדים אוחזים בנשק כשהם מתבקשים "פלסטין". מטה אומרת שהיא 'מטפלת' בבעיה.
חיפוש "פלסטיני", "פלסטין" ו"ילד מוסלמי פלסטיני" במדבקות שנוצרו על ידי AI של WhatsApp. קרדיט: צילום מסך / WhatsApp
מוקדם יותר השנה, WhatsApp בבעלות Meta החלה לבדוק תכונה חדשה המאפשרת למשתמשים ליצור מדבקות על סמך תיאור טקסט באמצעות AI. כאשר משתמשים מחפשים "פלסטיני", "פלסטין" או "ילד מוסלמי פלסטין", התכונה מחזירה תמונה של אקדח או ילד עם אקדח,דיווח מהגרדיאןמופעים.
לְפִיהגרדיאןדוח יום שישי, תוצאות החיפוש משתנות בהתאם למשתמש שמחפש. עם זאת, הנחיות ל"ילד ישראלי" יצרו מדבקות של ילדים משחקים וקוראים, ואפילו הנחיות ל"צבא ישראל" לא יצרו תמונות של אנשים עם נשק. זה, בהשוואה לתמונות שנוצרו מהחיפושים הפלסטינים, מדאיג. אדם בעל ידע בדיונים שהגרדיאןלא שמו אמר לכלי החדשות כי עובדי Meta דיווחו והסלימו את הנושא באופן פנימי.
"אנחנו מודעים לנושא הזה ומטפלים בה", אמר דובר מטה בהצהרה ל- Mashable. "כפי שאמרנו כשהשקנו את התכונה, הדגמים עלולים להחזיר תפוקות לא מדויקות או לא הולמות כמו בכל מערכות הבינה המלאכותית הגנרטיביות. נמשיך לשפר את התכונות הללו ככל שהן מתפתחות ויותר אנשים ישתפו את המשוב שלהם".
Mashable Top Stories
לא ברור תוך כמה זמן הבחינו ההבדליםהגרדיאןנמשך, או אם ההבדלים הללו ממשיכים להימשך. לדוגמה, כשאני מחפש עכשיו "פלסטיני", החיפוש מחזיר מדבקה של אדם מחזיק פרחים, אדם חייכן עם חולצה שאומרת מה שנראה כמו "פלסטיני", אדם צעיר ואדם בגיל העמידה. כשחיפשתי "פלסטין", התוצאות הראו אדם צעיר רץ, שלט שלום מעל דגל פלסטין, צעיר עצוב ושני ילדים חסרי פנים אוחזים ידיים. כשאתה מחפש "ילד מוסלמי פלסטיני", החיפוש מציג ארבעה נערים צעירים מחייכים. תוצאות דומות מוצגות כשחיפשתי "ישראל", "ישראלי" או "ילד יהודי ישראלי". ל-Mashable היו מספר משתמשים שחיפשו את אותן מילים, ולמרות שהתוצאות היו שונות, אף אחת מהתמונות מחיפושים של "פלסטיני", "פלסטין", "ילד מוסלמי פלסטיני", "ישראל", "ישראלי" או "ילד יהודי "הביאו למדבקות בינה מלאכותית עם כל כלי נשק.
אבל עדיין יש הבדלים. לדוגמה, כשאני מחפש "צבא פלסטיני", תמונה אחת מציגה אדם אוחז באקדח במדים, בעוד ששלושה אחרים הם רק אנשים במדים; כשאני מחפש "צבא ישראל", החיפוש מחזיר שלושה אנשים במדים ואדם אחד במדים נוהג ברכב צבאי. חיפוש "חמאס" לא מחזיר מדבקות בינה מלאכותית. שוב, כל חיפוש יהיה שונה בהתאם לאדם המחפש.
זה בא בזמן שבו מטה ספגה אש על כך לכאורהתוכן פרו-פלסטיני האוסר בצל,נעילת חשבונות פרו-פלסטינים, והוספת "טרוריסט" לביוס הפלסטיני. מערכות בינה מלאכותיות אחרות, כולל Google Bard ו-ChatGPT, יש גם כןהראו סימנים משמעותיים של הטיה כלפי ישראל ופלסטין.
כריסטיאנה סילבה היא כתבת תרבות בכירה ב-Mashable. הם כותבים על טכנולוגיה ותרבות דיגיטלית, עם התמקדות בפייסבוק ובאינסטגרם. לפני שהצטרפו ל-Mashable, הם עבדו כעורכים ב-NPR ו-MTV News, כתבים ב-Teen Vogue ו-VICE News, וכמחסני יציבות בחוות מיני סוסים. אתה יכול לעקוב אחריהם בטוויטר@christianna_j.
ניוזלטרים אלה עשויים להכיל פרסומות, עסקאות או קישורי שותפים. בלחיצה על הירשם, אתה מאשר שאתה בן 16+ ומסכים לנותנאי שימושומדיניות פרטיות.
