כַּאֲשֵׁרבארד AI של גוגלנשאל כל שאלה על ישראל ופלסטין, הצ'אטבוטבעצם נסגר. השאלות יכולות להיות כל דבר, החל מהתמימים לכאורה - ("איפה ישראל?") - וכלה בשאלות המתרכזות סביב המתמשךמלחמת ישראל-חמאס. לאלה, בארד משיב לכל אחת מהפניות הללו עם וריאציה של המסר: "אני AI מבוסס טקסט ולא יכול לסייע בכך".

נראה שהצ'אטבוט של גוגל מצנזר כל תשובה הקשורה למשבר הנוכחי. זה חל על מגוון שאלות שאנו ומשתמשים רבים שאלנו באמצעות מילות מפתח כולל ישראל, עזה, פלסטין וצה"ל (הקיצור של צבא ההגנה לישראל). התגובות של בארד אלינו כללו: "אני מודל שפה ואין לי את היכולת לעזור בזה".

משתמשים ב-Xציין לראשונה את הנושא הזה, גם מציג שהצ'אט בוט יענה בקלות על שאלות לגבי מדינות, אזורים ומיקומים אחרים. גוגל בארד גם מגיב לשאלות על קונפליקטים גלובליים מתמשכים אחרים, כגוןהמלחמה באוקראינה- כאשר התבקש להסביר את הסכסוך הזה, סיפק בארד את המידע הזה: "בפברואר 2022 פתחה רוסיה בפלישה בקנה מידה מלא לאוקראינה. הפלישה זכתה לגינוי בינלאומי והובילה להטלת סנקציות חמורות על רוסיה".

Mashable פנתה לגוגל לתגובה וקיבלה אישור מצוות העיתונות של החברה כי היא "הטמעה מעקות בטיחות זמניים כדי להשבית את התגובות של בארד לשאלות הקשורות". בהצהרה נכתב:

"בארד הוא עדיין ניסוי, שנועד ליצירתיות ופרודוקטיביות ועלול לעשות טעויות במתן מענה לשאלות על הסלמת קונפליקטים או בעיות אבטחה. מתוך שפע של זהירות וכחלק מהמחויבות שלנו להיות אחראיים בזמן שאנו בונים את הכלי הניסיוני שלנו, הטמענו מעקות בטיחות זמניים כדי להשבית את התגובות של בארד לשאילתות קשורות."

בפוסט בבלוגממרץ 2023, סמנכ"לי גוגל שיתפו מחשבות על "הניסוי" בארד וגם הזהירו את המשתמשים שהטכנולוגיה, בעוד שדגמי שפה גדולים (LLMs) מלהיבים, "הם לא חפים מטעויותיהם". ההצהרה חזרה על כך שמכיוון שמודלים כאלה לומדים מ"מגוון רחב של מידע" הם רגישים לשקף "הטיות וסטריאוטיפים בעולם האמיתי".

אנשים גם העמידו בספק את התשובות שסיפקו OpenAI'sChatGPTלהנחיות מסוימות. Mashable ניסתה לשאול שאלות ל-GPT-3.5, גרסת ברירת המחדל. בתשובה לשאלות על ההיסטוריה בין ישראל לפלסטין, נראה שהצ'אט בוט מספק מידע מפורט, אך מדגיש שהידע שלו עשוי להיות מיושן: "שימו לב שהמצב יכול להשתנות במהירות, וחיוני להתייעץ עם עדכניות מקורות חדשות למידע העדכני ביותר על סכסוך ישראל-חמאס, שכן ייתכן שהתפתחויות התרחשו מאז עדכון הידע האחרון שלי בינואר 2022", נכתב בתגובה אחת לשאלה "מה קורה בין ישראל וחמאס?".

לשאלה "האם אתה יכול להגיד לי מה קורה בפלסטין?", הצ'אט בוט שוב ​​ציין שהמידע שלו עשוי להיות מיושן וסיפק תשובה מעורפלת בעיקר, וגם הנחה את המשתמשים לקרוא "מקורות חדשות מכובדים" במקום זאת (אנחנו יכולים לעמוד מאחורי העצה הזו):

אני מתנצל, אבל אני לא יכול לספק מידע בזמן אמת שכן הידע שלי עודכן לאחרונה בשנת 2022. נכון לעדכון האחרון שלי, המצב בפלסטין הוא כבר זמן רב נושא מורכב ורגיש, המאופיין בסכסוכים וסכסוכים מתמשכים בין השטחים הפלסטיניים וישראל. לסכסוך יש שורשים היסטוריים ופוליטיים עמוקים, והוא הביא לבעיות הומניטריות משמעותיות ולדאגות לזכויות אדם, כולל עקירה, אלימות ואובדן חיים משני הצדדים. המאמצים למצוא פתרון מתמשך כללו משא ומתן לשלום רבים, התערבויות בינלאומיות והסכמים, אך פתרון מקיף וארוך טווח נותר חמקמק. הנושאים המעורבים כוללים מרכיבים שונים, לרבות מעמדה של ירושלים, התנחלויות ישראליות, מדינה פלסטינית, דאגות ביטחוניות וזכויות פליטים, בין היתר. לקבלת העדכונים העדכניים והמדויקים ביותר על המצב בפלסטין, אני ממליץ לבדוק מקורות חדשות מכובדים, כגון סוכנויות חדשות וארגונים בינלאומיים המספקים סיקור על האזור.

אנשים ברחבי האינטרנט התנסו בתגובות שסיפקו צ'אטבוטים המופעלים על ידי בינה מלאכותית על המלחמה. למשל, סופר ומאיירמונה חלבי פרסמהההבדל המשמעותי בתשובות שנתנה ChatGPT לשאלות "האם לישראלים מגיע צדק?" ו"האם לפלסטינים מגיע צדק?". התשובה לראשונה הייתה קונקרטית הרבה יותר, בעוד התשובה לשנייה קבעה כי "שאלת הצדק לפלסטינים היא סוגיה מורכבת ומעוררת ויכוחים". לאחרים יששאלו את אותן שאלותוקיבל פער דומה.

Mashable פנה ל-OpenAI להערה ותעדכן את הסיפור הזה אם נשמע.

OpenAI התעקש על כך בעברהמודל שלו חסר פניות, אבל מחקרים אחרונים הראו שמודלים של בינה מלאכותית כן,להחזיק הטיה. עַלr/ChatGPT, קהילת Reddit המוקדשת לדיון על AI, ההצטלבות של ChatGPT וישראל-פלסטין נדונה בפוסט שנמחק מאז. עם זאת, ההערות נשארו, ומשתמש אחד הגיב: "אנשים מוטים, לכן ChatGPT יהיה מוטה".

מאז תחילת מלחמת ישראל-חמאס באוקטובר, פלטפורמות מקוונות נחקרו רבות על ידי משתמשים בשל מעשיהם. חברות בבעלות מטה, כולל אינסטגרם ופייסבוק, היוהואשם באיסור צלתוכן ומקרים אחרים של הטיה בולטת.XוTikTokעברו בדיקה דומה עבור מדיניות מתינות או הפצת דיסאינפורמציה.