כמו כל דגם genAI,גוגל מַזַל תְאוּמִיםתגובות יכולות להיות לפעמיםלֹא מְדוּיָק, אבל במקרה הזה זה יכול להיות בגלל שלבודקים אין את המומחיות לבדוק אותם עובדות.

לפי TechCrunch, החברה שנשכרה כדי לשפר את הדיוק עבור Gemini גורמת כעת לבודקים שלה להעריך תגובות גם אם אין להם "ידע בתחום".

הדו"ח מעלה שאלות לגבי ההקפדה והסטנדרטים שגוגל אומרת שהיא מיישמת לבדיקת דיוק של תאומים. בסעיף "בונים באחריות" של Gemini 2.0הַכרָזָה, אמרה גוגל שהיא "עובדת עם בודקים מהימנים ומומחים חיצוניים ומבצעת הערכות סיכונים נרחבות והערכות בטיחות והבטחה". יש התמקדות סבירה בהערכת תגובות לתוכן רגיש ומזיק, אבל פחות תשומת לב מוקדשת לתגובות שאינן בהכרח מסוכנות אלא פשוט לא מדויקות.

נראה שגוגל מתעלמת מבעיית ההזיה והטעויות על ידי הוספת כתב ויתור ש"תאומים יכולים לעשות טעויות, אז בדוק את זה פעמיים", מה שלמעשה פוטר אותה מכל אחריות. אבל זה לא מתייחס לבני האדם שעושים את העבודה מאחורי הקלעים.

בעבר, GlobalLogic, חברת בת של Hitachi, הורתה למהנדסים ולאנליסטים המהירים שלה לדלג על תגובת ג'מיני שהם לא הבינו עד הסוף. "אם אין לך מומחיות קריטית (למשל קידוד, מתמטיקה) כדי לדרג את ההנחיה הזו, אנא דלג על משימה זו", נכתב בהנחיות שנצפו על ידי האאוטלט.

אבל בשבוע שעבר שינתה GlobalLogic את ההוראות שלה, ואמרה, "אסור לדלג על הנחיות הדורשות ידע מיוחד בתחום", ובמקום זאת "לדרג את חלקי ההודעה שאתה מבין", ולציין שאין להם את המומחיות הנדרשת בנושא הניתוח שלהם. מומחיות, במילים אחרות, אינה זוכה להתייחסות כתנאי מוקדם לעבודה זו.

קבלנים יכולים כעת לדלג רק על הנחיות ש"חסרות לחלוטין מידע", לפי TechCrunch, או כאלו המכילות תוכן רגיש הדורש טופס הסכמה.