גוגל מתקדמת מהר ושוברת דברים על חשבון איכות ובטיחות. קרדיט: Getty Images
גוגלדחף אתמְשׁוֹרֵרהשקה, למרות שעובדים כינו אותה "שקרנית פתולוגית" ו"מתקוממת".
לפי 18 עובדי גוגל לשעבר ובהווה ששוחחו איתםבלומברג, הדחף להתחרות ב-ChatGPT של OpenAI וב-Bing המופעל על ידי בינה מלאכותית העלה שיקולים אתיים. אולי שמתם לב לזה בעצמכם אם ניסיתם את בארד, אבל הצ'אטבוט של AI כןנוטה לאי דיוקים. לפי הדיווח, בארד נתן עצות מסוכנות כיצד להנחית מטוס. עובד אחר אמר שתשובות לגבי צלילה "יגרמו ככל הנראה לפציעה חמורה או מוות".
גוגל, ששלטה בשוק מנועי החיפוש, נמצאת במצב מעורער, וצריכה להדוף את מתמודדי הבינה המלאכותית מצד אחד, ולהחזיק במעמדה ככלב הטכנולוגי המוביל מצד שני. למרות החששות שהשקת אמודל שפה גדול לא אפוי(LLM) עלולות לייצר תגובות מזיקות, פוגעניות או לא מדויקות, גוגל מתאמצת לשלב את בארד ובינה מלאכותית מחוללת בכלים הפונים לצרכן. וכל דחיפה מצד עובדי בטיחות ואתיקה נחשבת כגורם מרתיע לעדיפות החדשה של גוגל. "לאנשי הצוות שאחראים להשלכות הבטיחותיות והאתיות של מוצרים חדשים נאמר לא להפריע או לנסות להרוג אף אחד מכלי הבינה המלאכותית היצירתית בפיתוח", אמרו העובדים.בלומברג. צוות האתיקה הוא כעת "חסר כוח ודמורלי", לדברי עובדים לשעבר ובהווה.
מהירות אור ניתנת לריסוק
לפני ש-OpenAI השיקה את ChatGPT בנובמבר 2022, הגישה של גוגל ל-AI הייתה זהירה יותר ופחות פנתה לצרכנים, ולעיתים קרובות עבדה ברקע של כלים כמו חיפוש ומפות. אבל מכיוון שהפופולריות העצומה של ChatGPT גרמה ל"קוד אדום"ממנהלים, הסף של גוגל לשחרור מוצר בטוח הורד במאמץ לעמוד בקצב של מתחרי הבינה המלאכותית שלה.
ג'ן גנאי, שמובילה את צוות "החדשנות האחראית" בגוגל, פסלה הערכת סיכונים מהצוות שלה שאמרה שבארד עדיין לא מוכן. הנימוק היה שעל ידי ריפוד בארד כ"ניסוי" אפשר להשיק אותו, ולהתחיל להשתפר על סמך משוב ציבורי. באופן דומה, הודיעה גוגלתכונות AI עבור Docs ו-Slides. אבל לגישה זו הייתה השפעה שלילית. בארד נחשב באופן נרחב למוצר נחות מ-ChatGPT, ויום לאחר ההכרזה של Google Docs and Slides, מיקרוסופט יצאה לראשונה במלואהאינטגרציה של AIעם כלי העבודה שלו - לא רק Microsoft Word ו-PowerPoint, אלא חבילת Office המלאה, כולל Teams ו-Outlook. גם סמסונג שוקלתהחלפת גוגל בבינגכמנוע החיפוש המוגדר כברירת מחדל במכשירים ניידים.
מאז גוגלהוסרהמשפט המפורסם "אל תהיה מרושע" מקוד ההתנהגות שלו, הוא נראה יותר ויותר כמו ה-Meta החרדי שלו, שהמוטו הפנימי לשעבר שלו "זוז מהר ושבור דברים" נראה היה להיות המנטרה הלא רשמית של כל עמק הסיליקון. וכאשר האתיקה והבטיחות נפגעים בשירות של תנועה מהירה, אמון הציבור הוא הסיכון להישבר.
ססילי היא כתבת טכנולוגיה ב-Mashable שמסקרת בינה מלאכותית, אפל ומגמות טכנולוגיות מתפתחות. לפני שקיבלה את התואר השני שלה בבית הספר לעיתונאות קולומביה, היא בילתה מספר שנים בעבודה עם סטארטאפים ועסקים בעלי השפעה חברתית עבור Unreasonable Group ו-B Lab. לפני כן, היא הקימה עסק לייעוץ סטארט-אפים למרכזי יזמות מתפתחים בדרום אמריקה, אירופה ואסיה. אתה יכול למצוא אותה בטוויטר בכתובת@cecily_mauran.
ניוזלטרים אלה עשויים להכיל פרסומות, עסקאות או קישורי שותפים. בלחיצה על הירשם, אתה מאשר שאתה בן 16+ ומסכים לנותנאי שימושומדיניות פרטיות.