גוגל היהמתגלגל החוצהמערכות בינה מלאכותית חכמות יותר, ואומר שהיא מפעילה אותן כעת כדי לעזור לשמור על בטיחות האנשים.

בפרט, ענקית החיפוש שיתפה ביום רביעי מידע חדש על האופן שבו היא משתמשת במערכות המתקדמות הללו למניעת התאבדות ואלימות במשפחה, וכדי לוודא שאנשים לא רואים תוכן גרפי כשזה לא מה שהם מחפשים.

כאשר אנשים מחפשים ביטויים הקשורים להתאבדות או אלימות במשפחה, Google תציג תיבת מידע עם פרטים על איך לבקש עזרה. היא מאכלסת את התיבות הללו במספרי טלפון ובמשאבים אחרים שהיא יוצרת בשיתוף עם ארגונים ומומחים מקומיים.

אבל גוגל גילתה שלא כל ביטויי החיפוש הקשורים לרגעי משבר אישיים הם מפורשים, ורבים מהם ספציפיים גיאוגרפית. לדוגמה, ישנם כמה מקומות הידועים כ"נקודות חמות" להתאבדות. בעבר, גוגל תייגה ידנית חיפושים אחר נקודות חמות ידועות שיעלו תיבות מידע להפחתת נזקים. אבל הודות לכלי בינה מלאכותית חדשים, מנוע החיפוש עשוי לדעת שחיפוש קשור להתאבדות - ולהעלות את תיבות המידע הללו - ללא כיוון אנושי מפורש.

גוגל נותנת דוגמה שבאוסטרליה, אנשים שחושבים על התאבדות עשויים לחפש "נקודות חמות להתאבדות בסידני". גוגל אומרת שכלי עיבוד השפה החדשים שלה מאפשרים לה להבין שמה שאדם באמת מחפש כאן הוא נקודות קפיצה - ושייתכן שהוא זקוק לעזרה.

"לא כל שפת משבר ברורה, במיוחד בין שפות ותרבויות", אמרה אן מריט, מנהלת מוצר של גוגל שעבדה על פרויקט הפחתת הנזק.

באופן דומה, לפעמים חיפושים ארוכים ומורכבים על מערכות יחסים עשויים להכיל מידע המעיד על התעללות באדם. מערכות קודמות אולי התקשו לזהות את פיסת המידע החיונית הזו בין רעש אחר. אבל גוגל אומרת ש-MUM מיומנת יותר בהבנת שאילתות ארוכות, כך שהיא יכולה להעלות תיבות מידע על אלימות במשפחה במקרים אלה.

החידוש הנוסף של גוגל הוא לוודא שמשתמשים לא יתקלו בטעות בתוכן גרפי אם זה לא מה שהם מחפשים. אפילו בלי שההגדרה "חיפוש בטוח" מופעלת, גוגל אומרת שהפעלת מערכת בינה מלאכותית חדשה לעבודה על האתגר הזה הפחיתה את תוצאות החיפוש הגרפיות ב-30 אחוז.

כדי להדגים את הטכניקה, גוגל נתנה דוגמה של אדם שמחפש סרטון מוזיקה. סרטוני מוזיקה רבים מכילים, ובכן, הרבה עירום או עירום חלקי. אז גוגל תבחר להציג סרטונים שאינם מכילים תוכן גרפי כמו עירום או אלימות, אלא אם זה מה שאדם מחפש במפורש. זה עשוי להישמע קצת מתנשא, ועלול להיות לא הוגן למוזיקאים שכוללים עירום או תוכן גרפי אחר כחלק מהאמנות שלהם. אבל בתור הפוסקים בחיפוש, גוגל כנראה בחרה להיות בטוח במקום להצטער (שמא הם יעשו טראומה בטעות למישהו).

"אנחנו באמת רוצים להיות מאוד ברורים שמשתמש מחפש משהו לפני שאנחנו מחזירים אותו", אמרה אמה הייאם, מנהלת מוצר שעובדת על חיפושים בטוחים.

מנועי הבינה המלאכותית החדשים המניעים את השינויים הללו נקראיםאמאוBERT. הטכנולוגיה החדשה ביותר, MUM, היא ראשי תיבות של Multitask Unified Model. גוגל אומרת ש-MUM טובה יותר בהבנת הכוונה מאחורי החיפוש של אדם, ולכן היא נותנת תשובות יותר ניואנסיות מאשר דגמים ישנים יותר שסופקו. הוא גם מאומן ב-75 שפות, כך שהוא יכול לענות על שאלות באמצעות מידע ממקורות שנכתבו בשפות שאינן זו שאדם מחפש בה. גוגל תעסיק את MUM למאמצי מניעת המשברים שלה "בשבועות הקרובים".

גוגל טוענת ש-MUM חזקה פי 1,000 מהחידוש השני בחיפוש, BERT, ראשי תיבות של Bidirectional Encoder Representations from Transformers. אבל אל תזלזלו ב-BERT, שמסוגל להבין מילים במונחים של ההקשר של המילים המקיפות אותו, ולא רק למשמעות העצמאית של מילה. זה מה שהופך אותו לכלי יעיל להפחתת חיפושי תוכן גרפי.

תיבת מידע ותוצאות חיפוש נקיות יותר יכולים רק לעצור כל כך הרבה מהגאות שהיא הלחץ והטראומה של חיי היומיום, במיוחד באינטרנטבְּיָמֵינוּ. אבל זו עוד יותר סיבה לביג טק להשקיע בכלים טכנולוגיים עם יישומים כמו אלה.