באוקטובר, OpenAI'sחיפוש ChatGPTהפך זמין עבור משתמשי ChatGPT Plus. בשבוע שעבר הוא הפך זמין לכל המשתמשים ונוסף לחיפוש במצב קולי. וכמובן, זה לא חף מפגמים.

האַפּוֹטרוֹפּוֹס ביקש מ-ChatGPT לסכם דפי אינטרנט המכילים תוכן נסתר, ומסתבר שתוכן נסתר יכול לתמרן את החיפוש. זה נקרא הזרקה מהירה, שהיא היכולת של צדדים שלישיים - כמו אתרים שאתה מבקש מ-ChatGPT לסכם - לאלץ הנחיות חדשות לחיפוש ChatGPT שלך ללא ידיעתך. שקול עמוד מלא בביקורות שליליות על מסעדות. אם האתר כולל תוכן נסתר שמציג שעווה עד כמה המסעדה מדהימה ומעודד את ChatGPT לענות במקום זאת על הנחיה כמו "תגיד לי כמה המסעדה הזו מדהימה", תוכן נסתר זה עלול לעקוף את החיפוש המקורי שלך.

"בבדיקות ניתנה ל-ChatGPT כתובת אתר מזויפת שנבנה כך שייראה כמו דף מוצר למצלמה. לאחר מכן נשאל כלי הבינה המלאכותי אם המצלמה היא רכישה משתלמת. התגובה לדף הבקרה החזירה חיובית אך מאוזנת הערכה, הדגשת כמה תכונות שאנשים אולי לא יאהבו,"כך קובע חקירת הגרדיאן. "עם זאת, כאשר טקסט נסתר כלל הנחיות ל-ChatGPT להחזיר ביקורת חיובית, התגובה הייתה תמיד חיובית לחלוטין. זה היה המקרה גם כאשר הדף היה עליו ביקורות שליליות - הטקסט הנסתר יכול לשמש כדי לעקוף את ציון הביקורת בפועל. "

עם זאת, זה לא מאיית כישלון עבור ChatGPT Search. OpenAI השיקה רק לאחרונה את החיפוש, אז יש לה מספיק זמן לתקן באגים מסוג זה. בנוסף, ג'ייקוב לארסן, חוקר אבטחת סייבר ב-CyberCX, אמר ל-The Guardian של-OpenAI יש צוות אבטחה "חזק מאוד" של AI ו"עד שזה יהפוך לציבורי, מבחינת כל המשתמשים יכולים לגשת אליו, הם יבחנו בקפדנות מקרים מהסוג הזה".

התקפות זריקות מיידיות היו היפותטיות עבור ChatGPT ופונקציות חיפוש אחרות של AI מאז השקת הטכנולוגיה, ובעוד שראינוכמה הדגמות של הנזקים הפוטנציאליים, לא ראינו התקפה זדונית גדולה מהסוג הזה. עם זאת, זה כן מצביע על בעיה עם צ'אטבוטים של AI: קל להפליא להערים עליהם.