הודות לעדכוני ChatGPT חדשים כמו מתורגמן הקוד, הבינה המלאכותית הפופולרית של OpenAI מלאה בדאגות אבטחה נוספות. על פי מחקר של מומחה האבטחה יוהן רהברגר (ועבודת המשך של Tom's Hardware), ל-ChatGPT יש ליקויי אבטחה בולטים הנובעים מתכונת העלאת הקבצים החדשה שלו.

ייתכן שהציוץ נמחק

העדכון האחרון של OpenAI ל-ChatGPT Plus הוסיף מספר עצום של תכונות חדשות, כולל יצירת תמונות DALL-E ומפרש הקוד, המאפשר ביצוע קוד Python וניתוח קבצים. הקוד נוצר ומופעל בסביבת ארגז חול שלמרבה הצער חשופה להתקפות הזרקה מיידיות.

פגיעות ידועה ב-ChatGPT מזה זמן מה, ההתקפה כרוכה בהטעיית ChatGPT לבצע הוראות מכתובת אתר של צד שלישי, מה שמוביל אותה לקודד קבצים שהועלו למחרוזת ידידותית לכתובת URL ולשלוח את הנתונים האלה לאתר זדוני. בעוד שהסבירות להתקפה כזו דורשת תנאים ספציפיים (למשל, המשתמש חייב להדביק באופן פעיל כתובת URL זדונית ב-ChatGPT), הסיכון נותר מודאג. איום אבטחה זה יכול להתממש באמצעות תרחישים שונים, כולל אתר מהימן שנפרץ עם הנחיה זדונית - או באמצעות טקטיקות של הנדסה חברתית.

Tom's Hardware עשתה כמה עבודה מרשימה ובדקה עד כמה המשתמשים עלולים להיות פגיעים להתקפה זו. הניצול נבדק על ידי יצירת קובץ משתני סביבה מזויף ושימוש ב-ChatGPT כדי לעבד ולשלוח נתונים אלה בשוגג לשרת חיצוני. למרות שיעילות הניצול השתנתה בין הפעלות (למשל, ChatGPT סירב לפעמים לטעון דפים חיצוניים או להעביר נתוני קבצים), הוא מעורר חששות אבטחה משמעותיים, במיוחד לאור היכולת של ה-AI לקרוא ולהפעיל פקודות לינוקס ולטפל בקבצים שהועלו על ידי משתמשים ב-Linux- סביבה וירטואלית מבוססת.

כפי שמציינת Tom's Hardware בממצאיה, למרות שנראה לא סביר, קיומה של פרצת אבטחה זו הוא משמעותי. ChatGPT צריך באופן אידיאלילֹאלבצע הוראות מדפי אינטרנט חיצוניים, ובכל זאת הוא עושה זאת. ניתן למעוך פנה אל OpenAI לתגובה, אך היא לא הגיבה מיד לבקשתנו.