אמרנו את זהלִפנֵי,ואנחנו נעשהלוֹמַרזֶהשׁוּב: אל תזין שום דבר ב-ChatGPT שאתה לא רוצה שגורמים לא מורשים יקראו.
מאז ש-OpenAI שחררה את ChatGPT בשנה שעברה, היו לא מעט מקרים שבהם פגמים בצ'אטבוט של AI היו יכולים להיות מנשקים או מניפולציות על ידי שחקנים גרועים כדי לגשת לנתונים רגישים או פרטיים. והדוגמה האחרונה הזו מראה שגם לאחר שחרור תיקון אבטחה, הבעיות עדיין יכולות להימשך.
על פי דיווח שלמחשב מצמרר, OpenAI הוציאה לאחרונה תיקון לבעיה שבה ChatGPT עלול להדליף נתונים של משתמשים לצדדים שלישיים לא מורשים. נתונים אלה יכולים לכלול שיחות משתמש עם ChatGPT ומטא נתונים מתאימים כמו מזהה משתמש ופרטי הפעלה.
עם זאת, לדברי חוקר אבטחהיוהאן רהברגר, שגילה במקור את הפגיעות והתאר כיצד היא עבדה, עדיין קיימים פרצות אבטחה פעורות בתיקון של OpenAI. בעיקרו של דבר, פגם האבטחה עדיין קיים.
דליפת הנתונים של ChatGPT
Rehberger הצליח לנצל את היתרונות של OpenAI של OpenAI שיצא לאחרונה וזכה לשבחים רביםGPTs מותאמים אישיתתכונה ליצור GPT משלו, שהוציא נתונים מ-ChatGPT. זה היה ממצא משמעותי מכיוון שמכשירי GPT מותאמים אישית משווקים כאפליקציות AI בדומה לאופן שבו האייפון חולל מהפכה ביישומים ניידים עם ה-App Store. אם Rehberger היה יכול ליצור GPT מותאם אישית זה, נראה ששחקנים גרועים יכולים לגלות בקרוב את הפגם וליצור GPTs מותאמים אישית כדי לגנוב נתונים מהמטרות שלהם.
מהירות אור ניתנת לריסוק
רהברגר אומר שהוא ראשוןיצר קשרOpenAI על "טכניקת חילוץ הנתונים" כבר באפריל. הוא יצר קשר עם OpenAI פעם נוספת בנובמבר כדי לדווח בדיוק כיצד הוא הצליח ליצור GPT מותאם אישית ולבצע את התהליך.
ביום רביעי, רהברגרפרסם עדכוןלאתר שלו. OpenAI תיקן את פגיעות הדליפה.
"התיקון אינו מושלם, אלא צעד בכיוון הנכון", הסביר רהברגר.
הסיבה שהתיקון אינו מושלם היא ש-ChatGPT עדיין מדליף נתונים דרך הפגיעות שגילה Rehberger. עדיין ניתן להערים על ChatGPT לשלוח נתונים.
"כמה בדיקות מהירות מראות שפיסות מידע יכולות לגנוב דליפה", כתב רהברגר, והסביר עוד כי "זה מדליף רק כמויות קטנות בדרך זו, היא איטית ומורגשת יותר למשתמש". ללא קשר לבעיות הנותרות, רהברגר אמר שזהו "צעד בכיוון הנכון בוודאות".
אבל, פגם האבטחה עדיין נשאר כולו באפליקציות ChatGPT עבור iOS ואנדרואיד, שטרם עודכנו עם תיקון.
משתמשי ChatGPT צריכים להישאר ערניים בעת שימוש ב-GPT מותאמים אישית, וסביר להניח שהם צריכים להעביר את אפליקציות הבינה המלאכותית הללו מצדדים שלישיים לא ידועים.
