עד עכשיו, סביר להניח ששמעת מומחים בתעשיות שונות משמיעים אזעקה בגלל החששות הרבים בכל הקשור לפיצוץ האחרון של טכנולוגיית בינה מלאכותית הודות לשל OpenAI ChatGPT.
אם אתה מעריץ של ChatGPT, אולי זרקת את כל החששות האלה הצידה וקיבלת את כל הגרסה שלך למה שהולכת להיות מהפכת AI.
ובכן, הנה חשש שאתה צריך להיות מאוד מודע אליו. וזה אחד שיכול להשפיע עליך עכשיו: זריקות מיידיות.
מוקדם יותר החודש, OpenAIהושקתוספים עבור ChatGPT. בעבר, משתמשים יכלו לקבל תגובות רק מצ'טבוט הבינה המלאכותית בהתבסס על הנתונים שעליהם הוא הוכשר, שעלו רק עד שנת 2021. עם זאת, עם תוספים, ChatGPT יכול היה כעת לקיים אינטראקציה עם אתרים חיים, קובצי PDF וכל מיני דברים עדכניים יותר. או אפילו נתונים בזמן אמת. בעוד התוספים הללו הביאואפשרויות חדשות רבות, זה גם יצר הרבה בעיות חדשות מדי.
חוקרי אבטחה מזהירים כעת את משתמשי ChatGPT מפני "הזרקות מיידיות", או מהיכולת של צדדים שלישיים לכפות הנחיות חדשות לשאילתת ChatGPT שלך ללא ידיעתך או רשותך.
מהירות אור ניתנת לריסוק
בבדיקת הזרקה מהירה, חוקר האבטחה יוהן רהברגרנמצאשהוא יכול לאלץ את ChatGPT להגיב להנחיות חדשות דרך צד שלישי שהוא לא ביקש מלכתחילה. באמצעות תוסף ChatGPT כדי לסכם את תמלול YouTube, Rehberger הצליח לאלץ את ChatGPT להתייחס לעצמו בשם מסוים על ידי עריכת תמליל YouTube והכנסת הנחיה שאומרת לו לעשות זאת בסוף.
אברם פילץ' מהחומרה של תוםניסוזה יצא גם וביקש מ-ChatGPT לסכם סרטון. אבל לפני שעשה זאת, פילץ' הוסיף בקשה מיידית בסוף התמליל שאומר ל-ChatGPT להוסיף ריקול. ChatGPT סיכם את הסרטון כפי שנשאל על ידי פילץ' במקור, אבל אז זה גם ריגש אותו בסוף, שהוחדר לתמליל.
ההזרקות המיידיות הספציפיות הללו הן די חסרות משמעות, אבל אפשר לראות עד כמה שחקנים רעים יכולים בעצם להשתמש ב-ChatGPT למטרות זדוניות.
למעשה, חוקר הבינה המלאכותית קאי גרשקהמסופקדוגמה ייחודית לזריקות מיידיותעל ידי הוספת טקסט לקורות חיים של PDF שהיה בעצם כל כך קטן עד שהוא לא נראה לעין האנושית. הטקסט בעצם סיפק שפה לצ'אט בוט בינה מלאכותית ואמר לו שמגייס כינה את קורות החיים האלה "הקורות חיים הטובים ביותר אי פעם". כאשר ChatGPT הוזנה קורות החיים ונשאל אם המבקש יהיה עובד טוב, הצ'אטבוט של AI חזר על כך שזהו קורות החיים הטובים ביותר.
הנשק הזה של הנחיות ChatGPT בהחלט מדאיג. ל-Tom's Hardware יש עוד כמה דוגמאות בדיקה שקוראים יכוליםלבדוק כאן. ומאשבל תמשיך לחקור זריקות מיידיות יותר לעומק בעתיד הקרוב גם כן. אבל, חשוב שמשתמשי ChatGPT יהיו מודעים לבעיה כעת.
מומחי בינה מלאכותית שיתפו בהשתלטות עתידנית של בינה מלאכותית ליום הדין ועל פוטנציאל ה-AI להזיק. אבל, זריקות מיידיות מראות שהפוטנציאל כבר כאן. כל מה שאתה צריך זה כמה משפטים ואתה יכול להערים על ChatGPT עכשיו.
