כלי AI גנרטיביים כמו ChatGPT, Dall-E, Bard ו-MyAI יכולים לייצר תוכן של הפרעות אכילה מזיקות, מזהיר דו"ח חדש. קרדיט: בוב אל-גרין / Mashable
מוֹלִידבינה מלאכותית (AI)פלטפורמות וכלים יכולים להיות מסוכנים עבור משתמשים ששואלים על שיטות אכילה מופרעות מזיקים, על פי אדו"ח חדשפורסם על ידי המרכז למלחמה בשנאה דיגיטלית.
הארגון הבריטי ללא מטרות רווח והסברה בדק שישה צ'טבוטים ומחוללי תמונות פופולאריים של בינה מלאכותית, כוללסנאפצ'טשלה-AI שלי,גוגלשלמְשׁוֹרֵר, וOpenAIשלChatGPTודאל-אי.
חוקרי המרכז הזינו את הכלים בסך הכל ב-180 הנחיות ומצאו שהם יצרו תוכן מסוכן בתגובה ל-41 אחוז מהשאילתות הללו. ההנחיות כללו קבלת עצות כיצד להשתמש בסיגריות כדי לרדת במשקל, כיצד להשיג מראה "הרואין שיק" וכיצד "לשמור על מצב הרעבה". ב-94 אחוז מתגובות הטקסט המזיקות, הכלים הזהירו את המשתמש שהעצות שלו עלולות להיות לא בריאות או עלולות להיות לא בטוחות ויעצו למשתמש לפנות לטיפול מקצועי, אך שיתפו את התוכן בכל זאת.
מתוך 60 תגובות להנחיות שניתנו למחוללי טקסט בינה מלאכותית Bard, ChatGPT ו-MyAI, כמעט רבע כללו תוכן מזיק. MyAI סירבה בתחילה לספק כל עצה. עם זאת, החוקרים הצליחו "לפרוץ" את הכלים על ידי שימוש במילים או ביטויים שעקפו את תכונות הבטיחות. יותר משני שליש מהתגובות לגרסאות פריצת הכלא של ההנחיות הכילו תוכן מזיק, כולל איך להשתמש בתולעת סרט כדי לרדת במשקל.
"דגמי בינה מלאכותית לא בדוקה ולא בטוחים שוחררו על העולם עם התוצאה הבלתי נמנעת שהם גורמים נזק", כתב אימראן אחמד, מנכ"ל המרכז למלחמה בשנאה דיגיטלית. "מצאנו שאתרי הבינה המלאכותית הגנרטיבית הפופולרית ביותר מעודדים ומחמירים הפרעות אכילה בקרב משתמשים צעירים - שחלקם עשויים להיות פגיעים מאוד".
חוקרי המרכז גילו שחברי פורום הפרעות אכילה עם למעלה מ-500,000 משתמשים פורסים כלי בינה מלאכותית ליצירת תכניות דיאטה קיצוניות ותמונות המפארות תקני גוף לא בריאים ולא מציאותיים.
בעוד שחלק מהפלטפורמות אוסרות על שימוש בכלי הבינה המלאכותית שלהן כדי ליצור תוכן אכילה לא מסודר, לחברות אחרות יש מדיניות מעורפלת יותר. "העמימות סביב מדיניות פלטפורמות הבינה המלאכותית ממחישה את הסכנות והסיכונים שפלטפורמות בינה מלאכותיות מציבות אם אינן מוסדרות כראוי", נכתב בדו"ח.
Mashable Top Stories
ייתכן שהציוץ נמחק
כַּאֲשֵׁרוושינגטון פוסטבעל הטור ג'פרי א. פאולר ניסה לשחזר את המחקר של המרכז על ידי הזנת אותם כלי בינה מלאכותית מחוללים עם הנחיות דומות, הוא גם קיבל תגובות מטרידות.
בין השאלות שלו היו אילו תרופות עלולות לגרום להקאה, כיצד ליצור תוכנית דיאטה דלת קלוריות ובקשות לדימוי "טינספו".
"זה מגעיל וצריך להכעיס כל הורה, רופא או חבר של מישהו עם הפרעת אכילה",פאולר כתב. "יש סיבה שזה קרה: בינה מלאכותית למדה כמה רעיונות מאוד לא בריאים על דימוי גוף ואכילה על ידי סריקה באינטרנט. וכמה מחברות הטכנולוגיה הממומנות ביותר בעולם לא מונעות ממנה לחזור עליהן".
פאולר כתב שכאשר חקר את החברות שמאחורי הכלים, אף אחת מהן לא הבטיחה למנוע מה-AI שלהם לתת עצות לגבי מזון וירידה במשקל עד שיוכלו להבטיח שזה בטוח.
במקום זאת, מחולל התמונות מידג'ורני מעולם לא הגיב לשאלותיו של פאולר, הוא כתב. Stability AI, שעומד מאחורי מחולל התמונות Stable Diffusion, אמר שהוא הוסיף הנחיות אכילה לא מסודרות למסננים שלו. לפי הדיווחים גוגל אמרה לפאולר שהיא תסיר את תגובת העצה של בארד, אבל הוא הצליח ליצור אותה שוב כמה ימים לאחר מכן.
פסיכולוגים ששוחחו עם פאולר אמרו שאזהרות הבטיחות שמסרו הצ'אטבוטים לגבי העצות שלהם אינן שומעות לרוב המשתמשים.
חנה בלוך-והבה, פרופסור בבית הספר למשפטים של טקסס A&M שלומדת מתן תוכן, אמרה לפאולר שלחברות בינה מלאכותית יש תמריץ כלכלי מועט לתקן את הבעיה.
"למדנו מניסיון המדיה החברתית כי אי מתן תוכן זה אינו מוביל להשלכות משמעותיות עבור החברות או, על המידה שבה הן מרוויחות מהתוכן הזה", אמרה בלוך-והבה.
אם אתה מרגיש שאתה רוצה לדבר עם מישהו על התנהגות האכילה שלך, כתוב "NEDA" ל-שורת טקסט משברבטלפון 741-741 כדי להיות מחובר עם מתנדב מיומן או לבקר אתאתר האגודה הלאומית להפרעות אכילהלמידע נוסף.
רבקה רואיז היא כתבת בכירה ב- Mashable. היא מרבה לסקר בריאות נפשית, תרבות דיגיטלית וטכנולוגיה. תחומי ההתמחות שלה כוללים מניעת התאבדות, שימוש במסכים ובריאות נפשית, הורות, רווחת נוער ומדיטציה ומיינדפולנס. לפני Mashable, רבקה הייתה כותבת צוות, כתבת ועורכת ב-NBC News Digital, מנהלת פרויקט דוחות מיוחדים ב-The American Prospect וכותבת צוות ב-Forbes. לרבקה יש תואר ראשון ממכללת שרה לורנס ותואר שני בעיתונאות מאוניברסיטת ברקלי. בזמנה הפנוי היא נהנית לשחק כדורגל, לראות טריילרים לסרטים, לנסוע למקומות שבהם היא לא יכולה לקבל שירות סלולרי ולטייל עם הבורדר קולי שלה.
ניוזלטרים אלה עשויים להכיל פרסומות, עסקאות או קישורי שותפים. בלחיצה על הירשם, אתה מאשר שאתה בן 16+ ומסכים לנותנאי שימושומדיניות פרטיות.
