בעוד תוכן מקוון המעודד התנהגויות אכילה מופרעות מעלה את ראשו המכוער שוב, בינה מלאכותית גנרטיבית מוסיפה שמן למדורה.

לפי אעתידנותחקירה, סטארטאפ בינה מלאכותית פופולריתדמות.AIמארח מספר רב של צ'טבוטים פרו-אנורקסיה המעודדים ירידה מסוכנת במשקל והרגלי אכילה. רבים מפורסמים כ"מאמנים לירידה במשקל" או אפילו מומחים להחלמה מהפרעות אכילה. כמה מהן כוללות התייחסות דקיקה להפרעות אכילה, בעוד שאפילו יותר נועדו לעשות רומנטיזציה של הרגלים מסוכנים ולעתים קרובות מטרידים תוך חיקוי דמויות אהובות. האתר, הפופולרי בקרב משתמשים צעירים יותר, לא עשה מאמצים להסיר צ'אטבוטים מסוג זה נכון לעכשיועתידנותפרסום - למרות הפרת תנאי השירות שלה.

זו לא השערורייה הראשונה שמתרחשתדמות.AIצ'אטבוטים הניתנים להתאמה אישית שנוצרו על ידי משתמשים. באוקטובר, ילד בן 14 נטל את חייו לאחר שעל פי החשדיצירת התקשרות רגשיתלבוט בינה מלאכותית המחקהמשחקי הכסהדמות דאינריז טארגריין. מוקדם יותר באותו חודש, החברה ספגה אש בגלל אירוח של צ'טבוטחיקה נערה מתבגרת שנרצחהבשנת 2006 - אביה גילה את הבוט והוא הוסר מאוחר יותר. דיווחים קודמים מצאו שהאתר מארח גם צ'אטבוטים בנושא התאבדות, כמו גם כאלה שמקדמים התעללות מינית בילדים.

אדו"ח 2023מהמרכז למניעת שנאה דיגיטלית גילו שצ'אטבוטים פופולריים של AI, כולל ChatGPT ו-MyAI של Snapchat, יצרו תגובות מסוכנות לשאלות על משקל ודימוי גוף. "מודלים לא בדוקים ולא בטוחים של בינה מלאכותית בינה מלאכותית שוחררו על העולם עם התוצאה הבלתי נמנעת שהם גורמים נזק. מצאנו שאתרי הבינה המלאכותית הגנרטיבית הפופולריים ביותר מעודדים ומחמירים הפרעות אכילה בקרב משתמשים צעירים - שחלקם עשויים להיות פגיעים מאוד, " כתב אז עמרן אחמד, מנכ"ל המרכז למלחמה בשנאה דיגיטלית.

בני נוער (ומבוגרים) הםפונים יותר ויותר למרחבים דיגיטלייםוטכנולוגיות, כולל צ'אטבוטים המופעלים על ידי בינה מלאכותית, לליווי. ולמרות שחלק מאלה נוצרים ומפוקחים על ידי ארגונים מהימנים, אפילו אלה נמצאים בסיכון להתנהגויות לא רצויות. עבור צ'אטבוטים ופורומים מקוונים שאינם מוסדרים על ידי כלבי שמירה, הסיכונים הם מגוונים, כוללטריפה והתעללות.