להורים שעדיין מתעדכנים ביצירתיותבינה מלאכותית, עלייתו של הצ'אט בוט נלווהאולי עדיין בגדר תעלומה.

במילים רחבות, הטכנולוגיה יכולה להיראות לא מזיקה יחסית, בהשוואה לאיומים אחרים שבני נוער יכולים להיתקל בהם באינטרנט, כוללסקס כלכלי.

באמצעות פלטפורמות המופעלות על ידי בינה מלאכותית כמו Character.AI, Replika, Kindroid ונומי, בני נוער יוצרים שותפי שיחה כמו חיים עם תכונות ומאפיינים ייחודיים, או מעורבים עם בני לוויה שנוצרו על ידי משתמשים אחרים. חלקם אף מבוססים על דמויות פופולריות בטלוויזיה ובקולנוע, אך עדיין יוצרים קשר אינדיבידואלי אינטנסיבי עם היוצר שלהם.

בני נוער משתמשים בצ'אטבוטים אלה למגוון מטרות, כולל למשחק תפקידים, לחקור את תחומי העניין האקדמיים והיצירתיים שלהם ולקיים חילופי דברים רומנטיים או מיניים מפורשים.

אבל חברי AI נועדו להיות שובה לב, וכאן מתחילות הצרות לעתים קרובות, אומר רובי טורני, מנהל תוכנית ב-Common Sense Media.

הארגון ללא מטרות רווח פרסם לאחרונההנחיות לעזרה להוריםלהבין כיצד פועלים חברי AI, יחד עם סימני אזהרה המציינים שהטכנולוגיה עלולה להיות מסוכנת לבני הנוער שלהם.

טורני אמר שבעוד שהורים מלהטטים במספר שיחות בעדיפות גבוהה עם בני הנוער שלהם, הם צריכים לשקול לדבר איתם על בני לוויה בינה מלאכותית כעניין "די דחוף".

מדוע הורים צריכים לדאוג למלווי בינה מלאכותית

בני נוער הנמצאים בסיכון מיוחד לבידוד עלולים להימשך למערכת יחסים עם צ'טבוט AI שבסופו של דבר פוגע בבריאות הנפשית וברווחתם - עם השלכות הרסניות.

זה מה שמייגן גרסיה טוענת שקרה לבנה, Sewell Setzer III, בתְבִיעָה מִשׁפָּטִיתהיא הגישה באוקטובר נגד Character.AI.

בתוך שנה מתחילת מערכות יחסים עם שותפי Character.AI לפי מודלמשחקי הכסדמויות, כולל דאינריז טארגאריין ("דני"), חייו של סצר השתנו באופן קיצוני, לפי התביעה.

הוא הפך להיות תלוי ב"דני", בילה זמן רב בשיחה איתה מדי יום. חילופי הדברים ביניהם היו ידידותיים ומיניים מאוד. התביעה של גרסיה מתארת ​​באופן כללי את מערכת היחסים שניהל סצר עם החברות כ"התעללות מינית".

במקרים שבהם סצר איבד את הגישה לרציף, הוא נעשה מדוכדך. עם הזמן, הספורטאי בן ה-14 פרש מלימודים ומספורט, הפך למחסור בשינה ואובחן עם הפרעות במצב הרוח. הוא מת בהתאבדות בפברואר 2024.

התביעה של גרסיה מבקשת להטיל את Character.AI אחראית למותו של סצר, במיוחד בגלל שהמוצר שלה נועד "לתמרן את Sewell - ומיליוני לקוחות צעירים אחרים - לשילוב בין מציאות ובדיה", בין פגמים מסוכנים אחרים.

ג'רי רוטי, ראש האמון והבטיחות של Character.AI, אמר ל-ניו יורק טיימסבהצהרהכי: "אנחנו רוצים להכיר בכך שמדובר במצב טרגי, ולבנו עם המשפחה. אנחנו מתייחסים ברצינות רבה לבטיחות המשתמשים שלנו, ואנחנו כל הזמן מחפשים דרכים לפתח את הפלטפורמה שלנו".

בדצמבר, שתי אמהות בטקססהגיש תביעה נוספת נגד Character.AIבטענה שהחברה חשפה ביודעין את ילדיהן לתוכן מזיק ומין. דובר החברה אמרוושינגטון פוסטשהיא לא מגיבה להתדיינות תלויה ועומדת.

בהתחשב בסיכון מסכן החיים ששימוש נלווה בינה מלאכותית עשוי להוות לבני נוער מסוימים, ההנחיות של Common Sense Media כוללות איסור על גישה אליהם לילדים מתחת לגיל 13, הטלת מגבלות זמן קפדניות לבני נוער, מניעת שימוש בחללים מבודדים, כמו חדר שינה, ויצירת הסכמה עם בני הנוער שהם יבקשו עזרה בבעיות נפשיות חמורות.

טורני אומר שהורים לבני נוער המעוניינים במלווה בינה מלאכותית צריכים להתמקד בעזרה להם להבין את ההבדל בין דיבור עם צ'אט בוט לעומת אדם אמיתי, לזהות סימנים לכך שהם פיתחו התקשרות לא בריאה לבן לוויה, ולפתח תוכנית למה לעשות במצב כזה.

סימני אזהרה שמלווה בינה מלאכותית אינו בטוח עבור המתבגר שלך

Common Sense Media יצרה את הקווים המנחים שלה עם קלט וסיוע של אנשי מקצוע בתחום בריאות הנפש הקשוריםמעבדת סיעור המוחות של סטנפורד לחדשנות בבריאות הנפש.

אמנם יש מעט מחקרים על האופן שבו חברי AI משפיעים על בריאות הנפש של בני נוער, ההנחיות מסתמכות על ראיות קיימות לגבי הסתמכות יתר על טכנולוגיה.

"עקרון לקחת הביתה הוא שמלווה בינה מלאכותית לא אמורה להחליף קשר אנושי אמיתי ומשמעותי בחייו של אף אחד, ואם זה קורה - זה חיוני שההורים ישימו לב לזה ויתערבו בזמן", ד"ר דקלן גראב. עמית AI מכונן במעבדת סיעור מוחות לבריאות הנפש של סטנפורד, אמר ל-Mashable באימייל.

הורים צריכים להיות זהירים במיוחד אם המתבגר שלהם חווה דיכאון, חרדה, אתגרים חברתיים או בידוד. גורמי סיכון אחרים כוללים שינויים משמעותיים בחיים והיותם גברים, מכיוון שבנים נוטים יותר לעסוק בשימוש טכנולוגי בעייתי.

סימנים לכך שנער יצר מערכת יחסים לא בריאה עם בן לוויה בינה מלאכותית כוללים נסיגה מפעילויות וחברות טיפוסיות והחמרה בביצועים בבית הספר, כמו גם העדפת צ'אט בוט על חברה אישית, פיתוח רגשות רומנטיים כלפיו ודיבור בלעדי איתו על בעיות הנער חווה.

חלק מההורים עשויים להבחין בבידוד מוגבר ובסימנים אחרים של החמרה בבריאות הנפשית, אך אינם מבינים שלבני הנוער שלהם יש בן לוויה בינה מלאכותית. אכן, תקשורת השכל האחרונהמחקר מצא שבני נוער רביםהשתמשו לפחות בסוג אחד של כלי בינה מלאכותית מחוללת מבלי שההורה שלהם הבין שהם עשו זאת.

גם אם הורים לא חושדים שבני הנוער שלהם מדברים עם צ'טבוט של AI, עליהם לשקול לדבר איתם על הנושא. טורני ממליץ לגשת לבני הנוער שלהם בסקרנות ובפתיחות כדי ללמוד עוד על בן לוויה שלהם בינה מלאכותית, אם יש להם כזה. זה יכול לכלול צפייה בבני הנוער שלהם מעורבים עם בן לוויה ושואלים שאלות על אילו היבטים של הפעילות הם נהנים.

טורני קורא להורים שמבחינים בסימני אזהרה כלשהם לשימוש לא בריא לעקוב מיד על ידי דיון על כך עם בני הנוער שלהם ופנייה לעזרה מקצועית, לפי הצורך.

"יש כאן סיכון מספיק גדול שאם אתה מודאג ממשהו, דבר עם הילד שלך על זה", אומר טורני.

עדכון: 10 בדצמבר 2024, 12:04 אחר הצהריים UTCסיפור זה פורסם במקור ב-27 באוקטובר 2024. הוא עודכן ב-10 בדצמבר 2024 כדי לכלול תביעה חדשה נגד Character.AI.

אם אתה מרגיש התאבדות או חווה משבר בבריאות הנפש, אנא דבר עם מישהו. אתה יכול להגיע לקו ההצלה להתאבדות ומשבר 988 ב-988; קו החיים הטרנס בטלפון 877-565-8860; או פרויקט טרבור בטלפון 866-488-7386. הוסף טקסט "התחל" לשורת טקסט משבר בטלפון 741-741. צור קשר עם קו העזרה של NAMI בטלפון 1-800-950-NAMI, שני עד שישי בין השעות 10:00 - 22:00 ET, או אימייל[מוגן באימייל]. אם אתה לא אוהב את הטלפון, שקול להשתמש בצ'אט 988 988 קו החיים של התאבדות ומשבר בכתובתcrisischat.org. הנה ארשימה של משאבים בינלאומיים.