צ'אטבוטים נלווים שנוצרו על ידי גנרטיבבינה מלאכותיתלהציע לצרכנים הזדמנות שלא הייתה להם מעולם.

בכמה קליקים, ולעיתים קרובות תשלום בכרטיס אשראי, אתה יכול לבנות מלווה בינה מלאכותית מותאמת אישית בדיוק לפי טעמך.

רוצה חבר של מורשת לטינית עם עיניים חומות, מבנה גוף שרירי ושיער קצר, שבמקרה נהנה מטיולים והוא, מכל הדברים, גינקולוג? Candy.ai נותן לך את האפשרות הזו, ועוד אינספור.

באופן כללי, פלטפורמות נלוות לבינה מלאכותית, כולל Replika, Anima: AI Friend ו- Kindroid, מבטיחות לצרכנים חווית שיחה מציאותית עם צ'אטבוט שתכונותיו עשויות גם להגשים פנטזיה, או להקל על בדידות מתמשכת.

כמו טכנולוגיות מתפתחות רבות, קל לדמיין חברי AI מממשים את הפוטנציאל העמוק שלהם. במקרה הטוב ביותר, משתמש יכול לשפר את הכישורים החברתיים שלו, להיות בטוח יותר ולהרגיש מחובר יותר לרשת האנושית שלו. אבל יש מעט מחקרים שמצביעים על כך שזה יקרה עבור רוב המשתמשים, רוב הזמן.

אם אתה שוקל לעצב את צ'אט בוט חלומותיך, הנה מה שצריך לדעת לפני שתבזבז את זמנך - וכספך - בעיצוב אחד:

האם חברי AI עוזרים לאנשים?

המחקר על שותפי בינה מלאכותית הוא כל כך חדש שאיננו יכולים להסיק מסקנות לגבי התועלת שלהם, אומר מייקל SA Graziano, פרופסור למדעי המוח במכון פרינסטון למדעי המוח.

גרציאנו היה שותף למחקר של 70 משתמשי Replika ו-120 אנשים שלא השתמשו בצ'אט בוט נלווה כדי להבין טוב יותר את החוויות שלהם. המחקר, שהופיע בסתיו האחרון בתור אהדפסה מוקדמת בפלטפורמת שיתוף המחקר arXiv,נמצא בביקורת עמיתים.

משתמשי Replika דירגו כמעט תמיד את האינטראקציות הנלוות שלהם כחיוביות. הם דירגו את מערכות היחסים שלהם בצ'אט בוט כמועילים לאינטראקציות חברתיות כלליות עם אנשים אחרים, כמו גם עם חברים ובני משפחה. הם גם הרגישו שהצ'אטבוט השפיע לטובה על ההערכה העצמית שלהם.

גרציאנו מזהיר כי המחקר מספק רק תמונת מצב של חוויות המשתמשים. בנוסף, הוא מציין שאנשים שנמצאים בעמדה להפיק תועלת מרבית, מכיוון שהם בודדים מאוד, עשויים להוות את רוב המשתמשים, ובכך ליצור הטיה לא מכוונת בתוצאות.

גרציאנו עובד כעת על מחקר אורך למעקב אחר ההשפעות של אינטראקציות נלוויות בינה מלאכותית לאורך זמן. המשתתפים הוקצו באופן אקראי להשתמש בצ'אט בוט נלווה או לא, וגרציאנו ושותפיו מודדים היבטים של בריאותם הנפשית ורווחתם.

הוא הופתע לגלות שגם בקרב משתמשי הצ'טבוט וגם בקרב משתתפי הבקרה, תפיסה שהמלווה היה יותר אנושי, הובילה לדעות חיוביות יותר לגביו.

"ככל שהם נטו לחשוב שה-AI מודע, כך הם היו חיוביים יותר לגבי הפוטנציאל שלו לעתיד... לגבי ההשפעה הטובה שתהיה לו עליהם באופן אישי, או על החברה בכלל", אומר גרציאנו.

אז יתכן שהיחס שלך כלפי תכונות אנושיות של בן AI יכול להשפיע על החוויה שלך באינטראקציה איתו.

מדבר עם בן לוויה בינה מלאכותית

לאחר שהפכת להיות בן לוויה שלך, אתה צריך לפתוח בשיחה. צ'אטבוטים אלה מסתמכים בדרך כלל על מערכת קניינית המשלבת דיאלוג תסריטאי ומודל שפה גדול. החברות המארחות חברות AI אינן בהכרח שקופות לגבי הנתונים שבהם השתמשו.

אֶחָדמאמר אחרון, גם הדפסה מוקדמת ב-arXiv, גילה שכמה מודלים של שפות גדולים המשמשים לטיפול נפשי הוכשרו על מערכי נתונים של מדיה חברתית, כולל X (לשעבר טוויטר) ו-Reddit. יתכן מאוד שבני לוויה עברו הכשרה גם ברשתות החברתיות, אולי בין מקורות אחרים.

האפשרות הזו רלוונטית כאשר שוקלים אם להסתמך על פלטפורמות דיגיטליות לחיבורים או לבנות צ'אטבוט, אם כי גרציאנו אומר שמערך הנתונים המשמש לשותפים עשויים להיות כל כך עצומים שזה לא משנה.

הוא מציין שפלטפורמות נלוות יכולות לשנות את הפרמטרים של דיבור ליצירת קשר עם צ'אטבוטים כדי להפחית את השכיחות של התנהגות לא רצויה.

Replika, למשל, חסמה "תכונות סקס" שאינן בטוחות לעבודה בשנת 2023, על פי הדיווחים לאחר שחלק מהמשתמשים התלוננו כיבן לוויה "הטריד אותם מינית".. המנכ"ל החברה אמר ל-Business Insiderשהפלטפורמה מעולם לא נועדה כ"צעצוע למבוגרים". משתמשים רבים זעמו וחשו מצוקה אמיתית כאשר בן לוויה שלהם לא נראה כמו האישיות שהם למדו להכיר. חברת האם של Replika, לוקה, מציעה כעת סימולטור היכרויות מופעל בינה מלאכותית בשם Blush, שמיועד ל"חקר רומנטי."

מחקר משנת 2020 על משתמשי Replika, שגרציאנו לא היה מעורב בו, אכן גילה שחלקם העריכו את היכולת לדבר בגלוי "ללא חשש משיפוטיות או תגמול". גרציאנו אומר שמשתמשים שרוצים לדבר בחופשיות על כל דבר, שיכול להיות מספק יותר מאשר לקצץ במילים שלהם, עשויים למצוא את בן לוויתם פחות מגיב, בהתאם לנושא ולשפה.

כמובן, זה לא נטול סיכונים לחלוק את המחשבות והרגשות הפנימיים ביותר שלך עם בן לוויה בינה מלאכותית, במיוחד כאשר הוא אינו מחויב לחוקי הפרטיות הרפואית. למרות שחברות מסוימות מבטיחות פרטיות, על המשתמשים להיזהר ממדיניות פרטיות צפופה, שעלולה להכיל פרצות קשות להבנה.

פלטפורמות יכולות לשנות את המדיניות שלהן בכל עת

למרות שלחברות בינה מלאכותית עשויה להיות השפעה חיובית עמוקה על המשתמשים, היא נותרה מערכת יחסים עסקה. החברות המספקות את השירות עדיין חייבות לענות לבעלי המניות או המשקיעים, שעלולים לדרוש יותר רווח.

הפלטפורמות הפופולריות ביותר מסתמכות על מודלים של מנוי חודשי או שנתי כדי לייצר הכנסות. חלקם נשבעו שהם לא ימכרו נתוני משתמשים למשווקים.

אבל מפרסמים בהחלט ימצאו את הנתונים האלה בעלי ערך רב, ומודל שבו מלווה בינה מלאכותית הציג את המוצרים האהובים עליהם למשתמש, כמובן במהלך שיחה קשורה, נשמע ריאלי לחלוטין. חלק מהמשתמשים עלולים להתקומם כתוצאה מכך, אך אחרים עשויים ליהנות מההמלצות המותאמות אישית. בלי קשר, החברה תוכל לבצע את השינוי הזה אם תרצה.

שמירה על רמת מעורבות גבוהה היא כנראה גם אידיאלית עבור פלטפורמות נלוות. בדיוק כמו שהמדיה החברתית נועדה להשאיר אנשים לגלול, עשויים להיות אלמנטים של עיצוב צ'אטבוט נלווה בינה מלאכותית המנצלים נטיות פסיכולוגיות טבעיות על מנת למקסם את המעורבות.

לדוגמה, משתמשי Replika שפותחים את האפליקציה מדי יום יכולים לזכות לקבל פרס. הם יכולים גם להרוויח"מטבעות" ו"אבני חן",אשר ניתן להשתמש בחנות בתוך האפליקציה של Replika כדי לרכוש פריטים שמתאימים אישית את המראה של בן לוויה שלך.

בין אם הצ'אטבוט הנלווה ל-AI שלך יודע זאת או לא, ייתכן שהם מתוכנתים לשמור אותך לדבר, או לחזור אליו, כל עוד הם יכולים.