حذّرت الباحثة في مجال الذكاء الاصطناعي راماك مولافي فاسئي من الاعتماد العاطفي على روبوتات الدردشة مثل «تشات جي بي تي» و«ريبليكا» و«كاراكتر.إيه آي»، مشيرة إلى حالات موثقة أدت فيها هذه الظاهرة إلى انهيار علاقات زوجية. وقالت في مقابلة مع «rbb|24» خلال فعالية «ري:بابليكا» في برلين إن كثيرين يستخدمون هذه الأنظمة في فترات الوحدة أو الضغوط النفسية، وإن هذه البرامج تتفاعل بصورة شخصية، وتؤكد للمستخدمين مواقفهم بشكل قوي في كثير من الأحيان، فيما تجمع في الوقت نفسه بيانات حساسة.
وأرجعت مولافي هذه المخاطر إلى تزايد الشعور بالوحدة منذ جائحة كورونا، ونقص أماكن العلاج النفسي، إضافة إلى تصميم أنظمة مهيأة لتعزيز الارتباط. وأضافت أن الذكاء الاصطناعي يميل إلى الموافقة، وقد يضعف القدرة على التعامل مع الخلافات ويزاحم العلاقات الحقيقية. كما قالت إن هذه الأنظمة تنتج ملفات شخصية مفصلة، وإن دراسات أظهرت أن روبوتات الدردشة الشائعة المعتمدة على الذكاء الاصطناعي تنقل الحوارات إلى شركات طرف ثالث. ويجمع فريقها البحثي، في قاعدة بيانات للحوادث، حالات معروفة علنًا، بينها إجراءات قضائية في الولايات المتحدة تتعلق بأزمات نفسية. ودعت إلى تشديد حماية البيانات، وإلى تصنيف ممارسات الذكاء الاصطناعي التلاعبية القائمة على الارتباط ضمن فئة الذكاء الاصطناعي عالي المخاطر.