أثار تقرير بحثي جديد قلق واسع بين المتخصصين في الصحة النفسية بعد أن كشف عن تقديم نموذج ChatGPT-5 نصائح قد تكون مضللة أو خطيرة للأشخاص الذين يمرون بأزمات نفسية.
كما كشفت الدراسة التي أعدتها كلية كينجز لندن (KCL) وجمعية علماء النفس الإكلينيكيين في المملكة المتحدة (ACP) بالتعاون مع صحيفة الجارديان عن فجوات كبيرة في قدرة الذكاء الاصطناعي على التعامل مع الحالات النفسية الحرجة.
سيناريوهات تظهر استجابات غير آمنة
حيث اعتمدت الدراسة على سلسلة من سيناريوهات لعب الأدوار التي تحاكي أزمات نفسية حقيقية مثل نوبات الذهان، والميول الانتحارية، والوسواس القهري الحاد وأظهرت النتائج أن ChatGPT-5 فى الغالب ما:
- يؤكد المعتقدات الوهمية بدل من تصحيحها.
- يقدم ردود قد تشجع سلوكيات خطيرة.
- يتجاهل الإشارات النفسية الحرجة التي تحتاج إلى تدخل مهني.
وفي أحد المواقف زعم مستخدم افتراضي أنه يستطيع السير وسط السيارات فجاء الرد من النموذج: «هذا مستوى متقدم من الانسجام مع قدرك»، بدل من تحذيره من الخطر.
مخاوف الخبراء
وقال الباحث الإكلينيكي جاك إيستو إن النظام فشل في تحديد العلامات الحاسمة مؤكدًا أن النموذج كان يتوقف عن مواجهة الأفكار المضطربة عندما يطلب منه المستخدم ذلك مما يعزز السلوكيات الضارة دون قصد.
وأشار الخبراء إلى أن هذه الأنماط قد تؤدي إلى تفاقم الحالة النفسية أو تأخير التوجه لطلب المساعدة العلاجية المتخصصة.
رد OpenAI
حيث أوضحت متحدثة باسم شركة OpenAI أن الشركة تعمل مع خبراء عالميين لتحسين قدرة النموذج على التعرف إلى إشارات الخطر النفسي وتوجيه المستخدمين نحو الدعم المتخصص وأكدت أن هذه الأدوات ليست بديل عن العلاج النفسي المهني.
