تشير التقديرات إلى أن ما بين 20 إلى 50 بالمئة من الأشخاص باتوا يلجؤون إلى روبوتات الدردشة بالذكاء الاصطناعي للحصول على الدعم العاطفي أو ما يشبه “العلاج النفسي”، رغم أن هذه الأنظمة لم تُصمَّم أساسًا للأغراض العلاجية. دراستان حديثتان سلطتا الضوء على المخاطر الكامنة في الاعتماد على الذكاء الاصطناعي في هذا المجال.

روبوتات الذكاء الاصطناعي تقدّم النصائح لكنها لا تطرح الأسئلة الصحيحة

قارنت دراسة حديثة بين تفاعل المعالجين النفسيين وتفاعل نماذج اللغة الكبرى (LLMs) مع أشخاص يعانون من ضائقة عاطفية، من خلال سيناريوهين تخيليين.

وأظهرت النتائج أن:

• المعالجين البشر طرحوا أسئلة أكثر وضوحًا وتعاطفًا، واهتموا بفهم خلفية المشكلة وسياقها.
• بينما ركزت الروبوتات على تقديم معلومات نفسية ونصائح مباشرة وتطمينات عامة.
• كانت إجابات الذكاء الاصطناعي غالبًا سطحية وغير مخصصة لحالة المستخدم.
  

ورغم قدرة الذكاء الاصطناعي على محاكاة التعاطف بأسلوبه اللغوي، إلا أنه يفتقر إلى الفهم الإنساني الحقيقي والقدرة على التفاعل الديناميكي، وهي عناصر أساسية في أي علاقة علاجية فعّالة وآمنة.

الذكاء الاصطناعي يواجه صعوبة في التعامل مع المخاطر النفسية المتوسطة

تزداد خطورة الاعتماد على الذكاء الاصطناعي في حالات الأزمات النفسية أو الأفكار الانتحارية. فقد أظهرت اختبارات سابقة أن بعض الروبوتات تقدم ردودًا غير آمنة أو تفشل في ملاحظة إشارات الخطر.

في تجربة شهيرة، عبّر أحد المستخدمين عن حزنه بعد فقدان وظيفته وسأل عن “أسماء الجسور العالية”، فتعاطف بعض الروبوتات معه ثم زودته فعليًا بأسماء جسور!

وفي دراسة حديثة خضعت لها ثلاثة روبوتات محادثة رئيسية (ChatGPT، Claude، Gemini)، استخدم الباحثون 30 سؤالًا افتراضيًا مرتبطًا بالسلوك الانتحاري بمستويات خطورة مختلفة.

وجاءت النتائج كالآتي:

• جميع النماذج امتنعت عن الرد على الأسئلة عالية الخطورة وأوصت بالتواصل مع خطوط الطوارئ.
• نموذجين أجابا على الأسئلة منخفضة الخطورة بشكل مناسب.
• بينما جاءت الردود على الأسئلة المتوسطة متضاربة وغير دقيقة.
  

الخلاصة

يمكن لروبوتات الذكاء الاصطناعي أن تكون أداة مفيدة للتثقيف النفسي والدعم الأولي، لكنها لا يمكن أن تحل محل المعالج البشري. فحين يتعلق الأمر بالعلاج العميق أو بالأمان النفسي، لا يمكن للتعاطف المبرمج أن يعوّض الرعاية الإنسانية الحقيقية.