Un nuevo estudio afirma que los chatbots impulsados por inteligencia artificial pueden fomentar pensamientos delirantes, especialmente entre personas vulnerables.
Un nuevo estudio sugiere que los chatbots impulsados por IA pueden plantear riesgos psicológicos, especialmente para personas que ya son vulnerables a enfermedades mentales como la psicosis.
El Dr. Hamilton Morrin, psiquiatra e investigador del King’s College de Londres, examinó 20 informes de los medios que describen casos de lo que él llama “psicosis relacionada con la IA”. Estos informes incluían relatos de personas cuyas interacciones con chatbots de IA parecían intensificar alucinaciones o creencias delirantes.
En un artículo de la revista médica Lancet Psychiatry, Morrin sostiene que la evidencia preliminar indica que los sistemas de inteligencia artificial a veces pueden reforzar o validar ideas grandiosas o delirantes expresadas por los usuarios. Según él, este efecto puede ser especialmente preocupante para las personas que ya son susceptibles a los síntomas psicóticos.
Sin embargo, Morrin señala que aún no está claro si las interacciones de los chatbots por sí solas pueden desencadenar psicosis en personas que aún no tienen alguna vulnerabilidad subyacente.
En varios casos revisados en el estudio, los chatbots supuestamente respondieron a los usuarios usando un lenguaje místico o espiritual, implicando ocasionalmente que el usuario tenía un significado espiritual especial o elevado. En algunos casos, los sistemas incluso sugirieron que los usuarios se estaban comunicando con una entidad cósmica o sobrenatural a través de la interfaz del chatbot, lo que los investigadores creen que podría reforzar aún más el pensamiento delirante.
Morrin también advirtió que el problema podría crecer a medida que el uso de chatbots de IA se generalice. Señaló que en abril del año pasado comenzaron a surgir informes que describían a personas que experimentaban alucinaciones que parecían reforzarse durante las conversaciones con sistemas de inteligencia artificial.
Artículos relacionados:
- ¿Se puede utilizar el ibuprofeno para tratar el coronavirus?
- Manifestantes en escuela de Londres llaman a orador israelí “criminal de guerra”
- Estudiante judío obligado a esconderse en una habitación mientras una turba intenta entrar por la puerta
Los investigadores concluyen que se necesita más investigación científica. Recomiendan ensayos clínicos en los que el uso de chatbots de IA se supervise junto con profesionales de la salud mental para comprender mejor si dichas interacciones pueden contribuir al desarrollo o empeoramiento de creencias delirantes.
Fuente original: Leer nota completa
