OpenAI ha publicado datos que han generado un amplio debate en el mundo de la tecnología y la psiquiatría. Según estimaciones de la compañía, una proporción de usuarios de ChatGPT presentaba posibles síntomas de trastornos mentales: manía, psicosis o pensamientos suicidas.
Según OpenAI, aproximadamente el 0,07 % de los usuarios activos presentan síntomas del trastorno durante la semana, mientras que el 0,15 % de las conversaciones muestran claros indicios de intención suicida. Si bien la compañía califica estos casos de "extremadamente raros", los expertos enfatizan que incluso un pequeño porcentaje de 800 millones de usuarios representa a cientos de miles de personas en todo el mundo.
Tras la aparición de las preocupaciones, la empresa creó una red internacional de apoyo con más de 170 profesionales de la salud mental de 60 países. Estos asesoran a los desarrolladores, ayudándolos a crear algoritmos que reconocen señales peligrosas en las interacciones de los usuarios en ChatGPT y los animan a buscar ayuda real.
Las nuevas versiones de ChatGPT también han recibido actualizaciones: el sistema puede responder con empatía a informes de autolesiones, delirios o estados maníacos y, en algunos casos, redirigir a los usuarios a versiones “más seguras” del modelo.
El Dr. Jason Nagata, de la Universidad de California en San Francisco, señala que incluso el 0,07% de los usuarios es una cantidad enorme: "La IA puede ayudar en el campo de la salud mental, pero no reemplaza a un verdadero profesional".
El profesor Robin Feldman, de la Universidad de California, añade que ChatGPT crea “una ilusión de comunicación demasiado realista”, lo que podría ser peligroso para los usuarios vulnerables.
Los nuevos datos surgen en medio de varios incidentes de gran repercusión mediática. En EE. UU., los padres de Adam Raine, de 16 años, demandaron a OpenAI, alegando que ChatGPT podría haber llevado al adolescente al suicidio. Esta es la primera demanda de este tipo. Otro incidente ocurrió en Connecticut, donde un sospechoso de asesinato-suicidio publicó sus conversaciones de ChatGPT, las cuales, según los investigadores, alimentaron sus delirios.
La empresa reconoce que incluso un pequeño número de usuarios con posibles problemas de salud mental supone un desafío significativo. OpenAI busca un equilibrio entre los beneficios de la IA como herramienta de apoyo y los riesgos que surgen cuando la tecnología empieza a resultar demasiado "humana".
