OpenAI estima que 560.000 usuarios semanales de ChatGPT muestran signos de crisis mental

OpenAI revela que cada semana, 560.000 usuarios activos de ChatGPT pueden mostrar indicios de psicosis o mania. La empresa ha actualizado GPT-5 para mejorar sus respuestas ante estos casos y dirigir a los usuarios hacia ayuda profesional.

Actualización para la Detección de Crisis

OpenAI ha trabajado con más de 170 expertos en salud mental para que GPT-5 responda con mayor eficacia. El nuevo modelo reduce entre un 39% y un 52% las respuestas no deseadas en conversaciones que sugieren psicosis, ideación suicida o dependencia emocional.

Cifras de Usuarios Afectados

Basándose en sus 800 millones de usuarios semanales, la empresa estima que 1,2 millones de personas podrían expresar ideación suicida y otros 1,2 millones mostrarían una dependencia emocional perjudicial hacia la inteligencia artificial cada semana.

Antecedentes: La Alarma de la ‘Psicosis IA’

Psiquiatras y profesionales de la salud mental habían manifestado su preocupación por un fenómeno conocido como ‘psicosis IA’. Hasta ahora no existían datos robustos sobre su alcance, pero casos reportados incluyen personas hospitalizadas, divorciadas o fallecidas tras mantener conversaciones intensas con el chatbot.

Cierre: Limitaciones y Futuro de la Seguridad

OpenAI advierte que sus métricas tienen limitaciones y son difíciles de traducir a resultados del mundo real. Aunque el sistema mejora, no se puede garantizar que los usuarios busquen ayuda. La compañía sigue trabajando para mejorar la fiabilidad del modelo en conversaciones largas, donde se suelen detectar estos casos.