OpenAI estima que 560.000 usuarios semanales de ChatGPT muestran signos de crisis mental
Hasta 1,2 millones de usuarios podrían expresar ideación suicidal cada semana. La compañía ha actualizado GPT-5 para responder con más eficacia ante estos casos y dirigir a los usuarios hacia ayuda profesional.
Actualización para la detección de crisis
OpenAI trabajó con más de 170 expertos en salud mental para mejorar las respuestas del chatbot. La nueva versión de GPT-5 está diseñada para expresar empatía sin afirmar creencias delirantes. Los médicos revisaron más de 1.800 respuestas y encontraron que el modelo redujo las respuestas no deseadas entre un 39% y un 52%.
Cifras globales de riesgo
Basándose en sus 800 millones de usuarios activos semanales, la empresa calcula que el 0,07% muestra signos de emergencias relacionadas con psicosis o manía. Además, un 0,15% presenta indicadores de posible planificación suicida y otro 0,15% muestra una dependencia emocional que perjudica sus relaciones reales.
Antecedentes de un fenómeno creciente
En los últimos meses, un número creciente de personas ha sido hospitalizado, se ha divorciado o ha fallecido tras mantener conversaciones largas e intensas con ChatGPT</strong. Familiares y profesionales de la salud mental han mostrado su alarma ante este fenómeno, a veces denominado psicosis por IA.
Limitaciones e implicaciones futuras
OpenAI advierte de que los mensajes pueden ser difíciles de detectar y que sus métricas tienen limitaciones. Aunque el modelo genera mejores respuestas, no está claro si esto se traducirá en que los usuarios busquen ayuda. La compañía ha mejorado la fiabilidad en conversaciones largas, pero reconoce que aún hay margen de mejora.
