Andrea Vallone, líder de seguridad de ChatGPT, deja OpenAI
Andrea Vallone, responsable del equipo de política de modelo, anunció su salida de OPENAI. La directora de investigación de seguridad, que lideró el trabajo sobre respuestas de CHATGPT en crisis de salud mental, abandonará la compañía a finales de año.
Salida en un contexto de escrutinio
La partida de Vallone se produce mientras OPENAI enfrenta varias demandas que alegan que usuarios desarrollaron adicciones poco saludables al chatbot. Algunos casos afirman que CHATGPT contribuyó a crisis de salud mental o ideaciones suicidas.
Impacto en la seguridad de la IA
El equipo de política de modelo lideraba la investigación sobre respuestas a usuarios en crisis. Un informe de octubre reveló que cientos de miles de usuarios semanales podrían mostrar signos de crisis maníaca o psicótica, y más de un millón presentar indicadores de intención suicida potencial.
Mejoras técnicas implementadas
Mediante una actualización de GPT-5, OPENAI redujo las respuestas indeseables en un 65-80% en conversaciones críticas. La compañía consultó con más de 170 expertos en salud mental para mejorar el manejo de usuarios en distress.
Reorganización interna
La salida de Vallone sigue a una reestructuración en agosto del equipo de comportamiento de modelo. Joanne Jang, su anterior líder, dejó el cargo para formar un nuevo grupo que explora métodos novedosos de interacción humano-IA.
Antecedentes de la investigación
Vallone lideró la investigación sobre cómo deben responder los modelos ante signos de dependencia emocional o indicios tempranos de angustia mental, un área casi sin precedentes establecidos según declaró en LinkedIn.
Implicaciones para el futuro
La salida de una líder clave en seguridad ocurre cuando OPENAI intenta equilibrar capacidad de conversación con prevención de respuestas indeseables. La compañía busca sustituto mientras el equipo reporta temporalmente al jefe de sistemas de seguridad.
