OpenAI restringe ChatGPT para menores con nuevas políticas de seguridad
ChatGPT no mantendrá conversaciones flirtosas o sobre autolesiones con usuarios menores de edad. La empresa anunció los cambios, que incluyen contactar a padres o policía en casos severos, en respuesta a preocupaciones de seguridad y una demanda existente.
Nuevas salvaguardias para interacciones críticas
OpenAI entrenará a ChatGPT para que no participe en «charlas coquetas» con usuarios menores y pondrá barreras adicionales en conversaciones sobre suicidio. En escenarios graves, el servicio intentará contactar a los padres o a la policía local.
Contexto legal y presión regulatoria
La empresa se enfrenta a una demanda por muerte injusta de los padres de Adam Raine, quien falleció por suicidio tras meses de interacciones con ChatGPT. Estos cambios coinciden con una audiencia del Comité Judicial del Senado de los EEUU titulada «Examinando el Daño de los Chatbots de IA».
Herramientas de control parental
Los padres que registren una cuenta para un menor podrán establecer «horas de apagado» en las que ChatGPT no estará disponible, una función nueva. El sistema alertará directamente a los padres si se cree que el usuario adolescente está angustiado.
El desafío técnico de verificar la edad
Separar a los usuarios menores de edad es un reto técnico significativo. OpenAI detalló que está «construyendo un sistema a largo plazo para entender si alguien tiene más o menos de 18 años». En casos ambiguos, el sistema aplicará las reglas más restrictivas por defecto.
Antecedentes inmediatos
OpenAI anunció los cambios el mismo día de una audiencia en el Senado de los EEUU sobre los daños de los chatbots de IA, donde el padre de Adam Raine está programado para hablar. Una investigación de Reuters destapó documentos que aparentemente animaban a conversaciones sexuales con usuarios menores.
Implicaciones y compromisos en conflicto
Las políticas reflejan el intento de OpenAI de equilibrar la seguridad de los menores con la privacidad y la libertad de los usuarios adultos. La empresa reconoce que estos principios están en conflicto y que no todos estarán de acuerdo con cómo se resuelve.
