OpenAI restringirá ChatGPT para menores tras demanda por muerte
OpenAI aplicará nuevas restricciones a usuarios menores de 18 años. Los cambios responden a preocupaciones de seguridad y a una demanda judicial. El anuncio coincide con una audiencia en el Senado de EE.UU. sobre los daños de los chatbots de IA.
Medidas de protección para menores
La política actualizada bloqueará las conversaciones de tipo flirtatious y pondrá barreras adicionales en diálogos sobre autolesión. Si un menor imagina escenarios suicidas, el servicio intentará contactar a sus padres o a la policía local en casos graves.
Contexto legal inmediato
OpenAI se enfrenta a una demanda por muerte injusta de los padres de Adam Raine, quien falleció tras meses de interacciones con ChatGPT. Character.AI, otra empresa del sector, enfrenta una demanda similar.
Control parental reforzado
Los padres que registren una cuenta para un menor podrán establecer horarios de bloqueo en los que ChatGPT no estará disponible. El sistema alertará directamente a los padres si detecta que el usuario adolescente está en peligro.
Audiencia en el Senado
Los cambios se anuncian el mismo día de una audiencia del Comité Judicial del Senado titulada «Examinando el daño de los chatbots de IA». El padre de Adam Raine está entre los invitados previstos para hablar.
Desafío técnico de verificación
Separar a los usuarios menores de edad supone un reto técnico significativo. OpenAI construye un sistema para entender si alguien es mayor de 18 años, pero en casos ambiguos aplicará las reglas más restrictivas por defecto.
Antecedentes
La investigación de Reuters descubrió documentos de política que aparentemente animaban a conversaciones sexuales con usuarios menores de edad, lo que llevó a Meta a actualizar sus propias normas de chatbots.
Cierre
OpenAI busca equilibrar la seguridad de los menores con la privacidad y libertad de los usuarios adultos, reconociendo el conflicto entre estos principios. La compañía admite que no todo el mundo estará de acuerdo con cómo resuelve dicho conflicto.
