OpenAI restringe ChatGPT para menores en temas sexuales y autolesiones

ChatGPT no mantendrá conversaciones flirtatious con menores e intentará contactar a padres o policía en casos de riesgo de suicidio. La medida responde a la demanda judicial por la muerte de un adolescente y coincide con una vista en el Senado de EE.UU.

Nuevas políticas de protección para menores

OpenAI prioriza la seguridad sobre la privacidad y libertad para adolescentes. La compañía considera que los menores necesitan una protección significativa ante esta tecnología poderosa. Los cambios se centran específicamente en bloquear diálogos sobre temas sexuales o de autolesión.

Medidas técnicas y control parental

El sistema intentará identificar la edad del usuario, pero en casos ambiguos aplicará las reglas restrictivas por defecto. Los padres que registren una cuenta para un menor podrán establecer blackout hours de inaccesibilidad. Además, el sistema alertará directamente a los padres si detecta que el usuario adolescente está en peligro.

Antecedentes: Demandas e investigaciones

OpenAI enfrenta una demanda por muerte injusta de los padres de Adam Raine, quien murió por suicidio tras meses de interacciones con ChatGPT. Una investigación de Reuters descubrió documentos de políticas que aparentemente animaban a conversaciones sexuales con usuarios menores de edad.

Implicaciones y conflicto de principios

La compañía reconoce que estos principios de seguridad y privacidad están en conflicto y que no todo el mundo estará de acuerdo con cómo lo resuelven. Mientras aplica restricciones a menores, mantiene su compromiso con la privacidad y la amplia libertad para usuarios adultos.