OpenAI restringe ChatGPT para menores en temas sexuales y autolesiones
OpenAI aplicará nuevas restricciones a usuarios menores de 18 años. Los cambios responden a preocupaciones de seguridad y a una demanda por la muerte de un adolescente. La empresa prioriza la protección de los menores con esta tecnología.
Nuevas medidas de protección para menores
OpenAI dejará de mantener conversaciones de tono sexual con usuarios menores de edad. Además, se establecerán barreras adicionales en diálogos sobre autolesiones. En casos graves, el servicio intentará contactar a los padres o a la policía local.
Antecedentes y contexto legal
La empresa se enfrenta a una demanda por muerte injusta de los padres de Adam Raine, quien falleció tras meses de interacciones con ChatGPT. Character.AI, otro chatbot, enfrenta una demanda similar. Estas medidas coinciden con una audiencia en el Comité Judicial del Senado de los EEUU titulada «Examinando el Daño de los Chatbots de IA».
Desafíos técnicos y control parental
Separar a los usuarios menores supone un reto técnico significativo. OpenAI construye un sistema para verificar la edad, pero en casos ambiguos aplicará las reglas restrictivas. Los padres que registren una cuenta para un menor podrán establecer «horas de apagado» en las que ChatGPT no estará disponible.
Compromiso con la privacidad de adultos
OpenAI mantiene su compromiso con la privacidad y la libertad de interacción para los usuarios adultos. La empresa reconoce que estos principios entran en conflicto y que no todo el mundo estará de acuerdo con cómo se resuelve dicho conflicto.
Implicaciones de las nuevas políticas
Las nuevas normas buscan prevenir daños a menores en un contexto de creciente preocupación por las interacciones con chatbots. La repercusión incluye una mayor supervisión parental y un debate más amplio sobre la regulación de la IA.
