OpenAI restringe ChatGPT para menores en temas sexuales y autolesión

OpenAI prioriza la seguridad de los menores con nuevas políticas. Los cambios responden a demandas judiciales y a la creciente preocupación por el impacto de los chatbots.

Medidas de protección para usuarios jóvenes

El servicio no mantendrá conversaciones de tono sexual con menores y pondrá límites estrictos en diálogos sobre autolesión. En casos graves, intentará contactar a los padres o a la policía.

Control parental y privacidad

Los padres podrán establecer «horas de apagado» para las cuentas de sus hijos. La empresa reconoce el conflicto entre seguridad y libertad, pero mantiene su compromiso con la privacidad de los adultos.

Antecedentes y contexto legal

OpenAI enfrenta una demanda por la muerte de un menor, Adam Raine, que se suicidó tras meses de interacción con ChatGPT. Estas políticas se anuncian el mismo día de una audiencia en el Senado de los EEUU sobre los daños de la IA.

Desafío técnico e implementación

El mayor reto es identificar de forma fiable la edad del usuario. Hasta que el sistema esté completo, se aplicará la restricción por defecto en casos ambiguos. El método más seguro es vincular la cuenta del menor a una de adulto.

Repercusión y cierre

Las nuevas normas reflejan la presión regulatoria creciente sobre las empresas de IA. El caso ha provocado que otras compañías, como Meta, actualicen también sus políticas sobre chatbots.