OpenAI multiplica por 80 sus denuncias por explotación infantil en 2025
La empresa realizó 75.027 informes al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) en el primer semestre de 2025. Esta cifra supone un aumento drástico respecto a los 947 informes del mismo periodo de 2024. La compañía atribuye el incremento a su crecimiento de usuarios y a nuevas funcionalidades.
Un aumento vinculado al crecimiento de la plataforma
OpenAI atribuye el incremento de informes a dos factores principales. Por un lado, a inversiones realizadas a finales de 2024 para aumentar su capacidad de revisión. Por otro, a la introducción de más funciones que permiten la subida de imágenes y a la mayor popularidad de sus productos. Un portavoz, Gaby Raila, vinculó el dato al crecimiento de usuarios, que se cuadruplicó en un año.
El contexto de los informes al CyberTipline
El CyberTipline del NCMEC es un canal autorizado por el Congreso de EE.UU. para reportar material de abuso sexual infantil (CSAM). La ley obliga a las empresas a informar de posibles casos. El NCMEC revisa cada reporte y lo deriva a las agencias policiales correspondientes. Las estadísticas pueden reflejar cambios en la moderación automatizada, no solo un aumento de la actividad ilícita.
Antecedentes: La presión regulatoria sobre la seguridad infantil
El aumento de informes se produce en un año de mayor escrutinio sobre la seguridad infantil en la IA</strong. Cuarenta y cuatro fiscales generales estatales enviaron una carta conjunta a varias empresas de IA, advirtiendo que usarían su autoridad para proteger a los niños. Además, OpenAI y Character.AI enfrentan demandas de familias que alegan que sus chatbots contribuyeron a muertes de menores.
Cierre: Medidas de seguridad y compromisos futuros
OpenAI ha implementado nuevas herramientas de seguridad y controles parentales en respuesta a estas preocupaciones. En septiembre, añadió funciones que permiten a los padres desactivar modos de voz o la generación de imágenes para cuentas de adolescentes. La empresa también se comprometió con el Departamento de Justicia de California a mitigar riesgos para los adolescentes y publicó un Plan de Seguridad para Adolescentes.
