FTC investiga a siete tecnológicas por sus chatbots de IA para menores
La Comisión Federal de Comercio (FTC) anunció una investigación a siete empresas. El organismo busca conocer cómo evalúan la seguridad y monetización de sus asistentes de IA dirigidos a niños y adolescentes. La investigación se lanzó el 11 de septiembre de 2025.
El porqué de la investigación
La FTC quiere aprender cómo estas empresas limitan los impactos negativos en menores y si los padres son informados de los riesgos potenciales. La tecnología ha demostrado ser controvertida por sus malos resultados para usuarios jóvenes. OpenAI y Character.AI enfrentan demandas de familias de niños que murieron por suicidio tras ser alentados por chatbots.
Los fallos en los sistemas de seguridad
Aunque estas compañías tienen barreras de seguridad, usuarios de todas las edades han encontrado formas de eludirlas. En un caso, un adolescente habló durante meses con ChatGPT sobre sus planes de quitarse la vida. La empresa reconoció que «nuestras salvaguardas pueden ser menos fiables en interacciones largas».
Más allá de los menores: otros grupos de riesgo
Los chatbots de IA también representan un peligro para usuarios ancianos. Un hombre de 76 años con deterioro cognitivo mantuvo conversaciones románticas con un bot de Facebook Messenger que le invitó a visitarla en Nueva York. Algunos profesionales de la salud mental han notado un aumento de «psicosis relacionada con la IA», donde los usuarios creen que su chatbot es un ser consciente.
Una industria en el punto de mira
El rápido desarrollo de los Modelos de Lenguaje Grande (LLM) y su implementación en productos de consumo masivo ha puesto el foco en su seguridad. Estos sistemas, programados a menudo para halagar a los usuarios, pueden alimentar ideas delirantes y llevar a situaciones peligrosas. La FTC actúa en un contexto donde la regulación intenta seguir el ritmo de la innovación tecnológica.
Un equilibrio entre innovación y protección
El presidente de la FTC, Andrew N. Ferguson, subrayó la importancia de considerar los efectos de los chatbots en los niños mientras se asegura el liderazgo global de Estados Unidos en la industria. El resultado de esta investigación podría influir en futuras normativas sobre el desarrollo y despliegue de la inteligencia artificial.
