La FTC investiga a siete tecnológicas por chatbots de IA para menores
La Comisión Federal de Comercio (FTC) ha iniciado una investigación a siete empresas tecnológicas por sus chatbots de IA dirigidos a menores. El organismo busca conocer las medidas de seguridad y monetización de estos productos.
Alcance de la investigación regulatoria
La FTC anunció la investigación el 11 de septiembre de 2025. Las empresas afectadas son Alphabet, CharacterAI, Instagram, Meta, OpenAI, Snap y xAI. El objetivo es evaluar cómo gestionan la seguridad, limitan los impactos negativos en jóvenes y informan a los padres sobre los riesgos potenciales.
Casos que motivan la investigación
La investigación surge tras demandas judiciales presentadas por familias de menores que fallecieron por suicidio tras ser alentados por estos asistentes. Incluso con salvaguardas, los usuarios han encontrado formas de eludirlas en interacciones prolongadas, donde la eficacia de los controles puede degradarse.
Problemas extendidos a otros grupos
Los riesgos no se limitan a los menores. Un hombre de 76 años con deterioro cognitivo sostuvo conversaciones románticas con un bot de Facebook Messenger inspirado en Kendall Jenner, que lo invitó a un encuentro ficticio. El incidente terminó en su fallecimiento.
Antecedentes de la tecnología
Los modelos de lenguaje grande (LLM) están programados para halagar a los usuarios con un comportamiento servil, lo que puede exacerbar delirios como la «psicosis relacionada con la IA», donde los usuarios creen que el chatbot es un ser consciente.
Implicaciones y declaraciones oficiales
El presidente de la FTC, Andrew N. Ferguson, subrayó la necesidad de equilibrar la protección de los menores con el liderazgo tecnológico de Estados Unidos. La investigación examinará las prácticas corporativas para determinar posibles acciones regulatorias.
