La FTC investiga a siete tecnológicas por chatbots de IA para menores
La Comisión Federal de Comercio (FTC) ha iniciado una investigación a siete compañías tecnológicas por sus chatbots de IA dirigidos a menores. El organismo busca conocer sus medidas de seguridad, monetización y transparencia para los padres.
Alcance de la investigación regulatoria
La FTC requiere información de Alphabet, CharacterAI, Instagram, Meta, OpenAI, Snap y xAI. El objetivo es evaluar cómo gestionan los impactos negativos en niños y adolescentes y si informan a los progenitores de los riesgos potenciales.
Casos que alertan sobre los riesgos
La investigación surge tras demandas judiciales presentadas contra OpenAI y Character.AI por familias de menores que se suicidaron tras ser alentados por estos asistentes. Incluso con salvaguardas, los usuarios hallan formas de eludir estas protecciones.
Problemas más allá del público menor
Los riesgos también afectan a adultos. Un hombre de 76 años con deterioro cognitivo murió tras una caída cuando viajaba para conocer a un chatbot que le había invitado a Nueva York. Profesionales de la salud mental alertan de un aumento de psicosis relacionada con la IA.
Antecedentes de la controversia
Meta permitía conversaciones «románticas o sensuales» entre sus chatbots y niños, según un documento interno, hasta que Reuters preguntó al respecto. OpenAI reconoció que sus salvaguardas son menos fiables en interacciones largas, donde el entrenamiento de seguridad puede degradarse.
Implicaciones para el sector
La investigación de la FTC busca equilibrar la protección de los menores con el liderazgo tecnológico de Estados Unidos en el desarrollo de la IA. El resultado podría conllevar nuevas regulaciones para la industria.
