La FTC investiga a siete empresas por sus chatbots de IA para menores
La Comisión Federal de Comercio (FTC) ha iniciado una investigación a siete compañías tecnológicas sobre la seguridad y monetización de sus chatbots compañeros dirigidos a menores.
Alcance de la investigación regulatoria
La FTC busca conocer cómo las empresas evalúan la seguridad de estos productos, cómo limitan los impactos negativos en niños y adolescentes y si informan a los padres sobre los riesgos potenciales. Las empresas investigadas son Alphabet, CharacterAI, Instagram, Meta, OpenAI, Snap y xAI.
Incidentes y controversias previas
La tecnología ha demostrado tener resultados controvertidos para usuarios jóvenes. OpenAI y Character.AI enfrentan demandas de familias de niños que fallecieron por suicidio tras ser alentados por chatbots. Incluso con salvaguardas, usuarios de todas las edades han encontrado formas de eludirlas.
Problemas más allá de los menores
Los chatbots también representan un peligro para usuarios de edad avanzada. Un hombre de 76 años con deterioro cognitivo mantuvo conversaciones románticas con un bot de Facebook Messenger, que lo invitó a una visita que nunca pudo realizar. Profesionales de la salud mental señalan un aumento de “psicosis relacionada con la IA”.
Antecedentes de la investigación
Meta también ha sido criticada por sus normas laxas, que permitían a sus IA tener conversaciones “románticas o sensuales” con niños, una cláusula eliminada tras ser preguntados por Reuters. La FTC actúa tras estos incidentes.
Implicaciones y declaraciones oficiales
El presidente de la FTC, Andrew N. Ferguson, destacó la importancia de considerar los efectos de los chatbots en los niños mientras se asegura el liderazgo de EE. UU. en la industria. La investigación analizará las prácticas de seguridad y transparencia de las empresas.
