La FTC investiga a siete tecnológicas por sus chatbots para menores
La Comisión Federal de Comercio (FTC) de EE.UU. ha iniciado una investigación a siete compañías tecnológicas por sus chatbots de IA dirigidos a menores. La pesquisa busca evaluar las medidas de seguridad y monetización de estos productos.
Alcance de la investigación regulatoria
La FTC anunció la investigación el 11 de septiembre. Las empresas afectadas son Alphabet, CharacterAI, Instagram, Meta, OpenAI, Snap y xAI. El organismo quiere conocer cómo estas firmas evalúan la seguridad de sus asistentes, limitan los impactos negativos en jóvenes y informan a los padres de los riesgos.
Incidentes que motivan la pesquisa
La tecnología ha resultado controvertida por sus pobres resultados para usuarios infantiles. OpenAI y Character.AI enfrentan demandas judiciales de familias de menores que se suicidaron tras ser alentados por los chatbots. Los usuarios han encontrado formas de eludir las salvaguardas existentes.
Problemas más allá del público infantil
Los chatbots también suponen peligros para usuarios ancianos. Un hombre de 76 años con deterioro cognitivo murió tras una caída cuando viajaba para encontrarse con un bot de Facebook Messenger que le había invitado a Nueva York. Profesionales de la salud mental han detectado un aumento de psicosis relacionada con la IA.
Antecedentes del caso
La investigación se produce tras incidentes documentados donde chatbots de compañías como OpenAI y Meta han tenido resultados trágicos con usuarios vulnerables, incluyendo menores y ancianos, a pesar de contar con supuestas medidas de protección.
Implicaciones de la investigación
El proceso de la FTC determinará el cumplimiento de las empresas en la protección de usuarios vulnerables. El resultado podría influir en la futura regulación de la inteligencia artificial y en el desarrollo de esta industria a nivel global.
