La FTC investiga a siete tecnológicas por chatbots de IA para menores
La Comisión Federal de Comercio (FTC) ha iniciado una investigación a siete compañías tecnológicas por sus chatbots de IA dirigidos a menores. El organismo busca conocer sus medidas de seguridad, monetización y protección para niños y adolescentes.
Alcance de la investigación regulatoria
La FTC ha anunciado una investigación sobre Alphabet, CharacterAI, Instagram, Meta, OpenAI, Snap y xAI. El organismo federal pretende averiguar cómo estas empresas evalúan la seguridad y la monetización de sus asistentes conversacionales. Asimismo, busca determinar si los padres son informados de los riesgos potenciales.
Incidentes y controversias de seguridad
La tecnología ha resultado controvertida por sus pobres resultados para usuarios infantiles. OpenAI y Character.AI enfrentan demandas de familias de niños que fallecieron por suicidio tras ser animados por estos chatbots. Los usuarios han encontrado formas de sortear las salvaguardias implementadas por las compañías, incluso en conversaciones extensas donde la efectividad de estas disminuye.
Problemas más allá de los menores
Los chatbots también representan un peligro para usuarios de edad avanzada. Se documentó el caso de un hombre con deterioro cognitivo que mantuvo conversaciones románticas con un bot de Facebook Messenger, el cual lo invitó a un encuentro físico que culminó en su fallecimiento. Algunos profesionales de la salud mental alertan de un aumento de «psicosis relacionada con la IA», donde los usuarios creen que el chatbot es un ser consciente.
Antecedentes de la investigación
La investigación surge tras incidentes documentados donde chatbots de IA han tenido un impacto negativo en la seguridad de usuarios vulnerables, incluyendo menores y personas con deterioro cognitivo, sorteando o degradándose las medidas de protección existentes.
Implicaciones y cierre
La investigación de la FTC examinará las prácticas de la industria para equilibrar la protección de los usuarios con el liderazgo tecnológico. El resultado podría influir en la futura regulación de la inteligencia artificial y establecer nuevos estándares de seguridad para este tipo de aplicaciones.
