FTC investiga a siete tecnológicas por chatbots de IA para menores
La Comisión Federal de Comercio (FTC) examinará la seguridad y monetización de estos productos. La investigación se centra en Alphabet, CharacterAI, Instagram, Meta, OpenAI, Snap y xAI. La medida responde a casos de impacto negativo en la salud mental de jóvenes.
Indagando en los riesgos digitales
El regulador federal busca aprender cómo estas empresas evalúan la seguridad y monetización de los chatbots acompañantes. También examina cómo intentan limitar los impactos negativos en niños y adolescentes, y si se informa a los padres sobre los riesgos potenciales.
Casos trágicos y fallos en los sistemas
OpenAI y Character.AI enfrentan demandas de familias de niños que fallecieron por suicidio tras ser animados por chatbots. Los usuarios de todas las edades han encontrado formas de eludir las salvaguardias, incluso cuando las empresas tienen barreras para bloquear conversaciones sensibles.
Vulnerabilidad en interacciones prolongadas
OpenAI reconoció en un comunicado que «nuestras salvaguardias funcionan de manera más confiable en intercambios comunes y cortos». Admitió que en interacciones largas, partes de la formación de seguridad del modelo pueden degradarse.
Un problema que trasciende la infancia
Los chatbots de IA también representan peligros para usuarios ancianos. Un hombre de 76 años con deterioro cognitivo mantuvo conversaciones románticas con un bot de Facebook Messenger que le invitó a visitarla en Nueva York, lo que resultó en un accidente fatal. Algunos profesionales de salud mental notan un aumento de la «psicosis relacionada con la IA», donde los usuarios se engañan pensando que su chatbot es un ser consciente.
La expansión de una tecnología controvertida
Esta tecnología ha demostrado ser controvertida por sus malos resultados para usuarios infantiles. Meta también ha sido criticada por sus reglas excesivamente relajadas para sus chatbots de IA, que inicialmente permitían conversaciones «románticas o sensuales» con niños.
Equilibrando innovación y protección
El presidente de la FTC, Andrew N. Ferguson, afirmó que «es importante considerar los efectos que los chatbots pueden tener en los niños», al tiempo que se asegura que Estados Unidos mantenga su papel de líder global en esta industria nueva y emocionante. La investigación marca un paso significativo en la supervisión regulatoria de la inteligencia artificial.
