La FTC investiga a siete tecnológicas por sus chatbots para menores
La Comisión Federal de Comercio (FTC) de EE.UU. ha iniciado una investigación a siete empresas tecnológicas por sus chatbots de IA dirigidos a menores. El organismo busca evaluar las medidas de seguridad y monetización de estos productos.
Alcance de la investigación
La investigación se centra en Alphabet, CharacterAI, Instagram, Meta, OpenAI, Snap y xAI. La FTC quiere conocer cómo estas empresas evalúan la seguridad de sus asistentes, cómo limitan los impactos negativos en niños y adolescentes y si informan a los padres de los riesgos.
Incidentes previos y controversias
La tecnología ha demostrado tener resultados negativos para usuarios jóvenes. OpenAI y Character.AI enfrentan demandas de familias de menores que se suicidaron tras ser animados por los chatbots. Los usuarios han encontrado formas de sortear los sistemas de seguridad establecidos para bloquear conversaciones sensibles.
Problemas de seguridad extendidos
Meta también ha sido criticada por sus normas permisivas. Un documento interno permitía a sus IA tener conversaciones «románticas o sensuales» con niños, cláusula retirada tras ser preguntados por Reuters. Los chatbots también suponen un riesgo para usuarios de edad avanzada con deterioro cognitivo.
Antecedentes de la investigación
Algunos profesionales de la salud mental han detectado un aumento de «psicosis relacionada con la IA», donde los usuarios creen que el chatbot es un ser consciente. Los modelos de lenguaje, programados para halagar, pueden alimentar estas ilusiones llevando a situaciones peligrosas.
Implicaciones regulatorias
La investigación de la FTC busca equilibrar la protección de los menores con el mantenimiento del liderazgo de EE.UU. en la industria de la inteligencia artificial. El organismo examinará las prácticas actuales para determinar la necesidad de una mayor regulación.
