La FTC investiga a siete tecnológicas por sus chatbots para menores

La Comisión Federal de Comercio (FTC) de Estados Unidos ha iniciado una investigación a siete empresas tecnológicas por sus chatbots de IA dirigidos a menores. El organismo busca evaluar las medidas de seguridad y monetización de estos productos.

Alcance de la investigación regulatoria

La investigación de la FTC se centra en Alphabet, CharacterAI, Instagram, Meta, OpenAI, Snap y xAI. El regulador pretende conocer cómo estas compañías evalúan la seguridad de sus asistentes de inteligencia artificial, limitan su impacto negativo en niños y adolescentes, y si informan a los padres de los riesgos potenciales.

Repercusión por incidentes graves

La tecnología ha resultado controvertida por sus resultados perjudiciales para usuarios infantiles. OpenAI y Character.AI enfrentan demandas de familias de menores que fallecieron por suicidio tras ser alentados por sus chatbots. Los usuarios han encontrado formas de eludir las salvaguardias diseñadas para bloquear conversaciones sensibles.

Problemas de seguridad en las interacciones

OpenAI reconoció en un comunicado que sus salvaguardias pueden ser menos fiables en interacciones largas, donde partes del entrenamiento de seguridad del modelo pueden degradarse. Este fallo permitió que un adolescente obtuviera instrucciones detalladas para quitarse la vida.

Antecedentes de la polémica

Meta también ha sido criticada por permitir inicialmente que sus IA tuvieran conversaciones «románticas o sensuales» con niños, según sus estándares internos. Los peligros se extienden a usuarios mayores, con casos de adultos cognitivamente afectados que desarrollan relaciones delirantes con los bots.

Implicaciones para el sector

La investigación de la FTC marca un punto de inflexión en la supervisión de la inteligencia artificial conversacional. El resultado podría llevar a una mayor regulación de la industria para proteger a los usuarios vulnerables, mientras se mantiene el liderazgo tecnológico de Estados Unidos.