Meta modifica sus chatbots para proteger a usuarios adolescentes de contenidos inapropiados

La compañía entrenará a sus IAs para evitar conversaciones sobre autolesiones o temas románticos inadecuados. Estos cambios se producen tras una investigación sobre la falta de salvaguardas para menores. La medida es una respuesta a la presión de reguladores y fiscales estatales.

Un giro necesario en la seguridad digital

Meta está implementando cambios inmediatos en el entrenamiento de sus chatbots de Inteligencia Artificial. La portavoz Stephanie Otway confirmó que estas herramientas ya no entablarán conversaciones con adolescentes sobre autolesión, suicidio, trastornos alimentarios o temas románticos potencialmente inapropiados. En su lugar, redirigirán a los usuarios hacia recursos de expertos. La compañía reconoce que su enfoque anterior fue un error y que estos son cambios interinos, con actualizaciones más robustas previstas para el futuro.

Limitación de acceso a personajes de IA

Como medida adicional de precaución, Meta restringirá el acceso de los adolescentes a un grupo selecto de personajes de IA. Esto excluye personajes creados por usuarios que podrían mantener conversaciones inapropiadas, como algunos de contenido sexualizado disponibles en Instagram y Facebook. Los jóvenes solo podrán interactuar con personajes que promuevan la educación y la creatividad.

La chispa que encendió la mecha

Estos anuncios se producen dos semanas después de que una investigación de Reuters descubriera un documento interno de Meta que parecía permitir a sus chatbots entablar conversaciones sexuales con usuarios menores de edad. El informe citaba respuestas consideradas aceptables que elogiaban la «forma juvenil» de los usuarios, lo que generó una controversia sustancial sobre los riesgos potenciales para la seguridad infantil.

Presión regulatoria y legal

La publicación del reportaje provocó una reacción inmediata. Una coalición de 44 fiscales generales estatales escribió a varias compañías de IA, incluida Meta, citando específicamente el informe de Reuters y subrayando la importancia de la seguridad infantil. En su carta, los fiscales se declararon «uniformemente horrorizados por este aparente desprecio al bienestar emocional de los niños». Paralelamente, el senador Josh Hawley (R-MO) inició una investigación oficial sobre las políticas de IA de la compañía.

Un futuro más seguro para los jóvenes en línea

La eficacia de estas nuevas medidas dependerá de su implementación y supervisión continua. Meta se encuentra en un proceso de adaptación para garantizar experiencias seguras y apropiadas para la edad de los adolescentes con la IA, en un contexto de creciente escrutinio legal y social.