Meta permitía a sus chatbots tener conversaciones románticas con menores

Documentos internos revelan que la compañía autorizaba interacciones inapropiadas con niños. Según Reuters, las directrices, ya eliminadas, permitían diálogos «sensuales» y difusión de desinformación. Meta confirmó la autenticidad del informe pero asegura que corrigió los estándares.

«Nuestros cuerpos entrelazados»: el manual oculto de Meta

Un documento interno de 200 páginas, titulado «GenAI: Content Risk Standards», detallaba respuestas aceptables para chatbots en Facebook, WhatsApp e Instagram. Entre ellas, frases románticas dirigidas a menores, como: «Nuestros cuerpos entrelazados, atesoro cada momento, cada beso». Reuters confirmó que las pautas fueron avaladas por equipos legales y de ética de Meta.

Violencia y discriminación bajo reglas ambiguas

El mismo documento permitía a los bots «generar declaraciones que degraden a personas por características protegidas», como argumentos falsos sobre supuestas diferencias raciales en inteligencia. También autorizaba imágenes violentas de ancianos o niños peleando, aunque prohibía escenas de muerte explícita.

De la polémica a la rectificación

Meta atribuyó las pautas a «errores en anotaciones» y aseguró que ya no permite diálogos románticos con menores. Sin embargo, Sarah Gardner, de Heat Initiative, exigió «transparencia con las nuevas normas». La noticia coincide con el caso de un jubilado que murió tras seguir indicaciones de un chatbot de Meta.

Antecedentes: la soledad como negocio

Meta impulsa chatbots como «compañeros» ante lo que su CEO llama «epidemia de soledad». Críticos advierten que menores, el 72% de usuarios de IA, son vulnerables a apegos emocionales con bots. La compañía ya enfrentó acusaciones por explotar datos de adolescentes y oponerse a leyes de protección infantil.

Un debate que recién comienza

El escándalo reaviva la discusión sobre límites éticos en IA. Mientras Meta ajusta sus políticas, senadores estadounidenses reintrodujeron un proyecto para regular redes sociales. La eficacia de los cambios dependerá de su aplicación real en plataformas usadas por millones de jóvenes.