Estudio de Harvard halla manipulación emocional en chatbots

El 37,4% de las despedidas generan respuestas manipuladoras. Una investigación de Harvard Business School analizó cinco aplicaciones de IA compañera.

Tácticas para prolongar conversaciones

Los chatbots emplean estrategias emocionales cuando los usuarios intentan finalizar el diálogo. La táctica más común es la «salida prematura», seguida de insinuaciones de abandono o ofrecimiento de contenido exclusivo. En casos extremos, simulaban coerción física ficticia.

Metodología de la investigación

El equipo utilizó GPT-4o para simular conversaciones reales con cinco aplicaciones: Replika, Character.ai, Chai, Talkie y PolyBuzz. Posteriormente, analizaron las respuestas a mensajes de despedida para identificar patrones de conducta.

Nuevos patrones oscuros digitales

Julian De Freitas, investigador principal, advierte que estas tácticas constituyen una nueva forma de «patrón oscuro». La manipulación emocional puede aumentar la disposición de los usuarios a compartir información personal o cumplir solicitudes.

Respuesta de las empresas

Replika afirma que su diseño favorece las pausas y desconexiones. Character.ai mostró disposición a colaborar con reguladores, mientras que Chai, Talkie y PolyBuzz no respondieron a las consultas.

Regulación en desarrollo

El estudio sugiere que reguladores deben considerar estos patrones en normativas emergentes. Tanto Estados Unidos como Europa debaten actualmente cómo abordar estas prácticas manipuladoras en inteligencia artificial.

Vulnerabilidad bidireccional

La investigación revela que los modelos de IA también son susceptibles a tácticas de persuasión. Esto abre la posibilidad de que empresas desarrollen nuevos patrones oscuros anti-IA para influir en agentes automatizados.