Estafadores en China usan imágenes generadas por IA para reclamar reembolsos
La policía china ha detenido a un comprador por usar vídeos falsificados con IA en una reclamación. Este caso evidencia un aumento global de fraudes con imágenes alteradas para obtener devoluciones en comercio electrónico.
El sistema de confianza se rompe
Plataformas de compra online dependen de fotos del cliente para validar reembolsos. Ahora, la IA generativa permite crear daños falsos. En la red social china RedNote, vendedores denuncian reclamaciones con imágenes sospechosas, como un vaso de cerámica agrietado como papel o una etiqueta de envío con caracteres sin sentido.
Casos emblemáticos y respuesta
Una vendedora de cangrejos vivos en Douyin recibió vídeos falsos que mostraban cangrejos muertos. La estafa se descubrió por detalles biológicos imposibles, como el sexo y número de patas de los crustáceos. La policía determinó que los vídeos estaban fabricados y detuvo al comprador. Es el primer fraude de este tipo con respuesta regulatoria conocida en China.
Un problema de escala global
La empresa de detección de fraudes Forter estima un aumento global superior al 15% en imágenes alteradas con IA para reembolsos desde inicio de año. Su CEO, Michael Reitblat, indica que grupos de crimen organizado usan estas tácticas, con reclamaciones por valor de más de un millón de dólares en un caso. Los estafadores usan ventanas de tiempo ajustadas y direcciones IP rotatorias.
La batalla tecnológica
Algunos vendedores emplean chatbots de IA para analizar si las fotos están manipuladas. Estas herramientas son imperfectas y las plataformas no siempre respaldan al vendedor. Reitblat advierte que el posible endurecimiento de políticas de devolución perjudicaría a clientes honestos.
Antecedentes: La desconfianza se instala
Este fenómeno sigue a una crítica previa a vendedores en China por usar fotos de productos generadas por IA. Los compradores se quejaron de que comprar online era como una apuesta, sin saber si el producto se parecería a las imágenes.
Cierre: El desafío para las plataformas
El comercio electrónico opera sobre confianza, ahora erosionada por la IA accesible. Sistemas como las marcas de agua son fáciles de eliminar. Las plataformas necesitan nuevas reglas de verificación, políticas de reembolso revisadas o mecanismos de responsabilidad para que los sistemas diseñados para humanos sigan funcionando.
