Actores estatales usan inteligencia artificial para operaciones maliciosas

Actores estatales de Corea del Norte, Irán y China intentan usar la IA para mejorar sus operaciones. El Grupo de Inteligencia de Amenazas de Google (GTIG) ha detectado este cambio en el panorama de la ciberseguridad.

Nuevas capacidades observadas

Los actores maliciosos emplean malware potenciado por IA que puede generar scripts maliciosos y cambiar su código para eludir los sistemas de detección. También acceden a mercados digitales clandestinos que ofrecen herramientas de IA sofisticadas.

Métodos de evasión

Los actores se hacen pasar por estudiantes o investigadores en sus interacciones con modelos de IA. Utilizan estos pretextos para sortear las protecciones de seguridad y extraer información restringida.

Acciones de respuesta de Google

La empresa ha tomado medidas específicas tras el informe. Estas acciones incluyen deshabilitar activos vinculados a la actividad maliciosa y utilizar la inteligencia obtenida para fortalecer sus clasificadores y modelos de IA.

Antecedentes del cambio de estrategia

Los adversarios ya no emplean la inteligencia artificial solo para ganar productividad. Ahora experimentan con operaciones novedosas habilitadas por IA, según el nuevo informe del GTIG.

Implicaciones para la ciberseguridad

El informe detalla cómo los actores estatales intentan aprovechar la tecnología de IA. Este uso malicioso afecta a fases como la recopilación de información, la creación de señuelos de phishing y la exfiltración de datos.