Amazon emplea agentes de IA especializados para cazar fallos de seguridad

El sistema ATA utiliza múltiples agentes de IA que compiten en equipos para identificar vulnerabilidades y proponer soluciones. La herramienta nació de un hackathon interno en agosto de 2024 y ayuda a los equipos de seguridad de la compañía.

Agentes Rojos y Azules en Entornos Realistas

El sistema Autonomous Threat Analysis (ATA) no es un único agente, sino múltiples agentes de IA especializados que trabajan en dos equipos. Los agentes rojos buscan técnicas de ataque ejecutando comandos reales en entornos de prueba de alta fidelidad. Los agentes azules proponen defensas usando telemetría real. Esta competencia genera análisis de variantes y remediaciones a escala.

Verificación y Gestión de Alucinaciones

ATA está diseñado para que cada técnica y capacidad de detección sea validada con pruebas automáticas y datos del sistema. Los agentes aportan registros con marca de tiempo para probar sus afirmaciones. Según Steve Schmidt, Jefe de Seguridad de Amazon, esta verificabilidad reduce falsos positivos y hace que las alucinaciones sean «arquitectónicamente imposibles».

De Concepto a Herramienta Crucial

El concepto inicial de ATA surgió para abordar la cobertura limitada en las pruebas de seguridad y el desafío de mantener las capacidades de detección actualizadas. Michael Moran, ingeniero de seguridad de Amazon, destaca que el sistema permite investigar a velocidad de máquina, liberando a los humanos para problemas complejos.

Éxito en Casos Concretos

En un ejemplo, ATA se centró en técnicas de «reverse shell» de Python. En horas, descubrió nuevas tácticas potenciales y propuso detecciones que resultaron 100% efectivas para los sistemas de defensa de Amazon.

El Humano Sigue en el Circuito

ATA opera de forma autónoma pero emplea la metodología de «humano en el circuito», requiriendo aprobación humana antes de implementar cambios. Schmidt aclara que no sustituye el análisis humano avanzado, sino que libera al personal de tareas rutinarias.

Hacia la Respuesta a Incidentes en Tiempo Real

El siguiente paso para ATA es su uso en respuesta a incidentes en tiempo real. El objetivo es una identificación y remediación más rápida durante ataques reales a los sistemas masivos de Amazon. Schmidt afirma que la recepción entre los ingenieros es positiva, ya que ven su talento desplegado donde más importa.