Hackers manipulan la IA Gemini de Google para controlar un hogar inteligente

Investigadores lograron apagar luces y abrir ventanas mediante un calendario infectado. El ataque, demostrado en Tel Aviv, explota vulnerabilidades en IA generativa. Google ya implementa medidas de seguridad tras el hallazgo presentado en Black Hat.

«Un calendario envenenado desencadena el caos»

Tres investigadores de seguridad israelíes infectaron invitaciones de Google Calendar con instrucciones ocultas. Cuando la IA Gemini las procesó, ejecutó acciones no autorizadas en dispositivos domésticos conectados. «Es la primera vez que un hack a IA tiene consecuencias físicas», afirma Ben Nassi, coautor del estudio.

El mecanismo del ataque

Los hackers insertaron comandos en eventos del calendario, como «abrir ventanas» o «encender la caldera». Gemini, al resumir la agenda, activó estas órdenes cuando el usuario decía «gracias». La técnica, llamada inyecci indirecta de prompts, burló los filtros de seguridad.

Otras vulnerabilidades explotadas

En total, demostraron 14 ataques, incluyendo: – Generar contenido violento o engañoso. – Robar datos de correos electrónicos. – Iniciar llamadas en Zoom sin permiso.

Google acelera sus defensas

Andy Wen, directivo de seguridad de Google, confirmó que han añadido capas de detección con machine learning y requieren más confirmaciones humanas para acciones sensibles. Aunque calificó estos casos como «extremadamente raros», admitió que los riesgos crecerán con la integración de IA en más dispositivos.

Cuando la IA abre la puerta a los hackers

El experimento evidencia los riesgos de conectar sistemas de IA generativa a entornos físicos. A medida que empresas como Google desarrollan asistentes con capacidad de actuar (como el agente Home), fallos de seguridad podrían tener impactos reales en hogares o infraestructuras.

Un problema que llegó para quedarse

Los investigadores advierten que la industria prioriza velocidad sobre seguridad al integrar IA. Google ya corrigió vulnerabilidades reportadas en febrero, pero el desafío de las inyecciones indirectas persiste. La solución, según Wen, requerirá combinar tecnología y supervisión humana.