Irregular recauda 80 millones para seguridad de modelos de IA avanzados
80 millones de dólares en una ronda liderada por Sequoia Capital y Redpoint Ventures. La startup de seguridad para inteligencia artificial alcanza una valoración de 450 millones.
Inversión para blindar la inteligencia artificial
La firma de seguridad AI Irregular anunció este miércoles una ronda de financiación de 80 millones de dólares. La operación fue liderada por Sequoia Capital y Redpoint Ventures, con la participación del CEO de Wiz, Assaf Rappaport. Una fuente cercana a la operación indicó que esta ronda valora la compañía en 450 millones de dólares.
Enfoque en riesgos emergentes
Irregular, antes conocida como Pattern Labs, es un actor significativo en evaluaciones de IA. Su trabajo se cita en evaluaciones de seguridad para modelos como Claude 3.7 Sonnet y los o3 y o4-mini de OpenAI. Su marco para puntuar la capacidad de detección de vulnerabilidades, denominado SOLVE, es ampliamente utilizado en la industria. La compañía busca ahora detectar riesgos y comportamientos emergentes antes de que aparezcan.
Método de prueba pionero
La empresa ha construido un sistema de entornos simulados para realizar pruebas intensivas en un modelo antes de su lanzamiento. «Tenemos simulaciones de red complejas donde la IA asume tanto el papel de atacante como de defensor», explicó el cofundador Omer Nevo. Esto permite ver dónde resisten las defensas y dónde fallan.
Antecedentes: La seguridad, prioridad de la industria
La seguridad se ha convertido en un punto de enfoque intenso para la industria de la IA, a medida que surgen más riesgos potenciales de los modelos avanzados. OpenAI reformó sus medidas de seguridad internas este verano, con miras a un potencial espionaje corporativo.
Cierre: Un objetivo en constante movimiento
Los fundadores de Irregular ven esto como el primero de muchos quebraderos de cabeza de seguridad causados por las crecientes capacidades de los modelos de lenguaje. «Si el objetivo de un laboratorio avanzado es crear modelos cada vez más sofisticados y capaces, el nuestro es asegurar estos modelos. Pero es un objetivo móvil, así que inherentemente hay mucho, mucho, mucho más trabajo por hacer en el futuro», afirmó el cofundador Dan Lahav.
