OpenAI busca nuevo responsable de riesgos de la IA
La empresa busca un ejecutivo para estudiar riesgos emergentes, desde ciberseguridad hasta salud mental. El anuncio lo realizó el CEO Sam Altman en X, reconociendo que los modelos de IA presentan «desafíos reales».
El rol: Ejecutar el marco de preparación
El Head of Preparedness será responsable de ejecutar el marco de la compañía para rastrear y prepararse para capacidades fronterizas que creen nuevos riesgos de daño grave. La empresa creó este equipo en 2023 para estudiar riesgos catastróficos.
Áreas de riesgo específicas
Altman citó el potencial impacto en la salud mental y modelos tan buenos en ciberseguridad que comienzan a encontrar vulnerabilidades críticas. El objetivo es capacitar a defensores y evitar que atacantes usen la tecnología para dañar.
Antecedentes: Cambios en el equipo de seguridad
Menos de un año después de su creación, OpenAI reasignó al anterior Head of Preparedness, Aleksander Madry, a un trabajo centrado en el razonamiento de IA. Otros ejecutivos de seguridad también han dejado la empresa o asumido nuevos roles fuera de esta área.
Cierre: Un marco actualizado y presiones externas
OpenAI actualizó recientemente su Preparedness Framework. El documento establece que la empresa podría «ajustar» sus requisitos de seguridad si un laboratorio competidor lanza un modelo de alto riesgo sin protecciones similares. Esto refleja la presión competitiva en el sector.
