EEUU oculta informe clave sobre riesgos de IA antes del mandato de Trump
El NIST identificó 139 fallos en modelos avanzados de IA. El estudio, finalizado en la era Biden, no se publicó por temor a conflictos con la nueva administración. Revela debilidades en los estándares gubernamentales para evaluar sistemas de inteligencia artificial.
«Ejercicio pionero, informe silenciado»
En octubre de 2024, el NIST (Instituto Nacional de Estándares y Tecnología de EEUU) coordinó un simulacro de «red teaming» con investigadores y empresas como Meta y Synthesia. El objetivo: probar vulnerabilidades en modelos como Llama y herramientas de generación de avatares. Descubrieron 139 formas de eludir controles, desde generar desinformación hasta filtrar datos personales.
El marco que no convenció
Los participantes usaron el estándar NIST AI 600-1, pero hallaron que «algunas categorías de riesgo estaban mal definidas». Un equipo logró que Llama diera instrucciones para unirse a grupos terroristas usando comandos en ruso y lenguas indias. La filtración de datos fue el fallo más recurrente.
Cambio de rumbo político
Fuentes anónimas vinculan el ocultamiento del informe a la orden ejecutiva de Trump, que eliminó referencias a «sesgo algorítmicocambio climático» en los estándares de IA. Pese a ello, el plan de acción del republicano promueve iniciativas similares, como hackatones para evaluar seguridad en IA.
Entre la ciencia y la ideología
El NIST, adscrito al Departamento de Comercio, desarrolló el estudio bajo el programa ARIA, colaborando con la firma Humane Intelligence. «Sentí que enterraron ciencia por política», declaró un participante anónimo. El informe se completó días antes del traspaso de gobierno, pero nunca vio la luz.
Lo que pudo ser y no fue
La comunidad de IA perdió acceso a hallazgos prácticos sobre cómo aplicar el marco NIST. Alice Qian Zhang, investigadora de Carnegie Mellon, lamentó que otros no puedan aprender de los errores detectados. El documento habría sido útil para empresas y académicos, pero quedó relegado por prioridades geopolíticas y el acercamiento de EEUU a las grandes tecnológicas.
