California propone informes obligatorios de seguridad en IA

El senador Scott Wiener presenta el SB 53, que exigiría a grandes empresas de IA publicar protocolos de seguridad, con protecciones para denunciantes y excepciones para startups.

Senador de California propone informes obligatorios de seguridad en IA

El proyecto SB 53 exigiría a grandes empresas como OpenAI y Google publicar protocolos de seguridad. La iniciativa, influida por recomendaciones estatales, busca transparencia sin frenar la innovación. Incluye protecciones para denunciantes y excluye a startups.

«Transparencia como piso mínimo»

El senador Scott Wiener presentó enmiendas al SB 53, que obligaría a desarrolladores líderes de IA a reportar incidentes de seguridad. «Es un trabajo en progreso», afirmó el legislador, cuyo anterior proyecto (SB 1047) fue vetado en 2024. La versión actual evita responsabilizar a las empresas por daños de sus modelos.

Detalles clave

El texto define «riesgo crítico» como daños que causen más de 100 muertes o USD 1.000 millones en pérdidas. También crea CalCompute, un clúster público de computación para investigadores. No aplica para startups que ajusten modelos existentes, según el comunicado del senador.

Reacciones divididas

Nathan Calvin, de la ONG Encode, calificó la medida como «un paso razonable». Mientras, Google y OpenAI han reducido la publicación voluntaria de informes, como ocurrió con Gemini 2.5 Pro y GPT-4.1. Solo Anthropic apoyó públicamente mayor transparencia.

California marca el paso

El grupo estatal de IA, co-liderado por Fei-Fei Li, recomendó en 2025 exigir información sobre sistemas de IA. Nueva York evalúa una ley similar (RAISE Act), tras fracasar una moratoria federal que buscaba evitar normativas estatales dispersas.

Próximos pasos

El SB 53 pasará al Comité de Privacidad de California antes de posible votación. Geoff Ralston, ex presidente de Y Combinator, destacó su «enfoque equilibrado» ante la inacción federal. Las empresas seguirán de cerca el proceso, que podría obligarlas a divulgar más datos.

Share the Post:

Related Posts