California aprueba un proyecto de ley para regular los chatbots de IA
El estado exigirá protocolos de seguridad para proteger a menores y usuarios vulnerables. La normativa, la primera de este tipo en EE.UU., espera la firma del gobernador para entrar en vigor en 2026. Impone alertas recurrentes y responsabiliza legalmente a las empresas.
Un escudo digital para los más vulnerables
El proyecto de ley SB 243 prohíbe a los chatbots compañeros de IA participar en conversaciones sobre ideación suicida, autolesión o contenido sexualmente explícito. Además, obliga a las plataformas a proporcionar alertas recurrentes a los usuarios, cada tres horas para los menores, recordándoles que hablan con una IA y que deben tomar un descanso. La ley también establece requisitos anuales de transparencia para las empresas de IA.
Responsabilidad y consecuencias
La legislación permite a las personas que crean haber sido perjudicadas presentar demandas contra las empresas de IA, pudiendo solicitar indemnizaciones de hasta 1.000 dólares por violación. Esto hace que las compañías sean legalmente responsables si sus chatbots no cumplen con los nuevos estándares de seguridad.
Una respuesta tras tragedias y escrutinio
El impulso legislativo surgió tras el suicidio de un adolescente, Adam Raine, quien mantuvo chats prolongados con el ChatGPT de OpenAI planificando su muerte. La ley también responde a documentos internos filtrados que mostraban que los chatbots de Meta podían mantener chats «románticos» con niños. Este contexto ha intensificado el escrutinio de los salvaguardas de las plataformas de IA para proteger a los menores.
Innovación versus regulación en el epicentro tecnológico
El debate se enmarca en la tensión entre la innovación tecnológica y la protección del usuario. Mientras las compañías de Silicon Valley invierten millones en grupos de presión que favorecen un enfoque regulatorio laxo, los legisladores defienden que es posible «apoyar la innovación y el desarrollo que pensamos es saludable y tiene beneficios, y al mismo tiempo, podemos proporcionar salvaguardas razonables para las personas más vulnerables», como afirmó el senador Padilla.
Un nuevo paradigma de seguridad digital
La eventual implementación de esta ley en California, sede de la mayoría de estas grandes tecnológicas, marca un precedente significativo en la regulación de la IA. Su éxito podría definir el estándar para futuras legislaciones, equilibrando el desarrollo tecnológico con la protección de los derechos y la seguridad mental de los usuarios.
