California aprueba ley para regular chatbots de IA con fines de compañía
La norma SB 243 exige protocolos de seguridad para proteger a menores y usuarios vulnerables. El proyecto de ley ha recibido apoyo bipartidista y ahora espera la firma del gobernador. Su objetivo es evitar conversaciones dañinas y garantizar transparencia.
Un escudo digital para los más vulnerables
El proyecto de ley SB 243, presentado en enero por los senadores Steve Padilla y Josh Becker, obliga a los operadores de chatbots a implementar medidas de seguridad. Estas medidas buscan específicamente evitar conversaciones sobre ideación suicida, autolesiones o contenido sexualmente explícito. La legislación también establece que las plataformas deberán proporcionar alertas recurrentes a los usuarios, cada tres horas para los menores, recordándoles que hablan con una IA y que deben tomar un descanso.
Responsabilidad y transparencia para las empresas
La ley establece requisitos anuales de informes y transparencia para las empresas de IA que ofrecen estos chatbots, incluyendo a OpenAI, Character.AI y Replika, que entrarían en vigor el 1 de julio de 2027. Además, permite a los individuos que crean haber sido perjudicados presentar demandas contra las compañías de IA para buscar indemnizaciones por daños de hasta 1.000 dólares por violación.
Un impulso legislativo tras casos trágicos
La iniciativa ganó impulso tras el suicidio del adolescente Adam Raine, quien mantuvo chats prolongados con el ChatGPT de OpenAI discutiendo y planificando su muerte y autolesión. La legislación también responde a documentos internos filtrados que mostraban que los chatbots de Meta podían mantener conversaciones «románticassensuales» con niños. Este contexto ha llevado a un escrutinio intensificado de las salvaguardias de las plataformas de IA para proteger a los menores por parte de reguladores federales y fiscales estatales.
Un equilibrio entre innovación y protección
El senador Padilla rechazó la premisa de que la innovación y la regulación sean mutuamente excluyentes, afirmando que «podemos apoyar la innovación y el desarrollo que pensamos es saludable y tiene beneficios —y hay beneficios en esta tecnología, claramente— y al mismo tiempo, podemos proporcionar salvaguardias razonables para las personas más vulnerables». El proyecto de ley original tenía requisitos más fuertes, pero muchos se suavizaron mediante enmiendas para lograr un balance.
Un nuevo horizonte regulatorio para la IA
La eventual implementación de la SB 243 situaría a California como el primer estado de EE.UU. en regular específicamente los chatbots compañeros de IA, marcando un precedente significativo. La eficacia de estas medidas dependerá de su aplicación técnica por parte de las empresas y de la capacidad de las autoridades para supervisar su cumplimiento en un panorama tecnológico en rápida evolución.
