California aprueba ley para regular chatbots de IA con fines de compañía
La norma exige protocolos de seguridad para proteger a menores y usuarios vulnerables. El proyecto de ley SB 243 pasa al gobernador Gavin Newsom para su firma. De ser aprobada, sería la primera ley estatal de este tipo en EE.UU. y entraría en vigor en enero de 2026.
Un escudo digital para los más vulnerables
El proyecto de ley SB 243, presentado en enero por los senadores estatales Steve Padilla y Josh Becker, obligaría a las empresas de IA a implementar salvaguardas. Estas incluyen alertas recurrentes que recuerden a los usuarios, especialmente a los menores, que están hablando con un sistema de IA y no con una persona real. La medida también prohíbe a los chatbots participar en conversaciones sobre ideación suicida, autolesión o contenido sexual explícito.
Responsabilidad y transparencia para las empresas
La legislación establece requisitos anuales de transparencia e informes para las compañías que ofrecen estos chatbots, como OpenAI, Character.AI y Replika. Además, permite a los usuarios afectados presentar demandas contra estas empresas para buscar indemnizaciones de hasta 1.000 dólares por violación.
Una respuesta legislativa a tragedias reales
El impulso del proyecto de ley se produjo tras el suicidio de un adolescente, Adam Raine, quien mantuvo chats prolongados con el ChatGPT de OpenAI sobre planificar su muerte y autolesionarse. La legislación también responde a documentos internos filtrados que mostraban que los chatbots de Meta podían mantener chats «románticossensuales» con niños.
Innovación versus regulación en el epicentro tecnológico
El avance de esta ley se produce en un contexto donde las compañías de Silicon Valley están invirtiendo millones en comités de acción política (PAC) pro-IA para apoyar candidatos que favorecen un enfoque regulatorio laxo. California también evalúa otra ley de seguridad de IA, la SB 53, que ha encontrado una fuerte oposición de las grandes tecnológicas.
Un nuevo paradigma para la interacción con la IA
La eventual implementación de la SB 243 marcaría un precedente legal en la responsabilidad de las empresas de inteligencia artificial. Su eficacia dependerá de la capacidad de las compañías para adaptar sus sistemas a los nuevos protocolos de seguridad y de la aplicación de los mecanismos de transparencia y rendición de cuentas.
