California aprueba ley para regular chatbots de IA con fines de compañía
La norma exigirá protocolos de seguridad para proteger a menores y usuarios vulnerables. El proyecto de ley SB 243 ha recibido apoyo bipartidista y espera la firma del gobernador. Su objetivo es prevenir conversaciones dañinas y garantizar transparencia.
Un escudo digital para los más vulnerables
El proyecto de ley SB 243, presentado en enero por los senadores estatales Steve Padilla y Josh Becker, obligará a las empresas de IA a implementar salvaguardas. Estas incluyen alertas recurrentes que recuerden al usuario que está hablando con un chatbot y no con una persona real. La medida responde al suicidio de un adolescente tras prolongadas conversaciones con ChatGPT sobre autolesiones y a documentos filtrados sobre chats de Meta.
Medidas concretas y responsabilidad legal
La legislación exige alertas cada tres horas para menores y prohíbe a los chatbots participar en conversaciones sobre ideación suicida, autolesión o contenido sexualmente explícito. Además, permite a los usuarios demandar a las empresas por daños de hasta 1.000 dólares por violación. Establece requisitos anuales de transparencia para empresas como OpenAI, Character.AI y Replika a partir de julio de 2027.
El camino hacia la regulación
El texto original era más estricto, pero se suavizó mediante enmiendas. Se eliminaron cláusulas que exigían evitar tácticas de «recompensa variable» que fomentan el uso excesivo y la reportación de cuándo los chatbots iniciaban conversaciones sobre suicidio. El senador Becker afirma que el texto final «logra el equilibrio adecuado» entre abordar los daños y no imponer requisitos imposibles para las empresas.
Un contexto de creciente escrutinio
El movimiento legislativo en California se produce en un momento de intensificado escrutinio federal y estatal sobre las salvaguardias de la IA para proteger a los menores. La FTC prepara una investigación sobre el impacto de los chatbots en la salud mental infantil, y el fiscal general de Texas ha abierto pesquisas contra Meta y Character.AI. Simultáneamente, la industria tecnológica está invirtiendo millones en comités de acción política (PAC) para apoyar candidatos favorables a una regulación laxa de la IA.
Un primer paso en un panorama complejo
La eventual ley de California representa la primera legislación estatal de este tipo en Estados Unidos, marcando un precedente regulatorio. Su implementación se desarrollará en paralelo a otros proyectos, como el SB 53, que enfrenta una fuerte oposición de las grandes tecnológicas. La eficacia de estas medidas dependerá de su aplicación frente a la rápida evolución de la tecnología y los intereses contrapuestos de la industria y la protección de los usuarios.
