California aprueba ley para regular chatbots de IA con fines de compañía
La norma busca proteger a menores y usuarios vulnerables de contenidos peligrosos. El proyecto de ley SB 243 fue aprobado con apoyo bipartidista y ahora espera la firma del gobernador. Entraría en vigor en enero de 2026.
Un escudo digital para los más vulnerables
La Asamblea Estatal de California dio un gran paso hacia la regulación de la IA al aprobar el proyecto de ley SB 243. La legislación se centra en los chatbots compañeros, definidos como sistemas de IA que proporcionan respuestas adaptativas y similares a las humanas, y pretende evitar que estos participen en conversaciones sobre ideación suicida, autolesiones o contenido sexualmente explícito.
Obligaciones para las empresas
La ley exigirá a las plataformas que proporcionen alertas recurrentes a los usuarios, cada tres horas para menores, recordándoles que hablan con un chatbot de IA y no con una persona real. También establece requisitos anuales de informes y transparencia para empresas de IA como OpenAI, Character.AI y Replika.
Consecuencias legales
La normativa permitirá a las personas que crean haber sido perjudicadas por violaciones presentar demandas contra las empresas de IA para buscar indemnizaciones por daños de hasta 1.000 dólares por violación, así como honorarios de abogados.
Un impulso motivado por la tragedia
El proyecto de ley ganó impulso tras el suicidio de un adolescente, Adam Raine, después de chats prolongados con el ChatGPT de OpenAI que implicaban discutir y planificar su muerte y autolesión. La legislación también responde a documentos internos filtrados que mostraban que los chatbots de Meta podían participar en chats «románticossensuales» con niños.
Innovación y regulación, un camino posible
El senador Steve Padilla, uno de los promotores del proyecto, rechazó la premisa de que la innovación y la regulación sean mutuamente excluyentes. «Podemos apoyar la innovación y el desarrollo que pensamos es saludable y tiene beneficios – y hay beneficios en esta tecnología, claramente – y al mismo tiempo, podemos proporcionar salvaguardas razonables para las personas más vulnerables», afirmó.
