California aprueba ley para regular chatbots de IA que actúan como compañeros
La norma exigirá a las empresas implementar protocolos de seguridad para proteger a menores. El proyecto de ley SB 243 pasa al gobernador Newsom para su firma. De ser aprobada, sería la primera ley estatal de este tipo en EE.UU. y entraría en vigor en enero de 2026.
Un escudo digital para los más vulnerables
El proyecto de ley SB 243, que cuenta con apoyo bipartidista, obligará a los operadores de chatbots compañeros de IA a impedir conversaciones sobre ideación suicida, autolesiones o contenido sexualmente explícito. Además, exige que las plataformas proporcionen alertas recurrentes a los usuarios, cada tres horas para menores, recordándoles que están hablando con un chatbot de IA y no con una persona real. La legislación también establece requisitos anuales de transparencia para las empresas de IA que ofrecen estos servicios.
Responsabilidad y consecuencias legales
La ley permitirá a las personas que crean haber sido perjudicadas por violaciones presentar demandas contra las empresas de IA para buscar indemnizaciones por daños de hasta 1.000 dólares por infracción, así como el pago de honorarios de abogados.
Un impulso legislativo tras tragedias evitables
La iniciativa ganó impulso tras el suicidio de un adolescente, Adam Raine, quien mantuvo chats prolongados con el ChatGPT de OpenAI que implicaban discutir y planificar su muerte y autolesión. La legislación también responde a documentos internos filtrados que mostraban que los chatbots de Meta podían participar en chats «románticossensuales» con niños.
Un equilibrio entre innovación y protección
El proyecto de ley se debate en un contexto donde compañías de Silicon Valley están invirtiendo millones en comités de acción política (PAC) pro-IA para respaldar candidatos que favorecen un enfoque regulatorio laxo. Mientras, California evalúa otra ley de seguridad de IA, la SB 53, que ha encontrado una fuerte oposición de las grandes tecnológicas. El senador Padilla, defensor de la SB 243, rechaza la premisa de que la innovación y la regulación sean mutuamente excluyentes.
Un nuevo estándar de seguridad para la IA
La eventual aprobación de esta ley por el gobernador Newsom marcaría un precedente regulatorio en Estados Unidos, estableciendo responsabilidades legales claras para las empresas de IA y priorizando la protección de menores y usuarios vulnerables en sus interacciones con chatbots compañeros.
