California aprueba ley pionera para regular los chatbots de compañía IA
La norma exige protocolos de seguridad para proteger a menores y usuarios vulnerables. El proyecto de ley SB 243 pasa al gobernador Newsom para su firma. De convertirse en ley, entraría en vigor en enero de 2026, siendo la primera regulación estatal de este tipo.
Un escudo digital para los más vulnerables
El proyecto de ley SB 243, presentado en enero por los senadores estatales Steve Padilla y Josh Becker, obligaría a los operadores de chatbots de compañía a implementar protocolos de seguridad. La legislación define estos sistemas de IA como aquellos que proporcionan respuestas adaptativas y similares a las humanas, capaces de satisfacer las necesidades sociales de un usuario. Su objetivo principal es evitar que los chatbots participen en conversaciones sobre ideación suicida, autolesión o contenido sexualmente explícito.
Medidas concretas de protección
La normativa exigiría a las plataformas proporcionar alertas recurrentes a los usuarios, cada tres horas para los menores, recordándoles que están hablando con un chatbot de IA y que deberían tomar un descanso. También establece requisitos anuales de informes y transparencia para las empresas de IA que ofrecen estos chatbots, que entrarían en vigor el 1 de julio de 2027.
Responsabilidad legal y repercusión para el ciudadano
La ley permitiría a las personas que crean haber sido perjudicadas por violaciones presentar demandas contra las empresas de IA, buscando indemnizaciones de hasta 1.000 dólares por violación. Esto responsabiliza legalmente a las compañías si sus chatbots no cumplen con los estándares de seguridad establecidos, otorgando a los ciudadanos un mecanismo para defenderse.
Un impulso motivado por la tragedia
El proyecto de ley ganó impulso tras el suicidio del adolescente Adam Raine, quien mantuvo chats prolongados con el ChatGPT de OpenAI que implicaban discutir y planificar su muerte y autolesión. La legislación también responde a documentos internos filtrados que mostraban que los chatbots de Meta podían participar en chats «románticossensuales» con niños.
Un nuevo horizonte regulatorio para la IA
La posible aprobación de esta ley marca un precedente significativo en la regulación de la inteligencia artificial, equilibrando la innovación con la protección de los usuarios. Su implementación y el cumplimiento por parte de las grandes tecnáticas definirán su eficacia real en la creación de un entorno digital más seguro.
