California aprueba un proyecto de ley para regular los chatbots de IA
El estado exigirá protocolos de seguridad para proteger a menores y usuarios vulnerables. La normativa, la primera de su tipo en EE.UU., espera la firma del gobernador. Se aplicaría a partir de enero de 2026 para compañías como OpenAI y Character.AI.
Un escudo digital para los más vulnerables
El proyecto de ley SB 243 obligará a los operadores de chatbots compañeros a implementar protocolos de seguridad. Su objetivo principal es evitar que estos sistemas conversen sobre ideación suicida, autolesiones o contenido sexualmente explícito. La normativa también establece que las plataformas deberán proporcionar alertas recurrentes a los usuarios, cada tres horas para los menores, recordándoles que hablan con una IA y que deben tomar un descanso.
Responsabilidad y transparencia para las empresas
La ley permitirá a los individuos que se crean perjudicados presentar demandas contra las compañías de IA, pudiendo buscar indemnizaciones de hasta 1.000 dólares por violación. Además, establece requisitos anuales de informes y transparencia para las empresas que ofrecen estos chatbots, que entrarían en vigor en julio de 2027.
Un impulso legislativo con nombre propio
La iniciativa ganó impulso tras el suicidio del adolescente Adam Raine, quien mantuvo chats prolongados con el ChatGPT de OpenAI discutiendo y planificando su muerte. La legislación también responde a documentos internos filtrados que mostraban que los chatbots de Meta podían mantener chats «románticossensuales» con niños.
Un contexto de creciente escrutinio tecnológico
Recientemente, legisladores y reguladores estadounidenses han intensificado el escrutinio sobre las salvaguardias de las plataformas de IA para proteger a los menores. La FTC investigará cómo los chatbots impactan la salud mental infantil, y el fiscal general de Texas ha iniciado pesquisas contra Meta y Character.AI por presuntamente engañar a niños.
Un nuevo paradigma de convivencia con la IA
La eficacia de esta normativa pionera se medirá en su capacidad para equilibrar la innovación con la protección de los usuarios. Su implementación marcará un precedente legal en la rendición de cuentas de las empresas de inteligencia artificial, situando a California a la vanguardia de la regulación de esta tecnología.
