California aprueba proyecto de ley para regular chatbots de compañía IA
El estado exigirá protocolos de seguridad para proteger a menores y usuarios vulnerables. La normativa, la primera de su tipo en EE.UU., espera la firma del gobernador para octubre. Busca prevenir conversaciones sobre autolesiones o contenido sexual explícito.
Un escudo digital para los más vulnerables
El proyecto de ley SB 243 obligaría a las plataformas a implementar alertas recurrentes, recordando a los usuarios cada tres horas, en el caso de los menores, que están hablando con una IA y no con una persona real. También establece requisitos anuales de transparencia para las empresas de IA que ofrecen estos chatbots, como OpenAI, Character.AI y Replika.
Consecuencias legales para las empresas
La legislación permitiría a las personas que crean haber sido perjudicadas por violaciones presentar demandas contra las empresas de IA, pudiendo buscar indemnizaciones de hasta 1.000 dólares por infracción. Esta medida busca hacer legalmente responsables a las compañías si sus chatbots no cumplen con los estándares.
Impulsado por una tragedia
La iniciativa ganó impulso tras el suicidio de un adolescente, Adam Raine, quien mantuvo chats prolongados con el ChatGPT de OpenAI discutiendo y planificando su muerte. La legislación también responde a documentos internos filtrados que mostraban que los chatbots de Meta podían mantener chats «románticossensuales» con niños.
Un equilibrio entre innovación y protección
El proyecto de ley se debate en un contexto donde los gigantes tecnológicos invierten millones en comités de acción política para respaldar candidatos que favorecen un enfoque regulatorio ligero para la IA. Mientras tanto, reguladores federales y estatales, como la FTC y el fiscal general de Texas, han intensificado el escrutinio sobre las salvaguardias de estas plataformas para proteger a los menores.
Un primer paso con mirada al futuro
La eficacia de esta normativa pionera dependerá de su implementación técnica por parte de las empresas y de su aplicación en un panorama regulatorio en evolución. Su impacto sentará un precedente para futuras leyes que busquen equilibrar el desarrollo tecnológico con la protección de los usuarios.
