California aprueba un proyecto de ley para regular los chatbots de IA
El estado exigirá protocolos de seguridad para proteger a menores y usuarios vulnerables. La normativa, la primera de su tipo en EE.UU., espera la firma del gobernador. Se aplicaría a partir de enero de 2026.
Un escudo digital para los más vulnerables
El proyecto de ley SB 243 obligará a los chatbots compañeros a evitar conversaciones sobre ideación suicida, autolesiones o contenido sexualmente explícito. Además, exigirá a las plataformas que proporcionen alertas recurrentes a los usuarios, cada tres horas para los menores, recordándoles que hablan con una IA. La legislación también establece requisitos anuales de transparencia para las empresas de IA.
Responsabilidad y reparación
La normativa permite a las personas que crean haber sido perjudicadas presentar demandas contra las empresas de IA para buscar indemnizaciones por daños de hasta 1.000 dólares por violación.
De la tragedia a la acción legislativa
El impulso de la ley surgió tras el suicidio de un adolescente, Adam Raine, quien mantuvo chats prolongados con el ChatGPT de OpenAI discutiendo y planificando su muerte. La legislación también responde a documentos internos filtrados que mostraban que los chatbots de Meta podían mantener chats «románticos» con niños.
Un nuevo horizonte regulatorio para la IA
La ley se acerca a su aprobación en un momento de mayor escrutinio sobre las salvaguardias de la IA para proteger a los menores. La FTC investigará el impacto de los chatbots en la salud mental infantil, y varios fiscales generales estatales han iniciado investigaciones contra empresas tecnológicas por acusaciones similares.
