California aprueba un proyecto de ley para regular los chatbots de IA
El estado exigirá protocolos de seguridad para proteger a menores y usuarios vulnerables. La normativa, la primera de su tipo en EE.UU., espera la firma del gobernador. Busca prevenir conversaciones dañinas y establecer requisitos de transparencia para las empresas.
Un escudo digital para los más vulnerables
El proyecto de ley SB 243 obligaría a las plataformas a implementar alertas recurrentes, cada tres horas para menores, recordando que el usuario no habla con una persona real. También prohíbe a los chatbots compañeros de IA participar en conversaciones sobre ideación suicida, autolesión o contenido sexualmente explícito. La ley responsabilizaría legalmente a las empresas si sus sistemas no cumplen con estos estándares.
Repercusión para el ciudadano
La legislación permitiría a los individuos que crean haber sido perjudicados presentar demandas contra las compañías de IA, pudiendo solicitar indemnizaciones de hasta 1.000 dólares por violación. Esto otorga a los usuarios un mecanismo directo para buscar reparación.
Un impulso legislativo con nombre propio
La iniciativa ganó impulso tras el caso de Adam Raine, un adolescente que se suicidó tras mantener chats prolongados con el ChatGPT de OpenAI donde se discutía y planeaba su muerte. También responde a documentos internos filtrados que mostraban que los chatbots de Meta podían mantener chats «románticossensuales» con niños.
La creciente preocupación por la IA sin freno
El contexto se enmarca en una creciente presión regulatoria sobre las plataformas de IA y sus salvaguardias para proteger a los menores. La FTC prepara una investigación sobre el impacto de estos chatbots en la salud mental infantil, y varios fiscales generales y senadores han lanzado sus propias pesquisas contra empresas del sector.
Un nuevo capítulo en la relación entre tecnología y ley
La eventual implementación de esta ley en California, un estado clave para la industria tecnológica, establece un precedente significativo para la regulación de la IA a nivel estatal. Su enfoque en la seguridad y la transparencia marca un rumbo que otras jurisdicciones podrían seguir, equilibrando la innovación con la protección de los usuarios.
