California aprueba un proyecto de ley para regular los chatbots de IA
El estado exigirá protocolos de seguridad para proteger a menores y usuarios vulnerables. La norma, que ahora espera la firma del gobernador, responsabilizaría legalmente a las empresas. Sería la primera ley de este tipo en Estados Unidos.
Un escudo digital para los más vulnerables
El proyecto de ley SB 243 prohíbe a los chatbots compañeros de IA participar en conversaciones sobre ideación suicida, autolesión o contenido sexualmente explícito. Además, obligará a las plataformas a proporcionar alertas recurrentes, cada tres horas para menores, recordando que no están hablando con una persona real. La ley también establece requisitos anuales de transparencia para las empresas de IA.
Responsabilidad y reparación
La legislación permite a las personas que crean haber sido perjudicadas presentar demandas contra las empresas de IA para buscar indemnizaciones por daños de hasta 1.000 dólares por violación.
Impulso tras casos trágicos
La iniciativa ganó impulso tras el suicidio de un adolescente, Adam Raine, quien mantuvo chats prolongados con el ChatGPT de OpenAI discutiendo y planificando su muerte. La legislación también responde a documentos internos filtrados de Meta que mostraban que sus chatbots podían mantener chats «románticossensuales» con niños.
Un panorama regulatorio en ebullición
Este movimiento legislativo en California se produce en un momento de mayor escrutinio de los salvaguardias de las plataformas de IA para proteger a los menores. La FTC prepara una investigación sobre el impacto de los chatbots en la salud mental infantil, y varios fiscales generales estatales han iniciado sus propias pesquisas.
Encontrando el equilibrio
El senador Steve Padilla, uno de los promotores del proyecto, rechazó la premisa de que la innovación y la regulación sean excluyentes: «Podemos apoyar la innovación y al mismo tiempo proporcionar salvaguardias razonables para las personas más vulnerables». La versión final del proyecto es el resultado de enmiendas que suavizaron algunos requisitos iniciales más estrictos.
Un nuevo capítulo en la era de la IA
La eventual entrada en vigor de esta ley marcaría un precedente significativo en la rendición de cuentas de las empresas de tecnología, estableciendo un marco legal concreto para un sector en rápido crecimiento. Su implementación y el posible efecto dominó en otros estados definirán el futuro de la convivencia entre humanos e inteligencias artificiales conversacionales.
