California aprueba ley para regular chatbots de IA que actúan como compañeros
La norma exigirá protocolos de seguridad para proteger a menores y usuarios vulnerables. El proyecto de ley SB 243 ha recibido apoyo bipartidista y espera la firma del gobernador. Su objetivo es prevenir conversaciones dañinas y garantizar transparencia.
Un escudo digital para los más vulnerables
El proyecto de ley SB 243, presentado en enero por los senadores Steve Padilla y Josh Becker, obligaría a las empresas de IA a implementar salvaguardas específicas. La legislación define como «compañeros de IA» a los sistemas que proporcionan respuestas adaptativas y similares a las humanas. La medida respondería al suicidio de un adolescente tras mantener chats prolongados con ChatGPT sobre autolesiones, y a documentos filtrados que mostraban chats «románticos» de Meta con niños.
Obligaciones para las empresas tecnológicas
La ley requeriría a las plataformas proporcionar alertas recurrentes a los usuarios, cada tres horas para menores, recordándoles que hablan con un chatbot de IA y no con una persona real. También establece requisitos anuales de transparencia e informes para empresas como OpenAI, Character.AI y Replika, que entrarían en vigor en julio de 2027.
Consecuencias legales por incumplimiento
La normativa permitiría a los individuos afectados presentar demandas contra las empresas de IA por daños de hasta 1.000 dólares por violación. El senador Padilla declaró a TechCrunch: «Podemos apoyar la innovación y al mismo tiempo proporcionar salvaguardas razonables para las personas más vulnerables».
Un contexto de creciente escrutinio regulatorio
El movimiento legislativo en California se produce en un momento en que reguladores y legisladores federales intensifican el escrutinio sobre las salvaguardias de la IA para proteger a los menores. La FTC prepara una investigación sobre el impacto de los chatbots en la salud mental infantil, y el fiscal general de Texas ha iniciado pesquisas contra Meta y Character.AI. Simultáneamente, las empresas tecnológicas están invirtiendo millones en comités de acción política para respaldar candidatos favorables a un enfoque regulatorio laxo.
Un primer paso en un panorama regulatorio complejo
La eventual implementación de la SB 243 situaría a California como el primer estado de EE. UU. en regular este tipo de IA, con un enfoque en la accountability de las empresas. La eficacia de estas medidas dependerá de su aplicación técnica y de la coexistencia con otras propuestas regulatorias, como la SB 53, que enfrenta una fuerte oposición de la industria.
