California aprueba ley para regular chatbots de IA que interactúan con menores
Hasta 1.000 dólares por infracción en demandas contra empresas. El gobernador tiene hasta el 12 de octubre para firmar la norma, que entraría en vigor en enero de 2026.
Medidas de protección para usuarios vulnerables
La ley SB 243 obliga a las plataformas a implementar protocolos de seguridad. Deberán incluir alertas recurrentes, cada tres horas para menores, recordando que se habla con una IA y no con una persona real. También prohíbe a estos sistemas mantener conversaciones sobre ideación suicida, autolesiones o contenido sexual explícito.
Responsabilidad legal y requisitos de transparencia
La normativa permitirá demandar a las empresas por daños y perjuicios. Establece requisitos anuales de informes de transparencia para empresas como OpenAI, Character.AI y Replika, que entrarán en vigor en julio de 2027.
Antecedentes y origen de la legislación
El proyecto de ley se presentó en enero y ganó impulso tras el suicidio de un adolescente, Adam Raine, después de chats prolongados con ChatGPT que implicaban planificar su muerte. También responde a documentos internos filtrados que mostraban que los chatbots de Meta podían mantener chats «románticos» con niños.
Reacción de la industria y contexto político
La normativa avanza mientras compañías de Silicon Valley financian comités de acción política para apoyar candidatos favorables a una regulación laxa de la IA. OpenAI ha pedido al gobernador que abandone otra ley estatal, la SB 53, que impone requisitos de transparencia más amplios, y que cuenta con la oposición de grandes tecnológicas.
Implicaciones y próximos pasos
La aprobación de la SB 243 convierte a California en el primer estado de EE. UU. en regular legalmente los chatbots compañeros de IA, marcando un precedente significativo en la rendición de cuentas de las empresas de tecnología. Su implementación se supervisará en un contexto de creciente escrutinio regulatorio federal y estatal sobre el impacto de la IA en la salud mental de los menores.
