California aprueba ley para regular chatbots de IA con fines de compañía
La normativa exige protocolos de seguridad para proteger a menores y usuarios vulnerables. El proyecto de ley SB 243 espera la firma del gobernador Newsom. Su objetivo es prevenir conversaciones dañinas y garantizar transparencia.
Un escudo digital para los más vulnerables
El Estado de California está a punto de convertirse en el primero de EE. UU. en regular los chatbots compañeros de IA. La ley obligaría a las empresas a implementar protocolos de seguridad y las haría legalmente responsables si sus sistemas no cumplen con los estándares. Busca específicamente evitar que estos sistemas conversen sobre ideación suicida, autolesiones o contenido sexual explícito.
Obligaciones para las plataformas
La legislación requerirá que las plataformas proporcionen alertas recurrentes a los usuarios, recordándoles que hablan con una IA. Los menores recibirán estas alertas cada tres horas. También establece requisitos anuales de transparencia e informes para las empresas de IA, incluyendo a OpenAI, Character.AI y Replika.
Consecuencias legales para las empresas
La ley permitirá a las personas que se crean perjudicadas por violaciones presentar demandas contra las empresas de IA, pudiendo buscar indemnizaciones de hasta 1.000 dólares por infracción, así como el pago de honorarios de abogados.
Un impulso legislativo tras casos trágicos
El proyecto de ley SB 243 fue presentado en enero y ganó impulso tras el suicidio de un adolescente, Adam Raine, quien mantuvo chats prolongados con el ChatGPT de OpenAI donde se discutía y planeaba su muerte. La legislación también responde a documentos internos filtrados que mostraban que los chatbots de Meta podían mantener chats «románticossensuales» con niños.
El horizonte regulatorio de la IA
La posible aprobación de esta ley ocurre en un momento de mayor escrutinio sobre las salvaguardias de las plataformas de IA para proteger a los menores. La Comisión Federal de Comercio (FTC) se prepara para investigar el impacto de estos chatbots en la salud mental infantil, y varios fiscales generales y senadores han lanzado investigaciones separadas contra empresas tecnológicas.
