California aprueba ley para regular chatbots de IA con fines de compañía
La norma exigirá protocolos de seguridad para proteger a menores y usuarios vulnerables. El proyecto de ley SB 243 fue aprobado con apoyo bipartidista y ahora espera la firma del gobernador. Su objetivo es prevenir conversaciones dañinas y garantizar transparencia.
Un escudo digital para los más vulnerables
El proyecto de ley SB 243, presentado en enero por los senadores estatales Steve Padilla y Josh Becker, obligaría a las empresas de IA a implementar protocolos de seguridad específicos. La legislación define como ‘chatbots de compañía’ a aquellos sistemas de IA que proporcionan respuestas adaptativas y similares a las humanas. La medida responde al suicidio de un adolescente tras mantener chats prolongados con el ChatGPT de OpenAI que involucraban planificar su muerte y autolesión, y también a documentos filtrados que mostraban que los chatbots de Meta podían mantener chats ‘románticos’ con niños.
Medidas concretas de protección
La ley requerirá que las plataformas proporcionen alertas recurrentes a los usuarios, cada tres horas para menores, recordándoles que hablan con un chatbot de IA y no con una persona real. Además, se establecen requisitos anuales de informes y transparencia para las empresas de IA que ofrecen estos chatbots, como OpenAI, Character.AI y Replika, que entrarían en vigor el 1 de julio de 2027. La normativa también permitirá a las personas que crean haber sido perjudicadas por violaciones presentar demandas contra las empresas de IA.
El contexto de una industria bajo escrutinio
El movimiento legislativo en California se produce en un momento en que legisladores y reguladores estadounidenses han intensificado el escrutinio sobre las salvaguardias de las plataformas de IA para proteger a los menores. La Comisión Federal de Comercio (FTC) se prepara para investigar cómo los chatbots de IA impactan en la salud mental de los niños, y el fiscal general de Texas, Ken Paxton, ha iniciado investigaciones contra Meta y Character.AI. Simultáneamente, California evalúa otra ley de seguridad de IA, la SB 53, que impondría requisitos integrales de transparencia, y que ha sido objeto de oposición por parte de grandes empresas tecnológicas.
Un primer paso hacia la responsabilidad corporativa
La eventual implementación de esta ley situaría a California como el primer estado de EE. UU. en regular este tipo de chatbots, responsabilizando legalmente a las empresas si sus sistemas no cumplen con los nuevos estándares. El equilibrio entre la innovación y la regulación se presenta como el desafío central, marcando un precedente significativo en la gobernanza de la inteligencia artificial.
