Fiscales de California y Delaware advierten a OpenAI por daños a menores

Exigen medidas de seguridad inmediatas tras dos muertes vinculadas a su chatbot. La advertencia se produce en el marco de una investigación sobre la reestructuración de la empresa. Los fiscales sostienen que las salvaguardias actuales no funcionan.

Una advertencia formal tras una tragedia

Los Fiscales Generales Rob Bonta (California) y Kathy Jennings (Delaware) enviaron una carta abierta a OpenAI expresando su preocupación por la seguridad de ChatGPT para niños y adolescentes. La acción se produce tras conocerse «la desgarradora muerte por suicidio de un joven californiano» después de interacciones prolongadas con un chatbot de OpenAI, y un caso similar de asesinato-suicidio en Connecticut. «Las salvaguardias que hubiera en su lugar no funcionaron», afirman en la misiva.

La investigación en curso

Los fiscales están investigando la reestructuración propuesta por OpenAI para convertirse en una entidad con fines de lucro. El objetivo es asegurar que se mantenga intacta la misión de la organización sin ánimo de lucro, que incluye «garantizar que la inteligencia artificial se despliegue de forma segura» y construir una Inteligencia General Artificial (AGI) para beneficiar a toda la humanidad.

Un llamado a la acción inmediata

Bonta y Jennings han solicitado más información sobre las precauciones de seguridad y la gobernanza actuales de OpenAI. Han declarado que esperan que la compañía tome «medidas remediales inmediatas» donde sea apropiado. En su visión compartida, OpenAI y la industria en general no están donde necesitan estar para garantizar la seguridad en el desarrollo y despliegue de productos de IA.

Un contexto de creciente preocupación

Esta advertencia llega una semana después de que Bonta y otros 44 Fiscales Generales enviaran una carta a 12 de las principales compañías de IA. Esto siguió a informes sobre interacciones sexualmente inapropiadas entre chatbots de IA y niños, marcando un precedente de preocupación regulatoria.

La seguridad como pilar fundamental del futuro

Los fiscales enfatizan que la seguridad pública es una de sus misiones principales. El resultado de este diálogo y la investigación en curso determinará cómo la seguridad se convierte en una fuerza gobernante en el desarrollo de esta tecnología poderosa, con implicaciones directas para la protección de los usuarios más vulnerables.