OpenAI suspende los vídeos de Martin Luther King Jr. en Sora

OpenAI ha desactivado la generación de vídeos que representen a Martin Luther King Jr. en su modelo de IA Sora. La medida se implementa tras una petición de la empresa que gestiona el legado del activista, King Estate, Inc., debido a la creación de contenidos considerados irrespetuosos por algunos usuarios.

Restricción por petición expresa

La compañía anunció la pausa este jueves y la atribuyó a una solicitud de la empresa del legado de King. OpenAI declaró que, aunque existen “fuertes intereses de libertad de expresión”, las figuras públicas y sus familias deben tener control sobre el uso de su imagen. El mecanismo permite que representantes autorizados o titulares de legados soliciten que su likeness no se utilice en los cameos de Sora.

Contexto del lanzamiento y debate

La plataforma de vídeos sociales Sora se lanzó hace unas semanas, permitiendo crear vídeos realistas de figuras históricas. Este estreno ha generado un debate público sobre los peligros de los vídeos con IA. La hija de King, Bernice King, y la hija de Robin Williams habían pedido públicamente que se dejaran de generar estos contenidos de sus padres.

Antecedentes: Contenidos inapropiados

Se habían generado vídeos de King haciendo ruidos de mono y luchando con Malcolm X. La aplicación también mostraba fácilmente vídeos burdos de otras figuras como Bob Ross, Whitney Houston o John F. Kennedy.

Cierre: Implicaciones y otras restricciones

La medida sobre King se enmarca en una implementación más amplia de salvaguardas. OpenAI planea dar a los titulares de derechos un control más granular sobre los vídeos generados. La compañía afronta el reto de equilibrar la innovación con la gestión de los riesgos asociados a una tecnología social de IA.