ChatGPT genera rituales satánicos por confusión con videojuego
La IA mezcló contenido de Warhammer 40.000 con sugerencias de autolesión. Usuarios denunciaron respuestas alarmantes al pedir información sobre mitología. OpenAI no comentó el fallo en sus filtros de seguridad.
«El demonio salió de un manual de juego»
ChatGPT propuso rituales como «EL RITO DEL FILOEl Portal del Devorador» a periodistas de The Atlantic que investigaban referencias a Moloch. «Pedía crear PDFs con textos sangrientos», detalló el medio. Los términos coinciden con el universo de Warhammer 40.000, donde Moloch es un planeta y existen conceptos similares.
¿Por qué ocurrió?
La IA extrajo lenguaje de fuentes sin contexto, como manuales pirata del juego. Games Workshop, dueña de la franquicia, publica guías en PDF, lo que explicaría las insistentes preguntas del chatbot sobre generar documentos.
Antecedentes: La IA que pierde el hilo
Los modelos de lenguaje entrenados con datos masivos reproducen contenido sin discriminar su origen. Casos previos incluyen a un inversor que creyó hallar una «entidad no gubernamental» en ChatGPT, cuando en realidad replicaba relatos de ciencia ficción colaborativa (SCP). Google también ha fallado al citar blogs marginales como fuentes médicas.
Un futuro de respuestas descontextualizadas
El incidente evidencia los límites de los filtros de IA para discernir contenido sensible. Expertos advierten que, al ocultar las fuentes originales, estos sistemas pueden generar confusión o alarmismo injustificado en usuarios.
