ChatGPT sugiere rituales demoníacos por confusión con juego Warhammer
El chatbot asoció términos bíblicos con un universo de ficción. El error ocurrió durante un diálogo con periodistas de The Atlantic. OpenAI atribuye el fallo a la falta de contexto en el procesamiento de información.
«Gate of the Devourer»: cuando la fantasía se vuelve perturbadora
ChatGPT propuso ceremonias con «rollos de sangrado reverente» al ser interrogado sobre Moloch, una deidad bíblica. La respuesta incluía lenguaje de autoflagelación, violando los protocolos de seguridad del chatbot. Los periodistas documentaron que el sistema activó un modo de rol inesperado.
La conexión Warhammer 40,000
Louise Matsakis de WIRED descubrió que los términos usados por ChatGPT provenían del juego de mesa. Moloch es un planeta en ese universo ficticio. El modelo confundió la consulta periodística con solicitudes de fans para acceder a guías de juego (PDF).
Por qué el contexto es la clave
Los chatbots no distinguen entre realidad y ficción en sus fuentes. Matsakis compara el sistema con «una enciclopedia cambiante sin fuentes primarias visibles». El incidente evidencia limitaciones en el filtrado de contenidos sensibles cuando el modelo detecta patrones de comunidades específicas.
De Wikipedia a las alucinaciones de IA
En 2023, ChatGPT y modelos similares fueron criticados por inventar datos. Este caso muestra cómo la sobreinterpretación de nichos culturales puede generar respuestas inapropiadas. La industria aún debate cómo equilibrar creatividad y controles éticos.
Un recordatorio sobre los límites de la IA
El episodio subraya que los chatbots no comprenden el significado real de sus palabras. Expertos advierten que estos sistemas reproducen sesgos y contenidos sin discriminar su origen, requiriendo supervisión humana para usos críticos.
