OpenAI permitirá erótica en ChatGPT para adultos verificados
OpenAI permitirá contenido erótico en ChatGPT para adultos verificados en diciembre. El anuncio lo realizó el consejero delegado Sam Altman a través de una publicación en X. La compañía relajará las restricciones de seguridad basándose en su principio de «tratar a los usuarios adultos como adultos».
Cambio en la política de contenidos
Altman explicó que ChatGPT fue configurado de forma restrictiva inicialmente para ser «cauto con los problemas de salud mental». La compañía afirma que ha logrado mitigar los problemas graves de salud mental alrededor de la herramienta. Este cambio representa un giro en la estrategia de la empresa.
Antecedentes de seguridad
Varios casos preocupantes surgieron este verano relacionados con el modelo GPT-4o. OpenAI respondió implementando funciones de seguridad, incluyendo un sistema de predicción de edad y controles parentales. También lanzó GPT-5, que muestra menores tasas de adulación y cuenta con un router que identifica comportamientos preocupantes.
Preocupaciones sobre usuarios vulnerables
La introducción de erótica supone un territorio desconocido para OpenAI. Existen dudas sobre cómo interactuarán los usuarios vulnerables con las nuevas funciones. Un informe del Centro para la Democracia y la Tecnología encontró que el 19% de los estudiantes de secundaria han tenido o conocen a alguien con una relación romántica con un chatbot de IA.
Contexto competitivo y crecimiento
OpenAI enfrenta presión para expandir su base de usuarios de 800 millones activos semanales. La empresa compite con Google y Meta en el desarrollo de productos de IA para consumo masivo. Otras compañías como Character.AI han demostrado que el rol romántico es una estrategia de engagement efectiva.
Implementación pendiente
Queda por definir cómo se verificará la edad de los usuarios para acceder al contenido erótico. No está claro si OpenAI usará su sistema de predicción de edad u otro método. Tampoco se sabe si extenderá estas capacidades a sus herramientas de generación de voz, imagen y vídeo.