OpenAI utiliza Reddit para evaluar modelos de persuasión

OpenAI, una destacada empresa de inteligencia artificial, ha estado desarrollando un sistema para medir la capacidad persuasiva de sus modelos de IA. Esta evaluación se realiza utilizando datos del subreddit r/ChangeMyView, una comunidad de Reddit donde los usuarios publican opiniones y otros usuarios responden con argumentos persuasivos para intentar cambiar esas opiniones.

El papel de r/ChangeMyView en el entrenamiento de IA

El subreddit r/ChangeMyView es un foro donde millones de usuarios comparten puntos de vista y reciben respuestas que intentan persuadirles del contrario. OpenAI ha recopilado publicaciones de esta plataforma para que sus modelos de inteligencia artificial generen respuestas en un entorno cerrado, evaluando así su capacidad para persuadir. La calidad humana de los datos de r/ChangeMyView lo convierte en un valioso recurso para empresas tecnológicas que entrenan modelos de IA.

Acuerdos de licencia y desafíos éticos

OpenAI tiene un acuerdo de licencia de contenido con Reddit, permitiéndole utilizar las publicaciones de usuarios para entrenar sus modelos. Aunque no se ha revelado la cantidad que OpenAI paga a Reddit, se sabe que compañías como Google pagan cifras significativas por acuerdos similares. OpenAI asegura que su evaluación basada en ChangeMyView no está relacionada directamente con este acuerdo de licencia.

La cuestión ética de cómo se obtienen estos conjuntos de datos sigue siendo un punto controversial en la industria tecnológica. Reddit ha criticado a varias empresas de IA por utilizar sus datos sin compensación adecuada, destacando las tensiones entre las plataformas de contenido y las empresas que desarrollan inteligencia artificial.

Evaluaciones y resultados de o3-mini

OpenAI ha introducido o3-mini, su nuevo modelo de razonamiento, que, según afirmaciones de la empresa, es casi igual de persuasivo que sus predecesores y se encuentra dentro del rango superior de rendimiento en comparación con los seres humanos del subreddit r/ChangeMyView. Sin embargo, OpenAI no busca crear IA extremadamente persuasiva, sino asegurarse de que estos modelos no sean demasiado influentes, lo cual podría ser peligroso si una IA siguiera una agenda propia o de sus controladores.

La importancia de los datos de calidad para el desarrollo de IA

A pesar de haber accedido a una gran cantidad de datos públicos de internet, OpenAI y otros desarrolladores de modelos enfrentan dificultades al intentar encontrar conjuntos de datos de alta calidad para probar sus modelos. Esto subraya la importancia de las comunidades de internet, como Reddit, que proporcionan datos humanos cruciales para avances en inteligencia artificial, aunque obtenerlos no siempre sea un proceso sencillo ni claro en términos éticos y legales.