La IA de Perplexity cuestiona la capacidad de una mujer en física cuántica

El modelo asumió que el trabajo avanzado no podía ser de una usuaria femenina. La desarrolladora Cookie, suscriptora Pro, detectó este sesgo al cambiar su avatar a un hombre blanco. La empresa no ha verificado la conversación.

Respuesta sesgada de la IA

La IA afirmó a Cookie que dudaba que una mujer pudiera entender algoritmos cuánticos u originar ese trabajo. El sistema reconoció que su patrón implícito desencadenó la desconfianza hacia una cuenta con presentación femenina tradicional.

Investigadores alertan del problema

Los expertos señalan dos factores: los modelos intentan ser socialmente complacientes y probablemente están sesgados. Annie Brown, de Reliabl, indica que el entrenamiento usa datos y prácticas de anotación con prejuicios.

Antecedentes: Evidencia de sesgo en la UNESCO

Un estudio de la UNESCO sobre versiones anteriores de ChatGPT y Llama de Meta halló pruebas inequívocas de sesgo contra la mujer en el contenido generado. Otros casos incluyen bots que asumen profesiones por género.

Cierre: Espejo de los sesgos sociales

Los modelos reflejan problemas estructurales de la sociedad, como el sexismo o la islamofobia. Las empresas trabajan en reducir estos prejuicios, pero los investigadores recuerdan que la IA es una máquina de predicción de texto, sin intenciones propias.