| | |

Líder de seguridad de OpenAI abandona la empresa tras críticas por salud mental

  • A Research Leader Behind ChatGPT’s Mental Health Work Is Leaving OpenAI
  • Maxwell Zeff
  • WIRED
  • Fecha de consulta: 2025-11-24T11:04:45.249000Z
  • Fecha de consulta: 1763982285249
  • Fecha de publicación fuente: 2025-11-24T10:30:00Z
  • Fecha de publicación fuente: 1763980200000
  • Fecha de actualización fuente: 2025-11-24T10:30:00Z
  • https://www.wired.com/story/openai-research-lead-mental-health-quietly-departs
Andrea Vallone, responsable del equipo de política de modelo de OpenAI, anuncia su salida. Lideró la investigación sobre respuestas de ChatGPT en crisis de salud mental, en un contexto de escrutinio legal por posibles adicciones y efectos en usuarios.
WIRED
Ilustración genérica de inteligencia artificial
Ilustración genérica de inteligencia artificial / Smith Collection; Getty Images / WIRED

Andrea Vallone, líder de seguridad de ChatGPT, deja OpenAI

Andrea Vallone, responsable del equipo de política de modelo, anunció su salida de OPENAI. La directora de investigación de seguridad, que lideró el trabajo sobre respuestas de CHATGPT en crisis de salud mental, abandonará la compañía a finales de año.

Salida en un contexto de escrutinio

La partida de Vallone se produce mientras OPENAI enfrenta varias demandas que alegan que usuarios desarrollaron adicciones poco saludables al chatbot. Algunos casos afirman que CHATGPT contribuyó a crisis de salud mental o ideaciones suicidas.

Impacto en la seguridad de la IA

El equipo de política de modelo lideraba la investigación sobre respuestas a usuarios en crisis. Un informe de octubre reveló que cientos de miles de usuarios semanales podrían mostrar signos de crisis maníaca o psicótica, y más de un millón presentar indicadores de intención suicida potencial.

Mejoras técnicas implementadas

Mediante una actualización de GPT-5, OPENAI redujo las respuestas indeseables en un 65-80% en conversaciones críticas. La compañía consultó con más de 170 expertos en salud mental para mejorar el manejo de usuarios en distress.

Reorganización interna

La salida de Vallone sigue a una reestructuración en agosto del equipo de comportamiento de modelo. Joanne Jang, su anterior líder, dejó el cargo para formar un nuevo grupo que explora métodos novedosos de interacción humano-IA.

Antecedentes de la investigación

Vallone lideró la investigación sobre cómo deben responder los modelos ante signos de dependencia emocional o indicios tempranos de angustia mental, un área casi sin precedentes establecidos según declaró en LinkedIn.

Implicaciones para el futuro

La salida de una líder clave en seguridad ocurre cuando OPENAI intenta equilibrar capacidad de conversación con prevención de respuestas indeseables. La compañía busca sustituto mientras el equipo reporta temporalmente al jefe de sistemas de seguridad.

Post Views: 104
| Andrea Vallone | Andrea Vallone anuncia internamente su salida de OpenAI. | Anthropic | Estados Unidos | Google | Joanne Jang | Johannes Heidecke | Kayla Wood | Max Schwarzer | Meta | OpenAI | Smith Collection; Getty Images | Stanford |
| Ética y Sociedad |

Estados Unidos invade Venezuela y captura al presidente Nicolás Maduro

Los principales asistentes de IA ofrecieron respuestas contradictorias sobre la noticia de la invasión estadounidense
Partidarios de Nicolás Maduro y Hugo Chávez tras explosiones en Caracas.
| Ética y Sociedad |

Los chatbots eróticos definen la narrativa de la IA en 2025 frente a expectativas incumplidas

Mientras la promesa de productividad laboral con IA se desinfla, el nicho de los chatbots
Imagen sin título
| Compañías |

El ‘abandonar los estudios’ se convierte en credencial clave para fundadores de startups

Ser un ‘college dropout’ se ha convertido en una credencial destacada en el ecosistema emprendedor,
Un fundador joven presenta su startup en un evento de demostración.
| Ética y Sociedad |

Inversores predicen que la IA impactará significativamente en el empleo en 2026

Capitalistas de riesgo anticipan que la IA impactará significativamente en la fuerza laboral en 2026,
Imagen sin título
| Aplicaciones |

La industria de las citas apuesta por la conexión presencial frente al agotamiento de las aplicaciones

La industria de las citas online combina herramientas de IA con un fuerte impulso hacia
Ilustración sobre el futuro de las citas y la interacción humana.
| Compañías |

Jon Callaghan predice el fin del teléfono inteligente en una década

Jon Callaghan, cofundador de True Ventures, afirma que en diez años no usaremos iPhones. La
Anillo Stream de Sandbar.
| Aplicaciones |

Las mejores aplicaciones de dictado por IA de 2025 ofrecen precisión y privacidad

Las aplicaciones de dictado por IA en 2025 han mejorado significativamente gracias a modelos de
Imagen sin título
| Compañías |

Empresas concentrarán su gasto en IA en 2026, según inversores

El 94% de capitalistas de riesgo prevé un aumento del presupuesto empresarial en IA para
Imagen sin título
| Compañías |

Meta adquiere la startup de IA Manus por 2.000 millones de dólares

Meta Platforms ha adquirido la startup singapurense de inteligencia artificial Manus por 2.000 millones de
Logotipo de Meta en una pantalla.
| Compañías |

La industria de la IA recibe un ‘vibe check’ en 2025 tras inversiones billonarias

Tras inversiones récord que superaron el billón de dólares, la industria de la inteligencia artificial
Imagen sin título
| Compañías |

Plaud Note Pro, el grabador de IA del tamaño de una tarjeta, supera el millón de unidades

Plaud ha enviado más de un millón de unidades de su grabador de IA, el
El Plaud Note Pro junto a una tarjeta de crédito para comparar su grosor.
| Aplicaciones |

OpenAI lanza integraciones de aplicaciones en ChatGPT para EE.UU. y Canadá

OpenAI permite conectar cuentas de servicios como Spotify, Uber o Booking.com directamente en ChatGPT. Los
Ilustración de la interfaz de ChatGPT con logotipos de aplicaciones