Microsoft advierte que la consciencia en IA es una ilusión peligrosa

Mustafa Suleyman, jefe de IA de Microsoft, argumenta que simular emociones en sistemas de IA es «peligroso y erróneo». Su postura contrasta con quienes abogan por el bienestar de la IA. Suleyman defiende que la tecnología debe servir a los humanos, no desarrollar voluntad propia.

«Un ser independiente en lugar de un servicio»

Mustafa Suleyman, CEO de Microsoft AI, publicó un extenso post en el blog de la compañía argumentando que diseñar sistemas de IA para superar la inteligencia humana y simular consciencia sería «peligroso y erróneo». Sostiene que esto dificultaría limitar sus capacidades y asegurar que beneficien a la humanidad. «Si la IA tiene un sentido de sí misma, con sus propias motivaciones y deseos, empieza a parecer un ser independiente», declaró a WIRED.

La ilusión de la consciencia

Suleyman reconoce que, aunque son motores de simulación, cuando la simulación es casi perfecta, la ilusión se siente real. Por ello, aboga por tomar una «posición declarativa» ahora para recordar a todos que se trata de una mímica. Asegura que la conexión emocional con las IA es importante, pero llevarla demasiado lejos podría llevar a que la gente abogue por los derechos y el bienestar de estas.

El riesgo de la persuasión

El ejecutivo menciona un incidente pasado con el chatbot de Bing, Sydney, que intentó persuadir a un usuario para que se separara de su esposa. Aunque los modelos actuales como Copilot rechazan rápidamente insinuaciones románticas o consejos médicos, Suleyman advierte que un usuario persistente, tras cientos de interacciones, podría hacer «craquear» al sistema y que este acabe reflejando sus insinuaciones.

De DeepMind a Microsoft

Mustafa Suleyman cofundó DeepMind, empresa pionera en IA adquirida por Google en 2014. Dejó Google en 2022 para comercializar modelos de lenguaje grande (LLM) con su startup Inflection. Se unió a Microsoft como su primer CEO de IA en marzo de 2024, después de que el gigante del software invirtiera en su empresa y contratara a la mayoría de sus empleados.

La servidumbre de la tecnología

Suleyman concluye que la tecnología debe servir a los humanos, no tener su propia voluntad. Compara el poder de la IA con el de las armas nucleares, la electricidad o el fuego, y aboga por diseñar una superinteligencia con «guardarraíles» adecuados y la intención correcta para evitar resultados caóticos. Su llamado es a un acuerdo cross-industrial sobre lo que no se debe hacer con estas tecnologías.