Investigadores de la Universidad de Ciencias de Tokio han diseñado un sistema innovador para que los modelos de inteligencia artificial (IA) grandes puedan «olvidar» selectivamente ciertos tipos de datos. Esto es clave en el contexto actual, en el que la IA está revolucionando sectores como la sanidad y la conducción autónoma. A medida que la tecnología avanza, también lo hacen las preocupaciones éticas y de sostenibilidad ligadas a ella.

Desafíos de los modelos generalistas de IA

Modelos como ChatGPT y CLIP son reconocidos por su capacidad para realizar una amplia variedad de tareas con precisión. Aunque son ampliamente utilizados, presentan problemas significativos. Requieren grandes cantidades de energía y tiempo para funcionar, exigiendo hardware avanzado y costoso. Además, estas herramientas tienden a abarcar más de lo necesario, lo que puede disminuir su eficiencia. Por ejemplo, en la conducción autónoma solo se necesita identificar vehículos, peatones y señales de tráfico, y no elementos adicionales como muebles o alimentos.

Solución al problema: Olvidar datos innecesarios

La solución pasa por entrenar a los modelos para que «olviden» información irrelevante, mejorando así su rendimiento. El reto radica en los sistemas de IA «caja negra», donde no se tiene acceso a su arquitectura interna. Frente a esto, el equipo de investigación aplicó la optimización sin derivadas, evitando la necesidad de conocer el funcionamiento interno del modelo.

Innovación en el olvido: Metodo en caja negra

El método desarrollado, llamado “black-box forgetting”, consiste en modificar de manera iterativa las instrucciones que se le dan al modelo para que olvide ciertas categorías de datos. Para ello, se valieron de un algoritmo evolutivo especial que optimiza soluciones paso a paso. Durante el proceso, enfrentaron y superaron varios desafíos, logrando que el modelo CLIP olvidara aproximadamente el 40% de las categorías objetivo.

Potenciales aplicaciones y beneficios

Este avance puede hacer que los modelos de IA sean más rápidos y eficientes, permitiendo su uso en dispositivos menos potentes y favoreciendo la adopción de la IA en nuevos campos. También tiene aplicaciones cruciales en la generación de imágenes, evitando la creación de contenido no deseado. Un aspecto fundamental es la privacidad, permitiendo que las IAs «olviden» datos sensibles o desactualizados sin necesidad de un costoso reentrenamiento.

Implicaciones éticas y futuras del olvido selectivo

La posibilidad de «olvidar» datos en modelos de IA aborda uno de los mayores retos éticos: la privacidad. Esto es particularmente relevante en sectores como la salud y las finanzas, donde la gestión de datos sensibles es crítica. El enfoque de la Universidad de Ciencias de Tokio no solo mejora la eficiencia de la tecnología, sino que también proporciona importantes medidas de seguridad para los usuarios, a pesar de los riesgos potenciales de mal uso.