Investigadores de MIT proponen nuevo método para reducir sesgo en modelos de visión de inteligencia artificial

Investigadores del MIT, el Instituto Politécnico de Worcester y Google han desarrollado un enfoque innovador para reducir el sesgo en los modelos de visión de inteligencia artificial. Este método, llamado Weighted Rotational DebiasING (WRING), puede ser aplicado a modelos de lenguaje y visión (VLM) como OpenAI’s OpenCLIP.

El sesgo en los modelos de inteligencia artificial es un desafío persistente, especialmente en escenarios de alto riesgo como la medicina. Un dermatólogo puede utilizar un modelo de inteligencia artificial para clasificar lesiones de la piel y determinar si una lesión es benigna o tiene riesgo de desarrollar cáncer. Sin embargo, si el modelo está sesgado hacia ciertos tonos de piel, puede fallar al identificar a un paciente de alto riesgo.

El enfoque de WRING se diferencia de otros métodos de dessesgo, como la desviación de proyección, que puede llevar al denominado dilema de Whac-A-Mole. Este dilema se refiere a la observación de que, al intentar reducir el sesgo en un aspecto, puede surgir en otro.

El nuevo enfoque propuesto por los investigadores podría tener un impacto significativo en la reducción del sesgo en los modelos de visión de inteligencia artificial, lo que podría mejorar la precisión y la confiabilidad de estos modelos en diversas aplicaciones.

¿Qué te parece esta noticia? Dinos lo que piensas.