Revelan sesgos ocultos en modelos de lenguaje

Un equipo de investigación de la Universidad de California y el MIT ha desarrollado un método para detectar y manipular sesgos, personalidades y conceptos abstractos en modelos de lenguaje. 500 conceptos han sido identificados y modificados en algunos de los modelos más grandes utilizados hoy en día. Esto ha permitido a los investigadores entender mejor cómo estos modelos representan conceptos abstractos y cómo pueden ser manipulados para fortalecer o debilitar ciertas ideas en las respuestas generadas.

El impacto de esta investigación puede ser significativo para Colombia y Latinoamérica, ya que puede ayudar a mejorar la comprensión de cómo los modelos de lenguaje pueden ser utilizados para influenciar la opinión pública y tomar decisiones informadas. Un ejemplo interesante es la capacidad de identificar y manipular la representación de personalidades como la de un influencer social o un teorizador de conspiraciones.