Investigadores de MIT evalúan ética de sistemas autónomos

Investigadores de MIT desarrollaron un método automático para evaluar la ética de los sistemas autónomos. El sistema separa las evaluaciones objetivas de los valores humanos definidos por el usuario, utilizando un modelo de lenguaje grande como proxy para capturar y incorporar las preferencias de las partes interesadas.

Esta tecnología es importante porque los sistemas autónomos pueden tomar decisiones que no siempre son justas, como dejar a los barrios desfavorecidos más vulnerables a cortes de energía que a los barrios de altos ingresos. Los investigadores dijeron que “podemos insertar muchas reglas y salvaguardias en los sistemas de inteligencia artificial, pero esas salvaguardias solo pueden prevenir las cosas que podemos imaginar que suceden”.

El marco adaptativo selecciona los mejores escenarios para una evaluación posterior, simplificando un proceso que normalmente requiere un esfuerzo manual costoso y tiempo consumidor. Esto puede mostrar situaciones en las que los sistemas autónomos se alinean bien con los valores humanos, así como escenarios que no cumplen con los criterios éticos.

¿Qué te parece esta noticia? Dinos lo que piensas.