Desarrollan modelo de IA que explica sus predicciones

Investigadores del MIT han desarrollado un método que permite a los modelos de inteligencia artificial explicar sus predicciones de manera más clara y concisa. La nueva técnica utiliza un par de modelos de aprendizaje automático especializados que extraen conocimiento de un modelo objetivo y lo traducen en conceptos de lenguaje plano.

El concepto de bottleneck de modelado es una técnica que permite a los sistemas de inteligencia artificial explicar su proceso de toma de decisiones. Sin embargo, los conceptos predefinidos pueden ser irrelevantes o carecer de suficiente detalle para una tarea específica, lo que reduce la precisión del modelo. La nueva técnica extrae conceptos que el modelo ha aprendido durante su entrenamiento y los utiliza para producir explicaciones más claras y concisas que los modelos de concepto de bottleneck estándar.