¿Las IA razonan como humanos o solo imitan texto?

Melanie Mitchell del Santa Fe Institute cuestiona si los grandes modelos de lenguaje (LLM) realmente razonan o simplemente generan texto que parece razonamiento. La diferencia no es meramente filosófica; determina la confianza que podemos depositar en la IA, el nivel de supervisión necesario y su impacto real en la sociedad.

En su análisis, Mitchell señala que, a falta de métodos adecuados para medir la inteligencia de máquinas, seguimos sin saber si una respuesta de un LLM proviene de un proceso cognitivo comparable al humano o de patrones estadísticos entrenados en enormes volúmenes de datos. «No contamos con herramientas fiables para distinguir entre razonamiento auténtico y simulación de razonamiento», afirmó la investigadora.

El debate tiene implicaciones directas en áreas como la medicina, la justicia y la educación, donde decisiones basadas en IA podrían afectar vidas. Según Mitchell, desarrollar métricas claras es esencial para evitar riesgos y aprovechar el potencial de la IA de forma segura.