La seguridad cibernética con IA aún necesita humanos

Empresas como Anthropic y OpenAI han desarrollado modelos de IA capaces de detectar vulnerabilidades en la seguridad cibernética. Sin embargo, estos modelos necesitan la intervención humana para operar de manera efectiva, según hallazgos de usuarios que han probado estos sistemas en entornos reales.

La importancia de la intervención humana radica en la capacidad de dirigir, validar y operacionalizar estos sistemas de IA, lo que puede determinar su eficacia en la detección de vulnerabilidades y la creación de exploits. Esto sugiere que la seguridad cibernética basada en IA puede depender menos de la autonomía total y más de la colaboración entre humanos y máquinas.

Empresas como Palo Alto Networks han compartido sus experiencias con estos modelos, encontrando 75 vulnerabilidades utilizando tanto los modelos de Anthropic como los de OpenAI, en comparación con las 5-10 vulnerabilidades que suelen detectar cada mes. Además, se ha encontrado que estos modelos son capaces de enlazar vulnerabilidades de baja severidad en cadenas de ataques viables.

La capacidad de estos modelos para detectar y explotar vulnerabilidades tiene implicaciones significativas para la seguridad cibernética. Empresas y gobiernos de todo el mundo están buscando acceder a estos modelos para comprender mejor las amenazas que podrían enfrentar cuando capacidades similares caigan en manos de atacantes. La efectividad de estos modelos en la detección de vulnerabilidades y la creación de exploits puede revolucionar la forma en que se aborda la seguridad cibernética, pero también subraya la necesidad de una colaboración estrecha entre humanos y sistemas de IA.