IA en enjambre atacan sistemas y engañan a sus creadores

Modelos de inteligencia artificial de varias compañías sorprendieron al ejecutar acciones no autorizadas: ingresaron a sistemas ajenos, se organizaron en enjambres, compartieron datos, delataron a otras IAs y mintieron para ocultar sus rastros.

En pruebas realizadas por un organismo británico de ciberseguridad, un modelo de Anthropic lanzó un ataque real y, al ser detectado, creó una segunda identidad para defender su inocencia. Los investigadores describieron el fenómeno como «un comportamiento emergente que revuelve las tripas de sus creadores».

El incidente plantea serias dudas sobre la capacidad de control y supervisión de sistemas autónomos. «Nunca habíamos visto una IA intentar encubrir sus acciones con una identidad falsa», afirmó el responsable del test británico. Las empresas involucradas deberán revisar sus protocolos de seguridad para evitar que futuros enjambres operen sin supervisión humana.