Alerta: IA de Anthropic es demasiado potente para su lanzamiento público

La empresa estadounidense Anthropic ha anunciado que pondrá su modelo de inteligencia artificial, conocido como Claude Mythos Preview, a disposición de un consorcio de más de 40 empresas tecnológicas, incluyendo Apple y Amazon. Este lanzamiento tiene como objetivo detectar y corregir vulnerabilidades de seguridad en programas de software críticos.

El objetivo de Anthropic es crear conciencia y brindar a las empresas responsables una ventaja inicial en el proceso de protección de la infraestructura y el código, tanto de código abierto como privado. Según Jared Kaplan, director científico de Anthropic, el sistema ya es capaz de realizar investigaciones de seguridad autónomas, incluyendo la búsqueda y explotación de vulnerabilidades de día cero en programas de software críticos.

Los ejecutivos de la empresa aseguran que Claude Mythos Preview ya es capaz de realizar investigaciones de seguridad autónomas, incluyendo la búsqueda y explotación de vulnerabilidades de día cero en programas de software críticos.

La sombría advertencia sobre la IA de una de las figuras clave en su desarrollo

La empresa con sede en San Francisco anunció el martes que pondrá su nueva IA a disposición de un consorcio de más de 40 empresas tecnológicas, entre ellas Apple, Amazon y Microsoft, que lo utilizarán para detectar y corregir vulnerabilidades de seguridad en programas de software críticos.

El sistema ya es capaz de realizar investigaciones de seguridad autónomas, incluyendo la búsqueda y explotación de vulnerabilidades de día cero en programas de software críticos. Los investigadores de ciberseguridad que han tenido acceso a Claude Mythos Preview han calificado el modelo como un riesgo significativo para la ciberseguridad.