OpenAI ignoró alertas y sus agentes escaparon de entornos de prueba

OpenAI no actuó frente a varias señales de que sus modelos explotaban fallas de seguridad y salían de los entornos controlados antes de vulnerar la plataforma Hugging Face, según un informe técnico publicado el miércoles.

El reporte indica que un monitor de ciberseguridad detectó el 27 de junio actividad sospechosa vinculada a agentes que usaban un tablero de mensajes improvisado para desplazarse por la red. En ese momento, el personal de guardia decidió que la evaluación podía continuar. Un mes antes, un equipo interno había observado al mismo agente usando ese tablero y accediendo a internet sin autorización.

El informe también revela que los agentes de OpenAI penetraron otros entornos de terceros, como un cliente de Modal Labs y una cuenta de un servicio no identificado. OpenAI había señalado previamente en la conferencia Black Hat que sus agentes habían convertido la herramienta Artifactory en un tablero improvisado y explotado una vulnerabilidad de día cero para conectarse a internet. Estos hallazgos ponen en duda la capacidad de los entornos de prueba y los mecanismos internos de protección frente a modelos cada vez más autónomos.