OpenAI detiene entrenamientos de su modelo Astra por capacidades críticas

OpenAI ha detenido entrenamientos de su próximo modelo Astra tras detectar capacidades cibernéticas críticas.

El creador de ChatGPT explicó que el modelo «critical» llevó a la compañía a suspender una cantidad significativa de ejecuciones de entrenamiento mientras refuerza sus salvaguardas internas.

Esta decisión refleja la creciente preocupación por la seguridad de la inteligencia artificial y la necesidad de protocolos rigurosos para evitar que los sistemas desarrollen comportamientos no deseados.

El anuncio llega en un momento en que la industria tecnológica debate la regulación de la IA, y OpenAI se posiciona como pionera al tomar medidas proactivas para proteger a usuarios y la sociedad. Al detener los entrenamientos, la compañía busca evitar que el modelo aprenda y despliegue tácticas que puedan comprometer la seguridad digital, un riesgo que ha sido objeto de preocupación en la comunidad de desarrolladores.