OpenAI pausa modelo Astra por riesgos de seguridad, Anthropic no se detiene

OpenAI anunció este martes la suspensión temporal del desarrollo de su próximo modelo Astra tras detectar posibles riesgos críticos de ciberseguridad. La medida se produce pocos días después de que Anthropic reafirmara que sus salvaguardas son suficientes y que no necesita detener sus propios modelos.

El CEO Sam Altman escribió en X que la empresa actuaría si las capacidades del modelo superaran el ritmo de seguridad y alineación, señalando que Astra mostraba indicios de desalineación. Por su parte, Anthropic declaró que, siempre que se cumpla lo dispuesto en su informe de 186 páginas, no sería necesario pausar sus modelos más avanzados.

Esta divergencia pública entre los dos laboratorios líderes marca una ruptura en la forma de gestionar los riesgos de IA, lo que podría traducirse en calendarios de lanzamiento diferentes mientras ambos se preparan para sus próximas ofertas públicas iniciales.