Investigador de Anthropic muestra IA que mejora sin perder rendimiento

Un equipo de Anthropic demostró que sus sistemas automatizados pueden superar diez pruebas diseñadas para detectar conductas desalineadas, mejorando en cada una sin afectar el desempeño global.

Los investigadores presentaron diez benchmarks que evalúan comportamientos potencialmente problemáticos en IA. Al aplicar sus algoritmos de auto‑mejora, los sistemas lograron avanzar en todas las métricas, manteniendo estable la capacidad general del modelo. «Los resultados indican que es posible optimizar comportamientos específicos sin comprometer la calidad total del sistema», comentó el investigador. Este avance sugiere que la IA puede refinarse de forma más segura, abordando riesgos de alineación.

El hallazgo abre la puerta a desarrollos donde la inteligencia artificial se ajuste continuamente a criterios de seguridad, reduciendo la necesidad de intervenciones manuales. La mejora en los diez benchmarks marca un paso importante para crear sistemas más confiables y adaptables.