Anthropic advierte riesgos al llevar agentes de IA al mundo físico

Anthropic dice que la automatización de investigación científica y manufactura con IA abre oportunidades, pero también nuevos riesgos al operar en entornos reales.

La empresa de IA explica que los agentes deben seguir un «estándar de comportamiento» que incluya seguridad, interpretabilidad y control humano. «Queremos que los sistemas sean útiles sin comprometer la seguridad de las personas o la integridad de los procesos», afirmó el portavoz de Anthropic. Señala que, a diferencia de los modelos que solo generan texto, los agentes físicos pueden manipular objetos, mover equipos y ejecutar experimentos, lo que aumenta la complejidad de su supervisión.

Anthropic propone pruebas rigurosas antes de desplegar cualquier agente en fábricas o laboratorios, y sugiere marcos regulatorios que obliguen a auditorías continuas. El objetivo es equilibrar la productividad con la prevención de accidentes o usos indebidos, concluye la compañía.