CEO de Anthropic: gobierno debe bloquear IA peligrosa

El CEO de Anthropic, Dario Amodei, escribió que el gobierno debería poder bloquear o disuadir la implementación de IA peligrosa. Anthropic propone un marco avanzado de IA que incluye pruebas obligatorias para riesgos relacionados con la ciberseguridad, armas biológicas, pérdida de control o investigación y desarrollo automatizados.

La propuesta de Amodei busca cambiar la política en respuesta al rápido desarrollo de la IA. También sugiere que se necesitará una regulación más agresiva en el futuro si los sistemas de IA se vuelven más amenazantes.

“La IA avanza a un ritmo vertiginoso”, escribe Amodei. “Por contraste, la política —y especialmente la legislación— se mueve muy lentamente”. La empresa también propone un marco de política económica para abordar la disruptión de la IA, que incluye cuentas de capital, seguro de salario, incentivos fiscales y una red de seguridad social ampliada.

La propuesta de Anthropic busca abordar los riesgos asociados con la IA y garantizar que su desarrollo se realice de manera responsable. La empresa busca activar un aparato de política lento y defectuoso para abordar los riesgos asociados con la IA.