«Declaración de Roma»: un compromiso sobre las armas nucleares y la IA

Benedetta Capelli – Ciudad del Vaticano

«La humanidad se encuentra en un momento decisivo de su historia». Así comienza la «Declaración de Roma por una paz desarmada y desarmante en la era de la inteligencia artificial, las armas nucleares y autónomas, los nuevos protocolos digitales y los modelos emergentes de desarrollo digital», firmada en la mañana de 16 de julio, en el Campidoglio, en Roma, al término de los dos días de reuniones celebradas en el Borgo Laudato si’ bajo el título: «Asamblea Global de los Premios Nobel sobre Inteligencia Artificial y Guerra Nuclear». Un evento que contó con la participación de premios Nobel, destacados expertos en inteligencia artificial, antiguos jefes de Estado y de Gobierno, y representantes de algunas de las universidades e instituciones de investigación más importantes e influyentes del mundo.

«Un desafío sin precedentes» es el que se está viviendo, se lee en el texto, que nos interroga a todos porque, sobre todo, la inteligencia artificial ofrece grandes oportunidades, pero es probable que «provoque una pérdida masiva de puestos de trabajo y acentúe la competencia económica entre las potencias nucleares». Al concentrarse además en las manos de un reducido número de países y grandes empresas, la IA puede provocar profundas asimetrías de poder. Por último, al desarrollarse a una velocidad sin precedentes, está destinada «a producir transformaciones económicas, militares y sociales de gran alcance». En la declaración también se subraya que la creciente carrera armamentística nuclear va de la mano de «una carrera por la inteligencia artificial igualmente peligrosa». Por lo tanto, acogiendo la invitación del Papa León a perseguir «una paz desarmada y desarmante», se pretende rechazar la idea de que la seguridad se base en el miedo, el dominio, la amenaza y la destrucción mutua.

En interés de la humanidad

En los seis puntos que componen el texto se invita a «desactivar la próxima carrera armamentística, tanto en el ámbito de la inteligencia artificial como en el nuclear, antes de que sean estas las que determinen el rostro del próximo siglo». Se hace un firme llamamiento a los desarrolladores de sistemas de inteligencia artificial para que actúen en interés de la humanidad, «respetando el derecho internacional y los derechos humanos». De ahí el llamamiento a las organizaciones y a los gobiernos para que supervisen los procesos totalmente automatizados en los sistemas de inteligencia artificial.

Un tratado internacional para los sistemas de control de la IA

«La decisión final de emplear un arma nuclear —se lee en la declaración— nunca debe confiarse a un sistema automatizado». Por lo tanto, se pide la adopción de «un tratado internacional que prohíba la integración irresponsable de la inteligencia artificial en los sistemas de mando, control y lanzamiento de armas nucleares, garantizando que siempre se mantenga un control humano efectivo y significativo». En esencia, se trata de impedir un uso malintencionado de la IA en operaciones cibernéticas y en ataques contra infraestructuras nucleares. «Promovemos el desarrollo y el uso responsable de la inteligencia artificial —se afirma— para mejorar el bienestar humano, acelerar el progreso científico y médico, proteger el medio ambiente, reforzar la resiliencia de las sociedades y promover la paz, el desarrollo sostenible y el bien común».

Crear un bien común digital

Los últimos puntos se refieren a la necesidad de «identificar nuevas vías institucionales hacia una gobernanza global de la inteligencia artificial y para favorecer, en el futuro, la puesta en marcha de iniciativas de gobernanza global en este ámbito». Se respaldan iniciativas inspiradas en la Gran humanidad del Papa León y se apoya al Panel Científico Internacional Independiente de las Naciones Unidas sobre Inteligencia Artificial. El llamamiento de los firmantes es crear «un bien común digital» (bienes comunes digitales) que favorezca la recopilación y el intercambio de los datos necesarios para profundizar en el conocimiento y respaldar acciones eficaces en materia de armas nucleares e inteligencia artificial. De hecho, en el mundo existen múltiples amenazas interconectadas y las consecuencias suelen recaer sobre quienes no tienen acceso ni control sobre las tecnologías que las generan.

El desarme nuclear

Al final de la declaración se insta con urgencia a iniciar negociaciones para lograr «la eliminación verificable e irreversible de las armas nucleares». Se reafirman, por tanto, los compromisos suscritos en el Tratado de No Proliferación de las Armas Nucleares (TNP) y en el Tratado sobre la Prohibición de las Armas Nucleares (TPAN). De ahí la petición a los Estados de que pongan fin a la carrera armamentística, apostando por las negociaciones y por el cumplimiento de las obligaciones asumidas. «Las naciones que poseen armas nucleares —se lee— deben promover políticas y doctrinas que reduzcan progresivamente el papel de dichas armas, refuercen la estabilidad estratégica y disminuyan el riesgo de su primer uso y de una guerra con consecuencias catastróficas». «Está en juego —escriben los firmantes— nuestra supervivencia y la de las generaciones futuras».