En Ginebra, la firma de la Declaración conjunta contra el uso de la IA en guerra

Valerio Palombaro – Ciudad del Vaticano

La guerra, acelerada por la inteligencia artificial (IA), se está convirtiendo en un medio para autorizar asesinatos rápidos y a gran escala, mientras que actualmente no existen soluciones técnicas ni procedimentales para prevenir las consecuencias letales y devastadoras que plantean estos cambios al derecho internacional. Ante este preocupante contexto, el Consejo Mundial de Iglesias (CMI), junto con otras 225 ONG, asociaciones, expertos y personas que trabajan en el sector, ha firmado una declaración conjunta contra el uso de la IA en la guerra.

La reunión de la ONU en Ginebra

El documento insta explícitamente a las empresas dedicadas al desarrollo de IA y a los Estados a que dejen de suministrar sistemas de IA para su uso en la cadena de ataque militar y a que adopten todas las medidas necesarias para garantizar que otros sistemas de IA que suministren no causen ni contribuyan a violaciones del derecho internacional humanitario ni del derecho internacional de los derechos humanos.

La firma de esta declaración conjunta se produce en Ginebra del 15 al 17 de junio, reunión organizada por la Oficina de Asuntos de Desarme de las Naciones Unidas sobre la IA en el ámbito militar y sus implicaciones para la paz y la seguridad internacionales. Se trata de un importante acontecimiento internacional, que tiene lugar pocas semanas después del llamamiento del Papa León XIV a desarmar la IA en la encíclica Magnífica Humanidad.

El riesgo de «diluir» la responsabilidad humana

Según la declaración conjunta, todas las empresas, incluidas aquellas que contratan con agencias militares gubernamentales, «deben adoptar todas las medidas posibles para garantizar que sus productos y servicios no causen, contribuyan ni estén directamente vinculados a violaciones de derechos humanos y crímenes internacionales». Asimismo, «cuando las empresas no puedan prevenir o mitigar significativamente dichos riesgos, no deben celebrar ni ejecutar dichos contratos».

De acuerdo con diversos informes de prensa y declaraciones oficiales del Pentágono, la declaración afirma que «la rápida generación de objetivos mediante herramientas de IA ha incrementado la velocidad, el alcance, la intensidad y la fuerza destructiva de los ataques estadounidenses contra Irán». Se pueden hacer valoraciones similares respecto a los sistemas utilizados por el ejército israelí. Todos estos sistemas diluyen la «responsabilidad humana en decisiones de vida o muerte» y «podrían ayudar a ocultar crímenes internacionales tras una apariencia de aparente objetividad algorítmica, eludiendo así la rendición de cuentas».

Una deriva inhumana

«Las aplicaciones en el mundo real indican que la IA está facilitando métodos de guerra más violentos, deshumanizantes y destructivos», denuncian los 226 firmantes de la declaración, entre los que se incluyen ONG como Amnistía Internacional y organizaciones locales que trabajan contra el rearme. «En particular, nos preocupa profundamente que el uso de modelos de combate de largo alcance (MLL) para la generación y priorización de objetivos esté empujando a los actores militares hacia una forma de guerra en la que los principios fundamentales del derecho internacional humanitario —incluidos los principios de distinción, proporcionalidad y precaución— no se respetan, y probablemente no puedan respetarse lo suficiente.

Dada la velocidad y el alcance de estas tecnologías, así como la falta de fiabilidad, el sesgo y la procedencia a menudo ilegal de los datos de entrada, sostenemos además que esta dinámica corre el riesgo de facilitar violaciones de los derechos humanos, crímenes de lesa humanidad y crímenes de guerra. Además, la opacidad que caracteriza el uso de estas herramientas compromete seriamente la capacidad de atribuir responsabilidad moral o legal en caso de errores».

Control humano efectivo

Según los firmantes de la declaración, «incluso cuando los sistemas de IA utilizados para la selección de objetivos no toman la decisión final de matar, corren el riesgo de convertirse en mecanismos de aprobación automática para asesinatos a gran escala, ya que apelan a falsas nociones de objetividad y pueden suplantar la rendición de cuentas y la debida diligencia, lo que en última instancia puede contribuir a acelerar y facilitar las matanzas masivas».

Estos sistemas también automatizan la deshumanización, «reduciendo cuestiones de vida o muerte a una simple pregunta de chat. La decisión de matar a otro ser humano», enfatizan, «tiene graves implicaciones morales y legales y nunca debe delegarse a la mera aceptación o rechazo de las recomendaciones de los sistemas de IA. Cuando las fuerzas armadas confían en la IA para acelerar la identificación de objetivos con tal rapidez y estandarización que cualquier revisión humana corre el riesgo de convertirse en una mera formalidad desprovista de una supervisión humana efectiva, la matanza masiva puede ocurrir, y a menudo ocurrirá, en violación directa del principio de precaución consagrado en el derecho internacional humanitario».

Mayor rendición de cuentas y transparencia

La declaración firmada en Ginebra insta explícitamente a las empresas del sector a abstenerse de celebrar contratos con organismos militares o grupos armados que cometan posibles violaciones del derecho internacional, incluidas violaciones de los derechos humanos y crímenes atroces. En cambio, se pide a los Estados que cesen el uso de herramientas de IA, incluidos los modelos lingüísticos a gran escala, en la realización de operaciones militares de selección de objetivos y garanticen el cumplimiento de los principios del derecho internacional humanitario y del derecho internacional de los derechos humanos, así como que aseguren la transparencia sobre cómo se está utilizando actualmente la IA en la conducción de las hostilidades.