La conferencia de la ONU de este mes se considera un momento clave después de años de discusiones sobre cómo llenar el vacío en la gobernanza de los sistemas de IA.
Los planes para llenar un vacío en la gobernanza global de las armas autónomas están en peligro a medida que un grupo de naciones lideradas por Rusia y Estados Unidos intentan utilizar una conferencia de la ONU este mes para bloquear propuestas para negociar un conjunto de reglas legalmente vinculantes.
La magnitud de la oposición quedará clara en una retirada diplomática que comenzará el viernes antes de la séptima conferencia de revisión de “ciertas armas convencionales” en Ginebra, a la que asistirán 128 países del 16 al 20 de noviembre.
La conferencia de revisión es vista como el momento clave en el que el mundo podría decidir si respalda un mandato para negociar un instrumento jurídicamente vinculante negociado dentro de un calendario definido. Es ampliamente reconocida la velocidad con la que se desarrollan y utilizan armas autónomas en la guerra.
Anna Hehir, jefa de gobernanza militar de la IA en el Future of Life Institute, una organización independiente sin fines de lucro, dijo: "Los Estados nunca han estado más cerca de lanzar un acuerdo global sobre armas de IA. Gran parte del trabajo duro ya se ha hecho y los estados ahora han acordado por consenso elementos de un borrador de texto de tratado que sería la base para el inicio de las negociaciones.
"Pero probablemente veremos a algunos Estados esconderse detrás de un lenguaje que tiene un barniz de progreso pero que aboga por una continuación de interminables debates sobre medidas voluntarias que no tienen fuerza. Las propuestas de más años de debates sobre medidas no jurídicamente vinculantes son cortinas de humo para mantener los sistemas de armas autónomos sin regulación y los Estados sin rendir cuentas por su uso".
Se han llevado a cabo discusiones sobre el tema dentro de la ONU durante casi tres años, pero Rusia, Estados Unidos e Israel, entre otros, están presionando para que la conferencia de revisión establezca un calendario para un instrumento jurídicamente vinculante.
En una intervención programada para influir en la conferencia de revisión, el Papa León XIV destacó que las decisiones relacionadas con la vida humana nunca podrían confiarse a las máquinas. Dijo: "Las decisiones que afectan la vida humana, la libertad y el uso de la fuerza siempre deben estar sujetas a una supervisión humana efectiva, informada y responsable. Por esta razón, la inteligencia artificial debe ser 'desarmada', y aliento a los estados que se reunirán en Ginebra en noviembre a tomar medidas concretas para prohibir las armas letales autónomas".
Human Rights Watch y el grupo de campaña Stop Killer Robots sostienen que se ha demostrado que los sistemas de armas, asistidos por inteligencia artificial, se comportan de manera impredecible, lo que aumenta el riesgo de errores fatales y campos de batalla que escapan al control humano.
El Comité Internacional de la Cruz Roja (CICR) dijo el jueves: "Ha llegado el momento de pasar del debate a la negociación sobre nuevas normas internacionales para regular los sistemas autónomos. El mundo no puede permitirse más retrasos".
En julio, Ucrania informó por primera vez que Rusia había utilizado un dron guiado por IA que impactó contra un tanque de propano en una estación de combustible en Zaporizhzhia. El presidente ucraniano, Volodymyr Zelenskyy, advirtió sobre la velocidad del desarrollo de armas de IA y pidió que se ponga fin a la guerra de Ucrania antes de que la IA se apodere del campo de batalla.
El 22 de octubre, una coalición de 50 estados, entre ellos Irlanda, Italia, Brasil, México, Francia y Alemania, convocó a la conferencia para acordar un estricto mandato de negociación. El CICR informó por separado que más de 70 estados apoyaron el inicio de negociaciones sobre un instrumento legal.
El Reino Unido no respaldó la declaración irlandesa y anteriormente ha argumentado que el derecho internacional humanitario existente es base suficiente para la regulación de tales armas.
El grupo liderado por Irlanda propuso un mandato que sería acordado en la conferencia de revisión que establecería un grupo de expertos de tiempo limitado encargado de negociar las reglas necesarias durante tres sesiones en Ginebra en 2027, por un total de 25 días. Se exigiría al grupo que presente un informe que contenga el borrador del protocolo en la reunión anual de ese año, que se espera que tenga lugar más adelante en 2027.
En septiembre, un informe de un grupo de expertos de la ONU preparado para la conferencia de revisión de Ginebra intentó definir las cuestiones morales en juego respaldando los llamados generales al juicio y control humanos en el uso de tales armas, así como límites al alcance y amplitud con el que se les permite operar.
El gobierno francés acogió con agrado las propuestas del grupo de expertos, diciendo que eran una base suficiente para que la conferencia recibiera un mandato de negociación que "prohíba los sistemas de armas completamente autónomos y regule los sistemas con funciones autónomas".
Estados Unidos está en gran medida a favor de dejar que los estados nacionales impongan sus controles de acuerdo con el derecho internacional humanitario. El Pentágono ha creado su propio grupo de trabajo sobre armas autónomas. Comités de expertos similares en Alemania están tratando de definir los principios detrás de cómo se puede ejercer el control humano sobre tales armas.
En agosto, el secretario general saliente de la ONU, António Guterres, y la presidenta del CICR, Mirjana Spoljaric, advirtieron que el mundo se estaba “acercando a una línea roja moral en la que las armas autónomas podrían matar sin participación humana”. Dijeron: “Las negociaciones deben comenzar ahora para adoptar urgentemente un instrumento jurídicamente vinculante para regular los sistemas de armas autónomos con prohibiciones y restricciones claras”.
Una encuesta reciente encargada por el Future of Life Institute encontró un apoyo abrumador a un tratado global para limitar las armas de IA entre el público de Francia, Alemania y el Reino Unido, pero cierto escepticismo de que el tratado alguna vez sea respetado.
En total, 163 Estados votaron en el Comité de Desarme y Seguridad Internacional de la ONU que estaban dispuestos a iniciar negociaciones. Se enfrentarán a una enorme presión para dar marcha atrás y conformarse con resultados que mantengan la cuestión estancada. Se sabe que los acuerdos multilaterales de control de armas se logran cuando las mayorías interregionales resisten la presión y salen de la parálisis del consenso.
El grupo de trabajo de expertos definió las armas autónomas como aquellas armas “capaces de identificar, seleccionar y atacar un objetivo sin necesidad de remitir el asunto a un ser humano”.
El último ejemplo del uso indebido de la IA en la guerra fue el bombardeo estadounidense de una escuela en Minab, Irán, el 28 de febrero, en el que murieron al menos 175 personas. El objetivo incluyó información del sistema de inteligencia artificial Maven operado por Palantir. Según se informa, Maven no señaló que el sitio ahora era una escuela, ni ningún personal encargado de revisar los datos de los objetivos de IA. Una ventaja de la IA es que es mucho más rápido al comprobar una lista de objetivos, pero nadie se dio cuenta de que este objetivo había sido una escuela durante 10 años.
