Los países enfrentan el desafío de regular los "robots asesinos": ONU
Fueron 163 Estados los que aprobaron el 29 de octubre una resolución de la ONU para negociar normas sobre armas autónomas
¿Debería prohibirse que las máquinas tomen decisiones? El tema se debatirá la próxima semana en la ONU, donde una mayoría de países se muestra a favor de establecer normas vinculantes, frente a un puñado que se opone, incluido Estados Unidos.
Los sistemas de armas autónomas (SALA), conocidos como "robots asesinos", eligen y atacan a sus objetivos sin control humano.
Riesgos de la IA en combate
"La necesidad de regular las armas autónomas se ha vuelto urgente", afirmó Laurent Gisel, jefe de la Unidad de Armas y Conducción de las Hostilidades del Comité Internacional de la Cruz Roja (CICR), en referencia a los avances en inteligencia artificial, que han demostrado que los agentes de IA pueden sobrepasar sus prerrogativas.
La campaña Stop Killer Robots, una coalición mundial de más de 300 organizaciones, reclama normas vinculantes desde 2013. Sin embargo, la tecnología que permite automatizar determinadas funciones militares ya se utiliza en los campos de batalla, especialmente en Ucrania y en Oriente Medio.
La campaña advierte que, como los sistemas de armas autónomos son relativamente baratos de fabricar, pueden multiplicarse rápidamente. Estas tecnologías preocupan, sobre todo, por los riesgos de ataques indiscriminados y la ausencia de responsabilidad humana.
"La tecnología es imperfecta y comete errores, algo que estamos dispuestos a tolerar en nuestra vida cotidiana. Pero en el campo de batalla, un error puede ser un asunto de vida o muerte", sostuvo Mary Wareham, de la organización no gubernamental Human Rights Watch.
Votos divididos y negociaciones arduas
La próxima semana, en Ginebra, la séptima conferencia de revisión de la Convención sobre ciertas armas convencionales (CCAC) reunirá a sus 128 Estados para decidir, por consenso, la apertura de negociaciones para un instrumento jurídicamente vinculante. Las negociaciones se anuncian arduas.
A principios de septiembre, Brasil, en nombre de 47 Estados, y Argelia, en el de los países africanos, hicieron un llamamiento a favor de normas vinculantes. El 22 de octubre, 50 países, entre ellos Francia, consideraron a su vez "urgente" establecer un control humano sobre el uso de la fuerza.
El 29 de octubre, 163 Estados aprobaron una resolución en la Asamblea General de la ONU que insta a negociar normas sobre las armas autónomas. Cinco países votaron en contra (Estados Unidos, Rusia, Israel, Corea del Norte y Bielorrusia) y nueve se abstuvieron, entre ellos Irán, China y Arabia Saudita.
Laure de Roucy-Rochegonde, del Instituto Francés de Relaciones Internacionales (Ifri), considera que China mantiene una ambigüedad calculada. Según explicó:
"Se declara favorable a un instrumento jurídicamente vinculante 'cuando las condiciones hayan madurado'".
Paralelamente, Washington propuso a principios de octubre un proceso de cinco años para elaborar un instrumento no vinculante, mientras que las ONG y el CICR reclaman un plazo de un año. Además, Rusia ha emprendido una batalla procesal para impedir que la Unión Europea denuncie la guerra en Ucrania durante la conferencia de Ginebra, lo que podría obstaculizar su celebración.
En 2023, el secretario general de la ONU, Antonio Guterres, y la presidenta del CICR, Mirjana Spoljaric Egger, hicieron un llamamiento a los Estados para que prohibieran las armas autónomas antes de 2026. El Papa León XIV también ha sumado su voz a la lucha.
El CICR insta a prohibir dos categorías: las "armas autónomas imprevisibles", cuyos efectos no se pueden prever o controlar adecuadamente, y las diseñadas o utilizadas para atacar directamente a seres humanos, denominadas "armas autónomas antipersonales".
La alta representante de la ONU para el desarme, Izumi Nakamitsu, considera urgente regular la IA militar para evitar un impacto totalmente imprevisible sobre las personas.
"El hecho de que las máquinas puedan decidir quitar una vida humana es, sencillamente, moralmente repugnante", afirmó Nakamitsu.
Beatrice Fihn, antigua directora de la Campaña Internacional para la Abolición de las Armas Nucleares (ICAN), galardonada con el Premio Nobel de la Paz, cree que se necesitaría un milagro para que los Estados alcancen un acuerdo en Ginebra sobre la apertura de negociaciones.
Las ONG plantean otra vía: recurrir a la Asamblea General de la ONU, donde las decisiones se toman por mayoría.