Debemos detener las nuevas armas robóticas

Cita: 

Bunet, Pere [2018], “Debemos detener las nuevas armas robóticas”, El País, Madrid, 25 de octubre, https://blogs.elpais.com/paz-en-construccion/2018/10/debemos-detener-las...

Fuente: 
Otra
Fecha de publicación: 
Viernes, Octubre 25, 2019
Tema: 
El debate sobre los sistemas militares robóticos
Idea principal: 

La campaña internacional Stop Killer Robots para detener a los robots asesinos inició en Londres en abril de 2013. Es respaldada por una agrupación internacional de entidades que tienen como objetivo prohibir de forma preventiva las armas totalmente autónomas. En 2018, durante la sexta reunión de la Convención sobre Armas Convencionales (CCAC) de la ONU, los Estados participantes propusieron iniciar negociaciones para definir un nuevo tratado que estableciese la prohibición preventiva del desarrollo y uso de sistemas de armas autónomas letales; Estados Unidos y Rusia rechazaron y vetaron la iniciativa. Los 88 Estados participantes, que mayoritariamente estuvieron de acuerdo sobre la regulación y control humano sobre los sistemas armados y el uso de la fuerza no lograron proceder y alcanzar su objetivo.

El autor, Pere Brunet, propone cuatro reflexiones al debate sobre los sistemas militares robóticos y sobre la aplicación preventiva de las armas autónomas letales.

La primera reflexión cuestiona la ética de los sistemas robóticos. El problema estipulado considera que el uso de armas autónomas a distancia desaparece la posibilidad del contacto visual con el enemigo, con lo que decrece la percepción del costo humano del posible ataque. A pesar de que no hay un registro que afirme el uso de estas armas en operaciones militares, ya existen sistemas que detectan y deciden a sus objetivos, aunque existe la posibilidad de detener su ataque a través de un operador. El debate ético se concentra en los sesgos que las máquinas generan en los procesos humanos de decisión ya que estos sistemas generan un fenómeno conocido como “sesgo de automatización” que permite que el operador acepte las soluciones propuestas por los robots sin complementar la información.

La segunda reflexión implica la imprecisión de las armas robóticas. Los daños colaterales que pueden provocar, a pesar de que los nuevos sistemas estén basados en algoritmos heurísticos de aprendizaje incluye un error que se traduce en la muerte de civiles.

En tercer lugar, el impacto comercial de las armas es exorbitante. Este aspecto cuestiona el conflicto entre economía y ética, pues diversos gobiernos justifican la compra-venta de este tipo de armas para garantizar el negocio de los complejos militar-industrial y de corporaciones financieras involucradas. En efecto, los sistemas robóticos son un negocio muy rentable para inversionistas.

Por último, existe un desequilibrio en la cobertura por parte de los medios de comunicación en relación con los daños colaterales que este tipo de armas ocasiona. Según Ben Emmerson en el informe A/HRC/25/59 a la Asamblea General de la ONU, entre 2009 y 2013, Estados Unidos realizó 86 operaciones letales en Yemen con drones dirigidos a distancia y otros medios, que produjeron 500 víctimas. Incluso sectores conservadores estiman que al menos un tercio de las muertes causadas por drones en Pakistán han sido no combatientes.

Stop Killer robots y otras asociaciones se oponen al desarrollo de sistemas de armas, debido a la selección de objetivos sin intervención humana. Argumentan que permitir esto sería abominable e inmoral con consecuencias para la población civil. Algunos sectores de la comunidad científica se han unido negándose a investigar y desarrollar este tipo de sistemas de armas, oponiéndose a la simple idea de programar máquinas para matar seres humanos.

Nexo con el tema que estudiamos: 

El desarrollo de sistemas militares robóticos representa un problema político que cuestiona las capacidades de decisión por parte de los robots al momento de elegir sus objetivos. Los daños colaterales son cuantificables y la preocupación de la comunidad internacional está dispuesta a regular y controlar este tipo de armas. No obstante, los beneficios económicos que representan podrían llevar a los inversionistas y la industria militar a ignorar cualquier intento de obstrucción que afecte la compra y venta de sistemas militares robóticos. Así mismo, esto representa una nueva dinámica de la guerra que incorpora a los robots al campo de batalla.