Justin Haner es candidato a doctor en el Departamento de Ciencias políticas en la Universidad de Northeastern, se ha especializado en relaciones y seguridad internacional.
Denise García es doctora en Relaciones internacionales y derecho internacional.

El gasto se dispara mientras el progreso se estanca: ¿dónde está el debate público sobre la inteligencia artificial letal y el desarrollo de sistemas de armas autónomas?

Las Naciones Unidas han hecho poco ante el desarrollo letal de los sistemas de armas autónomos (SAA), en los últimos cinco años. Estados Unidos, China, Rusia, Corea del Sur y la Unión Europea han realizado inversiones masivas para incrementar el uso de armas basadas en Inteligencia Artificial (IA).

El mercado de SAA crece a gran velocidad y ya que usualmente los avances tecnológicos se desarrollan bajo un perfil político bajo, es fundamental iniciar la discusión sobre los “robots asesinos”. La industria podría potenciar al terrorismo, incrementar el poder de los gobiernos autoritarios, socavar la paz democrática y ser vulnerable al sesgo, el hackeo y el mal funcionamiento. Las consecuencias pueden ser devastadoras.

La autonomía en los sistemas de armas está siendo agregada principalmente al control humano, desde la planeación de objetivos hasta la ejecución; la tendencia continuará mientras surgen dilemas morales.

Proyecciones de las tendencias actuales en IA y el desarrollo de SAA

Siguiendo la Ley de Moore y con el descenso de los costos de producción, se espera que pronto Estados y no-Estados produzcan robots asesinos, entonces la rendición de cuentas se volverá más difícil en tanto se sumen actores internacionales y SAA letales. Por ejemplo, los rebeldes de Houthi, el ISIS y el Boko Hará, ha adaptado drones para fines terroristas.

El mercado se encuentra en expansión, más allá de la reducción de costos, los SAA reducen la distancia entre el atacador y el objetivo, al mismo tiempo que aumenta la precisión (impacto de muerte y miedo) y disminuye la probabilidad de ser atrapados. También son preferidos porque los sistemas de seguridad basados en IA conllevan costos más altos, debido a la necesidad de diferenciar e identificar seguramente a los objetivos.

En cuanto a los Estados, los sistemas de monitoreo de IA pueden intensificar la tendencia global del desliz democrático y del uso de soldados robot. En China alrededor de 70 ciudades están siendo usadas para moldear el comportamiento mediante los sistemas del crédito social, sin mencionar que el país ha tenido más de 30 reuniones con otros países para la búsqueda de herramientas de monitoreo y control de la opinión pública. Se debe reconocer la tendencia de la IA en el autoritarismo, para vigilar a todos los ciudadanos.

Por otro lado, se espera que 85% de los proyectos de IA tenga errores debido al algoritmo, el sesgo de los programadores o el sesgo que tiende a discriminar a los grupos minoritarios pudiendo sobreestimar al objetivo o crear falsos positivos mientras los sistemas de reconocimiento facial se integran a las armas de guerra.

Además, los sistemas IA pueden ser fácilmente hackeados, contener errores de código o actuar en formas diferentes de las que los programadores predijeron. Se estima que el gasto militar mundial en SAA e IA se sitúe entre 16 y 18 miles de millones de dólares para 2025.

Los cinco líderes mundiales en el desarrollo de armas autónomas letales letal de armas autónomas

El desarrollo de armas letales en Estados Unidos, Rusia, China, Corea del Sur y la Unión Europea se examina a partir de tres componentes: los intentos específicos de cada país de desarrollar SSA, la capacidad general y el historial de cada actor con respecto al desarrollo de hardware de armas letales automatizadas de última generación, y el cultivo de los conocimientos de software de inteligencia artificial necesarios.

Estados Unidos

Este país tiene el presupuesto de defensa más grande del mundo, incluso combinando el gasto militar de China, Rusia, Corea del Sur y los 28 países de la Unión Europea. No es de extrañar que sea el líder en el desarrollo de SSA.

La autonomía es un componente clave en la estrategia de seguridad desde 2012. Para 2010 Estados Unidos había invertido 4 mil de millones de dólares (mmd) en investigación de SSA, para 2020 la inversión en el desarrollo de autonomía en los sistemas de armas ascendió a 18 mmd. Además, el país posee la mayor cantidad de empresas de inteligencia artificial en el mundo, tiene el primer lugar en las publicaciones de textos de IA, es el mayor tenedor de patentes de IA y solicitudes en la misma área, así como, es el país con mayor reserva de investigadores con talento en IA.

Sin embargo, solo 25% de los ciudadanos estadounidenses confía en la IA y algunas empresas se han negado a desarrollar tecnología IA para propósitos militares.

China

Es el competidor con mayor potencia en ascenso en la carrera de SSA letales. En parte, se debe a que cuenta con 70% de la aprobación de la población del uso de IA y a que el gobierno ejerce presión sobre las empresas para la transferencia de tecnología al Estado.

La capacidad de China para el desarrollo de armas inteligentes es alta, anualmente la industria cuenta con un presupuesto de 250 mmd, para 2021 el presupuesto de tecnología de drones se espera aumente en 4.5 mdd.

Los planes del país es ser el líder en el desarrollo de IA para 2030. Un medio para alcanzar dicho objetivo es el controversial método de propiedad privada que garantiza los saltos tecnológicos. No obstante, la reserva de investigadores con talento en IA es cinco veces más pequeña que en Estados Unidos y Europa.

En algunas medidas, China ha superado a Estados Unidos. Por ejemplo, entre 2011 y 2015 China publicó el doble de textos relacionados con la IA, y de 2013 a 2018 los proyectos de IA recibieron más del doble de inversión y financiamiento que en Estados Unidos, se estima dichos recursos son alrededor del 60% del financiamiento global en estas áreas.

Rusia

Vladimir Putin, presidente de Rusia, ha declarado que aquel país que sea el líder en IA será el gobernador del mundo, descaradamente, el país espera remover a los humanos de la toma de decisiones y no adherirse a ninguna norma internacional relacionada con el uso de los SSA.

Para 2020, Rusia planea tener sistemas autónomos que vigilen sus sistemas de armas y pretende que 30% de su poder de combate sea parcial o totalmente autónomo para 2030.

En cuanto a gasto militar, Rusia intenta gastar tanto como China. En 2021 el presupuesto para robots militares es de 346 mmd, sin embargo, el gasto militar en IA es de 12.5 millones de dólares, tan solo 0.01% del presupuesto de IA de Estados Unidos. Las sanciones internacionales pueden haber influido en el recorte presupuestal de defensa, de 2017 a 2018 la tasa de crecimiento del mimo cayó de 7% a 3.25%, para alcanzar una tasa de 4.8% en 2019.

Corea del Sur

Quizá uno de los competidores más fuertes, cuando hablamos de armas centinela autónomas es el líder. Posee la concentración más alta de robots en el mundo y su población no tiene problema alguno con los robots, aunque solo 17% confía en la IA.

La introducción de procesos autónomos en la industria y en el ejército obedece al descenso en las tasas de crecimiento de la población que obligan a rellenar vacíos en la producción y el sistema de defensa. Anualmente, Corea del Sur gasta 41 mmd en defensa nacional.

Por otro lado, el fabricante de armas coreano DoDAAM desarrolló el Super aEgis II, una torreta centinela de largo alcance que puede detectar, rastrear y atacar objetivos de forma autónoma, dicha tecnología ha sido vendida a Emiratos Árabes y Qatar.

Finalmente, destina alrededor de mil millones de dólares a la investigación de IA, posee 70 mil patentes de IA, y ha publicado más de 50 mil textos de IA. Adicionalmente, cuenta con más de 2 mil expertos en IA.

Unión Europea

Con la combinación de las economías, la Unión Europea podría convertirse en el mayor fabricante y desarrollador de SSA en el mundo. No obstante, dentro del bloque económico los intereses de los países difieren.

Por una parte, Francia, Alemania, Suecia, Italia y Reino Unido han estado desarrollando sistemas robóticos de autonomía militar, por otra, Austria se ha unido a una campaña para detener los robots asesinos, mientras que muchos países permanecen indecisos. El Parlamento europeo mantiene una postura a favor de que los humanos mantengan el control en la toma de decisiones de los sistemas letales de armas.

La Unión Europea tiene el segundo presupuesto más grande de defensa del mundo, siendo de 281 mmd, se espera que aumente en 8 mmd en 2021. En algunas métricas, la Unión Europea ha superado a Estados Unidos, ya que el primer emisor de publicaciones de IA con 425 mil, es el segundo en cuanto a patentes, 233 mil, y tiene la mayor reserva de investigadores de IA.

"Si la experiencia y la capacidad combinadas de los Estados miembros pueden ser puestas en común de manera efectiva a través del nuevo Fondo Europeo de Defensa, la Unión Europea podría emerger como el actor dominante en la carrera armamentística de la IA y los SSA".

Acabar con la carrera armamentística de la inteligencia artificial con una prohibición de los robots asesinos

Algunos datos señalan que el debate público comienza a tomar presencia, aunque aún no es suficiente. En más de de veinte países, 61% de los ciudadanos se oponen al desarrollo letal de SSA, sin mencionar que cada año miles de millones de dólares de impuestos son orientados en este tipo de desarrollos.

En Francia, Alemania y otras economías avanzadas se ha iniciado la Convención de Ciertas Armas, que pretende establecer un código de conducta para fomentar que el desarrollo de los SSA se mantenga de acuerdo con el derecho internacional existente. También se ha identificado que en más de 28 Estados se ha pedido prohibir los robots asesinos, y han surgido movimientos sociales con el fin de negociar un nuevo tratado internacional que establezca límites a la matanza robótica.

Estados Unidos con la política de “América primero” no pretende emprender acciones por el momento, por ello la Unión Europea debería liderar la creación de normas globales en el uso de los SSA.