Michael T. Klare es profesor de estudios de paz y seguridad mundial en Hampshire College y autor de Resource Wars y Blood and Oil.

En el contexto de la pandemia de Covid-19, el ejército estadounidense planea delegar operaciones de combate a robots inteligentes. Tales dispositivos, llamados "sistemas de armas autónomas" incluyen centinelas robóticos, drones de vigilancia en el campo de batalla y submarinos autónomos. En la actualidad, el Pentágono pretende reemplazar no solo a los soldados y sus armas sino también a los almirantes y generales con sistemas robóticos.

Klare aclara que estos sistemas aún se encuentran en la etapa de desarrollo, pero el Pentágono podría implementarlos en el futuro (ver Dato crucial 1). El uso de máquinas para tomar decisiones de comando se puede rastrear a la Guerra Fría cuando se introdujeron los misiles balísticos intercontinentales. Los estrategas militares, al igual que los escritores de ciencia ficción y cineastas, comenzaron a imaginar sistemas que controlarían el armamento nuclear en caso de que no pudieran ser activados por personas.

Los soviéticos instalaron un sistema de represalia semiautomático al que llamaron Perimeter, diseñado para lanzar misiles balísticos intercontinentales en caso de que los sensores detectaran explosiones nucleares. Se dice que una versión mejorada de Perimeter todavía funciona.

El autor menciona que estos dispositivos eran relativamente primitivos para los estándares actuales. Gracias a las mejoras en inteligencia artificial y aprendizaje automático [machine learning], las máquinas pueden recopilar cantidades masivas de datos de sensores, detectar rápidamente tendencias o patrones clave y emitir órdenes a las unidades de combate sobre dónde atacar y cuándo.

Compresión de tiempo y falibilidad humana

Con el crecimiento exponencial en la información de los sensores y la velocidad de la guerra, realizar un seguimiento de los desarrollos cruciales del campo de batalla se vuelve casi imposible para los humanos. Por esa razón, la sustitución de humanos por máquinas inteligentes en el comando se está volviendo esencial. Solo las computadoras avanzadas podrían procesar tanta información y tomar decisiones de combate dentro del plazo necesario, lo cual cambiaría la forma del combate bélico: los datos de los sensores podrían aplicarse a cualquier forma de combate, hasta la guerra nuclear.

El autor señala el siguiente ejemplo: cuando los misiles balísticos intercontinentales eran el medio principal de tal combate, los estrategas militares tenían hasta 30 minutos entre el momento en que se lanzaba un misil y el momento de la detonación para determinar si un ataque potencial era real o falso. Con la introducción de misiles hipersónicos, el tiempo de evaluación podría reducirse a cinco minutos; por eso los sistemas automatizados de toma de decisiones son atractivos.

La idea de un dispositivo impulsado por inteligencia artificial teniendo el poder de evaluar el comportamiento del enemigo y luego, sobre la base de "opciones de respuesta predeterminadas", decidir el destino de la humanidad, ha producido cierta inquietud en la comunidad de analistas militares. Sin embargo, los estrategas estadounidenses argumentan que la evaluación del campo de batalla y la toma de decisiones, tanto para la guerra convencional como nuclear, deberían delegarse cada vez más a las máquinas.

El Servicio de Investigación del Congreso estadounidense, en un resumen de noviembre de 2019, planteaba que a medida que madura la complejidad de los sistemas de de Inteligencia Artificial, los algoritmos también pueden ser capaces de proporcionar a los comandantes un menú de cursos de acción viables basados ​​en análisis en tiempo real del espacio de batalla, lo que a su vez permite una adaptación más rápida a eventos complejos.

Según el autor, los militares seguirán tomando las decisiones definitivas de vida o muerte tanto para sus propias fuerzas como el resto de la humanidad. Sin embargo, debido a la anticipación de ataques en futuros combates de alta intensidad con China y Rusia, es posible que los militares estadounidenses ya no tengan el tiempo o la capacidad para analizar el espacio de batalla por sí mismos y, por lo tanto, dependen de los algoritmos para tales evaluaciones, volviéndose superfluos.

Creación de robots generales

Estados Unidos pretende desarrollar e implementar el comando automatizado Joint All-Domain Command-and-Control (JADC2, por sus siglas en inglés) que es supervisado por la Fuerza Aérea. Este sistema es una amalgama de dispositivos controlados por computadora para recopilar información en tiempo real sobre las fuerzas enemigas por medio de una gran cantidad de dispositivos que procesan datos de combate. Así se brindarían instrucciones de ataque precisas a cada unidad de combate y sistemas de armas del Ejército, la Armada, la Fuerza Aérea, el Cuerpo de Marines o el Comando Cibernético.

El autor observa que no se sabe en qué consistirá exactamente JADC2 porque muchos de sus sistemas componentes son secretos y parte de la tecnología esencial aún se desarrolla. La Fuerza Aérea está trabajando con Lockheed Martin y otros grandes contratistas de defensa para diseñar los componentes clave del sistema (ver Dato crucial 2).

El ejército estadounidense realizó un ejercicio de artillería con fuego real en Alemania utilizando componentes del futuro sistema JADC2. En la primera etapa de la prueba, las presuntas imágenes satelitales de posiciones de tropas rusas se enviaron a una terminal terrestre del ejército, donde un programa de software de Inteligencia Artificial llamado Prometheus revisó los datos para seleccionar objetivos enemigos.

Luego, otro programa llamado SHOT, calculó la combinación óptima de armamento disponible del ejército con los objetivos previstos y envió esta información, junto con las coordenadas de disparo precisas, al Sistema Avanzado de Datos Tácticos de Artillería de Campo (AFATDS, por sus siglas en inglés) para una acción inmediata, mientras que los militares elegirían implementarlo o no. Asimismo, el ejército estadounidense está haciendo pruebas más ambiciosas bajo el Proyecto Convergencia. Este proyecto emprendería ejercicios cada vez más complejos que involucran satélites, cazas de la Fuerza Aérea, drones, y vehículos tácticos.

Por qué la idea de los robots generales podrían salir mal

El autor plantea que dada la complejidad de la guerra moderna y el desafío de la compresión del tiempo en futuros combates, el impulso de reemplazar a los comandantes humanos por robóticos es comprensible. No obstante, el autor también brinda argumentos para dudar de este proyecto y su instrumentalización militar:

1. Este tipo de tecnologías están todavía en desarrollo y son propensas a fallas que no se pueden anticipar ni comprender fácilmente. Además, los algoritmos avanzados pueden ser falsificados por gente capacitada.

2. A diferencia de los humanos, los sistemas de toma de decisiones habilitados por la Inteligencia Artificial carecerán de la capacidad de evaluar la intención o el contexto: los analistas militares humanos pueden utilizar su comprensión del momento político actual para guiar su evaluación de la situación.

3. Una vez integrados en los algoritmos de toma de decisiones, tales sesgos podrían resultar peligrosos en cualquier encuentro futuro entre tropas estadounidenses y tropas rusas o chinas. Un choque de este tipo podría surgir en cualquier momento, gracias a algún malentendido o incidente local que rápidamente gane impulso.

Es difícil imaginar que un conflicto entre las principales potencias comience como una guerra nuclear, pero es plausible imaginar un escenario en el que las grandes potencias -después de verse envueltas en un conflicto convencional- consideren utilizar armas atómicas para evitar la derrota: el sistema JADC2 podría malinterpretar los movimientos del enemigo como una señal de preparación para un lanzamiento nuclear y ordenar un ataque preventivo por parte de Estados Unidos comenzando la tercera guerra mundial.

4. La devastación y la muerte generada por las guerras justificadas por la narrativa de "la guerra contra el terror", podría ser un argumento que justifique el uso de los robots. En el mundo post pandémico, sería humanitario reemplazar a los soldados en el campo de batalla con robots y así disminuir las bajas humanas. Pero ese argumento no aborda el problema de que los robots y los aviones no tripulados carecen de la capacidad de distinguir entre combatientes y civiles en el campo de batalla; por lo tanto, no se puede confiar en que cumplan con las leyes de la guerra o el derecho internacional humanitario, por lo que debería prohibirse.

Finalmente, el autor concluye que el Congreso estadounidense debería cuestionar la conveniencia de automatizar la toma de decisiones de combate antes de que Estados Unidos invierta miles de millones de dólares de los contribuyentes en una empresa podría conducir al fin del mundo como se conoce. Además, los líderes políticos de China, Rusia y Estados Unidos deberían de prohibir el despliegue de misiles hipersónicos y otras armas que decidan la vida o la muerte en cuestión de unos minutos.