Un experto en inteligencia artificial quiere detener a los robots asesinos

Cita: 

Dreifus, Claudia [2019], "Un experto en inteligencia artificial quiere detener a los robots asesinos", The New York Times, New York, 2 de agosto, https://www.nytimes.com/es/2019/08/02/toby-walsh-inteligencia-artificial

Fuente: 
Otra
Fecha de publicación: 
Viernes, Agosto 2, 2019
Tema: 
Las afectaciones del desarrollo y venta de armas robóticas en la comunidad científica
Idea principal: 

Toby Walsh, profesor de la Universidad New South Wales en Sídney, es uno de los principales expertos en materia de inteligencia artificial. Ha estado trabajando con la campaña Stop Killer Robots, una coalición de científicos y líderes de derechos humanos que busca detener el desarrollo de armas robóticas autónomas. Posterior a la reunión anual de la Asociación Estadounidense para el Avance de la Ciencia, Walsh conversó con Claudia Dreifus, autora del artículo. Toby Walsh aclaró que su conversión en activista de la lucha contra robots asesinos fue progresiva a partir de la información y en los peligros que representaban este desarrollo de armas robóticas.

En 2015, Walsh organizó una conferencia científica sobre este tipo de armas robóticas. Max Tegmark, director del Instituto del futuro de la Vida, en Massachusetts solicitó a Walsh asistencia para difundir un llamado a la comunidad internacional con la intención de aprobar una prohibición preventiva contra todas las armas robóticas autónomas. A esta petición lograron incorporarse personajes como Elon Musk, Daniel Dennett y Steve Wozniak. Walsh argumenta que no se puede permitir que las máquinas decidan sobre si los humanos viven o mueren. “Las máquinas no tienen brújula moral, nuestra compasión ni nuestras emociones”. Su argumento científico radica en que este tipo de armas son de destrucción masiva y los daños colaterales que conllevan.

El desarrollo de armas robóticas produciría un desequilibrio en la geopolítica mundial, los costos de producción son baratos y podrían caer en manos de terroristas, inclusive sería difícil saber cuál es el origen de un ataque. En 2018, hubo un ataque con drones en Siria contra una base rusa-siria, y se desconoce el responsable. El mejor momento para prohibir este tipo de armas es antes de que estén disponibles, pues se cree que será mucho más difícil una vez que se encuentren en las manos equivocadas o que se vuelvan una parte aceptada del conjunto de herramientas militares.

Veintiocho países miembros de los doscientos pertenecientes a la ONU han expresado su posición en contra del desarrollo de sistema de armas robóticos. Estados Unidos, Rusia, Israel y Corea del Sur se han opuesto al tratado. China ha hecho un llamado a favor de la prohibición preventiva contra su despliegue, pero no contra su desarrollo. Los proponentes de las armas robóticas argumentan que, al limitar el número de combatientes humanos, las máquinas harían que los conflictos fueran menos mortíferos. Walsh afirma que el problema contra este argumento es, "que no tenemos ninguna manera de programar algo tan sutil como la ley humanitaria internacional". Toby Walsh no niega el uso de la robótica en cuestiones militares, pues podría ser útil para despejar un campo minado; si un robot entra y estalla, se puede colocar otro. Su preocupación por las consecuencias morales es un problema actual del desarrollo de inteligencia artificial y debe hacer algo para detener esta situación

Nexo con el tema que estudiamos: 

El desarrollo de sistemas de armas robóticas representa en su mayoría un problema ético y moral que cuestiona la capacidad de decidir de un robot sobre la vida de un ser humano. Este problema se ha discutido en distintos espacios internacionales y ha encontrado en la comunidad científica un apoyo que exhibe los daños colaterales que podría suscitar este tipo de armas. Sin embargo, los beneficios económicos para el mercado de las armas parecen sobreponerse a las consecuencias. Es decir, la inversión y desarrollo de sistemas de armas robóticas expresa una gran ganancias para las empresas que las vendan sin ninguna ley que los regule y sin cuantificar los posibles daños.