Zach Campbell es un periodista freelance radicado en Barcelona con trabajos publicados en Al Jazeera, The New Republic y Columbia Journalism Review.

La tesis del artículo reseñado es que la vigilancia y control de la población a través de máquinas ya no es un asunto de ciencia ficción. Actualmente la Unión Europea está financiando proyectos para desarrollar el manejo de drones a través de inteligencia artificial con el propósito de que patrullen autónomamente la frontera europea.

Los desarrolladores de este tipo de proyectos son conocidos como “Roborder”. Campbell indica que está previsto que los drones operen como “enjambres” que coordinen la información en flotas de cuadricópteros, aviones pequeños de ala fija, vehículos terrestres, submarinos y barcos. Asimismo, señala que los robots estarán completamente automatizados para “decidir” si la persona ubicada en su sistema de vigilancia representa o no una amenaza.

El contexto en que se desarrollan estos fenómenos es la crisis de migración a nivel mundial, pero principalmente por el destino de muchos migrantes hacia Estados Unidos y Europa. Para expertos en ética de la tecnología y defensores de la privacidad, el desarrollo de esos proyectos en un contexto de aprobación de políticas antimigrantes en distintas regiones del mundo representa una preocupación. El mayor peligro es que los robots se encuentren armados y que automáticamente reprendan a las “amenazas”. Noel Sharkey, profesor emérito de robótica e inteligencia artificial de Sheffield University, es una de las voces que ha puesto más énfasis en el asunto. Ha elaborado un registro de los drones armados actualmente disponibles en el mercado: drones equipados con Teaser, gas pimienta, balas de goma y otras armas.

Roborder es financiada principalmente por una donación de la Unión Europea de 8 millones de euros en términos de “investigación e innovación”. Aunque sus fines son exclusivamente no militares, parte del sistema de los productos desarrollados involucran tecnología militar. Por ello Campbell opina que es probable que Roborder esté violando algunos términos de su contrato.

Existen pocos reportes de la actividad de Roborder porque es resguardada como información clasificada. Sin embargo, The Intercept pudo acceder a reportes internos relacionados con cuestiones éticas sobre el programa.

Uno de los reportes señala que los desarrolladores se preguntaron si su trabajo podría ser modificado por terceros para dañar a seres humanos o qué pasaría si dicha tecnología termina en “manos equivocadas”. Se considera poco viable que el proyecto signifique un peligro para la sociedad porque la nueva tecnología creada no se venderá ni se trasladará fuera de la Unión Europea. O al menos esa pretensión va a ser mantenida mientras el proyecto exista. Según entrevistas realizadas por The Intercept a los desarrolladores del proyecto, se afirma que existe una alta probabilidad de que la tecnología sea “reutilizada y vendida, incluso fuera de Europa, una vez que el ciclo del proyecto europeo haya finalizado, lo que se espera ocurra el próximo año”.

Los reportes de ética presentados ante la Comisión Europea preguntan sobre quién tiene el poder de decisión y sobre qué tipo de tecnología debe o no desarrollarse.

Roborder ganó el financiamiento en 2017 gracias a su propuesta de desarrollar “un enjambre de robótica para apoyar el monitoreo de fronteras” para 2020. Kostas Ioannidis, gerente técnico de Roborder, señala que la meta del programa es “tener tantos sensores en el campo como sea posible para ayudar al personal de patrulla”. Por eso el equipamiento de los drones consiste en cámaras ópticas, infrarrojas y térmicas; radar; sensores de radiofrecuencia; uso de frecuencias de celulares para triangular la ubicación de los sospechosos; identificación de rostros, armas y vehículos. Está prevista la realización de una prueba del producto en países como Portugal, Hungría y Grecia.

El interés por parte del sector privado no se ha hecho esperar. Aunque los desarrolladores afirmaron a la Comisión Europea que no tenían previsto exportar su tecnología fuera de Europa, en algunas entrevistas han afirmado que estarían dispuestas a venderla fuera de la Unión Europea. No hay un control sobre cuál será el destino de la tecnología creada.

Roborder no niega la posibilidad que su tecnología pueda ser explotada por organizaciones criminales. Sin embargo, también se indica que el desarrollo de la tecnología está bajo el resguardo de compañías públicas y privadas que trabajan para la protección de la información a través de departamentos de policías de varias naciones, dos guardias nacionales, un ministerio de defensa, una autoridad portuaria, una compañía de defensa cibernética, una compañía de desarrollo de equipos para la guerra cibernética y una compañía de “análisis predictivos” para la policía europea.

Sobre los usos militares que pueda tener la modificación ulterior de Roborder, los desarrolladores no dieron ninguna respuesta consistente. Horizon 2020, el mayor programa de financiamiento para la investigación e innovación de la Unión Europea, indica que sólo ha apoyado proyectos de aplicaciones civiles. En el pasado, Horizon 2020 financió un proyecto de inteligencia artificial para detectar si los viajeros que pretenden cruzar la frontera mienten respecto a sus motivos.

En ese contexto, Roborder señala que su tecnología no es potencialmente de “uso dual”: civil y militar. Pero más adelante, en el mismo informe, confirmaron que algunos elementos de su tecnología sí podrían considerarse de uso dual, según los estándares europeos. La resistencia de los desarrolladores de Roborder para admitir sin ambigüedades el potencial militar de su proyecto es poco a poco debilitada. Dadas las circunstancias, el programa contrató a Reinhard Hutter como asesor externo de ética. En su informe, Hutter señala que “Roborder involucra tecnología con potencial militar”.

The Intercept sospecha que la confusión entre los límites del desarrollo civil y militar de tecnologías a través de los programas de la Unión Europea es deliberada. El reglamento de la Comisión Europea para Horizon 2020 señala que la financiación de proyectos sigue un enfoque exclusivamente civil. Pero también se afirma que existe la posibilidad de que las investigaciones sean relevantes para la defensa.

Algunos subcomités de seguridad y defensa del Parlamento Europeo abogaron desde 2016 por la eliminación de la cláusula sobre la exclusiva perspectiva civil de Horizon 2020. Afirman que la Unión Europea debe financiar también la investigación de defensa. Buscan crear un equivalente europeo a la Agencia de proyectos de investigación avanzada de la defensa (DARPA) de Estados Unidos. Horizon 2020 negó que hubiera una ambigüedad en su reglamento y mantuvo firmemente que no financia investigaciones destinadas a fines militares.

Roborder señala que su tecnología es limitada. Afirma que las cámaras instaladas en los drones se limitarán a reconocer la figura de seres humanos y nada más, es decir, sin reconocimiento de altura, peso, edad, color de piel y género. Más adelante, según admitió Ioannidis, podría agregarse un logaritmo de reconocimiento facial. La finalidad es de mero monitoreo y alerta, nada de armas y control directo de los drones hacia las “amenazas”.

Sharkey es escéptico al respecto. Argumenta que es muy fácil armar un dron. Además, todas las implicaciones sobre el desarrollo generalizado de sistemas autónomos de vigilancia de las fronteras no han sido previstas con detenimiento. De igual manera, Hannah Couchman, investigadora de la organización derechos humanos Liberty, opina que hay preocupaciones muy profundas sobre los derechos humanos y las libertades civiles ante el desarrollo de estas tecnologías.