Michael J. Mazarr es doctor en políticas públicas por la Universidad de Maryland; tiene una maestría en estudios de seguridad por Universidad de Georgetown y una licenciatura en gobierno por la Universidad de Georgetown.

Resumen

Estudiar el reciente fenómeno de las fake news, observado principalmente en el año 2016, necesita de un nuevo enfoque con nuevos conceptos. Los autores de este informe utilizarán a lo largo del texto “manipulación hostil social” para comprender dicho fenómeno de mejor manera.

La manipulación hostil social hace referencia a “la generación y diseminación intencionada y sistemática de información para producir resultados sociales, políticos y económicos dañinos en un país objetivo al afectar creencias, actitudes y comportamiento”. Los autores lo ejemplifican con la intromisión rusa en la elección presidencial de Estados Unidos en 2016.

Así, en el informe se afirma que a pesar de lo importantes que ya han sido los esfuerzos de manipulación social en países del norte global como Estados Unidos, sólo se ha atestiguado “la punta del iceberg” de lo que estos ataques son capaces de lograr.

Los autores identifican que la intersección de múltiples tecnologías como la inteligencia artificial, la realidad virtual y la mensajería personalizada, crea el potencial para que los agresores cambien la percepción de la realidad social de las personas.

Y aunque la principal amenaza se observa en los ataques clásicos del ciberespacio (hackeos de infraestructura o sitios de internet, robo y secuestro de datos, etc.), el informe enfatiza el panorama de las áreas emergentes de la sociedad que son susceptibles a la interrupción y manipulación desde el ciberespacio.

Los riesgos de manipulación son sumamente significativos debido a la naturaleza cambiante de la infosfera, es decir, “el entorno de información que gobierna las democracias posmodernas”. La infosfera se caracteriza por la fragmentación de la autoridad, así como por una ética de acoso cínico, agresivo y persistente.

En ese contexto se abren oportunidades sin precedentes para que rivales, estatales y no estatales, causen trastornos en ciertos países. Otro ámbito de posible agresión son los esfuerzos por manipular o perturbar las bases de datos que hacen posible el funcionamiento eficaz de los sistemas económicos y sociales.

La agresión mediante la difusión de desinformación tiene como cometido sesgar y dañar el funcionamiento de las bases de datos masivas, algoritmos y redes de dispositivos computarizados. En muchos casos, el objetivo principal es provocar confusión y una pérdida acelerada de la confianza en el funcionamiento de las principales instituciones democráticas.

Para estudiar lo anterior, los autores del informe se enfocaron en la evidencia de los esfuerzos rusos y chinos de manipulación social hostil. Su proyecto de investigación fue diseñado para preparar el escenario para una discusión más detallada de las posibles respuestas ante esta amenaza.

El informe se basa en tres puntos: 1) una investigación detallada sobre las tendencias y cambios del entorno de la información en Estados Unidos y otros países del Norte global; 2) el entendimiento en la investigación social sobre las actitudes y creencias; y 3) el desarrollo de tecnologías emergentes relevantes relacionadas con las prácticas de manipulación social hostil.

En el primer capítulo del informe se hace una presentación del aparato conceptual de los autores para estudiar el fenómeno. En el capítulo dos se lleva a cabo un análisis en el que se identifican las características de la infosfera. El capítulo tres analiza lo relacionado con creencias y actitudes acerca de las formas de manipulación social más efectivas. Posteriormente, en el capítulo cuatro se examinan los desarrollos actuales en inteligencia artificial, realidad virtual y el Internet de la cosas (IoT, por sus siglas en inglés), que podrían desempeñar un papel relevante en futuras campañas de manipulación.

En los capítulos 5-7 se estudian las estrategias de manipulación social de Rusia y China; también se presentan tres escenarios de cómo la manipulación social podría afectar a las sociedades del Norte global durante la próxima década. Los autores sugieren que es probable que la guerra social virtual se vuelva una nueva forma de guerra. En este contexto, los autores observan que la barrera entre los esfuerzos y responsabilidades públicas y privadas se está desdibujando; así, la seguridad nacional dependerá de actores privados y estatales. Otra característica de esta nueva forma de la guerra es que se librará cada vez más entre redes.

De esa manera, el capítulo ocho concluye señalando varias vías de respuesta para aumentar la resiliencia democrática frente al riesgo descrito: además de las organizaciones básicas de verificación de hechos, se necesitará que los gobiernos experimenten con diferentes variedades de instituciones intermediarias para mitigar el efecto de la agresión social virtual. A este respecto, los autores proponen las siguientes medidas:

1) Impulsar la inversión en investigación y comprensión del asunto.
2) Construir formas de resiliencia contra las peores formas de manipulación social basada en la información.
3) Priorizar el papel que desempeñan las redes sociales en la actualidad y los debates al respecto.
4) Realizar inversiones diseñadas para crear instituciones informativas confiables que ayuden a las personas a dar sentido a los eventos políticos, sociales, económicos, etc.
5) Promover el diseño de normas internacionales que restrinjan el uso de la agresión social virtual.
6) Tener una mejor comprensión del funcionamiento y las vulnerabilidades de la tecnología emergente.

Según los autores, las nuevas formas de agresión representan un peligro significativo para las democracias de los países del Norte global, ya que amenazan la seguridad nacional de una nueva manera. El surgimiento del potencial de una guerra social virtual se acrecienta y el reto para los países del norte global es si serán capaces de enfrentarlo.

Capítulo I: Una nueva forma de conflicto

En esta sección, los autores explican que la intersección de múltiples tecnologías emergentes es el escenario donde se genera el potencial para que diversos actores –estatales o no estatales– que pretenden agredir a ciertos países, cambien las condiciones sociales fundamentales de la realidad de las personas.

Estos riesgos son especialmente importantes debido a la naturaleza cambiante de la infosfera: el entorno de información que gobierna las democracias posmodernas. Sin embargo, muchas de las principales tendencias en la infosfera son preocupantes y peligrosas de maneras aún no comprendidas completamente.

Aunado a lo anterior, los autores observan que las sociedades de los países del Norte global ya dependen de redes vulnerables de recopilación, intercambio, comunicación y análisis de datos, así como de la toma de decisiones a partir de esta información.

Por ejemplo, los algoritmos avanzados evalúan cada vez más datos sobre temas de la vida cotidiana como los patrones de compra, la salud humana y los factores de personalidad. Las capacidades de inteligencia artificial (IA) serán más amplias, lo que permitirá que los sistemas no humanos procesen cada vez más datos, lo cual será fundamental para la toma de decisiones.

Los autores apuntan a que sólo es cuestión de tiempo antes que se utilice a la IA para que se haga cargo de componentes importantes del diagnóstico de enfermedades o de la contratación de personal en las grandes empresas.

Lo anterior no se puede entender sin considerar que los países del Norte global transitan de una era industrial hacia una economía de la información, basada más en la producción e intercambio de información que de bienes físicos. Pero esta transición apenas empieza y sus implicaciones aún no han sido completamente vislumbradas.

El surgimiento de sociedades mucho más centradas en la información, hará que las decisiones se tomen mediante sistemas de información automatizada, lo que tendrá un impacto en la vida de las personas. Es en el periodo de transición donde se sitúa el espacio para que rivales hostiles, estatales o no estatales, causen trastornos.

Los autores afirman que se corre el riesgo de sufrir una agresión social virtual que hará que los países sean más vulnerables. Por eso se sugiere que es necesario repensar el carácter de la seguridad nacional y las medidas para protegerla.

El informe propone el concepto de truth decay, o decadencia de la verdad, para ilustrar la importancia decreciente de los hechos. El concepto tiene 4 componentes:

1) aumento del desacuerdo sobre hechos e interpretaciones de hechos y datos;
2) una difuminación de la línea entre opinión y hecho;
3) mayor influencia de la opinión y la experiencia personal sobre los hechos;
4) disminución de la confianza en fuentes de información fáctica anteriormente respetadas.

Para los autores, la decadencia de la verdad y sus efectos presentados en la infosfera (como la disminución de la confianza en las élites) son un problema esencial: la manipulación social hostil es una técnica que daña a las democracias y juega con el carácter cambiante de la sociedad y la información.

Los agresores podrían tener una variedad de objetivos: podrían intentar cambiar las actitudes dentro de los países de destino o podrían tratar de catalizar las actitudes o percepciones existentes y llevarlas al extremo, por ejemplo, al provocar protestas.

No obstante, el vínculo causal entre la manipulación social y los resultados no siempre es inmediato o lineal porque la base de las actitudes, creencias y patrones de comportamiento de una sociedad no está sujeta a una manipulación directa.

La investigación de los autores apunta a que las campañas de manipulación pueden producir resultados medibles significativos, como números de tweets. No obstante, los resultados reales, como los cambios en actitudes o comportamientos, son mucho más difíciles de cuantificar.

Definiciones y conceptos

En este estudio, los autores usan el término infosfera para referirse al proceso social de producción, difusión y percepción de información en una sociedad. La infosfera de una sociedad es su entorno de información.

La infoesfera abarca “los medios impresos y de radiodifusión; medios de comunicación social; mensajería y propaganda del gobierno; Internet (...); y las formas en que los individuos interactúan con la información”. También es el terreno en el que se desarrollan las campañas de manipulación social hostil.

Los autores diferencian los ataques cibernéticos clásicos de los producidos por la manipulación social hostil. Esta última tiene como objetivo las creencias y actitudes de la población, no los activos físicos o las fuerzas militares. No obstante, la intención de dicha manipulación no deja de ser una agresión porque quienes la producen buscan dañar al Estado mediante una campaña de información que permitiría emprender acciones agresivas y hostiles.

Los autores señalan que el significado mismo de manipular la infosfera de una sociedad está cambiando. Las formas principales de manipulación social basada en la información se centran en difundir narrativas a través de la propaganda, la diplomacia pública, las publicaciones en redes sociales, entre otras, para afectar las creencias.

Las infosferas tecnológicamente más desarrolladas se complejizan y eso genera que aumenten los esfuerzos para manipular o alterar los fundamentos de la información del funcionamiento social. En muchos casos el objetivo principal de un agresor puede no ser tanto el daño físico, sino la confusión o una pérdida de confianza en el funcionamiento de las instituciones sociales.

Cabe destacar que el surgimiento de sociedades que dependen de la información ampliará el espectro de técnicas de manipulación social hostil para los atacantes, permitiéndoles combinar la producción de daños físicos como el cambios de actitudes. Los autores afirman que los ataques con efectos en las actitudes serán los más usados, porque los ataques físicos directos y devastadores tienen, por lo regular, más probabilidades de provocar represalias.

Otro de los objetivos para ser atacados por la manipulación social hostil es la confianza, de esa manera su papel es un tema recurrente en el análisis del reporte. Mediante una referencia a Anthony Giddens, los autores nos recuerdan que las sociedades altamente complejas y dependientes de la tecnología ya tienen un problema de confianza: “exigen que sus ciudadanos depositen la confianza para su seguridad y prosperidad en redes tecnológicas cuyo funcionamiento no comprenden y no pueden controlar”.

Por tanto, los ataques al funcionamiento eficaz de los sistemas de información aprovechan esa vulnerabilidad, generando una sensación de que no se puede confiar en el funcionamiento de la sociedad, lo que provoca un sentimiento de inseguridad y ansiedad persistentes.

Además, no sólo los actores estatales serían capaces de tal manipulación social hostil; también los no estatales. Las tecnologías a emplear se vuelven fáciles de adquirir dado que su costo es decreciente y son replicables. Algunas tecnologías son los programas impulsados ​​por IA para producir malware, bots u otros ejércitos de herramientas de manipulación rápida.

De esa manera, los autores centraron su investigación en las vulnerabilidades cambiantes más que en los autores de las técnicas, pero se recalca que dichas herramientas estarán ampliamente disponibles, lo que representa una amenaza para la seguridad nacional de las democracias occidentales con alto desarrollo tecnológico.

Aproximación y metodología

En esta última sección del primer capítulo, los autores exponen que basaron su evaluación sobre tres cuestiones fundamentales:

1) tendencias en el carácter cambiante de la infoesfera en Estados Unidos y otros países del Norte global;
2) percepciones de la investigación en ciencias sociales sobre las actitudes y creencias; y
3) desarrollos en tecnologías emergentes relevantes que influyen en la práctica de la manipulación social.

Por otra parte, emplearon un método de planificación de escenarios para describir la posible forma de los futuros de la manipulación social. Así, esbozaron tres escenarios de cómo la manipulación social podría afectar a las sociedades del Norte global durante la próxima década.

Para lograr lo anterior, utilizaron los hallazgos de la investigación sobre tendencias y realidades, las ideas del estudio paralelo sobre las estrategias de manipulación social de Rusia y China, entre otras investigaciones.