Soshana Zuboff es profesora emérita de la escuela de negocios de Harvard. Es autora del libro La era del capitalismo de vigilancia.

La autora argumenta que a finales de la década de 1990 e inicios de los 2000, cuando las empresas de internet apenas comenzaban, el gobierno estadounidense les dejó abierta la puerta de la democracia. Con el transcurrir de los años, se ha forjado una sociedad de vigilancia que unifica la necesidad, compartida tanto por las agencias de inteligencia pública como por las empresas privadas de internet, de un conocimiento total de la información.

Las jóvenes empresas digitales de inicios del siglo XXI se han transformado en imperios de vigilancia impulsados por prácticas como el monitoreo, análisis y predicción del comportamiento, a lo que la autora denomina capitalismo de vigilancia. Esto ha traído cómo consecuencia un “golpe epistémico antidemocrático”, reflejado en el ataque al capitolio el 6 de enero de 2021. Este golpe epistémico, según Zuboff, está marcado por concentraciones nunca antes vistas de conocimiento sobre las personas y el poder que se acumula a través de dicho conocimiento.

En la era de la "civilización de la información", las sociedades se definen por cómo se distribuye el conocimiento, quien gobierna esa distribución, y el poder que protege a esa autoridad. Para Zuboff, la esencia del golpe epistémico consiste en que son los capitalistas de vigilancia quienes han asumido esos roles, aunque nunca se les eligió para eso. Ellos reclaman la autoridad sobre nuestra información personal y defienden esa autoridad con el poder que tienen de controlar los sistemas e infraestructuras críticos de información.

Para Zuboff el golpe epistémico se desarrolla en cuatro etapas: la primera, y sobre el cual se despliegan las demás, consiste en la apropiación de los derechos epistémicos: las empresas reclaman la información de la vida de las personas como propiedad privada y la usan como materia prima para la extracción de datos de comportamiento.

La segunda consiste en la desigualdad epistémica, o la desigualdad que existe en cuanto a lo que una persona puede saber y lo que las empresas pueden saber sobre esa persona. La tercera etapa, que según Zuboff es donde nos encontramos, induce un caos epistémico causado por la difusión –ampliada mediante algoritmos– de información falsa con fines de lucro, todo esto producido por esquemas coordinados de desinformación que finalmente tienen repercusiones en el mundo real, donde se fragmenta la realidad compartida de las personas, se envenena el discurso social, se paraliza la política democrática, e incluso se llega a incitar a la violencia y la muerte.

En la cuarta etapa, ocurre una institucionalización del dominio epistémico. La gobernabilidad democrática es anulada por la gobernabilidad computacional del capitalismo de vigilancia privado; las máquinas y los sistemas deciden dirigidos por la autoridad ilegítima y el poder antidemocrático del capitalismo de vigilancia; el caos epistémico prepara el terreno de su dominio al debilitar a la sociedad democrática.

Lo difícil es que tanto Estados Unidos como la mayoría de las democracias liberales han dejado la propiedad y operación de todo lo digital en manos de los capitalistas de vigilancia privados, que ahora han comenzado a competir con la democracia sobre los derechos y principios fundamentales que definirán el orden social de este siglo. De acuerdo con Zuboff, se puede tener una sociedad de vigilancia o una democracia, pero no se pueden tener ambas, pues una sociedad de vigilancia democrática es un imposibilidad tanto política como existencial.

La excepción de la vigilancia

El atentado del 11 de septiembre de 2001 marcó la forma en la que Washington se interesó por un conocimiento total de la información [total information awareness]. Desde entonces, la comunidad de inteligencia dependió de las empresas privadas como Google o Facebook para recopilar y generar información, yendo más allá de las limitaciones constitucionales, legales o reglamentarias. El capitalismo de vigilancia es resultado de esta convergencia de intereses y necesidades entre las empresas de internet y los servicios de inteligencia.

De este modo, el origen el capitalismo de vigilancia se encuentra en esa doctrina pública no escrita del excepcionalismo de la vigilancia, que omite la supervisión democrática y otorga permiso a las empresas de internet para robar la experiencia humana y convertirla en datos privados. Está licencia para robar requirió del contubernio de ejecutivos, funcionarios públicos y reguladores, así como de la ignorancia, o al menos la resignación, de los usuarios.

Este excepcionalismo de vigilancia llevó a Estados Unidos y otras democracias a elegir la vigilancia sobre la democracia como el principio rector de la sociedad. Así los gobiernos afectaron su capacidad para mantener la confianza de su gente, justificando al mismo tiempo la necesidad de la vigilancia.

La economía y la política del caos epistémico

La forma en la que actúa la extracción de datos del capitalismo de vigilancia no tiene un interés formal en que la información sea cierta: todos los datos son bien recibidos y tratados como equivalentes. La operación de extracción de datos actúa de forma voraz ante todo lo que puede ver y tomar, es indiferente al significado, los hechos o la verdad. Cualquier cosa que permita conectar más a la gente con las empresas es considerada buena de facto por estas; por tanto, es improbable que la extracción de datos rechace algún contenido.

Así la economía del capitalismo de vigilancia convirtió a Facebook en un “campo de muerte de la verdad”. Investigaciones internas de esa empresa presentadas en 2016 y 2017 demostraron que hay vínculos causales entre los mecanismos de orientación algorítmica de Facebook y el caos epistémico; por ejemplo, se concluyó que los algoritmos eran responsables de la propagación viral de contenido que contribuyó a impulsar el crecimiento de grupos extremistas en Alemania, aunque la dinámica no es exclusiva de aquel país.

A partir del escándalo de Cambridge Analytica en 2018, el mundo comenzó a prestar atención a Facebook, pero sobre todo a comprender que su negocio de publicidad política es solo una forma que tiene la compañía para orientar a los usuarios, manipularlos y sembrar el caos epistémico. Basta con ajustar un poco la máquina desde los objetivos comerciales a los políticos.

A pesar del mayor escrutinio público, Mark Zuckerberg –director ejecutivo de Facebook– rechazó las propuestas de cambios operativos para reducir el caos epistémico. A pesar que las investigaciones muestran que los usuarios son propensos a creer en la información falsa compartida por políticos, en 2019 Facebook mencionó que la publicidad política no está sujeta a la verificación de hechos.

El caos epistémico se encuentra con un microorganismo misterioso

En marzo de 2020, la Organización mundial de la salud (OMS) informó de una “infodemia” vinculada a la pandemia de Covid-19, con mitos, rumores, e incluso información médica errónea, que se propagó principalmente a través de las redes sociales. Así, por ejemplo, en un estudió publicado por Reuters se confirmó que políticos, celebridades y otras figuras públicas reproducían 20% de información falsa o errónea, pero alcanzaron 69% de las interacciones en redes sociales.

De manera análoga, otros estudios han mostrado que el número de visitas a sitios en internet con información falsa acerca del coronavirus sobrepasa con creces a los sitios de organizaciones con información veraz. Cuando el mundo se encontró con un microorganismo misterioso y mortal, las personas recurrieron a Facebook para buscar información; lo que encontraron fue una estrategia letal de caos epistémico con fines de lucro.

Terrorismo epistémico

La construcción social de la realidad y del orden sucede a través del sentido común compartido en la vida cotidiana, del conocimiento común compartido con los demás como rutinas normales, que finalmente se transforma en normas sociales. De ese modo “todas las sociedades son construcciones frente al caos”. Así, la autora considera que la esencia del terrorismo consiste en la violación de esas normas, y es peligroso porque repudia las certezas sociales.

Las transferencias de poder en las democracias son momentos críticos que aumentan la vulnerabilidad de la sociedad. De esto modo, Trump y sus aliados iniciaron una campaña de desinformación sobre un supuesto fraude electoral que concluyó en violencia. Al apuntar directamente a un punto de gran vulnerabilidad institucional de la democracia estadounidense, lo sucedido califica –a juicio de la autora– como una forma de terrorismo epistémico. Debido a que Zuckerberg prestó a Facebook a la causa, se convierte también en cómplice de ese asalto.

Ninguna sociedad puede vigilar todo, todo el tiempo; menos aún si se considera democrática. Zuboff menciona que una sociedad sana se basa en un consenso sobre lo que es una desviación y lo que es normal; la sociedad se renueva a medida que evoluciona el sentido común. Por esto son necesarias instituciones sociales confiables, transparentes y respetuosas, sobre todo cuando no se está de acuerdo. Sin embargo, actualmente nos enfrentamos a lo contrario, pues estamos en un mundo dominado por una institución político-económica que opera como una máquina del caos para la cual la violación de las normas es clave para obtener ingresos.

Las redes sociales son una plaza privada, gobernada por las operaciones de las máquinas y sus imperativos económicos. Por eso las empresas de internet son incapaces y no tienen interés en distinguir la verdad de las mentiras.

Esta susceptibilidad a la destrucción del sentido común refleja que la civilización de la información no ha encontrado su base en la democracia. Es necesario interrumpir la vigilancia económica y revocar la licencia para robar que legitima sus operaciones antisociales. De otro modo el golpe epistémico seguirá fortaleciéndose y produciendo nuevas crisis.

Tres principios para la tercera década

Las democracias liberales del mundo, incluida Estados Unidos, no han podido construir una visión política coherente para un siglo digital que logre promover los valores y principios de los gobiernos democráticos.

Este vacío ha resultado peligroso, y ha derivado en sistemas privados de vigilancia y control del comportamiento externo a las limitaciones de la gobernabilidad democrática. Debido a esto las democracias “marchan desnudas” hacia una tercera década del siglo XXI sin nuevas cartas de derechos, marcos legales y formas institucionales necesarias para asegurar un futuro digital compatible con las aspiraciones de una sociedad democrática.

Para Zuboff la tercer década de este siglo es fundamental para sentar las bases de un siglo digital democrático. Si se quiere derrotar el golpe epistémico, la democracia debe de ser la protagonista. Para ello, ofrece tres principios que pueden ayudar a esta tarea.

El estado de derecho democrático

Estados Unidos y Europa finalmente comienzan a mostrar importantes iniciativas legislativas y legales a través de leyes antimonopolio. Estas iniciativas son importantes porque indican que la democracia se ha puesto de nuevo en movimiento y legitiman una mayor atención regulatoria a las empresas consideradas como dominantes en el mercado. Sin embargo, las medidas antimonopolio son insuficientes cuando se trata de frenar el golpe epistémico, ya que dividir a Facebook, a Google, o a cualquier otra empresa no protege a la sociedad de los peligros que representa el capitalismo de vigilancia.

Nuevas condiciones convocan nuevos derechos.

Los nuevos derechos se consolidan como respuesta a las condiciones cambiantes de la vida cotidiana. La nueva civilización democrática de la información debe progresar con nuevos derechos epistémicos que protejan a la gente de la invasión y el robo de información por parte de la economía del capitalismo de vigilancia. Cada persona debe decidir si se quiere o no compartir su información, así como debe tener la capacidad de decidir cómo se comparte ésta, con quién y con qué propósito.

De esta manera la "libertad de seleccionar" es un derecho epistémico elemental. Así, por ejemplo, todos deberían de tener el derecho a permitir o rechazar que las empresas lucren con predicciones de nuestro comportamiento.

Los derechos epistémicos elementales no están codificados en la ley, ya que nunca habían estado bajo un peligro sistemático. Pero el capitalismo de vigilancia ha declarado su derecho a conocer las vidas de las personas. La nueva era ha sido fundada y protegida por la doctrina no escrita del excepcionalísimo de la vigilancia. Ahora, lo que anteriormente se daba por sentado, es decir, el derecho a saber y a decidir, debe estar correctamente codificado en la ley y protegido por instituciones democráticas.

Los daños sin precedentes exigen soluciones sin precedentes.

Así como las nuevas condiciones de vida exigen nuevos derechos, los daños del golpe epistémico requieren también de nuevas soluciones. La mayoría de las discusiones en cuanto a las leyes y regulaciones al capitalismo de vigilancia se centran en argumentos sobre los datos; por ejemplo, la privacidad, la transparencia y la portabilidad, o en esquemas para comprar nuestro consentimiento con pagos mínimos por datos.

Sin embargo, es ahí donde las empresas quieren que la gente y el gobierno permanezcan entretenidos, olvidando que el problema real es que el reclamo de las empresas sobre la propiedad de los datos es en sí mismo ilegítimo. Por lo tanto, las soluciones se encuentran en niveles más altos; por ejemplo, en el suministro de esos datos.

Debe ponerse fin a la recolección de datos para la vigilancia comercial. Se necesitan marcos legales que interrumpan la extracción masiva de la experiencia humana. Si las leyes detienen la recopilación de datos, podrían detener también las ilegítimas cadenas de suministro del capitalismo de vigilancia, ya que los algoritmos de manipulación no podrían funcionar sin el suministro de estos datos. También se necesitan leyes que lleven a que la recopilación y uso de datos sirva a las necesidades de las personas y las comunidades. En tercer lugar, se requiere interrumpir los incentivos financieros que recompensan la economía de la vigilancia, pues se deben prohibir las prácticas comerciales que ejercen una alta demanda de recopilación de datos.

Dichos principios ya están tomando forma en algunas sociedades democráticas. Si las propuestas legislativas innovadoras de la Unión Europea y Gran Bretaña se aprueban, comenzarán a institucionalizar los tres principios.

Los derechos fundamentales y el estado de derecho no pueden desaparecer en el terreno cibernético, y los legisladores insisten en "un entorno en línea seguro, predecible y confiable". En Gran Bretaña, el Proyecto de Ley de Daños en Línea establecería un "deber de cuidado" legal que haría responsables por daños públicos a las empresas de tecnología.

A menos que la democracia revoque la licencia para robar y desafíe a la economía fundamental y las operaciones de la vigilancia comercial, el golpe epistémico debilitará y eventualmente transformará la democracia misma.

Finalmente, para Zuboff, es tiempo de hacer una importante elección: Se puede tener democracia o se puede tener vigilada a la sociedad, pero no se pueden tener ambas, pues son incompatibles. "Es tiempo de construir una civilización de la información democrática".