Shoshana Zuboff es profesora emérita de la Escuela de Negocios de la Universidad de Harvard, donde labora desde 1981. Además del libro que a continuación se sintetiza, entre sus obras recientes destacan In the Age of the Smart Machine: The Future of Work and Power y The Support Economy: Why Corporations Are Failing Individuals and the Next Episode of Capitalism (este último, en coautoría con James Maxmin). A lo largo de su trayectoria intelectual, ha trabajado sobre temas como la revolución digital, las transformaciones del capitalismo, la civilización de la información, entre otros.

La definición

En el libro, después de la dedicatoria y antes de la introducción, hay un apartado titulado "The Definition" [la definición], en el cual Shoshana Zuboff plantea, a manera de diccionario, ocho definiciones del capitalismo de vigilancia. Estas definiciones son:

1. Un nuevo orden económico que se adjudica la experiencia humana como una materia prima gratuita para prácticas comerciales ocultas de extracción, predicción y ventas.
2. Una lógica económica parasitaria en la cual la producción de bienes y servicios está subordinada a una nueva arquitectura de modificación conductual.
3. Una mutación deshonesta [rogue] del capitalismo marcada por concentraciones de riqueza, conocimiento y poder sin precedentes en la historia humana.
4. El marco fundacional de una economía de vigilancia.
5. Una amenaza a la naturaleza humana en el siglo XXI tan significativa como el capitalismo industrial fue para el mundo natural en los siglos XIX y XX.
6. El origen de un nuevo poder instrumental que afirma su dominio sobre la sociedad y presenta alarmantes retos para la democracia de mercado.
7. Un movimiento que apunta a imponer un nuevo orden colectivo basado en la certidumbre total.
8. Una expropiación de derechos humanos críticos que es mejor entendida como un golpe desde arriba: un derrocamiento de la soberanía de las personas.

Introducción. Hogar o exilio en el futuro digital

Las preguntas más antiguas

Zuboff formula un par de preguntas que han estado presentes en su reflexión y su trabajo intelectual por casi cuatro décadas: “¿vamos a trabajar para una máquina inteligente, o habrá personas inteligentes alrededor de una máquina?” y “¿puede el futuro digital ser nuestro hogar?”.

La necesidad de responder a esas preguntas se ha vuelto cada vez más imperiosa, conforme lo digital ha penetrado en nuestra cotidianidad y la ha redefinido. El mundo digital ha enriquecido nuestras capacidades en múltiples dimensiones, pero también ha dado pie a ansiedad, peligros, violencia e incertidumbre.

Para Zuboff, actualmente es insuficiente preguntarse únicamente cómo inciden las tecnologías de la información en los lugares de trabajo y cómo estas reproducen relaciones de saber, poder y autoridad. En la actualidad, debemos preguntarnos por el impacto de esas tecnologías en un marco más amplio, es decir, por el impacto de estas tecnologías sobre nuestra civilización, a la cual denomina “civilización de la información” [information civilization].

Réquiem por un hogar

En el año 2000, un grupo de científicos e ingenieros del Instituto Tecnológico de Georgia colaboraron en un proyecto pionero llamado “Aware Home”. El proyecto consistía en que los participantes vivían en una casa llena de sensores (sensores ambientales, en los electrodomésticos, incluso en la ropa de los ocupantes) con el objetivo de explorar las posibilidades de una “simbiosis humano-hogar” y de la “colaboración automatizada inalámbrica” entre la casa y sus ocupantes.

Los participantes del proyecto Aware Home sabían que los sistemas de datos incorporados en la casa producirían un dominio de conocimiento completamente nuevo y tenían la convicción de que los derechos sobre ese nuevo conocimiento y la posibilidad de utilizarlo debían pertenecer exclusivamente a los ocupantes de la casa. En el proyecto se enfatizaba la simplicidad, la “soberanía del individuo” y la inviolabilidad del hogar como un espacio privado. Debido a que la casa monitoreaba incluso el estado de salud de sus ocupantes, los impulsores de Aware Home consideraban que era necesario dar a los habitantes conocimiento y control sobre esa información, así como asegurar su privacidad individual.

Apenas una década y media después, el modelo pionero de Aware Home ha sido abandonado. Un ejemplo de ello es Nest, un termostato inteligente producido por Google. Este dispositivo, de manera análoga a lo que imaginaban los impulsores de Aware Home, recolecta información ambiental y sobre el comportamiento de los habitantes de la casa (sus hábitos, horarios, el uso que hacen de otros dispositivos conectados a internet, etcétera). No obstante, las grandes cantidades de información recolectadas por Nest no pertenecen a los usuarios, sino a Google.

Un análisis de la política de privacidad y de los términos de uso revela que estos servicios tienen contratos abusivos con consecuencias negativas para la privacidad y seguridad de los usuarios, pues los proveedores comparten información personal y del hogar con otros dispositivos y con terceras partes no identificadas para el análisis predictivo y para su uso comercial. Si los usuarios deciden no aceptar lo estipulado en el contrato de productos como Nest, los términos de uso indican que la funcionalidad y seguridad estarán comprometidas y que no recibirán las actualizaciones necesarias que garantizan su confiabilidad y seguridad. En términos prácticos, esto puede traducirse en fallas de las alarmas para incendios, hackeo de los sistemas internos del hogar, entre otras.

Aware Home fue un proyecto pionero que imaginaba un futuro digital que empoderaba a los individuos y en el cual los usuarios ejercían derechos exclusivos sobre sus datos y su uso. “Hoy esos derechos de privacidad, conocimiento y aplicación han sido usurpados por una audaz iniciativa de mercado que reclama unilateralmente [la propiedad sobre] las experiencias de los otros y el conocimiento que fluye desde ahí”. El libro se ocupa de dar cuenta cuáles son las consecuencias de ese cambio de perspectiva sobre nuestras sociedades, la democracia y sobre la vida humana en el mundo digital.

¿Qué es el capitalismo de vigilancia?

Para Zuboff, un rasgo característico del capitalismo de vigilancia es que se apropia unilateralmente de la experiencia humana como materia prima gratuita para traducirla en datos conductuales a través de los cuales se generan predicciones sobre el comportamiento de los usuarios. Parte de esta información es utilizada para mejorar los productos o servicios ofrecidos por las empresas; el resto de los datos son apropiados por las empresas como un behavioral surplus [en adelante, se traduce como “excedente conductual” o “surplus conductual”] mediante el cual se realizan predicciones del comportamiento de los usuarios. Esas predicciones se comercian en un nuevo tipo de mercado al cual la autora llama “mercados de futuros conductuales”. Estos mercados han permitido que los capitalistas de vigilancia generen enormes riquezas al vender predicciones del comportamiento de las personas.

La dinámica competitiva del capitalismo de vigilancia ha llevado a los capitalistas a desarrollar medios cada vez más sofisticados para predecir el comportamiento de las personas. En ese proceso, nuestras voces, personalidades y emociones se han vuelto fuentes del excedente conductual. En la búsqueda de mejores métodos predictivos, los capitalistas de vigilancia descubrieron que había un mecanismo más efectivo que predecir el comportamiento de los usuarios: intervenir de manera directa para persuadir y orientar su comportamiento en función de sus intereses de rentabilidad. Tuvo lugar, así, una reorientación del capitalismo de vigilancia, en el que no sólo se busca conocer nuestro comportamiento, sino también intervenir para moldearlo; se pasó del conocimiento a la acción. El objetivo dejó de ser procesar información sobre nosotros y pasó a ser automatizarnos. A partir de ello, Zuboff considera que en el capitalismo de vigilancia los “medios de modificación conductual” adquieren preponderancia sobre los medios de producción.

Con estas transformaciones, el capitalismo de vigilancia ha creado un nuevo tipo de poder al que Zuboff denomina “instrumentalismo”: un poder instrumental que, a partir de conocer el comportamiento humano, lo moldea en función de los objetivos de otros. El nuevo poder instrumental se ejerce a través de “una arquitectura computacional crecientemente ubicua de dispositivos, objetos y espacios 'inteligentes' conectados a la red”.

La competencia en el capitalismo de vigilancia obliga a los capitalistas a mejorar incesantemente los métodos mediante los cuales obtienen el surplus conductual. “Así como el capitalismo industrial fue impulsado por la continua intensificación de los medios de producción, los capitalistas de vigilancia [...] están ahora encerrados en la continua intensificación de los medios de modificación del comportamiento y el creciente poderío del poder instrumental".

El capitalismo de vigilancia corre en dirección opuesta a los ideales incluyentes, pro-sociales y democratizadores de los orígenes del mundo digital. Actualmente, el mundo digital utiliza las experiencias humanas para fines comerciales. “En su núcleo, el capitalismo de vigilancia es parasitario y auto-referencial. Revive la vieja imagen de Karl Marx del capitalismo como un vampiro que se alimenta del trabajo, pero da un giro inesperado. En lugar del trabajo, el capitalismo de vigilancia se alimenta de todos los aspectos de la experiencia humana”.

Para Zuboff, Google fue la empresa que inventó y perfeccionó el capitalismo de vigilancia en un contexto en que había pocos impedimentos legales y pocos competidores. Google fue pionera en la concepción del capitalismo de vigilancia, así como en la práctica de algunos de sus rasgos característicos: el abundante financiamiento para la investigación y desarrollo, y el vanguardismo en la experimentación. Otras empresas se han incorporado al capitalismo de vigilancia; entre ellas destacan Facebook, Microsoft y Amazon. Adicionalmente, Zuboff señala que Google sacó ventaja de las circunstancias históricas y políticas existentes después del 11 de septiembre de 2001, cuando el aparato de seguridad nacional estadounidense impulsó las capacidades emergentes del capitalismo de vigilancia y abrazó sus promesas de conocimiento total y certidumbre.

Los capitalistas de vigilancia llevaron adelante la lógica y la infraestructura que les permiten obtener inmensas ganancias bajo una retórica de emancipacion y empoderamiento de la web. En el proceso, su creciente poderío fue ocultado por la complejidad inherente a los procesos automatizados que controlan.

El capitalismo de vigilancia inició en la publicidad en línea. Rápidamente, sus mecanismos e imperativos económicos se convirtieron en dominantes para las empresas de internet. La presión competitiva ha llevado a que el capitalismo de vigilancia se expanda al mundo off-line: actualmente, su lógica y mecanismos están presentes en los seguros, el comercio, las finanzas y cada vez más sectores.

De acuerdo con Zuboff, los usuarios individuales de las tecnologías de la información no son los clientes del capitalismo de vigilancia; no son ellos quienes compran sus productos y servicios. Por el contrario, son la fuente de la cual se extrae la materia prima (las experiencias personales) de un proceso tecnológicamente muy avanzado.

El capitalismo de vigilancia implica asimetrías de conocimiento sin precedentes, que traen de la mano asimetrías de poder también inéditas. “Los capitalistas de vigilancia saben todo sobre nosotros, mientras que sus operaciones son diseñadas para ser inescrutables por nosotros. Ellos acumulan vastos dominios de nuevo conocimiento sobre nosotros, pero no para nosotros”. Los capitalistas de vigilancia predicen nuestros comportamientos para que otros se beneficien.

La autora sostiene que el capitalismo de vigilancia es una “fuerza deshonesta” [rogue] impulsada por imperativos económicos que trata instrumentalmente a los individuos, desprecia las normas sociales y anula derechos esenciales a las sociedades democráticas. Por tanto, los avances del capitalismo de vigilancia y la resistencia a la que se enfrente serán el campo de batalla clave en el que se definirá la posibilidad de un futuro humano.

Sin precedentes

De acuerdo con Zuboff, la principal razón del éxito del capitalismo de vigilancia es que no tiene precedentes. De ahí también las dificultades para explicarlo, pues al encontrarnos ante algo novedoso solemos interpretarlo a partir de categorías conocidas, que iluminan los aspectos familiares pero oscurecen justo aquello que es novedoso y lo convierten en una extensión de lo preexistente.

Zuboff relata que comenzó a estudiar el capitalismo de vigilancia en 2006. En un inicio, la autora interpretó las prácticas novedosas de las empresas tecnológicas como simples desviaciones menores respecto de las prácticas que han definido al capitalismo en su historia. No obstante, con posterioridad Zuboff cambió su perspectiva y pudo ver con claridad que aquello que estudiaba no eran simplemente desvíos sino un fenómeno sin precedentes: “el capitalismo de la información había dado un giro decisivo hacia una nueva lógica de acumulación, con sus propios y originales mecanismos operativos, imperativos económicos y mercados”. Esta nueva forma, a la que llamó capitalismo de vigilancia, rompe con las normas y prácticas que habían definido al capitalismo y daban cuenta de que algo original y novedoso había emergido.

El capitalismo de vigilancia no puede ser captado adecuadamente con conceptos existentes. La autora ejemplifica con los conceptos de “monopolio” y “privacidad”: aunque relevantes porque el capitalismo de vigilancia tiende hacia el monopolio y amenaza la privacidad, ambos conceptos son insuficientes para identificar y refutar las características cruciales y sin precedentes de esta nueva forma de organización.

¿El capitalismo de vigilancia continuará en su trayectoria actual y se convertirá en la lógica principal de acumulación? Zuboff plantea que su libro examina las condiciones de surgimiento del capitalismo de vigilancia, sus “leyes de movimiento”, sus mecanismos fundamentales y sus imperativos económicos con el objetivo de desentrañar su originalidad. A partir de ello, será posible generar condiciones y propuestas para evitar que se convierta en la forma dominante de la acumulación en nuestra era.

El titiritero, no el títere

Zuboff hace un llamado a disipar la confusión entre el capitalismo de vigilancia y las tecnologías de la información. “El capitalismo de vigilancia no es la tecnología; es una lógica que imbuye a las tecnologías y las pone en acción”. El capitalismo de vigilancia es una forma de los mercados que presupone al ámbito digital, pero que no es idéntica a este. Lo digital puede tener múltiples formas y usos, dependiendo de las lógicas económicas y sociales en que se produce y usa.

Entender lo anterior tiene una enorme importancia, pues los capitalistas de vigilancia quieren convencer a las personas que sus prácticas son inseparables del uso de las tecnologías. De esa manera, buscan confundir a los usuarios al identificar los imperativos comerciales con el funcionamiento de las tecnologías. Y, en definitiva, persiguen “que las prácticas del capitalismo de vigilancia parezcan inevitables”. La autora denomina “inevitabilismo” a estas ideas promovidas por los capitalistas de vigilancia.

Para evitar caer en el “inevitabilismo” tecnológico, se debe tener presente que las tecnologías, tanto en su desarrollo como en su implementación, incorporan las características de la sociedad en que han sido producidas. Siguiendo a Max Weber, la autora señala que el desarrollo tecnológico en la sociedad moderna está orientado hacia la generación de ganancias. “En una sociedad capitalista moderna, la tecnología ha sido, es y siempre será una expresión de los objetivos económicos que la dirigen hacia la acción”.

El capitalismo de vigilancia utiliza muchas tecnologías, pero no puede ser directamente equiparado a ninguna tecnología. Aunque su operación implica plataformas, computadoras, algoritmos y muchas otras tecnologías, no es idéntico a ninguna de ellas. Por tanto, más que identificarse con tecnologías específicas, el capitalismo de vigilancia puede entenderse como una lógica económica que orienta la utilización de las máquinas en un sentido determinado. La autora concluye este apartado señalando que el capitalismo de vigilancia no es un resultado tecnológico accidental, sino un “capitalismo canalla [rogue capitalism] que aprendió a explotar astutamente sus condiciones históricas para asegurar y defender su éxito”.

Contorno, temas y fuentes de este libro

En este apartado, se plantea un esquema general del libro y sus fuentes.

Mediante una analogía cartográfica, la autora sostiene que el objetivo del libro consiste en “mapear” una tierra desconocida, desarrollar los conceptos y marcos que permitan delinear sus contornos, clarificar sus características novedosas y, de esa manera, proponer un marco interpretativo para identificar la lógica de la dominación económica y social del capitalismo de vigilancia, así como comprender sus dinámicas.

El libro está conformado por cuatro partes.

La parte I aborda los orígenes, mecanismos fundacionales e imperativos económicos del capitalismo de vigilancia, así como las razones de su éxito y aceptación acelerados. Se examina de cerca la invención y elaboración temprana del capitalismo de vigilancia por parte de Google. Zuboff sostiene que las razones más importantes del éxito de Google no fueron la destreza y talento computacional de sus ingenieros, sino “las relaciones sociales radicales que la empresa declara como hechos”: su desprecio por los límites de la vida privada, su falta de respeto a la integridad moral de los individuos, entre otros. Los capitalistas de vigilancia declararon unilateralmente su derecho a invadir la privacidad de los individuos y a apropiarse de sus experiencias para generar ganancias. Este impulso fue favorecido por la cooperación entre los capitalistas de vigilancia y las agencias de inteligencia estatales y por la inexistencia de leyes que lo regularan. Por el éxito de sus prácticas, Google fue clave para que el capitalismo de vigilancia se convirtiera en la forma dominante del capitalismo de la información. Con la consolidación del capitalismo de vigilancia, Google y su creciente universo de competidores han forjado asimetrías de conocimiento y poder sin precedentes en la historia humana. Estas desigualdades de conocimiento y poder, a las que la autora llama “división del aprendizaje en la sociedad”, son el eje crítico del orden social en el siglo XXI.

La parte II hace un seguimiento de la expansión del capitalismo de vigilancia desde los ambientes online hacia el “mundo real”. Esta expansión es resultado de la competencia entre los capitalistas de vigilancia y ha avanzado en convertir a todos los aspectos de la experiencia humana en materia prima para formular predicciones. Las agresivas operaciones de extracción de información son justificadas por los capitalistas de vigilancia bajo el estandarte de la “personalización” de sus productos o servicios. En el proceso, los capitalistas de vigilancia descubrieron que para sus fines comerciales era más eficiente intervenir activamente sobre el comportamiento de los usuarios que predecirlo. Así, han desarrollado “medios de modificación conductual” cada vez más complejos, que según la autora actualmente son más importantes que los medios de producción.

Las prácticas de modificación conductual llevadas a cabo por los capitalistas de vigilancia amenazan el “derecho al tiempo futuro”, es decir, la capacidad de los individuos de imaginar, planear y construir un futuro. Por ello, la autora considera que el capitalismo de vigilancia plantea riesgos para la “naturaleza humana” análogos a los que el capitalismo industrial representó para la vida natural.

La parte III analiza el surgimiento del “poder instrumental” [instrumentarian power] y las relaciones sociales antidemocráticas a las que da lugar. La autora sostiene que el instrumentalismo ha sido interpretado a partir de conceptos como “totalitarismo” y que esto ha dificultado captar su originalidad y los peligros que trae consigo. El totalitarismo hacía referencia a la conversión del Estado en un proyecto de “posesión total”; en cambio, el instrumentalismo se trata de la transformación del mercado hacia un proyecto que busca la certidumbre total. Zuboff rastrea los orígenes intelectuales del poder instrumental en la física teórica temprana y en la obra del conductista B.F. Skinner.

En esta parte del libro, la autora introduce en concepto de Big Other para referirse a la “infraestructura computacional ubicua, sensible y conectada” que sostiene al capitalismo de vigilancia y al poder instrumental.

En parte III del libro se examina un segundo cambio en el capitalismo de vigilancia. El primer cambio consistió en su migración del ámbito virtual al mundo real; en su segundo cambio, el capitalismo de vigilancia pasó del mundo real al mundo social: “la sociedad misma se convierte en el nuevo objeto de extracción y control”. El poder instrumental intenta organizar y moldear a la sociedad para que la certidumbre computacional sustituya a la política y la programación reemplace a la democracia.

En el capítulo final del libro, Zuboff concluye que el capitalismo de vigilancia se aleja de la lógica y prácticas que caracterizaron al capitalismo a lo largo de su historia. El capitalismo de vigilancia “abandona las reciprocidades del capitalismo con las personas y la sociedad, e impone una visión colectivista totalizante de la vida” que sacrifica la libertad y autonomía individual. El capitalismo de vigilancia puede ser descrito como un derrocamiento de la soberanía de las personas que pone en peligro a las democracias liberales de Occidente.

Para revertir la amenazante trayectoria del capitalismo de vigilancia y fundar una civilización de la información sustancialmente distinta es preciso nombrar aquello que no tiene procedente y crear nuevas formas de acción colaborativa. “Si el futuro digital será nuestro hogar, somos nosotros quienes debemos construirlo”.

Otra distinción es importante. Así como las tecnologías de la información no son sinónimo del capitalismo de vigilancia, esta nueva lógica de acumulación no puede reducirse a una empresa o un conjunto de empresas. Según Zuboff, aunque es común referirse a las cinco mayores empresas de internet (Apple, Google, Amazon, Microsoft y Facebook) como un conjunto homogéneo con estrategias e intereses similares, cuando se consideran las prácticas del capitalismo de vigilancia ese esquema simplificador resulta insuficiente. No toda utilización de las tecnologías de la información en el capitalismo equivale al capitalismo de vigilancia. La autora ejemplifica con Apple: esta empresa recolecta información de los usuarios con su permiso y únicamente como un medio para mejorar la calidad de sus productos o servicios. Esa es una práctica propia del capitalismo, pero no corresponde a lo que la autora denomina capitalismo de vigilancia. Algo similar sucedía con Amazon, empresa que se enorgullecía del círculo virtuoso existente entre recolección de datos y mejora de su servicio. Las prácticas menos agresivas de estas empresas hacia los datos de los usuarios pueden deberse a que ambas obtienen ganancias tanto de productos físicos como digitales y tienen menor presión financiera para impulsar el capitalismo de vigilancia que las empresas que sólo venden productos y servicios digitales. No obstante, todo indica que Amazon está orientándose cada vez más hacia el capitalismo de vigilancia, con un nuevo énfasis en servicios personalizados y venta de información de los usuarios a terceros.

Una implicación importante de distinguir entre capitalismo y capitalismo de vigilancia es que las medidas regulatorias propias del capitalismo industrial no modifican directa e inmediatamente las prácticas de capitalismo de vigilancia de las empresas. Por ejemplo, si Google o Facebook fuesen divididos en múltiples empresas como consecuencia de sus prácticas monopólicas, esa fragmentación no modificaría la lógica bajo la cual operan ni sus prácticas, de tal forma que se tendrían no dos empresas capitalistas de vigilancia, sino 10 o 20.

A lo largo del libro, la autora se enfoca en Google, Facebook y Microsoft. No obstante, señala que su objetivo no es formular una crítica de esas empresas en sí, sino de los imperativos económicos y de las prácticas del capitalismo de vigilancia. De manera análoga, Zuboff señala que aun cuando el texto y sus ejemplos se centran en Estados Unidos (el lugar de origen del capitalismo de vigilancia), sería erróneo pensar que el capitalismo de vigilancia se limita a ese país; por el contrario, la lógica y consecuencias de esta nueva forma de acumulación afectan a todo el mundo.

Zuboff reconoce en su trabajo la influencia de autores como Durkheim, Marx y Weber, quienes –cada uno en su tiempo– teorizaron sobre fenómenos sociales sin precedentes. Asimismo, afirma que su trabajo se inspiró en la obra de pensadores como Hannah Arendt, Theodor Adorno, Karl Polanyi, Jean-Paul Sartre y Stanley Milgram, quienes se esforzaron por nombrar fenómenos sin precedente al tiempo que se opusieron al totalitarismo.