Jathan Sadowski es investigador en el Emerging Technologies Research Lab de la Universidad de Monash en Australia. Su trabajo se enfoca en la economía política de los sistemas digitales.

Nota: a lo largo de la presente síntesis, siempre que se use la palabra inteligente viene del inglés smart.

Capítulo 1. Cómo pensar sobre la tecnología

Todos los objetos a nuestro alrededor se están volviendo inteligentes: los paraguas que te avisan cuando va a llover, los cepillos de dientes que registran cuán buena es tu limpieza bucal, entre muchos otros. Ningún objeto o espacio está a salvo de la “inteligización” [smartification]. Lo inteligente se está convirtiendo en la nueva normalidad. Ni siquiera es necesario que las personas lo busquen activamente: basta con esperar y las actualizaciones lo traerán hacia ti automáticamente.

¿Qué significa que algo sea inteligente? Sadowski define que inteligente “significa que un objeto ha incorporado tecnologías digitales para la recolección de datos, conectividad en red y control mejorado”. Estas características hacen que los objetos aparezcan como encantados y que se reproduzca en torno a ellos un lenguaje místico. Ante esta situación, Sadowski busca desmitificar a los objetos inteligentes, dar cuenta de sus imperativos, intereses y dinámicas subyacentes, así como de sus repercusiones e impactos.

Para Sadowski, la rápida proliferación de tecnologías inteligentes no es únicamente un resultado de las demandas de los consumidores. Por el contrario, los intereses corporativos y gubernamentales tienen una mayor influencia que las elecciones de los consumidores sobre por qué los objetos se vuelven inteligentes.

En el discurso mediático, la reacción ante las nuevas tecnologías oscila entre la emoción que deja sin aliento y las preocupaciones sobre la privacidad. Ciertamente, los avances tecnológicos son impactantes y la privacidad es un tema relevante. No obstante, los impactos de las tecnologías inteligentes son mucho más amplios y profundos que esas actitudes de cliché. Las tecnologías inteligentes se están convirtiendo en un nuevo paradigma tecnológico. Es urgente analizarlas críticamente, pues su presencia y poder en nuestras sociedades es cada vez mayor.

Intereses, imperativos, impactos

Sadowski advierte que el libro trata sobre tecnopolítica: sobre “política, poder y ganancias –y la manera en que son canalizadas a través de, y modificadas por, la tecnología”. A partir de señalar que todas las fases del proceso técnico –del diseño al uso– están cargadas de política, el autor sostiene que el libro es una invitación a reflexionar sobre la política que está encarnada en las tecnologías inteligentes. Propone analizar tres aspectos: sus intereses, imperativos e impactos.

A lo largo del libro están presentes tres argumentos tecnopolíticos y las maneras en que se manifiestan en la sociedad:

1. “Las tecnologías inteligentes fomentan los intereses del poder corporativo tecnocrático” por encima de otros proyectos y valores sociales.
2. “Las tecnologías inteligentes son impulsadas por los imperativos duales del capitalismo digital: extraer datos de, y expandir el control sobre, potencialmente todos los objetos y todas las personas”.
3. En las tecnologías inteligentes, la conexión y conveniencia vienen siempre al precio de consecuencias (in)intencionadas y (des)conocidas.

Sadowski desarrolla con mayor amplitud cada uno de estos puntos.

¿Los intereses de quién? Las tecnologías no son neutrales; por el contrario, están cargadas de valores, intenciones, motivaciones… Citando a Langdon Winner, Sadowski afirma que “la tecnología es ella misma un fenómeno político” y que “las formas técnicas, en buena medida, moldean el patrón básico y el contenido de la actividad humana en nuestro tiempo”. Toda tecnología es el resultado de procesos y elecciones sociales, en los que se priorizan unos objetivos sobre otros, los intereses de un grupo sobre el de otros, etc. Por tanto, la tecnología es una manera de materializar intereses, y eso es político.

La teoría de la tecnopolítica de Winner es adecuada para analizar las plataformas digitales y los algoritmos que median las relaciones sociales y los intercambios económicos en la sociedad contemporánea. Las tecnologías inteligentes son aprovechadas por grupos de élite –casi todos hombres, casi todos blancos, todos ellos inmensamente ricos– para potenciar su visión del mundo. Esta élite está conformada por tecnócratas que crean sistemas que dan forma a la sociedad, median las relaciones sociales y gobiernan a las personas.

Para el autor, si se denomina autoritario a un régimen en el cual los ciudadanos están excluidos de los procesos políticos y de la toma de decisiones significativa, la tecnopolítica de las tecnologías inteligentes debe ser caracterizada como autoritaria, pues quienes toman las decisiones que impactan sobre la vida común e imponen sus intereses es un reducido grupo de personas ricas y poderosas. Ignorar la política que está presente en las tecnologías inteligentes equivale a permitir que esos intereses ejerzan una poderosa influencia sobre nuestras vidas sin decir nada al respecto.

Reconocer que la dinámica tecnopolítica contemporánea es autoritaria no significa adherir a teorías de la conspiración. Significa simplemente que las estructuras tecnológicas y políticas están diseñadas para excluir a la mayoría de la toma de decisiones y para favorecer ciertos intereses sociales, los de las personas ricas y poderosas.

¿Cuáles imperativos? Los principales imperativos que rigen el diseño, desarrollo y uso de las tecnologías inteligentes son dos: recolección y control. Al hablar sobre los intereses, Sadowski se refería a los valores y principios que son incluidos en la tecnología; al hablar sobre los imperativos, se refiere a los principios y objetivos que tienen mayor influencia y alcance al determinar cómo funcionan. Así como en el capitalismo el lucro es el principal imperativo, los imperativos de recolección y control son partes centrales del capitalismo digital. Entender cómo operan estos imperativos es clave para el análisis de la tecnopolítica contemporánea.

El imperativo de recolección consiste en “extraer todos los datos, de todas las fuentes, por todos los medios posibles”. Las empresas y los gobiernos son regidas por este imperativo: buscan extraer y acumular datos. Es por esta razón que las tecnologías inteligentes están diseñadas para succionar datos.

Por otra parte, el imperativo de control consiste en “crear sistemas que monitorean, gestionan y manipulan el mundo y a las personas”. Este imperativo se materializa en los sistemas de vigilancia mediante los cuales las corporaciones y los estados “gobiernan a las personas, regulan el acceso y modifican comportamientos”. Las tecnologías inteligentes están hechas para potenciar las capacidades de control. Para Sadowski, la preocupación principal en este sentido no es por el control en sí, sino por quién lo ejerce sobre quién.

La distinción entre estos imperativos es analítica, pues ambos son interdependientes, se condicionan recíprocamente y es común que se traslapen. No obstante, resulta útil para comprender con mayor detalle cómo funcionan las tecnologías inteligentes y por qué funcionan de esa manera. Las tecnologías inteligentes son el resultado de la conjunción de ambos. En su conjunto, estos imperativos conducen a que haya sensores en todos lados, que todo esté conectado a internet y a la creciente automatización para supervisarlo todo.

Sadowski aclara que los imperativos de recolección y control no son nuevos; pueden identificarse en toda la historia del capitalismo. El objetivo del autor es mostrar cómo estos imperativos operan en el capitalismo digital y en las tecnologías inteligentes.

¿Cómo somos impactados? Aunque las tecnologías inteligentes pueden ser muy distintas entre sí (en sus aplicaciones, escalas y tipos), Sadowski invita a no pensar en estas tecnologías de manera aislada sino como “piezas de un sistema unificado”, como “partes de un poderoso, aunque apenas emergente, régimen tecnopolítico del capitalismo digital”. Para el autor, esa será la única manera en que se podrán evaluar correctamente sus impactos en la sociedad. De esa manera, se podrá ver que sus impactos van mucho más allá de la privacidad y la ciberseguridad. Estas tecnologías amplifican el poder de corporaciones y gobiernos sobre las sociedades.

La tecnología no quiere nada; las personas sí

En este apartado, Sadowski cuestiona y busca desmontar la retórica determinista en torno a las tecnologías. Es común que las personas vean a las tecnologías como algo extrahumano, que tiene sus propias lógicas y dinámicas. El autor caracteriza a esta actitud como “determinismo tecnológico”. Para ejemplificar, menciona tres ideas equivocadas que son comunes en la manera en que las personas piensan sobre la tecnología:

1. La tecnología está separada de la sociedad y excede al control de las personas. Lo único que se puede hacer ante ellas es adaptarse.
2. La tecnología se desarrolla de manera lineal. Si una tecnología se impuso sobre otra diferente, esto sólo puede deberse a que es objetivamente mejor.
3. La tecnología es (casi) siempre una fuerza liberadora que empodera a los humanos. La tecnología es la principal causa de que haya más libertad, más riqueza y una mejor calidad de vida. Es la solución a los problemas y conduce al progreso y a la prosperidad.

La retórica determinista es muy común entre tecnólogos, futuristas y ejecutivos de empresas. Para el autor, el principal problema con el determinimo tecnológico es que oscurece el hecho de que la tecnología es un producto social y que detrás de ella hay intereses y valores. Una implicación del tecnodeterminismo es que afianza la idea de que no hay manera de oponerse al desarrollo tecnológico, por lo que las personas deben adaptarse o ser aplastadas por la marcha indetenible del progreso. El determinismo tecnológico puede conducir a la pasividad y cierra la puerta a que las personas incidan sobre las tecnologías. Además, desdibuja los intereses y la responsabilidad de quienes diseñan las tecnologías, los imperativos que las rigen y sus impactos sociales.

Por tanto, es necesario cuestionar la política de las tecnologías inteligentes y no aceptar ciegamente la retórica determinista de quienes se benefician con su implementación.

Lo que sigue

En el último apartado del capítulo, Sadowski hace una presentación general del contenido de cada uno de los capítulos que conforman el libro.

Los tres capítulos de la parte I exploran los imperativos de recolección y control, así como la manera en que emergen del capitalismo digital y lo potencian. En el capítulo 2 se explica cómo y por qué los datos se han convertido en un elemento central del capitalismo contemporáneo; también se explica por qué los datos son tratados como capital y cuáles son las implicaciones de esto.

En el capítulo 3 se describe la colonización de la vida cotidiana por sistemas de control que monitorean, registran y miden todo lo que hacen las personas. A través de estos sistemas, se jerarquiza a las personas, se regula el acceso y se refuerza la exclusión. Mediante un análisis de las tecnologías de control en sus múltiples escalas, se propone una visión de conjunto sobre tecnologías que comúnmente se piensan separadas.

En el capítulo 4, el autor presenta diez tesis sobre el capitalismo digital. En ellas discute cuán revolucionario es realmente el capitalismo digital y en qué medida actualiza dinámicas preexistentes. Anticipa que “no estamos presenciando un quiebre disruptivo en la historia, sino una nueva manera de reinvención, reproducción y revitalización de estructuras sociales y relaciones económicas que vienen de tiempo atrás”. En su conjunto, las tesis presentan un diagnóstico sobre el capitalismo digital, al que el autor caracteriza como “la tecnopolítica del poder y la ganancia”.

La parte II se divide en tres capítulos, cada uno de los cuales se centra en una escala distinta de las tecnologías inteligentes. El capítulo 5 se ocupa del “yo inteligente” [smart self], esto es, de cómo las tecnologías inteligentes son usadas para rastrear, monitorear, gestionar y monetizar todos los aspectos de la vida de las personas. La preocupación principal del autor es mostrar qué se hace con los datos de las personas y cómo se moldea su comportamiento.

El capítulo 6 trata sobre el hogar inteligente. Se postula que en el capitalismo contemporáneo, los objetos domésticos no son sólo mercancías, sino “medios de producción de datos”, que monitorean el comportamiento de las personas para conocer sus hábitos y preferencias con el objetivo de valorizarlos.

En el capítulo 7 se habla sobre la ciudad inteligente, que según el autor se ha convertido en una especie de “hábitat natural” para las tecnologías inteligentes. Los sensores, algoritmos y sistemas de la ciudad inteligente son diseñados por gobiernos y corporaciones para controlar la ciudad y a sus habitantes. Uno de los principales beneficiarios de este proceso son los cuerpos de policías, que mediante “vigilancia y análisis de grado militar” ejercen un control inédito de las ciudades.

La parte III (con sólo un capítulo, el 8), presenta tres maneras –necesarias, pero no sencillas– para desafiar al capitalismo digital y crear una sociedad tecnológica distinta de la existente. La primera, está relacionada con la resistencia cotidiana a la extracción de datos. La segunda, versa sobre la necesidad de democratizar la innovación. La tercera propone que los datos deberían ser tratados como un activo público que es usado para el bien común.