Hace un siglo, a medida en que los sistemas de calefacción urbana, de redes ferroviarias y los sistemas eléctricos se hicieron más complejos empezó a cobrar sentido poner todos los controles de estos sistemas en una sola habitación: la sala de control. En la década de los sesenta, la sala de control se convirtió en un icono de la modernidad. Desde las misiones Apolo hasta la serie de televisión Star Treck’s USS Enterprise, todos tenían una. Incluso, durante el gobierno del presidente chileno Salvador Allende se construyó un cuarto de operaciones en una sala hexagonal, con la misma filosofía y estética.

La sala de operaciones del “Proyecto Cybersyn” (acrónimo de “sinergia cibernética”) fue construida con el propósito de dirigir desde ahí la economía chilena. Allende contrató a Stafford Beer para construirla, quien conectó una computadora central a máquinas télex en las fábricas. Desde estas máquinas, los gerentes de las fábricas ingresaban los datos que luego serían centralizados y analizados, mientras que las instrucciones para cualquier cambio necesario en la producción se enviará de vuelta desde la sala de control.

Después del golpe militar en 1973, el Proyecto Cybersyn fue destruido. El debate sobre cuál era la mejor manera de manejar la economía tenía 50 años y, mientras Allende pensaba que la tecnología disponible en ese momento podría ayudar al gobierno a optimizar la economía, los generales golpistas, aconsejados por los economistas de Chicago, pensaban que el mercado tenía en sí mismo más capacidad de procesar esa información y era mejor que se condujera solo.

Aunque desde entonces el éxito del modelo de mercado, o semi-mercado, han hecho parecer a la planificación económica como algo del pasado, The Economist se pregunta: ¿Un Cybersyn 2.0, con la tecnología actual, podría reemplazar las decisiones autónomas en las que se basa el mercado?

Actualmente, la sala de control como el sitio donde se toman las decisiones ha dado el paso a la nube. Ya no hay un control centralizado, pensemos en la forma en que Uber envía los conductores a sus clientes, sólo algoritmos que parecen tomar cada vez más decisiones y realizar cada vez más tareas. Muchos de estos algoritmos ejecutan el software del mercado, pero de la misma forma podrían ejecutar el del Estado. Jack Ma, el expresidente ejecutivo de Alibaba, expresó en una conferencia en 2017 que a pesar de que hemos llegado a pensar que la economía de mercado es el mejor sistema, en las próximas décadas, debido al acceso a todo tipo de información, podríamos encontrar la mano invisible del mercado. The Economist, por su parte se pregunta: ¿Encontrarla para qué?, ¿Anticiparse?, ¿Ayudarla o desactivarla?

Rockeame Homo Deus

Si la tecnología puede superar a la mano invisible del mercado, se pregunta The Economist: ¿puede hacer lo mismo con la democracia? La “legitimidad en virtud de los procedimientos” o ”input legitimacy” es un concepto que habla de que el hecho de haber sido democráticamente electo legitima un gobierno dado, aún a pesar de no cumplir con las expectativas ciudadanas. Los gobiernos no democráticos, por su parte, tienen que recurrir a lo que se ha llamado “legitimidad por resultados” o ”output legitimacy” así como a la represión abierta. Para The Economist, la tecnología de la información actual puede contribuir a ambos, es decir, puede predecir lo que los ciudadanos quieren, lo que están dispuestos a tolerar, y , también, manipular sus deseos. Cuando estas herramientas tecnológicas están disponibles para los actores del juego democrático, la legitimidad democrática queda en entredicho.

En el próximo siglo, según el historiador y autor israelí Yuval Harari, la cada vez más poderosa tecnología de la información podría volver obsoleto, no solo el libre mercado, sino también la democracia liberal. Un escenario así podría volverse posible si la tecnología de la información se combinara con biotecnología, permitiendo a los algoritmos acceso al pensamiento humano.
En ese sentido, considera The Economist, a medida que el procesamiento de datos coloniza más áreas de la actividad humana, modificando todo tipo de procesos, experiencias y relaciones, no es descabellado pensar que comience a afectar los procesos de decisión, tanto de las economías como de la democracia liberal. La tecnología que se está adoptando de forma omnipresente no tiene que necesariamente conducir a un estricto control económico o político; sin embargo, la posibilidad debe ser estudiada para poder evitarla si se necesita.

Costos y cálculos

Durante la segunda guerra mundial, los estados industriales que participaron en la contienda planificaron sus economías de forma centralizada. Para muchos, este sistema de dirección funcionó bastante bien, pues, si el Estado pudo calcular cuántas municiones y cuántos uniformes se necesitaban durante la guerra, de la misma forma podría hacerlo con el resto de las mercancías durante tiempo de paz.

Así empezó lo que se conoce como el “debate del cálculo socialista”. En este debate, de un lado estuvieron los economistas liberales que le dieron forma a la economía de libre mercado en la segunda mitad del siglo XX; ellos pensaban que la planificación de la economía no podría funcionar. Para explicarse, utilizaron la alegoría de la economía como un sistema que procesa información, los mercados son exitosos en la medida en que procesan información. Del otro lado del debate estaban los economistas soviéticos, que apoyaron la idea de la planificación económica; la rápida industrialización en la URSS parecía darles la razón. En la década de 1930, Leonid Kantrovich, un economista ruso, hizo una contribución teórica al pensamiento económico que le valió el Premio Nobel al desarrollar la “programación lineal”, útil a los propósitos de planificación. Más tarde, Oskar Lange propuso una manera de trasladar algunos de los beneficios del mercado a las economías planificadas por medio de los precios sombra.

Del otro lado, los economistas austriacos Ludwig von Mises y Friedrich von Hayek sostuvieron que tales cálculos nunca serían capaces de superar los resultados obtenidos por los mercados, ya que estos también eran máquinas, y mucho mejores, que asimilan los datos de la economía para calcular lo que se necesita y lo que se ofrece, el resultado de estos cálculos son los precios de las mercancías, sostenían. Actualmente, hay quienes caracterizan este debate como una discusión sobre complejidad computacional, décadas antes de que Alan Turing desarrollara ese concepto. Cuando Hayek escribió “El uso del conocimiento en la sociedad” se refirió al mercado como una maquinaria que registra el cambio, como un sistema de telecomunicaciones que permite a seguir el movimiento de unos pocos indicadores. Además, esta máquina genera nueva información, sostiene Hayek, que hace que el mundo sea inteligible, dando forma a la actividad dentro de este. Una economía que no puede predecirse no se puede controlar, sentenciaba.

Otra diferencia fundamental entre ambas posiciones, es que quien mira la “pantalla del mercado” en la alegoría de Hayek, no es un tecnócrata, sino cualquiera. En el modelo de Hayek, el mercado es descentralizado y de libre acceso para todos, es por eso que se articula tan bien con la democracia liberal.

Durante los años cincuentas, cuando la URSS igualó a Estados Unidos en tecnología militar y espacial, la planificación económica aún parecía funcionar. Sin embargo, la economía soviética nunca fue tan fuerte cómo deseo parecer. En ese tiempo las primeras computadoras y nuevas ideas le hicieron pensar a Kantrovich que podían manejar todos los aspectos de la economía. Pero, mientras los procesos democráticos y del mercado suavizan la falibilidad humana explorando todo tipo de posibilidades, las dictaduras planificadas amplifican el error con sus márgenes reducidos. Cuando la economía de mercado entró en un auge sin precedentes, después de la caída de la Unión Soviética en 1991 y la decisión de China de abrazar algunos aspecto del mercado en su economía, muchos vieron en esto la prueba de que los sistemas descentralizados son más efectivos; otros, que la democracia tiene una capacidad inigualable para resolver problemas complejos.

Para The Economist, los regímenes centralizados y/o autoritarios carecen de canales de retroalimentación, de la manera en que los mercados generan información sobre la demanda, o la libertad de expresión. En los regímenes autocráticos, los ciudadanos no discuten los problemas abiertamente, ni intentan experimentar con novedosas soluciones, debido a la represión y la censura. Por esta razón, los gobiernos que no emanan de las urnas ven limitada su capacidad de entender lo que está pasando, lo que los lleva a tomar malas decisiones. El único canal de retroalimentación con el que cuentan este tipo de gobiernos son sus sistemas de inteligencia, de donde obtienen la información que necesitan para gobernar. Sin embargo, este tipo de medidas pueden producir inestabilidad política, debido a que el responsable de estos servicios fácilmente puede convertirse en rival político del gobernante o censurar información destinada a este, sin mencionar que el costo de estos servicios es bastante elevado.

Las intoxicaciones de la tecnología

Sin embargo, el libre mercado no ha disfrutado del predominio que se esperaba a principios de la década de los noventas. Por un lado, las normas democráticas han sufrido varios reveses en los últimos años; por otro lado, la planeación que internamente realizan las empresas suele pasar desapercibida. En este sentido, Herbert Simon, un economista ganador del Nobel, consideró en los noventas que hablar de las economías solamente en términos de transacciones de mercado ofrece una visión parcial de lo que en realidad sucede en la economía. Simon sostenía que en realidad la parte más grande de la economía son las empresas y otro tipo de organizaciones en las que trabaja la gente, y que estas están interconectadas por las transacciones de mercado. Al concentrarnos en las transacciones del mercado, sostenía Simon, nos olvidamos de una gran parte de la economía, una parte que en realidad realiza mucha planeación. Internamente, las empresas no son muy diferentes de la economía planificada de la Unión Soviética. La gestión, comercialización, logística y fabricación de las grandes empresas, como Amazon y Walmart, se sirven en gran medida de una planeación que envidiaría el Gosplan de la URSS.

Aplicada por estas firmas, la planeación es usada para maximizar los dividendos, mientras que las tendencias negativas como la corrupción que esta centralización puede producir son atemperadas por los mecanismos legales de la administración corporativa. Para muchos que sostienen el ideal post-escasez de un “Lujoso comunismo completamente automatizado” consideran que bajo un control democrático este tipo de herramientas se pueden aplicar para conseguir y optimizar metas como: salud, tiempo libre y medio ambiente.

Centralismo democrático

Actualmente, sin embargo, el comunismo realmente existente no es ni lujoso, ni completamente automatizado, ni ha mostrado interés en someterse a un control democrático. El Partido Comunista Chino desarrolla un tipo de planeación que, de hecho, le permite reducir la democracia al mínimo, considera que el mundo se rige por leyes objetivas que si se comprenden pueden ser usadas para predecir y controlar la sociedad.

Con las herramientas disponibles en la actualidad no hay forma de competir con sistemas de procesamiento de información orgánicos, como el mercado y la democracia, pero el alcance de estas herramientas está cambiando rápidamente. Por ejemplo, la mitad de la población mundial lleva con ellos una poderosa computadora llena de sensores, mientras un número considerable cuenta con computadoras que siempre están escuchando, en espera de órdenes. Debido a ello, la cantidad y variedad de datos recopilados y procesados continuará creciendo por todo el mundo. No es solo la cantidad de información, es también su calidad, la que ha mejorado desde los planes soviéticos. La información actual viene en tiempo real, y no se reduce a la producción. Las herramientas de la inteligencia artificial pueden procesarla y derivar todo tipo de significado de ella. Estos sistemas encarnan la solución a los problemas que Kantorovich y los planificadores no podían hacer frente: relacionar los efectos con las causas en formas complejas y no lineales.

Intratabilidad roja

Sin embargo, ninguna de estas herramientas de planeación estarán disponibles a corto plazo. Un rango cualitativo más amplio de datos no equivale a datos de mayor calidad. Es probable que la tecnología incorpore sus propios sesgos a las formas de ver el mundo que nos ofrecen, y, en una lluvia de datos, estos serán más difíciles de detectar. Si bien, es cierto que las compañías hacen mucha planeación, muchas de ellas no lo hacen muy bien y se van a la quiebra. La competencia asegura que cuando esto sucede otras compañías continuarán en el negocio, pero esto sería más difícil de asegurar si la planificación se expandiera más por la economía.

Por un lado, la planeación económica es muy difícil y complicada. Si el Gosplan de la URSS hubiera recibido una gran computadora de la actualidad y un moderno software de programación lineal, habría tomado unos minutos resolver la asignación óptima de los 12 millones de productos de la URSS en 1983. Pero si se tienen en cuenta otras variables para cada producto los cálculos se vuelven más complicados. Si hay miles de variables asociadas con cada producto la potencia informática necesaria aumenta en un factor de 30 mil millones.

Por otro lado, algunos consideran que no es necesario crear un modelo de la totalidad de la economía. Algunas partes de esta, como sectores industriales o mercados laborales, pueden ser optimizadas de forma independiente, permitiendo a la planeación independiente resolver problemas de forma paralela.

Sin embargo, algunos consideran que en la medida en que el papel de la inteligencia artificial aumente en la economía, la complejidad de esta incrementará. Es decir, el problema de organizar la economía no se simplificará con mayor potencia informática, solo hará que la economía se vuelva más compleja. Otro problema es el hecho de que los datos que se usan para planificación dejan de ser exactos en la medida en que el mundo cambia, lo que sucede usualmente de forma inesperada.

La pantalla presionada permanentemente contra el rostro humano

Aunque el liderazgo chino comparte, en cierta medida, el escepticismo sobre la planificación y control total de la economía, en lo que respecta al control social y político se muestran más entusiastas. En Xinjang, al oeste de China, el gobierno está implementando severas medidas represivas contra la minoría musulmana Uigur, mientras que este sistema represivo se ha extendido a otras ciudades donde las cámaras son omnipresentes, se han instalado retenes donde los rostros de los ciudadanos son escaneados y sus datos de navegación son celosamente vigilados por una aplicación en los teléfonos de los ciudadanos que le da acceso a la policía a los datos de estos.

Otras formas más sutiles en que se está usando la tecnología en China, aunque quizá más significativa debido a sus alcances, es la forma en que se está vigilando la conversación pública en redes sociales, y la forma en que se manipula, para saber lo que la gente quiere y conseguir la “legitimidad por los resultados” que el Partido necesita. El “sistema de crédito social” que les da a los ciudadanos un rango de confiabilidad que se empieza a implementar es otro ejemplo de estos usos preocupantes.

Pero este tipo de gobiernos autoritarios se enfrentan al mismo tipo de problemas que los planificadores económicos. Es muy difícil predecir que puede detonar un cambio de orden político o social. Hong Kong es el ejemplo perfecto. Los riesgos de la ingeniería social a través de la inteligencia artificial se están incrementando, ya que los sistemas desarrollan sesgos que podrían llevar a los gobiernos autoritarios que dependen de ella al desastre.

Más allá del autoritarismo

Las mismas tecnologías que usan los regímenes autoritarios pueden usarse para erosionar una democracia. Las redes sociales ofrecen maneras de inyectar información errónea, equivalente a virus informáticos, para distorsionar el debate público creando un sabotaje cognitivo. Los sofisticados sistemas de vigilancia no son de uso exclusivo de los estados autoritarios. En las democracias occidentales los usuarios aceptan que distintas empresas vigilen todos sus movimientos. Es en realidad un sistema de vigilancia autoadministrada que tiene similitudes con el que se está implementando en China. En este sentido, las oficinas de Apple, con todas sus cámaras de vigilancia, la sensación de transparencia y de accesos restringidos, es una especie de modelo del control optimizado que nos depara el futuro controlado por la tecnología.

Bienvenido al Planeta Plataforma

Es interesante que ambas partes del debate sobre el “cálculo socialista” coinciden en el deseo de emular la eficiencia de una máquina, aunque difieren, es cierto, en la forma de conseguirlo. Si bien, es difícil ver las coincidencias entre la represión china y la gente que se sirve de tecnologías como Siri o Alexa, el deseo de control y predictibilidad en la propia vida está relacionado con el deseo de controlar a otros. Para The Economist, perseguir este deseo de control de forma irreflexiva podría llevar a similares resultados. Sin embargo, facilitarnos las cosas hasta un punto en donde no tengamos que pensar en ellas es, en realidad, el objetivo de la automatización.

Sin embargo, es posible diseñar sistemas con espacio para debatir los por qué y para qué que los criterios sobre la eficiencia tienden a silenciar. El proyecto Cybersyn del presidente Allende, por ejemplo, además de una sala de control, era también un lugar para el debate. Fue diseñado para conjuntar a los hombres con las máquinas en un debate sobre los fines, los medios y los valores. Intentó ser una plataforma para la democracia económica, que esperaba ser replicada por todo el país, dando a los gerentes y los trabajadores la oportunidad de entender su situación y tomar decisiones sobre ella.

El concepto de una plataforma para la decisión y el debate, omnipresente en la jerga tecnológica, es fundamental. Se puede dividir al mundo en plataformas, por un lado, y las cosas que se ejecutan en ellas, por otro. Las plataformas pueden variar, desde un sistema operativo hasta una red social, siempre es algo en lo que otras cosas se ejecutan y que determina lo que estas cosas pueden hacer.

Los reguladores, o planificadores, tienen en la plataforma el lugar ideal para intervenir, pues es donde el código se convierte en ley, donde se especifican los mecanismos con los cuales funciona un mercado. Esta forma de pensarlo aporta una nueva perspectiva sobre el debate del cálculo. Los sistemas de planificación y el mercado fueron comparables cuando se pensaron como programas computacionales, el siguiente paso es pensarlos como plataformas. El mercado es una plataforma que puede ejecutar una amplia variedad de procesos, mientras que la planificación es mucho más estricta.

Para The Economist, por un lado, la política tiene que asimilar la idea de la plataforma, no solo para regular el comercio, sino, sobre todo, para iniciar un debate sobre los valores que éstas encarnan y fomentan. De otra forma, esperar que un mercado carente de previsión y supervisión produzca plataformas aptas fines cívicos es demasiado optimista.

Por otro lado, el mundo de plataformas tiene que mantener la pluralidad. Algunas plataformas, como las de identidad y la moneda, tendrían que ser controladas por el gobierno. Otras, tendrían que ser supervisadas por los usuarios y la sociedad civil para garantizar la ausencia de sesgos y violaciones a la privacidad. Otras más, como Internet, Wikipedia y Linux, son bien supervisadas por grupos de desarrolladores voluntarios. A muchas otras, en cambio, se les puede permitir ser dueñas de sí mismas, como las criptomonedas.

Si bien, para muchos, una federación de plataformas habilitará novedosas maneras de tomar decisiones y formas de planeación, no todo es miel sobre hojuelas si se ve en términos de plataformas, pues se necesita un proceso político comprometido para que estas funcionen bajo un mismo conjunto de valores, lo que hasta ahora, concluye, no es más que una esperanza.