Egeveny Morozov es un sociólogo de origen bielorruso. Su trabajo se centra en las implicaciones políticas y sociales de la tecnología, también ha colaborado en diversos periódicos como The Guardian, The New York Times y The Wall Street Journal.

En mayo de 2023 más de 350 ejecutivos de empresas tecnológicas, así como investigadores y académicos firmaron una carta en la que advertían sobre los riesgos existenciales de la Inteligencia Artificial (IA). Esto sucedió inmediatamente después de que directores de las grandes empresas tecno-digitales como Elon Musk firmaron otra carta en la que solicitaban parar por seis meses el desarrollo de sistemas avanzados de IA. Mientras tanto, Biden solicitó realizar innovaciones de forma responsable en el campo de la IA, y afirmó que para aprovechar las oportunidades es necesario gestionar los riesgos. Por su parte, el senador Chuck Schummer convocó a sesiones para escuchar, de parte de ejecutivos y expertos en la industria de IA, sobre el potencial y los riesgos de dichas tecnologías.

Lo que preocupa a los expertos es el crecimiento de la Inteligencia Artificial General (AGI, por su sigla en inglés). La AGI realmente no existe todavía, pero las crecientes capacidades de los largos modelos de lenguaje como ChatGPT, de OpenAI, despierta sospechas de que su aparición está cerca. Sam Altman, cofundador de OpenAI, describe a la AGI como sistemas que suelen ser más inteligentes que las personas. La construcción de estos sistemas es sumamente costosa, pero los potenciales beneficios son tentadores.

Las discusiones sobre AGI suelen estar impregnadas de escenarios apocalípticos; pero un naciente grupo de académicos, inversores y empresarios consideran que la AGI representaría un gran avance civilizatorio. De hecho, muchas personas en la industria tecnológica se esfuerzan por avanzar en el camino de la AGI pues consideran que esta tecnología podrá impulsar la economía, la ciencia, y elevar a la humanidad a una era de abundancia.

Ideológicamente se piensa que la AGI sería algo sumamente benéfico y que su desarrollo es tanto inevitable como seguro. Quienes defienden la AGI son incapaces de pensar en mejores alternativas para la humanidad.

Esta perspectiva, que el texto nombra como AGI-ism, está equivocada. Los verdaderos riesgos de la AGI no son robots rebeldes, sino los aspectos políticos. La AGI nunca logrará la utopía prometida por sus defensores, y al decir que su llegada es inevitable, el AGI-ismo entorpece la búsqueda por mejores formas de mejorar el conocimiento.

Puede que los AGI-istas no lo sepan, pero su ideología solamente es un derivado de la ideología neoliberal. La AGI no romperá con el capitalismo, como Altman lo ha insinuado, pues es mucho más probable que se vuelva una aliada de la versión más destructiva del capitalismo: el neoliberalismo.

Los principios básicos del neoliberalismo son la privatización, la competencia, y el libre mercado; los teóricos de esta doctrina consideraban que se podía dinamizar la economía y volverla favorable a los trabajadores mediante dichos elementos. Lo cierto es que el costo de la neoliberalización fue muy alto, y sus críticos lo consideran culpable de los fenómenos como la crisis económica de 2008, el trumpismo, entre otros.

En la segunda década del siglo XXI líderes políticos como Biden se distancian de algunos de los mandatos neoliberales, mientras diversos actores buscan diseñar un futuro posneoliberal. Lo cierto es que el neoliberalismo no ha muerto, por el contrario, encontró un poderoso aliado en el AGI-ismo que replica varios sesgos neoliberales. El AGI-ismo considera que lo privado es mejor que lo público (sesgo de mercado); que adaptarse a la realidad es mejor que transformarla (sesgo de adaptación); así como una búsqueda implacable por la eficiencia (sesgo de eficiencia). Las consecuencias de estos sesgos provocarán que la AGI empeore todo.

La AGI nunca se sobrepondrá a las demandas de ganancia del mercado

Tomemos el ejemplo de Uber. Dicha empresa comenzó con la promesa de ser una gran y mejor alternativa al sistema de transporte público gracias a viajes sumamente baratos posibilitados por un supuesto futuro de autos autónomos y costos laborales muy bajos. Al principio, los inversores absorbieron las multimillonarias perdidas de la empresa; pero como los coches autónomos siguen sin ser viables, los inversionistas empezaron a exigir rentabilidad y Uber subió sus precios sin lograr ser una alternativa sólida frente al transporte público.

Detrás del modelo de negocios de Uber se encuentra la idea neoliberal de que el sector privado obtiene mejores resultados que el sector público (el sesgo de mercado).

Un gran problema es que cada vez más servicios públicos, como transporte, salud y seguridad dependen de Silicon Valley para cumplir sus objetivos. La AGI exacerbaría esa dependencia, y se introduciría en todos los servicios estatales.

A partir de la experiencia dejada por casos como Uber se puede deducir que pasaría si llegara la AGI. Primero, se ofrecerán de forma agresiva servicios altamente subsidiados; pero después, los usuarios dependientes de los nuevos servicios tendrán que pagar mucho más para volver rentables los servicios.

Los expertos al servicio de Silicon Valley restan importancia al mercado, e incluso proclaman que la IA es propiedad de las personas y son ellas quienes controlan esta tecnología; pero esto es un disparate propio de capitalistas de riesgo. La mayoría de las tecnologías modernas son propiedad de las corporaciones, y éstas serán quienes monetizarán la falsa promesa de salvar el mundo.

Además, la supuesta salvación del mundo mediante las nuevas tecnologías no coincide con la realidad. Los coches eléctricos no son la solución al cambio climático, los novedosos complementos alimenticios no han reducido el hambre, y Facebook no ha resuelto los problemas de conectividad en el Sur Global. La tendencia de las empresas tecno-digitales a presentarse como salvadoras del mundo es una especie de neoliberalismo digital; pues se trata de una visión en la que los problemas sociales pueden resolverse con servicios tecnológicos con fines de lucro. Así, bajo esa misma lógica, los problemas públicos se reconfiguran como oportunidades empresariales.

El AGI-ismo acrecentó el fervor tecnosolucionista-empresarial, presentando la AGI como la herramienta necesaria para que la humanidad pueda resolver sus problemas y sobrevivir. Pero una empresa no puede funcionar sin ganancias, y Open AI, que ha recaudado cuantiosos fondos para desarrollar la AGI deberá recuperar las inversiones y los costos de producir un servicio (Dato Crucial 1). Lo más probable es que antes de que la AGI cumpla las utópicas promesas de abundancia, los precios de los servicios con este tipo de tecnología van a subir demasiado; pero también, es muy probable que para ese momento muchas instituciones y servicios públicos sean dependientes de servicios con AGI.

AGI aliviará el dolor de nuestros problemas más tormentosos sin solucionarlos

El neoliberalismo es especialmente hábil movilizando la tecnología para hacer soportable la miseria. En muchas ocasiones las empresas ofrecen servicios tecnológicos para que las personas se adapten y resistan los problemas sociales y el deterioro de las infraestructuras. Éste, es el sesgo de la adaptación, la idea de que con tecnología podremos volvernos insensibles a las dificultades de la vida.

El neoliberalismo apoya de forma incesante la autosuficiencia y la resiliencia difundiendo el mensaje de que cada individuo debe prepararse más, mejorar su capital humano, y vivir como si fuera una start-up. Mientras tanto, el AGI-ismo funciona como una caja de resonancia de esa parte del credo neoliberal.

La IA se presenta como la herramienta perfecta para solucionar cualquier tipo de problemas, desde pandemias, hasta la inflación. Sin duda, las novedosas aplicaciones tecno-digitales de Silicon Valley tienen algunas utilidades; pero la mayoría no abordan las verdaderas causas de los problemas sociales, perpetuando el rumbo de la adaptación sin abonar al camino de la transformación. Hay una diferencia abismal entre seguir una aplicación que brinda rutinas de caminata, y la comprensión de las razones por las que las ciudades no tienen espacios públicos para caminar y así poder exigir políticas que favorezcan una transformación estructural.

Pero el AGI-ismo, como el neoliberalismo, ve lo público como poco innovador, ineficiente e improductivo. Los defensores de dichas doctrinas consideran que las instituciones simplemente deberían adaptarse a la AGI; pero dichas consideraciones eliminan del panorama la posibilidad de que las instituciones públicas generen su propia agenda de transformación en beneficio de la humanidad.

La AGI socava las virtudes cívicas y amplifica tendencias que ya no nos gustan

Una crítica constante al neoliberalismo es que ha reducido nuestra vida política, reorganizándola en torno al mandato de eficiencia. El neoliberalimso afirma que lo político, lo social, y especialmente la justicia social, fomentan luchas ineficientes que obstaculizan la actividad del mercado; por tanto, lo ideal sería que los individuos negociaran sus conflictos en privado.

La cultura de la eficiencia mide el valor de las cosas de acuerdo con el mercado sustituyendo otros valores como la justicia y corroyendo las virtudes cívicas. Por ejemplo, dicha cultura de la eficiencia es la base de las actuales soluciones al cambio climático (como los bonos de carbono que permiten a las empresas seguir emitiendo gases de efecto invernadero). Además, los problemas de valorar todo en términos de mercado son sumamente nocivos; por ejemplo, la salud y la educación se convierte en mercancías que deben ser rentables.

En caso de que se introdujera la AGI en las instituciones de salud y educación como hospitales y escuelas, el problema se exacerbaría, pues los valores cívicos de dichas instituciones no se introducen en los modelos utilizados para crear la AGI. Importantes actividades como el conocimiento histórico o la investigación sobre la corrupción no suelen ser rentables, pero sobreviven gracias a que las instituciones financian estas actividades valorando elementos distintos a los de la eficiencia y las ganancias.

La AGI ofrecerá soluciones basadas en datos al estilo del consultor más despiadado, pues los datos casi nunca captan la complejidad de los valores y objetivos de las instituciones. Para la AGI que solo observa datos producidos por hospitales que se han convertido en centros de ganancias, será imposible entender el sentido del juramento hipocrático.

El lobby de la AGI, comparte la visión de que la sociedad no existe, consideran que la inteligencia que se debe replicar es la de los individuos y no la de la sociedad. La cuestión es que la inteligencia humana es producto de la vida social, es decir de políticas e instituciones, además de las propias aptitudes individuales.

Más becas y bibliotecas públicas impulsarían mucho la inteligencia humana. Pero desde la perspectiva solucionista emanada de Silicon Valley, la tecnología es un problema tecnológico. Además, el AGI-smo es una forma del neoliberalismo, al final habrá menos instituciones que fomenten la inteligencia, pues estas instituciones representan restos de la sociedad que tanto detestan los neoliberales. De tal manera que el proyecto de la AGI, en realidad se encamina a reducir la inteligencia y conocimiento de la humanidad.

Incluso las innovadoras ideas de aplicación de políticas públicas con AGI se basan en la idea de que no existe alternativa a esta tecnología. Lo cierto es que, si se busca aumentar la inteligencia, sería más provechoso aumentara el financiamiento en cultura, educación y todas las instituciones que fomentan la inteligencia.

La inclinación antisocial y los prejuicios neoliberales son los que hacen de la AGI un riesgo existencial, no los imaginarios robots rebeldes.