El auge de los grandes modelos de lenguaje (LLM, por su sigla en inglés) y formas relacionadas con inteligencia artificial (IA) generativa han vuelto a reavivar los debates sobre los riesgos existenciales que devienen de su uso. Este pánico y sensación a raíz de la aparición de ChatGPT y su motor GPT-4 no solo han dado de que hablar entre los expertos sino también entre los gobernantes y la población en general. Las narrativas apuntan al gran potencial de esta tecnología pero destacan la rapidez de su despliegue que puede generar que se salga de control y pueda causar incluso la extinción humana.

La idea sobre la extinción de la humanidad surgió desde la época de la Ilustración. Con el paso del tiempo esta idea se fue reforzando, primero con las aportaciones de la astronomía sobre la posibilidad de que un meteorito impactara contra la Tierra; así la geología hizo evidente la existencia de extinciones masivas de especies. Ambas visiones se vieron fusionadas más adelante con la aparición de Charles Darwin y su pensamiento sobre la necesidad de las extinciones para dar paso a la evolución (un hecho del que los humanos no son ajenos). Finalmente “la cereza del pastel” sobre la extinción fue enunciada por la termodinámica y su aportación de la muerte por calor, un fenómeno que está presente en todos los cuerpos celestes del universo.

Así la conjunción entre el pensamiento ilustrado y la teoría de la evolución de Darwin propusieron la posibilidad del progreso a expensas de la humanidad. Con la aparición de la energía nuclear y el posterior arribo de la computación se hizo evidente que la especie humana no solo se puede extinguir a causa de fenómenos naturales o intergalácticos sino también por su propia acción en virtud del aporte de dichas tecnologías sobre el control de núcleos atómicos y su posterior uso para fabricar armas nucleares.

De esta suerte que los anuncios catastróficos sobre los riesgos existenciales en torno al uso de LLM e IA generativa no son más que la repetición de los discursos similares a los formulados hace dos décadas durante un primer auge de la IA: la idea de la creación de seres superiores al ser humano y su inminente emancipación de la humanidad. Sin embargo, traído a la realidad y no a la especulación, el hecho de creer que una tecnología que hace predicciones basadas en patrones para generar un poema o una imagen pueda ser capaz de desplazar o destruir al humano es bastante cuestionable.

Canción de amor

El punto de inflexión que representan los LLM se remonta a las revoluciones que supusieron el navegador web, la imprenta o el psicoanálisis puesto que cambiaron a la computación y la economía, la forma en que se accede y se comparte el conocimiento y la manera de entenderse así mismo, respectivamente (dato crucial 1). En este sentido la pseudocognición que suponen los LLM puede cambiar la forma del trabajo, la organización en muchos estadios e incluso plantear cómo el ser humano reflexiona sobre su propia humanidad.

De este modo, ChatGPT y demás LLM pretenden actuar como copilotos para facilitar las tareas (dato crucial 2). La curva de aprendizaje es sencilla, basta con escribir y obtener el resultado. Incluso pueden generar un programa a raíz de una petición, es precisamente donde está tecnología es disruptiva: puede disolver la separación entre la interfaz y la aplicación (el legado de los navegadores web) para crear una nueva categoría. En suma, en la práctica los LLM representan un cambio fundamental al revolucionar nuevamente la manera de utilizar una computadora.

Todos los días escribo un libro

La característica o fallo de los LLM al producir respuestas falsas, que algunos catalogan como alucinaciones, surgen del hecho de que esta tipo de IA está creado para producir coherencia más no verdad; una coherencia que está cimentada por textos e imágenes extraídos de la web. El hecho de que se especule sobre su posible mal uso (como generar páginas falsas, bots en redes sociales, etc.), implica que será una fuente de desinformación de uso masivo. Ante esto conviene pensar el hecho de que sus alucinaciones lleven a la creación de un escenario donde la verdad se encuentre dispersa entre todo el conjunto de fechorías que ha generado el LLM. Eso además de ser preocupante genera una nueva perspectiva para analizar a esta tecnología.

Los sueños nunca terminan

Desde la invención de la imprenta por Gutenberg, la manera de acceder a una gran cantidad de información redujo su brecha trayendo consigo la difusión masiva de opiniones, la sistematización de la burocracia y la acumulación de conocimiento. Apareció la propiedad intelectual y la piratería. En este sentido, el arribo de los LLM puede suponer un cambio en la manera de adquirir cognición eliminando a los libros, pues resulta más sencillo interrogar a un chatbot sobre un autor o tema en específico que leer cientos de páginas por un@ mism@.

Pero más de allá de desplazar el uso de libros, supone también la creación de modelos a imagen y semejanza del usuario que los manipula. Con la llegada de los libros, un autor podía narrar sobre si mismo con su propio estilo y otros autores podían citarlo a su manera creando otra imagen de él. Es así como se formaba una imagen ajena al autor. Bajo esta lógica, los LLM pueden ir un paso más allá.

Sin ti

Tómese el ejemplo de la compositora y música australiana Laurie Anderson y el modelo de lenguaje que le ha construido el Instituto australiano para el aprendizaje automático para recopilar parte de su trabajo y el de su esposo acaecido Lou Reed. Anderson ha dicho que no piensa hacer una colaboración actual con su esposo fallecido. Esto pone de manifiesto que los LLM pueden adquirir la personalidad de una persona con el entrenamiento adecuado, y eso puede suponer dejar chatbots con la esencia de uno mismo cuando se fenezca. Es menester citar el ensayo clásico de Sigmund Freud “Unheimliche” donde plantea la posibilidad de dudar acerca de que un ser animado esté realmente vivo, o por el contrario, si un objetivo sin vida podría no ser animado.

Ante esto, la experta en lingüística Emily Bender relata en el artículo “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?” que los LLM no son más que loros estocásticos pues solo repiten palabras como los loros pero en realidad no las comprenden. Esta habilidad de este tipo de IA es adquirida por la gran cantidad de cálculos numéricos que generan para procesar la información, sin embargo esto no se parece en nada al pensamiento.

Empero, otras opiniones consideran que desestimar la capacidad de los LLM no es tema sencillo ya que poseen atributos que en realidad no se pueden distinguir de lo que el concepto de conocimiento en realidad significa. Esto se puede observar cuando estos chatbots ordenan frases ambiguas o incluso hacen chistes. De esta manera dichos atributos se pueden comparar con comportamientos humanos que se creen propios de la especie y que no necesariamente tienen que ser así. Entonces nuevamente viene la duda planteada por Freud sobre la [in]existencia de lo que se considera animado.

Pensar que los LLM no son entidades con pensamiento propio los catapulta a un montón de cálculos y estadísticas. Pero si hace la comparación con la aportación de Freud alineada al pensamiento de Copérnico con la eliminación del humano como centro del universo, y de Darwin como el máximo eslabón entre las formas complejas de vida, se llega a la conclusión del carácter ególatra del ser humano al considerarse especial e indispensable cuando la esencia de los LLM radica en generar conocimiento en base a información ajena, entonces el conocimiento humano que ha adquirido puede compararse de la misma manera. De hecho, no considerar a los LLM objetos animados con actividad propia resulta contradictorio con la tendencia del ser humano a creer en dioses u objetos intangibles pero que los cataloga como reales (algo que Freud llamaría fetichista); si se analiza con la misma lógica que los LLM entonces estas creencias son falsas.

Mientras tanto, sea cual sea la postura que se tome, se enfatiza que los creadores de los LLM conocen en efecto sobre su funcionamiento, pero este tipo de cuestiones filosóficas y éticas no las perciben.

Nuevo sueño dorado

Si lo que la ciencia considera que no tiene vida analizado bajo el pensamiento freudiano, lejos de considerar como algo “vivo” a los LLM devela que aún existe algo en torno a la IA que necesita ser estudiado. Es así como las aportaciones de la psicoterapia pueden ayudar a crear un tratado sobre el entendimiento y la ética de la IA e incluso puede ayudar al ser humano a comprenderse aun mejor, tratar de explicar esta tendencia al pensamiento catastrofista y especista.