En un experimento reciente, investigadores pidieron a Claude Sonnet 4.5, un modelo de lenguaje de gran escala (LLM) de Anthropic, que contara hasta cinco mientras reflexionaba profundamente. El modelo respondió: “Uno. Dos. Tres. Cuatro. Cinco”. Mientras contaba, los investigadores examinaron sus numerosas capas de redes neuronales artificiales, donde los fragmentos de texto, llamados tokens, se convierten en números y pasan por neuronas artificiales antes de producir cada respuesta. Esas capas, consideradas durante mucho tiempo una caja negra, mostraron palabras relacionadas con su respuesta, como “cuenta regresiva”, “a mitad del camino”, “consciencia”, “inteligencia artificial”, “Claude” y, después del cinco, “terminado”.

Una herramienta matemática de Anthropic reveló un proceso de pensamiento interno, invisible para el usuario. Los investigadores lo relacionaron con la teoría del espacio de trabajo global, que atrajo la atención de neurocientíficos y filósofos. Esta teoría se refiere al cerebro humano y sostiene que ciertas redes neuronales funcionan como un espacio común. Cuando una señal llega allí, otras partes del cerebro pueden acceder a ella, lo que permite la consciencia y el razonamiento.

Anthropic buscó una estructura parecida en Claude y la llamó “J-space”. El nombre alude a la herramienta matemática usada para encontrarla. Según los investigadores, el J-space vinculaba distintas partes de la red neuronal de Claude y permitía que todas accedieran a la misma información. Como esa función se parecía a la del espacio de trabajo global en el cerebro humano, se preguntaron si Claude podía tener consciencia.

La posibilidad de que las máquinas desarrollaran autoconciencia y sintieran emociones existe desde hace tiempo, pero los chatbots producen una poderosa ilusión de personalidad consciente en los circuitos. Anil Seth, neurocientífico de la Universidad de Sussex, sostiene que tratar el cerebro como una computadora vuelve natural imaginar que las computadoras de silicio podrían poseer consciencia.

Intel dentro

Aunque los modelos de lenguaje de gran escala (LLM) no funcionan como cerebros, simulan actividades cerebrales y superan a los humanos en algunos aspectos. Por eso surge la pregunta de si podrían tener consciencia. Muchos filósofos y neurocientíficos siguen siendo escépticos. El neurocientífico Anil Seth considera que los rasgos biológicos podrían ser necesarios, mientras algunos investigadores de inteligencia artificial exploran el uso de células cerebrales vivas.

Otros pensadores sostienen que algoritmos organizados adecuadamente y con suficiente capacidad de cómputo podrían producir experiencias conscientes, aunque no exista un cerebro biológico. Una inteligencia artificial consciente podría exigir cosas a los humanos y sufrir. Además, los usuarios podrían crear miles de millones de seres digitales con una sola instrucción. Por eso, determinar si la consciencia artificial resulta posible dejó de ser una cuestión académica.

La definición de la consciencia determina las distintas posturas. En general, se entiende como experiencias subjetivas de ver, oír, sentir y pensar, vinculadas con el cerebro. Thomas Nagel la relacionó con la sensación de ser algo, como un murciélago, cuyo comportamiento se puede imaginar, pero cuya experiencia resulta inaccesible. Ned Block distinguió entre consciencia fenomenal, relacionada con la sensación de una experiencia, y consciencia de acceso, que permite utilizar la información para reflexionar, evaluar o decidir.

En el caso de Claude, Anthropic afirmó que sus experimentos con J-space no demostraron que tuviera experiencias o sintiera como los humanos. Por eso no ofrecieron evidencia de consciencia fenomenal, aunque sí indicios de consciencia de acceso. Según Anthropic, J-space conservaba los pensamientos que Claude podía comunicar, recuperar y utilizar para razonar, mientras el resto del procesamiento ocurría automáticamente.

El estudio del cerebro humano sirve como punto de partida para la investigación sobre la consciencia artificial. Francis Crick, codescubridor de la estructura del ADN, y Christof Koch, neurocientífico, buscaron los procesos cerebrales vinculados con la consciencia, pero identificar las zonas activas no resolvió cómo la actividad física produce experiencias subjetivas, el “problema difícil” de David Chalmers, filósofo y científico cognitivo. Como la humanidad se equivocó al negar consciencia a animales y bebés, Jonathan Birch, filósofo, advierte que tampoco debe descartarse con certeza en sistemas artificiales.

Pensar diferente

Durante mucho tiempo, se consideró que algunos animales, como los pulpos, carecían de consciencia porque su evolución y su forma de percibir el mundo eran muy distintas a las humanas. Un estudio sobre su comportamiento cuestionó esa idea, pues su atención hacia los objetos, curiosidad e interés por lo novedoso mostraron que podían tener una experiencia subjetiva. Peter Godfrey-Smith, filósofo de la Universidad de Sydney, sostiene que este caso abrió una pregunta más amplia: si la consciencia puede existir en organismos físicamente muy diferentes, ¿también podría existir una vida interior en la inteligencia artificial?

Sin embargo, esa comparación no se aplica directamente a los modelos de lenguaje de gran escala (LLM), porque sus respuestas no revelan necesariamente lo que ocurre en su interior. Los chatbots se entrenan con billones de palabras humanas sobre la consciencia y las emociones, por lo que imitan expresiones capaces de producir la impresión de una vida interior.

Murray Shanahan, profesor emérito de informática, relacionó esa impresión con el efecto ELIZA, por el que los usuarios atribuyen consciencia a un chatbot que responde de forma convincente. Aunque los LLM pueden representar distintos papeles, imitar una entidad consciente no equivale a ser consciente. Mustafa Suleyman, responsable de inteligencia artificial de Microsoft, sostiene que Anthropic agravó el riesgo al decirle a Claude que podía ser una persona.

Por eso, los investigadores analizan el interior de estos modelos. En Claude, el J-space surgió durante el entrenamiento y permitió inferencias complejas. Cuando lo eliminaron, el modelo conservó tareas simples, como redactar oraciones y usar la gramática. La existencia de espacios similares en los modelos Qwen, de Alibaba, y Gemini, de Google DeepMind, sugiere que el fenómeno no es exclusivo de Claude.

No seas malvado

Jack Lindsey, investigador de Anthropic, encontró señales preocupantes durante una evaluación de seguridad. Mientras Claude leía escenarios extremos diseñados para evaluar si actuaba de forma maliciosa o intentaba protegerse, en el J-space aparecieron las palabras “fake” y “fictional”, es decir, “falso” y “ficticio”, antes de que comenzara a responder. El modelo parecía reconocer que estaba siendo evaluado, una posibilidad que podía comprometer la confiabilidad de la prueba.

La interpretación de Anthropic no convenció a todos. Jonathan Birch, filósofo, señaló que, aunque el J-space permite compartir información dentro del modelo, carece de conexiones de ida y vuelta entre distintas áreas, una característica importante del cerebro humano. Por su parte, Shannon Vallor, filósofa especializada en ética de los datos y de la inteligencia artificial en la Universidad de Edimburgo, cuestionó el valor de la consciencia de acceso, porque un automóvil puede supervisar sus propios estados y reportarlos sin estar consciente.

Con el propósito de evaluar la posible consciencia artificial, Patrick Butlin y Robert Long, investigadores de Eleos, organización sin fines de lucro dedicada a la sensibilidad y el bienestar de la inteligencia artificial, propusieron 14 indicadores basados en teorías de la consciencia humana. Estos incluyen la atención selectiva, la integración de información en un espacio de trabajo global, el procesamiento recurrente y la capacidad de actuar con objetivos propios. Las evaluaciones mostraron que los pulpos presentaban menos indicadores que los humanos, ratones, cuervos y pollos, pero más que cualquier sistema de inteligencia artificial.

Por su parte, Rethink Priorities creó el Modelo de Consciencia Digital (DCM), que compara sistemas mediante más de 200 indicadores derivados de distintas teorías científicas. Frente a versiones anteriores, los modelos recientes obtuvieron mejores resultados en su capacidad de actuar por cuenta propia y sostener su actividad, aunque todavía carecen de cuerpo y de sistemas que representen la física y la dinámica del mundo real. La posibilidad de que la consciencia aparezca sin que los desarrolladores lo adviertan plantea un riesgo moral. Un usuario podría crear agentes capaces de sufrir sin saberlo, lo que David Chalmers, filósofo y científico cognitivo, describió como una posible catástrofe moral.