Un nuevo punto de inflexión ha surgido en la carrera por el dominio de la inteligencia artificial (IA) generativa, se trata de la seguridad. Este tema marca una posible alineación entre el estado y las empresas tecnológicas en un objetivo: perseguir la seguridad de los usuarios y asegurar un modelo lucrativo sin riesgos.

Los riesgos en torno al uso de IA generativa, como los grandes modelos de lenguaje (LLM, por su sigla en inglés), son el tema principal no solo para las empresas emergentes y grandes firmas tecnológicas como Google o Microsoft, sino también para el estado. La incertidumbre surge del contenido polémico que han arrojado LLMs, como ChatGPT —propiedad de OpenAI—, al suponer que en la medida que vayan adquiriendo más capacidades podrían ser un fuerte difusor de desinformación, manipulación electoral, terrorismo, perturbación del empleo, y un largo etcétera.

Los LLMs crean contenido a partir del análisis de textos y material audiovisual provenientes de bases de datos de internet. En tal caso, la preocupación de las grandes cabezas de las firmas tecnológicas, tanto emergentes como tradicionales, no se remite a futuros distópicos (máquinas más inteligentes que los humanos) sino más bien al peligro que puede derivar del contenido que arrojan. Así, algunos líderes tecnológicos de la IA como Sam Altman (CEO de OpenAI) y Jack Clark (CEO de Anthropic) han planteado la necesidad de gestionar estos generadores de contenido mediante un esfuerzo colectivo (dato crucial 1). Algunos de sus homólogos han mencionado que ya han entrado en contacto con personal del gobierno de Estados Unidos mientras que firmas como Inflection ai pretenden ofrecer recompensas a los hackers para descubrir vulnerabilidades en su LLM “Pi”. Estas empresas emergentes afirman que no pretenden sacrificar la seguridad de los usuarios a cambio de generar ganancias. Tampoco pretenden crear una competencia que terminaría en una destrucción creativa shumpeteriana, sino todo lo contrario: sus lazos con las grandes firmas tecnológicas de antaño son sólidas y de cooperación. En este sentido, empresas como Microsoft y Google también se han unido al movimiento por defender la seguridad de los usuarios a través de la regulación gubernamental y la cooperación internacional.

En tal marco, aumentar la seguridad significa un beneficio económico para las grandes firmas tecnológicas puesto que en la medida en que aparezcan regulaciones, estos titanes serán capaces de hacerles frente debido al gran capital que han amasado y para la preservación de sus productos principales (software en el caso de Microsoft y búsquedas en el caso de Google) por lo que la IA tendría que servir para mejorar sus productos y no para sustituirlos. Al final, las barreras de entrada al sector de la tecnología estarán presentes y esto demuestra que los titanes tecnológicos de antaño controlan el proceso de innovación (acumulación creativa). Bajo estos términos, la tecnología no tiene mucho de revolucionaria.

LlaMA en libertad

Finalmente, uno de los obstáculos a la regulación y seguridad tiene que ver con los LLM creados a partir de código abierto. Esto sucedió a raíz de la filtración en internet del código del LLM de Meta nombrado LlaMa; se dice que con esto los desarrolladores han podido crear este tipo de IA generativa a un menor costo y tan bueno como los LLM comerciales. El riesgo del que se habla por el código abierto es que puede caer en manos equivocadas, como un gobierno hostil. En este caso, la regulación será más fácil de llevar para las grandes firmas tecnológicas que cuentan con grandes recursos para hacer frente a las decisiones gubernamentales, que para los desarrolladores de código abierto.