Los riesgos latentes sobre el uso de la inteligencia artificial (IA) continuan siendo objeto de discusión tanto en la opinión pública como en la opinión especializada. El avance de los grandes modelos de lenguaje (LLM, por su sigla en inglés), una derivación de la IA, preocupan por el hecho de que su aprendizaje está basado en la enorme biblioteca de datos que proceden de internet por lo que pueden generar casi cualquier tipo de tarea que haría un humano e incluso realizar conversaciones complejas. El riesgo de los LLM es equivalente a la genialidad de su desempeño en tareas cotidianas puesto que son un potenciador futuro de la difusión de información manipulada con fines distintos a los que fue creado (estafas, difusores de virus informáticos y un gran etcétera).

Toda esta incertidumbre recuerda a lo que alguna vez compartió el padre de la cibernética Norbert Wiener en 1960: “las máquinas aprenden y desarrollan estrategias imprevistas a un ritmo que desconcierta a sus programadores [...] estrategias que podrían implicar acciones que sus creadores no desean”. Para algunos investigadores esto se traduce en un problema de alineación ya que la IA en un principio puede apegarse a los objetivos con los que fue creada pero en el proceso cometer algún evento imperfecto, tal es el caso del experimento mental realizado por el filósofo Nick Bostrom en 2003 en donde se le pedía a una IA que fabricará tantos clips como pudiera, el problema fue que no se le dio una restricción por lo que terminó llenando el planeta con clips y como consecuencia exterminando a la humanidad.

Ante los riesgos reales o supuestos, la firma emergente OpenAI —creadora de ChatGPT—ha desarrollado diferentes métodos para reducir el porcentaje de riesgo:

• Antes de lanzar GPT-4 (el motor de ChatGPT) la empresa creó un modelo para evaluar las respuestas de su LLM bautizado con el nombre de “aprendizaje de refuerzo a partir de la retroalimentación humana” (RLHF, por su sigla en inglés). Este modelo se basa en la retroalimentación de sus respuestas mismo que es evaluado por los usuarios, de esta manera la empresa pretende que ChatGPT reduzca su porcentaje de riesgos. La desventaja es la interpretación para cada usuario sobre lo que es bueno y lo que es malo, además de ayudar a que el LLM se haga más inteligente.

• “Equipo rojo” es un método que OpenAI realizó en colaboración con la organización Alignment Research Center para someter su IA a una serie de pruebas para evaluar y anticipar todo tipo de respuestas que pudiera generar así como sus ambigüedades.

Es un camino largo, largo...

Existen otras propuestas fuera de la firma OpenAI para tratar de regular y frenar en la medida de lo posible los riesgos en torno a los chatbots que funcionan con IA. En este marco, el experto en IA de la Universidad de Nueva York y trabajador de la firma Antropic, Sam Bowman, piensa que la IA puede ser regulada pero se debe de tener cuidado puesto que en la medida que aprenda los patrones para su evaluación incluso podría burlarlos; el propone una IA constitucional que pretende monitorear con una IA secundaria las acciones del (en este caso) LLM sin la intervención humana, un hecho que vuelve a generar dudas sobre quién estaría decidiendo la gobernanza de la IA.

El problema principal es que falta un análisis profundo sobre la interpretabilidad de lo que hacen los LLM, porque representan un abanico de posibilidades que salen de los objetivos con los que fueron realizados: una vez codificados su aprendizaje es automático y no depende tanto del programador, por lo que también haría que se cree un bucle de "automejora" en la medida que el LLM aumente la eficiencia de sus algoritmos.

Ante el problema de que los usuarios han manipulado a los LLM para llevarlos hacia respuestas comprometedoras o inclusive burlando sus barreras de seguridad con técnicas disponibles en la web (con el simple hecho de generar una conversación larga, el chatbot de Microsoft Bing amenazó a usuarios cuando lo llevaron al extremo de cuestionamientos, o bien, cuando se le preguntó sobre cómo conseguir información confidencial sobre clientes de bancos), este principio de interpretalibilidad se ha traducido en intentos por comprender mejor el funcionamiento de los LLM con modelos de IA que funcionan con ingeniería inversa, los cuales pretenden mapear diferentes “zonas” de estas tecnologías desde lo más sencillo hasta lo más complejo en el sentido de conocer su forma de entrenamiento a profundidad con el fin de anticipar escenarios extremos.

Sin embargo, los estudios sobre la interpretabilidad no han sido profundos porque se presume que los objetivos de las firmas que desarrollan IA no están alineados con las preocupaciones de la población; al contrario, solo buscan los beneficios económicos (dato crucial 3). Inclusive, en la medida que desciendan los costos para generar este tipo de IA junto con el esquema de código abierto, será posible que los modelos puedan ser ajustados y puestos a disponibilidad de los usuarios con fines no éticos.

Son pocos los investigadores que creen en escenarios extremos derivados de los recientes avances de la IA, incluso cuando se han puesto a prueba con superpronosticadores que evalúan mínimos detalles para evitar sesgos cognitivos (dato crucial 4). Ante el dicho “más vale prevenir que lamentar”, por ahora las respuestas y los estudios no indican escenarios apocalípticos.

...pero eres demasiado ciego para ver

Sin embargo, el hecho de que los riesgos apunten a meras exageraciones, no implica que las medidas tengan que ser laxas, por el contrario se deben de seguir con los estudios de alineación y gobernanza de la IA y los LLM (dato crucial 5). Bajo esta lógica, Wiener creía que para evitar consecuencias desastrosas, el desarrollo de las máquinas tenía que hacerse con lentitud para entender también su comportamiento antes de que fuera demasiado tarde y el ser humano terminara “chocando” contra su propia creación.