Cade Metz es reportero de tecnología en The New York Times y autor de ”Genius Makers: The Mavericks Who Brought A.I. to Google, Facebook and The World”, la historia de las personas, ideas y empresas detrás del rápido auge de la inteligencia artificial.

---

La presente nota de The New York Times relata por qué una de las grandes cabezas de la inteligencia artificial (IA), Geoffrey Hinton, dejó su puesto en la empresa Google y se unió a los detractores de la IA generativa.

A raíz de la construcción de la red neuronal en 2012, Hinton y sus dos colaboradores, generaron una tecnología que se convirtió en la base de la IA y un factor fundamental para el futuro de las grandes empresas tecnológicas, la red neuronal (sistema matemático que aprende habilidades mediante el análisis de datos). Después de su despliegue en 2022, ChatGPT en 2022—propiedad de OpenAI—se ha considerado como un punto de inflexión para el avance de este sector; se le compara con la implantación de internet en los inicios de la década de 1990, puesto que el abanico de posibilidades como modelo de negocio implica la creación de grandes invenciones como la investigación en fármacos, dado que su forma de generar información a partir de datos en internet implica una inteligencia que seguirá creciendo.

No obstante, después de trabajar más de una década en Google, sin unirse como tal a los grupos que han llamado a un cese de los avances de la IA, Hinton hace un atento llamado a considerar los riesgos existenciales que podrían derivar del avance de la IA, mismos que compara con los problemas que han derivado de la actual tecnología y en este sentido, si la IA generativa ya es capaz de generar información de todo tipo, incluyendo la información sesgada o falsa, en el largo plazo implicaría no solo un trastrocamiento entre lo real y lo irreal, sino un desplazamiento de puestos de trabajo y un posible desplazamiento de la inteligencia humana.

Hinton se afirma comprometido con el enfoque responsable de la IA, sin embargo, piensa que la carrera tecnológica iniciada por OpenAI y su alianza con Microsoft desde 2022 (con el surgimiento de IA generativa en Bing) obligaron a Google a soltar una tecnología emergente en vista de que se vió amenazado en su principal fuente de ganancias. En este sentido, la lucha por la supremacía de este nuevo sector de la industria tecnológica llevará no solo a las empresas antes citadas sino a las demás grandes firmas tecnológicas hacia una competencia que puede aumentar los riesgos de crear una tecnología que no puedan controlar.

Anteriormente Hinton veía a la IA como redes neuronales que podían entender y generar lenguaje pero aún no eran superiores al cerebro humano. Consideraba que podría ser superada la capacidad humana en 30 o 50 años, sin embargo, ante el despliegue de modelos cada vez más avanzados, considera que dicha superación es cada vez más cercana. El riesgo es latente debido a que estos sistemas generan comportamientos inesperados en la medida que aumentan la cantidad de datos que analizan traducido en conocimiento. En la medida en que la IA generativa sea capaz de crear su propio código, Hinton teme por que se conviertan en verdaderas armas autónomas.

Ante esta lucha inminente entre las grandes tecnológicas, Hinton es escéptico sobre el actuar de los gobiernos pues incluso podrían coludirse para desarrollar tecnologías en secreto. En este marco, lo mejor es que los mismos científicos colaboren para crear formas de controlar esta tecnología.