Desde 2017, Facebook ha sido presionado por sus usuarios, los gobiernos y el público en general, para que implemente una manera de detectar publicaciones falsas e inapropiadas en poco tiempo y así evitar la desinformación y el horror entre las masas. Para esto, Mark Zuckerberg, director ejecutivo de la empresa, ha decidido implementar un sistema basado en inteligencia artificial para detectar este tipo de contenido.

En 2018, Zuckerberg se comprometió ante el congreso estadounidense en solucionar esta problemática. De ahí en adelante, el director ejecutivo repite ante diferentes instituciones que utilizará inteligencia artificial para lograr la seguridad dentro de la red social. Posteriormente, en 2019, se ha reunido con Emmanuel Macron y la primera ministra de Nueva Zelanda en una cumbre en Paris, con ellos la empresa se comprometió a lo mismo.

Sin embargo, menciona Schroepfer –el encargado de la programación del sistema de inteligencia artificial para detectar publicaciones inapropiadas- que le ha resultado bastante difícil rastrear este tipo de contenido en la red social, pues muchas veces los humanos no tienen la completa certeza de saber si algo es ofensivo o no lo es. Ya que se trata de un juicio moral, los sistemas computarizados tampoco son muy asertivos para realizar esta acción. Además de lo anterior, el programador dice que otra cosa que dificulta su labor –y la de otras 150 personas que colaboran junto con él- es que cada vez que detectan una publicación inapropiada, surgen diez más con las mismas características y esta situación provoca que la actividad sea interminable.

Schroepfer comenzó a laborar en Facebook tomando el puesto de director de ingeniería en 2008, con esa responsabilidad tenía bajo su cargo a miles de ingenieros y a millones de aparatos computarizados en todo el mundo, él se encargaba de que la aplicación de la red social funcionara perfectamente en todo momento para todos los usuarios. Entre otras cosas, siendo director de ingeniería, Schroepfer creo servidores informáticos en centros de datos para que Facebook jamás se detuviera estando en la red. Posteriormente, en 2013, es ascendido a director en tecnología, de ahí en adelante su función ha sido la de explorar nuevas áreas tecnológicas en donde la empresa debería de estar, entre ellas la más importantes ha sido la de la inteligencia artificial.

Utilizando la inteligencia artificial, el director en tecnología de Facebook ha logrado detectar imágenes de publicaciones donde aparecen desnudos, asesinatos, suicidios o narcomenudeo, sin embargo su tecnología aún presenta limitaciones para detectar noticias falsas, mensajes xenofóbicos y otras cuestiones que tienen que ver con la discriminación racial o de género.

Sobre la inteligencia artificial para solucionar este tipo de problemáticas en las redes sociales, Delip Rao, director de investigación en AI Foundation, una organización sin fines de lucro, describe esta actividad como una carrera armamentista. Se refirió así sobre esta situación debido a que la inteligencia artificial se alimenta de lo que ya se ha visto, de lo que se tiene registro, sin embargo los elementos que se emplean para hacer este tipo de publicaciones siempre van cambiando y es difícil controlarlos, es por eso que muchas publicaciones inapropiadas se escapan de los filtros de vigilancia.

Hay que reconocer que Schorepfer ha dado grandes pasos para la detección de imágenes enfermizas en Facebook, pero existen muchos campos en los que sus capacidades todavía son limitadas. No cabe duda que los ingenieros de la red social tienen un gran objetivo por alcanzar.