A YouTube mystery. Google's removal of anti-Beijing comments raises political eyebrows

Cita: 

The Economist [2020], "A YouTube mystery. Google's removal of anti-Beijing comments raises political eyebrows", The Economist, London, 30 de mayo https://www.economist.com/united-states/2020/05/28/googles-removal-of-an...

Fuente: 
The Economist
Fecha de publicación: 
Sábado, Mayo 30, 2020
Tema: 
La censura de YouTube a los comentarios anti-PCC, la moderación automatizada y el aprendizaje automático
Idea principal: 

El 26 de mayo pasado, Palmer Luckey, un norteamericano conocido por hacer equipo de realidad virtual, llamó la atención sobre la desaparición de comentarios en YouTube que contenían la palabra “Wumao”, que es un argot que hace referencia a la propaganda pagada por el Partido Comunista Chino (PCC) para inundar los foros en internet con los puntos de vista del Partido. En Twitter, Luckey preguntó quién en Google, matriz de YouTube, está censurando comentarios norteamericanos, en videos norteamericanos por una plataforma norteamericana, que, además está prohibida en China.

Aunque Luckey no fue el primero en notarlo, su influencia en el mundo de la tecnología provocó una respuesta inmediata desde la derecha del espectro político, con la que tiene conexiones. El hecho fue considerado por el senador republicano Ted Cruz como “muy perturbador” y preguntó porqué Google “censura a los estadunidenses en nombre del PCC”. Otro congresista republicano de Indiana, Jim Banks también se sumó a las críticas en una carta que envió una carta al director ejecutivo de Google, Sundar Pinchai.

Por su parte, Google explicó que la moderación en los foros en línea de la palabra Wumao y otras expresiones anti-PCC se debieron a errores que ya habían sido resueltos. Los sistemas de moderación altamente especializados de YouTube no habían tomado en cuenta debidamente el contexto por lo que removieron algunos comentarios, explicó la empresa.

Pero, ¿cúal es el contexto que no se tomó en cuenta y por qué? Google no lo revela, pero la hipótesis de que espías chinos infiltraran YouTube sólo para alterar el sistema moderación no se sostiene. Tampoco se sostiene la hipótesis de que el PCC está pagando a Google para hacer este tipo de moderación, pues China es percibida como una amenaza es transversal al sistema político en Estados Unidos, lo que haría que cualquier censura favorable al PCC fuese un suicidio político para la empresa estadounidense.

Es más probable que la explicación de este hecho radique en la naturaleza del software que usa Google para moderar el contenido de forma automática, el llamado aprendizaje automático [machine learning]. Dicho software se actualiza y ajusta sin intervención humana de acuerdo con la manera en que los usuarios interactúan con el sitio de internet. Tanto la naturaleza automatizada como la complejidad del software hacen plausible que surjan errores que son difíciles de entender.

En ese sentido, si los comentarios en YouTube sobre "Wumao" y otras frases críticas de PCC son etiquetados como spam o discurso de odio por los usuarios, el sistema entonces comenzará a removerlos automáticamente. Esto podría darse como resultado de una inofensiva guerra de comentarios entre partidarios y detractores del régimen chino, o de una campaña diseñada para influir en el software de moderación. Si bien Google ha señalado que este no es el caso, no ha revelado cuál fue el origen de la moderación de estos comentarios.

También es posible que hubiera un error de parte de Google. Los sistemas de aprendizaje automático necesitan del contexto para entender el material sobre el cual serán usados, y es probable que Google utilizara un contratista externo para etiquetar las frases Chinas que deben ser bloqueadas. El contratista bien pudo haber etiquetado la palabra Wumao y otras como infractoras de los reglamentos de Google, sin la debida supervisión por parte de la empresa.

Si bien, los problemas con sistemas complejos como este pueden ser resueltos, suelen estar envueltos en la opacidad, no por decisión de Google, sino de forma inherente debido a su propio diseño técnico. Si los sistemas de moderación de comentarios de YouTube han sido empujados a eliminar comentarios anti-PCC, a pesar de las más alta tecnología, es probable que este tipo de errores se repitan en el futuro.

Las única forma de que Google resuelva el problema es apagando completamente los comentarios de YouTube o gastando mucho dinero en moderadores humanos. Ninguna de estas alternativas parece probable. En cambio, este tipo de eventos seguirán dándole tela de dónde cortar a Ted Cruz y otros detractores de la compañía. Además, el inminente resultado de la investigación del Departamento de Justicia por prácticas monopólicas podría no ser favorable a Google.

Nexo con el tema que estudiamos: 

La inteligencia artificial está el centro de la disputa hegemónica en curso. En particular el aprendizaje automático, una tecnología que toma decisiones de forma autónoma en base a algoritmos que se alimentan de datos en apariencia neutrales, pero que podrían no serlo, y que ha reproducido en el pasado sesgos contra los grupos marginados de siempre, pero en esta ocasión los sesgos que reprodujo el sistema de moderación de comentarios de YouTube no fueron de raza, género o condición socioeconómica sino geopolítico. La existencia misma de los sesgos debería motivar a repensar si esta tecnología es del todo confiable para confiarle actividades civiles, como es la moderación de la opinión pública en los foros de internet, o militares.