Roddy Lindsay vive en San Francisco, California. Es co-fundador de Hustle, una aplicación que permite la comunicación personal por mensajes de texto entre los empleados o voluntarios de una organización y su lista de contactos para la creación de redes. También es co-fundadora de Envelop Sound, una organización que amplifica el poder de la música a través de experiencias auditivas inmersivas.

Washington quedó sorprendido a inicios de octubre de 2021 por las revelaciones de Frances Haugen, gerente de producto de Facebook y denunciante. El público ha visto muchas veces audiencias del Congreso de alto perfil sobre Facebook que no prosperan. Los motivos para que Washington convierta esto en una acción legislativa respecto a la tecnología y política son pocos.

El desafío fundamental es que demócratas y republicanos no pueden ponerse de acuerdo sobre cuál es el problema. Los demócratas se centran en la difusión de desinformación (destacada por Haugen cuando filtró documentos a The Wall Street Journal), mientras los republicanos se quejan de la censura y el sesgo.

La Sra. Haugen propuso una solución regulatoria que aborda las preocupaciones de ambas partes, que respeta la primera enmienda y que también preserva el dinamismo de la economía de Internet. El Congreso debería diseñar una reforma simple: responsabilizar a las empresas de redes sociales por el contenido que promueven sus algoritmos.

Usuarios de Internet descubrieron a finales de la década de 1990 contenido a través de páginas como Lycos y Yahoo, éstos no proporcionaban ningún mecanismo para que el contenido tuviera un amplio alcance porque los usuarios no buscaban intencionalmente palabras clave.

Esa época parece lejana porque en la actualidad los feeds de redes sociales están llenos de contenido no solicitado y marginal debido a la recopilación masiva de datos a través de cookies web, sistemas Big Data y la amplificación algorítmica. Este tipo de desarrollos tecnológicos han hecho posibles nuevos servicios de Internet.

La combinación de la personalización de contenido con la amplificación algorítmica crea nuevas bestias incontrolables. Ejemplos de esta combinación son la producción de News Feed en Facebook, la pestaña For You de TikTok y las recomendaciones de Youtube. Los creadores, los usuarios y los reguladores no dimensionan cómo afecta esto a la sociedad.

Las plataformas de redes sociales tienen un incentivo económico fundamental para mantener a los usuarios comprometidos, aunque los científicos de datos y gerentes de producto quieran controlar los impactos de algoritmos.

Esto asegura que los feeds continuarán promoviendo contenido y además crean una tarea imposible para los moderadores, quienes luchan por detener esto en muchos países. Los incentivos para Facebook y los competidores no cambiarían aunque las empresas de redes sociales sean más transparentes. The Wall Street Journal califica de peligroso el posible futuro en el cual, más empresas copian el éxito de TikTok con su algoritmo, ya que promueve contenido inapropiado para menores.

Las empresas que usen amplificación algorítmica personalizada deben ser responsables del contenido que promueven esos algoritmos. Eso se puede lograr con un cambio limitado a la Sección 230 de la ley de 1996 que permite a las empresas de redes sociales alojar contenido generado por el usuario sin temor a demandas.

La autora del artículo, quien en la actualidad es ejecutiva de una empresa de tecnología, ve de manera positiva la reforma a la Sección 230. No existe un sistema que puede identificar todos los casos posibles de contenido ilegal y ante la responsabilidad por cada publicación ampliada, las empresas se verían obligadas a descartar las fuentes algorítmicas.

Las empresas de redes sociales pueden tener éxito y ser rentables bajo ese régimen. Twitter adoptó un feed algorítmico en 2015. Facebook y Twitter ya ofrecen versiones cronológicas no algorítmicas de sus feeds de contenido. Esta solución abordaría las preocupaciones sobre prejuicios políticos y la libertad de expresión.

Los feeds de redes sociales estarían libres de los sesgos que introducen los sistemas basados en inteligencia artificial. Cualquier clasificación algorítmica de contenido generado por el usuario podría limitarse a características no personalizadas como listas de “más populares” o personalizarse para geografías o idiomas particulares.

Las consecuencias directas de esto serían menos quejas de usuarios y ejercería menos presión sobre las plataformas para llamar a huelgas de sus usuarios. Los inconvenientes al reformar la Sección 230 existen, Daphne Keller dice que las áreas relevantes de la ley son “notoriamente difíciles” de evaluar por los tribunales.

Los legisladores tendrían que redactar el proyecto con cuidado para que pueda sobrevivir a la primera enmienda. El último cambio a la Sección 230 provocó consecuencias no deseadas. El Congreso deberá consultar con activistas y grupos marginados que corren el mayor riesgo, esto para asegurarse de que la ley sea adecuada. Si esto se logra, los esfuerzos de la Sra. Haugen harán que las empresas rindan cuentas.