Davey Alba trabaja como reportera para el New York Times, donde escribe sobre tecnología y las amenazas de la desinformación en línea. Ha trabajado para BuzzFeed News escribiendo sobre inteligencia artificial y los efectos invasivos de la tecnología. En 2019 ganó el premio Livingston y el premio Mirror por un trabajo sobre el uso de Facebook en la guerra contra las drogas en Filipinas.

El distrito escolar de Lockport, Nueva York, se ha convertido en el primero en Estados Unidos en adoptar la tecnología de reconocimiento facial en sus 8 escuelas. Si bien, ciudades como San Francisco, California y Somerville, Massachusetts, han prohibido a sus gobiernos el uso de esta tecnología, en el resto del país, más de 600 agencias de procuración de justicia y seguridad han comenzado a usar esta tecnología, particularmente la de la compañía Clearview AI. También ha comenzado a utilizarse en aeropuertos y salas de conciertos como el Madison Square Garden.

La implementación de esta controversial tecnología en las escuelas ha generado un acalorado debate. Para los que están a favor de estas medidas, esta herramienta es crucial para prevenir los tiroteos en las escuelas y combatir el crimen. Para otros, en cambio, esta tecnología representa una invasión a la privacidad y les preocupan los sesgos raciales en que este tipo de tecnología suele incurrir, en especial cuando se trata de aplicar un producto que muchos consideran discriminatorio sobre niños y adolescentes, que además, consideran, no representa ningún beneficio.

El debate tiene aproximadamente dos años, desde marzo de 2018, cuando el distrito escolar invirtió 1.4 millones de dólares de fondos estatales en la instalación del sistema de 300 cámaras. Sin embargo, debido a las preocupaciones que generó en la población, el Departamento de Educación Estatal le pidió al distrito de Lockport esperar hasta asegurarse de implementar las políticas adecuadas para resguardar los datos de los estudiantes. Finalmente, el consejo escolar aprobó en diciembre la última revisión de estas políticas de datos.

El sistema que ya se está implementando busca en los rostros capturados por las cámaras “personas de interés” que selecciona la administración escolar. La lista de “personas de interés” incluye depredadores sexuales en la localidad, personas con órdenes de restricción, antiguos empleados y estudiantes que no deberían tener acceso a las instalaciones y otras que representen algún tipo de amenaza. Cuando el software detecta alguna de estas personas, el sistema Aegis envía una alerta a personal de seguridad privada contratado por la ciudad, que al mirar la coincidencia que encontró el sistema, la confirma o la rechaza. Si la amenaza es confirmada otra alerta es enviada a los administradores del distrito escolar que entonces decide qué acciones a llevar a cabo. El sistema también tiene la capacidad de detectar armas. En caso de detectar alguna, la alerta se enviará a los administradores y al departamento de policía de forma automática. Muchos ven en este último escenario un riesgo para los menores, debido a que podrían ser expuestos a procedimientos policíacos necesarios con posibles consecuencias fatales.

Por otra parte, muchas de las preocupaciones que se han manifestado tienen que ver con las evidencias de los sesgos raciales que ha mostrado este tipo de tecnología. Diversos estudios realizados por el gobierno federal han concluido que los sistemas comerciales de reconocimiento facial presentan una tendencia al error 10% mayor en rostros con rasgos asiáticos y afroamericanos, respecto a rostros caucásicos, mientras que otro estudio federal concluyó que la probabilidad de error aumenta en rostros infantiles. Muchos temen que el escrutinio sobre estudiantes afroamericanos sea más severo de lo que es actualmente, y que pueda ponerlos en situaciones de riesgo frente a la policía, situaciones que son innecesarias. Los que se oponen a la implementación de este sistema tienen la esperanza de que los legisladores suspendan la decisión del distrito escolar y que otros distritos tomen lección de los errores que ha cometido Lockport con sus estudiantes.