Inside the black box. Humans may not always grasp why AIs act. Don't panic. Humans are inscrutable too. Existing rules and regulations can apply to artificial intelligence

Cita: 

The Economist [2018], "Inside the black box. Humans may not always grasp why AIs act. Don't panic. Humans are inscrutable too. Existing rules and regulations can apply to artificial intelligence", The Economist, London, 15 de febrero, https://www.economist.com/news/leaders/21737033-humans-are-inscrutable-t...

Fuente: 
The Economist
Fecha de publicación: 
Jueves, Febrero 15, 2018
Tema: 
Regular la Inteligencia Artificial
Idea principal: 

Los avances en el aprendizaje automático*, un subcampo de la inteligencia artificial (IA), han posibilitado que las computadoras resuelvan problemas que anteriormente eran inimaginables. Esto ha resultado en un boom de la IA con computadoras moviéndose de un lado a otro en distintos usos (médicos, aseguradoras hasta la automatización de carros).

Comprender la IA es una difícil tarea para muchos, presentándose como una “caja negra” indescifrable. Y mientras se traten de tareas triviales, nadie presta gran atención a sus misterios, sin embargo en el momento de fallas importantes (lo cual es inevitable) los consumidores, los reguladores y los jueces quieren comprender su funcionamiento. Las implicaciones de esto han llegado al extremo de querer limitar el desarrollo de la IA. Personas como el primer ministro francés de economía en asuntos digitales, Mounir Mahjoubi, señala que el gobierno no debería permitir el uso de algoritmos en decisiones que no puedan ser explicadas.

Para la revista, posiciones como las de Mahjoubi son exageraciones, pues los problemas de “cajas negras” siempre han estado presentes en la sociedad. Un ejemplo son los propios seres humanos, quienes actúan bajo comportamientos difíciles o casi imposibles de predecir; no obstante ante tal situación se han implementado mecanismos jurídicos (leyes, normas, regulaciones) para regular su comportamiento. Instituciones similares podrían implementarse para la IA.

Otro argumento señala que los humanos han trabajado junto a las computadoras desde hace ya varias décadas, lo cual ha demostrado que siempre que sea necesario, las personas deben supervisar a las máquinas. Los seres humanos son vitales en el alcance de la IA. Mientras las aplicaciones de las computadoras aumentan, las empresas y los gobiernos deberían delegar y autorizar la supervisión humana de los algoritmos y otras formas de la IA.

Una solución práctica serían las cortes y sus leyes. Los tribunales podrían lidiar con la asignación de responsabilidad cuando un algoritmo o su programador deban responder por sus acciones, puesto que no se necesita conocer con exactitud lo que ocurre en el cerebro para decidir si un accidente pudo haber sido evitado.

Otras preocupaciones giran en torno la actualización de los datos con los que operan los algoritmos para ir al ritmo de los cambios culturales y/o sociales de cualquier índole. Algunos algoritmos han resultado ser discriminatorios (por sexo o "raza"), pero la revista señala que no se debe a una programación prejuiciosa, sino a una cuestión social ya que el algoritmo opera con la tendencia media (preferencias/inclinaciones) de las elecciones humanas.

Finalmente la revista reconoce los límites de la IA y su posibilidad de cometer errores, no obstante esta tecnología conlleva extraordinarios beneficios por los cuales vale la pena asumir el riesgo de usarla, siempre y cuando se gestione con regulaciones adecuadas apoyadas de investigaciones y una respuesta de atención rápida ante las fallas.


*El aprendizaje automático o aprendizaje de máquinas (del inglés, "Machine Learning") es el subcampo de las ciencias de la computación y una rama de la inteligencia artificial cuyo objetivo es desarrollar técnicas que permitan a las computadoras aprender. El aprendizaje automático se solapa con el de la estadística computacional, ya que las dos disciplinas se basan en el análisis de datos. Sin embargo, el aprendizaje automático también se centra en el estudio de la complejidad computacional de los problemas (https://es.wikipedia.org/wiki/Aprendizaje_autom%C3%A1tico).

Nexo con el tema que estudiamos: 

La inteligencia artificial deviene una de las nuevas tecnologías transversales, por lo que diferentes entidades sociales se plantean cómo van a regularla. Como sucede generalmente con las innovaciones, las regulaciones avanzarán a tientas, respondiendo a las dificultades y a las presiones de las empresas creadoras y usuarias.

La regulación tiene un papel central en el desarrollo y expansión de las tecnologías, pero sobre todo en la creación de las instituciones que guían la innovación.