04 Jul 2020

Los peligros del reconocimiento facial

watch_later Tiempo de lectura ~5 minutos

Es una mañana del mes de abril del año 2019. En Estados Unidos, Amara Majee, estudiante de la Universidad Brown nacida en Sri Lanka, se despierta con treinta y cinco llamadas perdidas y otros tantos mensajes en su celular que le informan que fue identificada por la policía de su país natal como participante de un atentado terrorista efectuado por ISIS a raíz de un análisis de reconocimiento facial (https://www.washingtonpost.com/nation/2019/04/26/sri-lankan-police-wrongly-identify-brown-university-student-wanted-suspect-terror-attack/) . Amara entró en shock, ella no era participante de ISIS, no había tenido nada que ver con el atentado, y de hecho, se encontraba en Rhode Island en el momento en que éste sucedió. Eventualmente, su inocencia se pudo esclarecer y la policía retiró las acusaciones con un pedido de disculpas.

En Argentina, en donde esta tecnología comenzó a aplicarse hace aproximadamente un año en la Ciudad de Buenos Aires (https://www.lanacion.com.ar/seguridad/usaran-primera-vez-sistema-reconocimiento-facial-atrapar-nid2241360) , este caso puede verse como un desafortunado evento, un producto de una mala coordinación de herramientas disponibles. También puede pensarse que las chances de que eso te suceda a vos o alguien que conocés son ínfimas, y que en definitiva, si no infringís la ley, no tendrías que preocuparte.

Ahora situémonos en el mes abril, pero del año 2015, también en Estados Unidos. Durante aquella época, el clima social había empezado a cargarse con múltiples manifestaciones a causa del asesinato de Freddie Gray en manos de la policía, y el movimiento Black Lives Matter comenzaba a cobrar una una gran relevancia a nivel nacional. En la ciudad de Baltimore, en donde se había producido el asesinato, la policía utilizó fotografías de protestantes para rastrearlos en redes sociales (https://www.nytimes.com/2020/06/09/technology/facial-recognition-software.html) , violando el derecho a la protesta y a la privacidad al mismo tiempo.

En este último caso, la situación es muy distinta: ya no pasa por estar al día con la ley, y por lo tanto no tener que preocuparte de que una imagen tuya tomada por una cámara de seguridad pueda utilizarse para rastrear tu identidad, ni de las pocas probabilidades de que se te confunda con un criminal. El problema pasa más bien por saber qué harán esas empresas, agencias e instituciones, que tienen la posibilidad de extraer datos biométricos en aeropuertos o estaciones policiales e implementar algoritmos a partir de bases de datos que nosotrxs mismxs les otorgamos al momento de cumplir con la obligación de ser fotografiadxs en el registro nacional de las personas, o cuando simplemente subimos una foto nuestra taggeada a una red social.

Podría ser que en el mejor de los casos esta técnica se utilice para detectar redes de crimen organizado, o para prevenir atentados, por ejemplo. Pero también puede ser utilizada en muchos países para amedrentar los derechos de distintas comunidades, ya sea por profesar determinadas ideologías, afiliaciones políticas o religiosas, o por tener una orientación sexual contrahegemónica. Y nada les dificulta hacerlo porque existe un cráter en materia legislativa y protocolaria, en donde no suelen desarrollarse consensos de auditabilidad transparentes acerca de la utilización de este procedimiento computacional.

Por otra parte, a medida que haya un aumento en la capacidad de cómputo y en el almacenamiento de grandes bases de datos, y la aplicación de algoritmos de Machine Learning se vuelve más sofisticada, los beneficios que varias agencias gubernamentales extraerán de esta práctica pesarán más que sus efectos contraproducentes; si esto sucede, lo que le pasó a Amara Majeed distaría mucho de ser un caso aislado. Los algoritmos de reconocimiento facial pueden tener un alto grado de falsos positivos y reflejar sesgos raciales. Joy Buolamwini, una investigadora de MIT, demostró quehttp://news.mit.edu/2018/study-finds-gender-skin-type-bias-artificial-intelligence-systems-0212en muchas aplicaciones comerciales de reconocimiento facial había unatendencia alta de detección errónea en personas afroamericanas (http://news.mit.edu/2018/study-finds-gender-skin-type-bias-artificial-intelligence-systems-0212) , siendo este porcentaje aún mayor en mujeres afroamericanas. Y estas fallas de detección pueden dar lugar a muchos problemas si se combinan con un fenómeno llamado “sesgo de la automatización” (https://thewire.in/tech/india-is-falling-down-the-facial-recognition-rabbit-hole) : una persona que no está del todo segura de si dos o más fotos pertenecen al mismo individuo, tenderá a considerar que así lo es si el programa afirma que existe una probabilidad de identidad del 99% entre dichas fotos. A pesar de todo esto, es común que las legislaciones vigentes no contemplan procedimientos de evaluación para establecer porcentajes identificación errónea (https://venturebeat.com/2020/01/15/congress-moves-toward-facial-recognition-regulation/) .

A raíz de estos factores, ante la nueva oleada de protestas por injusticia racial en EEUU, y después de varios reclamos de organizaciones en defensa de los derechos humanos (https://www.amnesty.org/en/latest/research/2020/06/amnesty-international-calls-for-ban-on-the-use-of-facial-recognition-technology-for-mass-surveillance/) , Microsoft, IBM y Amazon decidieron recientemente no prestar servicios de reconocimiento facial a agencias policiales (https://www.washingtonpost.com/technology/2020/06/11/microsoft-facial-recognition/) hasta que exista un marco legal correspondiente basado en el derecho a la privacidad. O mejor dicho: decidieron dejar de hacerlo, porque ya lo venían haciendo desde hace años (https://www.bbc.com/news/technology-52978191) .

Pero existen otras empresas que aún no se han expedido sobre el asunto, ni dan muestras de querer hacerlo. Una de ellas es Clearview IA, que además de vender sus servicios a agencias estatales de países en donde se ejercen graves violaciones a los derechos humanos (https://www.business-humanrights.org/en/civil-society-social-media-companies-raise-human-rights-concerns-about-clearview-ais-online-mining-of-data-potential-expansion-plans) , lo hacen extrayendo esa información de imágenes que son publicadas en plataformas como Facebook y Youtube (https://www.theverge.com/2020/2/6/21126063/facebook-clearview-ai-image-scraping-facial-recognition-database-terms-of-service-twitter-youtube) , sin ningún tipo de consentimiento por parte de éstas. Y a pesar de las advertencias de especialistas en ética de inteligencia artificial (https://georgianpartners.com/episode-93-facial-recognition-demographic-analysis-and-more-with-timnit-gebru/) , esta palataforma extendió su negocio a más de 600 agencias policiales que han tenido acceso a esta técnica. (https://www.nytimes.com/2020/01/18/technology/clearview-privacy-facial-recognition.html)

Uno de los niveles más altos de utilización explícita de algoritmos de reconocimiento facial se da en China (https://www.nytimes.com/2018/07/08/business/china-surveillance-technology.html) , en donde un conjunto de empresas nacionales y el Estado intercambian esfuerzos para el diseño de un proyecto llamado Skynet -sí, leíste bien, se llama Skynet- con el cual pretenden desplegar un sistema de cibervigilancia que permita identificar los rostros de ciudadanxs que infringen la ley, exponiéndolxs públicamente y penalizándolxs dentro de un sistema que mide la obediencia ciudadana.

En resumen: estamos ante una tecnología falible, en la que se confía excesivamente, se utiliza de maneras que violan el derecho a la privacidad, sirve como herramienta para la vigilancia masiva y la elaboración de delitos proxy (https://filosofiadelfuturo.com/delitos-proxy/) , y a las que tienen acceso empresas y agencias policiales que están exentas de la obligación de explicar sus usos. Todo esto sumado a una falta de un marco regulatorio riguroso, y no, no es un capítulo de Black Mirror.

Este horizonte vuelve urgente priorizar al carácter político de los derechos informáticos que buscan articular una defensa a la privacidad. El hecho de que existan decisiones importantes en materia de derechos informáticos que estén libradas a la suerte de la ética de empresas privadas, agencias policiales y asociaciones entre aparatos estatales de dudosa legitimidad, constituye una situación alarmante.

Ante la aplicación de esta tecnología por parte de fuerzas públicas cabe preguntarse: ¿Qué canales de verificación públicos existen acerca del porcentaje de efectividad de estos algoritmos? ¿Qué certezas pueden ofrecerse de que estos no profundizarán mecanismos de discriminación racial? ¿Qué tipos específicos de instancias legitiman su aplicación? ¿Cual es el grado de auditabilidad que hay del código fuente y del funcionamiento de los algoritmos? ¿Qué recursos institucionales existen para frenar posibles abusos de las autoridades? ¿Qué tipos de iniciativas se pueden desarrollar para forzar una marcha atrás de estas implementaciones?

Aún cuando parezca que estas tecnologías no forman parte de una amenaza actual, las cosas pueden suceder rápido. Sin la presencia de una ciudadanía crítica que defienda los intereses de su privacidad, nuestros datos biométricos se van a empezar a ver cada vez más y más vulnerados.


Acá te compartimos ** uno de los últimos programas de Last Week Tonight with John Oliver (https://m.youtube.com/watch?v=jZjmlJPJgug&t=7s) en donde se sintetizan muchos de los temas que te contamos en este mail.

En ** este link podés acceder a la resolución (https://adc.org.ar/wp-content/uploads/2020/02/Respuesta-PAIP-reconocimiento-facial-GCBA.pdf) que habilita a la Policía de la Ciudad a utilizar algoritmos de reconocimiento facial a través del Centro de Monitoreo Urbano, y** acá podes acceder a la Ley CABA N° 5688 (http://www2.cedom.gob.ar/es/legislacion/normas/leyes/ley5688.html) en la cual se describe al Sistema Integral de Seguridad Pública de la Ciudad de Buenos Aires, cuyo libro VIII contiene la explicitación del Sistema Público de Video Vigilancia. Consideramos fundamental para la construcción de una mirada atenta en materia de derechos informáticos estar al tanto de las leyes vigentes y analizar las interpretaciones que dejan abiertas.


Escrito por: Santiago López

Share on:
Robots, leyes y Sur
Juan Fernández Zaragoza add

Publicación completa

Robots, leyes y Sur close

Históricamente, la legislación que regula la producción, la distribución y los usos de nuevas tecnologías fue surgiendo en forma posterior a su difusión generalizada. Aparecía una tecnología, se la...

Publicación completa
Política por la Micropolítica
Juan Fernández Zaragoza add

Publicación completa

Política por la Micropolítica close

Lo personal es político. Nuestra experiencia cotidiana, nuestras actitudes, nuestros discursos (incluso los emitidos en entornos privados) y nuestras maneras de relacionarnos son fuerzas que pueden...

Publicación completa
Problemas políticos de la automatización del trabajo
Martín Polakiewicz add

Publicación completa

Problemas políticos de la automatización del trabajo close

La tecnología, a lo largo de la historia, ha permitido a la humanidad aumentar exponencialmente sus capacidades de transformación del mundo, reemplazando trabajo vivo por trabajo muerto, hombres po...

Publicación completa