Sospechosos por la cara

Desbloquear el teléfono, etiquetar a amigos en redes sociales o acceder a una empresa o universidad. Todas estas acciones pueden hacerse ya a través del reconocimiento facial, una tecnología que recoge, procesa y analiza nuestros datos biométricos, en este caso los rasgos de la cara. El uso de esta tecnología, que tan cómoda resulta para la vida cotidiana, supone sin embargo graves peligros en los espacios públicos: puede ser usada, por ejemplo, por las fuerzas de seguridad para analizar quién asiste a una manifestación, puede servir para discriminar y criminalizar a personas en función de su color de piel o su género, o puede suponer sencillamente la vigilancia masiva e indiscriminada de la población, de manera preventiva y sin justificación alguna.

Justo ahora es más necesario que nunca abrir un debate social sobre el uso de esta tecnología por dos razones: porque se están conformando los nuevos gobiernos municipales y la instalación de cámaras se ha presentado como la panacea contra la percepción de inseguridad; y porque se debate el nuevo reglamento europeo sobre IA, la AI Act. Muchos gobiernos quieren introducir estos sistemas de vigilancia en los espacios públicos para reducir la criminalidad. Sin ir más lejos, el Ayuntamiento de Barcelona instalará 17 cámaras inteligentes en el paseo de Gràcia y algunas más en el Palauet Albéniz. Pero lo cierto es que no hay ningún estudio científico que demuestre que esta tecnología ha ayudado a prevenir ningún atentado terrorista o a mejorar la seguridad ciudadana. Lo que hay es un buen trabajo de marketing de las empresas que las venden, y muchos casos reportados, en cambio, de graves violaciones de derechos humanos relacionadas con su uso.

En junio de 2020, agentes de la policía de Nueva York intentaron detener al activista de Black Lives Matter, Derrick Ingram, sin ninguna orden de detención formal, y después de acusarlo de una supuesta agresión tras usar el reconocimiento facial para rastrear sus movimientos. También se ha usado esta tecnología de manera retroactiva para identificar al responsable de un robo en una empresa francesa. El sistema de reconocimiento facial generó una lista de 200 posibles sospechosos y uno de ellos fue acusado por la policía y sentenciado a más de un año de prisión, pese a no haber ninguna prueba física que le relacionase con el delito.

Derechos fundamentales

No se trata solo de un problema de activistas y defensores de los derechos humanos. El reconocimiento facial comete errores, viola la privacidad de la ciudadanía y coarta su libertad de movimientos. La vigilancia masiva que propicia esta tecnología, y que se nutre de una información tan personal, sensible e irreemplazable como nuestro rostro o la manera en que vestimos, pone en riesgo derechos fundamentales. Aunque la mayoría estamos convencidos de que no tenemos nada que ocultar, y en un sistema democrático no deberíamos tener miedo de cómo se usen nuestros datos, la realidad es que los gobiernos autoritarios se extienden por todo el mundo, y las empresas de tecnología ya han demostrado que salvaguardar la democracia no está por delante de sus cuentas de resultados.

Aunque el nuevo calendario electoral cambia muchas agendas, el Gobierno español debería asumir la presidencia del Consejo Europeo el 1 de julio. Más de 60 organizaciones de derechos humanos, en línea con muchas otras europeas e internacionales, le hemos pedido que la nueva legislación de la IA garantice la protección de los derechos fundamentales, e incluya la prohibición total del reconocimiento facial en espacios públicos. Solo así evitaremos que nos conviertan en sospechosos por la cara.