Tecnología y vigilancia
El Gobierno de España y la Generalitat usan algoritmos que pueden ser discriminatorios
Ambas instituciones recurren a la automatización para determinar ayudas al paro, detectar denuncias falsas o predecir la reincidencia de presos
Eticas Foundation lanza una base de datos que recoge 100 casos donde el uso de esos sistemas entraña riesgos sociales no intencionados
Carles Planas Bou
Periodista
Periodista tecnológico entre el mundo digital y la política internacional. Centrado en capitalismo de plataformas, IA, vigilancia y derechos digitales. Excorresponsal en Berlín durante más de cuatro años, cubrió los gobiernos de Merkel, la crisis de los refugiados y el auge de la extrema derecha. También ha trabajado en Europa Central y en Canadá. Graduado en Periodismo por la URL y máster en Relaciones Internacionales por la UAB. Ha colaborado con TV3, TVE, Deutsche Welle, Catalunya Ràdio, El Orden Mundial o El Salto.
Los algoritmos ya afectan tu vida. Los usan gigantes tecnológicos como Google, Facebook o TikTok para conocerte mejor, recomendarte contenido y predecir tus acciones. Pero también lo usan cada vez más gobiernos y administraciones públicas de todo el mundo para agilizar procesos tan importantes como la concesión de ayudas al paro o la detección de casos de covid-19.
Los algoritmos son las fórmulas matemáticas que los ordenadores usan para tomar decisiones. Sin embargo, esas decisiones no son neutrales, sino que se fundamentan en datos recopilados por humanos que pueden acarrear sesgos (racistas, de género o socioeconómicos, entre otros) y traducirse en consecuencias no deseadas como una vigilancia perpetua de los ciudadanos o una mayor discriminación que perjudica especialmente a minorías.
¿Y si el algoritmo te acusa injustamente de fraude y te niega acceso a ayudas sociales? ¿Y si recompensa las notas en la selectividad de solo los estudiantes de barrios ricos? Eso ya ha sucedido tanto en los Países Bajos como en el Reino Unido.
¿Discriminaciones en España?
España CatalunyaTwitterNetflixMicrosoft Uberderechos fundamentalesA pesar de su profundo impacto en nuestras vidas los algoritmos son opacos y cuentan con poca supervisión. Es por ello que la entidad Eticas Foundation ha puesto en marcha el Observatorio de Algoritmos con Impacto Social (OASI), que reúne en una base de datos (que puedes consultar aquí) más de 100 casos de todo el mundo donde el uso de algoritmos está teniendo unos efectos sociales perjudiciales no deseados. El proyecto identifica esos casos en un buscador con la intención de ser accesible al público y concienciar sobre la necesidad de auditar algoritmos.
Además de los casos mencionados, OASI también señala otros dos algoritmos potencialmente peligrosos en el territorio: el que usa la Policía Nacional para detectar denuncias falsas y el que usa el Servicio Público de Empleo Estatal (SEPE) para determinar ayudas sociales a los parados.
OASI categoriza los tipos de impactos que producen en siete apartados: discriminación (racial, de género, socioeconómica o religiosa), vigilancia del Estado, polarización/radicalización, amenaza a la privacidad, manipulación del comportamiento, generación de adicción y propagación de desinformación. Un impacto doblemente peligroso, pues el extendido mito de que las máquinas son portadoras de una verdad racional y matemática hace que, en la mayoría de ocasiones, sus consecuencias negativas queden ocultas.
- Sumergir los pies en vinagre, la nueva tendencia que arrasa: estos son sus beneficios
- Rosalía disfruta de una cena familiar en un famoso restaurante del Born
- Illa replica a Aragonès y Puigdemont: "El uso del catalán ha retrocedido en una década de gobiernos de Junts y ERC
- Un final bochornoso en el Bernabéu
- El gran secreto para acabar con los pececillos de plata
- Olvídate de freír el huevo en la sartén: esta es la fórmula para hacer los mejores huevos fritos
- Álex ya está en casa: "Las Fuerzas Armadas nunca dejan a nadie atrás
- Este es el pueblo de Catalunya que participará en Grand Prix este verano