Mobile World Congress
Catalunya llama a un uso ético de la inteligencia artificial
La Autoritat Catalana de Protecció de Dades analiza los peligros, retos y oportunidades para el desarrollo de aplicaciones con algoritmos más justos
Sigue aquí en directo todas las tendencias y novedades del MWC
Carles Planas Bou
Periodista
Periodista tecnológico entre el mundo digital y la política internacional. Centrado en capitalismo de plataformas, IA, vigilancia y derechos digitales. Excorresponsal en Berlín durante más de cuatro años, cubrió los gobiernos de Merkel, la crisis de los refugiados y el auge de la extrema derecha. También ha trabajado en Europa Central y en Canadá. Graduado en Periodismo por la URL y máster en Relaciones Internacionales por la UAB. Ha colaborado con TV3, TVE, Deutsche Welle, Catalunya Ràdio, El Orden Mundial o El Salto.
El uso de la inteligencia artificial (IA) para automatizar o complementar decisiones humanas es cada vez más habitual. Estos sistemas se usan para tareas tan dispares como determinar la asignación de ayudas públicas, la concesión de créditos bancarios e incluso para ayudar a calcular el riesgo de reincidencia de los presos, como sucede en Catalunya. Sin embargo, las máquinas no son perfectas y pueden reproducir todo tipos de sesgos presentes en las bases de datos de las que se nutren. Así, se han visto casos en los que los algoritmos amplifican discriminaciones clasistas, sexistas o racistas que perjudican directamente a los ciudadanos.
Es por eso que la Autoritat Catalana de Protecció de Dades (APDCAT) ha aprovechado la celebración del Mobile World Congress (MWC) para hacer un llamamiento en favor del desarrollo de aplicaciones éticas de esos sistemas y para alertar de sus potenciales peligros. "No podemos apreciar el impacto ni los riesgos que esconde porque la IA transforma el mundo de una forma sin precedentes", ha señalado Meritxell Borràs, directora del organismo público.
En el panel, ubicado en la zona del 4YFN, también ha participado Ricardo Baeza-Yates, director de Investigación en el Instituto de IA Experiencial de la Universidad Northeastern en Silicon Valley, quien han remarcado los desafíos que tiene ese diseño ético de los algoritmos: que tengan que cumplir unos principios establecidos, que estén regulados por una normativa y que den cabida a las diferencias culturales. Y es que parte de los sesgos que pueden amplificar los algoritmos ya están presentes en las bases de datos. Es por esto que esas bases no solo deben ser representativas de toda la sociedad, sino que también deben ser más justos para no reproducir discriminaciones o estereotipos del pasado.
Entre los potenciales malos usos de la IA destaca el uso indiscriminado de sistemas de videovigilancia, el reconocimiento facial y el control del comportamiento social. La legislación en la que trabaja la Unión Europea (UE) busca regular esta tecnología con la prohibición de estos usos, además del uso de datos biométricos. Sin embargo, varios expertos han denunciado que la nueva ley europea deja fuera de la regulación la tecnología militar. El Gobierno de España y l'Ajuntament de Barcelona también han tomado medidas para garantizar una mayor supervisión pública de los algoritmos y un uso ético de la IA.
- Barcelona, “decepcionada” y “preocupada” por que la Generalitat anuncie una desalinizadora flotante en el puerto sin avisarle
- García-Castellón y Gadea dejarán sus plazas en la Audiencia Nacional y Pedraz sopesa hacerse con el juzgado del Tsunami, por Ernesto Ekaizer
- El invierno vuelve por Sant Jordi: los meteorólogos alertan del fenómeno que nos espera la próxima semana en Catalunya
- El presidente del PP de Esplugues coló durante años facturas personales como gastos del partido para pagarlas con dinero público
- Airbnb aconseja a los propietarios que no anuncien las piscinas en sus alojamientos turísticos
- Vuelve Moisés a Pasapalabra: el concursante desvela los problemas que sufrió en el pasado y por los que tuvo que abandonar el programa
- DANA a la vista: estas serán las zonas más afectadas
- Sumergir los pies en vinagre, la nueva tendencia que arrasa: estos son sus beneficios