Digitalización y algoritmos: Artificial, sí; inteligencia, no tanto

A juicio de esta doctora en vigilancia, seguridad y políticas urbanas por la Universitat Autònoma de Barcelona (UAB), las repercusiones de la tecnología y sus avances se entienden más desde las ciencias sociales que desde la ingeniería. Vivimos rodeados de algoritmos que, como se basan en patrones del pasado, suelen replicar las discriminaciones y fallos que se producen en la sociedad, sea por edad, sexo y otras variables. Según esta analista, pese al optimismo desde algunos ámbitos, como con la inteligencia artificial se introducen datos con patrones del pasado, "el coche autónomo no podrá ser", ya que no pueden prever lo que no ha pasado, aunque sí cree que habrá vehículos "altamente asistidos".

Los sesgos de los algoritmos hacen que, por ejemplo, si las mujeres han solicitado históricamente menos créditos, las probabilidades de que se los concedan en base al análisis de estos sistemas son más bajas, explica. Algo parecido pasa con el bono social destinado a consumidores eléctricos vulnerables. Al final resulta que muchos de los que tendrían derecho al mismo son descartados por desviaciones incluidas en el algoritmo que selecciona a los candidatos. O cuando se produce un accidente como el del AVE en Galicia en 2013: "A falta de sistemas para juzgar a los algoritmos la responsabilidad recae sobre el trabajador cuando no la tiene toda", alerta. Porque "las dinámicas de discriminación histórica del mundo real se replican si no se modifican a través de los patrones algorítmicos", afirma Galdón.

Noticias relacionadas

Advanced Factories reactiva la actividad ferial industrial en Barcelona

Catalunya llama a un uso ético de la inteligencia artificial

Una de las especialidades de esta experta, precisamente, es corregir esas tendencias porque "un algoritmo es auditable" y se le pueden incorporar datos y variables para evitarlas. Porque, recuerda, "la política en todo este tipo de medidas está desaparecida y está todo en manos de empresas privadas". Su consultoría trabaja para la Comisión Europea, la Agencia Europea de Derechos Fundamentales y la Open Society Foundation, entre otros.

A la conferencia asistieron el presidente de la oficina en Barcelona del Club de Roma, Jaume Lanaspa; y el secretario general de CCOO. en Catalunya, Javier Pacheco, entre otros.