Digitalización y algoritmos: Artificial, sí; inteligencia, no tanto

"Las mejores mentes las tenemos dedicadas a vender zapatos". Y todo ello gracias al 'big data', la inteligencia artificial y los algoritmos porque el objetivo se ha centrado en el negocio con una función muy concreta para nuestros datos: "si te conozco mejor te podré vender mejor". Esta es una de las afirmaciones realizadas por Gemma Galdón, investigadora, analista de políticas públicas y cofundadora Eticas Research & Consulting durante la conferencia sobre “Digitalización. Cuando hablamos de transiciones nos referimos a un presente de cambio", dentro de un ciclo coorganizado por CCOO de Catalunya, EL PERIÓDICO y la oficina en Barcelona de el Club de Roma.

A juicio de esta doctora en vigilancia, seguridad y políticas urbanas por la Universitat Autònoma de Barcelona (UAB), las repercusiones de la tecnología y sus avances se entienden más desde las ciencias sociales que desde la ingeniería. Vivimos rodeados de algoritmos que, como se basan en patrones del pasado, suelen replicar las discriminaciones y fallos que se producen en la sociedad, sea por edad, sexo y otras variables. Según esta analista, pese al optimismo desde algunos ámbitos, como con la inteligencia artificial se introducen datos con patrones del pasado, "el coche autónomo no podrá ser", ya que no pueden prever lo que no ha pasado, aunque sí cree que habrá vehículos "altamente asistidos".

Advanced Factories reactiva la actividad ferial industrial en Barcelona

Los sesgos de los algoritmos hacen que, por ejemplo, si las mujeres han solicitado históricamente menos créditos, las probabilidades de que se los concedan en base al análisis de estos sistemas son más bajas, explica. Algo parecido pasa con el bono social destinado a consumidores eléctricos vulnerables. Al final resulta que muchos de los que tendrían derecho al mismo son descartados por desviaciones incluidas en el algoritmo que selecciona a los candidatos. O cuando se produce un accidente como el del AVE en Galicia en 2013: "A falta de sistemas para juzgar a los algoritmos la responsabilidad recae sobre el trabajador cuando no la tiene toda", alerta. Porque "las dinámicas de discriminación histórica del mundo real se replican si no se modifican a través de los patrones algorítmicos", afirma Galdón.

Una de las especialidades de esta experta, precisamente, es corregir esas tendencias porque "un algoritmo es auditable" y se le pueden incorporar datos y variables para evitarlas. Porque, recuerda, "la política en todo este tipo de medidas está desaparecida y está todo en manos de empresas privadas". Su consultoría trabaja para la Comisión Europea, la Agencia Europea de Derechos Fundamentales y la Open Society Foundation, entre otros.

A la conferencia asistieron el presidente de la oficina en Barcelona del Club de Roma, Jaume Lanaspa; y el secretario general de CCOO. en Catalunya, Javier Pacheco, entre otros.

Suscríbete para seguir leyendo