Conferencia tecnológica

Digitalización y algoritmos: Artificial, sí; inteligencia, no tanto

Los algoritmos deben ser auditados para paliar los sesgos que replican las discriminaciones de la vida real, según la experta Gemma Galdón

Gemma Galdón durante su conferencia en el Palau Macaya.

Gemma Galdón durante su conferencia en el Palau Macaya. / JORDI COTRINA (EPC_EXTERNAS)

2
Se lee en minutos
Agustí Sala
Agustí Sala

Redactor jefe de Economía

Especialista en Además de El Periódico, trabajé de 1989 a 1990 en La Economía 16, como responsable de Economía en el Diari de Barcelona, de 1989 a 1990; en la sección de Economía de TVE Catalunya de 1987 a 1989, en Antena 3 de Radio, de 1985 a 1987 y en el Diari Menorca, de 1983 a 1985 y Radio 80-Menorca. Además la licenciatura en Ciencias de la Información por la Universitat Autònoma de Barcelona (1992-1986), tengo un posgrado en dirección general (PDG) 2011-2012y un curso de Márketing Digital y Redes Sociales por la EAE Business School

Escribe desde Barcelona

ver +

"Las mejores mentes las tenemos dedicadas a vender zapatos". Y todo ello gracias al 'big data', la inteligencia artificial y los algoritmos porque el objetivo se ha centrado en el negocio con una función muy concreta para nuestros datos: "si te conozco mejor te podré vender mejor". Esta es una de las afirmaciones realizadas por Gemma Galdón, investigadora, analista de políticas públicas y cofundadora Eticas Research & Consulting durante la conferencia sobre “Digitalización. Cuando hablamos de transiciones nos referimos a un presente de cambio", dentro de un ciclo coorganizado por CCOO de Catalunya, EL PERIÓDICO y la oficina en Barcelona de el Club de Roma.

A juicio de esta doctora en vigilancia, seguridad y políticas urbanas por la Universitat Autònoma de Barcelona (UAB), las repercusiones de la tecnología y sus avances se entienden más desde las ciencias sociales que desde la ingeniería. Vivimos rodeados de algoritmos que, como se basan en patrones del pasado, suelen replicar las discriminaciones y fallos que se producen en la sociedad, sea por edad, sexo y otras variables. Según esta analista, pese al optimismo desde algunos ámbitos, como con la inteligencia artificial se introducen datos con patrones del pasado, "el coche autónomo no podrá ser", ya que no pueden prever lo que no ha pasado, aunque sí cree que habrá vehículos "altamente asistidos".

Los sesgos de los algoritmos hacen que, por ejemplo, si las mujeres han solicitado históricamente menos créditos, las probabilidades de que se los concedan en base al análisis de estos sistemas son más bajas, explica. Algo parecido pasa con el bono social destinado a consumidores eléctricos vulnerables. Al final resulta que muchos de los que tendrían derecho al mismo son descartados por desviaciones incluidas en el algoritmo que selecciona a los candidatos. O cuando se produce un accidente como el del AVE en Galicia en 2013: "A falta de sistemas para juzgar a los algoritmos la responsabilidad recae sobre el trabajador cuando no la tiene toda", alerta. Porque "las dinámicas de discriminación histórica del mundo real se replican si no se modifican a través de los patrones algorítmicos", afirma Galdón.

Noticias relacionadas

Una de las especialidades de esta experta, precisamente, es corregir esas tendencias porque "un algoritmo es auditable" y se le pueden incorporar datos y variables para evitarlas. Porque, recuerda, "la política en todo este tipo de medidas está desaparecida y está todo en manos de empresas privadas". Su consultoría trabaja para la Comisión Europea, la Agencia Europea de Derechos Fundamentales y la Open Society Foundation, entre otros.

A la conferencia asistieron el presidente de la oficina en Barcelona del Club de Roma, Jaume Lanaspa; y el secretario general de CCOO. en Catalunya, Javier Pacheco, entre otros.