"Necesitamos poner normas para frenar el mensaje de los que beben lejía o niegan la existencia del virus"

Hace justo diez años, Naciones Unidas anunció, por primera vez en su historia, el lanzamiento del primer proyecto de ciencia de datos de la organización. En febrero de 2011, el asturiano Miguel Luengo Oroz se convirtió en el primer especialista en inteligencia artificial y ‘big data’ de la iniciativa ‘Global Pulse’ de ONU. Una década más tarde, este ingeniero español ha dirigido equipos y proyectos en todos los continentes y habla como uno de los pioneros a nivel internacional en la aplicación de estas herramientas en proyectos de desarrollo sostenible y acción humanitaria. También destaca como una de las voces que, desde la experiencia, reclama un cambio en el sector. "Igual que los médicos tienen un código deontológico, los científicos de datos también deberían comprometerse con unos criterios éticos", explica el experto en una entrevista con EL PERIÓDICO.

Luengo Oroz habla del futuro de la inteligencia artificial como un camino que, lejos de estar guiado solo por cuestiones tecnológicas, debería basarse en principios éticos que busquen tener "un impacto positivo para las personas y para el planeta". "Los científicos no deberían conformarse con desarrollar la tecnología y ya está. La ética debería estar en el centro de la cadena de trabajo. Hay convertir en rutina el hecho de preguntarse qué impacto tienen estos proyectos en la humanidad y en el medio ambiente", explica. Por eso mismo, según argumenta el Luengo Oroz, de nada sirve desarrollar las aplicaciones de última generación que sugieran siempre la opción más contaminante. O que las redes sociales tengan algoritmos súper avanzados que, en la práctica, sirvan para difundir noticias falsas.

"Hay convertir en rutina el hecho de preguntarse qué impacto tienen estos proyectos en la humanidad y en el medio ambiente"

"Durante la pandemia hemos asistido a la primera infodemia de la revolución digital y hemos visto, una vez más, que en redes sociales las noticias falsas corren como la pólvora. Para atajar este problema necesitamos más transparencia, para saber exactamente cómo funcionan estas plataformas. Pero también necesitamos empezar a regular, a poner normas, para frenar el mensaje de los que beben lejía o niegan la existencia del virus", esgrime Luengo Oroz, que durante estos últimos años ha estudiado de cerca el fenómeno en colaboración con la Organización Mundial de la Salud (OMS).

"Con la desinformación está en juego algo muy importante; la confianza en los hechos. No puede ser que vayamos hacia un futuro donde, por culpa de las ‘fake news’, no sepamos qué es verdad y qué es mentira", añade el experto, recientemente invitado al congreso 'Pandemias' organizado por Biocat y 'La Caixa'.

"No puede ser que vayamos hacia un futuro donde, por culpa de las ‘fake news’, no sepamos qué es verdad y qué es mentira"

Tecnología al servicio de la sociedad

Durante esta crisis sanitaria, Luengo Oroz también ha formado parte del equipo multidisciplinar encargado de coordinar la misión humanitaria en el campo de refugiados de Kutupalong, en Bangladesh; el emplazamiento de desplazados más grande del mundo, hogar de más de 600.000 personas. "En estos casos es muy importante combinar herramientas de inteligencia artificial y análisis humano para, por ejemplo, decidir qué medidas de salud pública son más efectivas. Si esas decisiones se tomaran sólo en base a intuiciones o conteos manuales, probablemente habríamos llegado demasiado tarde a unos resultados que, además, tampoco serían óptimos. Y si lo hubiéramos dejado en manos de algoritmos y simulaciones digitales, la falta de contexto y el margen de error podría haber dejado a mucha gente sin ayuda", explica el científico. 

"Los algoritmos y el 'big data' pueden ayudar en muchos aspectos, pero no todo se soluciona contratando un científico de datos"

"Los algoritmos y el 'big data' pueden ayudar en muchos aspectos, pero no todo se soluciona contratando un científico de datos", matiza Luengo Oroz. Según argumenta el experto, el primer paso es que la sociedad y los gobiernos estén formados sobre los límites y las posibilidades de estas tecnologías. A continuación, hay que apostar por equipos multidisciplinares entiendan las raíces del problema y sepan cuál es el mejor camino para empezar a construir una solución. Entonces sí, argumenta Luengo Oroz, que tendrá todo el sentido del mundo desplegar herramientas tecnológicas.

"Decir solo que la inteligencia artificial ayuda a los refugiados sería dar una idea equivocada. La tecnología es solo una herramienta que diseñada y adaptada al contexto puede ayudar a solucionar un problema. Pero tan difícil como resolver el reto tecnológico es hacerse las preguntas correctas", comenta el experto.

'Deep fakes', metaversos y neurotecnologías

Hablando del futuro de la inteligencia artificial, Luengo Oroz afirma que tiene puesto su ‘radar’ en varias encrucijadas éticas y tecnológicas. "Ahora que se habla tanto de metaversos, me preocupa que vayamos hacia un mundo donde la biosfera digital y la física están totalmente desconectadas. No quiero que mis hijas vivan en un mundo 'online' donde sea más importante relacionarse con bots que tener empatía con los humanos", reflexiona el experto.

"No quiero que mis hijas vivan en un mundo 'online' donde sea más importante relacionarse con bots que tener empatía con los humanos"

"También veo que se está avanzando mucho en cuestiones de neurotecnología, que en un futuro podrían permitirnos conectar cerebro y ordenador, pero me preocupa que la regulación sobre estas cuestiones no se esté desarrollando con la misma rapidez. ¿Qué pasará el día que tengamos una tecnología capaz de leer mi mente pero que no tenga garantías sobre mi 'privacidad mental'?", comenta el científico.

A corto plazo, explica Luengo Oroz, el debate más importante que debemos abordar como sociedad es la regulación de herramientas tecnológicas que, desde ya, están contribuyendo a una oleada sin precedentes de desinformación y polarización en todas las esferas sociales. "La desinformación es, quizás, uno de los problemas más graves al que nos enfrentamos como democracia. Durante esta pandemia, los bulos ya le han costado la salud a mucha gente. Y yendo un paso más allá, el siguiente genocidio podría empezar con un vídeo falso, un ‘deep fake’, enviado por wasap. Hay que legislar para que las ‘fake news’ hagan menos daño", sentencia Luengo Oroz. 

Suscríbete para seguir leyendo