Ángel Gómez de Ágreda, experto en ciberseguridad: "El móvil es un caballo de Troya, pero lo llevamos alegres en el bolsillo"

Las guerras ya no se libran en los campos de batalla (que también), sino en la pantalla de nuestros teléfonos móviles, capaces de mostrarnos la realidad distorsionada y hacernos reaccionar en función de oscuros intereses. No es una teoría conspiranoica, sino la advertencia que lanza en su último ensayo -'Un mundo falaz' (Ariel)- el coronel del Ejército del Aire en la reserva Ángel Gómez de Ágreda. Este experto en ciberseguridad y guerra cognitiva lo tiene claro: nuestra supervivencia como especie depende de que se imponga un “uso ético” de la inteligencia artificial.

¿La tecnología ha cambiado el concepto que teníamos de seguridad?

Totalmente. De entrada, ha desvinculado el peligro de los factores geográficos. En Finlandia han cambiado recientemente su sistema educativo y de defensa para protegerse de un vecino amenazante, pero Rusia no solo puede invadir su territorio, también supone una seria amenaza narrativa, puede atacarle por vía cibernética, y esa amenaza llega igual de rápido a Finlandia que a España. Deberíamos prepararnos para esto, y no lo estamos haciendo.

¿Una amenaza narrativa?

La seguridad de un país ya no depende tanto de que un vecino le invada como de que el atacante logre cambiar el sentir sus habitantes hasta que ellos mismos sean los que acaben atentando contra su propia seguridad sin darse cuenta. Ese es el momento que estamos viviendo. Estamos pasando de la posverdad a la posrealidad. Esto ya no va de falsear la realidad, va de crear una nueva realidad, que la gente se la crea y que acabe actuando en función de ella.

¿Y eso puede hacerse?

Técnicamente sí, y ya se está haciendo. Además, con un asombroso grado de sofisticación. Hemos volcado en la red tantos datos personales que la inteligencia artificial ya es capaz de crear mensajes individualizados para cada uno de nosotros y llevarnos a reaccionar como quiera. El plan ya no es cambiar la forma de pensar de 10 millones de personas de golpe, sino cambiársela de manera individualizada a cada uno de ellos sin que se den cuenta. Y resulta que hoy nos fiamos más de lo que vemos en el móvil que de lo que vemos por la ventana. Si te convenzo de que esto que te muestro en la pantalla es la realidad, ya te tengo controlado.

Sorprende tener delante a un militar y estar hablando de psicología, no de armas o estrategias de combate.

Las emociones siempre fueron decisivas en las guerras, las tropas salen en desbandada cuando ven a su líder derrocado. Lo novedoso es que ahora las emociones se pueden alterar sin necesidad de ir al campo de combate, de manera virtual. Ojo, no hablo de percepciones, hablo de emociones, que es el campo donde hoy se libra la batalla. Cambiar una percepción es muy fácil, solo hace falta un algoritmo que genere un vídeo falso que te engañe. El siguiente paso, que es donde estamos ahora, es conseguir que cada individuo reaccione de la forma que queramos partiendo de la información que tenemos de él. Es como activar por control remoto una hormona en su organismo.

La inteligencia artificial ya es capaz de crear mensajes individualizados para cada uno de nosotros y llevarnos a reaccionar como quiera

— Ángel Gómez de Ágreda, militar en la reserva y experto en ciberseguridad

¿Y eso quién lo está haciendo?

Lo están haciendo los estados que tienen capacidad técnica para hacerlo y que cuentan con menos restricciones legales que se lo impidan. Por ejemplo, lo hace China desde hace tiempo y lo hace Rusia, donde acaban de prohibir Whatsapp y ahora, para comunicarte, tienes que registrarte en Max, una plataforma que cede al gobierno los datos de sus usuarios. Lo hacen con sus ciudadanos, pero lo pueden hacer con un país extranjero, aunque el verdadero problema no es esa amenaza, sino que ese modelo está siendo exportado a los países del sur global, donde cada vez miran con mejores ojos a los regímenes autocráticos. No les hables de democracia, valores o derechos humanos, porque su respuesta es: vemos al modelo chino más eficaz.

En el referéndum del brexit, la consultora Cambridge Analytica reconoció que había usado datos de usuarios de Facebook para mandarles mensajes manipulados e influir en sus votos. Pensaba que habíamos aprendido la lección.

Al contrario, lo que pasó fue: oye, este sistema funciona, tomemos nota para mejorarlo. Hoy, Cambridge Analytica es una antigualla. Fíjese, en las recientes protestas de Minneapolis, los agentes del ICE no preguntaban el nombre a los manifestantes, simplemente les enfocaban con sus móviles, donde llevaban instalada una app de Clearview AI, una empresa privada de inteligencia artificial de dudosa ética que maneja 10.000 millones de datos de reconocimiento facial. ¿De dónde cree que los sacó? Muy simple: los obtuvo gratis a partir de los millones de fotos que la gente colgó en las redes sociales.

¿Quién no ha subido una foto a la red?

Cada vez que publicamos un dato personal, no es que perdamos la propiedad sobre él, es que perdemos esa parte de identidad que compartimos. Es como si dejaras tu ADN suelto por ahí. Alguien, más pronto que tarde, podrá copiarlo y suplantarte, o podrá fabricar un arma para atacar específicamente a ese ADN. En el momento en que tu identidad se vuelve vulnerable, pierdes tu capacidad para ser libre.

Veo que todo pasa por el móvil. ¿Qué es realmente un smartphone?

Es un caballo de Troya y lo llevamos alegres en el bolsillo. Nos parece muy útil, pero solo obtenemos de él el 10% de sus utilidades, el 90% restante lo obtiene la compañía titular de la red y las aplicaciones que llevamos dentro. Esos son los verdaderos dueños de tu móvil, no tú. Hoy, todas las percepciones y emociones nos llegan mediatizadas a través de esos aparatos y pensamos que son las mismas para todo el mundo, pero no es así. Lo que su móvil le cuenta a usted no tiene nada que ver con lo que el mío me cuenta a mí.

Cada vez que publicamos un dato personal, no es que perdamos la propiedad sobre él, es que perdemos esa parte de identidad que compartimos

Ángel Gómez de Ágreda, militar en la reserva y experto en ciberseguridad

¿Qué propone? ¿Qué nos quitemos las redes sociales, que dejemos de usar el móvil, que renunciemos a la IA?

Solo advierto de que esto está pasando, más rápido de lo que podíamos imaginar, y animo a que debatamos sobre ello. Necesitamos una sociedad civil crítica que diga basta y exija un uso ético de la inteligencia artificial. La IA está proporcionando grandes avances en terrenos como la salud o las comunicaciones, pero es una herramienta demasiado poderosa y debemos ser conscientes de dónde nos puede llevar.

Como ciudadano, ¿está preocupado?

En el corto plazo, me preocupa que pueda hacernos perder libertad e identidad. En el debate entre seguridad y libertad, temo que al final hemos perdido las dos. Ahora mismo, ante la IA, tenemos una rara sensación de comodidad, le pedimos un dato y nos lo ofrece en cuestión segundos. Pero nos quedamos con su respuesta sin cuestionarla, nadie plantea cuáles son sus fuentes ni busca más allá, es como si oyéramos hablar al oráculo. Sin embargo, la verdadera libertad no consiste en ser racionales, sino en poder ir en contra de la razón. Estamos perdiendo espíritu crítico y capacidad de ir en contra de lo que nos dicte el sistema, y esto nos lleva a un mundo con más desigualdades.

¿Desigualdades?

En ‘Un mundo feliz’, la novela de Aldous Huxley en la que se inspira el título de mi libro, estaban los alfa, que eran los listos, los llamados a ser los líderes, luego estaban los beta, los gamma, los delta y, por último, estaban los épsilon, que eran poco menos que infrahumanos. Hoy se está segregando la sociedad entre aquellos que siguen manteniendo criterio y saben utilizar la inteligencia artificial y los que simplemente se subordinan a ellas y, en la práctica, se convierten en herramientas de aquellos. Pero hay algo más grave, y es que ese sistema puede acabar con la humanidad. La historia nos cuenta que los imperios no suelen caer por invasiones externas, sino porque se acaban suicidando. Temo que nos pase lo mismo como especie.

La inteligencia artificial puede acabar con la humanidad. La historia nos cuenta que los imperios no suelen caer por invasiones externas, sino porque se acaban suicidando. Temo que nos pase lo mismo como especie

Ángel Gómez de Ágreda, militar en la reserva y experto en ciberseguridad

En este contexto, ¿tiene sentido seguir fabricando tanques, como se nos pide ahora a los europeos para defendernos?

Las operaciones de guerra de hoy se basan en datos que hay en la nube a la hora de seleccionar blancos y en el uso de inteligencia artificial a la hora de tomar decisiones. Sin embargo, le diría que sí, que tiene sentido invertir en armamento porque, independientemente de su utilidad, ayuda a desarrollar tecnologías. El problema de Europa es que carece de una estructura política que identifique nuestros intereses, señale nuestras verdaderas amenazas y marque una estrategia. Antes de invertir, debemos saber para qué, y Europa no parece tenerlo claro.

¿Cómo ve al conocido como ‘antiguo continente’ en el nuevo escenario geopolítico mundial?

Creo que Europa no es consciente de la decadencia en la que se encuentra y hacia la que se avecina. Europa sigue mirando al mundo con las gafas de ver de cerca, pero esas solo sirven para mirarse el ombligo, que es lo que hacemos muy bien los europeos, no valen para ver el mundo en su conjunto, al que sigue mirando con prepotencia y desde una atalaya falsa. Yo vivo Catar y viajo mucho a Corea del Sur y Japón, y le aseguro que las tendencias que marcan el futuro del planeta no se diseñan hoy en Europa, se diseñan en otras zonas del mundo. Piense que NVIDIA vale hoy tanto como la suma del PIB de Francia, España y Portugal. Eso no es una empresa, es un actor político, pero en Europa no queremos verlo.

¿Necesitamos un Google y un Meta europeos?

Sin duda. China lo hizo hace muchos años, allí Google funciona con muchas limitaciones, o directamente no funciona, y tienen sus sustitutos diseñados en el propio país. En Corea del Sur, que es un país asiático de corte occidental, pasa lo mismo. Allí has de usar Kakao en vez de Whatsapp para comunicarte y Naver en vez de Google como buscador. En Japon desarrollaron LINE como herramienta de mensajería. Europa no dio nunca ese paso porque no lo vio necesario, y ahora se da cuenta. Más vale ahora que dentro de unos años, pero antes debemos definirnos a nosotros mismos, y no tengo claro de que exista esa voluntad política

Suscríbete para seguir leyendo