Yael Eisenstat, exanalista de la CIA: "La alianza de Trump con Silicon Valley es muy peligrosa para la integridad de las elecciones en EEUU"

Cuando en junio de 2018, Facebook acudió a Yael Eisenstat para que dirigiese su equipo de publicidad política e integridad electoral, advirtió a la compañía que solo aceptaría ese reto si contaba con el apoyo para cambiar las cosas. Seis meses y una promesa rota después, la experta estadounidense en polarización y extremismos dejó su cargo para denunciar públicamente que el gigante tecnológico conocía y ocultaba el impacto nocivo de sus redes sociales.

Eisenstat sabe de lo que habla. Su trayectoria profesional así lo demuestra. Durante décadas, trabajó como agente de la CIA e investigó en profundidad cómo operan los procesos de radicalización. Esa posición la llevó a convertirse en asesora en seguridad nacional y contraterrorismo del entonces vicepresidente estadounidense Joe Biden. Tras apostatar de su responsabilidad directiva en Facebook, ha dedicado su vida a exponer el impacto que las plataformas digitales tienen en el discurso público y, por ende, en la democracia.

Eisenstat atiende a EL PERIÓDICO en el marco del I Encuentro Internacional de Derechos Digitales, una iniciativa de Mobile World Capital Barcelona y el Gobierno de España que reúne esta semana en la ciudad condal a algunas de las pensadoras tecnológicas más influyentes del mundo.

"Nuestra situación es más precaria que en 2018"

Yael Eisenstat

Han pasado ya siete años desde que dejó Facebook. Durante todo este tiempo, ¿nos han abocado las redes sociales a una peor situación?

Las grandes plataformas se han vuelto aún más poderosas. Ahora tienen herramientas mucho más sofisticadas y una mayor capacidad no solo para engancharnos a sus plataformas, sino también para utilizar inteligencia artificial mucho más avanzada. Esa IA se usa en sus algoritmos, quizá también en la moderación de contenidos, pero sobre todo en la forma en que ordenan y nos entregan la información. Al mismo tiempo, los propietarios de las mayores plataformas han retrocedido en políticas básicas de seguridad y en su aplicación. Es una combinación peligrosa. Por eso estamos en una situación más precaria que entonces.

¿También en Europa?

Creo que estamos peor, especialmente en Estados Unidos. Quiero ser muy clara en esto: Europa ha hecho un mejor trabajo intentando entender cómo proteger al público de algunas de las externalidades más peligrosas de estas compañías, mientras se permite, idealmente, que las empresas sigan prosperando. Pero en EEUU hemos ido hacia atrás, no hacia adelante.

Para tender la mano a Trump, los gigantes digitales han eliminado sus equipos de moderación de contenido y verificación de hechos, así como sus políticas sobre discurso de odio y diversidad. ¿Es la tormenta perfecta para degradar el ecosistema informativo?

Esa alianza crea un entorno muy peligroso para temas como la integridad electoral o la posible incitación a la violencia en torno a las elecciones. En EEUU, el nivel de violencia política está aumentando en todos los lados y eso no es culpa exclusiva de las redes sociales. Sin embargo, siguen incentivando ese extremismo. Las empresas tecnológicas están ayudando a normalizar ideologías que antes estaban más en los márgenes. No solo permiten que la gente sea más extrema, más odiosa o más sensacionalista: la incentivan a serlo, porque así crece su audiencia. Así es como los algoritmos les dan visibilidad. El problema reside en el diseño real de estos sistemas, en un modelo de negocio que es dañino.

"Las redes sociales no solo permiten que la gente sea más extrema, más odiosa o más sensacionalista: la incentivan a serlo, porque así crece su audiencia"

Yael Eisenstat

Ese modelo de negocio basado en la explotación de nuestra atención y privacidad sigue vigente en la IA. ¿Amplificará aún más los riesgos sociales?

Parte de eso aún está por ver. El modelo de negocio de empresas como OpenAI o Anthropic todavía no está del todo claro. Están financiadas de tal manera que todavía no tienen que preocuparse demasiado por cómo van a ganar dinero en el futuro, pero tendrán que definirlo. Por otro lado, están las empresas distribuidoras de este tipo de contenido, como las redes sociales. Tenemos muy poco tiempo para decidir cuáles serán las barreras de protección sobre cómo se puede distribuir online el contenido generado artificialmente: si debe etiquetarse, si estas compañías van a establecer normas sobre la viralidad del contenido no auténtico, y muchas otras cuestiones que todavía no se han resuelto. Pero si el modelo de negocio sigue siendo el que es hoy, no veo ninguna razón para pensar que esto no vaya a convertirse en un terreno aún más peligroso.

¿Cómo prevé que eso afecte a las elecciones legislativas en EEUU del próximo noviembre?

Por desgracia, EEUU casi siempre está en un ciclo electoral. Ese es uno de los problemas. No hay duda de que la retórica se está calentando en todos los lados. Al mismo tiempo, las redes sociales dicen: "Esto no es nuestro problema. No vamos a moderar contenido. No vamos a involucrarnos". Eso no solo es peligroso, sino que plantea preguntas importantes. Si una red social ha decidido que la violencia política es aceptable, no sé cómo puede afirmar que no tiene ninguna responsabilidad si algo ocurre en el mundo real y podemos rastrear ese hecho hasta una persona que fue validada o radicalizada online.

¿Puede la polarización alimentada por las redes sociales girarse en su contra? Ya estamos viendo una reacción social que apuesta por la violencia tanto contra Trump como contra Silicon Valley.

La ira y el miedo siempre han sido ingredientes clave del paisaje político en EEUU, desde el principio. Pero cuando permites que tu empresa, y la forma en que la diseñas, recompense la ira y el miedo; cuando amplificas, impulsas y recomiendas ese tipo de lenguaje, estás contribuyendo a ese clima. El clima de violencia política se ha alimentado durante años. La triste realidad es que cualquiera que piense que está a salvo, que no pasa nada y que eso nunca le afectará, se equivoca gravemente. Cuanta más gasolina se eche al fuego, por mucho que ganen dinero con ello, mayor será el riesgo de que se cometan ataques contra esas empresas.

"La ira y el miedo siempre han sido ingredientes clave del paisaje político en EEUU"

Yael Eisenstat

Tras años estudiando la polarización de las redes, ¿qué le parece que el presidente de su país haya convertido la Casa Blanca en una fábrica de contenido incendiario, con memes y propaganda generada con IA?

Usar herramientas de comunicación con fines políticos propios, incluida la propaganda, es algo que siempre ha existido en las campañas políticas y en el mundo político. Lo nuevo es el uso de tácticas propias de la gamificación de los incentivos de las redes sociales: ser bombástico para captar la atención de todos. Que el propio Gobierno estadounidense use las redes sociales para difundir teorías conspirativas de odio, fomentar la división y atacar a individuos o a grupos enteros de personas supone un nivel de peligro completamente distinto, algo que creo que no hemos visto en EEUU, al menos no desde hace mucho tiempo.

Suscríbete para seguir leyendo