Un estudio señala que Vox y Aliança Catalana usan la IA para difundir desinformación y atacar los derechos humanos

La inteligencia artificialha dejado de ser una herramienta secundaria en la comunicación política para convertirse en un factor de riesgo para la calidad democrática. Así lo advierte el Observatori d’Ètica en Intel·ligència Artificial de Catalunya (OEIAC), con sede en la Universitat de Girona, en un estudio encargado por el Departament de Justícia i Qualitat Democràtica de la Generalitat. El informe analiza el papel de la IA en los procesos electorales y alerta de su capacidad para alimentar campañas de desinformación, manipular la percepción de los votantes y erosionar la confianza en las instituciones democráticas.

El documento pone el foco, en el ámbito catalán, en el uso de estas herramientas por parte de partidos de extrema derecha. El informe sostiene que resulta "necesario" atender al uso que hacen de la IA estas formaciones por su impacto en el "ataque a los derechos humanos y en la convivencia social". En ese apartado, el OEIAC cita de forma expresa a Vox y Aliança Catalana como ejemplos de actores políticos que han recurrido a contenidos generados o manipulados mediante inteligencia artificial en campañas de desinformación.

Casos concretos de Vox y Aliança Catalana

En el caso de Aliança Catalana, el estudio recoge la difusión de una imagen falsa creada con IA para alimentar un mensaje xenófobo en Manresa, acompañada de datos manipulados sobre población extranjera. Según el informe, la imagen, de tres mujeres con burka, se hizo viral y superó las 132.000 visualizaciones antes de que la asociación Verifica't pudiera desmentirla. El documento también menciona otra imagen generada con IA y difundida por la líder del partido, Sílvia Orriols, en la que aparecía disparando contra Carles Puigdemont, un contenido que fue denunciado judicialmente por Junts como un presunto delito de odio.

El informe también señala a Vox, al que presenta como uno de los partidos de un Estado miembro de la Unión Europea que más campañas de desinformación ha impulsado en redes sociales. El estudio cita, entre otros episodios, la creación de más de 600 grupos y páginas de Facebook en mayo de 2019, con un impacto superior a las 763.000 visitas, y una campaña posterior en TikTok con imágenes generadas con IA o extraídas de internet de mujeres con un "canon físico muy concreto" -vestidas con velo- para difundir mensajes alineados con el programa del partido, en contra del islam.

Diferentes formas de manipulación

Más allá de los casos concretos, el estudio identifica cinco usos de la IA con potencial para manipular procesos electorales. Entre ellos figuran los vídeos, audios o imágenes falsos pero aparentemente reales; los programas capaces de generar desinformación a gran escala; los bots que multiplican artificialmente el alcance de un mensaje en redes; la segmentación de votantes para enviar propaganda personalizada según sus miedos o intereses; y la creación de perfiles, webs o comunicaciones falsas que imitan a candidatos, partidos, medios o instituciones.

El año 2024, sostiene el informe, marcó un punto de inflexión. Más de 60 países, casi la mitad de los estados del mundo, registraron incidentes de desinformación o manipulación activa mediante herramientas de IA. El estudio documenta casos en distintos continentes, desde vídeos falsos y llamadas automatizadas hasta campañas de bots y contenidos sintéticos usados para desacreditar candidatos o sembrar dudas sobre la transparencia de los comicios.

El director del OEIAC y coordinador del estudio, Albert Sabater Coll, advierte de que "la magnitud del fenómeno obliga a cambiar la mirada". El problema, sostiene el informe, no es solo que estos contenidos puedan engañar, sino que circulan a una velocidad que supera la capacidad de desmentido. La consecuencia es que la IA no solo fabrica falsedades, sino que puede erosionar la confianza ciudadana en el sistema democrático.

Los retos legislativos

El estudio también subraya el desfase entre la innovación tecnológica y la respuesta legislativa. Aunque el reglamento europeo de IA ya considera de alto riesgo los sistemas que pueden influir en elecciones, el informe concluye que la legislación estatal y catalana sigue siendo insuficiente. La LOREG, advierte, está pensada para amenazas analógicas y no aborda con precisión los retos actuales de la desinformación digital y la manipulación algorítmica.

Ante este escenario, el OEIAC propone una respuesta multinivel: reforzar la detección de contenidos artificiales, implantar marcas de agua digitales y estándares de autenticación como el C2PA -una especie de certificado digital que permite rastrear el origen de una imagen, un vídeo o un audio y saber si ha sido manipulado-, regular la publicidad política digital, limitar la microsegmentación basada en datos sensibles y desplegar programas de alfabetización digital crítica para ciudadanos, medios, partidos y autoridades electorales. La conclusión del informe es que la defensa de la integridad electoral ya no depende solo de proteger las urnas, sino también de proteger el espacio público digital donde se forma la opinión de los votantes.

Suscríbete para seguir leyendo