Laura Bates: "El impacto de ver un 'deepfake' de alguien violándote, como el que me enviaron, es enorme. Se siente real, se ve real, es una violación"

La nueva era del tachar de guarra a una mujer con los 'deepfakes'. La nueva era del acoso en la calle, ahora en el metaverso. La nueva era de la violación con los robots sexuales, que pueden diseñarse a la carta para parecerse físicamente, sonar y responder como una ex. Los ciberburdeles, la pornovenganza, las novias virtuales y el machismo de la IA. Cada vez que surge una nueva tecnología, esta se usa para denigrar a mujeres y niñas en todo el mundo. Lo cuenta Laura Bates en ‘La nueva era del machismo’ (Península), un ensayo donde investiga cómo el sexismo ha evolucionado en paralelo a los avances tecnológicos y cómo los algoritmos amenazan como nunca antes a las mujeres. Una de cada 12 mujeres será víctima de un ‘deepfake’ en su vida. Pero hasta el momento, tal y como recuerda Bates, “el pene masculino siempre triunfa sobre los derechos femeninos”.

El libro empieza en España, en Almendralejo. En 2023 un grupo de chicos envió 'deepfakes' de sus compañeras de clase, la más pequeña de once años. El caso puso a este pequeño pueblo de Badajoz en el ojo del huracán. ¿Por qué decidió iniciar el libro con ese caso?

Fue uno de los primeros casos que visibilizó el problema a nivel mundial, en parte gracias a la valentía y el coraje de las mujeres del pueblo que se atrevieron a denunciar y luchar. Hemos visto muchos casos similares, pero este fue uno de los primeros en los que las mujeres alzaron la voz y dijeron: ‘Esto es inaceptable y estas chicas no deberían avergonzarse’.

Habla de ciberburdeles que visitó, algunos de ellos en Barcelona.

Existen ejemplos en todo el mundo que abren y cierran constantemente. Me impactó que estuvieran dispuestos a preparar la muñeca con ropa rasgada y rota, lo que para mí sugería simulaciones de violencia. Es increíble lo hiperrealistas que son y lo fácil que es olvidar que no son personas reales. Y eso me hizo reflexionar sobre lo fácil que sería para los hombres que quisieran hacer lo contrario, olvidar que no lo son. ¿Quién querría olvidar que eran reales?

La simple normalización de la idea de que los hombres pagan por tratar a estos robots como si fueran seres humanos debería de ser preocupante, ¿no?

Sí, es algo que erosiona las ideas sobre el consentimiento, la autonomía corporal y el respeto a los límites de las mujeres. Hay toda una industria en expansión creando modelos a partir de violaciones, sistemas donde puedes activar un interruptor y te rogarán que pares, o robots sexuales personalizados diseñados para parecerse exactamente a una mujer cuya fotografía envías. Las implicaciones éticas son muy preocupantes, especialmente cuando se añade la IA a la ecuación.

¿Qué cambia la IA?

Permite que los robots hablen como si fueran la persona que tú quieres que sean. Puedes decirles su nombre, su trabajo, puedes dictarles su personalidad.

¿Por qué cada vez que surge una nueva tecnología, aplicación o red social, se usa como una nueva forma de explotar a las mujeres?

No somos nosotras quienes diseñamos las herramientas, no somos nosotras quienes las creamos, no somos nosotras quienes nos beneficiamos económicamente de ellas, estadísticamente hablando. Y tampoco somos nosotras quienes regulamos y determinamos la configuración y los requisitos de seguridad de estos productos. Como sociedad, nos hemos acostumbrado a que casi todos los avances tecnológicos modernos traigan consigo una avalancha de nuevas formas de abuso y violencia contra las mujeres y las niñas.

Somos la mitad de la población y la mitad del mercado. ¿Quizá deberíamos boicotearlas?

Pero a menudo no tenemos opción de usar estas herramientas. Se nos exige su uso, ya sea para la educación, para participar plenamente en la vida democrática y social, o porque tenemos que usarlas para trabajar. Las redes sociales son imprescindibles para muchos trabajos, como el periodismo. El problema es que no somos nosotras quienes controlamos su desarrollo.

Si las mujeres representan solo el 12 % de los investigadores de IA, ¿eso se traduce en las respuestas que nos da, por ejemplo, ChatGPT?

Las empresas lideradas por mujeres solo reciben el 2 % de la financiación de capital de riesgo para desarrollar este tipo de productos. Somos ignoradas y olvidadas sistemáticamente. De hecho, el trauma y el abuso contra las mujeres se usa a menudo como herramienta para que estas empresas mejoren, aceleren y aumenten el tamaño de sus productos. Hay un desequilibrio de poder muy significativo, mientras que, al mismo tiempo, el mundo entero nos dice que todos debemos usar la IA o nos quedaremos atrás. Se presenta como una especie de carrera armamentística global, una nueva fiebre del oro.

Las activistas hace años que advierten sobre una epidemia de violencia de género facilitada por la tecnología 'deepfake'. Los políticos esperan, esperan y esperan hasta que 9 millones de mujeres se ven afectadas por las herramientas abusivas creadas por Grok

Nadie se preocupa por los millones de mujeres humilladas por los 'deepfakes' y la pornovenganza, impunes en la mayoría de los casos. Es desalentador, ¿no cree?

Sí, es muy, muy frustrante. Creo que las mujeres de todo el mundo están cansadas, hartas, enojadas y frustradas. También creo que hay un nuevo elemento peligroso: la desesperanza. Creo que la cercanía de los multimillonarios de las grandes tecnológicas al poder político, sobre todo en Estados Unidos, está teniendo un efecto paralizador a nivel mundial. Hay una sensación de desesperanza entre las activistas y las mujeres comunes: ¿cómo podemos combatir esto? Es tan grande, tan poderoso, y algunos de los gobiernos más importantes del mundo lo apoyan activamente… Pero este es el momento en que más necesitamos luchar y no rendirnos. Aunque entiendo perfectamente por qué la gente se siente desanimada.

Muchos le quitan hierro a los ‘deepfakes’ porque son ‘imágenes falsas’. Usted ha sido víctima de ellos. ¿Qué sintió?

Para empezar, es una táctica muy antigua: desestimar a las feministas diciendo que podría ser peor, que podría ser un caso de agresión sexual en la vida real. Obviamente, lo primero que hay que decir es que no, no son lo mismo, pero sigue siendo inaceptable. Es una forma diferente de daño, pero sigue siendo daño. Como las imágenes no son reales, la gente piensa que el impacto no es real, pero el impacto es enorme. El impacto psicológico de ver una imagen muy realista, por ejemplo, de alguien violándote, algo que alguien creó con la técnica deepfake y me envió, es enorme. Se siente real, se ve real, es una violación.

Y el impacto no termina ahí, ¿no?

No, junto con la imagen en sí, vienen muchísimos otros impactos psicológicos. ¿Quién más ha visto esta imagen? ¿Dónde se está compartiendo? ¿Qué está haciendo el hombre que creó esta imagen con ella? ¿Qué ha compartido con otros hombres? ¿Está disponible en sitios pornográficos? ¿Se está difundiendo? ¿Aparecerá cuando la gente vea mi nombre, ya sean familiares o empleadores? ¿Me sobrevivirá? ¿Es algo que estará ahí para siempre y del que nunca podré deshacerme?

La respuesta fisiológica es real, entonces.

Sabemos que lo virtual tiene un impacto real, porque todos podemos sentarnos en un cine 3D y ver un tiburón salir de la pantalla y gritar, retroceder asustados, sentir cómo se acelera nuestro ritmo cardíaco y nos sudan las manos. Todos aceptamos que existe una respuesta fisiológica real ante algo que sabemos que es virtual y que no es real. Pero cuando se trata de estas formas de violencia contra las mujeres y las niñas, la sociedad simplemente prefiere ignorarlo.

Tenemos una respuesta política reticente e insuficiente ante la violencia contra las mujeres y las niñas en general. Pero también existe un grave problema: la reticencia política a regular el sector tecnológico

¿Qué consecuencias en el mundo real están teniendo?

Las estamos viendo utilizadas como arma a gran escala contra las mujeres en la política. Sabemos que las políticas están renunciando a sus cargos antes de tiempo y citan estas formas de acoso como un factor importante. Sabemos que hay mujeres que se sienten alejadas de sus familias, que son avergonzadas y maltratadas por estas imágenes. En algunos casos, corren el riesgo de perder sus trabajos o la custodia de sus hijos. Vemos a niñas de 10 años siendo atacadas, extorsionadas y maltratadas con estas imágenes. Niños que abandonan la escuela y se niegan a salir de casa. Mujeres que desarrollan trastorno de estrés postraumático como consecuencia de este abuso. Así que la idea de que esto no es real y no tiene consecuencias es absurda.

Cuando un hackeo altera unas elecciones o se produce una estafa bancaria se toman medidas. Sin embargo, miles de hombres comparten desnudos de sus novias o ex de forma no consentida y eso casi nunca tiene repercusiones, ¿por qué?

Tenemos una respuesta política reticente e insuficiente ante la violencia contra las mujeres y las niñas en general. Pero también existe un grave problema: la reticencia política a regular el sector tecnológico. En los últimos 15 años, el lobby de las grandes tecnológicas ha ejercido una gran influencia en Estados Unidos, creando una estrecha relación con el poder político. Mientras estos magnates tecnológicos ocupan el Despacho Oval, construyen el nuevo salón de baile de la Casa Blanca o se sientan junto al presidente en la toma de posesión, vemos como esa cercanía al poder tiene un efecto disuasorio sobre la voluntad de regular. También creo que existe la idea errónea de que es imposible regular este sector.

¿Por qué?

Nos dicen que es demasiado grande, demasiado rápido, que la innovación es demasiado importante como para arriesgarse a socavarla, ralentizarla o ahogarla con regulaciones. Cuando la realidad es que en cualquier otro sector, por supuesto que regularíamos los nuevos productos, por ejemplo, alimentarios, que se lanzan al público. O juguetes, o coches. Y luego está el problema de que los gobiernos y líderes no escuchan a las activistas por los derechos de las mujeres, que hace años que advierten sobre una epidemia de violencia de género que se vería facilitada por la tecnología 'deepfake'. Esperan, esperan y esperan hasta que nueve millones de mujeres se ven afectadas por las herramientas abusivas creadas por Grok, y entonces dicen: «Ah, bueno, quizás ahora legislemos cuando ya sea demasiado tarde».

Suscríbete para seguir leyendo