La Fiscalía de Barcelona investiga a dos adolescentes por 'desnudar' con IA a menores en fotografías

La Fiscalía de Menores de Barcelona está investigando a dos adolescentes por manipular imágenes reales de menores a través de la inteligencia artificial para convertirlas en contenidos sexuales, según fuentes de esta institución. Son los dos únicos casos (en uno hay un investigado y en el otro aún no se ha identificado al autor, pero se sospecha que no es mayor de edad) que se están tramitando en la provincia de Barcelona. La Policía Nacional detuvo en la localidad de Súria (Bages) el pasado mes de octubre a un joven de 17 años, estudiante de informática, por producción, posesión y distribución de pornografía infantil por captar fotografías de menores desde su ventana y después retocarlas a través de esta tecnología.

Del abuso sexual al fraude: por qué no debes publicar fotos de tus hijos en las redes sociales

Por ahora, la Fiscalía de Barcelona no ha recibido ninguna denuncia sobre el uso de la IA en adultos, según ha confirmado la fiscal delegada del servicio de violencia de género, María Jesús Méndez. Sin embargo, la fiscalía de menores sí que está tramitando dos de ellas, aunque las fuentes consultadas evitan dar detalles de estos procedimientos por afectar a menores. Los investigadores tienen una gran dificultad para hallar pruebas de esta acción. El hecho es que la mayoría de las compañías que gestionan esta tecnología están en el extranjero, por lo que para reclamarles información se debe hacer una comisión rogatoria o una petición de ayuda internacional. Para las pesquisas es esencial que se intervenga a tiempo el ordenador del autor de esta acción.

Desde los 14

Un ejemplo es la operación policial para detener al joven de Súria. Durante el registro en el domicilio del arrestado, los agentes hallaron una gran cantidad de archivos de pornografía infantil con imágenes sexuales, algunas de ellas de gran dureza, así como fotos de niños realizadas desde su ventana. Estos archivos fueron encontrados cuando los policías analizaron los dispositivos electrónicos requisados en su habitación.

Las fotografías encontradas las habría realizado el propio detenido desde su casa y en ellas aparecen niños de corta edad que jugaban frente a su domicilio, ya fuera en pantalón corto o biquini. Después, mediante la inteligencia artificial, eliminaba la vestimenta y, una vez modificadas las imágenes, las distribuía en las redes de internet. El arrestado, que según fuentes policiales llevaría cometiendo este delito desde los 14 años, pasó a disposición de la fiscalía de menores.

Aplicaciones de inteligencia artificial como Stable Difussion se han entrenado con imágenes de abuso sexual infantil

La investigación se inició después de que la policía detectara más de 300 archivos pedófilos que estaban siendo anunciados en redes sociales y en aplicaciones de mensajería instantánea. En los reclamos, la persona que los distribuía masivamente ofrecía, además, la transformación de cualquier foto. Una vez localizado al autor, los agentes constataron que era un joven de 17 años y, por lo tanto, menor de edad. En cuanto a manipulación de imágenes sexuales de menores por IA, el caso más importante en España se registró en octubre pasado en la población de Almendralejo, en Extremadura, cuando decenas de familias denunciaron el caso.

'Pornovenganza'

Por otra parte, según la Fiscalía de Barcelona, también se han producido varios casos de ‘pornovenganza’, nombre que recibe la difusión de imágenes íntimas de exparejas con el objetivo de dañarlas. Solo en 2023, el servicio de la fiscalía contra la violencia de género ha presentado tres escritos de acusación, aunque la mayoría de los asuntos se tramitan como amenazas, coacciones o acoso. Es decir, se amenaza a la víctima con hacer públicas fotos íntimas y no se ejecuta la acción. El anuncio de hacer públicas imágenes de contenido sexual de la expareja conforman el 10% del total de los delitos de amenazas por violencia de género.

Más denuncias y víctimas de violencia de género que nunca: el último trimestre supera la barrera de las 50.000 mujeres

La fiscal Méndez explica que las denuncias de violencia de género van en aumento. Durante la pandemia del covid disminuyeron ante la imposibilidad de salir de casa, pero en los meses posteriores hubo un repunte por las agresiones que se habían producido durante los meses de confinamiento. La cifra oculta de estos delitos aflora cada vez más, a su entender, por la preocupación no solo de los poderes públicos y los agentes jurídicos, sino por la "sensibilidad" de los ciudadanos, la política de prevención y la "valentía" de las mujeres al denunciar.

En ocasiones, se encuentran con que la víctima retira la denuncia o se acoge a su derecho a no declarar en contra de su pareja o expareja o expensa (se calcula que sucede en el 15% de los casos). En 2022, el servicio de la fiscalía de violencia contra la mujer tramitó más de 10.000 asuntos (47 de ellos sumarios por delitos graves). De este total, 1.398 fueron por quebrantamiento de la orden de protección, que se refiere a las medidas de alejamento o de prohibición de comunicarse.