La Fiscalía analiza si puede perseguir la actuación de Grok por posible pornografía infantil

A pesar de que Elon Musk, propietario de X, ya ha ordenado desactivar la función, la Fiscalía de Menores española analiza las imágenes que se han generado en las últimas semanas mediante la IA de esta red social (Grok), que han permitido generar imágenes hiperrealistas de mujeres, desnudándolas o colocándolas en situaciones sexualizadas a partir de fotografías reales subidas a la red. Fuentes Fiscales señalan a EL PERIÓDICO que se actúa tras recibir un escrito del Ministerio de Juventud e Infancia en el que muestran su preocupación por la afectación a menores de este fenómeno global.

Al igual que ya ha ocurrido en otros países como Francia, Reino Unido, Estados Unidos o Australia, la justicia ha reaccionado tras la alerta dada por algunos usuarios sobre el uso que terceros pueden dar a las imágenes subidas a la red social sin su consentimiento. El propio Musk ha advertido que"cualquier persona que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal".

En España se está a la espera de conocer si, a juicio del Ministerio Público, las imágenes ya manipuladas dan lugar a algún tipo de responsabilidad penal de la que tuvieran que responder o bien la red social por permitir esta función o bien los propios usuarios que hicieron uso de fotografías de terceras personas. Con ellas se han creado imágenes que pueden suponer violencia sexual contra las mujeres y en algunos casos contra menores de edad.

Pautas de actuación

La semana pasada, la ministra de Juventud e Infancia, Sira Rego, remitió un escrito a la Fiscalía General del Estado, a cuyo frente se encuentra Teresa Peramato, que ha dado traslado del mismo a la Unidad Especializada de Menores, según las fuentes consultadas. Este departamento coordina y dinamiza las distintas secciones de menores territoriales, buscando unificación de criterios y establecimiento de pautas de actuación. En este caso, se trata de analizar si las imágenes que fueron modificadas pueden dar lugar a algún tipo de responsabilidad penal por parte de la empresa o de usuarios concretos.

A juicio del Ministerio dirigido por Rego, Grok habría generado, a petición de usuarios, material de violencia sexual contra menores, "una práctica que no puede entenderse como un uso neutro de la tecnología y que podría suponer un delito de pornografía infantil", recogido en el artículo 189 del Código Penal (CP), así como un delito contra la integridad moral (artículo 173 del CP).

Para el Gobierno, se trata de prácticas que vulneran gravemente la dignidad, la intimidad y los derechos fundamentales de niños y adolescentes en el entorno digital. Se alude a una sentencia de junio de 2024 en la que se condenó a varias personas por la utilización de inteligencia artificial para manipular imágenes de niñas y adolescentes, por lo que para el Ministerio habría margen suficiente para actuar penalmente en el caso de las imágenes generadas por Grok.

Actualmente, el Congreso tramita una ley orgánica para la protección de los menores en los entornos digitales, promovida por el Ministerio de Juventud e Infancia junto a otros ministerios. Se trata de reforzar el marco de protección de la integridad y la intimidad personal frente a nuevas formas de vulneración vinculadas al uso de tecnologías. reafirmando que el interés superior del menor debe prevalecer siempre frente a cualquier modelo de negocio digital. Desde Juventud e Infancia se defiende la necesidad de construir entornos digitales seguros, ya que internet y las plataformas no fueron diseñadas pensando en la infancia y no siempre garantizan un entorno para los niños y adolescentes sin violencia y sin mercantilización de su imagen.

Suscríbete para seguir leyendo