El Gobierno pide a la Fiscalía que investigue la inteligencia artificial de X por supuesta pornografía infantil

La ministra de Juventud e Infancia, Sira Rego, ha remitido un escrito a la Fiscalía General del Estado para solicitar que investigue si Grok, la inteligencia artificial (IA) de X (antes Twitter), puede estar cometiendo delitos de difusión de material de violencia sexual contra la infancia.

Según explican fuentes del departamento de Rego este miércoles, tal y como han informado diferentes medios de comunicación, Grok habría generado, a petición de usuarios, material de violencia sexual contra menores, "una práctica que no puede entenderse como un uso neutro de la tecnología y que podría suponer un delito de pornografía infantil", recogido en el artículo 189 del Código Penal (CP), así como un delito contra la integridad moral (artículo 173 del CP).

Para el Gobierno, se trata de prácticas que vulneran gravemente la dignidad, la intimidad y los derechos fundamentales de niños y adolescentes en el entorno digital.

En su oficio, la titular de Juventud e Infancia alude a la sentencia del Juzgado de Menores de Badajoz 86/2024, de 20 de junio, en la que se condenó a varias personas por la utilización de inteligencia artificial para manipular imágenes de niñas y adolescentes.

Dicha resolución reconoce estas prácticas como una forma de violencia digital, tipificada como delito de pornografía infantil y contra la integridad moral, señala la responsable de Juventud e Infancia en el documento remitido a la Fiscalía.

"Estamos ante una vulneración de derechos fundamentales", indica Rego, quien subraya que "es imprescindible que la Fiscalía analice estos hechos gravísimos e impulse las actuaciones necesarias para garantizar la protección de la infancia también en internet" y poner freno a prácticas que atentan contra su dignidad y su desarrollo libre y seguro en el espacio digital.

Actualmente, el Congreso tramita una ley orgánica para la protección de los menores en los entornos digitales, promovida por el Ministerio de Juventud e Infancia junto a otros ministerios.

La ley refuerza el marco de protección de la integridad y la intimidad personal frente a nuevas formas de vulneración vinculadas al uso de tecnologías como la inteligencia artificial, reafirmando que el interés superior del menor debe prevalecer siempre frente a cualquier modelo de negocio digital.

Juventud e Infancia defiende la necesidad de construir entornos digitales seguros, ya que internet y las plataformas no fueron diseñadas pensando en la infancia y no siempre garantizan un entorno para los niños y adolescentes sin violencia y sin mercantilización de su imagen.