Musk limita la generación de imágenes sexuales en Grok tras causar un escándalo internacional

Grok, el chatbot de inteligencia artificial propiedad de Elon Musk, ha protagonizado estas semanas un sonado escándalo internacional a causa de una función que permite desnudar sin consentimiento imágenes de cualquier persona. Su dueña, la empresa xAI, respondió ayer a la polémica anunciando que limitará el servicio con la intención de atajar el problema.

"Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis", indicó el miércoles por la noche la start-up en una publicación en X, la red social también propiedad del hombre más rico del mundo. "Esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago". La generación de otro tipo de imágenes también queda limitada únicamente a quienes paguen una suscripción.

Hasta ahora, Grok ha permitido crear imágenes hiperrealistas de mujeres o incluso menores de edad con bikinis microscópicos, en posiciones sexualizadas, incluso denigrantes, y con moretones en el cuerpo. A finales de la semana pasada, Musk trató de calmar la indignación al anunciar una restricción a medias que limitaba la creación de desnudos a los suscriptores de pago. Con ese método, apuntó el magnate, se garantizaba la identificación de los usuarios que hiciesen un uso indebido de Grok. No fue suficiente. Y es que el flujo de imágenes de chicas desnudadas ilegalmente en X seguía sin cesar este miércoles, indica Reuters.

Indignación global

El movimiento de xAI responde a la indignación de miles de personas de todo el mundo, que han denunciado que la IA está sirviendo para perpetrar violencia sexual contra colectivos que ya sufren ese problema más allá de internet. Musk afirmó ayer que "no tenía conocimiento de ninguna imagen de menores desnudos generada por Grok". Aun así, la empresa asegura que "toma medidas" para eliminar el contenido de abuso sexual infantil.

Gobiernos y organismos reguladores de todo el mundo han tomado medidas drásticas para cortar el problema de raíz. Malasia e Indonesia han sido los más radicales al prohibir directamente el acceso a Grok. Otros, como España, Estados Unidos o Australia, han abierto la puerta a investigaciones judiciales contra un posible delito de pornografía infantil. "Se trata de una vulneración de derechos fundamentales", aseguró la semana pasada la ministra española de Juventud e Infancia, Sira Rego. En Francia, uno de los primeros en actuar, la Fiscalía advirtió que desnudar a terceros sin consentimiento se castiga con penas de dos años de prisión y con sanciones de hasta 60.000 euros.

Suscríbete para seguir leyendo