Tras el vídeo de Brad Pitt y Tom Cruise a puñetazos, YouTube ofrece una herramienta para detectar deepfakes en Hollywood

Solo yo tengo derecho a ser yo mismo. YouTube ofrece a celebridades y artistas de Hollywood una herramienta gratuita para detectar deepfakes, ampliando así la lucha contra el robo de identidad generado por inteligencia artificial.

El mes pasado, la plataforma de video de Google lanzó su herramienta de protección de imágenes, que ayuda a identificar contenido en el que un rostro aparece alterado o generado mediante tecnología de IA. Inicialmente, el proyecto estaba dirigido a funcionarios gubernamentales, periodistas y otros miembros del personal político.

Ahora, la plataforma está extendiendo el acceso a actores y músicos a través de agencias de talentos, compañías de representación y las estrellas que representan.

La herramienta permite a los usuarios "buscar contenido generado por IA que imite la apariencia de un participante, como un deepfake de su rostro, y les permite encontrarlo y solicitar su eliminación". Las celebridades y los artistas pueden acceder a ella incluso sin tener un canal en la plataforma.

«El hecho de que YouTube esté abriendo sus capacidades de detección de deepfakes a figuras públicas marca un punto de inflexión en la forma en que las plataformas abordan la protección de la identidad en la era de la IA generativa», afirma Alon Yamin, director ejecutivo y cofundador de Copyleaks, una plataforma de detección de contenido generado por IA.

«La tecnología capaz de replicar el rostro, la voz y los gestos de una persona ha avanzado más rápido que las medidas de seguridad, creando una brecha que los ciberdelincuentes ya están aprovechando».

Esta iniciativa surge en un contexto de proliferación de vídeos hiperrealistas de celebridades fallecidas, creados con aplicaciones de consumo como Sora, la herramienta de OpenAI.

La aplicación desencadenó una avalancha de vídeos de Michael Jackson y Elvis Presley. El mes pasado, OpenAI cerró su aplicación Sora.

En febrero pasado, el director irlandés Ruairí Robinson creó un vídeo sorprendentemente realista que mostraba a Brad Pitt peleando con Tom Cruise en una azotea, basándose en una breve descripción de dos frases. El vídeo, que circuló ampliamente y causó gran preocupación en Hollywood, fue generado con Seedance 2.0, una herramienta propiedad de la empresa china ByteDance.

Robinson también creó otros vídeos. En uno, Brad Pitt se enfrenta a un ninja zombi con espada, mientras que en otro lucha contra un robot, junto al omnipresente Tom Cruise.

Charles Rivkin, presidente de la Motion Picture Association, la asociación de las principales productoras estadounidenses, instó a ByteDance a «cesar inmediatamente sus actividades de infracción de derechos de autor», acusándola de violar la ley de propiedad intelectual. YouTube, por su parte, explica que está colaborando con las principales agencias de talentos para mejorar la detección de imágenes problemáticas y proteger mejor a los artistas.

La plataforma «hace lo correcto al proporcionar estas herramientas de forma gratuita a los talentos para que puedan proteger sus activos», afirma Jason Newman, de la agencia de representación y producción Untitled Entertainment.

«Sus activos son su rostro, su cuerpo, quiénes son, qué hacen, su forma de expresarse», añade en una entrevista con The Hollywood Reporter. El desarrollo de esta herramienta surge a raíz de las quejas de destacadas figuras estadounidenses que denunciaban el engorroso procedimiento de YouTube para denunciar y eliminar deepfakes.

«Hay mucho en juego, ya que los deepfakes pueden utilizarse para difundir desinformación, manipular mercados, dañar reputaciones o crear la ilusión de un apoyo engañoso. La detección eficaz ya no es opcional», explica Alon Yamin.

“Para que los sistemas de detección sean efectivos, deben ser extremadamente precisos, actualizarse continuamente y contar con reglas claras y procedimientos de eliminación rápidos”, continuó.

“Esto no eliminará por completo los deepfakes, pero puede reducir significativamente su alcance e impacto al dificultar la circulación de contenido manipulado sin ser detectado ni cuestionado”, argumentó el director de Copyleaks.