Informática
Una nueva herramienta identifica sistemas de IA utilizados para crear videos falsos
SAGA no solo detecta contenidos falsos: también rastrea el modelo generativo, su versión y su origen técnico
Nuevo avance contra los deepfakes: una IA que identifica al creador del video. / Crédito: Max Bender en Unsplash.
Añádenos en Google
Por qué confiar en El Periódico Un equipo de la Universidad de California en Riverside, en Estados Unidos, ha desarrollado SAGA, una herramienta capaz de atribuir videos falsos a sistemas concretos de inteligencia artificial, un avance clave para combatir la desinformación audiovisual.
La carrera entre quienes crean videos falsos y quienes intentan detectarlos acaba de dar un giro. SAGA, una herramienta que no se limita a decir si un video es real o falso, sino que también intenta averiguar qué sistema de inteligencia artificial lo generó, podría convertirse en un escollo difícil de superar para los falsificadores.
Explosión de videos falsos
El avance llega en un momento en el que los contenidos creados por IA son cada vez más realistas y su uso fraudulento preocupa en ámbitos como la desinformación, la estafa o la manipulación política, de acuerdo a una nota de prensa de la Universidad de California en Riverside.
El trabajo, publicado en arXiv, plantea un salto importante respecto a los detectores binarios tradicionales.
Rastreando huellas de falsificaciones
Según el artículo científico, el sistema ofrece atribución multinivel: identifica si el contenido es auténtico o falso, si se produjo a partir de texto o de una imagen, la versión del modelo de IA utilizado, el equipo desarrollador y, en última instancia, el generador concreto. Los autores subrayan que esa información aporta una lectura mucho más útil.
La clave técnica está en que los generadores de video dejan patrones involuntarios en las imágenes que producen. SAGA analiza tanto los detalles espaciales de cada fotograma como las relaciones temporales entre ellos, es decir, cómo cambia la información visual de un instante a otro.
La herramienta distingue entre videos reales y falsos y también entre modelos, versiones y desarrolladores de IA. / Crédito: Igor Omilaev en Unsplash.
Pruebas y resultados
Emplea una arquitectura de transformador de video apoyada en un modelo de visión robusto y una técnica denominada Temporal Attention Signatures, o T-Sigs, que permite visualizar las huellas temporales distintivas de cada sistema generativo.
En las pruebas realizadas, la herramienta se evaluó con conjuntos de datos públicos que incluían videos creados por 19 generadores distintos, tanto de texto a video como de imagen a video.
Referencia
SAGA: Source Attribution of Generative AI Videos. Rohit Kundu et al. arXiv (2026). DOI:https://doi.org/10.48550/arXiv.2511.12834
Un avance contra la desinformación
Los investigadores aseguran que el método no solo distingue entre contenidos reales y sintéticos, sino que además SAGA logra resultados de referencia con apenas un 0,5 % de datos etiquetados por clase, gracias a una estrategia de entrenamiento previo y atribución, que reduce de forma notable la dependencia de anotaciones manuales.
Poder atribuir un video a una fuente concreta puede ayudar a investigadores a rastrear campañas de desinformación, a los reguladores a exigir transparencia y a las plataformas tecnológicas a entender mejor cómo circula el contenido falso.
Fuente: Levante - EMV
- Boris y Rosa, más de 16 años sin pagar facturas: 'Siempre hay que depender de algo, pero hay que ser un poquito más libre
- José Pablo López despide a Javier Ruiz tras no poder evitar su marcha a La Séptima con un mensaje de afecto: 'Gracias por resistir tanta campaña
- Audiencias TV ayer sábado: Gonzalo Miró se impone a 'laSexta Xplica' desde La 2 y revalida el dominio de ''Malas lenguas' en las tertulias políticas del sábado noche
- La sequía del Danubio deja al descubierto restos de un mamut y los cimientos del puente más largo que los romanos proyectaron sobre el río
- Andrea Herranz (26 años), maestra española en Finlandia: 'Puedes ser profesora sin oposiciones y con contrato indefinido desde el primer día
- Muere Oihane Mateos, icónica comunicadora y actual directiva de EITB, a los 45 años
- Las empresas afrontan dificultades para cumplir la norma que le obliga a reducir el contenido de plástico de los envases
- Turistas ‘sintecho’: “¿Pagar 100 euros por una noche? Prefiero dormir en la playa que pagar un hotel en Barcelona”
