Tecnologia desenvolvida por pesquisadores da Universidade da Califórnia, Riverside, consegue identificar qual modelo de inteligência artificial foi responsável por criar vídeos falsos. O sistema utiliza uma técnica inédita baseada em “assinaturas temporais” e pode ajudar investigações criminais, plataformas digitais e empresas de tecnologia a rastrear a origem de deepfakes.
A inteligência artificial tornou os deepfakes cada vez mais realistas, dificultando distinguir vídeos verdadeiros de conteúdos manipulados. Para enfrentar esse desafio, pesquisadores da Universidade da Califórnia, Riverside (UC Riverside) desenvolveram o SAGA (Source Attribution for Generative AI), uma ferramenta capaz de identificar qual modelo de inteligência artificial foi responsável por gerar um vídeo falso. O projeto foi liderado pelo doutorando Rohit Kundu, sob orientação do professor Amit Roy-Chowdhury, e contou com a colaboração de Vishal Mohanty, Shan Jian e Athula Balachandran, do YouTube, além de Hao Xiong, pesquisador da Google DeepMind. O estudo foi publicado na revista científica Nature Machine Intelligence.
O grande diferencial do SAGA é que ele vai além das ferramentas tradicionais de detecção de deepfakes. Em vez de apenas indicar que um vídeo foi produzido por inteligência artificial, ele consegue apontar qual modelo específico de IA criou aquele conteúdo. Essa capacidade pode facilitar investigações forenses, ajudar plataformas digitais a rastrear a origem de vídeos manipulados e aumentar a responsabilização de quem utiliza inteligência artificial para produzir desinformação.
Para isso, o SAGA utiliza uma técnica baseada nas chamadas Temporal Attention Signatures (T-Sigs), ou Assinaturas Temporais de Atenção. Durante a criação de um vídeo, cada modelo de inteligência artificial distribui sua atenção de forma diferente entre os quadros da animação. Embora essas diferenças sejam invisíveis para os usuários, elas deixam padrões únicos no processo de geração das imagens. O SAGA consegue identificar essas assinaturas e utilizá-las como uma espécie de impressão digital, permitindo reconhecer qual sistema produziu determinado vídeo.
Segundo os pesquisadores, esse método apresenta uma vantagem importante em relação às técnicas atuais. Muitas ferramentas procuram imperfeições visuais deixadas pelos modelos de IA, mas esses defeitos tendem a desaparecer conforme a tecnologia evolui. As T-Sigs, por outro lado, analisam características internas do próprio processo de geração, tornando a identificação muito mais robusta, inclusive quando o vídeo foi comprimido, editado ou sofreu pequenas alterações antes de ser publicado.
Nos testes realizados pela equipe, o SAGA conseguiu identificar corretamente vídeos produzidos por diferentes modelos generativos com alto índice de precisão. Os autores afirmam que o sistema também poderá ser atualizado para reconhecer novas inteligências artificiais à medida que elas forem lançadas, ampliando continuamente sua capacidade de atribuição de autoria.
O estudo chega em um momento em que governos e empresas buscam soluções para conter o avanço dos deepfakes, utilizados em golpes financeiros, pornografia criada sem consentimento, fraudes eleitorais, campanhas de desinformação e falsificação de discursos de autoridades públicas. Para os pesquisadores, identificar qual IA criou um conteúdo pode ser tão importante quanto comprovar que ele é falso.
Apesar do avanço, os autores ressaltam que o SAGA não elimina os deepfakes. À medida que os modelos generativos evoluem, novas formas de ocultar essas assinaturas também poderão surgir. Ainda assim, eles consideram que a tecnologia representa um marco para a computação forense, abrindo caminho para mecanismos mais eficazes de rastreamento, transparência e responsabilização no uso da inteligência artificial.
