Ferramenta detecta deepfakes com 91% de precisão

Detectar deepfakes já é difícil. Explicar por que uma imagem é falsa é mais difícil ainda. Pesquisadores do Instituto Fraunhofer de Optrônica, Tecnologias de Sistemas e Exploração de Imagens (IOSB), na Alemanha, desenvolveram uma ferramenta que faz os dois, e com taxa de detecção entre 85% e 91%, segundo comunicado do instituto.

Continua após a publicidade

A ferramenta se chama RealorRender e foi desenvolvida em parceria com o Escritório Federal Alemão de Segurança da Informação (BSI), que também financia o projeto.

Como funciona

A abordagem é híbrida e inédita. Em vez de usar apenas um classificador tradicional de aprendizado profundo, a RealorRender combina dois métodos:

Primeiro, um gerador de imagens de IA tenta reconstruir a imagem analisada. Quanto mais bem-sucedida a reconstrução, maior a probabilidade de que a imagem original também tenha sido gerada por IA – afinal, uma IA consegue replicar com mais facilidade o que outra IA criou.

Em seguida, um modelo de classificação calcula o erro de reconstrução e gera uma estimativa de autenticidade em porcentagem.

“Primeiro, usamos um gerador de imagens de IA para reconstruir a imagem. Em seguida, um modelo de IA assume a classificação e realiza um cálculo híbrido do erro de reconstrução. Por fim, obtemos uma estimativa que exibe a precisão do reconhecimento em porcentagem”, explicou Andreas Specker, cientista sênior do grupo de pesquisa de Sistemas de Segurança e Assistência por Vídeo do Fraunhofer IOSB, em comunicado.

O que diferencia: a explicação

Detectar não basta. A RealorRender também explica por que classificou uma imagem como falsa, usando métodos de IA explicável (XAI).

“Texturas distintivas ou padrões de frequência característicos podem indicar a origem sintética de uma imagem. O XAI ajuda a mostrar quais características o modelo usa em sua decisão”, disse Nadia Burkart, chefe do grupo de IA Explicável Aplicada do Fraunhofer IOSB, em comunicado.

A ferramenta usa dois tipos de visualização: mapas de calor, que destacam as regiões da imagem que mais contribuíram para a decisão do modelo, e análise por segmentos, que identifica áreas semânticas específicas (como rosto, cabelo ou fundo) que denunciam a origem artificial.

Por que isso importa

O problema que a RealorRender tenta resolver é massivo. Em 2025, fraudes envolvendo deepfakes ultrapassaram US$ 1,5 bilhão globalmente. Uma investigação de 2023 encontrou 276.149 deepfakes sexuais em um único site dedicado ao tema, 96% deles retratando mulheres.

Humanos têm enorme dificuldade em distinguir imagens autênticas de falsificações. Ferramentas automáticas existem, mas raramente explicam seus resultados – o que limita sua utilidade para jornalistas, plataformas de redes sociais e agências de segurança que precisam justificar decisões de moderação.

Quem pode usar

A RealorRender está sendo incorporada a um demonstrador que inicialmente auxiliará o BSI na detecção de deepfakes. O uso é simples: o usuário faz o upload da imagem, recebe o resultado da detecção seguido de uma explicação e um resumo em texto.

Os pesquisadores publicaram dois relatórios sobre o projeto. A tecnologia tem aplicação potencial para agências de segurança, plataformas de redes sociais, empresas de mídia e agências de fotografia.