Você provavelmente conhece a expressão popular que diz: “só acredito vendo”. A máxima, usada pelos mais desconfiados para garantir a veracidade de algo, já não é tão eficiente assim. Não no mundo virtual. Isso porque a tecnologia, por meio do avanço da inteligência artificial, permite a manipulação quase perfeita de sons, fotos e vídeos. A prática é chamada de deepfake (ou falsificação profunda, em tradução para o português).

“Deepfake é uma técnica de inteligência artificial que utiliza imagens e sons para criar imagens e sons sintéticos”, disse Bruno Sartori, jornalista e deepfaker, em entrevista à Record TV. Na prática, o mecanismo permite trocar o rosto de pessoas e fazer a sincronização dos movimentos labiais e até mesmo de expressões. Essa capacidade de manipulação não é exatamente nova e já era usada, segundo especialistas, em filmes. Agora, porém, ela está muito mais acessível ao público em geral.

De acordo com Sartori, a técnica permite o desenvolvimento de produtos midiáticos, como comerciais e longa-metragens, e podem envolver ícones mundiais que já faleceram. No filme Velozes & Furiosos 7 (2015), por exemplo, o ator Paul Walker foi adicionado em algumas cenas mesmo depois sua morte.

“O deepfake no uso da imagem pós-morte já é feito hoje, mas não com tamanha realidade. Agora, com o uso da tecnologia, isso virará uma forma de herança. A pessoa poderá passar aos herdeiros esse uso do
deepfake. Inclusive muitos estúdios e muitas emissoras estão ajustando seus contratos exatamente para fazer esse tipo de uso pós-morte”, comentou Sartori.

Se, por um lado, a técnica faz a alegria de muitos fãs que podem ver cenas inéditas de seus ídolos mesmo depois da morte deles, por outro a deepfake tem se tornado motivo de preocupação, pois se transformou em uma modalidade mais sofisticada de fake news.

É verdade ou mentira?

Nas últimas semanas, dois casos ligados à manipulação de imagens tiveram grande repercussão na internet. O primeiro envolveu o ex-presidente dos Estados Unidos, Donald Trump. Fotos dele sendo preso pela polícia em meio a uma confusão viralizaram nas redes sociais. Essas montagens foram feitas por um suposto jornalista para ganhar notoriedade. Segundo ele, foi “uma brincadeira” e havia um alerta na legenda sobre o fato de que era uma criação gráfica e não algo verídico.

Mas os usuários não se atentaram aos detalhes e compartilharam o conteúdo como real, disseminando assim uma notícia falsa.

O segundo caso envolveu o Papa Francisco. Na imagem, o líder da Igreja Católica aparece usando uma jaqueta branca bem chamativa, diferente das roupas que usa tradicionalmente. Além dos usuários das redes sociais, muitos veículos de comunicação caíram na “pegadinha” e compartilharam a foto como se fosse verdadeira, o que fortaleceu o alcance da informação falsa.

Outro caso que vale a pena comentar, ocorrido há alguns meses, foi a manipulação de um vídeo do presidente russo Vladimir Putin e do presidente ucraniano Volodymyr Zelenski anunciando o fim do conflito que acontece entre Rússia e Ucrânia. Apesar da seriedade do assunto, a tecnologia, infelizmente, foi usada como meio para a desinformação.

Todos podem ser alvos
Quem pensa que só famosos estão sujeitos a esse tipo de armação se engana. Tem sido cada vez mais comum o registro de golpes envolvendo modificação de voz, fotos e vídeos e até exposição da vítima de formas inadequadas. José Antônio Milagres, especialista em crimes cibernéticos, comentou o assunto na Record TV: “na verdade, hoje todos estão sujeitos a golpes digitais. A única proteção seria não ter imagens disponíveis, não gravar áudios e não ter vídeos e isso é muito difícil. Então hoje praticamente todos estão sujeitos a esse tipo de utilização indevida”.

Dessa maneira, qualquer pessoa pode ser exposta na internet sem que de fato esteja na situação em que aparece. Inclusive, campanhas políticas brasileiras produziram deepfakes recentemente para ferir adversários.

Milagres ressalta que existem consequências para quem utiliza esses meios. Conforme ele explica, a perícia profissional pode distinguir quais vídeos, imagens e áudios são reais e quais são montagens e quem usa deepfakes para propagar desinformação ou atacar outras pessoas pode ser responsabilizado criminalmente.

Driblando as armadilhas
Um estudo desenvolvido pela Organização para Cooperação e Desenvolvimento Econômico (OCDE) revelou que sete em cada dez adolescentes de até 15 anos no Brasil não distinguem fatos de opiniões.

É possível que os dados envolvendo adultos não sejam díspares da realidade dos jovens. A grande preocupação é que, se já há dificuldade para identificar um texto opinativo, mais difícil ainda será rastrear notícias falsas tão bem elaboradas. Considerando os avanços da tecnologia, saber distinguir a realidade de ficção é uma aptidão mais do que necessária.

Para identificar uma deepfake a atenção aos detalhes é fundamental. Bruno Sartori explica que, no caso dos vídeos, o olhar pode ser a chave para distinguir o verdadeiro do falso: “os olhos [ficam] dispersos e às vezes tremem”. Apesar de avançadas, as plataformas especializadas em manipulação deixam passar outros contornos humanos, como os das mãos, que ainda não são reproduzidas fielmente. Vale a pena ficar atento também a tons de peles não naturais e a algumas áreas do rosto borradas.

A deepfake também costuma ser caracterizada pelo fundo desfocado, textos ilegíveis em placas que aparecem em segundo plano, objetos – como óculos – se misturando à pele e falta de simetria no rosto. Fazer pesquisas em sites confiáveis e plataformas especializadas em analisar a veracidade de imagens também são recursos eficientes para evitar cair em uma armadilha.

Guerra de narrativas
É evidente que vivemos em meio a um conflito constante. No entanto a arma mais poderosa atualmente é a informação. Textos, áudios e vídeos têm o poder de influenciar e criar no imaginário social ideias que não são reais. As fake news levam a tragédias, decisões precipitadas e podem acabar com a reputação de uma pessoa. Então, no mundo virtual, é preciso desconfiar até do que os olhos veem.

É importante salientar ainda que não é apenas quem cria deepfakes que está colaborando para esse triste cenário, mas também quem as compartilha. Às vezes as imagens manipuladas aparecem como se fossem uma piada ou uma sátira, mas nem todos têm o discernimento para diferenciar o que é ou não verdade. Portanto quem dissemina esse tipo de conteúdo também colabora para o crescimento e o fortalecimento da mentira.