O que é deepfake e como identificar um

A tecnologia deepfake é uma técnica de manipulação de vídeos e áudios a partir do uso de softwares digitais. Nela, usuários utilizam métodos da inteligência artificial para substituir o rosto ou voz de pessoas, criando vídeos convincentes, mas falsos. 

Por serem extremamente convincentes, na maioria das vezes, diversos deepfakes de pessoas públicas, como líderes políticos e celebridades viralizaram na internet e tornaram-se motivo de especulação na web. Desde então, aplicativos e programas facilitaram a criação de deepfakes, que podem ser criados com alguns cliques, mas que não são convincentes ou impactantes quanto os originais.

No entanto, o uso de deepfakes virou contraditório, uma vez que capacita e impulsiona a disseminação de informações falsas. Além disso, a inteligência artificial e os métodos mais “sofisticados” de falsificação possuem um problema na proteção contra roubo de identidade. 

Como são criados

O nome deepfake deriva de deep learning, uma forma de inteligência artificial onde a tecnologia “aprende” algoritmos. A partir disso, o conceito base da tecnologia parte, principalmente, do reconhecimento facial — sim, o mesmo utilizado por smartphones e outros dispositivos. 

Um pouco mais “sofisticado”, os deepfakes são produzidos através de um deep learning chamado  “generative adversarial network”, ou GAN. O GAN consegue reconhecer milhares de vídeos e áudios de uma mesma pessoa para, então, recriar um novo vídeo com o que foi aprendido. 

Essa forma de reconhecimento, por sua vez, é feita através de pontos específicos no rosto humano: cantos dos olhos e da boca, narinas e o contorno da mandíbula.

Para que são usados? 

Na grande maioria dos casos, os deepfakes são usados como formato de memes da internet. Um exemplo disso é o famoso vídeo viral do ex-presidente americano Barack Obama ofendendo Donald Trump publicamente. 

No entanto, grande parte dos deepfakes também são de conteúdo adulto explícito. Em 2019, por exemplo, 96% de todos os deepfakes encontrados na web possuíam conteúdos pornográficos. Esses, por sua vez, incluíam pornografia de vingança contra celebridades, o que levantou outra questão na internet. 

O uso da imagem de celebridades, principalmente femininas, na criação de deepfakes virou uma arma contra as mulheres e reforçou a misoginia presente em espaços da internet. 

Perigos

Os deepfakes, quando bem feitos, podem oferecer diversos perigos. Além do óbvio conteúdo degradante, o uso de figuras políticas importantes em vídeos potencialmente problemáticos podem causar um grande estrago na sociedade, se não desmentidos em segundos. O poder de disseminação de informações da internet amplia esses perigos, tornando o deepfake uma ameaça. 

Como identificar um deepfake

Alguns indicadores de um deepfake incluem: 

• Características humanas: em 2018, uma pesquisa evidenciou que os rostos de deepfakes não piscam naturalmente. Muitos vídeos mostram pessoas piscando de olhos abertos, ou simplesmente não piscando. Entretanto, após a publicação da pesquisa, a tecnologia foi aperfeiçoada. 
• Vozes: em algumas instâncias, as vozes de deepfake ou não combinam com a pessoa do vídeo, ou simplesmente não estão sincronizadas com o vídeo. 
• Qualidade: repare no cabelo, texturas da pele e todas as características possíveis do vídeo em questão. Muitas vezes, imagens de deepfakes podem parecer mais embaçadas ou “suaves” do que o normal. 
• Iluminação: os softwares responsáveis pela criação de deepfakes muitas vezes importam a iluminação de vídeos usados como base, portanto, preste atenção para possíveis mudanças de brilho e contraste no rosto da pessoa retratada. 

Em geral, a identificação de deepfakes também segue a mesma linha de raciocínio para a identificação de fake news: siga o senso crítico, questione e procure fontes relevantes e confiáveis.