Deepfakes semeiam dúvidas, geram confusão e desconfiança nos eleitores

Numa guerra, crise política ou eleição, as deepfakes deixam de ser diversão inocente para criar caos informacional.

Deepfakes podem fazer Lula dizer frases de Bolsonaro e vice versa, sem parecer falso.

A tecnologia que pode produzir deepfakes está amplamente disponível. 

No início de março, circulou um vídeo manipulado do presidente ucraniano Volodymyr Zelenskyy . Nele, um Zelenskyy gerado digitalmente disse ao exército nacional ucraniano para se render. O vídeo circulou online, mas foi rapidamente desmascarado como um deepfake – um vídeo hiper-realista, mas falso e manipulado, produzido usando inteligência artificial.

Embora a desinformação russa pareça ter um impacto limitado, esse exemplo alarmante ilustrou as possíveis consequências dos deepfakes.

No entanto, os deepfakes estão sendo usados ​​com sucesso em tecnologia assistiva. Por exemplo, pessoas que sofrem de doença de Parkinson podem usar a clonagem de voz para se comunicar .

Deepfakes são usados ​​na educação: a empresa de síntese de voz CereProc, com sede na Irlanda, criou uma voz sintética para John F. Kennedy, trazendo-o de volta à vida para fazer seu discurso histórico .

No entanto, toda moeda tem dois lados. Deepfakes podem ser hiper-realistas e basicamente indetectáveis ​​pelos olhos humanos .

Portanto, a mesma tecnologia de clonagem de voz pode ser usada para phishing, difamação e chantagem. Quando os deepfakes são deliberadamente implantados para remodelar a opinião pública, incitar conflitos sociais e manipular eleições, eles têm o potencial de minar a democracia.

Pesquisadores da Universidade de Washington produziram uma deepfake de Barack Obama.

Causando caos

Deepfakes são baseados em tecnologia conhecida como redes adversariais generativas em que dois algoritmos treinam um ao outro para produzir imagens.

Embora a tecnologia por trás das falsificações profundas possa parecer complicada, é uma questão simples de produzir uma. Existem vários aplicativos online, como Faceswap e ZAO Deepswap, que podem produzir deepfakes em minutos.


O Google Colaboratory — um repositório online de código em várias linguagens de programação — inclui exemplos de código que podem ser usados ​​para gerar imagens e vídeos falsos . Com um software tão acessível, é fácil ver como os usuários comuns podem causar estragos com deepfakes sem perceber os riscos potenciais à segurança.

A popularidade de aplicativos de troca de rosto e serviços online como o Deep Nostalgia mostram quão rápida e amplamente os deepfakes podem ser adotados pelo público em geral. Em 2019, foram detectados aproximadamente 15.000 vídeos usando deepfakes . E espera-se que esse número aumente.

Deepfakes são a ferramenta perfeita para campanhas de desinformação porque produzem notícias falsas críveis que levam tempo para serem desmascaradas. Enquanto isso, os danos causados ​​por deepfakes – especialmente aqueles que afetam a reputação das pessoas – costumam ser duradouros e irreversíveis.

Ver é crer?

Talvez a ramificação mais perigosa dos deepfakes seja como eles se prestam à desinformação em campanhas políticas.

Vimos isso quando Donald Trump designou qualquer cobertura da mídia pouco lisonjeira como “ notícias falsas ”. Ao acusar seus críticos de divulgar notícias falsas, Trump conseguiu usar a desinformação em defesa de seus erros e como ferramenta de propaganda.

A estratégia de Trump permite que ele mantenha o apoio em um ambiente repleto de desconfiança e desinformação ao afirmar “ que eventos e histórias verdadeiras são notícias falsas ou deepfakes ”.

A credibilidade das autoridades e da mídia está sendo prejudicada , criando um clima de desconfiança. E com a crescente proliferação de deepfakes, os políticos poderiam facilmente negar a culpa em quaisquer escândalos emergentes. Como a identidade de alguém em um vídeo pode ser confirmada se ela o negar?

Combater a desinformação, no entanto, sempre foi um desafio para as democracias que tentam defender a liberdade de expressão. As parcerias entre humanos e IA podem ajudar a lidar com o risco crescente de deepfakes fazendo com que as pessoas verifiquem as informações. A introdução de nova legislação ou a aplicação de leis existentes para penalizar os produtores de deepfakes por falsificar informações e se passar por pessoas também podem ser consideradas.

Abordagens multidisciplinares por governos internacionais e nacionais, empresas privadas e outras organizações são vitais para proteger as sociedades democráticas de informações falsas.

  1. Sze-Fung Lee é assistente de Pesquisa, Departamento de Estudos da Informação, Universidade McGill
  2. Benjamin CM Fung é professor e Cadeira de Pesquisa do Canadá em Mineração de Dados para Segurança Cibernética, McGill University