Você já ouviu falar sobre deepfake? Não se trata de uma nomenclatura do cotidiano, então é possível que não. Porém, é bastante provável que você já tenha se deparado com algum enquanto percorre as timelines das suas redes sociais. E eles geralmente são bem impactantes, sobretudo quando acompanhados de uma legenda que traduza o que você está vendo.
Trata-se de uma nova modalidade de ‘farsa virtual’, na qual um vídeo contém uma personagem forjada digitalmente. Isto é, nem tudo o que você vê é realmente o que parece. Está confuso? Então, vamos exemplificar.
Você já viu um vídeo no qual Barack Obama diz que nunca chamaria Donald Trump de “dipshit“, pelo menos não publicamente? E diz “stay woke, bitches!”? Pois é! Se você viu e ficou impressionado, é provável que não tenha visto o vídeo completo. Isso, pois o vídeo foi criado a partir de uma simulação inteligente de computador (veja abaixo).
Se você ainda não entendeu bem sobre o que estamos falando, porém gostou do assunto, vai adorar ler este artigo até o fim!
O que é o deepfake?
Estamos vivendo em um tempo perigoso, por isso, daqui adiante, precisamos estar vigilantes sobre em que cremos na internet. Um tempo em que precisamos confiar em novas fontes, críveis.
Isso é o que diz Barack Obama, no vídeo citado acima. Contudo, o Obama do vídeo não é o Obama da vida real. Trata-se de uma criação digital, feita por Jordan Peele, ator e cineasta norte-americano já agraciado com um Oscar. Um deepfake!
Deepfakes são vídeos ou gravações que beiram a realidade, na aparência, porém são criados com tecnologia a partir de softwares que se popularizaram nos últimos tempos. E de fácil acesso, diga-se de passagem.
Quando vemos o seu produto, até poderíamos pensar que essa modalidade de produção é digna de uma dedicação hollywoodiana, mas, muitas vezes, trata-se simplesmente de alguém com um celular na mão.
Comumente, esses vídeos são criados com o intuito humorístico, em que se colocam rostos conhecidos em diálogos engraçados ou constrangedores, ou rostos de amigos em corpos esbeltos ou pornográficos.
Porém, os softwares inteligentes que rodam o mercado de aplicativos criam imagens tão bem elaboradas e convincentes que fica difícil distinguir a arte da realidade.
Inserir um rosto familiar num corpo de uma pessoa importante passa desapercebido frente à enxurrada de informações que recebemos todos os dias na era digital.
Porém, imagine, por um acaso, se você recebesse um vídeo de um mandatário do governo informando uma catástrofe natural que se aproxima. Quantas pessoas correriam ao mercado em busca de suprimentos? Ou aos caixas-eletrônicos em busca de dinheiro?
Desse modo, percebemos a parte legal de se construir uma realidade alternativa, em que seu amigo se torna famoso. Porém, percebemos, também, o potencial impacto de uma produção mal-intencionada. Por isso tanta gente anda se preocupando com o famigerado deepfake.
Leia também: Como ganhar dinheiro com as redes sociais. Veja no nosso e-book gratuito!
Como deepfakes funcionam?
Os deepfakes funcionam amparados pela natureza da psicologia humana. Estão, aparentemente, em algum lugar do comportamentalismo que busca informações que digam aquilo em que se quer crer, ignorando o resto dos fatos.
Esse tipo de comportamento é altamente perceptível no caso das fake news, mentiras deliberadas que rodam os círculos sociais expandidos pela conectividade sob a aparência de verdade.
O ‘gênero de notícia’ se espalha com uma dinâmica tão veloz que, quando se tenta reclamar do seu conteúdo, geralmente é tarde.
Explorando essa tendência humana, usam-se redes antagônicas geradoras, as GANs (da sigla em inglês). Tais redes proporcionam às máquinas dois modelos de aprendizado, um que cria unidades visuais falsas, por exemplo, e outro que tenta detectar se o resultado se trata de uma falsificação.
Há quem veja nas GANs o surgimento da Inteligência Artificial com capacidade imaginativa. E esse posicionamento faz um certo sentido. Imagine que, para criar um deepfake, seja preciso alimentar uma rede antagônica geradora com um vídeo, porém se quer trocar o rosto da personagem pelo de outra pessoa.
Então, você a alimenta com a imagem que quer que seja sobreposta, o rosto alternativo.
A partir daí, os dois modelos de aprendizado fazem o resto, trocando vídeos até que ambos estejam alinhados, no sentido de criar um vídeo artificial e de não reconhecê-lo como tal. Deu pra entender?
Significa dizer que a imaginação para criar e perceber ou não uma farsa cabe, única e exclusivamente, à máquina, como num pingue-pongue. Ela produz um vídeo e outro modelo dela mesma o analisa, até que não haja mais falhas.
Como os deepfakes são criados?
Para criar um deepfake simples, os filtros de Snapchat, por exemplo, que trocam um rosto por outro servem. Porém, para criar objetos mais elaborados, a ‘coisa’ é um pouquinho mais complicada, apesar de não ser necessário estar em um estúdio de Hollywood.
Primeiro, é preciso ter acesso a algoritmos e conhecimentos sobre deep learning, o conhecimento profundo das máquinas, por assim dizer. Além disso, são necessários um acervo de imagens amplo e um processador de gráficos poderoso.
Esses elementos são o insumo necessário para ‘treinar’ um software.
Na prática, para produzir um vídeo, é mais ou menos assim. Você alimenta um computador com uma grande variedade de imagens e vídeos, para que ele perceba todas as nuances físicas de uma pessoa.
A partir daí, a rede neural da máquina começa a criar um banco de dados, armazenando tudo o que é necessário para formular uma reprodução digitalizada.
Por armazenar dados, no caso do Obama, estamos dizendo que a máquina aprendeu como ele se comporta, como seu rosto reage à luz, quais rugas da face dele se mexem quando ele verbaliza ‘a’ ou ‘o’, como seu terno se movimenta quando ele torce o pescoço, e assim por diante.
Depois, você o alimenta com os mesmos dados da segunda pessoa, e o processo de treinamento é repetido. De repente: Shazam! A máquina encontra pontos em comum, sobrepõe uma imagem à outra fazendo uma adequação aos traços finos e o resultado é uma pessoa no lugar de outra.
Se você acha que é possível, mas não é bem assim, imagine … bom, não é preciso imaginar. Veja: Tom Cruise como Homem Aranha no vídeo abaixo.
Ou: o mesmo Tom Cruise visitando os corredores do estúdio Corridor Crew (abaixo), com uma pitada de arrogância. E, só pra que fique claro, o Tom Cruise verdadeiro não aparece! É tudo deepfake!
Como reconhecer um deepfake?
Reconhecer um deepfake é uma tarefa complicada em alguns casos. Contudo, falemos, antes, dos mais fáceis, pois, com softwares simples de produção, é possível notar algumas pistas que indicam a criação digitalizada.
Entre as principais falhas dos deepfakes amadores, podemos destacar a dificuldade que os programas têm de reconhecer e recriar as piscadas dos olhos, que seguem um ritmo parcialmente constante na fisiologia humana.
Além disso, a olho nu, um indivíduo comum pode perceber sombras inadequadas, que destoem da fonte de luz e se direcionem de acordo com outros padrões, que não os naturais.
Uma lacuna recorrente na perícia dos amadores é, também, o movimento da boca em relação aos sons que são produzidos.
Significa dizer que, ao se deparar com um vídeo no qual, aparentemente, a articulação da face baixa não condiz com as palavras que você está ouvindo, existem grandes chances de ele ser uma produção artificial.
Nesse sentido, pode ser que você perceba, por outro lado, que a entoação de voz que você esteja ouvindo seja incoerente em relação às características faciais de quem a está produzindo.
Entre os mais amadores, é bem comum perceber o delay entre a voz e o movimento da boca, tal como se houvesse sincronização hora sim e hora não, ou a falta de respiração da personagem.
Os algoritmos de produção têm certa dificuldade de mapear esses traços como relevantes para o contexto.
Lembre-se de que, para todos as características citadas acima, você tem expertise suficiente para duvidar da confiabilidade de uma mídia que contenha alguma delas. Isso, pois você está há anos analisando essas mesmas características em seres humanos, ou seja, você já está careca de sabê-las e internalizá-las.
E o deepfake mais complexo?
Para um deepfake profissional, é preciso estar mais atento. Se quem aparece no vídeo é uma pessoa que você conhece, ou famosa, é preciso comparar a certeza com a incerteza.
Ou seja, é preciso colocar uma fonte confiável ao lado da duvidável e observar com atenção, tentando realizar um mapeamento daquilo que é relevante para dirimir a dúvida.
O problema verdadeiro é que, ao alimentar as GANs, estamos dando insumo para que elas saibam, de fato, tudo o que é relevante em um determinado contexto. E esse contexto parece sempre envolver um indivíduo humano.
Não é certo que haja um limite, porém, se essas redes neurais souberem tudo o que é necessário para fazer um ‘humano’ digital se passar por um natural, teoricamente ela poderia se sobrepor a todas as pistas que nós, humanos, somos capazes de perceber.
Pelo menos é o que diz David Gunning, gerente do programa DARPA, um projeto dedicado encontrar maneiras melhores de autenticar um vídeo. E de, consequentemente, barrar a proliferação do deepfake.
A verdade é que, quando não pudermos mais perceber aquilo que é um retrato da realidade, deveremos estar vigilantes a tudo o que vemos e ouvimos. Nada mais condigno à pós-verdade que nos bate à porta.
Se você gostou do nosso conteúdo e quer seguir sabendo tudo sobre tecnologia, planos e pacotes, dicas e curiosidades, acompanhe o Compara Plano. Estamos muito satisfeitos em te ver por aqui!
