Patrick Johnson
Conforme afirmamos em um blog da Veriff em agosto, os deepfakes são uma das maiores tendências de fraude no momento. Preocupantemente, essa prática questionável não está sendo utilizada apenas para fraudes de reconhecimento facial, mas está se infiltrando em muitos outros aspectos da vida também
Então, o que realmente é um deepfake?
O termo refere-se a uma representação digital falsificada de alguém que foi criada por inteligência artificial. Pode ser um vídeo, uma foto ou uma gravação de áudio que foi manipulada a tal ponto que parece real. Os deepfakes são geralmente usados para enganar as pessoas de uma maneira preocupante, embora haja muitos criadores de paródias, sátiras e simplesmente travessuras cujas intenções não são tão sombrias quanto você pode pensar.
Como um exemplo perfeito de uma representação humorística que mostra precisamente quão bons os deepfakes podem ser, dê uma olhada no vídeo abaixo feito por Trey Parker e Matt Stone, criadores de South Park.
Em janeiro, o fornecedor de tecnologia de autenticação biométrica iProov divulgou alguns dados após uma pesquisa com mais de 100 tomadores de decisão em segurança do setor de serviços financeiros e suas opiniões sobre a ameaça dos deepfakes
Eles descobriram que mais de três quartos (77%) dos tomadores de decisões em cibersegurança estão preocupados com o potencial da tecnologia deepfake ser usada fraudulentamente e 71% dos respondentes disseram que achavam que seus clientes estavam pelo menos um pouco preocupados com a ameaça
E uma demonstração perfeita do incrível crescimento dos deepfakes online é mostrada em um relatório recente da Sentinel, que menciona "Desde 2019, o número de deepfakes online cresceu de 14.678 para 145.227, um crescimento impressionante de ~900% ao ano"
Em um movimento que reforça que os deepfakes se tornaram mais comuns, o Facebook anunciou novas políticas em janeiro que proíbem deepfakes da plataforma
Aqui na Veriff, estamos de olho de perto nessa tendência e nos assegurando de que nossas práticas em torno da segurança de reconhecimento facial e verificação de identidade sejam o mais robustas possível
Como os deepfakes são criados?
Como você pode esperar, artistas de efeitos especiais e acadêmicos há muito exploram como alcançar novos patamares em manipulação de vídeo e imagem. Isso certamente fornece o contexto para os deepfakes, mas quando o termo foi criado pela primeira vez?
Em 2017, um usuário do Reddit postou uma série de clipes de pornografia falsificados no site, mostrando os rostos de celebridades femininas sobrepostos a performers de pornografia. Isto é agora usado como exemplo de quando os deepfakes, como os conhecemos hoje, foram criados pela primeira vez
Em termos mais simples, para produzir um deepfake, você precisa ser capaz de 'trocar rostos' entre duas pessoas usando um decodificador. O vídeo final, portanto, é composto pela face de uma pessoa, com as expressões e a orientação de outra. Para que seja realista, cada quadro precisa ser transposto dessa maneira
Hoje em dia, programas chamados redes generativas adversariais (GANs) são usados para combinar dois algoritmos de inteligência artificial. Quando o processo é repetido várias vezes, a imagem sintética criada se torna uma representação totalmente crível de uma pessoa bem conhecida ou uma persona totalmente fabricada.
Quem faz deepfakes?
Parece que a tendência dos deepfakes se tornou extremamente prevalente, com profissionais de diversas indústrias agora experimentando a tecnologia. Acadêmicos, amadores, hackers, estúdios de efeitos visuais, produtores de TV, comediantes e até governos estão criando e usando deepfakes
Em resumo, qualquer pessoa hoje em dia pode baixar software de deepfake do conforto de sua casa e produzir vídeos ou imagens bastante convincentes como um hobby
Como você identifica um deepfake?
Como na maioria das tecnologias, à medida que as práticas se tornam mais complexas e refinadas, os deepfakes estão se tornando cada vez mais difíceis de identificar. Assim como nossos métodos para identificá-los melhoram, a tecnologia usada para criá-los também evolui – por isso, uma batalha aparentemente sem fim
Por exemplo, em 2018, pesquisadores dos EUA anunciaram que os rostos de deepfake poderiam ser detectados porque não piscavam corretamente, mas não demorou muito para que vídeos deepfake começassem a surgir com uma nova capacidade de piscar
Algumas das coisas a serem observadas são as seguintes:
- Sincronização labial ruim
- Tom de pele irregular
- Flickering ao redor da borda do rosto
- Fios de cabelo fora do lugar
- Joias mal renderizadas
- Dentes mal renderizados
- Efeitos de iluminação inconsistentes
- Reflexos incompatíveis na íris dos olhos
Assim como a equipe da Veriff, governos, organizações e empresas de tecnologia em todo o mundo estão trabalhando incansavelmente para pesquisar maneiras de detectar deepfakes e evitar que sejam usados de maneira fraudulenta
Por que os deepfakes são perigosos?
Não é preciso ser um gênio ou um guru da tecnologia para entender por que os deepfakes podem ser perigosos ou usados para fins nefastos. O conceito de algo ser falsificado pode ser inquietante, mas quando você fala da identidade de alguém, isso se torna muito mais sinistro.
Embora alguns deepfakes sejam criados apenas para diversão ou para enfatizar um ponto, pode-se supor que a maioria deles pretende causar dano
Perturbadoramente, um dos maiores impactos dos deepfakes é que eles podem ser usados para criar notícias falsas e, assim, uma sociedade de desconfiança zero onde a verdade não pode ser diferenciada das mentiras. Isso cria um ambiente onde as pessoas não sabem no que acreditar ou a quem recorrer pela verdade
A professora Lilian Edwards, uma especialista em direito da internet na Universidade de Newcastle, no Reino Unido, descreveu isso assim ao jornal nacional britânico The Guardian: “O problema pode não ser tanto a realidade falsificada, mas o fato de que a realidade real se torna plausivelmente negável.”
As implicações disso são abrangentes, com muitas indústrias e cenários potencialmente ameaçados:
- Casos judiciais - Os deepfakes poderiam ser usados para falsificar provas em situações como batalhas de custódia e tribunais de emprego
- Segurança - Se os deepfakes forem usados para imitar certos dados biométricos, isso tem o potencial de enganar os procedimentos de segurança em contas seguras, tornando sistemas robustos como os da Veriff absolutamente essenciais
- Golpes - Um arquivo de áudio deepfake poderia ser usado para enganar alguém a revelar informações pessoais ou transferir grandes quantias de dinheiro
- Ataques políticos - A confiabilidade de políticos ou organizações poderia ser colocada em questão se eles forem vítimas de um deepfake sofisticado
Nos últimos anos, figuras de alto perfil e celebridades se tornaram vítimas regulares de deepfakes devido à grande quantidade de filmagens disponíveis em um espaço público. No entanto, à medida que o número de fotos e selfies que a pessoa média tira aumenta, é apenas uma questão de tempo até que os deepfakes façam seu caminho para o mundo mais amplo
Exemplos de deepfakes
- Filmes: Hollywood há muito tempo vem transpondo rostos reais ou fictícios para outros atores. Em 2016, Rogue One: Uma História de Star Wars trouxe Peter Cushing de volta à vida para várias cenas
- Pornografia: Em setembro de 2019, a empresa de IA Deeptrace anunciou que encontrou mais de 15.000 vídeos deepfake online, com incríveis 96% deles sendo pornográficos
- Política: O ator, diretor e produtor americano Jordan Peele e o Buzzfeed criaram um vídeo de Barack Obama aparentemente chamando o presidente Donald Trump de “um total e completo idiota.”
- Fraude: Um dos exemplos mais conhecidos de um deepfake de áudio ocorreu em 2019, quando o diretor executivo de uma empresa de energia no Reino Unido foi enganado para enviar €220.000 (US$240.000) a um fornecedor húngaro. Ele foi aparentemente instruído a fazer isso pelo CEO da empresa-mãe na Alemanha, mas revelou-se que era um deepfake e os perpetradores nunca foram capturados
Você agora se sente informado sobre deepfakes, o que são e suas aplicações atuais? Faça este quiz para testar seu conhecimento!
Se você quer combater os deepfakes e impedir as assunções de contas, você pode usar Face Match, o produto dedicado de reverificação da Veriff para garantir que é realmente seu cliente acessando de um novo país.
