✨ Perigo de Deepfake: IA e a luta contra fraudadores

1. Deepfakes são mais fáceis de fazer – e de maior qualidade

Deepfakes não são novas: na Veriff, lidamos com a ameaça há anos. Liisi disse que enfrentou o desafio do deepfake durante seus cinco anos de trabalho na Veriff. No entanto, “ficou mais fácil para os fraudadores usarem diferentes tipos de ferramentas”, disse ela

O crescimento da IA Generativa (GenAI) é uma grande parte do problema. Hoje, você pode usar uma ampla gama de aplicativos de geração de imagens para sintetizar uma identidade. Isso está conectado ao contínuo domínio das redes sociais – com tantas informações sobre nossas vidas publicadas online, há um recurso pronto para os fraudadores explorarem.

2. Mas os bons também podem usar IA

Os fraudadores são capacitados pela IA – mas nós também. A tecnologia GenAI é tanto a espada quanto o escudo. Usamos nossa própria tecnologia impulsionada por IA – como análise de dispositivos, códigos de padrões e regras dinâmicas – para construir nossas capacidades de detecção de deepfake. Cada vez que vemos um deepfake, melhoramos

IA e aprendizado de máquina (ML) são fundamentais para os produtos da Veriff, observou Vinny, fornecendo tecnologias avançadas que muitas vezes são melhores que humanos na detecção de anomalias. No entanto, a visão humana ainda é a chave, disse ele

“Os humanos podem ter uma melhor compreensão do contexto, podem identificar anomalias, e você cria um ciclo de feedback,” que pode ser usado para aprimorar os modelos de IA, explicou Vinny

German disse que tanto a tecnologia automatizada quanto a análise humana entram em cena ao identificar indicadores comuns de um deepfake: por exemplo, examinando as bordas ou os cantos de uma imagem em uma carteira de motorista para determinar se é real, ou estudando uma assinatura para ver se é genuína ou uma das representações comuns produzidas pelas ferramentas que os fraudadores usam. Com nosso banco de dados interno de documentos e modelos de pontuação de risco de fraude, podemos rapidamente separar o real do falso

3. Os benefícios de uma estratégia de defesa em múltiplas camadas

A inteligência humana e as capacidades analíticas são elementos fundamentais de uma estratégia de defesa em múltiplas camadas, Vinny contou ao nosso público. Ele comparou isso à abordagem adotada na Idade Média:

“Se você tivesse um castelo, talvez também construísse um fosso – você quer ter diferentes tipos de proteção, para não depender apenas de um único método para defender-se contra malfeitores.”

Por exemplo, ele destacou a capacidade de interligação da Veriff: tomar grandes quantidades de dados e buscar padrões que apareceram antes para determinar resultados futuros. Novamente, isso depende tanto de tecnologias automatizadas quanto de conhecimento e inteligência humana.

“Ser capaz de combinar todas essas diferentes percepções e também sua expertise para criar uma abordagem realmente abrangente para a verificação de identidade e para deepfakes nos permitiu manter-se à frente.”

4. Não exagere na correção

É verdade que existem perigos reais na verificação de identidade (IDV), incluindo deepfakes. Mas não devemos esquecer que a vasta maioria dos usuários são clientes honestos. Na verdade, recusar erroneamente um usuário honesto pode ser mais caro do que aprovar acidentalmente um deepfake

Corrigir excessivamente e afastar potenciais grandes clientes – devido ao medo – é um erro perigoso. É vital que encontremos o equilíbrio certo de maneira colaborativa, fazendo pleno uso da tecnologia avançada como biometria e IA, juntamente com a expertise humana