✨ O impacto da IA e deepfakes nas campanhas políticas dos EUA: Entrando em uma nova era

Aproveitando a IA para campanhas políticas aprimoradas e segurança eleitoral

Embora a IA possa ser uma ferramenta poderosa para engajar eleitores e personalizar estratégias de campanha, ela levanta preocupações sobre desinformação e segurança eleitoral. À medida que a tecnologia de IA continua a evoluir, suas aplicações na arena política estão se tornando mais sofisticadas, influenciando vários aspectos do processo eleitoral, incluindo anúncios políticos e microsegmentação política.

Isso é mais claramente observado em três áreas principais: os riscos associados à votação remota, como deepfakes impactarão o processo eleitoral e como padrões de votação e resultados eleitorais podem ser manipulados através de imagens falsas, notícias falsas e conteúdo gerado por IA em plataformas de mídia social.

Riscos da votação remota

A votação remota, embora projetada para promover a participação global, introduz uma infinidade de vulnerabilidades. Desde os riscos de coação e fraude na identificação até a comprometimento do sigilo e a potencial interceptação de votos por agentes mal-intencionados, a base da integridade eleitoral está em risco.

A manipulação poderia significar explorar vulnerabilidades tecnológicas e casos de fraude eleitoral. A Heritage Foundation compartilha uma amostra recente de casos comprovados de fraude eleitoral em todo os EUA, como a invasão de sistemas de votação online, a criação de campanhas falsas em mídias sociais para influenciar a opinião dos eleitores e a disseminação de desinformação para manipular o sentimento público.

Em um exemplo chocante, uma equipe de contratantes israelenses operando sob o pseudônimo "Team Jorge" foi exposta por manipular mais de 30 eleições ao redor do mundo. Liderado por Tal Hanan, um ex-operador das forças especiais israelenses, o grupo usou hackeamento, sabotagem e desinformação automatizada nas redes sociais para interferir secretamente nas eleições por mais de duas décadas.

Enfatizando a necessidade de considerar a adoção de soluções avançadas de verificação de identidade, como biometria, em vez de métodos ultrapassados que podem facilmente ser manipulados. Isso garante uma experiência de votação remota mais segura e confiável, protegendo a integridade das eleições na era digital.

Nova era da ameaça de deepfake

O Relatório de Fraude de Identidade da Veriff 2024 revela uma realidade alarmante — a IA generativa turbinar a ameaça de deepfake. Os criminosos agora possuem as ferramentas para criar conteúdo gerado por IA, vídeo e áudio praticamente indistinguíveis da realidade.

Incidentes recentes envolvendo líderes mundiais, incluindo a voz do presidente dos EUA Biden e Volodymyr Zelenskyy da Ucrânia, que foram vítimas de conteúdo deepfake alterado ou fabricado, sublinham a necessidade de abordar essa ameaça para manter a credibilidade e a confiança entre os eleitores.

O aumento das teorias da conspiração política também representa uma ameaça à eficiência no local de trabalho. Os empregadores podem promover proativamente o engajamento cívico de seus funcionários à medida que se aproximam das eleições gerais de 2024, capacitando as pessoas com as ferramentas para diferenciar falácias de informações precisas. Deepfakes e conteúdo gerado por IA podem criar narrativas falsas convincentes que minam a integridade do processo eleitoral. A IA, seja em formatos textuais, de bot, áudio, foto ou vídeo, pode retratar candidatos envoltos em ações ou proferindo declarações que nunca realmente fizeram. Isso pode ser usado para manchar suas reputações ou enganar os eleitores.

Além disso, a IA pode amplificar esforços de desinformação gerando imagens com aparência realista, causando assim confusão entre os eleitores. Funcionários eleitorais nos EUA estão preocupados que a crescente prevalência de IA generativa em diferentes formas possa facilitar tais ataques ao processo democrático na proximidade das eleições de novembro de 2024 nos EUA. Devido a essa ameaça, eles estão ativamente buscando estratégias para combater as implicações da IA. Kaarel Kotkas, CEO da Veriff, enfatiza em sua publicação no LinkedIn a importância de abordar a causa raiz da fraude digital, e não apenas seus sintomas. Isso envolve identificar os criadores de deepfakes e conteúdo fraudulento. Ele defende o uso de contas online devidamente verificadas para incentivar o pensamento crítico e proteger contra desinformação e fraudes.

Kotkas enfatiza a necessidade de colaboração entre empresas de tecnologia e verificadores de identidade para verificar a autenticidade dos usuários e vincular suas identidades ao conteúdo online para maior segurança:

“As empresas de tecnologia e os provedores de identidade podem trabalhar juntas para garantir que os proprietários de conta, postadores e usuários sejam realmente quem dizem ser, e que sua identidade esteja vinculada ao conteúdo para garantir maior responsabilidade e oportunidade de questionar de onde as informações estão vindo.” Ele afirma que tomar medidas agora é crucial para o futuro crescimento da economia digital, pois a confiança escalável depende de identidades online verificadas para evitar problemas de confiança."

Mídias sociais e fake news

De acordo com o estudo "Exposição a websites não confiáveis nas eleições dos EUA de 2016", o Facebook espalha fake news mais rápido do que qualquer outro site de mídia social. O fenômeno deepfake adiciona outra camada a esse estudo, com algoritmos fomentando câmaras de eco que amplificam a desinformação.

O ex-presidente Donald Trump gerou polêmica durante a corrida para as eleições presidenciais de 2020 postando um relatório em seu site de mídia social, repleto de falsidades sobre fraudes nas eleições. Criticado por relembrar teorias de conspiração não fundamentadas sobre as eleições e por falta de evidências credíveis, isso destacou os desafios enfrentados pelos conselheiros de Trump em controlar seus impulsos e manter uma narrativa consistente nas redes sociais.

A prevalência das câmaras de eco e seu potencial papel no aumento da polarização política não deve ser ignorada. O Washington Post destaca a importância de discernir fontes confiáveis, tirando lições aprendidas com esta eleição de 2020.

No contexto das eleições de 2024 nos EUA, as preocupações em torno de conteúdo enganoso continuam com a chegada da IA. Eventos recentes em New Hampshire exemplificam a alarmante facilidade com que ligações geradas por IA podem desencorajar a participação dos eleitores, sublinhando preocupações mais amplas sobre a disseminação de falsidades geradas por IA online. Empresas como a OpenAI estão vendo esforços para mitigar esses desafios, mas incertezas persistem sobre a aplicação efetiva de políticas contra o uso enganoso da IA. Essa situação levanta questões sobre os debates contínuos sobre políticas de mídias sociais, incluindo questões sobre liberdade de expressão e a gestão de conteúdo político. Também provoca considerações sobre ações legais e regulatórias para abordar a desinformação e a interferência estrangeira nas eleições.

Em conclusão, a IA possui tanto oportunidades promissoras quanto desafios significativos para as eleições de 2024 nos EUA. Sua capacidade de processar e analisar dados por meio da IA em campanhas políticas pode revolucionar estratégias de campanha e engajamento dos eleitores, mas também requer salvaguardas rigorosas contra abusos. Equilibrar esses fatores será crucial para aproveitar a IA para aprimorar o processo democrático enquanto se protege de ameaças potenciais.

Consultores políticos são instados a considerar ferramentas de IA e grandes modelos de linguagem para tornar as campanhas políticas mais amigáveis ao usuário, persuadindo efetivamente os eleitores. Seja nas primárias de New Hampshire ou em campanhas republicanas mais amplas, a inteligência artificial se tornou uma parte integrante da estratégia em cenários políticos modernos. Isso pode ser usado para manchar suas reputações ou enganar os eleitores.

Além disso, a IA pode amplificar esforços de desinformação gerando imagens com aparência realista, causando assim confusão entre os eleitores. Funcionários eleitorais nos EUA estão preocupados que a crescente prevalência de IA generativa em diferentes formas possa facilitar tais ataques ao processo democrático na proximidade das eleições de novembro de 2024 nos EUA. Devido a essa ameaça, eles estão ativamente buscando estratégias para combater as implicações da IA.

Como a Veriff pode ajudar

Com ferramentas de IA generativa alcançando adoção em massa, a vulnerabilidade dos sistemas eleitorais a ataques cibernéticos é sem precedentes. Diante de ameaças em evolução, as empresas podem assumir uma postura proativa adotando soluções avançadas de verificação de identidade da Veriff.

Kaarel Kotkas, CEO da Veriff, enfatiza a importância da educação e conscientização sobre as capacidades da IA, incentivando os indivíduos a ficarem atentos a e-mails suspeitos ou ligações desconhecidas, especialmente quando solicitados a fornecer informações sensíveis ou dinheiro. Ele encoraja as pessoas a confiarem em seus instintos e a fazerem perguntas em caso de dúvida. Ao mesmo tempo, Kaarel pede que as empresas, particularmente as plataformas de mídias sociais, assumam a responsabilidade de verificar contas para proteger os usuários contra conteúdos falsos, que podem impactar as eleições. A confiança, verificação e a avaliação crítica das fontes são cruciais para salvaguardar a democracia durante esta temporada eleitoral: "Confiança, verificação e ser crítico em relação às fontes será a chave para manter a integridade e proteger os princípios da democracia nesta temporada eleitoral."

Estamos constantemente desenvolvendo nossas soluções de identificação biométrica remota em tempo real, e usamos IA e aprendizado de máquinas para agilizar nosso processo de identificação, tornando-o mais rápido, seguro e melhor. Operamos globalmente, e nossas equipes jurídicas monitoram continuamente os diversos cenários legais locais, para que estejamos bem posicionados para navegar por novas e crescentes regulamentações.

A Veriff segue orientações sobre as melhores práticas em relação à gestão de fraudes. Adotamos uma abordagem multifacetada para combater deepfakes e mídias geradas por IA.

Uma estratégia chave é implementar FaceCheck Liveness para validar a autenticidade da presença humana. Isso envolve o uso de algoritmos avançados para mitigar o risco de fraude por impersonação usando manipulação digital ou ataques de apresentação com detecção passiva de vivacidade que não requer ação adicional do usuário. Além disso, usamos o DocCheck para validar a legitimidade de documentos. Isso inclui aproveitar algoritmos de aprendizado de máquina para analisar características documentais e detectar anomalias ou sinais de manipulação.

O nosso DeviceCheck ajuda a combater identidades sintéticas, fraudes recorrentes, multi-contas, e abuso de velocidade analisando pontos de dados do dispositivo e da rede do usuário que podem indicar anéis de fraude ou outras anomalias. É também uma parte integral de nossos CrossLinks, que podem identificar e remover mais eficazmente registros duplicados ou inelegíveis, reduzindo o potencial de votação fraudulenta.

CrossLinks aprimora as capacidades de detecção de fraudes em tempo real para descobrir padrões de fraude que não são visíveis quando analisadas uma única sessão de verificação isoladamente. O CrossLinks nos permite identificar identidades potencialmente sintéticas e descobrir anéis de fraude, destacando potenciais ligações entre diferentes sessões. Isso é feito comparando indicadores documentais, de dispositivo, de rede e comportamentais e identificando sessões de alto risco que podem se conectar a sessões anteriores.

Como parte do nosso pacote de mitigação de fraudes Fraud Protect, a Veriff também oferece Prevenção de Abuso de Velocidade, um recurso criado para prevenir automaticamente multi-contas. Ao implementar medidas para detectar e prevenir multi-contas, as autoridades eleitorais podem ajudar a garantir que cada eleitor elegível só possa votar uma vez. Isso ajuda a manter a integridade do processo eleitoral e reduz o risco de votação fraudulenta.

Além das capacidades de mitigação de fraudes na verificação de identidade do Fraud Protect, que protege as organizações contra fraude por impersonação e fraude de identidade sintética, fraude em documentos de identidade, abuso de velocidade e multi-contas, a Fraud Intelligence permite que as organizações extraiam a valiosa e acionável inteligência de risco em seus sistemas de tomada de decisão para construir estratégias avançadas e flexíveis de combate à fraude ou realizar investigações adicionais sobre casos.

RiskScore é uma parte integral da Fraud Intelligence. Ele pode ser usado como um fator adicional no processo de verificação do eleitor, garantindo que apenas eleitores legítimos possam participar da eleição. É um valor numérico que representa o risco geral associado a uma sessão de verificação de identidade. É calculado com base nos vários sinais gerados ao longo da jornada de IDV do usuário final e posteriormente ajustado pela equipe de ciência de dados da Veriff usando modelos avançados de aprendizado de máquina.

No geral, a combinação de deepfakes movidos por IA e o potencial de desinformação generalizada representa um desafio significativo à integridade das eleições dos EUA. A Veriff pode ser uma parte importante da solução, ajudando a manter a confiança no processo eleitoral e proteger os princípios fundamentais da democracia.

Neste relatório, exploramos a ascensão da tecnologia deepfake, seus padrões de uso e, o mais importante, como as empresas podem se proteger da crise de credibilidade que ela pode induzir.

Perguntas frequentes

1. Qual é o papel da IA nas campanhas políticas?

A IA ajuda campanhas a analisar dados dos eleitores, automatizar o alcance, otimizar anúncios digitais e prever o comportamento dos eleitores. Ela fornece insights para direcionar os públicos-alvo com mensagens personalizadas.

2. Como a IA ajuda na segmentação de eleitores?

AI can analyze vast amounts of voter data, such as demographics, behavior, and preferences, to identify specific voter groups. Campaigns can then focus on the most relevant messages for each group, increasing engagement and turnout.

3. A IA pode ser usada para criar anúncios políticos?

Sim, a IA pode gerar anúncios políticos personalizados analisando dados para criar conteúdo que ressoe com diferentes segmentos de eleitores. Ela também pode otimizar a entrega de anúncios determinando as melhores plataformas e horários para alcançar os públicos-alvo.

4. Como a IA afeta a arrecadação de fundos para campanhas?

A IA ajuda a agilizar a arrecadação de fundos analisando dados de doadores para identificar padrões e prever quais apoiadores provavelmente farão doações. As campanhas podem enviar mensagens e apelos direcionados àqueles que são mais propensos a contribuir.

5. A IA é usada na gestão de mídias sociais para campanhas políticas?

As ferramentas de IA podem automatizar o monitoramento de mídias sociais, publicação de conteúdo e engajamento. Elas ajudam campanhas a se manterem responsivas, acompanhar o sentimento dos eleitores e gerenciar sua reputação online de forma mais eficiente.

6. Quais são as limitações legais do uso de IA em campanhas políticas?

As regulamentações legais sobre o uso de IA em campanhas variam de país para país e frequentemente se concentram em proteção de dados, transparência em publicidade digital e uso ético de conteúdo gerado por IA.