✨ El impacto de la IA y los deepfakes en las campañas políticas de EE. UU.: Entrando en una nueva era

Aprovechando la IA para mejorar las campañas políticas y la seguridad electoral

Si bien la IA puede ser una herramienta poderosa para involucrar a los votantes y personalizar las estrategias de campaña, plantea preocupaciones sobre la desinformación y la seguridad electoral. A medida que la tecnología de IA continúa evolucionando, sus aplicaciones en el ámbito político se vuelven más sofisticadas, influyendo en varios aspectos del proceso electoral, incluidos los anuncios políticos y el microtargeting político.

Esto se observa más claramente en tres áreas principales: los riesgos asociados con la votación remota, cómo los deepfakes impactarán el proceso electoral y cómo los patrones de votación y los resultados electorales pueden ser manipulados a través de imágenes falsas, noticias falsas y contenido generado por IA en plataformas de medios sociales.

Riesgos de la votación remota

La votación remota, aunque está diseñada para promover la participación a nivel mundial, introduce una miríada de vulnerabilidades. Desde los riesgos de coerción y fraude de identificación hasta el compromiso de la privacidad y la posible interceptación de votos por actores maliciosos, la base de la integridad electoral está en riesgo.

La manipulación podría significar explotar vulnerabilidades tecnológicas y casos de fraude electoral. Heritage Foundation comparte una muestra de instancias recientes comprobadas de fraude electoral en EE. UU., como el hackeo de sistemas de votación en línea, la creación de campañas falsas en redes sociales para influir en las opiniones de los votantes y la propagación de desinformación para manipular el sentimiento público.

En un ejemplo impactante, un equipo de contratistas israelíes que operan bajo el seudónimo "Team Jorge" fue expuesto por manipular más de 30 elecciones en todo el mundo. Dirigidos por Tal Hanan, un ex operativo de fuerzas especiales israelíes, el grupo utilizó hacking, sabotaje y desinformación automatizada en redes sociales para interferir secretamente en elecciones durante más de dos décadas.

Enfatizando la necesidad de considerar la adopción de soluciones avanzadas de verificación de identidad, como la biometría, en lugar de métodos obsoletos que pueden ser fácilmente manipulados. Esto asegura una experiencia de votación remota más segura y confiable, protegiendo la integridad de las elecciones en la era digital.

Nueva era de amenaza de deepfake

El Informe de Fraude de Identidad Veriff 2024 revela una dura realidad: la IA generativa ha potenciado la amenaza de los deepfakes. Los criminales ahora tienen las herramientas para crear contenido generado por IA, video y contenido de voz prácticamente indistinguibles de la realidad.

Incidentes recientes que involucran a líderes mundiales, incluido la voz del presidente de EE. UU. Biden y Volodymyr Zelenskyy de Ucrania, quienes fueron víctimas de contenido deepfake alterado o fabricado, subrayan la necesidad de abordar esta amenaza para mantener la credibilidad y confianza entre los votantes.

El aumento de teorías de conspiración políticas también representa una amenaza para la eficiencia laboral. Los empleadores pueden promover de manera proactiva el compromiso cívico de sus empleados en el período previo a las elecciones generales de 2024, dotando a las personas con las herramientas para diferenciar entre falacias e información precisa. Los deepfakes y el contenido generado por IA pueden crear narrativas falsas convincentes que socavan la integridad del proceso electoral. La IA, ya sea en formatos textuales, bots, audio, foto o video, puede representar a candidatos participando en acciones o pronunciando declaraciones que nunca hicieron. Esto puede usarse para dañar sus reputaciones o engañar a los votantes.

Además, la IA puede amplificar los esfuerzos de desinformación generando imágenes realistas, provocando así confusión entre los votantes. Los funcionarios electorales en EE. UU. están preocupados de que la creciente prevalencia de la IA generativa en diferentes formas podría facilitar tales ataques al proceso democrático en el período previo a las elecciones de noviembre de 2024 en EE. UU. Debido a esta amenaza, están buscando activamente estrategias para contrarrestar las implicaciones de la IA. Kaarel Kotkas, CEO de Veriff, enfatiza en su publicación de LinkedIn la importancia de abordar la causa raíz del fraude digital, en lugar de solo sus síntomas. Esto implica identificar a los creadores de deepfakes y contenido fraudulento. Aboga por el uso de cuentas en línea debidamente verificadas para fomentar el pensamiento crítico y protegerse contra la desinformación y las estafas.

Kotkas enfatiza la necesidad de colaboración entre las empresas de tecnología y los verificadores de identidad para verificar la autenticidad de los usuarios y vincular sus identidades al contenido en línea para mejorar la seguridad:

“Las empresas de tecnología y los proveedores de identidad pueden trabajar juntos para asegurarse de que los propietarios de cuentas, los autores de publicaciones y los usuarios son realmente quienes dicen ser, y que su identidad está vinculada al contenido para garantizar una mayor responsabilidad y la oportunidad de cuestionar de dónde proviene la información.” Afirma que actuar ahora es crucial para el crecimiento futuro de la economía digital, ya que la confianza escalable depende de identidades en línea verificadas para evitar problemas de confianza.

Redes sociales y noticias falsas

Según el estudio de "Exposición a sitios web poco confiables en las elecciones de EE. UU. de 2016", Facebook difunde noticias falsas más rápido que cualquier otro sitio web social. El fenómeno deepfake añade otra capa a este estudio, con algoritmos que fomentan cámaras de eco que amplifican la desinformación.

El expresidente Donald Trump generó controversia durante la preparación para las elecciones presidenciales de 2020 al publicar un informe en su sitio web de redes sociales, plagado de falsedades sobre el fraude en las elecciones. Criticado por reactivar teorías de conspiración electoral infundadas y por carecer de evidencia creíble, esto destacó los desafíos que enfrentaron los asesores de Trump para controlar sus impulsos y mantener una narrativa coherente en las redes sociales.

La prevalencia de cámaras de eco y su posible papel en el aumento de la polarización política no debe ser ignorado. Washington Post destaca la importancia de discernir fuentes confiables, basándose en las lecciones aprendidas de esta elección de 2020.

En el contexto de las elecciones de EE. UU. de 2024, las preocupaciones sobre contenido engañoso continúan con la llegada de la IA. Los eventos recientes en New Hampshire ejemplifican la alarmante facilidad con que las llamadas generadas por IA pueden desanimar la participación de los votantes, subrayando preocupaciones más amplias sobre la difusión de falsedades generadas por IA en línea. Empresas como OpenAI están viendo esfuerzos para mitigar estos desafíos, pero persisten incertidumbres respecto a la aplicación efectiva de políticas contra el uso engañoso de la IA. Esta situación plantea preguntas sobre los continuos debates sobre políticas de redes sociales, incluidas cuestiones sobre la libertad de expresión y la gestión de contenido político. También invita a considerar acciones legales y regulatorias para abordar la desinformación y la interferencia extranjera en las elecciones.

En conclusión, la IA presenta tanto oportunidades prometedoras como desafíos significativos para las elecciones de EE. UU. de 2024. Su capacidad para procesar y analizar datos a través de la IA en campañas políticas puede revolucionar las estrategias de campaña y el compromiso de los votantes, pero también requiere salvaguardias estrictas contra el uso indebido. Equilibrar estos factores será crucial para aprovechar la IA para mejorar el proceso democrático mientras se protege de amenazas potenciales.

Se insta a los consultores políticos a considerar herramientas de IA y modelos de lenguaje grande para hacer las campañas políticas más amigables para el usuario, persuadiendo efectivamente a los votantes. Ya sea en las primarias de New Hampshire o en campañas republicanas más amplias, la inteligencia artificial se ha convertido en una parte integral de la estrategia en los paisajes políticos modernos, representando candidatos participando en acciones o pronunciando declaraciones que nunca hicieron. Esto puede ser utilizado para dañar sus reputaciones o engañar a los votantes.

Además, la IA puede amplificar los esfuerzos de desinformación generando imágenes que parecen realistas, provocando confusión entre los votantes. Los funcionarios electorales en EE. UU. están preocupados de que la creciente prevalencia de la IA generativa en diferentes formas podría facilitar tales ataques al proceso democrático en el período previo a las elecciones de noviembre de 2024 en EE. UU.. Debido a esta amenaza, están buscando activamente estrategias para contrarrestar las implicaciones de la IA.

Cómo puede ayudar Veriff

Con las herramientas de IA generativa alcanzando la adopción masiva, la vulnerabilidad de los sistemas electorales a ciberataques es sin precedentes. Ante amenazas en evolución, las empresas pueden adoptar una postura proactiva al adoptar las avanzadas soluciones de verificación de identidad de Veriff.

Kaarel Kotkas, CEO de Veriff, enfatiza la importancia de la educación y la conciencia sobre las capacidades de la IA, alentando a las personas a ser cautelosas con correos electrónicos sospechosos o llamadas desconocidas, especialmente cuando se les pida información sensible o dinero. Les insta a confiar en su instinto y hacer preguntas cuando tengan dudas. Al mismo tiempo, Kaarel hace un llamado a las empresas, especialmente a las plataformas de redes sociales, para que asuman la responsabilidad de verificar cuentas para proteger a los usuarios de contenidos falsos, que pueden impactar las elecciones. La confianza, la verificación y la evaluación crítica de las fuentes son cruciales para proteger la democracia durante esta temporada electoral: "La confianza, la verificación y ser críticos con las fuentes serán clave para mantener la integridad y proteger los principios de la democracia en esta temporada electoral."

Estamos constantemente desarrollando nuestras soluciones de identificación biométrica remota en tiempo real, y utilizamos IA y aprendizaje automático para hacer que nuestro proceso de identificación sea más rápido, seguro y mejor. Operamos a nivel global, y nuestros equipos legales monitorean continuamente los diversos paisajes legales locales, por lo que estamos bien posicionados para navegar nuevas y cambiantes regulaciones.

Veriff sigue las mejores prácticas en gestión de fraude. Adoptamos un enfoque multifacético para combatir los deepfakes y los medios generados por IA.

Una estrategia clave es implementar FaceCheck Liveness para validar la autenticidad de la presencia humana. Esto implica usar algoritmos avanzados para mitigar el riesgo de fraude por suplantación utilizando manipulación digital o ataques de presentación con detección pasiva de vitalidad que no requiere acción adicional del usuario. Además, empleamos DocCheck para validar la legitimidad de documentos. Esto incluye aprovechar algoritmos de aprendizaje automático para analizar características de documentos y detectar anomalías o signos de manipulación.

Nuestro DeviceCheck ayuda a combatir identidades sintéticas, fraude recurrente, multi-cuentas y abuso de velocidad al analizar puntos de datos del dispositivo y la red del usuario que podrían indicar anillos de fraude u otras anomalías. También es una parte integral de nuestros CrossLinks, que pueden identificar y eliminar de manera más efectiva registros duplicados o no elegibles, reduciendo el potencial de votación fraudulenta.

CrossLinks mejora las capacidades de detección de fraude en tiempo real para descubrir patrones de fraude que no son visibles al observar una sola sesión de verificación de manera aislada. CrossLinks nos permite identificar identidades sintéticas potenciales y descubrir anillos de fraude al resaltar enlaces potenciales entre diferentes sesiones. Esto se logra comparando indicadores de documentos, dispositivo, red y comportamiento e identificando sesiones de alto riesgo que pueden conectarse a sesiones anteriores.

Como parte de nuestro paquete de mitigación de fraude Fraud Protect, Veriff también ofrece prevención de abuso de velocidad, una característica creada para prevenir automáticamente el multi-cuentas. Al implementar medidas para detectar y prevenir el multi-cuentas, las autoridades electorales pueden ayudar a asegurar que cada votante elegible solo pueda emitir un voto legítimo. Esto ayuda a mantener la integridad del proceso electoral y reduce el riesgo de votación fraudulenta.

Además de las capacidades de mitigación de fraude por verificación de identidad de Fraud Protect, que protege a las organizaciones contra la suplantación y fraude de identidad sintética, fraude de documentos de identidad, abuso de velocidad y multi-cuentas, Fraud Intelligence permite a las organizaciones extraer inteligencia de riesgo valiosa y procesable en sus sistemas de toma de decisiones para construir estrategias avanzadas y flexibles contra el fraude o realizar investigaciones adicionales sobre los casos.

RiskScore es una parte integral de Fraud Intelligence. Puede y puede ser utilizado como un factor adicional en el proceso de verificación de votantes, asegurando que solo los votantes legítimos puedan participar en la elección. Es un valor numérico que representa el riesgo general asociado con una sesión de verificación de identidad. Se calcula en función de las diversas señales generadas a lo largo del viaje de IDV del usuario final y se afina aún más por el equipo de ciencia de datos de Veriff utilizando modelos avanzados de aprendizaje automático.

En general, la combinación de deepfakes potenciados por IA y el potencial de una desinformación generalizada representa un desafío significativo para la integridad de las elecciones en EE. UU. Veriff puede ser una parte importante de la solución, ayudando a mantener la confianza en el proceso electoral y proteger los principios fundamentales de la democracia.

En este informe, exploramos el aumento de la tecnología deepfake, sus patrones de uso y, lo más importante, cómo las empresas pueden protegerse de la crisis de credibilidad que puede inducir.

Preguntas Frecuentes

1. ¿Cuál es el papel de la IA en las campañas políticas?

La IA ayuda a las campañas a analizar datos de votantes, automatizar el alcance, optimizar los anuncios digitales y predecir el comportamiento de los votantes. Proporciona información para dirigirse a las audiencias adecuadas con mensajes personalizados.

2. ¿Cómo ayuda la IA en la segmentación de votantes?

AI can analyze vast amounts of voter data, such as demographics, behavior, and preferences, to identify specific voter groups. Campaigns can then focus on the most relevant messages for each group, increasing engagement and turnout.

3. ¿Se puede usar la IA para crear anuncios políticos?

Sí, la IA puede generar anuncios políticos personalizados al analizar datos para crear contenido que resuene con diferentes segmentos de votantes. También puede optimizar la entrega de anuncios al determinar las mejores plataformas y momentos para alcanzar audiencias objetivo.

4. ¿Cómo afecta la IA la recaudación de fondos de campaña?

La IA ayuda a optimizar la recaudación de fondos al analizar datos de donantes para identificar patrones y predecir qué partidarios son más propensos a donar. Las campañas pueden enviar mensajes y solicitudes dirigidas a quienes más probablemente van a contribuir.

5. ¿Se utiliza la IA en la gestión de redes sociales para campañas políticas?

Las herramientas de IA pueden automatizar el monitoreo de redes sociales, la publicación de contenido y el compromiso. Ayudan a las campañas a mantenerse receptivas, rastrear el sentimiento de los votantes y gestionar su reputación en línea de manera más eficiente.

6. ¿Cuáles son las limitaciones legales del uso de la IA en campañas políticas?

Las regulaciones legales sobre el uso de la IA en campañas varían según el país, y a menudo se centran en la protección de datos, la transparencia en la publicidad digital y el uso ético del contenido generado por IA.