✨ Principales conclusiones del Informe Deepfake en detalle de Veriff

1. La amenaza de la IA se está volviendo más sofisticada

La inteligencia artificial (IA) está transformando la economía digital y presentando nuevas oportunidades para los defraudadores. ¿Cómo pueden los expertos en fraude contraatacar y proteger sus negocios del peligro en evolución?

El Informe Deepfake en detalle de Veriff explora este tema en detalle: describiendo la verdadera magnitud de la amenaza de la IA para los negocios y, crucialmente, lo que se puede hacer para contraatacar.

Estas son las principales conclusiones:

La amenaza de la IA se está volviendo más sofisticada.

Los documentos falsificados han sido un desafío de seguridad de larga data para las plataformas en línea. Sin embargo, la IA generativa ha agudizado la amenaza, permitiendo a los criminales crear documentos falsos y deepfakes, contenido de video y audio que es mucho más convincente que nunca, con alrededor de 500,000 deepfakes de voz y video compartidos en todo el mundo en 2023.

La calidad y sofisticación de la amenaza están impulsadas por la IA generativa. Estos modelos agrupan algoritmos en redes neuronales artificiales que imitan la estructura del cerebro humano. Luego se pueden entrenar a un nivel "más profundo" para hacer correlaciones complejas y no lineales entre grandes cantidades de datos diversos y no estructurados.

Como resultado, los modelos de aprendizaje profundo pueden aprender de manera independiente de su entorno y de errores pasados para realizar tareas a un nivel extremadamente alto, incluido crear audio y video falsos. Por ejemplo, existen modelos que imitan la generación de nuevas imágenes y textos que parecen reales. Aprenden de imágenes y textos del mundo real y generan algo que los humanos no pueden distinguir como real o generado por IA.

2. Las amenazas de IA más comunes que necesita conocer

Hemos identificado cinco técnicas comunes adoptadas por los defraudadores a medida que despliegan IA y aprendizaje profundo en sus actividades. Estas son:

• Intercambios de rostros, cuando el rostro de una persona se superpone a una foto de otra persona
• Sincronización de labios, donde los algoritmos asignan una grabación de voz a un video de alguien diciendo algo diferente
• Títeres, donde los movimientos deseados de un actor se superponen al sujeto objetivo, haciendo que el ‘títere’ parezca moverse como el ‘maestro’
• GANs y Autoencoders: Los GANs se entrenan en datos de Internet y redes sociales relacionados con expresiones y movimientos faciales. Luego se combinan con un autoencoder para crear un avatar digital ficticio
• Aunque técnicamente no utilizan IA generativa, los documentos falsos pueden generarse utilizando plantillas, herramientas de edición de fotos y scripts para crear documentos que parecen reales.

Examinaremos estas técnicas en más detalle en el Informe Deepfake en detalle de Veriff.

3. El impacto de los deepfakes

Los deepfakes son especialmente efectivos cuando se utilizan contra empresas con procesos de gestión de identidad disjuntos e inconsistentes y poca ciberseguridad. Pueden usarse tanto para atacar cuentas existentes como para abrir nuevas de manera fraudulenta.

Los resultados más comunes que estamos viendo incluyen:

• Apertura de cuentas fraudulentas: Identidades sintéticas y documentos falsificados se utilizan cada vez más para pasar los controles biométricos durante la etapa de Conozca a su Cliente (KYC) del proceso de incorporación
• Toma de control de cuentas (ATO): Deepfakes sofisticados se combinan con otras técnicas de hacking para obtener acceso a cuentas existentes

En este informe examinaremos en detalle cómo la amenaza de la IA y los deepfakes está evolucionando y qué pueden hacer las empresas para asegurarse de que ellas y sus usuarios estén protegidos.

4. No hay una solución mágica

Para mantenerse un paso adelante de los defraudadores, necesita un enfoque de múltiples capas en constante evolución que combine una variedad de herramientas de mitigación de amenazas. Desafortunadamente, no hay una solución única para combatir el fraude de identidad, especialmente cuando los actores maliciosos emplean el tipo de tecnología de deepfake sofisticada que está cada vez más disponible.

En su lugar, necesita emplear un enfoque coordinado y multifacético que combine controles rigurosos sobre la información suministrada con una variedad de información contextual.

Esto debería incluir:

• Controles robustos y completos sobre documentos de identidad afirmados
• Examinación de atributos clave del dispositivo
• Tratar la ausencia de datos como un factor de riesgo en ciertas circunstancias
• Contra IA para identificar la manipulación de imágenes entrantes
• Buscar activamente patrones a través de múltiples sesiones y clientes
• Análisis biométrico de imágenes fotográficas y de video suministradas

Para Veriff, la primera línea de defensa son nuestras tecnologías automatizadas. Si la IA no puede determinar si un documento es real o no, lo enviamos a expertos humanos para su análisis.

N nuestras defensas en capas analizan a la persona, su documento de identidad afirmado, red y dispositivo, minimizando el riesgo de manipulación y asegurando que solo personas confiables y genuinas tengan acceso a sus servicios. Además, los mecanismos que utilizamos para detectar el fraude (incluidos los deepfakes) no son visibles para el usuario y, como tal, son más difíciles de revertir.