Patrick Johnson
Como mencionamos en un blog de Veriff en agosto, los deepfakes son una de las tendencias de fraude más grandes en este momento. Preocupantemente, esta práctica cuestionable no solo se está utilizando para el fraude de reconocimiento facial, sino que también está infiltrándose en muchos otros aspectos de la vida
Entonces, ¿qué es realmente un deepfake?
El término se refiere a una representación digital falsificada de alguien que ha sido creada por inteligencia artificial. Podría ser un video, foto o grabación de audio que ha sido manipulada hasta el punto de que parece real. Los deepfakes suelen utilizarse para engañar a las personas de manera preocupante, aunque hay muchos creadores de parodias, sátiras y simplemente traviesos que no tienen intenciones tan oscuras como podrías pensar.
Como un ejemplo perfecto de una representación humorística que muestra precisamente cuán buenos pueden ser los deepfakes, echa un vistazo al video a continuación realizado por Trey Parker y Matt Stone, creadores de South Park.
En enero, el proveedor de tecnología de autenticación biométrica iProov publicó algunos datos tras una encuesta a más de 100 tomadores de decisiones de seguridad en el sector de servicios financieros y sus pensamientos sobre la amenaza de los deepfakes
Encontraron que más de tres cuartas partes (77%) de los tomadores de decisiones en ciberseguridad están preocupados por el potencial de que la tecnología deepfake sea utilizada fraudulentamente y el 71% de los encuestados dijeron que pensaban que sus clientes estaban al menos algo preocupados por la amenaza
Y una demostración perfecta del increíble crecimiento de los deepfakes en línea se muestra en un informe reciente de Sentinel, que menciona "Desde 2019, el número de deepfakes en línea ha crecido de 14,678 a 145,227, un crecimiento asombroso de ~900% anual"
En un movimiento que refuerza que los deepfakes se han vuelto más comunes, Facebook anunció nuevas políticas en enero que prohíben los deepfakes en la plataforma
Aquí en Veriff estamos observando de cerca esta tendencia y asegurándonos de que nuestras prácticas sobre seguridad de reconocimiento facial y verificación de identidad sean lo más sólidas posible
¿Cómo se crean los deepfakes?
Como puedes imaginar, los artistas de efectos especiales y académicos han explorado durante mucho tiempo cómo alcanzar nuevas alturas en la manipulación de video e imágenes. Esto ciertamente proporciona el contexto para los deepfakes, pero ¿cuándo se acuñó por primera vez el término?
En 2017, un usuario de Reddit publicó una serie de clips de pornografía falsa en el sitio mostrando los rostros de celebridades femeninas superpuestos sobre actores porno. Esto se utiliza ahora como el ejemplo de cuando se crearon por primera vez los deepfakes tal como los conocemos hoy
En términos simples, para producir un deepfake, necesitas poder ‘intercambiar caras’ entre dos personas utilizando un decodificador. El video final está compuesto, por lo tanto, por la cara de una persona, con las expresiones y la orientación de otra. Para que sea realista, cada fotograma tiene que ser transpuesto de esta manera
Hoy en día, se utilizan programas llamados redes generativas adversariales (GANs) para combinar dos algoritmos de inteligencia artificial. Cuando el proceso se repite varias veces, la imagen sintética que se crea se convierte en una representación completamente creíble de una persona bien conocida o de una persona totalmente fabricada.
¿Quién hace deepfakes?
Parece que la tendencia de los deepfakes se ha vuelto extremadamente prevalente, con profesionales de muchas industrias diferentes ahora incursionando en la tecnología. Académicos, aficionados, hackers, estudios de efectos visuales, productores de televisión, comediantes e incluso gobiernos están creando y utilizando deepfakes
En pocas palabras, cualquiera hoy en día puede descargar software de deepfake desde la comodidad de su hogar y producir videos o imágenes muy convincentes como un pasatiempo secundario
¿Cómo se identifica un deepfake?
Como ocurre con la mayoría de las tecnologías, a medida que las prácticas se han vuelto más complejas y refinadas, los deepfakes son cada vez más difíciles de detectar. A medida que nuestros métodos para identificarlos mejoran, también lo hace la tecnología utilizada para crearlos, de ahí una batalla aparentemente interminable
Por ejemplo, en 2018, los investigadores de EE. UU. anunciaron que los rostros deepfake podían detectarse porque no parpadeaban correctamente, pero tan pronto como se anunció esto, comenzaron a aparecer videos deepfake con una nueva capacidad para parpadear
Algunas de las cosas a tener en cuenta son las siguientes:
- Sincronización labial deficiente
- Tono de piel irregular
- Parpadeo alrededor del borde de la cara
- Mechones de cabello fuera de lugar
- Joyería mal renderizada
- Dientes mal renderizados
- Efectos de iluminación inconsistentes
- Reflejos incompatibles en el iris de los ojos
Al igual que el equipo de Veriff, gobiernos, organizaciones y empresas tecnológicas de todo el mundo están trabajando arduamente para investigar formas de detectar deepfakes y prevenir su uso fraudulento
¿Por qué son peligrosos los deepfakes?
No se necesita ser un genio o un gurú tecnológico para entender por qué los deepfakes podrían ser peligrosos o utilizarse con fines nefastos. El concepto de que algo sea falsificado puede ser inquietante, pero cuando se trata de la identidad de alguien, se vuelve mucho más siniestro.
Si bien algunos deepfakes se crean solo para producir diversión o enfatizar un punto, se puede suponer que la mayoría de ellos están destinados a causar daño
Es perturbador que uno de los mayores impactos de los deepfakes sea que se pueden utilizar para crear noticias falsas y, por lo tanto, una sociedad de cero confianza, donde la verdad no se puede diferenciar de las falsedades. Esto crea un entorno donde la gente no sabe en qué creer ni a quién recurrir para obtener la verdad
La profesora Lilian Edwards, una destacada experta en derecho de internet en la Universidad de Newcastle en el Reino Unido, describió esto así a The Guardian: “El problema puede no ser tanto la realidad falsa como el hecho de que la realidad real se vuelve plausible de negar.”
Las implicaciones de esto son de gran alcance, con muchas industrias y escenarios diferentes potencialmente amenazados:
- Casos judiciales - Los deepfakes podrían utilizarse para falsificar pruebas en cosas como batallas de custodia y tribunales laborales
- Seguridad - Si los deepfakes se utilizan para imitar ciertos datos biométricos, entonces tienen el potencial de engañar a los procedimientos de seguridad en cuentas seguras, lo que hace que sistemas robustos como el de Veriff sean absolutamente esenciales
- Estafas - Un archivo de audio deepfake podría ser utilizado para engañar a alguien para que revele información personal o transfiera grandes sumas de dinero
- Ataques políticos - La credibilidad de políticos u organizaciones podría cuestionarse si son víctimas de un deepfake sofisticado
En los últimos años, figuras de alto perfil y celebridades se han convertido en víctimas regulares de los deepfakes debido a que hay tantas grabaciones disponibles de ellos en el espacio público. Sin embargo, a medida que aumenta el número de fotos y selfies que toma la persona promedio, es solo cuestión de tiempo antes de que los deepfakes comiencen a salir al mundo
Ejemplos de deepfakes
- Películas: Hollywood ha estado transponiendo caras reales o ficticias sobre otros actores desde hace tiempo. En 2016, Rogue One: A Star Wars Story trajo de vuelta a Peter Cushing a la vida para varias escenas
- Pornografía: En septiembre de 2019, la empresa de IA Deeptrace anunció que encontró más de 15,000 videos deepfake en línea, con un increíble 96% de estos siendo pornográficos
- Política: El actor, director y productor estadounidense Jordan Peele y Buzzfeed crearon un video de Barack Obama aparentemente llamando al presidente Donald Trump “un total y completo idiota.”
- Fraude: Uno de los ejemplos más conocidos de un deepfake de audio ocurrió en 2019 cuando el director ejecutivo de una empresa energética del Reino Unido fue engañado para enviar €220,000 (US$240,000) a un proveedor húngaro. Aparentemente, se le indicó que lo hiciera por el CEO de la empresa matriz de su firma en Alemania, pero resultó ser un deepfake y los perpetradores nunca fueron capturados
¿Ahora te sientes informado sobre los deepfakes, qué son y sus aplicaciones actuales? ¡Haz este cuestionario para probar tus conocimientos!
Si quieres combatir los deepfakes y detener la toma de cuentas, puedes usar Face Match, el producto de reverificación de Veriff para asegurarte de que realmente es tu cliente quien inicia sesión desde un nuevo país.
