Cómo Veriff está abordando el sesgo en la verificación de identidad

En un mundo cada vez más digital, es imperativo que las herramientas digitales que la gente utiliza todos los días localicen y eliminen activamente el sesgo. Esto se debe a que las tecnologías sesgadas tienen implicaciones negativas en el mundo real, ya que las personas pueden ser injustamente privadas de servicios o experimentar discriminación; desde empleo hasta justicia penal, el sesgo ha sido expuesto como algo presente en muchos sectores a lo largo de los años. Además, existen riesgos financieros, legales y reputacionales sustanciales para las empresas que son expuestas por tener sesgo en su tecnología.

El sesgo puede estar presente a través de la forma en que una persona interactúa con un sistema; por ejemplo, si una persona tiene que comprender o seguir instrucciones complejas, esto podría ser un sesgo hacia las personas con limitaciones cognitivas. Además, si un proceso requiere movimiento físico, como manipular un dispositivo, esto puede representar sesgo contra las personas con movilidad física limitada, a menudo los ancianos. Si un sistema solo funciona en tecnología nueva - a menudo la más cara - esto presenta un sesgo contra las personas con recursos financieros limitados

En términos de herramientas digitales innovadoras, gracias a su usabilidad, capacidad de escalar y eficacia para prevenir fraudes, las empresas están adoptando cada vez más la verificación de identidad (IDV) de forma remota para el proceso de incorporación de clientes. Como líder en la industria de IDV, Veriff está comprometido a crear acceso igualitario a productos, bienes y servicios para personas de todo el mundo.

Sin embargo, reconocer y abordar los sesgos en la IDV es esencial para crear sistemas justos y precisos que no sean discriminatorios. Para detallar nuestro compromiso de abordar el sesgo, nos reunimos con nuestra Gerente Senior de Producto, Liisi Soots, para exponer sus opiniones sobre qué es el sesgo, cómo se puede encontrar el sesgo en la tecnología y pasos concretos para reducirlo.

¿Puedes definir el concepto de sesgo y cómo surge?

Vemos el sesgo en la vida cotidiana cuando una persona favorece o desfavorece injustamente a una persona, idea, objeto u otro asunto, mostrando una perspectiva sesgada. Puede estar influenciado por factores como la crianza, el entorno diario, el grupo social o la cultura. Para dar un ejemplo, para muchas personas en culturas occidentales, el término 'vestido de novia' evoca un vestido blanco y un velo, pero no todas las culturas asociarían eso como un 'vestido de novia'.

Al hablar de sesgo en el aprendizaje automático, debemos considerar si los sistemas tienen sesgo a favor o en contra de las personas debido a factores como la edad, raza, género o discapacidad. Un sistema podría funcionar mejor para niños y no tan bien con personas mayores, o viceversa. La existencia de sesgo pone a las personas en riesgo real de discriminación basada en características sobre las cuales no tienen control, por lo que debe ser abordado seriamente.

¿Cuáles son los diferentes tipos de sesgo que vemos en el espacio de IDV y por qué son problemáticos para nuestros clientes?

Además de los sesgos de edad, raza y género, en IDV debemos ser conscientes de situaciones específicas donde puede ocurrir sesgo, como qué tipo de documento de identidad o dispositivo personal está utilizando un individuo. Por ejemplo, no todos pueden permitirse los últimos teléfonos móviles de alta gama que pueden tomar una imagen de alta resolución. En Veriff, ya apoyamos una amplia variedad de documentos de identificación y dispositivos, y continuamos ampliando el alcance para que más personas genuinas puedan ser verificadas en línea.

Veriff opera en muchos países e industrias diferentes, lo que significa que nuestras soluciones de IDV deben poder ser utilizadas por un amplio espectro de personas. Como parte de nuestros procesos de aseguramiento de calidad, monitoreamos regularmente cómo están funcionando nuestras soluciones con diferentes grupos de personas, por ejemplo, si estamos funcionando de manera similar para hombres y para mujeres.

Lo que estamos tratando de mitigar es una diferencia en el rendimiento; por ejemplo, según el género, asegurando que las mujeres pasen por nuestro flujo de IDV tanto como los hombres, asegurándonos de que no las estamos bloqueando, ni a personas de diferentes razas. Esto es para que nuestro sistema sea equitativo hacia todos, sin importar de dónde sean o cómo se vean

Para las empresas de hoy, es vital asegurar que puedan incorporar clientes genuinos de todo el mundo. No hacerlo limita la capacidad de la empresa para escalar, expandirse en nuevos mercados, y crea el riesgo de daños financieros o de reputación si los clientes se ven afectados por sesgo.

¿Cómo dirías que el sesgo afecta al aprendizaje automático?

Los sistemas, incluidos los modelos de aprendizaje automático, son construidos por humanos, por lo tanto, el sesgo que tienen los humanos se propaga naturalmente a todos los sistemas que estamos construyendo. Los modelos de aprendizaje automático deben ser creados utilizando las mejores prácticas posibles. Entrenamos nuestros modelos con una amplia variedad de datos, asegurándonos de reunir diferentes casos regulares y extremos

Si alguna de estas áreas tenía sesgo incorporado, por ejemplo, al usar solo un conjunto de datos limitado construido a partir de una población restringida o creado por individuos que solo tuvieron exposición a culturas limitadas, entonces hay un riesgo de introducir sesgo en los algoritmos. Veriff es constantemente consciente del riesgo de introducir sesgo en nuestros sistemas y tratamos conscientemente de mitigar el riesgo monitoreando nuestro desempeño y actuando cuando surgen problemas.

El sesgo en el aprendizaje automático es más relevante que cuando tenemos sesgo en humanos, ya que estamos usando modelos para tomar miles de decisiones diariamente. Nosotros como humanos no tomamos miles de decisiones al día. Con el aprendizaje automático, estamos propagando el sesgo a un contexto más amplio. No queremos que los sistemas estén sesgados, ni que discriminen a algunas personas. Estamos midiendo cómo estamos funcionando para diferentes grupos raciales y géneros y debemos asegurarnos de que estamos funcionando de manera equitativa.

¿Qué pueden hacer las empresas para eliminar el sesgo o mitigar el riesgo de sesgo?

Existen múltiples métodos para eliminar el sesgo. El primero es los datos con los que entrenamos: qué datos estamos ingresando al modelo y cómo obtenemos los datos. Es realmente importante asegurarse de que los datos no estén sesgados, que no tengamos datos solo de hombres blancos, sino que tengamos datos de diferentes grupos raciales y estén distribuidos equitativamente.

Es importante que tengamos una variedad diversa de profesionales, como científicos de datos y anotadores, de diferentes orígenes trabajando con los datos, porque ellos plantean diferentes preguntas y aseguran que los datos estén preparados adecuadamente. Por último, podemos eliminar el sesgo y mitigarlo asegurándonos de que somos conscientes de él, de que estamos midiendo cuánto sesgo tenemos en nuestros modelos y realizando cambios para garantizar alta calidad

Veriff utiliza la verificación manual de documentos junto con el aprendizaje automático en el proceso de IDV. ¿Esto ayuda a eliminar el sesgo?

Unir el flujo automático y manual ayuda a asegurar que proporcionemos el mejor servicio al mundo. Si no estamos seguros sobre una decisión automatizada, nuestros especialistas altamente capacitados pueden verificar la decisión cuando lo solicitamos. Si la investigación identifica algún error en la decisión algorítmica, la respuesta se reintegra al sistema como parte de un proceso de mejora continua.

¿Qué tan cerca está Veriff de lograr el "cero sesgo"?

En términos matemáticos, ningún sistema puede tener cero sesgo. El enfoque más importante es asegurarnos de que, como una empresa tecnológica líder, monitoreemos continuamente nuestros sistemas en busca de cualquier evidencia de sesgo. Si alguna vez se encuentra esto, nos aseguramos de tener un proceso para mitigar y rectificar rápidamente cualquier problema. Además, hay nuevas leyes que están entrando en vigor que también regulan el sesgo en el aprendizaje automático y las mediciones.